Thread by @MonsieurPhi

Ça va être un peu long. Quelques précisions et compléments sur le débat d'hier.

En somme, votre principal argument hier @Enthoven_R a consisté à dire: "Le sujet de mon livre n'est pas l'IA. Donc critiquer ce livre comme si c'était un livre sur l'IA est hors-sujet."

https://twitter.com/TroncheBiais/status/1838880897816232219

Je voudrais clarifier pourquoi c'est une défense qui me semble intenable pour au moins deux raisons.

D'abord, malgré bien des détours, l'IA occupe encore une part importante du livre. Et vous avez d'ailleurs fini par dire à la fin du débat que ça traite d'IA "secondairement"

Mais donc si c'est un sujet même secondaire de votre livre, n'auriez-vous pas dû vous informer un minimum dessus ? C'est ce qu'on est en droit d'attendre d'un auteur. Le fait que ce soit un sujet secondaire n'est pas une excuse pour ne rien y connaître et en dire n'importe quoi.

Car vous n'y connaissez rien: c'est visible par exemple dans vos sources (cf. ma vidéo qui développe ça). Il n'y a juste aucune source académique dans votre livre, vous ignorez tout de la recherche, notamment récente, que ce soit en IA ou même en philo de l'esprit sur l'IA.

Certes vous avez une source sérieuse sur l'IA, c'est un livre de vulga de Yann Le Cun de 2019 (donc qui ne peut pas éclairer beaucoup sur les développement récents des LLM qui sont pourtant au coeur d'une large partie de votre propos sur l'IA).

Mais dans les trois seuls passages où vous l'utilisez, c'est stupéfiant comme vous lui faites dire n'importe quoi. On peut prendre le temps de lire ce chapitre pour s'en convaincre, ça résume admirablement le ton et le style du livre.

La citation de Le Cun au départ présente un type d'apprentissage supervisé avec des entrées étiquetées et vous semblez en conclure que c'est comme ça que "L'IA" en général "reconnaît ce qu'elle a déjà vu", au contraire de l'amoureux etc.

Or, déjà, il y a d'autres formes d'apprentissage non supervisées où les données ne sont pas étiquetées, donc en faire en une généralité sur "comment l'IA reconnaît" est un contresens (ou bien on devrait en conclure que bien des IA sont déjà des amoureux au sens enthovenien...)

Mais surtout après ça, vous vous lancez dans un numéro sur "On s'est pas déjà vu quelque part" qui n'a juste plus aucun rapport avec ce qui précède, sinon un vague rapport lexical (il y est question de "reconnaissance", de "déjà-vu"...).

Et ce passage, c'est le plus près qu'on ait été dans votre livre de trouver une réflexion informée sur l'IA fondée sur quelque chose de précis. C'est dire.

Si encore vous connaissiez la philosophie de l'esprit des dernières décennies qui peuvent éclairer beaucoup de choses sur la question des états mentaux et de l'IA, mais sur ça non plus vous n'avez pas la moindre base, c'est une des choses dont je me suis rendu compte hier.

Vous n'avez jamais entendu parler de fonctionnalisme et vous refusez d'entrer dans l'examen d'arguments classiques à ce sujet (en y voyant un "piège"!) Mais donc sur quoi vous vous basez pour traiter ce sujet de l'IA ? Eh bien... votre intuition, la lecture de Bergson, et voilà.

En somme, même si c'est un sujet secondaire et qu'au fond vous vouliez surtout faire un livre sur Bergson (on l'a bien compris oui), ça n'excuse pas ce degré d'impréparation sur la question de l'IA ou du rapport de l'IA à l'esprit que vous avez choisi de mettre dans votre livre.

Alors que ça n'avait rien d'une nécessité, vous pouviez écrire un livre juste sur Bergson si vous y teniez.

De même vous avez choisi le titre du débat : "Les limites de l'IA". Pourquoi serait-il incongru d'interroger vos connaissances sur ce point puisque vous l'avez choisi ?

Ce n'est pas vous "attaquer sous la ceinture" que de s'étonner de ce manque de connaissance. C'est vous attaquer là où vous avez imprudemment mis une cible: sur la question de l'IA et de son rapport à l'esprit.

Ce qui m'amène au 2e point. Même si on peut admettre que l'IA est somme toute secondaire dans le contenu du livre, ce n'est par contre pas du tout un thème secondaire dans la façon dont le livre est *vendu*. Il suffit de voir le titre et la 4e de couverture.

Ou l'angle de toutes vos interventions médiatiques sur le sujet. Par exemple cette émission entière de "débat" entre vous et Laurent Alexandre où vous n'êtes nullement gêné d'être placé en position d'expert en somme. "Il s'y connaît, il a écrit un livre !"

Vous ne pouviez pas l'ignorer, et ça renforce donc mon point précédent: on est encore plus en droit d'attendre que vous fassiez un minimum d'effort pour maîtriser un sujet sur lequel (sur un malentendu, peut-être) vous allez être systématiquement entendu comme une sorte d'expert.

Au bien, au minimum, vous auriez pu chercher à détromper vos interlocuteurs lorsqu'ils sont en train de vous prêter manifestement une expertise que vous n'avez pas. Mais vous ne dites pas: "Je ne sais pas, je ne connais pas grand chose à vrai dire du fonctionnement des IA..."

Au contraire, vous sembliez vous-même persuadé de vous y connaître assez pour faire des prédictions ! C'est ainsi que vous avez répété tant et tant de fois (et jusque sur la 4e de couverture de votre livre) qu'une machine ne sera jamais capable de problématiser un sujet de philo.

Vous reconnaissez finalement votre erreur sur ce point (et je le salue, mais faut dire que ma vidéo ne vous laissait pas tellement le choix, parfois la réalité nous rattrape). Mais on peut s'étonner qu'il ait fallu ma vidéo pour que vous en preniez conscience !

Quelques essais avec ChatGPT aurait suffi. Ou n'importe quelle conversation avec une personne compétente sur le sujet. C'est curieux de n'avoir eu l'occasion ni de l'un ni de l'autre avant d'écrire un livre qui allait tant parler de ChatGPT et de cette expérience en particulier.

Et bien sûr, malgré ce rétropédalage nécessaire sur la capacité à problématiser un sujet de philosophie, vous restez cramponné à l'idée qu'il y a un je-ne-sais-quoi irréductible dans l'humanité qui justifie de prédire que jamais la machine ne *pensera*.

Sauf qu'on ne voit pas clairement ce que ça exclut de dire ça, et c'est pas faute d'avoir essayé de vous faire préciser les choses lors du débat d'hier. Que fait ce je-ne-sais-quoi ? Joue-t-il seulement un rôle causal ?

Au moins, quand vous avez fait cette prédiction sur la problématique vous aviez donné un rôle causal clair à ce je-ne-sais-quoi : c'est en vertu de ce je-ne-sais-quoi qu'un élève de Terminale serait capable d'écrire une problématique de philosophie.

Et puis finalement non, c'est faux. Ah tiens. Mais si vous pensiez que ce je-ne-sais-quoi peut avoir ce genre de rôle causal (même si vous vous êtes trompé sur ce point précis), c'est sans doute qu'il peut avoir d'autres effets similaires tout aussi faciles à mettre en évidence.

Quels seraient les autres effets de ce je-ne-sais-quoi que l'on pourrait mettre objectivement en évidence et qui pourraient être testables donc ? Je n'ai eu aucune réponse sur ce point, et pourtant j'ai essayé d'en avoir une.

(Un épisode de Black Mirror que vous avez longuement raconté vous a semblé pertinent pour trancher ce débat. Je n'ai vraiment pas compris comment on en était arrivé là.)

En fin de compte, donc, vous soutenez que nous avons un je-ne-sais-quoi indétectable dont toute machine serait forcément privé. Mais on ne sait ni comment vous savez que les uns en possède et pas les autres, ni ce que ça implique comme limitation empirique pour lesdites machines.

En somme, j'ai bien du mal à voir en quoi l'affirmation de ce je-ne-sais-quoi nous informe de quoi que ce soit.

Pour autant, une position qui tend vers le dualisme n'est pas intenable. Je ne dis pas que le fonctionnalisme est la seule voie possible. Mais il faut se pencher sérieusement sur la recherche contemporaine pour être capable de tenir vraiment une position.

Et votre livre ne fait nulle part ce travail. Vous n'argumentez pas votre "spiritualisme", vous vous contentez de citer "something something Bergson" (la patère, le manteau...) comme si ça suffisait. C'est léger.

Et cette légèreté s'explique assez bien en rapport avec enfin le dernier point du débat concernant l'absence de progrès en philosophie je pense avoir été assez clair mais j'ajouterai juste un point sur lequel je n'ai pas assez insisté.

Vous m'avez à nouveau accusé de taper "sous la ceinture" parce que je faisais remarquer que vous ne sembliez pas connaître grand-chose de la recherche contemporaine en philosophie. Je comprends que ce soit désobligeant comme remarque mais d'une part, ça semble vrai,

et d'autre part, c'était tout à fait pertinent pour le sujet dont on traitait. On aurait du mal à prendre au sérieux quelqu'un qui prétend que le cinéma ou la physique ne font aucun progrès mais ne connaît ni le cinéma parlant ni la physique après Newton.

De façon générale, pour déclarer qu'un champ disciplinaire ne fait pas de progrès, il me semble assez clair qu'il faut connaître aussi son état actuel. Pourquoi serait-ce différent pour la philosophie ?

Je ne sais pas si votre désintérêt pour la recherche contemporaine est une cause ou un effet de votre conception de la philosophie comme incapable de progrès, mais en tout cas c'était pertinent d'en parler, oui, même si c'est pas très agréable à entendre.

Voilà, je m'en tiendrai là. C'était long, mais au moins j'ai pu formuler mes idées plus clairement que dans un débat où l'obligation de réagir à chaud rend très difficile de formuler des arguments précis. C'est un exercice que je trouve frustrant (et peu philosophique) pour ça.

Et tenez sur ce point pour finir, je vais me permettre de namedrop Descartes:

@Enthoven_R Et l'ajout entre parenthèse sur mon incompétence concernant la philosophie ancienne me déroute. D'où tirez-vous ça ? Pour le coup, j'en ai fait des vidéos, et je m'expose donc à la critique si vous pensez que cela témoigne de mon incompétence. youtube.com/playlist?list=…