ChatGPT n'est pas intelligente

ChatGPT, une innovation comme une autre

Cette propension à pousser des cris d'orfraie à chaque émergence d'une innovation technologique majeure n’est pas une nouveauté, qu’il s’agisse de la télévision avec son "temps de cerveau disponible", de la robotisation qui doit (également) tou.te.s nous mettre au chômage ou des jeux-vidéos qui rendent violent.e.s…

Parmi les nombreux griefs exprimés à l'encontre de ChatGPT, il y en a un qui a plus particulièrement attiré mon attention : l’IA est souvent accusée de ne pas être intelligente. Que cela soit par jeu ou auto-préservation corporatiste, les exemples de mises en défaut de l’outil se multiplient sur la toile.

Pourtant, du propre aveu de Sam Altman, co-fondateur de OpenIA, « ChatGPT est incroyablement limitée, mais suffisamment bonne pour certaines choses et ainsi créer une impression trompeuse de grandeur ».

ChatGPT n’est pas intelligente, et ça n’est pas une surprise !

Pour comprendre pourquoi, revenons rapidement sur ce qu’est ChatGPT.

Il s’agit d’une "Intelligence Artificielle Générative" associée à un "agent conversationnel". Autrement dit, un chatbot capable d’imiter une conversation humaine et qui puise dans une base de savoir existante pour bâtir ses réponses (son modèle de données provient du contenu de plus de 8 millions de pages web, pas grand-chose d'ailleurs quand on sait qu'il y aurait 1,5 milliards de sites en ligne actuellement).

L’une de ses principales caractéristiques et ce qui la rend aujourd’hui unique (en plus d'être la seule du genre librement et gratuitement accessible), c’est sa capacité à "mémoriser" le contenu d’un échange et à l’utiliser dans la suite de la conversation. Un trait qui semble la rendre particulièrement… "humaine".

Cela fait-il de ChatGPT une machine intelligente ? Non !

Pourquoi ? Parce que ChatGPT tire sa "compétence conversationnelle" de l’apprentissage. Ce que l’on appelle le machine learning.

Le principe : on entraîne un algorithme en lui faisant "ingurgiter" une immense masse d’informations pour lui apprendre à résoudre un problème.

Un exemple d'application aujourd’hui bien connue de tou.t.e : on "montre" à un algorithme des milliers de visages sur des photos. Celui-ci finit par être capable de reconnaître de lui-même un visage sur une photo qu’il ne lui a jamais été soumise auparavant (coucou Google photo).

La limite de ce type de méthode par apprentissage apparaît rapidement.

Pour l'illustrer, prenons un autre exemple : vous voyez les mosaïques de photos sur lesquels vous devez repérer les feux tricolores pour valider certains formulaires de connexion ?

La première fois, vous avez certainement pris le temps de bien étudier chaque photo pour ne pas vous tromper. À chaque exposition supplémentaire, vous avez appris à repérer de mieux en mieux (et donc de plus en plus rapidement) les feux pour écourter une expérience, assez fastidieuse, sinon franchement horripilante.

Imaginons maintenant que l'on ait soumis à l’ordinateur de bord d’une voiture autonome ce même entrainement pour s’assurer qu’elle soit capable de repérer à coup sûr les feux tricolores. Plus la voiture s’est exercée, plus il y a de chance qu’elle s’arrête correctement au feu rouge, y compris sur des routes qu’elle prend pour la première fois.

Ne reste plus qu’à lui apprendre à s’arrêter au niveau du feu tricolore (en l’absence d’autre véhicule).

Tant que le véhicule circule en France, pas de problème. Mais si la voiture se retrouve dans un pays où les feux se situent parfois après le croisement (comme aux États-Unis) et non toujours avant comme chez nous, celle-ci va alors s’arrêter... au milieu du carrefour, pour les conséquences que l’on peut imaginer.

Il existe bien sûr des possibilités de contourner le problème : lui faire apprendre tous les codes de la route du monde entier, ou lui proposer d’analyser les flux routiers mondiaux pour qu’elle en déduise les différents comportements existant en fonction du pays.

Mais sans apprentissage spécifique, impossible pour elle d’anticiper le problème, contrairement à un cerveau humain qui même s’il n’a jamais été confronté à cette situation, aura tendance à ne pas s’arrêter au milieu du carrefour.

Cet exemple permet de comprendre deux limites du machine learning, et donc des IA génératives actuelles :

• Leurs comportements dépendent de leur apprentissage et de la qualité des datas qui les « nourissent »,
• Elles sont dans l’incapacité d’extrapoler une situation au-delà des données apprises.

Les principaux biais reprochés ChatGPT, et aux AI génératives dans leur ensemble, sont liés au premier point, et la façon de contourner les gardes-fous mis en place par les concepteurs viennent du second.

↳ ChatGPT est raciste et sexiste parce que ses données proviennent du web… dont certains sites comportent des contenus racistes et sexistes.
‍
↳ Lensa, IA génératrice d’avatars, hypersexualise ses productions parce que son modèle de données se nourrit de photos trouvées sur internet. Or, c’est bien connu… « The internet is for porn »

ChatGPT et les IA génératives héritent tout simplement de nos propres travers…

Finalement, si ChatGPT n’est pas intelligente, c’est tout simplement qu’il ne s’agit en aucun cas d’une intelligence (artificielle ou pas). Parler d’intelligence artificielle dans le cas d'une IA générative est un abus de langage, trompeur à plus d’un titre.

Pour qu’une machine puisse un jour être réellement intelligente, il lui faudra accéder à des capacités d’abstraction et de créativité dont sont dépourvues ces IA… pour le moment.