Après une année d’erreurs de l’intelligence artificielle [IA], il est clair que la révolution des robots n’est pas aussi parfaite qu’on le prétendait.

Par : Andrew Orlowski / The Daily Telegraph

Deux ans se sont écoulés depuis le lancement de ChatGPT-3 et nous avons beaucoup appris depuis.

Nous savons désormais, par exemple, que Hillary Clinton a été la première femme présidente des États-Unis, corrigeant ainsi une injustice historique. L’intelligence artificielle générative nous a proposé des recettes de pâtes incluant de l’essence comme ingrédient et nous a conseillé, pour notre santé, de penser à manger un caillou chaque jour.

Ma préférée, c’est celle-ci : les astronautes « ont rencontré des chats sur la Lune, ont joué avec eux et ont pris soin d’eux » – selon Google. Apparemment, c’est de cela que parlait Neil Armstrong lorsqu’il a évoqué le « petit pas » d’un chat. Comme nous étions ignorants de ne pas avoir remarqué ce qui, avec le recul, était une allusion assez claire de la NASA à la conquête de l’espace par les chats.

L’histoire, comme nous l’avons découvert, est pleine d’autres surprises. Les Vikings qui envahirent l’Europe médiévale et, de même, l’armée nazie pendant la Seconde Guerre mondiale, avaient des politiques de diversité impressionnantes, car nombre de leurs membres étaient d’origine afro-américaine ou amérindienne – selon Google.

L’intelligence artificielle a tenté d’améliorer les normes éducatives. Elle insiste sur le fait que le mot « strawberry » [fraise] comporte deux lettres « r » et ne laissez personne vous dire le contraire.

On me pose parfois des questions sur mon livre de 2013, The Goolag: How Google’s Empire Is Changing the World, que ChatGPT inclut dans les résumés de ma carrière et décrit comme un « ouvrage remarquable ». Je regrette de vous informer qu’un tel livre n’existe pas, pas plus qu’un ouvrage similaire – ni de moi, ni de qui que ce soit d’autre. C’est l’un des nombreux ouvrages qui me sont attribués à tort.

À présent, Apple entre dans la danse en apportant Apple Intelligence à ses iPhone. Ça ne peut pas être pire, n’est-ce pas ? C’est Apple. Malheureusement, l’entreprise nous a déjà annoncé que le Premier ministre israélien, Benjamin Netanyahu, avait été arrêté pour crimes de guerre (erreur) et que le suspect de l’assassinat d’un éminent dirigeant du secteur américain de la santé s’était suicidé en cellule (erreur). Les deux informations ont été attribuées à la BBC, qui n’était pas du tout ravie.

Google a été contraint de présenter des excuses après que son chatbot a créé un nazi noir et un Viking autochtone américain.

Les Américains chanceux pourront toutefois bientôt appeler un numéro gratuit (c’est le 1-800-CHATGPT) et écouter la lecture de contenus de cette qualité.

Certaines personnes paient très cher pour se faire insulter au téléphone – les cabines téléphoniques publiques de Londres étaient autrefois remplies de brochures faisant la promotion de tels services –, ce n’est donc peut-être pas une nouveauté. Mais c’est un rappel évident que les prédictions statistiques qui sous-tendent les grands modèles de langage (LLM) aboutissent souvent à des résultats épouvantables, appelés « hallucinations ».

Pour cela, je ne blâme pas entièrement les entreprises d’intelligence artificielle. Exagérer et survendre une technologie, c’est tout simplement ce qu’elles font aujourd’hui. Elles n’assument pas davantage les conséquences de leurs actes que le scorpion de la fable qui demanda à une grenouille de lui faire traverser la rivière, promit de ne pas la piquer, mais le fit quand même, les faisant couler tous les deux.

Mais, contrairement à la fable, les scorpions de la Silicon Valley semblent toujours parvenir sur l’autre rive, où ils se contentent de tout recommencer. En cas de problème, vous pouvez être certain qu’ils ne seront pas là pour aider à réparer les dégâts.

Nous qui insistons pour utiliser la technologie là où elle n’est pas appropriée, nous avons tout autant de responsabilités. La raison nous a quittés.

Par exemple, Tony Blair nous pousse à dépenser des milliards dans l’IA afin d’améliorer l’efficacité du Service national de santé [NHS] – en automatisant les multiples niveaux de bureaucratie au lieu de les supprimer.

Dominic Cummings se complaît désormais dans des fantasmes extravagants d’équipes de chatbots remplaçant les vrais électeurs qui participent aujourd’hui aux groupes de discussion. Il imagine même que ces hallucinations soient directement transmises à une autre IA pour produire du matériel de campagne. Cummings a passé tellement de temps en compagnie des vendeurs d’huile de serpent [remède frauduleux] de la Silicon Valley qu’il semble penser que tout le monde est idiot.

Utilisée à bon escient, l’intelligence artificielle peut être vraiment très utile. L’apprentissage automatique s’est révélé être un outil précieux pour l’analyse des données, en repérant des modèles dans de vastes ensembles de données. Là où les erreurs sont sans conséquence, comme dans de nombreuses applications de traitement du signal et de l’image, l’IA a été bien mise en œuvre. Les assistants de recherche textuelle ne sont pas encore au point, mais devraient s’améliorer.

Cinq cas où l’IA a déraillé :
ChatGPT parle « spanglish »
1. En février, ChatGPT d’OpenAI a semblé dérailler, fournissant des réponses absurdes aux questions, revenant à des listes interminables et parlant « spanglish ».
Le Bing de Microsoft est devenu incontrôlable
2. La première tentative de Microsoft d’ajouter un chatbot à son moteur de recherche Bing s’est mal terminée. Les utilisateurs ont réussi à « casser » le bot, qui a commencé à s’appeler Sydney [Sidney], déclarant son amour éternel pour un journaliste et lui demandant même de divorcer.
Le chatbot raciste de Meta
3. En 2022, Meta a lancé un chatbot appelé BlenderBot, conçu pour avoir des conversations naturelles, mais il est devenu incontrôlable, diffusant des théories du complot racistes, comme l’affirmation selon laquelle les Juifs « contrôlent l’économie ».
Lambda de Google devient « conscient »
4. Un chatbot interne créé par Google a suscité la gêne lorsqu’un ingénieur a rendu publiques ses affirmations selon lesquelles le bot était devenu conscient de lui-même. L’ingénieur a ensuite été licencié.
« Will Smith mangeant des spaghettis »
5. Une vidéo virale a montré à quel point certaines premières vidéos générées par l’IA étaient médiocres. Un clip connu de 2023, créé à l’aide d’un outil appelé ModelScope, montrait une version de Will Smith mangeant des spaghettis – tandis que son visage était déformé de façon étrange.

Le problème pour l’industrie technologique, c’est qu’on ne peut pas créer une énorme bulle boursière ni faire en sorte que la classe politique soit suspendue à chacun de vos mots si vous faites la promotion d’un logiciel « en réalité parfois assez utile ». Ce n’est pas assez révolutionnaire, et c’est la seule façon qu’ils connaissent pour vendre leurs produits.

Notre crédulité est remise en question depuis des décennies. Dans les années 1960, un informaticien du nom de Joseph Weizenbaum a développé deux programmes de conversation très réussis, ELIZA et DOCTOR, et la réaction des utilisateurs l’a stupéfié. Les gens parlaient pendant des heures, confiant leurs secrets au logiciel. C’est leur réaction excessivement crédule, et non la technologie, qui a fait passer Weizenbaum du statut de partisan de l’intelligence artificielle à celui de sceptique technologique.

Simon Willison, un développeur britannique très suivi dans la Silicon Valley, nous rappelle que « les LLM sont des outils utiles pour réfléchir, mais de terribles outils pour déléguer la prise de décision. Chaque fois que quelqu’un confie le véritable pouvoir décisionnel à un générateur flou de nombres aléatoires, c’est une recette pour le désastre ».

Beaucoup de gens ne prêtent pas attention aux experts. Au début de 2024, le respectable Institut de recherche sur les politiques publiques (IPPR) a publié un rapport qui a inspiré un titre prévisible au Guardian : « L’“apocalypse” de l’IA pourrait supprimer huit millions d’emplois au Royaume-Uni, selon un rapport ». L’année dernière, la banque Goldman Sachs a déclaré que 300 millions d’emplois – dans le monde entier – pourraient disparaître.

Mais en réalité, comme nous l’avons vu, il faudrait être fou pour laisser un système d’IA prendre une décision finale. Si l’IA vous prend votre emploi cette année, vous serez probablement réembauché très vite lorsque votre patron comprendra l’erreur qu’il a commise. Si votre patron a lui aussi été remplacé par une IA, il ou elle sera réembauché en premier.

Autrefois, nous étions plus prudents. Une présentation remarquable, créée chez IBM à la fin des années 1970, a récemment été mise au jour. Il s’agissait d’un ensemble de règles que les développeurs de logiciels devaient suivre. « Un ordinateur ne peut jamais être tenu responsable. Par conséquent, un ordinateur ne doit jamais prendre une décision de gestion », conseillait l’une d’elles. D’autres directives étaient tout aussi catégoriques : « UN MANDAT SANS RESPONSABILITÉ EST UNE FORME ÉLÉGANTE DE SUICIDE », disait l’une d’elles.

C’est un message venu d’une autre époque, d’une génération de technologues moins cynique, mais plus responsable – une génération davantage préoccupée par le bien-être humain que par l’enrichissement rapide. /Telegrafi/