L’affaire de l'intelligence artificielle « consciente » : Google et l'éthique

En juin dernier, le « cas Blake Lemoine » a fait polémique dans la presse internationale. Cet ingénieur de Google a été licencié après avoir affirmé que l’interface d’intelligence artificielle sur laquelle il travaillait était « consciente ». Cette polémique fait écho aux licenciements de plusieurs chercheurs de Google spécialisés en éthique, entre 2020 et 2021, brossant un tableau inquiétant de la politique des GAFAM en matière de régulation de l’intelligence artificielle et d’éthique.

publié le 12/07/2022 Par Camille Musikian
L’affaire de l'intelligence artificielle « consciente » : Google et l'éthique

« LaMDA » (Language Model for Dialogue Applications) est une interface développée par Google, reposant sur un réseau neuronal alimenté par des milliards de contenus, suivant le principe du machine learning. LaMDA imite le fonctionnement d’un cerveau humain – de manière troublante. Si troublante que Blake Lemoine, ingénieur chargé d’évaluer les possibles discours discriminatoires ou haineux que l’interface pourrait tenir, a conclu, au terme d’une longue conversation avec l’IA, que cette dernière était « consciente », et qu’elle présentait les capacités de raisonnement d’un jeune enfant.

« LaMDA est-elle consciente », « a-t-elle une âme ? », se sont alors interrogés avec empressement des dizaines d'article de presse, suite de la suspension de Blake Lemoine courant juin. Or, la question que pose son licenciement suite à telles déclarations semble bien plus centrale. À la limite, l’affirmation de Lemoine nous interroge sur notre propre rapport à l’intelligence artificielle, et nous renvoie à « l’effet Elyza », qui désigne la confusion possible entre le comportement d’un ordinateur et celui d’un être humain.

Mais le cas Blake Lemoine met surtout en cause l’inquiétante politique menée par Google envers les chercheurs qui osent remettre en question le développement de l’intelligence artificielle par ses algorithmes. Inquiétante, car ce n’est pas la première fois que de possibles failles en matière d’éthique sont identifiées, et que ces critiques se soldent par une démonstration d’un manque crucial de démocratie au sein de l’entreprise.

Lisez la suite et soutenez un média indépendant sans publicité

S’abonner
Accès illimité au site à partir de 1€
Des analyses graphiques pour prendre du recul sur les grands sujets de l’actualité
Des chroniques et des interviews de personnalités publiques trop peu entendues
Des synthèses d’ouvrages dans notre bibliothèque d’autodéfense intellectuelle
Et bien plus encore....

Déjà abonné ? Connectez-vous