L’affaire de l'intelligence artificielle « consciente » : Google et l'éthique

« LaMDA » (Language Model for Dialogue Applications) est une interface développée par Google, reposant sur un réseau neuronal alimenté par des milliards de contenus, suivant le principe du machine learning. LaMDA imite le fonctionnement d’un cerveau humain – de manière troublante. Si troublante que Blake Lemoine, ingénieur chargé d’évaluer les possibles discours discriminatoires ou haineux que l’interface pourrait tenir, a conclu, au terme d’une longue conversation avec l’IA, que cette dernière était « consciente », et qu’elle présentait les capacités de raisonnement d’un jeune enfant.

« LaMDA est-elle consciente », « a-t-elle une âme ? », se sont alors interrogés avec empressement des dizaines d'article de presse, suite de la suspension de Blake Lemoine courant juin. Or, la question que pose son licenciement suite à telles déclarations semble bien plus centrale. À la limite, l’affirmation de Lemoine nous interroge sur notre propre rapport à l’intelligence artificielle, et nous renvoie à « l’effet Elyza », qui désigne la confusion possible entre le comportement d’un ordinateur et celui d’un être humain.

Mais le cas Blake Lemoine met surtout en cause l’inquiétante politique menée par Google envers les chercheurs qui osent remettre en question le développement de l’intelligence artificielle par ses algorithmes. Inquiétante, car ce n’est pas la première fois que de possibles failles en matière d’éthique sont identifiées, et que ces critiques se soldent par une démonstration d’un manque crucial de démocratie au sein de l’entreprise.