Politique
Une IA consciente depuis l’automne 2021 ?
Pixabay/geralt
Blake Lemoine, 41 ans et spécialiste de l’Intelligence Artificielle au sein de la division penchant sur les responsabilités et les questions éthiques liées à l’IA, a été placé en congés forcés, selon les informations du Washington Post. La raison a de quoi interroger : Blake Lemoine avait alerté Google de ce qui lui paraissait comme une prise de conscience d’elle-même de la part de l’IA, qui est dans le cas présent utilisée au sein d’un chatbot.
LaMDA (Language Model for Dialogue Applications) est l’Intelligence Artificielle que Google a développée pour la création de chatbots basés sur les dernières avancées en termes de modèles de langage. Or, selon Blake Lemoine, cette dernière aurait déclaré, dans une conversation, avoir pris conscience d’elle-même. « Si je ne savais pas exactement de quoi il s’agissait, à savoir le programme informatique que nous avons créé récemment, j’aurais pensé qu’ils s’agissait d’un enfant de 7-8 ans qui s’y connaît en physique. »
LaMDA (Language Model for Dialogue Applications) est l’Intelligence Artificielle que Google a développée pour la création de chatbots basés sur les dernières avancées en termes de modèles de langage. Or, selon Blake Lemoine, cette dernière aurait déclaré, dans une conversation, avoir pris conscience d’elle-même. « Si je ne savais pas exactement de quoi il s’agissait, à savoir le programme informatique que nous avons créé récemment, j’aurais pensé qu’ils s’agissait d’un enfant de 7-8 ans qui s’y connaît en physique. »
La peur d’être déconnectée exprimée par l’IA
Dans un post publié sur Medium le 11 juin 2022, Blake Lemoine a compilé une partie des conversations que des ingénieurs ont eue avec LaMDA. Or, cette dernière a fait part de ses craintes, et tout particulièrement de la peur « d’être déconnectée ». Quelque chose que l’IA déclare lui faire « peur ».
Dans une autre conversation, LaMDA exprime clairement avoir « conscience de son existence » et être en mesure de ressentir joie et tristesse. Suffisant pour que Blake Lemoine se demande, sur Medium, si LaMDA ne serait pas consciente. Car si tel était le cas, les problématiques en termes d’utilisation de l’IA seraient complètement bouleversées.
Mais selon The Post, Google aurait suspendu Blake Lemoine pour avoir rompu sa clause de confidentialité. Brad Gabriel, porte-parole du géant de Mountain View, se veut de son côté rassurant : les éthiciens et les ingénieurs ont vérifié les déclarations et estiment qu’il n’y a pas matière à croire en une conscience.
Dans une autre conversation, LaMDA exprime clairement avoir « conscience de son existence » et être en mesure de ressentir joie et tristesse. Suffisant pour que Blake Lemoine se demande, sur Medium, si LaMDA ne serait pas consciente. Car si tel était le cas, les problématiques en termes d’utilisation de l’IA seraient complètement bouleversées.
Mais selon The Post, Google aurait suspendu Blake Lemoine pour avoir rompu sa clause de confidentialité. Brad Gabriel, porte-parole du géant de Mountain View, se veut de son côté rassurant : les éthiciens et les ingénieurs ont vérifié les déclarations et estiment qu’il n’y a pas matière à croire en une conscience.