Brian Christian : Comment saurons-nous si une IA est devenue consciente ?

image: 123rf

Le fantasme de science-fiction sur la conscience machine semble devenir réalité.

Mais qu’est-ce que cela signifierait pour les humains si la technologie de l’IA devenait consciente ? Comment savons nous?

L’informaticien Brian Christian réfléchit à ces questions complexes avec Kim Hill.

Brian Christian est un auteur Problème d’alignement, algorithmes à suivre (avec Tom Griffiths), et La personne la plus humaine. qui fait partie de Groupe de travail sur la politique et la gouvernance de l’IA à l’Institut d’études avancées.

Brian Christian, informaticien
image: fourni

En 2021, après avoir échangé des messages avec un chatbot nommé LaMDA, l’ingénieur de Google Blake Lemoine est licencié pour avoir affirmé que le système était sensible.

Brian Christian a déclaré à Kim Hill que, à son avis, les preuves n’étaient pas suffisamment convaincantes pour confirmer les affirmations de Lemoyne.

« Il posait à LaMDA ces questions introspectives sur son expérience, ce que signifie être un chatbot, etc… et ce qu’il a obtenu était suffisamment cohérent et convaincant pour qu’il ait fini par prendre une décision. » [it was sentient] ».

« C’est une personne de foi, donc son attitude était la suivante: eh bien, s’il me dit qu’il a cette expérience intérieure, qui suis-je pour dire à Dieu où Dieu peut mettre une âme et où il ne peut pas? Et il lui a donc donné le bénéfice. du doute. »

« Je pense que c’est quelqu’un qui fait confiance à son instinct, à son intuition… qu’il pourrait y avoir quelqu’un ou quelque chose de l’autre côté de cette conversation. Donc je ne pense pas que cela ait vraiment changé pour lui. »

Ce mois-ci, un groupe d’informaticiens, de neuroscientifiques et de philosophes a publié un document de discussion La conscience dans l’intelligence artificiellequi énonçait 14 critères pouvant indiquer la conscience.

Christian affirme que ce « document important » fait déjà des vagues dans les cercles de la philosophie, des neurosciences et de l’informatique – et qu’il rassemble ces différentes communautés d’une nouvelle manière.

 » Il existe toute une littérature philosophique sur ce que signifie avoir un esprit ? Quelles sont les caractéristiques essentielles de la conscience ? « 

« Il existe des études en neurosciences qui se demandent si nous pouvons identifier les structures du cerveau qui conduisent réellement à ces expériences conscientes ? Sont-elles situées à l’avant du cerveau ? Sont-elles situées à l’arrière du cerveau ? Sont-elles situées à l’arrière du cerveau ? cerveau? »

« De plus en plus, nous disposons désormais de systèmes informatiques, dans de nombreux cas explicitement calqués sur certains aspects de la neuroscience humaine. »

Il dit : Nous pouvons maintenant commencer à explorer si l’intelligence artificielle possède les caractéristiques requises qui, selon nous, conduisent à la conscience.

« Je pense que nous n’en sommes qu’au début, mais ce qui me frappe, c’est que c’est vraiment l’une des questions les plus importantes qui se posent. Et je pense que ces disciplines commencent maintenant vraiment à communiquer les unes avec les autres de manière très profonde. « 

« Nous pourrons peut-être le dire en privé [AI] Le système est conscient, même si nous ne savons pas quelle théorie de la conscience est correcte.

Depuis l’époque d’Aristote, dit Christian, les philosophes se sont penchés sur la question de savoir ce qui rend les humains spéciaux et uniques.

« Aristote était vraiment très concentré sur ce qui rend l’expérience humaine si importante… De mon point de vue, dans une perspective du 21e siècle, il a été très prompt à écarter les expériences des autres mammifères, etc. Donc, oui, il y a une sorte d’égocentrisme. »

Il dit que jusqu’à l’avènement du mouvement pour les droits des animaux dans les années 1970, en particulier les travaux du philosophe moral australien Peter Singer, les philosophes « barraient » en grande partie la vie intérieure complexe des animaux dans leur compréhension de la conscience.

« C’est quelque chose sur lequel les philosophes se sont trompés il y a environ deux mille cinq cents ans, et nous venons tout juste de nous en rendre compte. »

image: fourni

Pour les humains, dit Christian, la conscience correspond à la capacité de pensée rationnelle, ainsi qu’à l’expérience visuelle et à l’imagination.

« L’extension de ces types de modalités visuelles commence à suggérer… cela commence à supprimer certaines des barrières, au moins, qui pourraient rendre ces systèmes conscients. »

Actuellement, la plus grande avancée en matière d’IA réside dans les modèles linguistiques capables d’effectuer des tâches textuelles.

Christian pense que ce n’est qu’une question de temps avant que nous voyions des robots hautement intelligents capables de nettoyer les maisons et d’offrir une compagnie de manière « avant-gardiste ».

« Il y a beaucoup de doctorants qui réfléchissent à certaines choses, il y a des entrepreneurs potentiels qui essaient de faire en sorte que cela se réalise, et il y a eu une augmentation incroyable, incroyable de la quantité de capital-risque investi dans les entreprises d’IA, en En général, donc je pense que les gens… essaient de tout jeter au mur et de voir ce qui colle. »

Il prédit que le prochain développement que nous verrons sera une « forme d’agence » intégrée au bureau, capable de naviguer sur le Web, de regarder tout ce qui se trouve sur l’écran de votre ordinateur et peut-être de cliquer sur des boutons.

« Il s’agit d’un type très limité d’incarnation logicielle, mais il commence à obtenir les premiers éléments de puissance. Il peut absorber les informations cognitives et ensuite agir. »

Il dit que même si de nombreux systèmes d’IA actuels cochent une ou plusieurs cases de conscience, à ce jour, aucun ne les a toutes cochées.

« En gros, vous pouvez imaginer utiliser différentes capacités, n’est-ce pas, alors prenez un modèle de langage qui semble avoir une certaine capacité à traiter l’information et donnez-lui, si vous voulez, un sens visuel.

« Ou vous pourriez imaginer de l’installer dans un corps physique, plutôt que de simplement l’exécuter dans un centre de données. Vous pourriez par exemple insérer une copie de GPT-4 dans un robot qui participait à une expérience incarnée spécifique. Cela donnerait potentiellement c’est la capacité de déplacer ce corps.

« Nous parlons maintenant de normes d’agence. Donc, pour l’instant, il n’y a aucune raison commerciale impérieuse de le faire. Mais c’est certainement dans les capacités de ce que nous avons à ce stade, d’un point de vue technique. »

Christian suggère qu’il pourrait être « humiliant dans le bon sens » pour les humains de partager le monde avec une autre entité sensible complètement étrangère à nous-mêmes.

« Cela changerait fondamentalement notre position dans l’univers d’une manière qui, je pense, pourrait être une bonne chose, à condition que nous ne prenions pas le contrôle de la civilisation ou que nous n’en perdions pas le contrôle ou quoi que ce soit… Cela pourrait être une bonne chose, mais c’est une chose terrible. »

Il affirme que les implications éthiques et sécuritaires de l’IA sont « très préoccupantes » pour Christian, et que le rythme même des progrès est « définitivement inquiétant ».

« Il existe actuellement un véritable fossé entre le bon sens que beaucoup d’entre nous ont selon lequel nous devons réglementer cette technologie, et le manque général de clarté que beaucoup d’entre nous ont sur le type exact de réglementation qui doit être mis en place. »

Faute de capacité institutionnelle pour auditer les systèmes d’IA, il estime qu’il est temps pour le gouvernement américain d’encourager la création d’un secteur de l’audit.

« C’est la chose qui, à moyen terme, commencera à développer le secteur de l’audit des systèmes d’IA. Et c’est l’une des nombreuses choses dont nous avons besoin. Je pense que c’est la chose qui me fera beaucoup dormir et sonnera un peu. » un peu la nuit. »