Sam Altman, responsable de l'Open AI : vous ne pouvez pas simplement arrêter le développement de l'IA – La sécurité dans l'actualité

nEst-ce que vous pouvez simplement arrêter le développement de l’intelligence artificielle. Sam Altman et Satya Nadella ont déclaré dans une interview avec The Economist que l'IA servirait d'assistant et de compagnon humain. Selon eux, les pays seront à l'avenir en mesure de traiter les questions de réglementation des activités d'intelligence artificielle.

Voici deux des personnes les plus influentes qui façonnent l’avenir de l’IA : Sam Altman, président de la startup OpenAI qui a créé le chatbot ChatGPT, et Satya Nadella, PDG de Microsoft, le plus grand investisseur dans OpenAI. Ils ont discuté avec le rédacteur en chef de The Economist de ce à quoi ressemblera réellement l’avenir de l’IA.

ZANE MINTON BIDDOES, RÉDACTITEUR EN CHEF ÉCONOMISTE : Sam, commençons par vous. Quelles sont les fonctionnalités les plus importantes que le bot ChatGPT gagnera au cours de la prochaine année ?

Sam Altman : Après la sortie de GPT-4, le monde a été hystérique pendant quelques semaines, n'est-ce pas ? « Cela va tout changer. » « L'ère de l'AGI (InoSMI) arrivera demain. » « D'ici la fin de l'année, tout le monde sera licencié. Maintenant, les gens se plaignent : « Pourquoi est-ce si lent ? » Et j'adore ça. Je pense que c'est une partie merveilleuse de la nature humaine que nous voulions toujours plus et mieux.

Satya Nadella : Ce n'était pas comme ça avant, même s'il existe encore certaines technologies mondiales qui sont distribuées instantanément et partout. De tous les pays, ce sont les gouvernements qui consacrent le plus d’argent à la santé et à l’éducation. Vous avez désormais la possibilité de fournir à chaque étudiant et à chaque citoyen, partout dans le monde, de meilleurs conseils médicaux et des enseignants individuels plus qualifiés.

Sam Altman : Je pense souvent qu'une façon intéressante de quantifier cela (débit de l'IA – note InoSMI) est de calculer le pourcentage de tâches que GPT-4 peut gérer. Disons 10%. GPT-5 peut-il effectuer 12 % du travail humain ? Ou 15% voire 20% ? Mais le fait qu’autant de personnes puissent désormais l’utiliser pour améliorer la productivité sur le lieu de travail est puissant. Je sais que ça n'a pas l'air très gentil si quelqu'un dit :

« Il effectuera ces tâches spécifiques. » Mais cela devient un compagnon dans le processus de travail mental, et devient l'un des moyens d'utiliser l'ordinateur.

ZANIE MINTON BEDDOES : Je vous comprends et c'est une réponse tout à fait naturelle à ma question. Mais j’essaie de comprendre si cela va être un processus graduel ou un saut soudain – même si nous ne parlons que de l’année prochaine.

Sam Altman : Je pense qu'un jour nous créerons quelque chose qui pourrait être appelé intelligence générale artificielle (AGI) – quelle que soit la définition vague que vous voudriez lui donner. Le monde sera à nouveau dans l’hystérie pendant deux semaines, puis les gens reprendront leur vie.

Zane Minton Beddoes : Sam Altman vient de dire que le monde sera hystérique dans seulement deux semaines lorsque nous aurons accès à l'intelligence artificielle générale. Déclaration intéressante.

Sam Altman : Je dis souvent que personne ne sait ce qui va se passer ensuite. Je ne peux pas voir en détail ce qui se trouve de l’autre côté de l’horizon des événements. Mais il me semble que les motivations humaines profondes ne disparaîtront pas.

ZANIE MINTON BEDDOES : Et puis les gens commencent à s'inquiéter parce que nous n'en avons aucune idée…

Sam Altman : Pourquoi ?

Zane Minton Beddoes : Parce qu’il y aura une intelligence artificielle qui sera plus intelligente que nous tous. Nous n'avons aucune idée de ce qui va se passer ensuite.

Sam Altman : Une chose que j'aime faire, c'est revenir en arrière et lire les histoires des gens sur les révolutions technologiques qui se sont produites à leur époque. Les prédictions des experts s’avèrent presque toujours complètement fausses.

ZANIE MINTON BEDDOES : Très bien fait.

Sam Altman : Il est nécessaire de conserver une certaine flexibilité dans vos points de vue et votre vision du monde afin de pouvoir vous adapter rapidement à ce qui se passe dans le monde.

Zane Minton Beddoes : De nos jours, on met beaucoup l'accent sur la sécurité et la réglementation. Dites-moi, pensez-vous que les régulateurs évaluent correctement la situation ? Ou n’en font-ils pas assez ?

Satya Nadella : En ce moment, quand je regarde les ordres de la Maison Blanche ou ce qui a été discuté lors du sommet sur la sécurité au Royaume-Uni, ce qui se passe en Europe, ce qui se passe au Japon… je pense qu'ils auront leur mot à dire. Les États-nations auront certainement la capacité d’influencer les règles qui contrôleront le développement de chaque technologie et, plus important encore, celles qui sont prêtes à l’emploi et celles qui ne le sont pas. Je pense que nous respecterons tous ces règles.

ZANIE MINTON BEDDOES : Si jamais vous pensez dans votre travail : « Cela devient dangereux et pourrait avoir de graves conséquences que je ne veux pas causer au monde », vous crierez « stop » et vous arrêterez. peux-tu?

Sam Altman : Il n'existe pas de gros bouton rouge magique qui puisse faire exploser un centre de données, je pense que certaines personnes pensent que c'est le cas. Il ne s’agit pas de choisir entre deux alternatives : « avancer » ou « arrêter ». Il y a toujours de nombreuses petites décisions à prendre : autoriser ou non cela, comment prédire les risques que l'avenir apportera, comment atténuer ces risques, s'il faut définir une nouvelle valeur ici, et ainsi de suite.

source: L'économiste, Traduction : Nouvelles sûres

Lisez plus d’actualités dans la section Monde.