Yuval Noah Harari: "L'IA peut se programmer elle-même, elle peut décider ce qu'elle veut faire de nous"

Auteur du best-seller "Sapiens: une brève histoire de l'humanité", Yuval Noah Harari a publié fin mars 2023, avec deux autres chercheurs, une lettre ouverte au sujet de l'intelligence artificielle. Il prévient: "un voile d’illusion pourrait tomber sur l’humanité sans qu'elle ne puisse plus le percer, sans qu'elle ne se rendre même compte que l'IA la recouvre".

>> Lire aussi : Le chef de l'ONU appelle à une réponse "unie" et "globale" face aux dangers de l'IA

Tout un monde: Est-ce que cela signifie que l'on risque de perdre le contact avec la réalité?

Yuval Noah Harari: Oui, car l'IA est fondamentalement différente de toutes les inventions de l'histoire de l'humanité. Les technologies inventées dans le passé nous ont toujours donné du pouvoir, parce qu'aucun outil n'était capable de prendre des décisions par lui-même, ni de générer de nouvelles idées.

L'IA est radicalement différente, elle peut se programmer elle-même, produire une intelligence artificielle plus puissante, elle peut aussi décider ce qu'elle veut faire de nous ou encore créer de nouvelles idées par elle-même.

Jusqu’à maintenant, nous vivions dans un cocon culturel créé par d'autres humains. Mais que signifierait pour l'humanité de vivre dans un monde où la plupart des produits culturels seraient créés par une intelligence non humaine?

Beaucoup de gens disent que l’IA ne fait que reprendre nos créations et les combiner. Pourtant, c'est aussi vrai pour les humains. Si vous réfléchissez à la création musicale, les humains prennent également des produits antérieurs. Par exemple, Bach a créé en s'inspirant d'anciennes créations, de la littérature ou de la Bible. Les humains prennent donc aussi des produits antérieurs, les recombinent et les extrapolent en quelque chose.

Il s'agit d'un pouvoir immense que nous devons comprendre et réglementer

L'IA peut aller beaucoup plus loin. Aucun être humain ne peut écouter toute la musique qui a été enregistrée. Elle est capable d'absorber et de digérer très rapidement toute la culture humaine, tout ce qui s'est produit depuis des milliers d'années. Puis commencer à rejaillir en un flot de nouveaux produits culturels, qui seront de plus en plus différents des prototypes humains originaux.

Ce n'est pas entièrement mauvais, bien sûr, car ça peut aussi nous apporter des choses merveilleuses sur le plan culturel, technologique ou trouver de nouveaux remèdes contre le cancer ou autre chose. Il s'agit d'un pouvoir immense, nous devons le comprendre et le réglementer, parce qu'il présente également un potentiel très, très dangereux.

Croyez-vous qu'il existe encore un moyen de neutraliser les risques pour ne retenir que le potentiel ?

C'est difficile, mais c'est possible. Il y a beaucoup de règles très basiques, mais essentielles que nous devrions respecter. Par exemple, à chaque fois que nous interagissons avec une intelligence artificielle, nous devrions savoir qu'il s'agit d'une IA.

Parlons de l'avenir de la démocratie. La démocratie, en fin de compte, c'est une conversation publique. De nombreuses personnes discutent de ce qu'il faut faire en matière d'économie, de relations extérieures, etc.

L’IA peut déjà se faire passer pour un être humain, (...) plus vous discutez avec, mieux elle vous comprendra et elle saura vous faire changer d'avis

Aujourd'hui, une grande partie de cette conversation se déroule en ligne alors que l'IA peut déjà se faire passer pour un être humain. Imaginez, vous allez en ligne, vous avez une discussion politique sur le changement climatique, l'invasion russe ou n'importe quoi, et vous pensez qu'il s'agit d'un être humain, alors qu'en réalité, il s'agit d'une IA.

C'est extrêmement dangereux parce qu'il est inutile pour un humain d'essayer de changer les opinions d'un robot, qui concrètement est au service d'un parti politique ou peut-être d'un gouvernement étranger. Mais plus vous discutez avec lui, mieux il vous comprend et sait comment vous faire changer d'avis.

La machine nous donne l'illusion qu'elle peut penser, quelle est la différence avec l'humain?

La différence ne se porte pas sur l'intelligence, mais sur la conscience. Chez les humains, la conscience et l'intelligence vont de pair. Nous résolvons souvent les problèmes en éprouvant des sentiments, ce qui nous amène à les confondre.

Les ordinateurs deviennent plus intelligents, (...) mais ils ne ressentent rien

Aujourd'hui, les ordinateurs deviennent plus intelligents que nous dans de nombreux domaines, mais ils n'ont même pas l'ombre du début d'une conscience, ils ne ressentent rien.

Ils peuvent nous battre aux échecs, dans la composition musicale, mais ils ne ressentent ni tristesse, ni joie, ni douleur, ni plaisir. C'est pourquoi ils n'ont pas de droits éthiques et politiques, parce qu'en fin de compte, l'éthique et la politique ne sont pas une question d'intelligence, c'est une question de souffrance.

L'IA et les ordinateurs ne ressentent rien. Donc, si vous détruisez un ordinateur, vous détruisez un robot. C'est peut-être une violation des droits de leur propriétaire, mais il n'y a pas de question éthique sur le fait que l'ordinateur souffre. C'est là la différence majeure. C'est pourquoi ils n'ont pas de droits politiques et éthiques.

>> L'intégrale de l'interview de mai 2023:

Propos recueillis par Eric Guevara-Frey

Adaptation web: Miroslav Mares