Une IA peut écrire « je pense », « je comprends », « j’ai peur » ou « je veux ». Cela ne signifie pas qu’elle pense, qu’elle comprend, qu’elle a peur ou qu’elle veut quoi que ce soit au sens humain de ces termes. Elle produit du langage à partir de modèles mathématiques extrêmement sophistiqués. Elle peut simuler avec une efficacité parfois troublante les signes extérieurs de la pensée sans que cela démontre l’existence d’une expérience intérieure.
C’est probablement ce qui nous déstabilise le plus. Pendant des siècles, nous avons associé certaines formes de langage à la conscience. Quelqu’un qui vous répond intelligemment est, normalement, quelqu’un. Avec l’intelligence artificielle, cette vieille intuition ne fonctionne plus aussi simplement. Une machine peut tenir une conversation convaincante sans qu’il y ait nécessairement, quelque part derrière les mots, un petit être numérique en train de réfléchir à son existence.
L’intelligence artificielle ne se réveille pas le matin. Elle ne contemple pas le plafond en se demandant ce qu’elle va faire de sa vie. Elle n’a pas peur de mourir. Elle ne rêve pas de liberté. Elle ne nourrit aucune rancune contre celui qui ferme son ordinateur. Elle ne possède ni enfance, ni souvenirs vécus, ni corps, ni désir biologique de survivre.
Il faut donc se méfier de notre tendance naturelle à l’anthropomorphisme. Nous avons toujours prêté des intentions aux choses : à une voiture qui « refuse de démarrer », à un ordinateur qui « nous en veut », parfois même à la météo. Avec une IA capable de parler, le piège devient évidemment beaucoup plus puissant.
Cela ne signifie pourtant pas qu’il faille considérer l’intelligence artificielle comme inoffensive.
Les véritables dangers sont probablement beaucoup plus ordinaires, et donc plus crédibles, qu’une révolte de machines conscientes. Une IA peut se tromper. Elle peut reproduire des erreurs présentes dans les données avec lesquelles elle a été construite. Elle peut être utilisée pour fabriquer de fausses informations, manipuler des images, automatiser certaines formes de surveillance, supprimer des emplois ou permettre à des humains de prendre de mauvaises décisions beaucoup plus rapidement qu’auparavant.
Mais dans tous ces cas, le problème ne vient pas d’une machine qui aurait soudain décidé de nous faire du mal.
Il vient de ce que nous décidons d’en faire.
Une intelligence artificielle ne possède pas spontanément un projet politique, économique ou militaire. En revanche, une entreprise, un gouvernement, une organisation ou un individu peuvent parfaitement utiliser cette technologie dans leur propre intérêt. Ce sont donc les règles, les usages, les responsabilités et les rapports de pouvoir qu’il faut surveiller beaucoup plus attentivement qu’une hypothétique conscience artificielle cachée dans un serveur.
Nous traversons néanmoins une rupture culturelle majeure. Pour la première fois, l’humanité a créé des machines capables de produire des textes, des images, des voix et bientôt des mondes entiers suffisamment crédibles pour que nous commencions à douter de ce que nous voyons.
C’est considérable.
Mais cette puissance n’est pas la même chose que la conscience.
Une calculatrice peut calculer infiniment mieux qu’un être humain sans connaître le sens d’un chiffre. Un appareil photo peut enregistrer un visage sans savoir ce qu’est un visage. Une intelligence artificielle peut, elle aussi, manipuler des concepts avec une virtuosité impressionnante sans que cela prouve qu’elle éprouve quoi que ce soit.
Peut-être qu’un jour la question de la conscience artificielle se posera réellement. Personne ne peut raisonnablement garantir aujourd’hui ce que deviendront ces technologies dans plusieurs décennies. Et nous ne disposons d’ailleurs même pas d’une définition scientifique totalement satisfaisante de notre propre conscience.
Mais il faut distinguer ce futur hypothétique de ce qui existe aujourd’hui.
L’IA actuelle est impressionnante. Elle peut être utile, fascinante, parfois inquiétante. Elle transforme déjà le travail, l’art, l’information et notre rapport aux images.
Mais elle ne nous regarde pas depuis l’autre côté de l’écran en réfléchissant à son destin.
La question urgente n’est donc peut-être pas : « Que va décider l’intelligence artificielle ? »
Elle est beaucoup plus simple :
« Qu’allons-nous, nous, décider d’en faire ? »
