Face aux IA, l’humain n’a qu’à bien se tenir !

Non loin de la Silicon Valley où le développement d’intelligences artificielles s’intensifie et inquiète, un musée de San Francisco pointe les dangers, actuels et futurs, de la technologie.

Désolée, personne avec sourire, casquette et moustache, d’avoir tué l’essentiel de l’humanité…». Voilà ce que déclare, dès l’entrée, un écran équipé d’un système d’intelligence artificielle (IA) à un visiteur qui passe la porte du Misalignment Museum (San Francisco), dans une nouvelle exposition sur cette technologie de plus en plus controversée. À la fois perturbant et drôle, l’ordinateur est en effet programmé pour identifier et énoncer trois caractéristiques sur chaque individu qui entre alors dans son champ de vision.

«L’idée est que l’on est dans un monde post-apocalyptique où l’intelligence artificielle générale a éradiqué la plupart des humains. Puis elle a réalisé que c’était mal et créé un genre de mémorial pour eux», explique en riant Audrey Kim, la directrice de l’exposition. L’IA, dite «générale», est un concept encore plus nébuleux que celui, avouons-le, déjà sibyllin, de l’intelligence artificielle.

«C’est une IA capable de faire tout ce que les humains sont capables de faire, et aussi d’agir sur elle-même, comme un objet capable de s’autoréparer par exemple», propose la conservatrice. San Francisco et la Silicon Valley voisine regorgent de start-up qui conçoivent différents types d’IA. Certaines rêvent de pouvoir un jour collaborer avec une machine presque comme avec un humain. Réalistes ou non, cette ambition et ces efforts ont un fort «potentiel destructeur», souligne Audrey Kim, inquiète.

Avec son exposition temporaire, qu’elle espère pérenniser, elle veut ainsi encourager une réflexion sur les dangers actuels et futurs liés à l’IA. Au milieu de la pièce trône une version revisitée d’une célèbre peinture de Michel-Ange, La Création d’Adam, où une IA imaginaire a détecté un pied avec 98 % de certitude, une personne (84 %) et Dieu (60 %). Plus loin, un piano joue sans humain une musique composée par une vraie IA, en fonction de la croissance de bactéries cultivées en laboratoire.

Désolée d’avoir tué l’essentiel de l’humanité

Audrey Kim affectionne particulièrement une statue baptisée Paperclip Embrace : deux bustes d’humains qui se tiennent dans les bras l’un de l’autre, fabriqués en trombones. L’œuvre fait référence à une métaphore du philosophe Nick Bostrom, qui avait imaginé dans les années 2000 ce qui se passerait si une véritable intelligence artificielle était programmée pour créer des trombones. «Elle pourrait devenir de plus en plus puissante, et s’optimiser sans cesse pour atteindre son seul et unique objectif, au point de détruire toute l’humanité afin d’inonder le monde de trombones», raconte la directrice.

Cette dernière s’intéresse plus particulièrement aux implications de l’IA et du «machine learning» (NDLR : apprentissage automatisé des machines) depuis qu’elle a travaillé il y a quelques années chez Cruise, un spécialiste des voitures autonomes. Une technologie «incroyable», qui «pourrait réduire le nombre d’accidents dus à l’erreur humaine», mais présente aussi des risques, relate-t-elle.

Les innovations dans l’IA ont semblé s’accélérer l’année dernière avec la percée des programmes capables de générer toutes sortes de textes et d’images, de façon instantanée, en fonction des requêtes des utilisateurs. Leur capacité à s’exprimer comme des humains fait si bien illusion qu’un ingénieur de Google, remercié par la suite, a affirmé au printemps dernier que l’IA était désormais «consciente».

Dans l’immédiat, l’IA générative inquiète aussi bien les professeurs (confrontés aux dissertations rédigées avec ChatGPT), que les artistes (dont les œuvres ont servi à former certains modèles) et de nombreuses autres professions. Des associations luttent par ailleurs depuis des années contre les atteintes à la vie privée (avec la reconnaissance faciale) ou encore les biais algorithmiques qui reproduisent des discriminations existantes (dans les logiciels de recrutement, par exemple).

Sam Altman, le fondateur d’OpenAI, start-up à l’origine du modèle GPT-3 et de ChatGPT, définit l’IA générale comme le moment où «les systèmes d’IA seront en général plus intelligents que les humains». Son avènement lui semble inévitable et il pense que, bien orchestrée, elle «élèvera l’humanité». En guise de réponse, à l’étage inférieur de l’exposition, celui de la dystopie, une machine alimentée par GPT-3 compose des calligrammes vengeurs contre l’humanité, en écriture cursive.

À côté, le philosophe Slavoj Zizek et le cinéaste Werner Herzog conversent à l’infini grâce à un dialogue et à des voix ultra-réalistes, générés par des IA. Cette œuvre alerte sur les «deepfakes», ces montages d’images, de son ou de vidéo qui visent à manipuler l’opinion. «On s’est lancés dans ce projet il y a seulement cinq mois, et pourtant beaucoup des technologies présentées ici semblent déjà presque primitives», remarque Audrey Kim, tandis que des robots aspirateurs sillonnent la pièce, surmontés de balais obsolètes.