IA : les grands noms de la tech demandent un moratoire

Actualités - Faut-il mettre l'intelligence artificielle (IA) en pause pour sauver l'humanité ? Cette semaine, le Future of Life Institute relaie une lettre ouverte, signée par de nombreuses personnalités de la tech, dont Elon Musk, patron de Tesla et Twitter. Ce texte appelle à un moratoire de six mois sur l'IA. Le point avec Le Courrier Financier.

IA : les grands noms de la tech demandent un moratoire

Conception Mathilde Hodouin – Réalisation Amandine Victor

L’intelligence artificielle (IA) représente-t-elle un danger pour la survie de l’humanité ? L’hypothèse n’est pas neuve, mais elle fait carburer beaucoup de méninges dans la Silicon Valley. Ce mercredi 29 mars, le Future of Life Institute — organisme à but non lucratif, qui se consacre à l’étude des risques liés à la technologie — publiait une lettre ouverte signée par de nombreuses personnalités de la tech. Parmi les plus médiatiques, nous retrouvons Elon Musk (patron de Tesla et de Twitter), Steve Wozniak (cofondateur d’Apple), Jaan Tallinn (cofondateur de Skype) suivis par de nombreuses figures du monde universitaire.

Une course technologique…

Leur revendication tient en une phrase, qui tient lieu d’en-tête à cette lettre : « Nous appelons tous les laboratoires d’IA à suspendre immédiatement pendant au moins 6 mois la formation des systèmes d’IA plus puissants que GPT-4 ». Quelques explications. GPT-4 est un modèle de langage pour l’IA, qui a été développé par la startup américaine Open AI. Il succède au langage GPT-3, lui-même à l’origine du robot conversationnel ChatGPT. Cet outil, mis en ligne en décembre 2022, avait fait couler beaucoup d’encre : capable d’écrire de longs textes argumentés, de synthétiser un document ou encore de créer du code informatique.

« Si ces IA génératives sont encore perfectibles, leur impact sera réel, et transformateur », expliquait Rolando Grandi (CFA), gérant du fonds Echiquier Artificial Intelligence chez La Financière de l’Echiquier (LFDE), début février dernier dans une tribune relayée sur Le Courrier Financier. Plus récemment, Michael Blümke (CFA) CAIA et senior portfolio manager chez Ethenea, s’interrogeait sur la place que cette technologie pourrait prendre dans l’industrie de la gestion d’actifs. « Jusqu’à présent, l’IA n’a pas encore réussi à reproduire les capacités d’abstraction et de créativité du cerveau humain », disait-il.

…ou une fuite en avant ?

Tout est dans cet adverbe, « jusqu’à présent ». Dans leur lettre ouverte, les personnalités de la tech manifestent une vive inquiétude. « Les systèmes d’IA dotés d’une intelligence capables de concurrencer celle de l’homme posent de graves risques pour la société et l’humanité », préviennent-ils. Les auteurs du texte accusent les laboratoires d’IA de s’être lancés dans « une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable ». Ambiance apocalyptique version Terminator, nous voilà.

Les bonds réalisés par les IA sont conséquents ces derniers mois. Le 25 mars dernier, une image montrant le Pape François dans une longue doudoune blanche était devenue virale sur les réseaux sociaux. Mais le Chef de l’Eglise catholique n’a jamais porté un tel vêtement ! Outre la menace que l’IA fait peser sur l’emploi, ou la crainte de la voir employée pour créer des armes mortelles, elle pourrait aussi servir à manipuler l’opinion. A l’heure où nous écrivons ces lignes, la pétition a recueilli plus de 1 800 signatures. Il y aura peu de conséquences légales immédiates, mais de plus en plus de voix s’élèvent pour demander un encadrement plus strict de l’IA.

Mathilde Hodouin - Le Courrier Financier

Rédactrice en chef (janvier 2019 - février 2024)

Voir tous les articles de Mathilde