« Humanités numériques »

Plus de 700 personnalités réclament l’arrêt du développement d’une « superintelligence artificielle »

Intelligence artificielle et éthique technologique

Le 22 octobre 2025, plus de 700 signataires issus du monde scientifique, politique et culturel ont appelé à suspendre le développement d’une intelligence artificielle dépassant les capacités humaines. Initiée par le Future of Life Institute, cette démarche rassemble des pionniers de l’intelligence artificielle comme Geoffrey Hinton, prix Nobel de physique 2024, ainsi que des entrepreneurs technologiques et des personnalités publiques : les signataires exigent l’établissement d’un consensus scientifique, dans un contexte où certains acteurs majeurs du secteur envisagent d’atteindre ce stade dans les prochaines années. Dans le même temps, une étude européenne révèle que près de la moitié des réponses fournies par les assistants d’intelligence artificielle comportent des erreurs importantes lorsqu’ils sont interrogés sur l’actualité, alors que l’usage de ces chatbots pour s’informer progresse fortement.

Le 22 octobre 2025, une initiative sans précédent a rassemblé plus de 700 personnalités du monde entier pour réclamer l’arrêt immédiat du développement de la superintelligence artificielle, un modèle hypothétique d’IA possédant des capacités supérieures à celles de l’humain. Orchestrée par le Future of Life Institute, organisation américaine à but non lucratif qui alerte régulièrement sur les dangers de l’intelligence artificielle (IA), cette action vise à suspendre les recherches visant à créer des systèmes dépassant les capacités intellectuelles humaines tant qu’aucune garantie de sécurité n’aura été établie.

La déclaration recommande que les travaux sur ce type d’intelligence artificielle générale (artificial general intelligence, AGI) ne reprennent qu’après l’obtention d’un consensus scientifique sur la possibilité de construire de tels systèmes de manière contrôlée et sécurisée, ainsi qu’après avoir recueilli l’adhésion de la population. Cette position reflète une inquiétude croissante face aux risques existentiels que pourrait représenter une intelligence artificielle échappant au contrôle humain.

Signataires dans la société civile et le monde académique

Parmi les signataires figurent des personnalités majeures du domaine de l’IA et de l’apprentissage automatique profond (deep learning). Geoffrey Hinton, récompensé par le prix Nobel de physique en 2024 et considéré comme l’un des pères fondateurs de l’intelligence artificielle moderne, a apporté son soutien à l’initiative. Stuart Russell, professeur d’informatique à l’université de Californie à Berkeley, ainsi que Yoshua Bengio, professeur à l’université de Montréal, comptent également parmi les scientifiques de renom ayant signé l’appel.

L’initiative transcende les frontières du monde académique pour toucher l’univers entrepreneurial et technologique. Richard Branson, fondateur du groupe Virgin, et Steve Wozniak, cofondateur d’Apple, ont joint leurs voix à celles des chercheurs. Le monde politique n’est pas en reste avec des signatures aussi diverses que celle de Steve Bannon, ancien conseiller du président américain Donald Trump, ou Susan Rice, conseillère à la sécurité nationale sous l’administration de Barack Obama. Des représentants religieux comme Paolo Benanti, conseiller du pape et principal expert du Vatican sur l’IA, côtoient des célébrités telles que le chanteur américain will.i.am, le prince Harry et son épouse Meghan Markle.

Cette mobilisation intervient alors que les principales entreprises du secteur poursuivent activement leurs recherches vers l’intelligence artificielle générale, stade auquel les systèmes égaleraient l’ensemble des capacités intellectuelles humaines, et au-delà vers la superintelligence. Sam Altman, dirigeant d’OpenAI, société à l’origine du robot conversationnel ChatGPT, a déclaré en septembre lors d’un événement organisé par le groupe médiatique Axel Springer que le seuil de la superintelligence pourrait être franchi d’ici cinq ans.

Vers des accords internationaux ?

Max Tegmark, président du Future of Life Institute, a formulé auprès de l’Agence France-Presse que la temporalité importait peu face à l’enjeu fondamental ; selon lui, le développement d’une telle technologie demeurerait inacceptable en l’absence de cadre réglementaire approprié. Il souligne qu’il est possible de soutenir la création d’outils d’intelligence artificielle plus performants, notamment pour des applications bénéfiques comme la recherche contre le cancer, tout en s’opposant fermement au développement de la superintelligence.

Cette action s’inscrit dans la continuité d’une mobilisation récente du secteur. Un mois auparavant, lors de l’assemblée générale des Nations unies, des chercheurs et dirigeants de l’industrie de l’intelligence artificielle avaient publié une lettre réclamant l’établissement d’accords internationaux définissant des lignes rouges pour prévenir les effets potentiellement dévastateurs de cette technologie sur l’humanité.

Raphaël Deuff

Une étude pointe le manque de fiabilité des assistants d’IA pour s’informer sur l’actualité

Les assistants d’intelligence artificielle comme ChatGPT, Copilot, Gemini et Perplexity présentent des défaillances importantes dans la restitution d’informations d’actualité. C’est le résultat d’une étude coordonnée par l’Union européenne de radio-télévision (UER) et impliquant vingt-deux médias publics : leur enquête montre que 45% des réponses de ces robots contiennent au moins un problème significatif, allant de dates erronées à des informations inventées de toutes pièces.

La recherche a été menée auprès de quatre assistants d’IA majeurs (ChatGPT, Copilot, Gemini et Perplexity) auprès desquels vingt-deux médias publics de dix-huit pays ont soumis les mêmes questions d’actualité. Parmi les erreurs, on note la récurrence des informations périmées, ou la confusion entre les faits et la satire. Un enjeu alors que l’utilisation des assistants d’IA pour s’informer progresse, notamment auprès des moins de 25 ans (15% les utilisent chaque semaine).

En savoir plus : Les assistants d’intelligence artificielle sont peu fiables pour s’informer sur l’actualité (urbanitas.fr)

Ressources et liens

Ressource : Statement on Superintelligence (superintelligence-statement.org)

Ressource : Future of Life Institute (futureoflife.org)

Ressource : Focus Area: Artificial Intelligence (futureoflife.org)

Ressource : Problème d’alignement (sambuc.fr)

Ressource : Qu’est-ce que la superintelligence artificielle ? (ibm.com)

Ressource : Les assistants d’intelligence artificielle sont peu fiables pour s’informer sur l’actualité (urbanitas.fr)

Ressource : La distorsion systémique de l’information par l’IA est constante dans toutes les langues et tous les territoires (ebu.ch)

Ressource : News Integrity in AI Assistants (ebu.ch)

Ressource : Groundbreaking BBC research shows issues with over half the answers from Artificial Intelligence (AI) assistants (bbc.com)

Entités liées

ChatGPT, désinformation, éthique de l’intelligence artificielle, Future of Life Institute, Geoffrey Hinton, intelligence artificielle, intelligence artificielle, intelligence artificielle générale, médias publics européens, OpenAI, superintelligence, Union européenne de radio-télévision, vérification des faits.

Entités nommées fréquentes : IA, Future, Life Institute, ChatGPT.