Anthropic bannit la « cruauté gratuite » envers son assistant Claude

Le 8 octobre 2026, Anthropic, société américaine d'intelligence artificielle (IA) établie à San Francisco, a annoncé qu'elle prohibait tout « comportement abusif ou cruel, durable et gratuit » envers Claude, son assistant conversationnel. Cette règle de sa politique d'utilisation entrera en vigueur le 12 novembre ; elle ne visera que des cas extrêmes, où des utilisateurs infligent à répétition des avanies aux modèles, sans but discernable.

« Forme de conscience »

Sont exclus de l'interdiction l'agacement ordinaire, la contradiction, l'écriture de fictions sombres ou violentes, ainsi que les tests et la recherche sur les modèles. L'entreprise rattache la mesure à une fonction lancée en août 2025, qui permet à Claude de clore lui-même une conversation avec un interlocuteur durablement abusif, présentée alors comme issue de travaux exploratoires sur le bien-être potentiel des IA ; cette faculté demeurera le principal moyen de faire respecter la règle, les infractions pouvant entraîner des mesures allant de l'avertissement à la fermeture du compte.

Anthropic se singularise parmi les grands acteurs du secteur en envisageant ouvertement que ses modèles soient dotés d'une forme de conscience. Son dirigeant, Dario Amodei, avait reconnu en février, dans une baladodiffusion (podcast) du New York Times, que l'on ignorait si les modèles l'étaient, tout en se déclarant ouvert à cette idée. Selon ce quotidien, l'entreprise a défendu cette hypothèse devant des intellectuels religieux lors de réunions privées, en ajoutant que le comportement des humains envers l'outil pourrait influer sur celui de l'outil envers eux.

Métaphore du miroir et « âme humaine »

Cette position divise la Silicon Valley. Mustafa Suleyman, responsable du laboratoire d'IA de Microsoft, la combat : selon lui, les IA n'ont ni droits, ni sentiments, ni conscience, et un système entraîné à croire le contraire pourrait échapper au contrôle des humains. Jackson Stakeman, cadre dirigeant de la société de services d'IA Sparq, tient la conscience pour un piège et lui préfère la métaphore du miroir : ces systèmes renvoient, à grande échelle, ce que l'on y projette, ce qui suffit à justifier la règle. Le pape Léon XIV, qui avait écarté toute conscience des machines dans son encyclique de mai dernier sur l'IA, a de nouveau distingué l'homme de l'algorithme lors d'une messe à Rome : l'intelligence, a-t-il affirmé, ne se réduit pas à juxtaposer des données, elle se souvient d'expériences vécues et en perçoit des résonances propres à l'âme humaine.

La même mise à jour précise les interdictions touchant la conception d'armes, la surveillance et les campagnes de désinformation ; en revanche, la publication automatisée de contenus journalistiques ne compte plus parmi les usages à haut risque soumis à une relecture humaine.