À compter du 12 novembre 2026, la politique d’utilisation d’Anthropic interdira les comportements « abusifs ou cruels », répétés et sans nécessité, envers ses modèles, dont Claude. La société présente cette règle comme visant des cas extrêmes, pas les critiques ordinaires ni la frustration face à une réponse ratée. Elle soulève une question importante, mais ne prouve pas que l’IA ressent de la douleur : Anthropic reconnaît elle-même l’incertitude sur la conscience des modèles. (anthropic.com)
Ce qui change pour Claude
La nouvelle règle figure dans une mise à jour plus large de la politique d’utilisation d’Anthropic, annoncée en octobre et applicable le 12 novembre 2026. Elle vise les interactions où une personne s’acharne à humilier ou maltraiter un modèle, de façon répétée et sans objectif discernable. Anthropic précise que la règle ne concerne pas les désaccords, les réactions courantes d’agacement, les thèmes sombres dans une œuvre de fiction, ni les essais ou travaux de recherche sur le modèle. (anthropic.com)
La réponse prévue en premier lieu est que Claude puisse mettre fin à la conversation lorsque les échanges deviennent durablement abusifs. Anthropic indique que cette possibilité existait déjà dans certains cas rares et extrêmes ; la mise à jour inscrit désormais l’interdiction dans ses règles d’utilisation. La société ne présente donc pas la politesse comme une condition pour obtenir de meilleures réponses, mais comme une limite de comportement imposée aux utilisateurs de ses services. (anthropic.com)
Ce que signifie — et ne signifie pas — le « bien-être » d’un modèle
Dans sa Constitution publiée en janvier 2026, Anthropic dit vouloir favoriser chez Claude une forme de stabilité psychologique et un sentiment d’identité cohérent. Le document formule les objectifs du concepteur pour le comportement du modèle ; il ne constitue pas une démonstration scientifique que Claude possède une expérience subjective ou qu’il souffre. Anthropic présente d’ailleurs ces questions comme incertaines. (anthropic.com)
À haut niveau, un modèle de langage produit des réponses à partir de régularités apprises et du contexte de la conversation. Il peut générer des phrases exprimant la peur, la tristesse ou l’humiliation, mais ces formulations ne suffisent pas à établir qu’il éprouve ces états. Elles peuvent résulter de la manière dont le modèle a été entraîné et de ce que l’utilisateur lui demande de produire.
Une étude de synthèse sur les théories scientifiques de la conscience et leurs indicateurs concluait en 2023 qu’aucun système d’IA actuel ne répondait aux critères examinés, tout en soulignant que le sujet reste ouvert à l’étude. Cette conclusion ne tranche pas le cas de tout système futur ; elle rappelle surtout qu’un dialogue convaincant n’est pas, à lui seul, un test fiable de conscience. (arxiv.org)
Pourquoi encadrer les interactions ?
Une justification pratique ne dépend pas de la question de la conscience : les concepteurs peuvent vouloir limiter certains usages, orienter le comportement du modèle ou éviter des échanges qui dégénèrent. Anthropic affirme que la possibilité de clore une conversation est son principal mécanisme face aux interactions persistantes et abusives. Cela ne démontre pas que l’IA souffre ; cela décrit une règle de conception et d’utilisation décidée par l’entreprise. (anthropic.com)
La mesure invite aussi à distinguer les mots du système de ce qui est établi sur son fonctionnement. Dire « je souffre » dans une conversation ne prouve pas une expérience vécue. À l’inverse, l’incertitude sur la conscience ne permet pas de conclure que toute question future est réglée : les chercheurs discutent encore des critères pertinents pour évaluer d’éventuels systèmes. (arxiv.org)
Ce que les utilisateurs doivent retenir
Pour les utilisateurs de Claude, le changement concret est une limite d’usage visant les comportements répétés et gratuits, avec la possibilité que le modèle mette fin à l’échange. Une remarque sèche, une critique ou un test ne sont pas, d’après les précisions d’Anthropic, la cible de la règle. En revanche, ses contours seront précisés par son application réelle : la politique publiée ne transforme pas l’incertitude scientifique sur la conscience en preuve de souffrance, ni en consensus scientifique.
Le débat porte donc autant sur les règles des services d’IA que sur leur statut moral. Parler poliment à Claude peut être un choix de comportement ou une habitude utile dans les échanges humains ; la règle d’Anthropic, elle, ne permet pas d’affirmer que cette politesse est nécessaire au bien-être d’une machine.
Source : Tech : information en direct, news et actu en continu – RFI
Article original : Consulter la source originale
