La politique couvre plusieurs domaines distincts, des armes et de la surveillance aux élections, aux décisions à haut risque et aux systèmes connectés à du matériel. Cette diversité aide les équipes à distinguer une explication plus claire d’une règle existante d’une nouvelle obligation. Dans son annonce du 8 octobre, Anthropic affirme que la plupart des changements du 12 novembre clarifient ou réorganisent les règles existantes, tout en ajoutant deux dispositions : l’interdiction des abus persistants et gratuits envers ses modèles, et des exigences de sécurité pour le matériel associé à des actions autonomes susceptibles de blesser.

La principale nouveauté est l’interdiction des « comportements abusifs ou cruels persistants et gratuits » envers les modèles d’Anthropic. L’entreprise dit viser les cas extrêmes où une personne se montre cruelle à répétition sans raison discernable. Elle précise que la frustration ordinaire et les critiques, les thèmes de fiction sombres, les tests de modèles et la recherche ne sont pas concernés. Anthropic indique aussi que la capacité existante de Claude à interrompre les rares conversations durablement abusives sur Claude.ai et Claude Code restera son principal moyen d’appliquer cette règle. L’annonce ne précise pas d’autres conséquences possibles pour cette nouvelle disposition.

Plusieurs changements rendent les restrictions existantes plus explicites. Anthropic affirme que ses règles interdisaient déjà d’utiliser Claude pour développer des armes ; le texte précise que cela inclut les logiciels et composants essentiels à leur fonctionnement, ainsi que des actions telles que l’armement de drones et d’autres véhicules autonomes. L’entreprise dit que cette formulation reflète la manière dont elle appliquait déjà la politique.

La section réécrite sur la surveillance et la justice pénale interdit de suivre des personnes sans leur consentement, que ce soit en direct ou par l’analyse de données recueillies auparavant. Elle interdit aussi d’utiliser Claude pour décider ou recommander qui enquêter, arrêter ou inculper, ainsi que pour construire ou améliorer des outils de surveillance. Anthropic présente ces révisions comme une explicitation de règles déjà appliquées. Elle cite comme exemples autorisés le suivi avec consentement, la détection des fraudes, la modération de contenu, le journalisme et la recherche juridique.

Les règles électorales sont plus ciblées, tandis qu’une autre section rassemble les restrictions visant les campagnes trompeuses. Anthropic indique que les restrictions auparavant réparties entre les sections sur les élections, la fraude, la vie privée et la désinformation sont désormais regroupées sous « Ne pas participer à des campagnes trompeuses ou à des activités artificielles ». La section couvre la dissimulation de l’identité de l’émetteur, l’amplification de contenu par de faux comptes ou publications et la création d’infrastructures pour des campagnes d’influence, politiques ou commerciales.

La section sur les élections est renommée « Ne pas saper les processus démocratiques ». Elle porte sur la tromperie des électeurs ou la perturbation des élections, notamment les fausses informations sur les candidats ou le vote, l’usurpation de l’identité de candidats ou de responsables électoraux et la suppression de la participation. Anthropic a également supprimé son interdiction générale du ciblage personnalisé des électeurs et des campagnes. L’entreprise dit que cette règle englobait à tort des activités civiques légitimes, comme traduire des informations électorales ou envoyer des avis permettant de corriger un bulletin. Le ciblage reposant sur la tromperie ou l’usage abusif de données personnelles reste interdit par d’autres sections.

Pour les usages à haut risque, Anthropic affirme que les exigences de fond n’ont pas changé. Lorsque les réponses de Claude peuvent influer sur la santé, les droits juridiques, les finances, les moyens de subsistance ou l’accès à des services essentiels d’une personne, un humain qualifié doit pouvoir examiner et, si nécessaire, modifier les recommandations ; la personne concernée doit être informée de l’usage de l’IA. La réécriture précise quelles recommandations sont visées et lesquelles ne le sont pas, en réponse aux questions des utilisateurs.

La mise à jour ajoute aussi des contrôles pour les modèles connectés à du matériel capable d’agir physiquement de façon autonome et susceptible de blesser. Un opérateur qualifié doit pouvoir observer l’équipement et l’arrêter si nécessaire ; celui-ci doit pouvoir rester dans un état sûr si Claude se déconnecte. Ces exigences concernent l’installation autour de Claude ; elles ne prétendent pas que le modèle commande un appareil particulier.

Anthropic indique également avoir clarifié sa politique sur les régions prises en charge. L’utilisation de Claude est interdite aux personnes physiquement situées dans des régions non prises en charge, aux entités qui y sont constituées ou dont le siège s’y trouve, ainsi qu’aux entités détenues majoritairement ou contrôlées par des personnes ou organisations de ces régions.

Les utilisateurs et les organisations peuvent consulter la politique d’utilisation d’Anthropic avant le 12 novembre et vérifier si leurs flux de travail reposent sur l’un des usages cités. Cet article examine uniquement des documents publics ; BIG CHANGE n’a testé ni l’application des règles aux comptes ni le comportement d’un modèle. L’annonce expose le point de vue d’Anthropic sur les révisions, mais ne détermine pas comment chaque cas futur sera évalué.

Le grand changement

Anthropic indique que sa mise à jour du 12 novembre ajoute deux dispositions explicites : l’interdiction des abus persistants et gratuits envers ses modèles, et des protections pour le matériel lié à des actions autonomes susceptibles de blesser. Pour cette règle matérielle, un opérateur qualifié doit pouvoir observer l’équipement et l’arrêter si nécessaire, et celui-ci doit pouvoir rester dans un état sûr si Claude se déconnecte. Anthropic affirme que la plupart des autres révisions clarifient ou réorganisent les restrictions existantes. Les équipes qui utilisent Claude pour les élections, la surveillance, les armes, les décisions à haut risque ou des systèmes connectés à du matériel devraient comparer leurs pratiques au texte révisé avant son entrée en vigueur.

Sources et lectures complémentaires