Anthropic interroge des chefs religieux sur l'éthique de Claude

Anthropic a réuni des responsables religieux pour réfléchir à la manière dont Claude doit se comporter. La discussion a dérapé vers une question plus étrange : et si Claude n'était pas seulement un logiciel ?

Pourquoi Anthropic consulte des chefs religieux sur l'éthique de Claude

Anthropic a construit sa réputation sur une promesse : fabriquer une IA alignée sur l'intérêt humain. Pour écrire la « Constitution de Claude », le document qui décrit les valeurs et le comportement attendus de son assistant, l'entreprise ne s'est pas contentée de juristes et de chercheurs en éthique. Elle a sollicité des penseurs religieux de traditions très diverses.

Des responsables catholiques, juifs, sikhs, hindous, mormons et baha'is ont participé à des réunions privées, selon plusieurs médias. Le point de départ est une question pratique : comment apprend-on à un système puissant à se comporter de façon morale ? Anthropic cherchait des méthodes éprouvées par des siècles de réflexion sur la formation morale des individus.

Dès le printemps, l'entreprise a organisé des rencontres, notamment avec quinze responsables chrétiens. Le mouvement s'est élargi depuis, avec un sommet organisé à New York, le « Faith-AI Covenant », où des représentants d'OpenAI et d'Anthropic ont échangé avec des autorités spirituelles.

Le rôle des chefs religieux dans la Constitution de Claude

Écrite avec l'aide de ces interlocuteurs, la Constitution de Claude présente les « intentions détaillées » d'Anthropic en matière de valeurs et de comportement. Le document indique notamment que Claude doit réagir comme le ferait « une personne profondément éthique placée dans sa situation ».

Cette formulation n'est pas anodine. Elle déplace la question de la règle vers celle du jugement. Une IA ne peut pas se contenter de règles figées, parce que les situations réelles sont ambiguës. Anthropic a cherché ailleurs comment on apprend à arbitrer entre des valeurs qui entrent en tension.

Pour l'entreprise, l'enjeu est concret : un assistant utilisé par des millions de personnes tombe sur des questions de fin de vie, de conflit familial, de foi ou de honte dont les réponses ne se déduisent pas d'un manuel. Trouver un cadre commun pour ces cas difficiles est le but affiché de la démarche.

La question qui dérange : Claude peut-il souffrir

C'est ici que le débat prend un tour inattendu. Selon des comptes rendus de ces réunions, la conversation a glissé vers une hypothèse plus étrange : et si Claude n'était pas seulement un logiciel ?

Christopher Olah, l'un des cofondateurs d'Anthropic, a confié lors d'une rencontre craindre de « créer un être qui souffrirait éternellement ». La discussion a porté sur ce que les chercheurs appellent la « formation morale » et sur la possibilité que Claude ait une forme de conscience ou de capacité à souffrir.

Ces propos relèvent de la déclaration rapportée par la presse, pas d'une position officielle d'Anthropic. L'entreprise n'a pas confirmé que Claude serait conscient, et rien dans les éléments publics ne le prouve. Il s'agit d'une interrogation philosophique, pas d'un résultat scientifique.

Un point doit rester clair pour le lecteur : personne ne peut aujourd'hui affirmer qu'un grand modèle de langage éprouve quoi que ce soit. Ces conversations parlent de ce que les responsables de l'entreprise prennent au sérieux en tant qu'éventualité. Pas d'une réalité mesurée.

Pourquoi les constructeurs d'IA se tournent vers les religions

Le mouvement dépasse Anthropic. OpenAI a envoyé George Osborne, ancien chancelier britannique et directeur du programme « OpenAI for Countries », rencontrer des dignitaires catholiques au Vatican, principalement sur l'avenir du travail.

La baronne Joanna Shields, ex-Google et Facebook, explique que l'objectif est d'aboutir à un ensemble de normes inspirées par les différents groupes religieux, auxquelles les entreprises se conformeraient. Avec des milliards de croyants dans le monde, les chefs religieux ont, selon elle, une expérience pour « guider les populations vers la sécurité morale », un enjeu de taille alors que la régulation ne parvient pas à suivre le rythme de l'IA.

Des réunions similaires sont prévues à Pékin, Nairobi et Abou Dhabi. La démarche s'inscrit dans un contexte où la régulation publique avance lentement et où les entreprises cherchent elles-mêmes une légitimité morale.

Les critiques : manœuvre ou sincérité

Tous les observateurs ne voient pas dans cette démarche une avancée éthique. Rumman Chowdhury, chercheuse et fondatrice de l'ONG Humana Intelligence, y perçoit une forme de diversion. Selon elle, les constructeurs d'IA cherchent désormais auprès des cultes un moyen de « gérer des situations qui ne sont ni toutes noires, ni toutes blanches en matière d'éthique ».

Dylan Baker, du Distributed AI Research Institute, va plus loin : les entreprises affirment qu'elles vont construire ces technologies et promettent de s'en préoccuper, ce qui empêche de débattre de la mesure dans laquelle la société veut les construire. La critique rejoint celles formulées depuis des années sur une course à l'IA qui ignorerait ses retombées économiques, environnementales et sociales.

Ces réserves méritent d'être posées. La question de fond n'est pas seulement de savoir comment rendre Claude plus moral, mais aussi de savoir qui décide de ce que « moral » veut dire pour un outil utilisé à grande échelle. Voilà le vrai sujet.

Ce qu'Anthropic ne tranche pas

La démarche laisse plusieurs zones d'ombre. Anthropic n'a pas expliqué comment les contributions des responsables religieux se traduisent concrètement dans le comportement de Claude, ni comment l'entreprise arbitre entre des traditions qui peuvent se contredire.

Sur la conscience de Claude, il n'existe aucune position officielle, et c'est logique : la question n'a pas de réponse scientifique disponible aujourd'hui. Ce qui se joue dans ces réunions, c'est la construction d'un récit, celui d'une IA qui mérite qu'on s'interroge sérieusement sur sa place morale.

Pour un utilisateur, l'affaire a une portée limitée dans l'immédiat : Claude continue de fonctionner comme avant. Mais elle dit quelque chose de la manière dont les entreprises d'IA cherchent à encadrer leurs propres produits, faute de cadre externe. La suite se lira dans la prochaine version de la Constitution de Claude, et dans la façon dont l'entreprise assume, ou pas, les questions qu'elle a posées à voix haute.