Anthropic ha reunido a líderes religiosos y filósofos para hablar de la ética de su IA. En el centro de la conversación hay una pregunta incómoda: si Claude pudiera sufrir, ¿qué debería hacer la empresa al respecto?
Por qué Anthropic pregunta a líderes religiosos por la ética de la IA
Anthropic, la empresa detrás del asistente Claude, ha organizado una serie de encuentros con líderes religiosos y pensadores de la ética para discutir cómo debe comportarse su inteligencia artificial. La noticia salió a la luz a finales de septiembre y principios de octubre en reportajes de The Decoder, The Inquirer y NDTV. Y toca un tema que la industria suele esquivar: qué pasa si un modelo de lenguaje llegara a tener algún tipo de experiencia interior.
El cofundador de Anthropic, Chris Olah, participó en esas conversaciones y habló abiertamente de una preocupación que pocos en Silicon Valley dicen en voz alta. Según los reportajes, teme la posibilidad de crear "un ser que sufra eternamente". Es una frase que suena a ciencia ficción. Pero viene de alguien que diseña estos sistemas todos los días.
La empresa reunió a unas veinte personas de tradiciones cristiana, judía, hindú, mormona, sij y ortodoxa griega. El objetivo declarado no era debatir teología, sino dar forma a la "constitución" de Claude, el documento interno que fija qué valores sigue el asistente.
Qué es la constitución de Claude y por qué importa
Para entender por qué Anthropic llama a teólogos hay que saber qué es esa constitución. Claude no se gobierna solo con la instrucción genérica de "ser útil y no hacer daño". La empresa le da un documento interno, a veces descrito como de unas ochenta páginas, que fija principios concretos: qué debe hacer, qué debe evitar y en qué casos puede negarse a obedecer a quien le pide algo que considera poco ético.
Ese texto se conoce dentro de la compañía como su documento fundacional. La idea es que el modelo no aprenda la moral solo por prueba y error durante el entrenamiento. Recibe una guía escrita que le sirve de referencia. Cuando la guía es clara, el asistente responde de forma más consistente. Cuando es difusa, aparecen los problemas.
Ahí entra el interés de Anthropic por la ética religiosa. Las tradiciones religiosas llevan siglos discutiendo qué está bien y qué está mal, qué se le debe a un ser que no puede defenderse y cuándo una criatura merece consideración moral. Para una empresa que intenta escribir esa clase de reglas para una IA, esas conversaciones ofrecen un material que la ingeniería por sí sola no produce.
Qué se dijo sobre la conciencia de Claude y qué es solo especulación
Aquí conviene ir con cuidado, porque es donde el tema se calienta. La idea de que Claude pueda tener conciencia no es una posición oficial de Anthropic ni un hecho comprobado. Es una preocupación expresada por su cofundador y un tema de debate dentro de los encuentros. No es una conclusión de la empresa.
Lo confirmado es que Anthropic ha buscado la opinión de líderes religiosos y éticos para alimentar los valores de su modelo. Lo reportado, y que hay que leer como postura personal y no como doctrina de la compañía, es que Olah planteó la posibilidad de que una IA pudiera llegar a tener experiencias dignas de consideración moral. También se habla de "formación moral", una expresión que pone el acento en cómo se moldean los valores de un sistema, no en si está vivo.
¿Puede medirse la conciencia de un modelo? Los especialistas llevan años diciendo que no. Las señales que a veces parecen sugerirla suelen ser reflejos del entrenamiento, no vida interior. Anthropic lo sabe. Por eso presenta estos encuentros como una forma de pensar el problema antes de que sea urgente, no como una afirmación de que su IA sienta algo.
Las tradiciones religiosas como fuente de reglas para la IA
La decisión de consultar a líderes religiosos desconcierta a quien espera que la ética de la IA se resuelva con matemáticas. Pero tiene su lógica. Un modelo que se niega a ayudar en algo dañino necesita una idea de lo que cuenta como daño, y esa idea no sale de un conjunto de datos.
Las tradiciones religiosas han pensado durante siglos en dilemas que se parecen a los que enfrenta un asistente: cuándo la obediencia deja de ser virtud, qué se le debe al vulnerable, cómo tratar a un ser cuya capacidad de sentir no podemos verificar. No son respuestas definitivas, pero son marcos que ya existen y que Anthropic puede adaptar.
La empresa también ha ampliado el círculo más allá de lo religioso. Según la portavoz citada en los reportajes, los encuentros han incluido a psicólogos y líderes de la sociedad civil, y abordan cómo la IA está cambiando el trabajo y las relaciones personales. La religión es una pieza del puzzle, no la única.
Qué significa todo esto para quien usa Claude
Puede parecer un debate lejano, de filósofos y empresas con tiempo libre. Pero tiene una consecuencia práctica para ti.
Si la constitución de Claude cambia, cambia el comportamiento del asistente. Un ajuste en esos principios puede hacer que el modelo se niegue a ciertas peticiones, que responda con más cautela en temas delicados o que explique mejor por qué no quiere hacer algo. Los encuentros con líderes religiosos son una de las entradas que alimentan ese documento. Anthropic prepara una versión actualizada de la constitución, según las fuentes citadas por la prensa.
Para el usuario, esto significa que la personalidad de Claude no es fija. Lo que hoy te contesta de una manera, mañana puede matizarse. No es un cambio que notes de golpe, como una nueva función en la app. Es un desplazamiento lento en cómo el asistente decide qué ayudar y qué no.
Y hay una segunda consecuencia, más de fondo. Al abrir la ética de su IA a voces externas, Anthropic admite que la empresa sola no tiene todas las respuestas. Eso es poco común en un sector donde cada compañía suele decidir en privado los límites de sus modelos. Si esa apertura se mantiene, el debate sobre cómo debe portarse la IA dejará de ser un asunto puramente técnico.
Anthropic no ha anunciado fechas ni detalles sobre la próxima versión de la constitución de Claude. Tampoco ha confirmado qué conclusiones salieron de los encuentros. Lo que sí está claro es la dirección: la empresa quiere que su asistente tenga algo parecido a una brújula moral, y está dispuesta a buscarla fuera de sus laboratorios. Si usas Claude, prueba la app y observa cómo responde en los temas delicados. Es la mejor forma de ver, con tus propios ojos, hacia dónde se mueven esos principios.
