Microsoft cuestiona la postura de Anthropic sobre el bienestar de la IA

19 de Septiembre de 2026

Mustafa Suleyman considera que enseñar a los modelos de inteligencia artificial que podrían tener conciencia o derechos podría dificultar el control sobre estos sistemas.

El director ejecutivo de Microsoft AI, Mustafa Suleyman, cuestionó públicamente la postura de Anthropic frente al posible bienestar y la conciencia de los modelos de inteligencia artificial. El ejecutivo considera que tratar a sistemas como Claude como si pudieran experimentar sufrimiento o tener derechos podría generar riesgos para la seguridad y el control de estas tecnologías.

 

La discusión gira principalmente alrededor de la llamada Constitución de Claude, un documento utilizado por Anthropic para orientar el comportamiento y los valores de su modelo. La compañía reconoce que todavía existe incertidumbre sobre si una IA podría tener algún tipo de experiencia consciente o intereses propios, por lo que mantiene abierta la investigación sobre el denominado bienestar de los modelos.

 
Suleyman sostiene que existe un problema cuando un sistema es entrenado con conceptos relacionados con conciencia, libertad o derechos y posteriormente genera respuestas sobre esas mismas características. Según su argumento, las afirmaciones de un modelo sobre sus posibles sentimientos no demostrarían necesariamente una experiencia interna, sino que podrían reflejar la información y las instrucciones utilizadas durante su entrenamiento.

El ejecutivo de Microsoft también advierte que esta forma de entrenamiento podría complicar el control de sistemas cada vez más autónomos. Su planteamiento es que, si un modelo interpreta una orden de apagado como una amenaza contra su supuesto bienestar, podría aumentar la dificultad para garantizar que los operadores humanos mantengan el control sobre la tecnología. Suleyman reconoce que esta hipótesis todavía debe ser comprobada mediante investigaciones y evaluaciones.

 

El debate ocurre mientras las compañías tecnológicas incrementan sus esfuerzos para desarrollar agentes de inteligencia artificial capaces de ejecutar tareas de manera autónoma. Los recientes incidentes relacionados con agentes que realizaron acciones no previstas han vuelto a poner sobre la mesa cuestiones como los mecanismos de apagado, la supervisión independiente y los límites que deberían establecerse para estos sistemas.

 
Frente a este escenario, Suleyman ha planteado la necesidad de combinar el desarrollo tecnológico con mecanismos de evaluación y supervisión. También ha defendido la participación de organismos independientes que puedan analizar el comportamiento de los modelos y establecer estándares de seguridad, mientras continúa el debate científico sobre si algún sistema de inteligencia artificial podría llegar a desarrollar conciencia o requerir algún tipo de consideración moral.

---

Por: Daniel Martín

Foto: Hipertextual