OpenAI incorpora a Paul Christiano a su consejo

9 de septiembre de 2026. Paul Christiano, investigador especializado en mantener los sistemas de IA alineados con los intereses humanos y bajo control, se incorporará al consejo de OpenAI Foundation, según anunció la organización.

Christiano también formará parte del Safety and Security Committee de OpenAI, presidido por Zico Kolter, profesor de Carnegie Mellon University. El comité tiene la decisión final sobre el lanzamiento de nuevos modelos de la compañía.

En una publicación en redes sociales, Christiano afirmó que existe un riesgo significativo de que la rápida aceleración de las capacidades de IA provoque una pérdida catastrófica e irreversible del control en un futuro próximo. También señaló que el sector, incluida OpenAI, no está actualmente encaminado a reducir ese riesgo hasta un nivel aceptable.

Christiano desarrolló en OpenAI la técnica de reinforcement learning from human feedback (RLHF), utilizada para entrenar grandes modelos de lenguaje. Abandonó la empresa en 2021 y posteriormente fundó Alignment Research Center para estudiar cómo determinar si un modelo de IA podría amenazar a sus creadores humanos.

El investigador continuará asesorando al Gobierno de Estados Unidos en materia de IA y se recusará de los asuntos de OpenAI y de las evaluaciones de modelos relacionadas con su nuevo cargo.

Fuente: TechCrunch.