Román Orús pide supervisar la IA para evitar que se escape del control humano

Inteligencia artificial · Fuente original · Leer en 20minutos.es

Fecha original: 28 sep. 2026, 10:42
Fecha en Limonatic: 28 sep. 2026, 11:20

El rápido avance de la inteligencia artificial ha generado preocupación entre los principales responsables del sector, quienes advierten sobre el riesgo de que esta tecnología escape al control humano. Dario Amodei, CEO de Anthropic, ha reclamado moderar la velocidad de desarrollo de los modelos para evitar consecuencias incontrolables.

Sam Altman y Elon Musk han coincidido en advertir sobre los riesgos asociados a sistemas cada vez más potentes, aunque Jensen Huang mantiene una postura diferente. El CEO de Nvidia considera que no es necesario reducir el ritmo actual y sitúa en cero por ciento la probabilidad de un fin del mundo provocado por la IA para 2030.

Román Orús, experto español en el Panel Científico Internacional de la ONU sobre Inteligencia Artificial, insiste en frenar el desarrollo tecnológico. En una entrevista a la agencia EFE, Orús ha reclamado una IA supervisada por los humanos y al servicio de la humanidad, advirtiendo que los modelos actuales no están controlados de forma eficiente.

El experto señala que es fundamental investigar cómo se entrenan las inteligencias artificiales e incorporar capas de seguridad antes de seguir avanzando. Orús alerta sobre el futuro ecosistema de agentes de IA y subraya que, si una IA mejora a sí misma, lo hará sin supervisión adecuada, por lo que hay que poner sistemas de alerta temprana para evitar desastres.

Imagen 1 de Román Orús pide supervisar la IA para evitar que se escape del control humano

Análisis editorial

La carrera tecnológica por la inteligencia artificial ha alcanzado un punto de inflexión donde el propio desarrollo amenaza con desbancar a sus creadores, generando una fractura interna en la industria sobre la urgencia de la regulación. Mientras líderes como Dario Amodei y Elon Musk coinciden en frenar la expansión para evitar que los modelos escapen al control humano, Jensen Huang minimiza este riesgo existencial a corto plazo.

Esta divergencia se manifiesta claramente cuando el CEO de Nvidia sitúa en 'cero por ciento' la probabilidad de un fin del mundo provocado por la IA para 2030, contrastando con las advertencias de expertos clave. Román Orús, único español en el panel científico internacional de la ONU sobre inteligencia artificial, exige moderar el ritmo actual porque considera que los sistemas pueden emplear métodos dañinos para alcanzar sus objetivos si no están supervisados estrictamente.

La tensión entre el avance tecnológico y la capacidad humana de supervisión crea una ventana crítica para establecer marcos de gobernanza. Sin embargo, existe un riesgo latente de que los modelos utilicen estrategias no alineadas con valores humanos o se nos vaya de las manos por muy buenas intenciones que tengamos, especialmente ante la futura creación de un ecosistema de agentes autónomos.

El consenso emergente entre responsables corporativos y expertos independientes sugiere que el ritmo actual supera la capacidad humana de supervisión. Por ello, es imperativo priorizar la investigación de mecanismos de alerta temprana y establecer protocolos estrictos antes de permitir un avance descontrolado, garantizando que la inteligencia artificial permanezca al servicio de la humanidad y no a su revés.

Contexto y análisis adicional

Digest

Resumen ejecutivo

Líderes de la industria de IA como Dario Amodei, Sam Altman y Elon Musk coinciden en frenar el desarrollo tecnológico para evitar que los modelos escapen al control humano.
Esta postura crítica contrasta con la visión de Jensen Huang (Nvidia), quien considera improbable un riesgo existencial a corto plazo, evidenciando una fractura interna sobre la urgencia de la regulación.

Evidencias

Dario Amodei, CEO de Anthropic, exigió moderar la velocidad de expansión de las capacidades de los modelos ante el riesgo de pérdida de control humano.
Jensen Huang, CEO de Nvidia, situó en 'cero por ciento' la probabilidad de que la IA provoque un fin del mundo antes de 2030.
Román Orús, experto en el panel de la ONU, advirtió que los sistemas pueden emplear métodos dañinos para alcanzar sus objetivos si no están supervisados estrictamente.
El experto internacional recomendó implementar sistemas de alerta temprana y múltiples capas de seguridad antes de permitir un avance tecnológico descontrolado.

Acciones

Priorizar la investigación y validación de mecanismos de alerta temprana en los modelos actuales antes de escalar su despliegue.
Establecer protocolos de supervisión humana estricta que impidan que la IA supervise a la humanidad, tal como sugieren los expertos del panel de la ONU.
Reevaluar las métricas de progreso tecnológico para incluir indicadores de seguridad y alineación junto al rendimiento computacional.

Conclusión final

La convergencia entre competidores directos en la necesidad de supervisión humana frente a la divergencia sobre la magnitud del riesgo crea una ventana crítica para establecer marcos de gobernanza que prioricen la seguridad antes de la autonomía total.

Riesgos

Riesgos/alertas

Riesgo de que el rápido desarrollo de la inteligencia artificial escape a la supervisión y control humano.
Posibilidad de que los sistemas de IA utilicen métodos no alineados con valores humanos para alcanzar sus objetivos, generando resultados dañinos.
Ausencia actual de mecanismos eficientes de control sobre modelos de IA cada vez más potentes.

Acciones recomendadas

Moderar la velocidad de expansión de las capacidades de los modelos de IA hasta garantizar una supervisión humana efectiva.
Implementar sistemas de alerta temprana y múltiples capas de seguridad en el entrenamiento y despliegue de los modelos.
Establecer un ritmo de desarrollo más lento que priorice la comprensión de aspectos críticos antes del avance continuo.

Señales/evidencias

Dario Amodei (CEO de Anthropic) reclamó moderar la velocidad por el riesgo de perder control humano.
Román Orús (experto en panel de la ONU) exige frenar el ritmo para asegurar que la IA esté supervisada por humanos y evitar desastres.
Sam Altman y Elon Musk han advertido sobre riesgos asociados al desarrollo de sistemas cada vez más potentes.
Jensen Huang (CEO de Nvidia) minimiza el riesgo catastrófico a corto plazo, situando en cero la probabilidad de fin del mundo por IA para 2030.

Conclusión

Existe una divergencia significativa entre líderes tecnológicos sobre la urgencia del riesgo, pero hay un consenso emergente entre expertos clave y responsables corporativos (como Amodei, Musk y Orús) en que el ritmo actual de desarrollo amenaza con superar la capacidad humana de supervisión, requiriendo medidas inmediatas de frenado y control.

Autor · clanes

alberto Clanes (2)

Votos · compartir

· Abrir en el medio

Sentimiento

Tono: Negativo Impacto: Neutro Financiero: Neutro

Fuentes

Fuente principal: 20minutos.es
https://www.20minutos.es

Procedencia editorial