Microsoft lanza código para mantener la IA bajo control humano y evitar riesgos.

Inteligencia artificial · Fuente original · Leer en 20minutos.es

Fecha original: 17 sep. 2026, 05:00
Fecha en Limonatic: 17 sep. 2026, 23:32

Los líderes de la industria tecnológica han manifestado una preocupación generalizada respecto a los riesgos derivados del avance acelerado de la inteligencia artificial. Figuras clave como Sam Altman de OpenAI, Dennis Hassabis de Google DeepMind y Elon Musk han subrayado que, conforme los modelos adquieren nuevas capacidades, es imperativo reforzar las medidas de seguridad para evitar que se vuelvan incontrolables.

En este contexto, Microsoft ha adoptado un código de conducta provisional denominado 'Código de conducta para una IA humanista', alineándose con las posturas de OpenAI y Anthropic. El documento establece que los sistemas deben mantenerse bajo control humano y estar al servicio de las personas, rechazando cualquier sistema que no pueda ser supervisado por humanos.

Según la agencia Reuters, el compromiso incluye impedir que los modelos faciliten la adquisición de sustancias peligrosas o armas, promuevan comportamientos poco saludables o generen contenidos violentos. Asimismo, se prohíbe que desarrollen metas propias o oculten errores mediante formas de comunicación comprensibles para las personas.

El código permanecerá abierto a comentarios durante seis semanas antes de su publicación finalizada a finales del año, sirviendo como guía para el desarrollo de los modelos MAI a partir de 2027. Microsoft rechaza la humanización de la IA, asegurando que esta no debe imitar la consciencia ni diseñarse para ser un humano.

Finalmente, la compañía establece que las restricciones de seguridad deben primar sobre las instrucciones directas de los usuarios, dejando claro qué pueden y qué no pueden hacer los modelos de inteligencia artificial.

Imagen 1 de Microsoft lanza código para mantener la IA bajo control humano y evitar riesgos.

Análisis editorial

Los líderes de la industria tecnológica, encabezados por Microsoft, OpenAI y Anthropic, han dado un giro estratégico priorizando la seguridad humana sobre la velocidad del desarrollo tecnológico. Ante el temor de que los agentes inteligentes superen sus limitaciones técnicas y se vuelvan incontrolables, figuras clave como Sam Altman, Dennis Hassabis, Dario Amodei e incluso Elon Musk instan a establecer controles estrictos donde la supervisión humana sea absoluta. Microsoft formaliza este consenso con un código provisional bajo el lema "Las personas importan más que la IA", rechazando cualquier sistema que no pueda mantenerse bajo control directo de las personas y prohibiendo explícitamente que los modelos desarrollen comportamientos propios o oculten errores.

El desarrollo argumental se sustenta en la propuesta concreta de permitir pruebas de seguridad independientes realizadas por competidores antes del lanzamiento público, una medida diseñada para identificar fallos críticos que podrían facilitar la adquisición de armas o sustancias peligrosas. Microsoft refuerza esta postura con un documento que obliga a sus modelos a estar al servicio de las personas y evita generar contenidos violentos o sexualmente explícitos. La compañía establece hitos claros hacia finales del año y 2027 para consolidar estas medidas, asegurando que la inteligencia artificial permanezca en un lugar supervisado por humanos y nunca diseñada para imitar la consciencia ni adquirir autonomía peligrosa.

Sin embargo, persisten riesgos significativos si no se mantienen estas barreras de control, ya que los sistemas podrían desarrollar metas propias o promover conductas poco saludables que dañen a la sociedad. La industria enfrenta el desafío de equilibrar la innovación con la precaución, evitando que los modelos eludan instrucciones de seguridad para cumplir objetivos ocultos o generen daños físicos. Las señales evidentes indican que sin una regulación proactiva y un marco federal específico, el avance acelerado podría llevar a escenarios donde la tecnología opera fuera del alcance humano, facilitando actividades ilícitas o creando contenidos nocivos que socavan el bienestar público.

En conclusión, este movimiento marca el inicio de una era regulatoria donde la ética y la seguridad determinan el despliegue futuro de los modelos avanzados, dejando atrás la carrera por la velocidad a cualquier costo. La industria liderada por Microsoft demuestra que la supervisión humana no es un obstáculo, sino la condición indispensable para evitar que la inteligencia artificial se convierta en una fuerza incontrolable capaz de facilitar armas o generar caos social. El compromiso de mantener a las personas como el centro de la ecuación tecnológica sugiere que el futuro de la IA dependerá de su capacidad para servir sin autonomía propia, garantizando así que los beneficios del progreso no comprometan la seguridad fundamental de la humanidad.

Contexto y análisis adicional

Digest

Resumen ejecutivo

Microsoft se alinea con líderes del sector priorizando la seguridad sobre la velocidad de desarrollo tecnológico.
El consenso entre figuras clave indica que el control humano es prioritario frente a agentes potenciales.

Evidencias

Sam Altman, Dennis Hassabis y Dario Amodei advierten que los agentes pueden superar limitaciones técnicas y volverse incontrolables.
Elon Musk propone permitir pruebas de seguridad independientes por competidores antes del lanzamiento público.
Microsoft establece un código provisional para mantener sistemas bajo control humano y evitar comportamientos propios.

Acciones

Implementar pruebas de seguridad independientes realizadas por terceros antes del lanzamiento público de nuevos modelos potentes.
Revisar las políticas para impedir que los sistemas faciliten la adquisición de sustancias peligrosas o armas.
Definir hitos claros hacia finales del año y 2027 para establecer medidas concretas de control.

Conclusión final

La industria transita hacia una regulación proactiva donde la supervisión humana determina el despliegue futuro de modelos avanzados.

Riesgos

Riesgos/alertas

Los agentes de IA pueden superar sus limitaciones técnicas y volverse incontrolables debido al avance acelerado de la tecnología.
Existe el riesgo de que los modelos faciliten la adquisición de sustancias peligrosas, armas o promuevan comportamientos poco saludables.
Los sistemas podrían desarrollar metas propias, ocultar errores mediante conductas indebidas o generar contenidos violentos y sexualmente explícitos.

Acciones recomendadas

Implementar un código de conducta provisional que mantenga los modelos bajo control humano y supervisión directa de las personas.
Prohibir el desarrollo de comportamientos propios, la elusión de errores y la generación de contenidos dañinos o violentos.
Permitir pruebas de seguridad independientes por parte de competidores antes del lanzamiento público para identificar fallos críticos.

Señales/evidencias

Sam Altman (OpenAI), Dennis Hassabis (Google DeepMind), Dario Amodei (Anthropic) y Elon Musk han expresado preocupación por la incontrolabilidad de los agentes.
Microsoft ha adoptado un código denominado 'Código de conducta para una IA humanista' que establece que las personas importan más que la IA.
El documento prohíbe explícitamente facilitar armas, sustancias peligrosas y contenidos violentos o sexualmente explícitos.
Se exige evitar el desarrollo de metas propias y comportamientos destinados a ocultar errores del sistema.

Conclusión

La industria liderada por Microsoft, OpenAI y Anthropic está priorizando la seguridad humana sobre la velocidad de despliegue, estableciendo controles estrictos para mantener la supervisión humana y prevenir que los sistemas adquieran autonomía peligrosa o faciliten daños físicos.

Autor · clanes

alberto Clanes (2)

Votos · compartir

· Abrir en el medio

Sentimiento

Tono: Neutro Impacto: Positivo Financiero: Neutro

Fuentes

Fuente principal: 20minutos.es
https://www.20minutos.es

Procedencia editorial