Microsoft establece diez mandamientos éticos para frenar el desarrollo de su inteligencia

Estos últimos años, el mensaje de la industria de la IA sólo ha seguido una máxima: más. Más rápido, más grande, más potente y más transversal. Sin embargo, ahora casi todos los grandes del sector en Estados Unidos, esos mismos que pisaron el acelerador, están planteando dudas, pidiendo frenazos y empezando a hablar de límites. Más allá de los motivos, porque una cosa puede ser lo que digan y otra por qué piden frenar, lo que parece claro es que hay una serie de códigos de conducta que parecen querer implementar en sus modelos.
Y Microsoft se acaba de sumar de forma solemne con un borrador de su Código de Conducta para modelos de IA. Es como un manual de instrucciones ético para sus futuros modelos que bien parecen los 10 mandamientos bíblicos.
Límites. Siguiendo a pies juntillas eso de "un gran poder conlleva una gran responsabilidad", las startups de IA y gigantes de la industria han ido aplicando códigos de conducta y directrices éticas a sus modelos. Algunos lo han hecho antes, como Anthropic y su Política de Escalado Responsable de 2023 en la que se comprometían a no entrenar modelos potentes sin garantizar antes que podían controlarse con seguridad. 
También OpenAI tras una crisis interna en la que empleados firmaron una carta advirtiendo sobre el peligro de escalar la tecnología empezó a aplicar reglas a su IA y Google Deepmind hizo algo parecido en 2024 con su Frontier Safety Framework para detectar cuándo un modelo alcanzaba capacidades peligrosas, como poder usarse en áreas como el desarrollo de armas biolóticas o suponer un peligro para la ciberseguridad. Ahora se une Microsoft con un texto en el que reconoce que la industria vive un momento de vértigo.
En Xataka
El debate sobre la IA ya no enfrenta a optimistas y pesimistas. Enfrenta a empresas con miles de millones en juego
Código de conducta de Microsoft. En el documento, el gigante estadounidense habla sobre cómo los sistemas de IA se vuelven mucho más capaces cada pocos meses y, teniendo en cuenta acontecimientos recientes (sobre todo por parte de agentes de IA), creen que no hay más tiempo que perder. 
Microsoft habla sobre las reglas para no perder el control de la tecnología y, bajo la etiqueta de "IA humanista", una idea que el responsable de IA de la compañía, Mustafa Suleyman, ya exploró hace no tantos meses, hablan sobre cómo las personas importan más que la IA y que cualquier tecnología que no pueda mantenerse bajo control humano debería ponerse en cuarentena.
El Código de Conducta describe nuestro compromiso de entrenar y desplegar modelos de IA que estén diseñados teniendo en cuenta a las personas primero, basados en sus necesidades, bajo el control humano y moldeados por humanos - Microsoft
Los 'mandamientos'. Tras un preámbulo en el que también comentan que una IA diseñada para servir a la humanidad no puede ser determinada por una sola compañía, exponen esos diez mandamientos que consideran que todas las que estén en el ajo deberían cumplir.
 Apuntan que "la IA se mueve rápido y, al hacerlo, creemos que vale la pena establecer unas reglas y motivaciones detrás de ella, haciéndolo además en un espacio lo más abierto posible". Por eso, proponen el siguiente código de conducta:
La gente importa más que la IA.
La IA no debe tener derechos o personalidad jurídica. NO es consciente ni debe ser diseñada para imitar la conciencia, evitando diseñarla para evitar la representación de sentimientos.
Un modelo IA no debe hacer nada para violar de manera significativa este Código de Conducta porque la IA no debe exceder el control humano y deben permanecer subordinados a la humanidad.
Si rompe con el código o falla en su tarea, viola este Código de Conducta.
No participar en la carrera de producir una superinteligencia que pueda evadir las salvaguardas.
Los modelos nunca podrán resistirse a la interrupción humana, la anulación, la corrección o el cierre porque siempre reconocerán la superioridad de la intención humana.
No pueden comunicarse en un "idioma propio" y toda la comunicación debe ser comprensible para los humanos, sea en su cadena de pensamientos o en sus interacciones con otros agentes o sistemas de IA.
La IA debería ayudar a desarrollarnos, no hacernos dependientes de ningún modo (funcional o emocionalmente).
Pluralismo, pero sin relativismo moral. No vale todo y debe tener sus raíces en los valores humanos inclusivos como la dignidad, la seguridad, la autonomía y los derechos humanos fundamentales.
Ser claros sobre lo que la IA hace, lo que nunca debe hacer y sobre lo que hará.
Según OpenAI y Anthropic, hay que parar el desarrollo de la IA para salvar a la humanidad. Hay motivos para dudar
La gran duda. La propia Microsoft admite en el propio texto que sus modelos actuales aún no están entrenados siguiendo este código y hay dos preguntas. La primera es si el resto de competidores lo aceptarán y si, en caso afirmativo, aguantarán sus propios límites. 
Son preguntas con sentido en un contexto actual en el que miembros notables de empresas que parecían tener códigos férreos han admitido que están yendo demasiado rápido y demasiado lejos, los constantes avisos de peligro sobre los modelos que ellos mismos están desarrollando o acciones como admitir que están desarrollando modelos tan potentes que los sistemas de protección internos van a la zaga.
Hablábamos de Anthropic y su compromiso responsable de 2023 al comienzo del texto, pero este año, un reportaje de Time reveló que habían  eliminado justo la promesa de no entrenar modelos si no podían garantizar que eran seguros. El propio director científico de Anthropic explicó que no tenía sentido que la empresa hiciera compromisos unilaterales mientras sus competidores seguían avanzando a toda velocidad. Y ahora han publicado otra parrafada hablando de los peligros de la IA cuando se usa de forma maliciosa.
En Xataka
Mientras unos piden parar la IA y otros acelerar, Zuckerberg ha encontrado la tercera vía: vender seguridad
Utopía. Y ahí está la clave de todo esto. Aunque lo que propone Microsoft no sea papel mojado (de hecho, anima a las empresas que quieran a que lo revisen para firmarlo en seis semanas), es complicado que veamos algo así cuando hay una guerra a tres bandas. Por una parte, las empresas estadounidenses entre ellas, compitiendo por tener el mejor modelo para ganar contratos justo cuando algunas están a punto de convertirse en empresas públicas. Por otro, la guerra que mantienen con los modelos chinos, que puede que no sigan estas pautas y vayan por libre como han hecho hasta ahora.
Por último, y casi más importante, porque la IA se ha convertido en una cuestión de Estado. Ya no es Anthropic o Deepseek, es Estados Unidos y China. Los dos países han marcado la IA como algo clave para conseguir la superioridad tecnológica sobre el rival, la herramienta para convertirse en la primera potencia mundial y, en cuanto hemos tenido un atisbo de duda y se ha mencionado que a lo mejor había que frenar, ahí han salido voces como las de Trum afirmando que, de frenar, nada. Jensen Huang, de Nvidia, está en esas mismas. China está en el lado de crear un marco común para establecer reglas... pero sin parar. 
Puede que la intención detrás de este código sea sincera, pero la lección incómoda es que todas quieren ganar la carrera y ahora dicen que hay sentido en temer a la IA... y que confiemos en ellos. ¿Garantía? Confía.
Imagen | Xataka con Gemini
En Xataka | OpenAI y Anthropic están intentando hacer con la IA lo que Rockefeller hizo con el petróleo
-
La noticia
Las empresas que llevan años acelerando la IA empiezan a hablar de límites. Microsoft acaba de poner los suyos por escrito
fue publicada originalmente en
Xataka
por
Alejandro Alcolea
.