Von der Leyen pide desacelerar IA tras advertencias de CEOs sobre riesgos de ciberseguridad

La presidenta de la Comisión Europea Ursula von der Leyen apoyó este miércoles 16 de septiembre, en su discurso anual del Estado de la Unión ante el Parlamento Europeo en Estrasburgo, el llamamiento a frenar el ritmo de desarrollo de los modelos de IA más avanzados. Es la primera vez que una líder de esa categoría política —en Europa o en cualquier otra democracia occidental— se posiciona explícitamente a favor de esa posición.

La formulación que usó Von der Leyen es directa: «Los CEOs de las empresas más avanzadas nos han dicho que es hora de desacelerar en lo que respecta a los modelos auto-recursivos. Si las personas que están desarrollando la tecnología tienen esa opinión, nosotros también deberíamos tenerla.» Anunció que la Comisión convocará a los principales laboratorios de frontera para una discusión sobre cómo las autoridades públicas pueden apoyar «los esfuerzos de la industria para gestionar el ritmo de esta tecnología disruptiva.» No dio fecha concreta ni nombró a ninguna empresa.

El término que usó Von der Leyen —»pace the frontier»— es el que acuñó Dario Amodei de Anthropic en su ensayo del 12 de septiembre pidiendo a los laboratorios que coordinaran una desaceleración voluntaria. Sam Altman y Elon Musk respaldaron ese llamamiento el mismo día. Trump lo rechazó. Von der Leyen lo adoptó cuatro días después desde la tribuna del Parlamento Europeo.

¿Qué motivó la posición de Von der Leyen?

El argumento que Von der Leyen usó en el Parlamento no fue filosófico sino de seguridad concreta: «Los modelos que están siendo desarrollados permitirán hackear a un nivel que nunca habíamos pensado posible. Y pronto estarán en manos de adversarios que ven el mundo de forma muy diferente a nosotros.» La referencia implícita al incidente de OpenAI-Hugging Face —sin nombrarlo— y a las advertencias de investigadores de seguridad sobre los riesgos de los modelos más capaces dan el contexto que convierte el llamamiento en algo más que retórica política.

Llevamos en wwwhatsnew.com siguiendo la evolución del debate sobre soberanía y seguridad de la IA en Europa y hemos comprobado que el diagnóstico de Dario Amodei sobre los riesgos de los modelos más avanzados, que publicó en marzo de 2026 antes de que el debate fuera tan explícito, anticipó exactamente el tipo de argumento que Von der Leyen usó hoy. La pregunta de si Europa está preparada para una IA más inteligente que sus propias defensas industriales tiene ahora respuesta institucional de la máxima autoridad de la Comisión Europea.

¿Qué más anunció Von der Leyen sobre IA y tecnología?

El discurso incluyó también propuestas sobre menores y redes sociales que conectan directamente con la EU Kids Act que la Comisión presenta el jueves: prohibición de redes sociales para menores de 13 años, sin cuentas personales para menores de 15. Los detalles específicos de la EU Kids Act se publicarán mañana.

Von der Leyen también se situó en la posición contraria a Trump en el debate sobre AI governance: mientras el presidente americano descartó las advertencias sobre riesgos de la IA como «fuerzas negativas», la presidenta de la Comisión las tomó al pie de la letra y las llevó al discurso más importante de su mandato. La diferencia entre «quien gana la IA, gana» (Trump) y «si quienes construyen la tecnología dicen que hay que ir más despacio, nosotros también deberíamos» (Von der Leyen) es la distancia transatlántica en política de IA en septiembre de 2026.

Mark Zuckerberg se posicionó el martes en la dirección contraria a Von der Leyen, argumentando en X que la competencia entre laboratorios ya da incentivos suficientes para construir de forma segura. El contraste entre Altman (miedo justificado, pero confíen en nosotros), Von der Leyen (miedo justificado, y la regulación europea tiene un papel), Zuckerberg (el miedo está exagerado, el mercado funciona) y Trump (el miedo es una táctica de los competidores) es el mapa del debate en 2026.

Von der Leyen coordinará con Canadá, el Reino Unido y otros países afines en el trabajo sobre safety de IA. Las estimaciones de consumo energético de los centros de datos de IA en los próximos años son otra de las razones por las que la política energética y la política de IA están cada vez más entrelazadas en la agenda europea.

La propuesta de Von der Leyen de invitar a los laboratorios de frontera tiene también una segunda lectura estratégica: es una forma de incluir a OpenAI, Anthropic y Google DeepMind en el marco regulatorio europeo a través del diálogo antes de que el AI Act exija su inclusión por obligación. Si los laboratorios participan voluntariamente en la discusión sobre cómo gestionar el ritmo de desarrollo, la Comisión puede presentar ese proceso como ejemplo de gobernanza colaborativa. Si se resisten, la Comisión tiene el AI Act y el DSA como instrumentos de presión. Von der Leyen está abriendo una puerta que, si los laboratorios la cruzan, les da influencia sobre el proceso regulatorio; si la ignoran, les cierra opciones.

El timing no es inocente. Anthropic tiene su OPV en octubre, con todos los ojos del mundo financiero mirando su modelo de negocio y su relación con los reguladores. Una invitación formal de la Comisión Europea para hablar de seguridad llega en el peor momento para negarse. OpenAI tampoco puede permitirse una confrontación regulatoria en Europa en la semana en que descartó su OPV por razones de seguridad. Von der Leyen ha elegido bien el momento para hacer el movimiento.

La propuesta de prohibición de redes sociales para menores de 13 años que Von der Leyen anunció en el mismo discurso conecta directamente con la EU Kids Act que la Comisión presentó el jueves: el límite de 13 años (que el panel de expertos recomendó) versus 15 (que prefería Francia) aparentemente se resolvió en favor de los 13 años como mínimo en las plataformas, con restricciones adicionales hasta los 15. Si esas dos propuestas de la Comisión —freno al desarrollo de modelos de frontera e EU Kids Act— se concretan en legislación vinculante antes de 2027, el marco regulatorio europeo de la IA pasará de ser el más avanzado del mundo en intención a ser también el más ejecutado.

La noticia Von der Leyen apoya el freno al desarrollo de IA en su discurso del Estado de la Unión: invitará a los grandes laboratorios a una reunión fue publicada originalmente en Wwwhatsnew.com por Natalia Polo.