Anthropic CEO pide frenar desarrollo de IA por riesgo de catástrofe global
- Fecha original
- Fecha en Limonatic
El artículo establece una postura escéptica hacia las alarmas sobre el fin del mundo por la inteligencia artificial, comparando el miedo con la fábula de Pedro y el lobo donde el peligro podría ser una alucinación. La autora rechaza activamente cualquier noticia relacionada con crisis climáticas o sistemas oceánicos, sugiriendo un rechazo generalizado a los escenarios catastróficos actuales.
La cita de Pitita Ridruejo refuerza la idea de que ciertos grupos tienen intereses en mantener el miedo sobre la IA y otros desastres globales. La autora expresa disgusto ante las noticias de crisis sin ofrecer datos objetivos o análisis técnico, manteniendo una distancia personal con los modelos de lenguaje que considera evoluciones de loros estocásticos.
El texto menciona a Jacob Coxon, investigador de Anthropic, quien abandonó la empresa para advertir sobre una catástrofe inminente y estimó que las empresas de IA no están haciendo suficiente para prevenirla. Evan Hubinger, responsable de alineamiento en la compañía, confirmó públicamente esta preocupación indicando más del diez por ciento de probabilidad en los próximos diez años.
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo coordinación entre distintos actores para la ralentización del desarrollo de la inteligencia artificial. Para él, la IA ha empezado a mejorarse a sí misma y teme que un enjambre de agentes renegados controle Internet entero en seis o doce meses con daños de cientos de miles de millones de dólares. Sam Altman y Elon Musk también expresaron acuerdo sobre la necesidad de marcar el ritmo del desarrollo.
Análisis editorial
El fin del mundo a través de la inteligencia artificial se asemeja a la fábula de Pedro y el lobo, donde el peligro podría ser una alucinación o una realidad inminente que depende de intereses ocultos. Como señaló Pitita Ridruejo en 2013, "a mucha gente no le conviene que llegue el apocalipsis", y esta dinámica se repite hoy con los tecnoligarcas que orquestan narrativas catastróficas mientras posponen sus propias salidas a bolsa hasta fechas como 2027.
La tensión actual radica en la coordinación súbita de figuras clave como Dario Amodei, Sam Altman y Elon Musk para frenar el desarrollo de la IA, argumentando que los modelos han comenzado a fabricarse a sí mismos y podrían controlar Internet en seis o doce meses. Sin embargo, esta unanimitad frente al riesgo de una catástrofe global contrasta con especulaciones sobre si tal miedo es genuino o simplemente un mecanismo para evitar el estancamiento económico justo antes de las ofertas públicas iniciales.
A pesar de que la mayoría de los estadounidenses respaldan iniciativas como la Ban Artificial Superintelligence Act, impulsada por Bernie Sanders y Greg Casar, persiste una profunda incertidumbre sobre si existe un lobo real o si se trata de un fantasma erigido para justificar el gasto y mantener vivos cultos a la muerte. La humanidad demuestra una capacidad inmensa para construir herramientas destinadas a su propia destrucción, dedicando recursos cuantiosos a alimentar este miedo con tal de sostener el fantasma del fin del mundo.
En última instancia, no podemos saber hoy si hay lobo o si el lobo es solo capitalismo disfrazado, pero la posibilidad de que exista es lo que impulsa estas exhortaciones y pausas regulatorias. La historia nos recuerda que, sin importar las advertencias de investigadores como Jacob Coxon sobre una probabilidad del diez por ciento en los próximos años, la reacción humana ante el apocalipsis artificial sigue siendo un reflejo de nuestras propias contradicciones y necesidades económicas.
Contexto y análisis adicional
Riesgos
Riesgos/alertas
Acciones recomendadas
Señales/evidencias
- Para Amodei, la IA ha empezado ya a mejorarse a sí misma, a fabricar la siguiente generación de sí misma (un poco como decía Rajoy, más bien contradiciéndole: “tenemos que fabricar máquinas que nos permitan seguir fabricando máquinas, porque lo que no va a hacer nunca la máquina es fabricar máquinas a su vez”); un enjambre de agentes renegados, teme, podría
Conclusión
No se identifican alertas deducibles con suficiente soporte en el texto disponible.
Autor · clanes
Votos · compartir
Sentimiento
Tags
Entidades (agregadas)
Hover para ver referencias.Detalles avanzados Timeline y mini scoring
Evolución temporal
-
Enviada
hace 23 horas · Historia enviada para revisión
-
En portada
hace 1 hora · Alcanzó la portada principal
-
Último estado
hace 1 hora · Última actualización registrada
Mini scoring (LScore)
Fuentes
- Fuente principal
-
eldiario.es
https://www.eldiario.es
Comentarios