David Robinson abandona OpenAI y exige protocolos nucleares para evitar fallos catastróficos
- Fecha original
- Fecha en Limonatic
David Robinson, responsable de transparencia en el equipo de seguridad de OpenAI, ha dimitido tras publicar un ensayo en The Atlantic donde critica que la empresa ha prosperado mediante un método de "ensayo y error" que ya no es viable a medida que la IA se vuelve más capaz. Su propuesta central sugiere que los laboratorios deben aprender de la industria nuclear para implementar capas de respaldo y una planificación lenta, evitando que un único error humano derive en catástrofe.
Robinson argumenta que sus antiguos compañeros son competentes y trabajan duro, pero que el proceso de correr de un lanzamiento a otro no alcanza el nivel de cuidado necesario.
OpenAI respondió a Bloomberg afirmando que está reforzando la seguridad en sus sistemas de investigación y pruebas mediante evaluadores externos y mejorando la supervisión en vivo.
Análisis editorial
David Robinson, responsable de transparencia en seguridad de OpenAI, ha dimitido tras señalar que la empresa ha prosperado mediante un método de 'ensayo y error' insuficiente para sistemas cada vez más capaces.
La propuesta de Robinson se centra en adoptar prácticas de la industria nuclear, con capas de respaldo y una planificación lenta y cuidadosa para evitar que un único error humano derive en catástrofe.
Autor · clanes
Votos · compartir
Sentimiento
Entidades (agregadas)
Hover para ver referencias.Detalles avanzados Timeline y mini scoring
Evolución temporal
-
Enviada
hace 2 días · Ingresó como candidata
-
Último estado
hace 1 día · Última actualización registrada
Fuentes
- Fuente principal
-
wwwhatsnew.com
https://wwwhatsnew.com
Comentarios