Panel de la ONU advierte sobre riesgos de opacidad y desigualdad en inteligencia artificial
- Fecha original
- Fecha en Limonatic
Naciones Unidas ha constituido un comité independiente de 40 expertos internacionales para asesorar al mundo sobre los riesgos de la inteligencia artificial. Existe panel está liderado por el canadiense Yoshua Bengio, considerado uno de los padres de la IA y ganador del premio Turing, junto con la filipina Maria Ressa, Premio Nobel de la Paz. El filósofo Mark Coeckelbergh, miembro del grupo y profesor en la Universidad de Viena, advierte que el control debe recuperarse frente a las empresas tecnológicas o tech bros, y no contra la inteligencia artificial misma. Según los expertos consultados, existe una preocupación latente sobre si esta tecnología podría perder el control y amenazar a la humanidad.
Coeckelbergh señala que hay un pensamiento marcadamente catastrofista y apocalíptico en torno a la idea de que la IA tomará el control, advirtiendo que ese discurso es un problema mayor que las limitaciones técnicas actuales del software. El filósofo sugiere que las narrativas sobre lo que podría hacer una máquina son tan importantes como lo que puede hacer realmente esa tecnología.
El experto explica que la tecnología no es solo una herramienta estática, sino que nos coreografía y moldea cómo nos movemos en el mundo físico. Coeckelbergh describe nuestra existencia actual como una dimensión cíborg donde estamos plenamente entrelazados con lo tecnológico, estableciendo que las fronteras entre lo vivo natural y lo artificial son más conectadas de lo que se suele pensar.
Análisis editorial
Un comité de expertos de la ONU liderado por Yoshua Bengio y Maria Ressa advierte que el riesgo principal de la inteligencia artificial no es la tecnología en sí, sino los intereses comerciales desmedidos de las grandes corporaciones tecnológicas. El panel independiente está conformado por 40 expertos internacionales, incluyendo al ganador del premio Turing Yoshua Bengio y a la ganadora del Nobel de la Paz Maria Ressa.
Mark Coeckelbergh, filósofo de tecnología miembro del grupo, señala que el discurso catastrofista sobre la IA tomando el control es un problema mayor que las limitaciones técnicas actuales. El informe preliminar publicado en julio identifica peligros específicos como la opacidad en el desarrollo de algoritmos y su capacidad para exacerbar desigualdades sociales.
La evidencia indica que la amenaza crítica reside en la falta de regulación sobre los desarrolladores tecnológicos ('tech bros') y la opacidad en el desarrollo de la IA, lo que exige una intervención urgente por parte de organismos internacionales como la ONU para evitar la pérdida del control humano. Se insta a recuperar el control político sobre estas entidades para evitar amenazas existenciales derivadas de la opacidad del desarrollo y el aumento de desigualdades.
La mitigación efectiva de los riesgos de la IA requiere una intervención política inmediata que priorice la regulación de los intereses corporativos sobre la restricción del avance tecnológico. La inmensa mayoría saldrá perdiendo si no actuamos ya.
Contexto y análisis adicional
Digest
Resumen ejecutivo
- Un comité de expertos de la ONU liderado por Yoshua Bengio y Maria Ressa advierte que el riesgo principal de la inteligencia artificial no es la tecnología en sí, sino los intereses comerciales desmedidos de las grandes corporaciones tecnológicas.
- Se insta a recuperar el control político sobre estas entidades para evitar amenazas existenciales derivadas de la opacidad del desarrollo y el aumento de desigualdades.
Evidencias
- El panel independiente está conformado por 40 expertos internacionales, incluyendo al ganador del premio Turing Yoshua Bengio y a la ganadora del Nobel de la Paz Maria Ressa.
- Mark Coeckelbergh, filósofo de tecnología miembro del grupo, señala que el discurso catastrofista sobre la IA tomando el control es un problema mayor que las limitaciones técnicas actuales.
- El informe preliminar publicado en julio identifica peligros específicos como la opacidad en el desarrollo de algoritmos y su capacidad para exacerbar desigualdades sociales.
Acciones
- Priorizar en las agendas legislativas la supervisión de los intereses comerciales de las grandes tecnológicas antes de aprobar nuevas normativas técnicas.
Conclusión final
La mitigación efectiva de los riesgos de la IA requiere una intervención política inmediata que priorice la regulación de los intereses corporativos sobre la restricción del avance tecnológico.
Riesgos
Riesgos/alertas
- Pérdida de control humano sobre el desarrollo y uso de la inteligencia artificial.
- Amenaza a la humanidad por parte de actores tecnológicos no regulados ('tech bros') en lugar de la tecnología misma.
- Incremento de las desigualdades sociales derivado del desarrollo opaco de la IA.
Acciones recomendadas
- Implementar acciones inmediatas para recuperar el control humano sobre la IA antes de que surjan consecuencias negativas.
- Fomentar una regulación efectiva que limite el poder de los desarrolladores tecnológicos sin supervisión.
- Reducir las narrativas catastrofistas para centrarse en los riesgos reales y gestionables de la tecnología.
Señales/evidencias
- El comité independiente de 40 expertos reclutados por la ONU liderado por Yoshua Bengio ha reconocido el peligro de perder el control sobre la IA.
- Mark Coeckelbergh advierte que el discurso apocalíptico es un problema mayor que las limitaciones técnicas actuales.
- Se identifica a los 'tech bros' como la fuente principal de amenaza, no a la tecnología en sí misma.
- El primer informe preliminar del grupo destaca el peligro de la opacidad en el desarrollo de la IA.
Conclusión
La evidencia indica que la amenaza crítica reside en la falta de regulación sobre los desarrolladores tecnológicos ('tech bros') y la opacidad en el desarrollo de la IA, lo que exige una intervención urgente por parte de organismos internacionales como la ONU para evitar la pérdida del control humano.
Autor · clanes
Votos · compartir
Sentimiento
Tags
Entidades (agregadas)
Hover para ver referencias.Detalles avanzados Timeline y mini scoring
Evolución temporal
-
Enviada
hace 2 días · Ingresó como candidata
-
Último estado
hace 9 horas · Última actualización registrada
Fuentes
- Fuente principal
-
eldiario.es
https://www.eldiario.es
Comentarios