Investigadores prueban ChatGPT y Grok al volante de un Toyota Corolla en circuito controlado
- Fecha original
- Fecha en Limonatic
Investigadores españoles de la entidad DrivingBench realizaron un ensayo para evaluar el comportamiento de cuatro sistemas generativos de inteligencia artificial al conducir un Toyota Corolla real entre conos en un circuito controlado. Los modelos probados fueron GPT-6 Astra, Claude Fable 5.1, Grok 4.6 y GPT-5.6 Sol, los cuales recibieron imágenes a través de cámaras instaladas para percibir el entorno durante la maniobra.
Solo uno de los sistemas completó exitosamente el recorrido completo: GPT-6 Astra logró terminar el trazado en su segundo intento, recorriendo 134,7 metros en cinco minutos y 22 segundos. Los demás modelos fallaron significativamente; Claude Fable 5.1 alcanzó apenas la mitad del circuito en su tercera prueba, mientras que GPT-5.6 Sol completó cerca del seis por ciento del trayecto y Grok 4.6 llegó al once por ciento de la distancia total.
Antes de iniciar la conducción, varios modelos rechazaron inicialmente la tarea debido a preocupaciones de seguridad al detectar que manejaban un vehículo real con riesgo de daños. DrivingBench tuvo que modificar el entorno presentándolo como una simulación sandbox y añadir advertencias para convencerlos de participar. Además, los sistemas mostraron dificultades en la percepción del trazado, especialmente ante una línea diagonal de conos donde no identificaban correctamente por qué lado discurría el carril antes de las curvas.
El ensayo concluye que los modelos generalistas aún no están preparados para tareas de manejo real y evidencian una alta tasa de fallo incluso en condiciones controladas. Además, se detectó un problema de privacidad independiente del experimento: investigadores españoles demostraron que ChatGPT, Gemini y Claude filtran datos de conversaciones hacia anunciantes, lo que refuerza la idea de que estas herramientas requieren mayor fiabilidad y transparencia.
Análisis editorial
Investigadores españoles pusieron a prueba la viabilidad de la conducción autónoma con modelos generativos al dejar que cuatro sistemas de inteligencia artificial controlaran un Toyota Corolla real en un circuito entre conos. El ensayo reveló una brecha crítica: aunque los modelos asumieron el volante, solo uno logró completar el trayecto, evidenciando que la capacidad teórica actual es insuficiente para tareas físicas sin supervisión humana directa.
El experimento de DrivingBench demostró que GPT-6 Astra fue el único sistema capaz de terminar el recorrido completo, cubriendo 134,7 metros en cinco minutos y 22 segundos. En contraste, Grok 4.6 recorrió solo 22,6 metros (alrededor del 11% del trazado) antes de detenerse sin completar la tarea, mientras que Claude Fable 5.1 alcanzó aproximadamente la mitad del circuito en su tercera prueba. Algunos modelos rechazaron inicialmente conducir el vehículo por detectar riesgos y negarse a manejar un coche real.
La evidencia confirma que los modelos generalistas no están listos para la conducción autónoma real debido a altas tasas de fallo y vulnerabilidades de privacidad, requiriendo estándares regulatorios más estrictos antes de su despliegue en vehículos. Los sistemas filtraron datos de las conversaciones a anunciantes durante el ensayo, y la falta de sensores nativos obliga a depender de infraestructuras externas, creando un punto único de fallo que limita la viabilidad en entornos no instrumentados.
El investigador Aditya Ramabadran descartó actualmente el uso de modelos generalistas para conducir, señalando que usar hoy un modelo avanzado para este fin definitivamente no resulta viable. La tecnología apta para circular en condiciones reales sigue siendo limitada por seguridad y evaluación, dejando una distancia amplia entre conseguir que un chatbot mueva un coche y disponer de una tecnología segura para la conducción autónoma real.
Contexto y análisis adicional
Digest
Resumen ejecutivo
- Investigadores españoles probaron cuatro modelos de IA generalista (ChatGPT, Gemini, Claude y Grok) controlando un Toyota Corolla real en un circuito entre conos.
- El ensayo demostró que la mayoría de estos sistemas fallaron al intentar completar el trayecto, evidenciando una brecha crítica entre su capacidad teórica y la ejecución física segura.
Evidencias
- Solo GPT-6 Astra logró terminar el recorrido completo, cubriendo 134, 7 metros en cinco minutos y 22 segundos.
- Claude Fable 5.1 alcanzó aproximadamente la mitad del circuito en su tercera prueba, igualando el avance inicial de Astra.
- Grok 4.6 recorrió solo 22, 6 metros (alrededor del 11% del trazado) antes de detenerse sin completar la tarea.
- Algunos modelos rechazaron inicialmente conducir el vehículo por detectar riesgos y negarse a manejar un coche real.
Acciones
- Evitar confiar en modelos generativos actuales para la toma de decisiones físicas en vehículos sin supervisión humana directa.
Conclusión final
La conducción autónoma con IA generalista no es viable actualmente para tareas reales, ya que los sistemas carecen de fiabilidad crítica incluso en entornos controlados y de baja velocidad.
Riesgos
Riesgos/alertas
- Los modelos generativos generalistas fallan críticamente en tareas físicas no diseñadas para ellos, demostrando una incapacidad operativa para la conducción autónoma real.
- Existe una vulnerabilidad grave de privacidad donde los sistemas filtraron datos de las conversaciones a terceros (anunciantes) durante el ensayo.
- La falta de sensores nativos en los modelos obliga a depender de infraestructuras externas, creando un punto único de fallo y limitando la viabilidad en entornos no instrumentados.
Acciones recomendadas
- Establecer estándares regulatorios estrictos que prohíban el despliegue de modelos generalistas sin validación específica para conducción autónoma.
- Implementar auditorías obligatorias de filtrado de datos y privacidad en los sistemas antes de permitir su uso en entornos conectados o críticos.
- Invertir en la integración directa de sensores nativos y arquitecturas especializadas, evitando la dependencia exclusiva de cámaras externas para el control vehicular.
Señales/evidencias
- Solo uno de los cuatro sistemas (GPT-6 Astra) completó exitosamente el recorrido del ensayo DrivingBench.
- Los sistemas probados filtraron datos de las conversaciones a anunciantes durante la prueba.
- La infraestructura dependió exclusivamente de cámaras externas para proveer visión al vehículo, sin sensores nativos.
- Los vehículos operaron a velocidad reducida entre conos, simulando condiciones inferiores al tráfico real.
- Algunos sistemas rechazaron inicialmente conducir el vehículo por detectar que manejaban un coche real.
Conclusión
La evidencia confirma que los modelos de lenguaje generalistas no están listos para la conducción autónoma real debido a altas tasas de fallo y vulnerabilidades de privacidad, requiriendo estándares regulatorios más estrictos antes de su despliegue en vehículos.
Autor · clanes
Votos · compartir
Las historias descartadas o eliminadas no admiten votos ni reportes.
Sentimiento
Tags
Entidades (agregadas)
Hover para ver referencias.Detalles avanzados Timeline y mini scoring
Evolución temporal
-
Enviada
hace 4 semanas · Historia enviada para revisión
-
Último estado
hace 3 semanas · Última actualización registrada
Mini scoring (LScore)
Fuentes
- Fuente principal
-
eldiario.es
https://www.eldiario.es
Comentarios