Ingenieros de IA anuncian riesgos existenciales mientras sus acciones suben

Hay algo extraño en que los ingenieros de la IA sean los que anuncien que puede matarnos. Salvo algunos terroristas, nadie sale públicamente a decir que está en condiciones de matarnos a todos. Esa disociación solo es sostenible si aceptamos la premisa de que la IA, o una parte de ella, se ha independizado como sujeto y que, como la criatura Frankenstein, ya no está bajo el control de su diseñador. Y esto es, como mínimo cuestionable
Dicen los líderes e ingenieros de las principales compañías occidentales de inteligencia artificial que sus programas pueden acabar con la humanidad. Algunos discuten sobre si la probabilidad es mayor o menor del 10%. Pero lo curioso es que estos anuncios catastrofistas llevan produciéndose desde hace años, y las acciones de las compañías de inteligencia artificial, lejos de caer, han subido espectacularmente. ¿Qué sistema es este en el que quienes advierten de que una tecnología puede poner en peligro a la humanidad son, al mismo tiempo, quienes tienen mayores incentivos económicos para seguir desarrollándola?
No se trata de subestimar los riesgos de la inteligencia artificial, que son muchos y muy graves. Por ejemplo, como tecnología tiene el potencial de sustituir muchas tareas y puestos de trabajo que a día de hoy son el sostén de millones de familias en todo el mundo. De hecho, no está claro que sea una tecnología con gran capacidad para elevar la productividad y tampoco que el sistema vaya a crear nuevos puestos de trabajo para los expulsados. También es arriesgado que tanto poder se concentre en manos de unas pocas compañías privadas, que tienen una gran penetración en los sistemas informáticos y de seguridad de los principales países del mundo. También podemos hablar de riesgos geopolíticos, ya que cuando cedemos el control de un proceso a una empresa estadounidense, por ejemplo para la gestión del sistema eléctrico, le estamos concediendo también un arma que puede ser disparada contra nosotros. Y, por supuesto, la IA tampoco existe en el aire, y necesita electricidad, agua, centros de datos, chips, redes y enormes cantidades de materiales, de modo que su aparente inmaterialidad esconde una infraestructura física cada vez mayor que agrava el problema del cambio climático. Todo esto es absolutamente cierto, y en no poca medida puede decirse que son formas de acabar con el mundo tal y como conocemos. Sin embargo, en la práctica nos dejamos arrastrar por la idea de que la IA nos va a matar de una manera mucho más estrambótica.
Hay algo extraño en que los ingenieros de la IA sean los que anuncien que puede matarnos. Salvo algunos terroristas, nadie sale públicamente a decir que está en condiciones de matarnos a todos. Esa disociación solo es sostenible si aceptamos la premisa de que la IA, o una parte de ella, se ha independizado como sujeto y que, como la criatura Frankenstein, ya no está bajo el control de su diseñador. Y esto es, como mínimo cuestionable. Ya lo ha dicho con brillantez Richard Seymour, y es que la capacidad de actuar de la IA depende de una infraestructura, unos permisos y unos objetivos que alguien humano ha diseñado y desplegado. Si un ingeniero diseña un modelo capaz de ciberataques a empresas y lo activa sin ningún tipo de medida de seguridad (es decir, sin limitar los costes que puede provocar), el responsable es el creador y no el modelo, por muy sofisticado que sea. Por decirlo de otro modo más convencional: la IA no tiene conciencia, y todos sus objetivos internos están programados de antemano. Incluso si hay comportamientos no previstos, la responsabilidad política sigue siendo de quien decidió desplegar el sistema sin control. En este sentido la IA nos puede matar de la misma forma que pueden hacerlo las bombas nucleares, es decir, como instrumento de destrucción, aunque lo importante siga siendo que detrás hay alguien que ha impreso políticamente esa voluntad de muerte.
Aunque no han sido demasiado claros a la hora de explicarnos cómo nos va a matar la IA, creo de verdad que los ingenieros creen genuinamente lo que dicen. Todos estamos contemplando, mes tras mes, la enorme potencialidad de la inteligencia artificial, y sabemos que puede ser usada tanto como bendición como maldición según interese. Sabemos también que los usuarios de sus productos no solo estamos haciendo uso de versiones inferiores a las de la frontera tecnológica (que prueban ellos en los laboratorios) sino que además sus funcionalidades plenas están limitadas para nosotros. Si no podemos usar todo el conocimiento almacenado como libros, artículos y todo rastro de internet, en los centros de datos para, por ejemplo, diseñar una bomba biológica casera, es porque alguien ha prohibido esa funcionalidad. Y bien está, por cierto. Pero, y he aquí la cuestión, sabemos que el programa permitiría llegar a esos extremos. 
Cuando se avisa de que la IA puede matarnos, también está diciéndose que su potencial “creativo” y de “innovación” se ha elevado mucho respecto a los estadios anteriores. Y eso bajo el capitalismo es tanto como decir que su capacidad para generar beneficios se ha multiplicado, lo que explica la fiebre de las inversiones multimillonarias en las compañías de IA. Sin embargo, y como ya he mencionado, no parece claro que la productividad suba para la economía en su conjunto y, por lo tanto, la IA podría no tener afectación positiva sobre el crecimiento. Y ambas cosas —la falta de efecto sobre la productividad y la inversión brutal en el sector— no son sostenibles durante mucho tiempo. De ahí que todo apunte a que lo que hay, en realidad, es una inmensa burbuja en la que participan ingentes cantidades de capital internacional ocioso y que se sostiene sobre anuncios explosivos.
Sería mucho más razonable que habláramos de los verdaderos e inmediatos riesgos de la implantación de la tecnología. Por ejemplo, de su creciente capacidad para ser usada como tecnología de vigilancia en el mundo del trabajo y en el mundo civil. Las peores distopías pueden verse cumplidas si dejamos que nuestro tiempo de trabajo, y nuestra libertad fuera de él, estén monitorizados por agentes de IA que han estado programados por el capital. Porque la IA nunca ha sido una fuerza autónoma (salvo conceptualmente), sino más bien un producto con dueños. Esos dueños son multimillonarios que hacen negocios con los gobiernos y las empresas más poderosas del mundo, lo que significa que son instrumentos de clase. 
Y pregúntese el lector o lectora lo siguiente: ¿qué ha pensado al leer este titular? ¿Se ha asumido que la humanidad está realmente en peligro frente a una amenaza existencial desencarnada, abstracta y todopoderosa y que, como el doctor Frankenstein acabaremos muriendo a manos de nuestra propia criatura? Esa es, desde luego, la narrativa dominante. Pero quizás el lector o la lectora se haya anticipado a mi conclusión: en realidad el problema no es tanto que la humanidad vaya a perder el control de la IA, sino que ese control siempre lo ha tenido una minoría y que la humanidad, entendida ahora como mayoría, estamos sencillamente a merced de un escaso número de millonarios. Así que la solución para evitar la destrucción de nuestro mundo y de nuestro planeta es limitar el poder de quienes controlan la inteligencia artificial.