Hace un mes, aproximadamente, empezó una campaña para frenar el desarrollo de Inteligencia Artificial, promovida precisamente por las empresas que la desarrollan. Jacob Coxon, un ingeniero y ex-investigador de Anthropic y OpenAI, llegó a decir que, si no se para, la IA nos va a matar a todos. Claramente no se refieren a los Chats como GPT, Gemini y demás programas o herramientas que se pueden describir como Grandes Modelos de Lenguaje (LLM en inglés), o IA generativa, pues generan textos y también figuras y música. Se está refiriendo a lo que se llama la IA Agente o Autónoma, sistemas capaces de planificar y ejecutar acciones, utilizar herramientas, escribir nuevo código de programación, interactuar con otros sistemas y perseguir objetivos, marcados externamente o generados por si mismos, durante períodos prolongados. Mientras no puedan auto-marcarse objetivos o tergiversar los marcados por sus creadores, no habría mayor problema que su utilización por desaprensivos. Claro que hay muchos desaprensivos por el mundo, como podrían ser la gran mayoría de los gobiernos y los propios creadores de dichas herramientas. Lo malo sería que una vez puesto en marcha el mecanismo, no hubiese forma de pararlo ni siquiera por aquellos que lo iniciaron. Supongamos que una IA del tipo “Terminator” (hay que leer y ver Ciencia Ficción para estar al día tecnológicamente) decide realmente acabar con la humanidad y ha sido capaz de anular el “kill switch” (el botón de apagado), de manera que quienes la iban creando y alimentando ya no puedan pararla. Incluso así la humanidad resiste (en la película) y acaba ganando.
Hace mucho que la Ciencia Ficción había avisado de los peligros de las computadoras, que podían atacar (consciente o inconscientemente) a personas, humanas y jurídicas. Os propongo repasar, por ejemplo, 2001 Una odisea del espacio, donde el ordenador HAL 9000 toma el mando e intenta matar a toda la tripulación de la nave Discovery 1, pues cree que los humanos harían peligrar la misión, de la que solamente el ordenador tenía conocimiento completo. También en esa película la mente artificial, parecía dotada de sentimientos y prurito profesional mas intensos que muchas mentes humanas, aunque tiene mucha menos empatía por los humanos que la media de éstos (aunque no creo que tenga mucha menos de la que sienten los denostados tecno-oligarcas y otras muchas malas personas por su propia especie). La nave Discovery era un mundo cerrado y sus peligros estaban reducidos a un pequeño grupo de humanos, su tripulación. Pero incluso aquí, el último tripulante gana a la máquina y la desconecta in extremis. Claro que si no fuese así la película se acabaría con la computadora viajando sola por el espacio, enloquecida con cumplir su misión, lo que no vendería mucho.
La computadora HAL 9000 (izquierda) contra la tripulación del Discovery 1
Otras previsiones de la Ciencia Ficción, más generales, aparecen en un breve relato, publicado por Alianza Editorial en 1988 (la edición original en USA era de 1983) en una recopilación (dirigida por Asimov y otros) y titulado “Se acabaron las espinacas”. En este relato, de principios de los años 80, un niño, jugando con el ordenador se su padre, acaba impidiendo la producción y distribución de espinacas a nivel mundial. Creo que la humanidad puede vivir algún tiempo sin espinacas, pero podría haber sido peor si se corta el suministro de otras materias más vitales, o se inicia un ataque nuclear, por ejemplo.
Portada de la recopilación de relatos de Ciencia Ficción de Alianza (1988)
Una situación mucho más grave, protagonizada por una IA, se ha publicado recientemente. La noticia la publicó “El Mundo” y su titular era: “La alucinación de una IA que casi abrió fuego entre EEUU y China”
(https://www.elmundo.es/internacional/2026/09/19/6aae618bfdddff8b0a8b4570.html)
La propuesta de frenar el desarrollo de la IA, claro, no convence a USA ni a China, como la propuesta de parar la carrera nuclear no convencía a USA ni a la Unión Soviética (CCCP) en su día, pues no se puede renunciar al poder, precisamente cuando la otra potencia hegemónica (o con vocación de serlo) no solo no frena, sino que acelera. La carrera armamentística nuclear parecía que iba a destruir la humanidad (como ahora la IA) e incluso el planeta entero, lo que eliminaría un “rebrote” humano, mamífero e incluso de cualquier tipo de vida en esta zona del universo (algunos salvaban a las cucarachas que parecen muy resistentes a la radiación). Por suerte, hasta el momento no ha sido así, como no creo que vaya a ser con al IA. Admito apuestas.
Lo que parece es que las inversiones en IA que necesitan las empresas correspondientes son tan elevadas, que temen que sus logros (es decir ingresos) ya no convencen tanto a los inversores, pues no se esperan los tremendos beneficios prometidos y pueden sufrir un crac en bolsa, si siguen a este ritmo de gasto.
Puesto que no parece que les vayan a dar un respiro y frenar la carreara por la hegemonía en IA, los famosos tecno-oligarcas proponen reglas para mitigar la amenaza, que escribirían ellos (y no la UE, que, habiendo perdido ya la carrera de la IA, se dedica a restringir la penetración en Europa de los avances de USA y China, mediante la redacción de extensa y farragosa legislación e intrincada burocracia, lo que domina bastante bien)
Las restricciones que nos salvarían de la IA, están ya claramente descritas en las tres leyes de la robótica, que fueron formuladas por Isaac Asimov (USA) en 1942 (si, 1942, no hay error) y dicen:
1ª.- Un robot no debe dañar a un ser humano ni permitir por inacción que sufra daño.
2ª.- Debe cumplir las órdenes humanas, salvo que contradigan la Primera Ley.
3ª.- Debe proteger su propia existencia, siempre que no entre en conflicto con las dos primeras leyes.
Según la Wikipedia: Estas leyes eran «formulaciones matemáticas impresas en los senderos positrónicos (¿?) del cerebro» de los robots. Es decir, son líneas del programa que regula el funcionamiento de los robots, guardadas en la memoria principal de éstos, y no se pueden eludir de ninguna manera. Una especie de “kill switch” interno y automático.
Sustituyendo “robot” por IA, la cosa estaría arreglada. Claro que hay que asegurarse de que todo el mundo cumple la condición de instalar estas instrucciones en las IAs que produzca, cosa bastante incierta. Sería como la firma del tratado de no proliferación de armas nucleares, que costó muchos años, y el cumplimiento posterior aún no está claro.
Mas tarde, el mismo Asimov, en la novela: Robots e Imperio (1985), añadió una Ley Cero, que antepone el bienestar de la Humanidad al individual.
Esta última ni se va a proponer por ahora, seguro.
En conclusión, puede que explote la burbuja de la IA, pero ésta IA agente que se está desarrollando ahora no nos va a matar a todos, solo a los que se arruinen con el crac.
