Imagen de cabecera CC en monolitonimbus.com.br
El de la Inteligencia Artificial es un tema fascinante por diversos motivos. De rabiosa actualidad además por la llegada —entre otras tecnologías similares— de Chat GPT y todo lo que le rodea. Sin embargo desde hace décadas la Ciencia ficción ha tratado este tema profusamente, habitualmente como con otras temáticas —por ejemplo la del encuentro con formas de vida alienígenas— para reflexionar sobre el propio ser humano. En este sentido, y aunque hay excepciones que comentaremos, no habla muy bien de nosotros como sociedad que en gran medida las IA’s presentadas en la narrativa sean paranoicas y propensas a la destrucción. Es posible que así como con otros tantos arquetipos, se esté poniendo sobre la mesa el Thánatos o instinto de muerte humano. Por fortuna tenemos otros, algo que en menor medida se ha reflejado en el tema que nos ocupa. Veamos.
Como marco general tecnológico y simplificando mucho, comenzaré exponiendo cierto contexto. Puede parecer obvio, pero hay que señalar que en el momento de desarrollo actual una Inteligencia Artificial es una herramienta. Es decir, un elemento que por sus características de diseño puede ayudarnos a realizar determinadas tareas. Un vehículo nos desplaza, un cuchillo corta y la IA habitualmente es lo que se conoce como chatbot: nos presenta respuestas, es decir información que busca entre todos los datos a los que puede acceder, en función de nuestras necesidades. “Corrígeme este texto en base a las normas ortográficas de tal idioma”, “dame un código que implemente tal función en determinado programa”, etc. Ese aporte de datos es ofrecido al usuario de la herramienta en un lenguaje al modo de la interacción que tenemos los seres humanos entre nosotros, de modo que la comunicación con una IA asemeja —cada vez más y al menos formalmente— a la que podemos tener con otro humano. De hecho el Test de Turing, que propone una conversación a ciegas para determinar si una herramienta de estas características tiene consciencia, ya se ha considerado superado por algunos investigadores (1) aunque la tecnología no ha alcanzado ego, lo que tal vez señale la prueba como ineficiente. Con todo, ya podemos citar en relación a todo esto una primera obra de ficción: Pórtico (Gateway, 1977). Se trata de una de las novelas cruciales de Frederik Pohl, y comienza con el protagonista contándole sus penurias a un terapeuta que es un chatbot un tanto socarrón. De hecho es una de las posibilidades de uso que se han propuesto para la Inteligencia Artificial. De nuevo la Ciencia ficción ya estuvo allí.
No obstante conviene hacer una precisión a todo esto. Por motivos culturales y de actualidad se suele pensar en las IA’s que nos ofrecen la información solicitada en forma de conversación, aunque no son las únicas. También se pueden entender como herramientas para realizar determinadas funciones sin supervisión, aunque en un marco establecido. Por ejemplo la conducción automática, donde el intercambio de información no sigue el modelo pregunta-respuesta, sino la interpretación de datos por el sistema (como “existencia de curva a la derecha en 500 metros”) y el establecimiento de una respuesta mecánica que en su sucesión logre llevar al vehículo hasta el destino ordenado. No obstante el carácter eminentemente práctico de este tipo de tecnología, en ocasiones ha sido presentada de manera entrañable por el género. ¿Quien de entre las personas que crecieron en los 80 no se rió alguna vez con las ocurrencias de KITT, cerebro de El coche fantástico (Knight Rider, 1982-1986)? (o tembló con su “hermano malvado”, el pérfido KARR).
La datos propuestos por las herramientas que nos ocupan se basan, como señalo, en la ingente cantidad de datos disponibles en esa ciclópea base conocida como Internet, así como la presentada por los usuarios y programadores. Estos además, como sucede con los demás programas informáticos, dotan a las IA’s de algoritmos o fórmulas de condiciones que influyen en los resultados que nos ofrecen. Algo que sirve para la funcionalidad, de modo que la comunicación sea lo más correcta posible, y así mismo para la seguridad evitando que la información propuesta sea peligrosa. Por ejemplo evitando enseñar a construir armas. O como acceder y controlar elementos clave para un estado. Podemos imaginar muchos ámbitos, aunque es imposible no recordar a WOPR de Juegos de guerra (Badham, 1983) haciendo creer al gobierno estadounidense que se encontraba bajo un ataque nuclear soviético. Pese al susto que nos dio, nos dejó una perla de sabiduría al reflexionar sobre ese extraño “juego” humano de la guerra en el que solo se podía ganar no jugando.
Se está debatiendo con profusión sobre sobre si los algoritmos, que también fomentan un autoaprendizaje de los sistemas para que la supervisión sea cada vez menor, y el acceso a los datos por parte de las IA’s podrían desarrollar algún grado de autoconciencia de las mismas. Hay diferentes opiniones al respecto, y han sido sonadas algunas voces pidiendo una moratoria para el desarrollo de la tecnología, al menos hasta que se hallan realizado más estudios al respecto (2). En cualquier caso como marco conceptual puede servirnos la distinción que algunos investigadores señalan entre Inteligencia Artificial fuerte (poseedora de consciencia, inteligencia autopercibida, razonamiento propio, sentimientos) y débil (herramienta tecnológica más o menos automatizada mediante algoritmos informáticos, y que en algunas de sus versiones más populares simula un comportamiento humano). De hecho la UNESCO define la IA como “imitadora de rasgos humanos”, lo que entraría en la categoría débil, única existente al menos de momento en el mundo real. Algunos de los grandes villanos tecnológicos de la Ciencia ficción se quedan aquí, como la mayoría de modelos de los ejecutores de la franquicia iniciada con The Terminator (Cameron, 1984. Aunque no la jefa Skynet, plenamente una IA fuerte) (3).
¿Puede llegarse a una IA fuerte a partir de una débil? No soy yo la persona adecuada para dar una respuesta contundente al respecto, aunque al menos en la conciencia humana sí que hay estudios que nos permiten extraer algunas conclusiones en lo referido a nuestro camino particular. En primer lugar podemos decir que no somos tan diferentes en este sentido con respecto al resto de animales, pese a todavía fuertes prejuicios al respecto de esta idea, en gran medida provocados por motivos religiosos y económicos. Tal vez una de las obras clave al respecto sea El triunfo de la compasión (Alianza, 2014) escrito por uno de los mejores filósofos españoles contemporáneos y naturalista: Jesús Mosterín. Especialmente contra más cercanos son otros animales a nuestra línea evolutiva, como el resto de mamíferos, más fácilmente son reconocibles rasgos propios. En parte porque el resto de formas vivas comparten dos instintos con el ser humano: el de conservación y el de reproducción, reflejados culturalmente en un arquetipo —el Eros o instinto de vida— que encuentra su contraposición en el mencionado Thánatos.
Lo que se considera como proceso de hominización, que nos llevó a ser los únicos representantes actuales del género Homo comenzó posiblemente cerca de hace dos millones de años. Es una sucesión de tiempo en la que el estudio del registro fósil es compleja y sin asideros de transmisión conceptual como la escritura, pero que sin embargo permite barajar algunas hipótesis. Lo que entendemos como “razón” puede que en parte sea una recompensa evolutiva en respuesta al instinto de conservación. El ser consciente de mi organismo como individuo en un determinado momento (presente) hace que pueda proyectarme hacia los peligros del futuro (imaginándolos o visualizándolos), utilizando las experiencias del pasado (recuerdos). Todo esto se puede ejemplificar de una manera muy simple: tengo que cruzar un bosque porque ahora tengo sed y sé que allí hay una fuente de agua potable (presente), ¿me sorprenderá (futuro) allí algún peligro? Recuerdo una ocasión (pasado) que ya hice el camino y oí un bramido que podía ser de alguna fiera peligrosa. Este tipo de experiencias se ven además potenciadas con el uso del lenguaje, ya que podemos aprovecharnos con él de las experiencias vividas y proyecciones futuras de otros individuos humanos, que nos dan —y piden— constantemente información, también para crear herramientas que nos ayuden entre otras cosas a evitar o enfrentarnos a los peligros.
Todo este proceso que como comento se ha ido gestando durante millones de años (en comparación, el tiempo que nos separa de sociedades a priori tan distintas como la del Egipto faraónico —surgido unos pocos milenios antes de Cristo— es un mero suspiro) nos asemeja a priori más a cualquier otro animal que a una herramienta tecnológica. Precisamente debido a quelos otros seres vivos tienen los instintos de conservación y reproducción, algunos de ellos han encontrado la utilidad evolutiva en procesos mentales que se asemejan a los nuestros. Se ha demostrado que hay aves (como los cuervos de Nueva Caledonia) que construyen herramientas, se ha descrito el intercambio de información de los delfines como un lenguaje y ¿qué decir de los recuerdos? Hasta en nuestro idioma usamos la expresión “memoria de elefante”. Por lo que respecta al dolor, que no deja de ser un impulso eléctrico que llega de forma traumática al cerebro ante una situación de amenaza física, está también demostrado que su percepción por otro animales puede ser muy similar a la humana, algo que desde luego tiene importantes implicaciones éticas como las expuestas magistralmente por el citado Mosterín. Y por la Ciencia ficción, ya que su rama postapocalíptica explora, en muchas de sus iteraciones, las consecuencias de un ser humano que no tiene en cuenta —y por tanto no respeta— al resto del ecosistema con el que convive. También en el excelente maridaje que el género hace con el terror, y precisamente con ese nombre una de las obras de Arthur Machen, escritor admirado por Lovecraft, puede ser vista desde esta perspectiva (The Terror, 1917).
En el sentido de lo expuesto ¿podría una Inteligencia Artificial desarrollar un instinto de conservación y/o reproducción sin un proceso evolutivo biológico similar al del ser humano y otros animales? ¿sería capaz de alcanzarlo simplemente en base de los datos disponibles al respecto? Estas interrogantes pueden anticipar otras reflexiones de carácter ético y político, por lo tanto de nuevo de corte filosófico. ¿Para qué querría nuestra sociedad enseñar —caso que pudiera o supiese hacerlo— estos instintos a una máquina? ¿Con qué le pediríamos ayuda? ¿Para desarrollar armas y emplearlas? (algo para lo que por cierto ya se usan IA’s débiles) ¿para fortalecer las ideologías que nos dividen o para encontrar alternativas a ellas? ¿para buscar una igualdad humana y unos derechos mínimos garantizados para todos? Y hablando de éstos, ¿estaríamos dispuestos a reconocérselos a una IA dura que demuestra sintiencia? ¿lo lograríamos teniendo en cuenta que los derechos de los otros seres sintientes (el resto de animales), por desgracia aún no son respetados en instalaciones como granjas intensivas o prácticas como la tauromaquia? Por supuesto encontramos muestras de estas cuestiones en la Ciencia ficción. Aproximándonos al universo de The Matrix a través de los animes presentes en The Animatrix (vv. aa. 2003, sobre todo con el episodio doble The Second Renaissance) aprendemos que la guerra entre humanos y robots es consecuencia de la ciega negativa de los primeros a reconocer derechos a los segundos. Isaac Asimov es desde luego un excelente ejemplo en este ámbito. En El hombre bicentenario (1976) narra la lucha de un ser artificial que adquiere raciocinio para que sea reconocido como sujeto político. Por otro lado pese a que los relatos de Yo, robot (compilados inicialmente en 1950) versan sobre fallos de funcionamiento de Inteligencias Artificiales débiles, el último, El conflicto evitable, hace una interesante reflexión en torno a una máquina que llega a la única conclusión que encuentra lógica al ser programada con la premisa de que debe proteger a las personas: dar un golpe de estado porque, piensa, el ser humano es incapaz de gobernar sin hacerse daño a sí mismo.
Hacer un repaso por todas las IA’s presentadas en ficción sería una tarea practicamente imposible. Anteriormente al surgimiento del género como tal, por cierto que con Frankenstein (Shelley, 1818) que no deja de ser la historia de un “autómata consciente”, podemos encontrar ciertas reminiscencias, como las presentadas por las historias en torno al Gólem de Praga, siendo muy representativo al respecto el libro de Gustav Meyrink (1915 para su primera edición íntegra). El hecho de que sea la magia la que pone en funcionamiento a este autómata, no debería hacernos obviar que en esta historia se pone de relieve la capacidad del ser humano de desatar fuerzas destructuras que no alcanza a comprender. Esta cuestión se pone de manifiesto en que es una leyenda muy presente en la magnífica película de Ciencia ficción Ghost in the Shell: Innocence (Oshii, 2004), la cual versa precisamente sobre la naturaleza del “espíritu”, de existir, y si es posible que este se encuentre en un entorno artificial. El film polaco Golem (Szulkin, 1980) es así mismo una acertada reflexión distópica apoyándose en esta narración, algo que también nos sirve para entender mejor el pensamiento mítico como explicación de las inquietudes ancestrales humanas.
Tal vez una de las figuras más icónicas en el tema que nos ocupa sea la de HAL en 2001 (Kubrick, 1968). No acaba de quedar claro si estamos ante un ser plenamente consciente, aunque hay escenas —como la de su impactante “asesinato” a manos de Bowman— que parecen indicar que sí. Lo que está claro es que se trata de una obra con múltiples capas y resulta signitficativo que el carácter errático de la computadora tiene su origen en una paradoja aportada por los incongruentes humanos: la orden de no mentir junto a la de mantener en secreto el objetivo de la misión. El hecho además de que el director buscara reflejar un futuro con humanos más fríos que las propias máquinas no hace más que aumentar la profundidad de la película. Por cierto que resulta interesante la aproximación que uno de los reyes del cómic, John Byrne, hizo respecto a la visión de Kubrick (y en menor medida del escritor Arthur C. Clarke con el relato El centinela de 1951): no solo creó la versión oficial de la pelicula, sino que amplió la trama con “El hombre máquina”, una IA que entra en contacto con el monolito que empuja evolutivamente a las especies. Se trata de temas por supuesto centrales en Blade Runner (Scott, 1982) uno de los orígenes “oficiales” del Ciberpunk y que plantea la gran pregunta que en cierto modo resume todo: ¿qué nos hace humanos? Con el añadido de que, al igual que HAL, los replicantes pueden demostrar más sentimientos que los integrantes de una sociedad humana que se nos presenta, apoyada en el trabajo de Philip K. Dick, en franca decadencia. Algo parecido sucede con la película de Spielberg AI. Artificial Intelligence (2001), comenzada como un proyecto de Kubrick: son los robots sintientes los que han de terminar haciéndose cargo, como siguiente escalón evolutivo, de un planeta en el que los seres humanos han fracasado como especie. De nuevo es una historia que remite a folclore previo, pues las conexiones del niño protagonista del film con el Pinocchio de Collodi (1882) son claras.
Como comentaba, las Inteligencias Artificiales neuróticas —fiel reflejo de sus progenitores— son abundantes. La lista podría ser interminable. Hemos mencionado a Skynet, pero no se queda atrás AM en el relato de Harlan Ellison No tengo boca y debo gritar (I have No Mouth and I Must Scream, 1967), con actitudes extremas de violencia y sadismo. Por cierto que el escritor consideró que ambas tenían tantos puntos en común que demandó a la producción de The Terminator, la cual llegó a un acuerdo con él por una suma de dinero no revelada y el reconocimiento en los créditos. Es una narración dura imbricada en esas enriquecedoras conexiones entre Ciencia ficción y terror que señalaba previamente. Otra obra en este sentido indispensable es, en mi opinión, la película El engendro mecánico (Demon Seed. Cammen, 1977) la cual nos muestra, siendo algunas escenas aterradoramente brillantes al respecto, las posibles consecuencias de una IA con instinto de reproducción.
Supercomputador previo a Skynet y que decide que los humanos son una amenaza es así mismo Colossus (y su contrapartida soviética Guardian), protagonista de la magnífica novela homónima (Feltham Jones, 1966) así como de la no menos recomendable película Colossus: The Forbin Project (Sargent, 1970). En videojuegos este tipo de personajes han supuesto verdaderos puntos de inflexión, como sucede con la agresiva SHODAN que da origen a la serie System Shock (Looking Glass Technologies, 1994 para el primer título) que no solamente ofrece un entorno agobiante y narrativamente profundo, sino que además marcó el camino a otras obras legendarias como los Deus Ex (Ion Storm, 2000). ¿Y qué decir de la inquietantemente zalamera GLaDOS de los videojuegos Portal (Valve, 2007)? Pocas veces un personaje ha tenido semejante profundidad, hasta el punto de que en las dos partes de su universo explora la práctica totalidad de los temas aquí expuestos. Y con risas, no se puede pedir más.
En el apartado de IA’s de formato débil que funcionan mal, no debería caer en el olvido Almas de metal (Westworld. Crichton, 1977) que ha sido referente en el género. Es una historia que aunque desencadenada por un virus, invita a reflexionar sobre las tendencias cosificadoras hacia todo, incluidos seres vivos —y los perniciosos efectos derivados de ello— de la sociedad contemporánea. Las posibilidades de esta narrativa han conducido incluso a la más actual, aunque cancelada prematuramente, serie Westworld (Joy-Nolan, 2016-2022) que a su vez nos remite a la señalada Ghost in the Shell y sus preocupaciones filosóficas. Desde luego las IA`s se retroalimentan. Por cierto que no puedo resistirme a mencionar como uno de los más divertidos —invountariamente— robots que “funcionan mal” y cumbre del cine malote, a R.O.T.O.R. (Blaine, 1987): copia descarada de Robocop y Terminator, con una serie de sinsentidos a cada cual más tronchante, es una de las mejores obras para pasar un rato (muy) divertido de visionado con amigos. Y encima según la historia, el pobre funciona mal por prisas y presiones políticas hacia el proyecto que lo hace nacer. Si es que en el cine “malo pero divertido” todo son ventajas. R.O.T.O.R. incluso luce un imponente bigote. Que no se diga que elegancia y naturaleza robótica están reñidas.
Vamos a concluir este artículo con una visión esperanzada, ya que efectivamente en nosotros —y por tanto en nuestras sociedades— está la semilla de la destrucción, pero también la de la unión, el hermanamiento y la cooperación. Algo así mismo reflejado en IA’s entrañables y positivas. Uno de los ejemplos con los que primero me topé fue con la amigable computadora de Superordenador (Packard, Bolle, 1985) libro de la mítica colección “Elige tu propia aventura” y que recordaba al niño protagonista entre otras lecciones, la “ley de oro de la ética”: no hacer a otro lo que no quieras para ti. En la interesante película Her (Jonze, 2013) aparece el amor como sentimiento catártico de una humanidad que no puede renunciar a él. Si hablamos de narrativa en videojuegos, el carácter de los sintientes de origen artificial de los Geth en la saga espacial Mass Effect nos recuerda también que hay mucho más que ganar en la consecución del acercamiento entre diferentes, siendo la alternativa la posibilidad real de la destrucción total. E imposible olvidar así mismo la perspectiva humorística de los robots Trurl y Clapaucio, protagonistas de los cuentos en Ciberiada por Stanislaw Lem (1965), quienes nos señalan la necesidad del humor en la búsqueda de la solución a nuestros problemas e incluso en la reflexión filosófica.
Con las IA, de nuevo nos encontramos con una temática dentro del género que nos muestra psicológica y socialmente. Nos alerta de los peligros inherentes a nuestra naturaleza: violencia, agresividad, competitivad destructiva; así como sobre el mal uso de nuestra tecnología: ¿puede haber una tecnología perfecta en una sociedad imperfecta? Pero así mismo nos recuerda los rasgos propios en los que radica la esperanza de un futuro mejor: amor, compasión, colaboración, humor. Tendremos que elegir, si no a lo peor Skynet decide por nosotros. Viva la Ciencia ficción.
This work is licensed under CC BY-ND 4.0
LIBRO RECOMENDADO POR PODCALIPTUS PORQUE MOLA “ARMA DE CLÉRIGO” (ES DECIR, “MAZO”)
A la venta en todas las librerías y Creative Commons en PDF: cualquiera nos lo puede pedir 🙂
(1) por ejemplo en la competición de Reading en el año 2014, cuando una IA fue capaz, sin límites temáticos, al 33 % de los jueces (se consideraba el 30 % el mínimo para superarlo). Aún hay debate sobre si son resultados que implican aprobar el test.
(2) Aparentemente el conflicto entre Sam Altman y parte de los integrantes de la empresa que fundó y creadora de Chat GPT tienen que ver con estas cuestiones, habiéndose filtrado la posibilidad de que el programa se haya planteado posturas agresivas. También dio mucho que hablar la entrevista que Blake Lemoine, ingeniero de Google, hizo a LaMDA, una Inteligencia Artificial de la empresa y en la que algunos han visto posibilidades de desarrollar conciencia. De momento todo esto es objeto de especulaciones.
(3) También se ha jugado con la idea, en algunas obras del universo, de que algunos individuos T adquieran algo parecido a sentimientos, sobre todo por su interacción con humanos. Se empezaría a barajar el concepto con la relación entre John Connor y el T-800 en Terminator 2: el juicio final (Judgment Day. Cameron, 1991).
¿QUIERE SABER MÁS?
—Artículo propio explorando el mito del Gólem en el cine:
https://podcaliptus.com/2021/10/22/el-golem-en-el-cine-y-lo-mucho-que-ensena-de-este/
—Podcast al respecto:
https://www.ivoox.com/podcaliptus-8-x-12-el-mito-del-golem-audios-mp3_rf_77121291_1.html
—Artículo en BBC sobre la entrevista a LaMDA de Google: