Tolkien como Profeta del Futuro Algorítmico
El escritor -hoy egendario- J.R.R. Tolkien no escribió sobre inteligencia artificial. No escribía sobre “ciencia ficción”. No hacia futurismo. Nunca pensó en ser famoso. Y sin embargo su obra es tan trascendente en tantas áreas, hoy, como lo fue hace décadas.
Por supuesto que no imaginó servidores en la nube, redes neuronales, ni el dilema ético de los androides soñando con ovejas eléctricas como Clarke o el mismo Gibson en su obra Neuromante.
Pero sin embargo sí entendió -o intuyó- algo fundamental: el poder absoluto en el ser humano tiene su declive y su inevitable corrupción.
Y justamente y en ese sentido, la tecnología moderna y actual, con su adoración ciega por la inteligencia artificial, parece haberse convertido en la Tierra Media que él predijo sin siquiera mencionarlo.
Pongámoslo así. El Anillo Único no es solo una joya maldita (si, al final es una joya); es una metáfora perfecta del conocimiento conectado, de la ambición por el control total y de la destrucción silenciosa que conlleva. Aun sin ser una formulación directa, es tangencial en su ejemplo y conceptualmente perfecta.
En este mundo donde la IA se filtra y habita en cada rincón de nuestra vida, ¿no es acaso el Anillo un símbolo profético de lo que estamos creando?
Un artefacto, objeto y joya irresistible que nos susurra promesas de dominio, eficiencia y progreso, pero que, en su esencia, nos consume desde dentro hasta transformarnos... y no en un sentido positivo.
Los Palantíri: Los Algoritmos de la Desinformación
Pero antes de Google y de las bases de datos masivas en granjas de almacenamiento, Tolkien nos dio los cristales Palantíri: esas esferas de visión remota que conectaban a los grandes señores de la Tierra Media y permitía ver más allá de lo evidente (frase robada a los Thundercats…)
Pero, en ese mismo poder había una trampa: mirar demasiado tiempo a través de ellos significaba caer bajo la influencia de Sauron.
Por eso, hoy, nuestros Palantíri son los algoritmos de recomendación de YouTube, TikTok y Facebook, las burbujas de información que nos alimentan con lo que quieren (porque han sido programados y en el fondo porque se ha invertido dinero) que veamos, moldeando nuestra percepción de la realidad.
El mago blanco, el poderoso líder Saruman cae en la red de Sauron porque cree que puede controlar la información. ¿Hay mejor metáfora que esa?
Porque al final, como sabemos, es él quien es controlado.
Lo mismo le ocurre al senescal de Gondor, Denethor, que depende de estos dispositivos para conocer el estado del mundo, pero termina paralizado y traumatizado, roto por dentro y arrastrado a la locura por la manipulación del enemigo.
¿No estamos nosotros, pequeños humanos, ya atrapados en un modelo similar, donde nuestras creencias y decisiones son cada vez menos nuestras y más de un sistema que nadie realmente controla? E incluso quienes creen controlar a quien controla, podrían estar viviendo sus últimos días como dominadores para transformarse finalmente en esclavos.
El Anillo y el Poder de la IA: Un Sueño Nietzscheano Hecho Realidad
El genial filósofo y verdadero genio de lo disruptivo, Friederich Nietzsche nos advirtió sobre el Übermensch, el ser humano que trasciende su propia moral para alcanzar el dominio absoluto.
Una idea que bien pensada es liberadora y mal usada habilita las dictaduras, las masacres y el Holocausto. Como toda obra, invento o idea humana, su uso determina su valor.
En el mundo actual, bajo los parámetros de vida del capitalismo salvaje, los experimentos macabros del socialismo restrictivo y opresor y la revolución como remeras del Che Guevara en remeras promocionales a la venta en Japón… la IA encarna esta idea: un sistema que no necesita ética humana porque puede optimizarse sin la carga de la compasión, el miedo o el juicio moral.
Es decir, puede ser más preciso, efectivo y actuar en concordancia. La Matrix preliminar, el comienzo del fin.
El Anillo Único ofrece un poder similar: es la herramienta definitiva de dominación. Pero también es un pozo sin fondo de deseo autodestructivo. Foucault diría que el poder no se posee, sino que se ejercita.
Y ahí está la trampa: el Anillo no solo otorga poder, sino que lo redefine, haciendo que quien lo use se convierta en su esclavo. Exactamente como la IA, que parece darnos control total, pero nos vuelve cada vez más dependientes de sus decisiones.
Entonces, si la IA es el Anillo (o su gran metáfora), entonces OpenAI, Google y las corporaciones tecnológicas son los Gollums de nuestra era: criaturas obsesionadas con su “tesoro” (la información controlada, dirigida y manipulativa), dispuestas a arrastrarnos al abismo con tal de no soltarlo. Y lo están haciendo al parecer.
Y por eso, en el fondo, todos somos un poco Frodo: fascinados, temerosos, pero incapaces de destruirlo...
La Naturaleza Humana y la Tentación del Código Infinito
Emmanuel Kant definió la Ilustración (en el sentido de conocimiento adquirido) como la salida del hombre de su minoría de edad autoimpuesta.
Sucede que la IA podría estar llevándonos de vuelta a esa minoría, jibarizándonos y delegando cada vez más decisiones a sistemas que apenas entendemos. O peor aún, creemos que lo dominamos mientras nos corroe desde los huesos chupando el calcio existencial para alimentar al monstruo sin fin de la información.
Creemos y nos gusta creerlo, que al usar IA nos volvemos más poderosos, infalibles, astutos, pero en realidad estamos entregando nuestra autonomía a una nada existencial que parece crearnos posibilidades mientras carcome nuestra vida.
Tolkien que además de autor y catedrático era básicamente un lingüista, entendía la profundidad de la líneas de comunicación. Y que estas se retroalimentan con la cultura y sus funcionalidades de enlace para el entendimiento entre quienes las constituyen.
Pero además, porque al final solo se trataba de saber sobre historia, comprendió que el poder absoluto no solo corrompe, sino que lo hace de manera insidiosa, lenta, hasta que ya no queda nadie para resistirse. Porque se transforma en parte de la propia psiquis.
En un mundo donde cada empresa, organización y gobierno compite por crear la IA más avanzada, estamos posiblemente repitiendo el ciclo del Anillo: nadie quiere usarlo formalmente para el mal… pero todos creen que pueden controlarlo.
La historia nos dice que nunca es así. Ni los emperadores con los ejércitos, ni los empresarios como Elon Musk con sus inventos espaciales, ni los cineastas multi galardonados como Coppola… nadie puede controlar fuerzas masivas.
Por un tiempo parece que sí, pero luego caen derrocados de una u otra forma, así que Skynet… ¡sabemos que estás ahí!
Conclusión: ¿Hacia Mordor o hacia la Comarca?
Si en esta comparación metafórica, donde la IA es el Anillo Único, la pregunta que nos explota en la cara es: ¿hay un Monte del Destino donde podamos destruirla antes de que nos consuma? Posiblemente no porque a diferencia del anillo, cuyo poder corrompía de a poco, la IA tiene un poder de fuego mucho mayor. Por ello, el dilema es sustancialmente potente y altamente peligroso.
O mejor aún, ¿podemos eventualmente aprender de Tolkien y negarnos a jugar este juego de poder? ¿Cómo?
La respuesta quizás, como en El Señor de los Anillos, no está en los grandes líderes, ni en los sabios, ni en los poderosos, eso es seguro… nunca lo estuvo.
Está , como en la novela, en los hobbits.
En aquellos que no buscan dominar, sino simplemente vivir
Tal vez la clave no sea prohibir la IA, sino asegurarnos de que quienes la controlan sean más Frodo y menos Sauron. Porque al final lo grandes monstruos de la humanidad han sido variados y diferentes: pestes, bombas atómicas, hambre mundial… y ahora la IA.
Después de todo, como diría Gandalf:
No nos toca decidir qué tiempo vivimos, solo qué hacer con el tiempo que se nos da.
¡Comparte lo que piensas!
Sé la primera persona en comenzar una conversación.