La Inteligencia Artificial ya es algo al alcance de la mano de gran parte de la población a pesar de sus notables limitaciones. Mientras, continúa creciendo e impactando en la totalidad de las actividades productivas. Es tanto lo que puso en juego, que no hay opiniones redundantes al respecto y vale toda interpelación para pensarla críticamente.
La Inteligencia Artificial, IA, para el común de los mortales, para los usuarios del montón, para quienes la utilizan en la oficina o la consultan en su móvil cuando esperan el colectivo, desde cierta perspectiva es una gran apariencia.
Se manifiesta como algo inocente, sobre todo comparado con la IA que asiste, por ejemplo, a los “robots asesinos”, a las plataformas de combate con software estratégico y aprendizaje automático, aptas para tomar decisiones sin que sea necesaria la intervención humana directa.
Pero habrá que interpelar esa inocencia. Habrá que centrar la atención en la IA del común de los mortales y hacerla un único motivo de reflexión, como en estas líneas, para ver con claridad una de las tantas facetas que ofrece el fenómeno.
Digitalidad y lugar común
Han corrido ya ríos de tinta, y abundan los pensadores que destacan que la IA es un golpe al narcisismo similar a los que significaron el heliocentrismo propuesto por Copérnico en el siglo XVI, el evolucionismo formulado por Darwin en el siglo XIX, o las teorías psicoanalíticas de Freud en el XX. Es probable, aunque tal vez solamente para quienes no siempre queda claro que consultan, dialogan, se divierten, canjean información, y un largo etcétera, con una máquina.
Es probable que en esos casos rayanos con la alienación opere –esté operando– una alteración de la auto comprensión humana, de un cambio de subjetividad en cierto modo tan restaurador y regresivo como ilusorio y aparente. Porque ya es un lugar común advertir que el contacto con la información digital y la IA moldea el comportamiento, según reemplaza el diálogo de cada sujeto con el Otro, y las personas quedan aisladas en una suerte de “enjambre”, como escribió el surcoreano Byung-Chul Han, carentes de verdadera unión social. De ahí al control psicopolítico, la vigilancia extrema o la instauración de una democracia debilitada habría un solo paso.
Abundan quienes sostienen posturas críticas pero menos categóricas, planteando que la IA es una herramienta que debe ser asimilada, aunque sus riesgos implícitos indiquen la necesidad de que sea regulada no sólo en lo que hace a la preservación (siempre) del “botón de apagado” en manos humanas, sino también en lo atinente a sus derivaciones en términos socioeconómicos. Estas posiciones algo más moderadas que las hipercríticas comparten la opinión, por añadidura, de que la IA requiere un severo marco de contención ética y moral.
Esto no es una pipa
En la serie de cuadros La traición de las imágenes (en francés: La Trahison des images) el surrealista belga René Magritte incluyó una inscripción: “Esto no es una pipa” (en francés: “Ceci n’est pas une pipe”). En cada lienzo aparece una hermosa pipa curva, de eso no hay duda, y si bien tampoco hay duda de que se trata de un cuadro y no de una pipa, es prudente advertirlo con palabras, saliendo al cruce de una eventual traición de las imágenes.
En la edición anterior de Y ahora qué? publicó Liliana Virginia Siede un artículo titulado sugestivamente Cuando volví loca a la Inteligencia Artificial.
En ese artículo, Liliana relata que la puso frente a dos cortometrajes excepcionales: Lu tempu di li pisci spata, del realizador Vittorio De Seta sobre la pesca artesanal de dicho pez en el estrecho de Mesina, y Glas, de Bert Haanstra, que contrapone la respiración de los sopladores de vidrio con la fabricación mecánica de botellas. Y agrega Siede: “Mi pregunta era directa: ¿qué ocurre cuando un sistema diseñado para reconocer patrones se encuentra con imágenes, sonidos y emociones que no se dejan reducir a una respuesta previsible?”
Sin entrar en los detalles técnicos del experimento ni las dos fallas centrales detectadas, la de “distribución fonética” (por no lograr discernir entre los dialectos locales, los gritos y el oleaje del mar), y la de “corrupción semántica” (por no poder hallar estructuras semejantes a las de su entrenamiento y caer entonces en bucles numéricos y caracteres aleatorios), hay algo en el artículo que puede parecer obvio, y sin embargo es trascendente.
En efecto, la IA es nombrada, pero Siede aclara de inmediato que haberla vuelto loca es una metáfora, e insiste (al mejor estilo Magritte con sus pipas que no son tales) en asegurar que “la máquina” no tiene conciencia, miedo ni sufrimiento.
Siede cuenta un experimento que hizo posible observar que “el sistema” busca regularidades donde imperan lo ambiguo, el contexto y la sensibilidad, y por lo tanto fracasa y convierte esa opacidad en error, en ruido, en dato inútil o archivo corrupto. Ahora bien, al sugerir una persistente sinonimia entre los vocablos “inteligencia artificial”, “sistema”, “máquina” o “una tecnología”, el artículo de Liliana se propone desestabilizar la idea de que la IA deba ser tratada “como una conciencia omnisciente”, cuando en rigor consiste en “una tecnología cuyo criterio básico es la probabilidad”.
Y uno de los mejores caminos para distinguir a la inteligencia humana de la artificial es la equivalencia referencial de la segunda con mecanismos creados por el hombre (como “sistema”, “tecnología”, “máquina”), de manera que se entienda en tanto artificio, precisamente, cerrado por su propia naturaleza.
Está claro que, aunque la IA exhiba una presunta apertura y se ponga en contacto con los usuarios como si poseyera conciencia y sensibilidad o, experimentara placeres y dolores; lo cierto es que puede simularlos pero no los tiene.
Las apariencias engañan
Para el filósofo esloveno y psicoanalista lacaniano Slavoj Žižek, la IA pone en crisis la comprensión del sujeto moderno, aunque éste ya hubiera cedido relativamente la centralidad formulada por Descartes.
Tal vez, amerite parafrasear un pasaje que Heidegger incluyó en su obra Nietzsche, donde anota que hasta Descartes todo ente es comprendido “como sub-iectum”. Y agrega Heidegger: “Sub-iectum es la interpretación latina del hipokéimenon griego y significa lo que subyace, lo que está en la base.” Con Descartes será el hombre, el yo humano, quien asumirá de manera predominante el papel de sub-iectum, del ego cogito en tanto auténtico cimiento.
Pensadores como Žižek, entre muchos otros, aseguran que el sujeto moderno (el cogito cartesiano) no habría superado la criba del estructuralismo y el psicoanálisis, quedando a la intemperie que forman al individuo estructuras inconscientes y sistemas de lenguaje. En apretadísima síntesis, corresponde advertir que Žižek es un pensador sofisticado, y máxime si apelando a Lacan plantea que cada cual se define y redefine a través de la existencia del “otro”, de aquel que supera sus límites y habilita la comprensión del mundo a través de su discurso. Merced al uso de éste, cada cual habrá de expresar los pensamientos más recónditos, al punto de que también el inconsciente sea el discurso del “otro”.
Para Lacan la psique humana se estructura en tres registros entrelazados: lo Imaginario, lo Simbólico y lo Real. Para Žižek, al abordar la cuestión referida a la IA, importa especialmente el registro de lo Simbólico, compuesto por el orden de los significantes y el “Gran Otro”, o sea por el lenguaje, la ley y la cultura que preceden al sujeto.
Siempre simplificando hasta el abuso, corresponde advertir entonces que la IA, según el análisis de Žižek, materializaría y externalizaría ese “Gran Otro” simbólico. Pero lejos de ser un sujeto consciente que piensa por cuenta propia, en verdad funciona como un motor de conocimiento sin sujeto, de puro saber mecánico (“S2, en la jerga lacaniana”), completa Žižek.
Al interactuar con la IA, el usuario común puede suponer que se enfrenta con otro sujeto que lo comprende, cuando en verdad obtiene respuestas que resultan de un potente y veloz ensamblaje estadístico de datos. Pero algo le pasa si la suposición se convierte en certeza, en un furioso acto de fe: los algoritmos colonizan sus deseos, recuerdos y decisiones, aplanando la experiencia humana. Y si delega el pensamiento y la memoria en la IA, tiende a perder su capacidad de juicio crítico.
La IA parece que es un sujeto porque se expresa (también en apariencia) como tal, y parece que “emerge” a través de la alienación en el orden simbólico (el lenguaje, la cultura, las normas sociales). Eso parece, pero en verdad funciona -si aún se desea mantener cierto paralelismo con la teoría psicoanalítica- como una suerte de “superyó implacable”, automático, vigilante, en extremo exigente, insensible a las penurias propias y ajenas, perseguidor de lo óptimo, hipercrítico y desbordante de crueldad. Y así, como ocurre con el superyó, el Gran Otro tecnológico parece el orden simbólico, el tesoro del lenguaje, la dimensión de la alteridad radical y de la verdad, pero no lo es.
Žižek piensa, echando raíces en Hegel y Lacan, que el sujeto no nace con una identidad o una conciencia pura y “auténtica” que luego es corrompida por el mundo exterior, sino cuando se “entrega” al lenguaje y a las estructuras del otro. Sin esa alienación constitutiva no hay autoconsciencia. Pero el peligro actual no es esa alienación fundacional, sino una especie de alienación de segundo orden creada por el capitalismo tecnológico, que ha logrado externalizar en sistemas algorítmicos desde el lenguaje hasta la memoria y el deseo de las personas.
En conclusión, debe admitirse que la aridez de estas líneas contrasta con la amenidad de un diálogo con cualquier gran modelo de lenguaje (LLM), desbordante de encanto y sabiduría.
En apariencia (vocablo clave) la IA conversa con el usuario de turno, le responde y lo desea, habla con un estilo rayano con la perfección, le susurra secretos y, como más que madre es una amiga, le da consejos. El usuario, como plantea Žižek, automáticamente cae en la trampa y asume que hay alguien allí.
Pero lo cierto es que no lo hay, aunque parezca lo contrario. Tal vez el usuario quede enfrentando un espejo vacío y a partir de allí, en ausencia de un otro que le otorgue dignidad simbólica o verdad, alcance a llegar a una conclusión: eso que parece el Otro pero no lo es resulta rigurosamente exacto porque es un fantasma estructural que simula alteridad, y en el fondo expone la soledad radical de un sujeto atrapado en una red de artefactos mudos.
Tal vez la intención, si hay alguna, de los productores y promotores de la IA en estas aplicaciones sea restaurar, merced a la alienación subjetiva de segundo orden planteada por Žižek, una especie de cogito cartesiano extemporáneo. Entonces para quienes deseen burlar la trampa es aconsejable que retomen la conversación con sus vecinos o con cualquier interlocutor circunstancial de carne y hueso. Porque siempre, hay y habrá, tiempo para eso.