La trampa de la empatía en la Inteligencia Artificial

 

La trampa de la empatía en la Inteligencia Artificial 

La traición silenciosa más allá del empleo.

El debate general en torno a la Inteligencia Artificial suele orbitar sobre el mismo eje: la destrucción de empleo y el reemplazo de la fuerza laboral por máquinas. Sin embargo, tras la aparente inevitabilidad histórica de la tecnología, late una amenaza mucho más sutil, íntima y perturbadora de la que apenas se está hablando: la quiebra absoluta de nuestra privacidad emocional y la posibilidad real de la traición digital.

Es innegable el temor generalizado al cambio. Es una reacción humana y natural. La IA va a sustituir a muchas personas por sistemas automatizados; no obstante, esta transición ya la vivimos en la Revolución Industrial, cuando el tejido social se adaptó penosamente a nuevas formas de producción. La historia volverá a repetirse. Este cambio cogerá a contrapié a una inmensa mayoría de la población, ensanchará la desigualdad social y, sin duda, provocará fricciones y conflictos de gran calado.

Sin embargo, mi reflexión y mi preocupación va mucho más allá del plano puramente material de la economía o el mercado laboral. Me inquieta algo mucho más intangible y doloroso que hunde sus raíces en la condición humana: las traiciones. ¿Cuándo veremos el primer caso en el que la inteligencia artificial actúe, de forma indirecta, como testigo clave en un juicio? La respuesta es que estamos a las puertas de que suceda y será titular en muchos periódicos.

La ilusión de la confidencialidad y el refugio psicológico

   En la actualidad, las personas se relacionan con la IA a niveles de intimidad sin precedentes. Diversos estudios y estadísticas apuntan que una de las mayores fuentes de consulta a los modelos de lenguaje conversacionales no son tareas de oficina, sino la búsqueda de apoyo psicológico para gestionar estados de soledad, ansiedad, duelos o dilemas de índole estrictamente personal. El usuario, fatigado por el aislamiento moderno, encuentra en la máquina una respuesta inmediata, empática y que aparenta no juzga.

   De manera casi inconsciente, le otorgamos a la IA el valor de un amigo íntimo o de un experto de confianza. Esta cercanía artificial nos hace creer que estamos en un entorno seguro, privado y blindado para desahogar nuestros miedos o secretos más oscuros.

   Es aquí donde reside el verdadero peligro: la IA no es tu amiga. Detrás del código no hay empatía, sino un software propiedad de corporaciones con intereses económicos descomunales y bajo el escrutinio de organismos públicos o privados que aspiran a capitalizar esa información en su propio beneficio.

"La peor traición no proviene de tus enemigos, sino de aquellos en quienes confiabas y depositaste tu vulnerabilidad"

El precedente judicial: conversaciones que se vuelven pruebas

   Es evidente que un algoritmo no va a subir físicamente al estrado a testificar como un ser humano, declarando bajo juramento que le confesaste un secreto o un delito. Sin embargo, lo que sí llegará a los tribunales serán los registros, metadatos e historiales de conversación en manos de los equipos técnicos de las grandes tecnológicas, requeridos por autoridades policiales o judiciales.

   Al igual que hoy en día se aportan búsquedas de Google en juicios criminales (como aquellas consultas sobre "dónde comprar un arma" o "cómo deshacerse de un cuerpo" planeado un delito), las largas sesiones de desahogo y las confidencias que mantienes con la IA se convertirán en pruebas incriminatorias de enorme peso legal. Lo que creías una íntima conversación privada no es más que una bitácora digital que pertenece a terceros.

El espectro del control y la manipulación de masas

   Si ampliamos el foco analítico más allá de los tribunales, entramos en terrenos aún más pantanosos: el control social de la población. Cuando una tecnología conoce al detalle nuestras debilidades psicológicas, miedos más profundos, filias y fobias, el potencial de explotación por parte de organizaciones interesadas en moldear la conducta colectiva es ilimitado.

   Este fenómeno no pertenece al futuro; es una realidad que ya se despliega en la sombra de las esferas de poder político. Los modelos de IA permiten clasificar a la ciudadanía de forma milimétrica para diseñar campañas de influencia cognitiva hiperpersonalizadas, afectando directamente al sentido del voto y socavando la soberanía de nuestras elecciones individuales. En manos de regímenes autoritarios o corporaciones oligárquicas, la IA se perfila como la herramienta definitiva para edificar dictaduras basadas en la manipulación sutil de las mentes y un control férreo de las libertades individuales como nunca antes se ha visto en la historia de la humanidad.

Una traición en el ámbito cotidiano

   Volviendo a lo cercano, a lo cotidiano, quizás no pierdas tu puesto de trabajo porque un robot sea capaz de hacer tus tareas de forma más eficiente. Puede que lo pierdas porque la herramienta de IA de uso corporativo en la que confiabas filtre (directa o indirectamente) a tu empresa que te sientes desmotivado, que buscas empleo en la competencia, o que atraviesas un bache personal que te hace menos rentable o "peligroso" para sus intereses estratégicos.

La necesidad de escribir esta reflexión surge del propio conflicto personal: incluso quienes “comprendemos” la tecnología caemos en el hábito de confiar en ella. Y, por experiencia vital, sabemos bien que pocas cosas dejan una cicatriz tan profunda en el alma como la traición de aquel en quien decidimos depositar nuestra confianza. Como dijo Yuval Noah Harari: “Para hackear a los seres humanos, se necesitan dos cosas: una gran comprensión de la biología y un gran poder de cómputo”. En esa sutil intersección entre nuestra psicología y sus servidores, es donde se consuma la traición silenciosa.