En un futuro cercano podríamos ver asistentes de IA que pronostiquen e influyan en nuestra toma de decisiones en una etapa temprana, y vendan estas “intenciones” en desarrollo en tiempo real a empresas que puedan satisfacer la necesidad, incluso antes de que nos demos cuenta de que hemos tomado una decisión.
Así lo afirman especialistas en ética de la IA de la Universidad de Cambridge (Reino Unido) en una nueva publicación de ‘Harvard Data Science Review‘.
En el nuevo estudio los especialistas en IA aseguran que nos encontramos en los albores de un “nuevo mercado lucrativo pero problemático para las señales digitales de intención”, desde la compra de entradas de cine hasta la votación de candidatos. Lo denominan “economía de la intención”.
De esta forma, los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de Cambridge sostienen que la explosión de la IA generativa y nuestra creciente familiaridad con los chatbots abren una nueva frontera de “tecnologías persuasivas”, insinuada en recientes anuncios corporativos de gigantes tecnológicos.
Los agentes de IA “antropomórficos”, desde asistentes de chatbots hasta tutores digitales, tendrán acceso a grandes cantidades de datos psicológicos y de comportamiento íntimos, a menudo obtenidos a través de diálogos hablados informales y conversacionales. Esta IA combinará el conocimiento de nuestros hábitos en línea con una asombrosa capacidad de sintonizarse con nosotros de maneras que nos resulten reconfortantes (imitando personalidades y anticipando respuestas deseadas) para generar niveles de confianza y comprensión que permitan la manipulación social a escala industrial, dicen los investigadores.
“Se están gastando enormes recursos para colocar asistentes de IA en todas las áreas de la vida, lo que debería plantear la cuestión de a qué intereses y propósitos están destinados a servir estos supuestos asistentes”, apunta el doctor Yaqub Chaudhary, investigador visitante de LCFI. “Lo que la gente dice cuando conversa, cómo lo dice y el tipo de inferencias que se pueden hacer en tiempo real como resultado, son mucho más íntimos que los simples registros de interacciones en línea. Advertimos que ya se están desarrollando herramientas de inteligencia artificial para obtener, inferir, recopilar, registrar, comprender, pronosticar y, en última instancia, manipular y mercantilizar los planes y propósitos humanos”, agrega el experto en un comunicado.
Por su parte, el doctor Jonnie Penn, historiador de tecnología de la LCFI de Cambridge, reflexiona: “Durante décadas, la atención ha sido la moneda de cambio de Internet. Compartir la atención con plataformas de redes sociales como Facebook e Instagram impulsó la economía en línea. A menos que se regule, la economía de las intenciones tratará las motivaciones como la nueva moneda. Será una fiebre del oro para quienes se centran en las intenciones humanas, las dirigen y las venden. Deberíamos empezar a considerar el posible impacto que un mercado de estas características tendría sobre las aspiraciones humanas, incluidas elecciones libres y justas, una prensa libre y una competencia justa en el mercado, antes de convertirnos en víctimas de sus consecuencias no deseadas”, advierte.
De esta forma, Penn y Chaudhary escriben que la economía de la intención será la economía de la atención “graficada en el tiempo”: perfilando cómo la atención del usuario y su estilo comunicativo se conectan con los patrones de comportamiento y las elecciones que terminamos haciendo.
Si bien los investigadores dicen que la economía de la intención es actualmente una “aspiración” para la industria tecnológica, actualmente ya rastrean los primeros signos de esta tendencia a través de investigaciones publicadas y las pistas lanzadas por varios actores tecnológicos importantes.
