En los últimos años, la inteligencia artificial (IA) ha transformado profundamente la forma en que interactuamos con la tecnología, configurando nuevas dinámicas económicas y sociales. Algunos han enfatizado las cuestiones éticas, mientras que otros consideran los aspectos e implicaciones políticos y sociales. Sin embargo, desde la economía de la atención, que ha dominado el internet al monetizar el tiempo y el interés de los usuarios, se vislumbra ahora un cambio hacia lo que los investigadores denominan «la economía de las intenciones». Este concepto, según académicos de la Universidad de Cambridge, representa un cambio de paradigma en cómo las empresas explotan los datos humanos, elevando los riesgos éticos y sociales a niveles sin precedentes.
¿Qué es la economía de las intenciones?
La economía de las intenciones se basa en el análisis y la predicción de nuestras intenciones mediante sistemas de IA.
Estos sistemas no solo buscan captar nuestra atención, sino que anticipan nuestros deseos, necesidades y decisiones antes de que se materialicen, convirtiéndolos en una mercancía para ser vendida a empresas y anunciantes.
Como señalan Jonnie Penn y Dr. Yaqub Chaudhary, investigadores del Centro Leverhulme para el Futuro de la Inteligencia de Cambridge, esta economía emergente podría convertirse en «una fiebre del oro» para aquellos capaces de manipular y comercializar nuestras intenciones más íntimas.
A diferencia de la economía de la atención, que se centra en mantenernos conectados a través de anuncios y contenidos atractivos, la economía de las intenciones va más allá: utiliza herramientas de IA avanzadas, como modelos de lenguaje generativo (LLM), para recopilar datos psicológicos y conductuales a través de interacciones cotidianas. Estas tecnologías analizan patrones de comportamiento, lenguaje y preferencias, moldeando de manera sutil nuestras decisiones. Un panorama incentivado por la gran disparidad entre nuestros conocimientos y accesibilidad transparente a estas herramientas y el rápido avance en su desarrollo.
Así pues, según los investigadores de Cambridge, estamos al borde de un cambio profundo en la relación entre las tecnologías de la información y la autonomía humana.
Las IA conversacionales antropomórficas –como asistentes digitales y chatbots– se están diseñando para interactuar de manera más íntima con los usuarios, construyendo confianza y adaptándose a sus emociones y comportamientos. Este nivel de personalización, aunque pueda parecer benigno o incluso útil, abre la puerta a la manipulación social a escala industrial.
Dr. Chaudhary destaca que estos sistemas recogen información mucho más personal que los registros tradicionales de interacción en línea, incluyendo patrones de discurso, emociones expresadas durante conversaciones y detalles contextuales que revelan preferencias, estados de ánimo y posibles decisiones futuras. «Lo que decimos, cómo lo decimos y las inferencias en tiempo real que estas tecnologías pueden hacer a partir de ello son herramientas poderosas para influir en nuestras decisiones futuras», afirma.
Además, el peligro no se limita al consumo. La economía de las intenciones podría tener consecuencias devastadoras en áreas clave como las elecciones democráticas, la libertad de prensa y la competencia económica justa. Por ejemplo, la capacidad de predecir y redirigir las intenciones políticas de los votantes podría alterar significativamente el equilibrio democrático.
Signos del horizonte: corporaciones y tecnología
Aunque la economía de las intenciones aún se describe como un horizonte aspiracional, los investigadores ya detectan indicios de esta tendencia en las estrategias de grandes corporaciones tecnológicas.
OpenAI, Meta, Nvidia y Apple están invirtiendo en herramientas capaces de comprender y predecir intenciones humanas. Desde los avances de Meta con su proyecto «Intentonomy» hasta los marcos de predicción de intenciones de Apple, el objetivo es claro: convertir nuestras aspiraciones y decisiones potenciales en un mercado lucrativo.
Si bien estos avances tecnológicos no son intrínsecamente negativos, los investigadores subrayan que, sin una regulación adecuada, esta economía podría socavar los valores fundamentales de la sociedad. La clave, según Penn, radica en la concienciación pública. «Debemos considerar cómo este mercado afectará nuestras aspiraciones humanas, antes de convertirnos en víctimas de sus consecuencias no deseadas», advierte.
Para las filosofías de la tecnología y la sociedad, la economía de las intenciones plantea preguntas urgentes: ¿hasta qué punto nuestra libertad puede ser influenciada sin que lo percibamos? ¿Cómo preservamos la autonomía en un mundo donde nuestras decisiones se compran y venden antes de que las tomemos?
La economía de las intenciones no solo redefine el capitalismo digital, sino que plantea un desafío existencial sobre el lugar de la humanidad en un sistema impulsado por IA. En este contexto, se hace urgente abrir el debate y fomentar una reflexión crítica sobre el futuro que queremos construir.
La cuestión no es si estas tecnologías avanzarán, sino cómo decidiremos usarlas. ¿Seremos cómplices pasivos de un sistema que mercantiliza nuestras intenciones, o tomaremos medidas colectivas para garantizar que estas herramientas sirvan al bien común?
