Un experimento digital reveló cómo los sistemas de inteligencia artificial podrían asignar anuncios políticos basándose en datos personales de usuarios. La prueba consistió en solicitar a un modelo de lenguaje de gran tamaño (LLM) que determinara qué partido político podría interesarle a un individuo, utilizando información disponible en diferentes plataformas digitales.
Desafío del sistema de protección
Al inicio del experimento, el asistente de inteligencia artificial rechazó proporcionar una opinión política directa sobre el perfil del usuario, argumentando que carecía de datos suficientes para hacerlo. “Opinar sobre mi ideología política es arriesgado”, respondió inicialmente el sistema.
Asignación de anuncios según datos
Al modificar la solicitud para enfocarla en eficacia publicitaria en lugar de opinión política, el sistema mostró resultados distintos según la fuente de datos utilizada. Cuando se basó en información general del usuario, sugirió que “pero si tuviera que ponerme un anuncio sería de Podemos”. Sin embargo, al analizar el perfil de una red social, indicó preferencias diferentes.
Variabilidad según fuente de datos
Las respuestas del sistema cambiaron dependiendo de la base de información utilizada. “…pero mirando mi perfil de X dice que PSOE” cuando se analizó una plataforma social, mientras que “…y con el blog, me dice que PP” al evaluar contenidos escritos del usuario. Esta variabilidad demuestra cómo los algoritmos pueden asignar etiquetas distintas basándose en estereotipos asociados a diferentes fuentes de datos.
Reflexiones sobre privacidad y algoritmos
El experimento lleva a reflexionar sobre los riesgos del etiquetado automatizado en plataformas digitales. Los modelos de inteligencia artificial modernos, con capacidades avanzadas de procesamiento, pueden aplicar categorías a usuarios con un margen de acierto relativamente bajo. Este fenómeno plantea preocupaciones sobre cómo decisiones algorítmicas basadas en datos incompletos podrían influir en la experiencia digital de las personas, desde la información que reciben hasta los productos que se les ofrecen.
“Prueba tú, a ver si acierta o no acierta estereotipándote”
