El trabajo advierte que la legislación actual no responde adecuadamente a este tipo de tecnologías, ya que está pensada para supuestos más claros de recogida de datos o decisiones automatizadas puntuales. Sin embargo, estos sistemas operan de forma continua analizando lo que hacemos en cada momento y extrayendo conclusiones sobre nuestro comportamiento, lo que dificulta su encaje en las categorías jurídicas existentes. La investigación subraya así el desfase entre la rapidez con la que avanza la tecnología y la capacidad del Derecho para adaptarse a ella.

Hoy en día, muchos dispositivos y aplicaciones de uso cotidiano —como teléfonos móviles, plataformas digitales, asistentes virtuales, sistemas de atención al cliente, videojuegos o herramientas de seguimiento de la atención en entornos educativos o laborales— [JB1] [L Escaj2] incorporan sistemas de inteligencia artificial que obtienen y analizan información obtenida del rostro, la voz, la mirada o la forma en que interactuamos con ellos. Por ejemplo, pueden detectar si una persona presta atención, si muestra interés o cansancio, cuánto tiempo se detiene en un contenido o cómo reacciona ante él, y utilizar esa información para ajustar lo que se le muestra, desde vídeos hasta anuncios o mensajes diseñados para captar su atención o influir en su comportamiento.

Se trata de tecnologías relacionadas con la biometría —como las utilizadas para reconocer huellas dactilares o desbloqueo facial —, pero que en este caso no se utilizan para identificar a la persona, sino para interpretar su comportamiento y su estado en cada momento.

El estudio subraya un cambio de fondo en la evolución tecnológica. “Pasamos de recoger datos que el usuario proporciona directamente a deducir información más íntima sin que la persona la haya expresado”, explica Leire Escajedo, profesora de la Facultad de Relaciones Laborales y Trabajo Social de la Euskal Herriko Unibertsitatea. “Estas herramientas ya no solo registran lo que hacemos, sino que intentan interpretar cómo nos sentimos o cómo podríamos actuar y son capaces de ajustarse para modular nuestro comportamiento”, alerta sobre sus posibles implicaciones.

Riesgos difíciles de detectar y necesidad de actuar antes

La investigación identifica varios riesgos. Uno de los principales afecta a la libertad personal, ya que estos sistemas “pueden influir en las decisiones” al adaptar el entorno digital en función del comportamiento observado. También apunta a posibles “problemas de desigualdad”, derivados de la clasificación automática de las personas según su comportamiento, y alerta de una “falta de transparencia sobre qué datos se generan y con qué finalidad se utilizan”. “El problema no se resuelve únicamente con informar al usuario: aceptar condiciones o ‘hacer clic’ no implica comprender qué tipo de información se está generando, cómo se utiliza o en qué modo puede acabar condicionando nuestras decisiones”, apunta.

“Además, estos efectos no suelen ser evidentes de inmediato. No se trata de una única decisión concreta, sino de pequeños ajustes continuos que, con el tiempo, pueden acabar condicionando el comportamiento”, apostilla.

El estudio recuerda que el Reglamento General de Protección de Datos se aprobó en 2016, cuando las biometrías se utilizaban sobre todo para identificar a las personas, mientras que hoy se emplean cada vez más para interpretar su comportamiento. Por su parte, el Reglamento Europeo de Inteligencia Artificial no ha dado suficiente importancia a estos usos, pese a su impacto real.

Ante este escenario, el trabajo ofrece pautas prácticas para empresas y autoridades y establece que el riesgo de estos sistemas “debe evaluarse antes de su implantación”, identificando qué información generan y “fijando límites cuando puedan afectar a los derechos fundamentales”.