Prácticas comerciales manipuladoras, subliminales o explotadoras de vulnerabilidades mediante sistemas de IA

Sumario:

I. Algunas nociones previas sobre las prácticas comerciales personalizadas mediante sistemas de IA
1. Justificación del examen: carencias de la prohibición de la DSA y relaciones entre la DPCD y la AIA
2. La noción de sistemas de IA en la AIA
2.1. El sistema debe estar basado en una máquina
2.2. El sistema debe estar diseñado para funcionar con distintos niveles de autonomía
2.3. La posible capacidad de adaptación tras el despliegue
2.4. La capacidad de realizar inferencias para generar outputs
2.5. La posible capacidad de influencia en entornos físicos o virtuales

II. Prácticas comerciales personalizadas manipulativas o subliminales desarrolladas a partir de sistemas de IA. Un examen bajo el catálogo de prohibiciones de la AIA
1. La introducción en el mercado, la puesta en servicio o la utilización de un sistema de IA. Sujetos obligados por las prohibiciones del art. 5 AIA
2. La utilización de técnicas subliminales que transciendan la conciencia de una persona o de técnicas deliberadamente manipuladoras o engañosas
2.1. La utilización de técnicas subliminales que transciendan la conciencia de una persona (física)
2.2. La utilización de técnicas deliberadamente manipulativas o engañosas
3. Su objetivo o efecto: la alteración sustancial del comportamiento de una persona o un colectivo de personas
3.1. La alternatividad entre «objetivo» o «efecto», en la alteración comportamental
3.2. La alteración sustancial del comportamiento
4. La merma apreciable de la capacidad de tomar una decisión informada
5. La toma de una decisión que, de otro modo, no se hubiese tomado
6. La provocación o probabilidad de provocación de perjuicios considerables
6.1. La provocación o probabilidad de provocación de un perjuicio
6.2. La magnitud «considerable» del perjuicio y tipos de perjuicios englobados
6.3. El sujeto perjudicado por la práctica manipulativa o subliminal: la persona afectada, otra persona o un colectivo

III. Prácticas comerciales explotadoras de vulnerabilidades
1. El concepto de vulnerabilidad
2. Similitudes y diferencias reseñables con respecto a las prácticas de IA manipulativas o subliminales
3. La explotación de vulnerabilidades a través de sistemas de IA
4. Concreción de los sujetos pasivos: causas de vulnerabilidad del art. 5.1.b) AIA y prácticas prohibidas combinadas

IV. Consecuencias derivadas de la infracción de las prohibiciones de la AIA y su convivencia con otras infracciones paralelas bajo los principios de proporcionalidad y ne bis in idem

V. Valoraciones finales