Evitar las prácticas de IA prohibidas (art. 5 AI Act)

Desde el 02.02.2025 rige en la UE una prohibición estricta para determinadas aplicaciones de IA: quien las utilice pese a todo se arriesga a la multa más alta de todo el Reglamento de IA (AI Act). Esto no afecta solo a los grandes grupos tecnológicos, sino a cualquier empresa que utilice o adquiera sistemas de IA.

En pocas palabras: el art. 5 del Reglamento de IA (AI Act) prohíbe en toda la UE determinadas prácticas de IA, como el scoring social, los sistemas manipuladores o que explotan la vulnerabilidad de las personas, y las evaluaciones biométricas ilícitas. Afecta a todas las empresas que utilizan o adquieren sistemas de IA, con independencia del sector o del tamaño. Las infracciones de esta prohibición se sancionan con hasta 35 millones de euros o el 7 % del volumen de negocios anual mundial, el marco sancionador más alto del AI Act.

¿A quién afecta la prohibición?

La prohibición del art. 5 del AI Act se dirige a toda empresa que desarrolle, adquiera o utilice sistemas de IA en su actividad, tanto si se trata de una gran empresa como de un pequeño negocio. Esto no afecta solo al software desarrollado a medida, sino también a las herramientas de IA adquiridas a terceros, por ejemplo para selección de personal, valoración de clientes, personalización de marketing o vigilancia interna. Tampoco el uso de herramientas de IA ya listas de proveedores externos exime del deber de revisión, porque la responsabilidad recae, en última instancia, en quien utiliza realmente el sistema en su propia empresa, y no solo en quien lo ha desarrollado.

¿Qué prácticas de IA están concretamente prohibidas?

El art. 5 del AI Act menciona varias categorías de prácticas prohibidas. Entre ellas figuran los sistemas de scoring social, que evalúan a las personas según su comportamiento o sus características y, a partir de ahí, les generan desventajas en contextos que nada tienen que ver. También están prohibidos los sistemas de IA que manipulan, engañan o influyen de forma inconsciente en las personas, así como las aplicaciones que explotan deliberadamente la vulnerabilidad de determinados grupos (por ejemplo, por su edad, discapacidad o situación económica) para dirigir su comportamiento. A ello se suman las evaluaciones biométricas ilícitas, como el reconocimiento de emociones en el lugar de trabajo o la categorización automatizada de personas según características sensibles.

¿Qué debe hacer usted concretamente?

El legislador no exige una nueva obligación de documentación en sentido estricto, sino una revisión activa y periódica de los sistemas de IA que usted utiliza y de los que planea utilizar. En concreto, esto significa:

1. Revisar de forma sistemática los sistemas de IA en uso y planificados frente al catálogo de prácticas prohibidas del art. 5 del AI Act.
2. Valorar de manera crítica, y en caso de duda con apoyo especializado, las aplicaciones especialmente sensibles, por ejemplo las destinadas a evaluar personas o al reconocimiento de emociones y biometría.
3. Desactivar de forma consecuente las funciones prohibidas o no adquirir tales sistemas en absoluto.
4. Vincular de forma vinculante la adquisición y el uso de nuevas herramientas de IA a una revisión de autorización previa, en lugar de introducir herramientas sin comprobar en los departamentos.
5. Documentar el resultado de cada revisión para poder acreditarlo ante las autoridades de supervisión en caso necesario.

Una herramienta como Company Audit muestra cuáles de estas obligaciones se aplican concretamente a su empresa.

¿Hasta cuándo debe actuar?

La prohibición de las prácticas de IA prohibidas se aplica ya desde el 02.02.2025 y es, por tanto, la obligación en vigor desde hace más tiempo de todo el AI Act. A diferencia de muchas otras obligaciones en materia de IA, no se trata de un plazo de implantación único, sino de una obligación continua y permanente: todo sistema de IA recién introducido o cuya función haya cambiado debe volver a revisarse frente al catálogo de prohibiciones, aunque antes se hubiera clasificado como poco crítico.

¿Qué se arriesga en caso de infracción?

Las infracciones del art. 5 del AI Act se sancionan con el marco de multas más alto de todo el AI Act: hasta 35 millones de euros o el 7 % del volumen de negocios anual mundial, según cuál de los dos importes sea mayor. Con ello, el marco queda claramente por encima de las multas por otros incumplimientos del AI Act, por ejemplo las infracciones de las obligaciones de transparencia o de etiquetado. Este umbral tan elevado muestra hasta qué punto se toma en serio el legislador la protección de las personas frente a prácticas de IA manipuladoras y discriminatorias.

Preguntas frecuentes

¿Afecta a las herramientas de IA corrientes de empresa, como chatbots o generadores de texto?

La mayoría de las herramientas estándar para redacción de textos, traducción o procesos internos no son críticas. Son arriesgados sobre todo los sistemas destinados a evaluar o vigilar a personas, o a influir de forma deliberada en su comportamiento.

¿Basta con preguntar al proveedor de IA si su producto es conforme?

No. El deber de revisión recae en la propia empresa que utiliza el sistema; la información del proveedor no sustituye a una evaluación propia con arreglo al catálogo de prohibiciones, porque el uso concreto en su empresa puede valorarse de forma distinta a la descripción general del producto.

¿Qué se considera scoring social en el sentido del art. 5 del AI Act?

Se trata de sistemas que evalúan a las personas según su comportamiento o sus características y les asignan, a partir de ello, desventajas en un contexto que nada tiene que ver con la finalidad original de la recogida de datos.

¿Debo someter a revisión previa cada nueva herramienta de IA?

Sí. Una revisión de autorización antes de adquirir o utilizar una nueva herramienta de IA evita que funciones prohibidas lleguen a la empresa sin ser advertidas ni revisadas.

¿Qué hago si no estoy seguro de que un sistema esté afectado?

Dado que aquí se aplica el marco de multas más alto de todo el AI Act, en caso de duda debería recabar asesoramiento jurídico antes de utilizar un sistema dudoso, en lugar de confiar en una aclaración posterior.

Fuente: art. 5 AI Act. Este artículo es una información general y no sustituye al asesoramiento jurídico en el caso concreto. Fecha: julio de 2026.