El Clasificador de riesgos del EU AI Act de RegulatoryBridge ayuda a las empresas a identificar posibles obligaciones regulatorias y a comprender los siguientes pasos hacia una gobernanza de IA responsable.
Inicie su evaluación para conocer la posible clasificación de riesgo de su sistema de IA.
¿El sistema de IA aplica alguna de las siguientes prácticas prohibidas?
¿Cómo clasifica el EU AI Act los sistemas de IA?
El EU AI Act sigue un enfoque basado en el riesgo. Las obligaciones aplicables dependen de las características y del uso previsto del sistema de IA.
Prácticas de IA prohibidas
Determinadas prácticas están prohibidas porque plantean riesgos inaceptables para la seguridad, los derechos fundamentales o la dignidad humana.
Sistemas de IA de alto riesgo
Determinados sistemas utilizados en ámbitos como el empleo, la educación, los servicios esenciales, las infraestructuras críticas y los productos regulados pueden estar sujetos a amplios requisitos de cumplimiento.
Obligaciones de transparencia
Determinados sistemas de IA deben cumplir requisitos de información o de identificación de contenidos, incluidas las normas aplicables a las interacciones con IA y a los contenidos generados o manipulados mediante IA.
Riesgo mínimo o nulo
Muchas aplicaciones de IA quedan fuera de los requisitos de alto riesgo del reglamento, aunque pueden seguir aplicándose otras obligaciones legales.
Estas categorías son un punto de partida práctico. Las obligaciones exactas dependen de las disposiciones aplicables, la finalidad prevista del sistema y el papel de la organización.
Cómo funciona la evaluación de riesgos del AI Act
Identificar prácticas prohibidas
La evaluación comprueba en primer lugar si el sistema puede implicar una práctica de IA prohibida por el artículo 5 del EU AI Act. Una práctica potencialmente prohibida requiere una revisión jurídica cuidadosa antes de desarrollar, desplegar o utilizar el sistema.
Evaluar la clasificación de alto riesgo
Si no se identifica ninguna práctica prohibida, la evaluación examina si el sistema puede considerarse de alto riesgo conforme al artículo 6 y a las disposiciones pertinentes del anexo I o del anexo III.
Revisar los requisitos de transparencia
La evaluación examina si el sistema puede activar obligaciones de transparencia específicas, como informar a las personas de que están interactuando con una IA o cumplir los requisitos aplicables a determinados contenidos generados por IA.
Comprender los posibles pasos siguientes
A partir de sus respuestas, la herramienta ofrece una clasificación preliminar y destaca las áreas que pueden requerir una evaluación adicional, documentación o planificación del cumplimiento.
¿Qué significa la clasificación de IA de alto riesgo?
Cuando un sistema de IA se clasifica como de alto riesgo y se aplican las obligaciones correspondientes, la organización puede tener que atender requisitos relativos a:
- Gestión y mitigación de riesgos
- Calidad y gobernanza de los datos
- Documentación técnica y conservación de registros
- Transparencia e instrucciones de uso
- Supervisión humana
- Precisión, solidez y ciberseguridad
- Gestión de la calidad y evaluación de la conformidad
- Registro, seguimiento y notificación de incidentes, cuando proceda
Los requisitos varían según la clasificación del sistema y el papel de la organización, en particular si actúa como proveedor, responsable del despliegue, importador o distribuidor.
¿Quién debería utilizar este clasificador del AI Act?
La herramienta está diseñada para:
- Desarrolladores de IA y proveedores de tecnología
- Empresas que despliegan soluciones de IA de terceros
- Equipos de cumplimiento, privacidad y jurídicos
- Profesionales de riesgos y seguridad de la información
- Responsables de producto y líderes de gobernanza de IA
- Organizaciones que evalúan el uso de la IA en sus operaciones europeas
Por qué es importante la clasificación de riesgos de la IA
Conocer pronto la clasificación probable de su sistema de IA puede ayudar a su organización a identificar posibles obligaciones, asignar recursos de cumplimiento e incorporar controles de gobernanza al ciclo de vida de desarrollo y despliegue.
Una evaluación estructurada también puede ayudar a determinar cuándo conviene una revisión jurídica o técnica especializada. La clasificación debe revisarse cuando cambien la finalidad prevista, la funcionalidad o el contexto de despliegue del sistema, o los requisitos regulatorios aplicables.
Preguntas frecuentes
¿Qué es el Clasificador de riesgos del EU AI Act?
Es una herramienta de evaluación preliminar que ayuda a las organizaciones a evaluar un sistema de IA frente a las categorías de riesgo pertinentes del EU AI Act. Su resultado es una indicación inicial, no una determinación jurídica vinculante.
¿Todos los sistemas de IA se consideran de alto riesgo?
No. La clasificación de alto riesgo depende de los criterios legales aplicables, la finalidad prevista y el uso. Muchos sistemas de IA no se clasifican como de alto riesgo, aunque pueden seguir sujetos a otras disposiciones del AI Act o a otras leyes.
¿Qué ocurre si mi sistema de IA puede estar prohibido?
No se base únicamente en el resultado automatizado. Revise la disposición pertinente del artículo 5 y obtenga el asesoramiento jurídico adecuado antes de continuar con la actividad potencialmente prohibida.
¿Qué obligaciones se aplican a los sistemas de IA de alto riesgo?
En función del sistema y de las fechas de aplicación correspondientes, los requisitos pueden incluir gestión de riesgos, gobernanza de datos, documentación técnica, registro de eventos, supervisión humana, ciberseguridad, evaluación de la conformidad y seguimiento posterior a la comercialización.
¿Un resultado de bajo riesgo significa que mi sistema de IA cumple plenamente?
No. Una clasificación de bajo riesgo no acredita automáticamente el cumplimiento de todo el EU AI Act ni de otras leyes aplicables. La transparencia, la alfabetización en IA, la protección de datos, la seguridad de los productos y otros requisitos pueden seguir siendo pertinentes.
¿Sustituye el clasificador al asesoramiento jurídico?
No. Ofrece orientación preliminar basada en la información facilitada. Una evaluación completa puede requerir la revisión de la finalidad prevista del sistema, la documentación técnica, el contexto de despliegue y las disposiciones legales aplicables.
Evalúe su grado de preparación en gobernanza de IA
Conocer la categoría de riesgo de su sistema de IA es un primer paso importante. RegulatoryBridge puede ayudar a su organización a evaluar posibles obligaciones, identificar carencias de gobernanza y desarrollar un enfoque estructurado del cumplimiento en materia de IA.
Póngase en contacto con RegulatoryBridge para hablar de su evaluación del EU AI Act y de sus necesidades de gobernanza de IA.
Contacte con RegulatoryBridge