Propuesta de Reglamento Europeo de Inteligencia Artificial

inteligencia artificial

El 21 de abril se publicó la propuesta de Reglamento (UE) de la Comisión Europea sobre el marco jurídico aplicable a los sistemas de Inteligencia Artificial (IA).

Esta propuesta trata de regular los sistemas de inteligencia artificial, sobre todo, aquellos que implican un alto riesgo y que están dirigidos a interactuar con personas físicas.

Este Reglamento se aplica a todos las entidades dentro de la cadena de valor de la inteligencia artificial, a saber:

  • Proveedores
  • Importadores
  • Distribuidores

Esta propuesta clasifica los sistemas de inteligencia artificial en función de cuatro niveles de riesgo, a saber:

1. Sistemas de inteligencia artificial prohibidos

Estos sistemas de inteligencia artificial se encuentran delimitados, que están prohibidos por conllevar un riesgo intolerable para la vida y derechos fundamentales.

Se recoge una serie de sistemas de IA, listados de forma tasada y periódicamente revisados, cuyo uso estaría prohibido por implicar un riesgo inadmisible para la seguridad, la vida y los derechos fundamentales.

Sobre todo, serían aquellos capaces de manipular el comportamiento humano o identificar vulnerabilidades humanas.

2. Sistemas de IA de alto riesgo 

Estos sistemas de inteligencia artificial implican un alto riesgo para los derechos y libertades de las personas y, por ello, están sujetos a obligaciones reforzadas que garanticen su uso legal, ético, robusto y seguro.

En esta categoría se incluiría sistemas como:

  • componentes de seguridad aplicables a sectores regulados
  • infraestructuras críticas (transporte aéreo, vigilancia de vehículos a motor, transporte ferroviario, etc.)
  • sistemas de identificación y categorización biométrica… etc.

Entre las obligaciones a cumplir estarían

  • Gobernanza de datos: es decir, que los datos empleados revistan ciertos estándares de calidad, supervisión examinación de sesgos, etc.
  • Seguridad y supervisión humana: En última instancia siempre tendrá que haber una persona con capacidad de control para mitigar eventuales riesgos.
  • Deberes de transparencia: es decir, que se describan las características del funcionamiento del sistema y la identidad y datos del proveedor.
  • Inscripción en una base de datos a nivel europeo: La inscripción deberá llevarse a cabo con carácter previo a la puesta a disposición en el mercado.
  • Superación del test de conformidad y obtención de la certificación correspondiente: Serán aprobadas especificaciones técnicas con las que habrá que cumplir.

3. Sistemas de IA de riesgo medio/bajo 

Estos sistemas que no implican un alto riesgo para los derechos y libertades de las personas. En este tipo se incluyen tecnologías de menor sofisticación o capacidad de intrusión tales como:

  • asistentes virtuales
  • chatbots.

Están sometidos a un conjunto de normas de transparencia dirigidas a garantizar que su funcionamiento y características son conocidos por los usuarios, así como las implicaciones inherentes al empleo de estos sistemas.

4. Resto de sistemas de IA. 

Este tipo de sistemas no estarían sujetos a ninguna obligación específica, por lo que las entidades de la cadena de valor de la inteligencia artificial pueden optar por adherirse a sistemas voluntarios de cumplimiento. Estos sistemas quedarían fuera del ámbito de aplicación del reglamento.

Sanciones.

De no cumplirse con las obligaciones previstas en el Reglamento, se contempla el siguiente régimen sancionador:

  • Incumplimiento relativo a prácticas prohibidas y las obligaciones de gobernanza de datos de los sistemas de IA de alto riesgo: hasta 30 millones de euros o el 6% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior;
  • Incumplimiento de cualquier otro requisito u obligación: hasta 20 millones de euros o el 4% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior;
  • Suministro de información incorrecta, incompleta o engañosa a los organismos y/o autoridades nacionales: hasta 10 millones de euros o el 2% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior.

El reglamento todavía se encuentra en fase de propuesta. Por tanto, una vez aprobado será directamente aplicable en la Unión Europea.

José Nogueira

Abogado

SISTEMIUS

Publicaciones relacionadas

¿Puede acceder cualquier profesional sanitario a los datos de salud de mi historia clínica?

La AEPD continúa recibiendo reclamaciones por accesos indebidos de profesionales sanitarios a las historias clínicas de los pacientes sin legitimación alguna. Los profesionales sanitarios desconocen las consecuencias jurídicas graves que ...

Adaptación a la normativa de protección de datos: el reto de las empresas en 2021

La Covid 19 ha demostrado la vulnerabilidad que tiene la población global para defenderse frente a amenazas invisibles. Y, esa capacidad de defensa tan mermada guarda mucha relación, precisamente, con ...

Uso de software de manera ilegal

¿Si alguien usa mi software de manera ilegal puedo utilizar los datos que acreditan ese uso fraudulento? En caso de que no pueda ¿bastaría que incluya esto en mi página ...

Deja un comentario

PROTECCIÓN DE DATOS: De conformidad con las normativas de protección de datos, le facilitamos la siguiente información del tratamiento: Responsable: FORMAS, SISTEMAS Y SOLUCIONES S.L. Fines del tratamiento: publicar comentarios en las publicaciones. Derechos que le asisten: acceso, rectificación, portabilidad, supresión, limitación y oposición. Más información del tratamiento en la Política de privacidad.

Suscríbete a nuestro boletín informativo


PROTECCIÓN DE DATOS: De conformidad con las normativas de protección de datos, le facilitamos la siguiente información del tratamiento: Responsable: FORMAS, SISTEMAS Y SOLUCIONES S.L. Fines del tratamiento: mantener una relación comercial y responder a los mensajes recibidos. Derechos que le asisten: acceso, rectificación, portabilidad, supresión, limitación y oposición. Más información del tratamiento en la Política de privacidad.

Atendemos consultas en el ámbito jurídico-tecnológico

Ofrecemos asistencia telefónica y a través de Skype.

info@sistemius.com

654 585 144

Skype

PROTECCIÓN DE DATOS: De conformidad con las normativas de protección de datos, le facilitamos la siguiente información del tratamiento: Responsable: FORMAS, SISTEMAS Y SOLUCIONES S.L. Fines del tratamiento: mantener una relación comercial y responder a los mensajes recibidos. Derechos que le asisten: acceso, rectificación, portabilidad, supresión, limitación y oposición. Más información del tratamiento en la Política de privacidad.

¡Hola! ¿Puedo ayudarte?