German Implementation of the EU AI Act

Resumen ejecutivo

El documento presenta un proyecto de ley alemán para implementar el Reglamento (UE) 2024/1689 de la Unión Europea sobre inteligencia artificial. Este reglamento establece un marco legal para el desarrollo y uso de sistemas de IA, con un enfoque basado en el riesgo. La ley designa a la Bundesnetzagentur como autoridad principal, estableciendo un centro de coordinación y definiendo las responsabilidades de otras agencias. También incluye disposiciones sobre procedimientos de sanción y protección de denunciantes. Finalmente, se detallan los costes presupuestarios asociados a la implementación.

Documento original

Documento resumen

Implementación de la Regulación Europea de Inteligencia Artificial (IA)

Fecha: 20 de octubre de 2024

Fuentes: Extractos del documento «1736937860406.pdf»

Propósito del Documento: Este documento es un borrador de ley del Ministerio Federal de Economía y Protección Climática y el Ministerio Federal de Justicia de Alemania. Su objetivo es implementar a nivel nacional el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, conocido como el Reglamento de Inteligencia Artificial (RIA). Este reglamento establece reglas armonizadas para el desarrollo, la comercialización, la puesta en servicio y el uso de sistemas de IA en la Unión Europea.

Temas Principales y Hallazgos Clave:

1. Marco Legal Europeo:

• El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024.
• Establece un marco regulatorio unificado para la IA en la UE, adoptando un enfoque basado en el riesgo.
• Incluye prohibiciones para ciertas prácticas de IA, requisitos específicos para sistemas de IA de alto riesgo, obligaciones para los actores involucrados, normas de transparencia y medidas para fomentar la innovación.
• Busca crear un mercado único para bienes y servicios basados en IA, promoviendo la innovación y garantizando al mismo tiempo un alto nivel de protección en salud, seguridad y derechos fundamentales.
• Las regulaciones del RIA son directamente aplicables a partir del 2 de agosto de 2026.

1. «Die Verordnung (EU) 2024/1689 legt einen einheitlichen Rechtsrahmen für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen künstlicher Intelligenz (KI-Systeme) in der Union fest.»
2. Necesidad de Legislación Nacional:

• Cada estado miembro de la UE debe designar o establecer al menos una autoridad de notificación y una de vigilancia del mercado antes del 2 de agosto de 2025 para implementar el RIA.
• La legislación nacional debe garantizar la correcta aplicación del RIA, estableciendo las autoridades competentes y sus responsabilidades.
• La legislación alemana, a través de este proyecto de ley, busca cumplir con este requerimiento.

1. «Zur Durchführung der Verordnung (EU) 2024/1689 muss jeder Mitglied-staat bis zum 2. August 2025 mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde […] einrichten oder benennen.»
2. Autoridades Competentes en Alemania:

• Agencia Federal de Redes (Bundesnetzagentur – BNetzA): Designada como la principal autoridad de vigilancia del mercado y autoridad de notificación, especialmente para áreas no cubiertas por otras autoridades.
• Cámara de Vigilancia de Mercado Independiente (UKIM): Se establece dentro de la BNetzA para supervisar casos específicos de alto riesgo que requieren independencia total.
• Centro de Coordinación y Competencia (KoKIVO): Se crea dentro de la BNetzA para ofrecer soporte técnico, coordinar a las autoridades, informar a los actores interesados y promover la innovación.
• Otras Autoridades: Las autoridades ya designadas para la supervisión de productos armonizados o en el sector financiero mantendrán sus responsabilidades en el ámbito del RIA.
• Acreditación: La Agencia Alemana de Acreditación (Deutsche Akkreditierungsstelle) es responsable de la evaluación y supervisión de los organismos de evaluación de la conformidad.

1. «Die Bundesnetzagentur für Elektrizität, Gas, Telekommunikation, Post und Ei-senbahnen (Bundesnetzagentur) ist die zuständige Marktüberwachungsbehörde und die zuständige notifizierende Behörde, soweit in diesem Gesetz nichts anderes bestimmt ist.»
2. Funciones Principales de las Autoridades:

• Vigilancia del Mercado: Supervisar el cumplimiento del RIA, incluyendo prohibiciones, requisitos para sistemas de alto riesgo y obligaciones de transparencia.
• Notificación: Evaluar, designar y notificar a los organismos de evaluación de la conformidad.
• Coordinación: Asegurar la aplicación consistente del RIA y compartir información entre autoridades.
• Fomento de la Innovación: Facilitar la creación de entornos de prueba (reallabore) de IA y apoyar a las PYMES y startups.

1. «Das Koordinierungs- und Kompetenzzentrum KI-VO hat die Aufgaben, […] die Zusammenarbeit der nach diesem Gesetz zuständigen Behörden zu koordinieren und darauf hinzuwirken, dass die horizontalen Rechtsfragen einheitlich beantwortet werden.»
2. Financiamiento y Personal:

• Se espera que los gastos aumenten gradualmente de 2025 a 2027.
• Se proyectan costos anuales de personal, materiales y gastos generales de 16.963.901 euros para la BNetzA a partir de 2027.
• Se requerirán cerca de 130 puestos adicionales de trabajo en la BNetzA a partir de 2027.
• También se asignan fondos para el desarrollo de sistemas de TI y otras necesidades operativas.

1. «Insgesamt entstehen der Bundesnetzagentur aufgrund der Neuregelungen ab dem Jahr 2027 jährliche Personaleinzelkosten für die Wahrnehmung der Fachaufgaben in Höhe von insgesamt 9.789.651 Euro, Sacheinzelkosten in Höhe von 3.320.010 Euro sowie Gemein-kosten in Höhe von 3.854.240 Euro.»
2. Reallabores de IA:

• La BNetzA será responsable de establecer y operar un laboratorio de pruebas de IA (KI-Reallabor), siguiendo los artículos 57 y 58 del RIA.
• Se da prioridad de acceso a PYMES y startups.

1. «Die Bundesnetzagentur errichtet und betreibt ein Reallabor nach den Artikeln 57 und 58 der Verordnung (EU) 2024/1689.»
2. Otros Puntos Relevantes:

• El proyecto de ley también incluye modificaciones a la Ley de Protección de Denunciantes (Hinweisgeberschutzgesetz) para incluir infracciones al RIA.
• Las obligaciones directas para empresas y ciudadanos se derivan del RIA, no de esta legislación de implementación.
• Se establecen reglas sobre multas por infracciones al RIA, basadas en la Ley de Infracciones Administrativas (Gesetz über Ordnungswidrigkeiten – OWiG).
• Se especifica que las autoridades pueden acceder remotamente a los sistemas de IA para verificar el cumplimiento, con ciertas restricciones a los derechos de propiedad.
• Se establece un sistema de gestión de quejas para que los ciudadanos puedan denunciar incumplimientos.

Implicaciones Clave:

• Armonización: Este proyecto de ley busca asegurar una aplicación consistente del RIA en Alemania, evitando duplicidades y asegurando una estructura de vigilancia efectiva.
• Innovación: El enfoque también se centra en facilitar la innovación en el campo de la IA, particularmente apoyando a PYMES y startups, a través de reallabores y otras medidas de fomento.
• Protección: Se busca asegurar la protección de los derechos fundamentales y la seguridad de los ciudadanos, mediante la vigilancia efectiva de los sistemas de alto riesgo.
• Colaboración: La importancia de la coordinación y colaboración entre diversas autoridades y organismos es central.

Próximos Pasos:

• Este es un borrador, y por lo tanto, puede haber modificaciones.
• Se deben definir más detalles sobre el financiamiento y las responsabilidades de ciertas autoridades en futuras rondas de consulta.
• El proyecto de ley debe ser aprobado por el Parlamento Alemán para poder entrar en vigor.

Preguntas frecuentes

Preguntas Frecuentes sobre la Regulación de la Inteligencia Artificial en la UE y Alemania

• ¿Cuál es el propósito principal de la regulación de la UE sobre inteligencia artificial (IA), específicamente el Reglamento (UE) 2024/1689?El Reglamento (UE) 2024/1689 establece un marco legal armonizado para el desarrollo, comercialización, puesta en marcha y uso de sistemas de IA en la Unión Europea. Su enfoque es basado en el riesgo, prohibiendo ciertas prácticas, estableciendo requisitos para sistemas de alto riesgo y fomentando la innovación, especialmente para PYMES y startups. El objetivo es crear un mercado único para bienes y servicios basados en IA, a la vez que se protege la salud, la seguridad, los derechos fundamentales, la democracia, el estado de derecho y el medio ambiente.
• ¿Cuándo entrará en vigor el Reglamento de la UE sobre IA y qué implicaciones tiene para los estados miembros? El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024, pero sus disposiciones serán directamente aplicables a partir del 2 de agosto de 2026. Los Estados miembros deben designar autoridades nacionales competentes (al menos una autoridad notificadora y una de supervisión del mercado) a más tardar el 2 de agosto de 2025. También deben establecer reglas para las sanciones y otras medidas de aplicación.
• ¿Qué hace el proyecto de ley alemán para implementar el Reglamento de la UE sobre IA? El proyecto de ley alemán tiene como objetivo implementar el Reglamento (UE) 2024/1689 designando las autoridades competentes, regulando sus tareas, estableciendo normas de cooperación y procedimientos de multas. También modifica la Ley de Protección de Denunciantes (Hinweisgeberschutzgesetz) para implementar el Artículo 87 del Reglamento de la UE, facilitando la denuncia de infracciones. El proyecto no crea nuevas obligaciones, sino que especifica cómo se aplicarán las normas europeas.
• ¿Cuál es el papel de la Agencia Federal de Redes (Bundesnetzagentur) en la regulación de la IA en Alemania? La Bundesnetzagentur es designada como la principal autoridad de supervisión del mercado y autoridad de notificación para áreas no cubiertas por otras autoridades. Además, establece un Centro de Coordinación y Competencia para la IA (KoKIVO), que apoya a otras autoridades, coordina la cooperación, proporciona información y promueve la innovación. También es el punto de contacto central para consultas sobre el Reglamento de la UE. La agencia también establece una Cámara de Supervisión de Mercado Independiente (UKIM) para ciertos sistemas de IA de alto riesgo, asegurando la imparcialidad en la supervisión.
• ¿Cómo se gestionará la supervisión de los sistemas de IA en áreas donde ya existen autoridades reguladoras? Las autoridades que ya supervisan la regulación del mercado de productos armonizados (por ejemplo, en sectores como vehículos o productos eléctricos) y las instituciones financieras también serán responsables de la supervisión de los sistemas de IA en sus respectivos campos bajo el Reglamento (UE) 2024/1689. Esto utiliza estructuras ya existentes para evitar la creación de duplicidades y garantizar la aplicación especializada de la ley.
• ¿Qué tipo de medidas se están tomando para apoyar la innovación en IA, especialmente para las PYMES y startups?La Bundesnetzagentur establece y opera un laboratorio real de IA (KI-Reallabor), que brinda a las PYMES y startups acceso prioritario para probar y desarrollar nuevas tecnologías de IA. Además, el Centro de Coordinación y Competencia para la IA (KoKIVO) tiene la tarea de implementar medidas de sensibilización y capacitación para el Reglamento (UE) 2024/1689, dirigidas a las necesidades de las PYMES y startups. También apoya la elaboración de códigos de conducta y fomenta la innovación a través de programas de apoyo.
• ¿Cómo se gestionarán las denuncias de incumplimiento del Reglamento de la UE sobre IA? La Bundesnetzagentur establece un sistema de gestión de quejas para recibir denuncias sobre el incumplimiento del Reglamento de la UE sobre IA. Esto asegura que cualquier persona pueda presentar quejas de manera accesible y fácil de usar. La agencia también actúa como un punto de contacto central, redirigiendo las quejas a las autoridades competentes cuando sea necesario. La modificación de la Ley de Protección de Denunciantes fomenta aún más la notificación de infracciones.
• ¿Qué tipo de sanciones y procedimientos existen para el incumplimiento del Reglamento de la UE sobre IA? Las sanciones por infracciones al Reglamento (UE) 2024/1689 se basan en el procedimiento administrativo de multas. La legislación alemana extiende la aplicación de la Ley de Infracciones Administrativas a las infracciones del reglamento europeo, aunque con algunas modificaciones. Las autoridades de supervisión del mercado competentes pueden imponer multas por infracciones. Además, los procedimientos penales en los casos apropiados son posibles y la fiscalía solo puede desestimar un procedimiento con la aprobación de la autoridad supervisora.

Podcast