DACH legal. EU AI Act y GDPR para operadores de IA

Quien usa herramientas de IA profesionalmente no puede ya esperar a que "lo legal venga después". El EU AI Act es vinculante en partes desde febrero 2025, la primera ola de enforcement llega desde agosto 2026. Más GDPR que sigue aplicando. Más DDG (antes TMG), más §356a BGB si cierras contratos online. Aquí lo que de eso es realmente relevante para ti como AI operator o empresa que usa IA, sin vocabulario de jurista.

Aviso

Esto no es asesoría legal. No soy abogado; esto es un resumen de research y de aplicarlo en mis propias empresas. Para casos concretos pregunta a una AHK, IHK o un abogado. Lo que lees aquí son las preguntas que deberías plantear.

Artículo 4 EU AI Act, alfabetización IA es obligatoria

En vigor desde el 2 de febrero 2025. Enforcement desde el 2 de agosto 2026.

Lo que exige: toda empresa que use sistemas de IA debe asegurar que el personal que trabaja con IA tenga "un nivel suficiente de competencia en IA". La redacción es vaga, pero la Comisión Europea ha aclarado que no hay examen obligatorio: bastan medidas de formación documentadas.

Lo que necesitas concretamente:

• Una AI use policy escrita.
• Cada miembro del equipo con contacto con IA ha hecho una formación.
• Registros de formación (quién, cuándo, qué módulo) guardados.
• Nuevos empleados reciben formación dentro del periodo de prueba.
• Refresco anual.

Como autónomo solo: te toca solo indirectamente vía tus clientes. Si haces B2B y tus clientes implementan herramientas de IA, esperarán de ti el set de pruebas. Estos clientes prestarán atención a partir de agosto 2026.

Artículo 5 y categorías de riesgo

El AI Act distingue cuatro categorías:

• Prohibido (social scoring, manipulación subliminal, vigilancia biométrica masiva).
• High-risk (IA en selección de personal, decisiones de crédito, infraestructura crítica, educación cuando se evalúa).
• Transparencia obligatoria (los chatbots deben identificarse como IA, los deepfakes deben marcarse, los textos periodísticos generados por IA marcados).
• Riesgo mínimo (el resto, sin obligaciones especiales).

La mayoría de cosas que construyes son "Transparencia obligatoria" o "Riesgo mínimo". Sin pánico, sin categoría prohibida acechando.

Importante: si tienes un chatbot en tu web, el usuario tiene que reconocer que habla con una IA. Basta con la etiqueta "AI Assistant" o "este chat lo responde una IA". No lo escondas.

GDPR e IA, los obstáculos reales

GDPR es más viejo que ChatGPT, pero aplica a todo lo que haces en tu herramienta de IA. Las tres preguntas reales:

¿Qué pasa con los datos que entran en ChatGPT/Claude?

OpenAI y Anthropic retienen inputs y outputs por motivos operativos y de abuso. Distinta duración según plan y ajustes. Es procesamiento por encargo según GDPR si metes datos personales.

Dos implicaciones:

• Necesitas un contrato de procesamiento (DPA) con el proveedor. Anthropic y OpenAI los ofrecen pero tienes que sacarlos activamente.
• NO debes procesar datos sensibles (salud, religión, biométricos) en herramientas estándar. Eso requiere acuerdos enterprise separados o modelos propios.

¿Y la transferencia a EE. UU.?

Los proveedores hostean primariamente en EE. UU. GDPR exige SCCs (Standard Contractual Clauses) o decisiones de adecuación para transferencia a EE. UU. Anthropic tiene SCCs, OpenAI también. Tienes que poder mostrarlos en peticiones de datos.

Para datos sensibles, los SCCs muchas veces no bastan (sentencia Schrems II). Esos casos necesitan medidas técnicas adicionales: pseudonimización antes de enviar, o modelos hosted en la UE (Mistral, Aleph Alpha) en vez de proveedores estadounidenses.

¿Y los sistemas de memoria?

Si guardas datos en un memory server externo (como StudioMeyer Memory o self-hosted), el operador del server es procesador. DPA necesario. Con memoria self-hosted, tú mismo eres responsable: hostear conforme al GDPR (cifrado, logs de acceso, derechos de borrado).

DDG (Digital Services Act, reemplaza TMG desde mayo 2024)

Relevante para cualquiera que opere web o app. Puntos clave:

• La obligación de imprint sigue. §5 DDG en lugar de §5 TMG, en contenido lo mismo.
• Las opciones de contacto deben ser "fáciles". Email + formulario de contacto + teléfono es gold standard.
• "User-generated content" en tu plataforma: respondes si no reaccionas rápido a denuncias de contenido ilícito.

§356 y §356a BGB, derecho de desistimiento en contratos online

Si vendes servicios de IA online a consumidores (B2C), aplican las normas de venta a distancia:

• §356 BGB: desistimiento 14 días tras la celebración del contrato. Sin justificación.
• §356(5): contenido digital. Renuncia al desistimiento posible pero debe marcarse explícitamente (checkbox UNCHECKED al inicio).
• §356a: regla del botón. El botón de compra debe estar etiquetado inequívocamente ("comprar con obligación de pago" o equivalente).

Consecuencia práctica: si vendes productos digitales y el cliente dice tres días después "ya no", tienes que devolver salvo que renunciara explícitamente y se le informara. Un genérico "sin desistimiento en productos digitales" ya no basta.

Copyright, lo generado por IA no le pertenece a nadie

Los trabajos generados por IA no están protegidos por copyright mientras no haya contribución humana suficiente. Es decir:

• Una imagen puramente generada por IA no se puede proteger.
• Un texto IA que solo copias del tool tampoco.
• En cuanto haces trabajo editorial significativo (reordenar, ampliar, acortar, fact-checkear), surge una obra protegible, pero solo tu parte.

Para trabajo de agencia significa: si entregas outputs IA al cliente sin edición significativa, el cliente no puede protegerlo en exclusiva. Suele no ser problema (texto marketing, presentaciones rara vez necesitan copyright), pero en software y publicaciones de libros sí.

Mis recomendaciones concretas para autónomos y pymes pequeñas

1. Imprint + política de privacidad + AGB/ToS en tu web. DDG + GDPR + aviso de desistimiento si B2C.
2. DPAs con OpenAI y Anthropic (ambos tienen portales estándar).
3. AI use policy escrita (2 páginas bastan), firma del personal + freelancers, conservar copia firmada.
4. Etiqueta de chatbot en cada web app que use IA.
5. Datos sensibles no en ChatGPT estándar o Claude estándar. Para salud / finanzas / legal: plan enterprise, hosted en UE, o nada.
6. Cookie banner si usas analytics (Umami es compatible con GDPR y no necesita banner, bien).
7. Derechos de borrado documentados: cómo puede un usuario / cliente eliminar sus datos contigo.

Son las siete medidas que cubren el 95 por ciento de los casos.

Qué se aplica realmente el 2 de agosto de 2026

Estado abril 2026, tres meses antes del plazo, los puntos relevantes para enforcement son:

Aplicación completa de High-Risk. Desde el 2 de agosto de 2026 todas las obligaciones high-risk del Anexo III están en pleno efecto. Esto afecta a IA en selección de personal, decisiones de crédito, evaluación educativa, infraestructura crítica y algunos otros dominios. Si estás en esta categoría, necesitas un sistema con evaluación de conformidad y marcado CE. Esto NO es relevante para el 95 por ciento de autónomos y PYMEs, pero si por ejemplo construyes una herramienta de RRHH para un cliente que clasifica candidatos automáticamente, mira con más detalle.

Obligaciones de transparencia para usuarios finales. El etiquetado de contenido IA para usuarios finales pasa a ser obligatorio para enforcement desde agosto 2026. En la práctica: textos, imágenes y audio generados por IA que el usuario ve deben ser identificables como IA. Esto cubre deepfakes (más estricto) y contenido editorial sintético. Para tu web con un chatbot IA, un aviso claro es suficiente; para imágenes IA en marketing necesitas marca de agua o caption.

Marco de penalización GPAI activo. En vigor desde el 2 de agosto de 2025, pero prácticamente relevante mediante la ola de enforcement completo. Las violaciones de obligaciones GPAI (transparencia, documentación técnica, resumen de datos de entrenamiento para proveedores de modelos) pueden costar hasta 15 millones de euros o el 3 por ciento de la facturación mundial anual, lo que sea mayor. Esto golpea principalmente a los proveedores de modelos (OpenAI, Anthropic, Mistral), no a ti como usuario. Pero si entrenas un modelo foundation tú mismo y pasas el umbral GPAI, entonces sí.

AI sandbox por estado miembro. Desde agosto 2026 cada estado miembro UE debe operar un "AI regulatory sandbox" donde las empresas pueden probar sus sistemas IA antes del rollout, con supervisión pero sin sanciones inmediatas. En Alemania lo gestiona la Bundesnetzagentur en Bonn, que ha montado un "AI Service Desk" para PYMEs. Si construyes en un área borderline (IA en educación o RRHH), pregunta allí antes. Ahorra problemas después.

Seguridad de servidores MCP, qué significa la historia de OX Security para el compliance DACH

En abril 2026 OX Security publicó una vulnerabilidad RCE sistémica en el transporte MCP STDIO. 11 CVEs en frameworks productivos (LangFlow, Windsurf, Flowise, LiteLLM, Bisheng, Upsonic y más), hasta 200.000 instancias vulnerables estimadas. Anthropic lo posicionó como "expected behavior", argumentando que la sanitización es responsabilidad del desarrollador.

Para el compliance GDPR esto es un punto concreto. Si tu empresa usa servidores MCP que procesan datos personales, el artículo 32 GDPR te obliga a tomar medidas técnicas y organizativas (TOMs). Una TOM es también la selección de software que no se sabe que tenga lagunas RCE conocidas. En la práctica, antes de desplegar un servidor MCP en producción, verificas la fuente, idealmente con un proceso de selección documentado. Si una auditoría de protección de datos pregunta más tarde por qué elegiste un servidor MCP específico, no querrás responder "tomamos el primero que sugirió ChatGPT".

Recomendación concreta para PYMEs y autónomos, tres puntos. Primero, mantener una lista de todos los servidores MCP en uso productivo. Quién los construyó, de dónde vienen, qué tool calls están activos. Segundo, solo ejecutar servidores MCP de fuentes confiables (releases oficiales de Anthropic, proyectos OSS establecidos con mantainer activo, tus propios builds con code review). Tercero, si construyes y distribuyes servidores MCP a clientes, la sanitización de los argumentos de tools es obligatoria y parte de tu documentación de seguridad. Lee el playbook dedicado "Seguridad de MCP STDIO" para los detalles técnicos y patrones de código.

Aspecto del contrato de encargo de tratamiento: si un servidor MCP procesa datos por encargo (p.ej. un servidor MCP cloud-hosted) necesitas un contrato de encargo con el proveedor como con cualquier otro sub-encargado, más las garantías estándar para transferencias fuera de la UE.

Nota de la Bundesnetzagentur: el AI Service Desk en Bonn también es punto de contacto para preguntas de seguridad alrededor de MCP. Si tienes dudas sobre si tu setup es compliance-fit, mejor preguntar allí antes de un incidente que después.

La Bundesnetzagentur es la autoridad nacional

Específico para DACH: la Bundesnetzagentur en Bonn es el organismo de supervisión alemán para el AI Act. El "AI Service Desk" es PYME-friendly y gratis para primeras consultas. Si tienes dudas sobre si tu caso de uso es high-risk, pregunta allí. Dos semanas de espera son mejor que una auditoría desagradable tras el lanzamiento. Austria tiene la RTR, Suiza está formalmente fuera del AI Act pero se alinea con estándares UE para proveedores transfronterizos.

Qué va a cambiar todavía

La EU AI Office sigue trabajando en directrices concretas. Para finales de 2026 son probables:

• Estándares concretos de formación para AI literacy (Artículo 4).
• Estándares técnicos para etiquetado de transparencia.
• Code of Practice para General-Purpose AI.
• Umbrales más concretos para la categorización high-risk.

Mantente al día vía el portal del EU AI Office, las actualizaciones del AI Service Desk de la Bundesnetzagentur, o medios especializados como Heise, c't, o newsletters de la IHK.

Sigue

Si construyes sistemas IA para ti o para clientes, la Lección 5 del Nivel 5 Human-in-the-Loop te ayuda a montar los puntos de aprobación correctos, que para sistemas "high-risk" es legalmente obligatorio.

Y el Nivel 6 muestra cómo hostear tus sistemas de memoria y MCP servers tú mismo, a menudo el camino más limpio para aplicaciones sensibles a GDPR.