Human in the loop: qué es y por qué importa (incluido el AI Act)

Por qué importa en una pyme

En un equipo de pocas personas, el mismo empleado prepara la factura, mira el cobro y contesta al cliente. Si un agente envía el correo o anota el pago sin que nadie lo vea, el error sale con el nombre de la empresa y no hay un departamento detrás para cazarlo.

La supervisión sirve para tres cosas concretas. La persona ve qué se propone. Puede decir que no, o cambiar el texto, cuando el caso no es el habitual. Y queda constancia de qué se hizo, para poder explicarlo después. El registro de qué hizo cada agente es una de las piezas que en Pliuz ya están disponibles, junto con la aprobación previa y el alojamiento de los datos en la UE. El detalle del registro está en el registro auditable de un agente.

Qué dice el AI Act

Esta sección no es asesoramiento jurídico. Resume lo que publican la Comisión Europea y el AI Act Service Desk sobre el Reglamento (UE) 2024/1689, con el texto consolidado a 27 de julio de 2026.

El reglamento organiza los sistemas por riesgo. La supervisión humana del artículo 14 no se aplica a cualquier uso de un modelo. Se exige a los sistemas de alto riesgo: tienen que poder ser vigilados de forma efectiva por personas físicas durante su uso. Quien supervisa debe poder entender los límites del sistema, darse cuenta de la tendencia a fiarse demasiado de lo que produce (el texto lo llama sesgo de automatización), interpretar la salida y decidir no usarla, anularla o parar el sistema.

El artículo 12, también para alto riesgo, pide que el sistema permita registrar automáticamente los eventos a lo largo de su vida, con una trazabilidad acorde al uso. No todos los agentes de una pyme son de alto riesgo. La lista mira el uso: empleo, educación, crédito, biometría o infraestructuras críticas, entre otros. Preparar un borrador interno no entra solo por usar un modelo. Si el agente decide sobre personas —quién entra, a quién se contrata, a quién se le niega un servicio esencial—, la pregunta es otra, y la tiene que responder alguien que conozca ese uso.

Fechas, con la fuente al lado

El reglamento entró en vigor el 1 de agosto de 2024 y es aplicable desde el 2 de agosto de 2026, con excepciones. La Comisión Europea publica este calendario:

• Prohibiciones y alfabetización en IA: desde el 2 de febrero de 2025.
• Gobernanza y obligaciones de los modelos de IA de uso general: desde el 2 de agosto de 2025.
• Transparencia —por ejemplo, que una persona sepa que habla con una máquina—: desde agosto de 2026.
• Obligaciones de los sistemas de alto riesgo del anexo III: desde el 2 de diciembre de 2027.
• Sistemas de alto riesgo integrados en productos regulados del anexo I: desde el 2 de agosto de 2028.

El retraso de las obligaciones de alto riesgo respecto al texto original viene del paquete de simplificación (AI Omnibus), en vigor el 27 de julio de 2026. Las fechas de arriba son las que la Comisión y el artículo 113 del Service Desk publican a la fecha de esta guía. Si vas a apoyarte en un día concreto, vuelve a leer esas páginas: un reglamento se enmienda y una guía no se entera sola.

Qué puede hacer una pyme antes de esa fecha

Esperar a diciembre de 2027 para dejar que un agente escriba a un cliente es una lectura legal, no una forma de trabajar. La práctica que describimos no depende de que tu caso sea de alto riesgo: las acciones que tocan a un cliente, a un pago o a un dato que no se puede deshacer las aprueba una persona. La empresa decide cuáles son esas acciones. El agente puede preparar el resto del material.

Pliuz está en construcción. No tenemos usuarios ni clientes, y no presentamos esta guía como una certificación del AI Act. Si quieres contarnos cómo aprobáis hoy el trabajo en una empresa de 5 a 50 personas, la entrevista de la home dura 30 minutos y no es una llamada de ventas.

Para situar al agente frente a un chat o a un flujo de n8n, Make o Zapier, está la guía de agente, chatbot o automatización.