Human-in-the-loop
Human-in-the-loop (humano en el circuito) significa que una persona sigue participando en pasos definidos de un proceso de IA: revisa, aprueba o toma el control. En la atención al cliente, esto quiere decir que tu equipo decide cuándo la IA responde sola, cuándo solo redacta borradores y cuándo interviene una persona.
¿Qué significa human-in-the-loop?
El término procede de la ingeniería de automatización y describe sistemas en los que una persona sigue formando parte del circuito. Con la IA generativa cobra todavía más importancia, porque los modelos de lenguaje suenan convincentes incluso cuando se equivocan (ver alucinación de la IA). El human-in-the-loop garantiza que una persona de tu equipo revise los momentos críticos antes de que algo llegue al cliente.
¿Qué niveles existen?
En la práctica funcionan bien tres niveles, y puedes elegir uno por conversación:
| Nivel | Qué hace la IA | Qué hace tu equipo |
|---|---|---|
| Desactivado | Nada | Responde por sí mismo |
| Assist | Redacta borradores | Revisa, edita y envía |
| Auto | Responde por sí misma | Sigue la conversación y toma el control si hace falta |
En sentido estricto, solo el nivel intermedio es human-in-the-loop: nada sale sin aprobación. El modo Auto se acerca más al human-on-the-loop, porque el equipo lee en paralelo e interviene en lugar de aprobar cada respuesta.
¿Por qué es importante en la atención al cliente?
Un ejemplo: un concesionario de coches deja que su agente de IA responda solo a las preguntas sobre horarios y citas de taller. Las conversaciones con compradores de coches de segunda mano pasan al modo Assist, porque un precio equivocado sale caro. La IA redacta el borrador, el vendedor lo lee, lo ajusta y lo envía. El equipo escribe menos sin renunciar al control.
La Ley de IA de la UE también exige transparencia: los clientes deben poder saber que están escribiendo a una IA. Más información en obligación de transparencia de la IA.
¿Quién tiene la última palabra?
Una buena configuración sigue una regla sencilla: manda la persona. Cuando alguien del equipo escribe una respuesta, una nueva sugerencia de la IA no debe sobrescribirla. Y cuando una conversación necesita a una persona, la IA se aparta, ver traspaso a humano.
¿Cómo gestiona SendSeven el human-in-the-loop?
Con los agentes de IA de SendSeven eliges uno de los tres modos por conversación: Desactivado, Assist o Auto. En el modo Assist, la IA redacta borradores que tu equipo revisa y envía. Cuando alguien del equipo escribe su propia respuesta, su texto siempre prevalece y ninguna sugerencia de la IA lo sobrescribe. Tu equipo puede tomar el control en cualquier momento, y la IA se puede desactivar en cualquier momento. Cada respuesta del agente se comprueba con tus fuentes de la base de conocimientos antes de enviarse.