Todas las notas / inteligencia artificial
Human-in-the-loop: cómo supervisar respuestas de IA en un Service Desk
Qué revisar, quién lo revisa y cuándo confiar en una respuesta generada.
La IA generativa ya redacta resúmenes de incidentes, sugiere artículos y responde preguntas en el portal de autoservicio. Bien implementada, ahorra minutos en cada ticket. Mal supervisada, repite con total seguridad un procedimiento que dejó de existir hace seis meses.
La IA es tan buena como el conocimiento que la alimenta
Herramientas como ServiceNow Now Assist o Microsoft Copilot responden con base en la información que encuentran en tus fuentes. Si el artículo está desactualizado, la respuesta también lo estará, solo que mejor redactada. Por eso el gobierno del conocimiento es el primer control de calidad de la IA.
Tres momentos de supervisión
- Antes: define qué fuentes puede usar la IA. Solo artículos publicados, vigentes y con dueño. Deja fuera borradores, contenido retirado y documentos internos sensibles.
- Durante: el agente revisa y edita la sugerencia antes de enviarla al usuario. La IA propone; la persona decide.
- Después: revisa una muestra de respuestas cada periodo, junto con la retroalimentación de los usuarios y los casos en que el agente tuvo que corregir la sugerencia.
Cuándo dar más autonomía
Empieza por temas de alto volumen y bajo riesgo, con artículos estables y bien calificados: configurar MFA en el celular, conectar una impresora, instalar un cliente de VPN. Lo que involucra accesos privilegiados, seguridad o datos personales se queda con revisión humana obligatoria.
Qué medir
- Tasa de aceptación de sugerencias sin cambios.
- Ediciones que el agente tuvo que hacer y por qué.
- Respuestas reportadas como incorrectas y el artículo que las originó.
- Efecto en el tiempo de resolución y en la satisfacción del usuario.
Human-in-the-loop no es desconfiar de la IA: es diseñar el lugar exacto donde una persona agrega criterio.