Respuestas útiles.
Acciones con límites.
Desarrollamos asistentes que consultan información autorizada y agentes que ejecutan tareas definidas, con permisos y supervisión proporcionales al riesgo.
Un asistente puede consultar procedimientos internos, documentación de producto o una base de conocimiento. Definimos qué fuentes utiliza, quién puede acceder, cómo se actualizan y cuándo debe responder que no dispone de información suficiente. Mostrar fuentes facilita la revisión, pero no elimina por sí solo los errores.
En el desarrollo de agentes con IA que actúan sobre otras aplicaciones, limitamos sus herramientas, permisos y alcance. Las acciones sensibles pueden requerir confirmación humana. Establecemos límites de gasto, número de operaciones, registro de acciones y mecanismos para detener o revertir el flujo cuando sea técnicamente posible.
Probamos preguntas ambiguas, falta de información, intentos de obtener datos no autorizados e instrucciones maliciosas dentro de documentos. En el desarrollo de agentes con IA, también definimos cómo detectar fallos, escalar a una persona y mantener el servicio cuando una integración o un modelo no responde.
Si el asistente interactúa con personas, revisamos la información que debe mostrarse sobre el uso de IA y los canales de atención humana. La salida a producción se condiciona a las pruebas acordadas y a que estén preparados los responsables de operación.
