Arquitectura de agentes
Los agentes de IA necesitan memoria, límites y revisión
Llamar agente a un sistema no resuelve su arquitectura. Debe saber qué recordar, qué puede hacer, cuándo detenerse y quién puede revisar su recorrido.
01
Un agente es un ciclo, no una personalidad
En la práctica, un agente observa un estado, elige una acción, utiliza una herramienta, comprueba el resultado y decide si continúa. El valor proviene de conectar ese ciclo con el trabajo, no de sonar humano.
Los permisos, el presupuesto, la duración, el alcance de los datos y las condiciones de parada deben existir fuera del prompt.
02
La memoria no es una sola caja
Las arquitecturas claras separan memoria de trabajo, conocimiento de referencia gobernado y un registro de eventos. Cada capa necesita sus propias reglas de acceso y conservación.
- 01Memoria de trabajo: breve y contextual.
- 02Conocimiento de referencia: versionado y citable.
- 03Registro de eventos: cronológico y auditable.
- 04Preferencias: mínimas y separadas de datos sensibles.
03
Las salidas seguras son parte del producto
Los puntos de control humano deben aparecer cuando cambia el riesgo: antes de usar fuentes sensibles, comunicar externamente, mover valor o cambiar un registro oficial.
Cuando faltan evidencias o fallan las herramientas, la respuesta responsable puede ser explicar la carencia y detenerse. El permiso operativo no es lo mismo que la confianza estadística.
Fuentes consultadas