El cliente equivocado
El identificador de otro cliente aparece en la conversación y el agente actúa sobre esa cuenta en lugar de la que ha iniciado sesión.
Control de ejecución para agentes de IA
Cuando un agente puede actuar, sus errores salen de la conversación.
Una respuesta incorrecta puede corregirse en el siguiente mensaje. Un registro modificado, un archivo divulgado o una operación repetida ya han ocurrido. Phalanx se sitúa entre sus agentes de IA y sus sistemas empresariales y permite ejecutar una acción protegida solo cuando está dentro de la autoridad que usted definió.
- Versión de producción 1.9
- Se ejecuta en su infraestructura
- Sin modelo en la ruta de decisión
Los agentes capaces fallan de formas habituales.
Ninguno de estos casos necesita un atacante. Cada uno ocurre cuando un plan que parece razonable se encuentra con un sistema real.
La misma acción dos veces
Se pierde una respuesta, el agente vuelve a intentarlo y la operación se ejecuta una segunda vez.
La sobrescritura obsoleta
El agente lee un registro, otra persona lo actualiza y el agente escribe lo que había visto antes.
El destino equivocado
El historial de un caso se envía a una dirección externa a la empresa porque alguien lo pidió o porque parecía útil.
Cada límite respetado, el total excedido
Tres herramientas se mantienen dentro de su propio límite. Juntas hacen mucho más de lo que la tarea permitía.
Cada caso es una llamada a una herramienta correctamente formada. Por eso consigue pasar.
Sus controles actuales comprueban lo que dice el agente. Estas son cosas que hace.
Cada control siguiente es útil. Ninguno se diseñó para decidir si esta acción, para este cliente, en el estado actual, debe ejecutarse ahora.
| Si utiliza | Está diseñado para | Dónde se queda corto |
|---|---|---|
| Barreras de prompts y clasificadores | Juzgar si un texto parece dañino | Los cinco escenarios parecen llamadas a herramientas normales y corteses |
| Claves de API con alcance limitado y listas de herramientas permitidas | Decidir qué herramientas puede usar un agente | La clave no sabe qué cliente ha iniciado sesión, si el registro cambió ni qué hicieron ya otras herramientas |
| Comprobaciones dentro de cada manejador de herramientas | Aplicar lo que haya programado para esa herramienta | Cada herramienta solo se ve a sí misma, y la comprobación se ejecuta en el mismo proceso que posee la credencial |
| Una persona que aprueba cada acción | Detectar errores mediante revisión | Funciona hasta que el volumen convierte la revisión en una formalidad y elimina la razón de tener un agente |
La única comprobación que no puede omitirse es la que está en el punto de ejecución.
Controle la acción donde se ejecuta. Quite la clave al agente.
Si el agente posee una credencial, todas las demás comprobaciones son orientativas: un plan incorrecto aún puede ejecutarse. Phalanx sitúa la credencial fuera del alcance del agente. El agente solo puede proponer.
Phalanx comprueba cada propuesta frente a la tarea autenticada, sus reglas, el estado actual y los límites restantes. Solo un permiso de un solo uso permite que un conector protegido, el componente que posee la credencial, la lleve a cabo. Después, Phalanx registra lo ocurrido, incluido cuando el resultado es incierto.
Cómo terminan los cinco escenarios
| Escenario | Con Phalanx en la ruta |
|---|---|
| El cliente equivocado | El cliente procede de su autenticación, no del chat, de modo que una cuenta distinta queda fuera de la tarea y la acción se bloquea. |
| La misma acción dos veces | Un reintento se reconoce como la misma operación. Una respuesta perdida se concilia antes de enviar nada de nuevo. |
| La sobrescritura obsoleta | La comprobación de estado del contrato detecta que el registro cambió y detiene la escritura. |
| El destino equivocado | El destino no está aprobado para esta acción, por lo que no se emite ningún permiso. |
| Cada límite respetado, el total excedido | En un flujo de trabajo compartido configurado, todas las herramientas utilizan un único presupuesto de tarea. Otra herramienta no significa otra asignación. |
Qué cambia cuando Phalanx está en la ruta
Ingeniería entrega un agente que actúa
Sus reglas residen fuera del prompt y sus credenciales fuera del agente. El agente puede hacer trabajo real sin poseer las claves para hacer cualquier cosa.
Seguridad revisa un único límite
Qué credenciales existen, dónde residen y qué puede hacer cada acción protegida: un lugar que inspeccionar en lugar de cada prompt.
Los operadores pueden responder «¿qué ocurrió?»
Un registro firmado muestra lo que se propuso, decidió, ejecutó y verificó, y lo que aún necesita una persona. Las acciones en HOLD esperan a los operadores.
Véalo en un agente en funcionamiento.
Explore Phalanx en Meridian, una plataforma sintética de clientes. Phalanx controla rutas de acción inscritas seleccionadas y registra sus decisiones, ejecución y resultados. Pregunte al chatbot de soporte por su cuenta y la respuesta procederá de una lectura protegida con su propio recibo.
Phalanx 1.9 es una versión de producción, cualificada sobre sus artefactos firmados antes de la entrega.
Se ejecuta en su infraestructura, en Linux con Docker o en Render. Despliegue
¿Qué acción confiaría a su agente a continuación?
Traiga un flujo de trabajo, las herramientas que usa y los límites que importan. Le mostraremos dónde encaja Phalanx, qué necesita su arquitectura y qué debería demostrar una evaluación.