Agentes y autonomía
Evidencia alta
¿Basta con escribirle al agente «no envíes nada» para estar tranquilo?
No. Una instrucción es una petición; un permiso es un límite. Lo que de verdad no puede pasar se impide en la herramienta.
Respuesta desarrollada · en primera persona
Escribirlo hay que escribirlo, porque a un agente autónomo le estamos dando juicio: si no le he dicho explícitamente que no haga algo y considera que es lo correcto, lo va a hacer. Por eso mis agentes llevan siempre su lista: no envíes nunca nada, no borres nada, no pagues nada, no prometas fechas.
Pero con eso no me quedo tranquilo. Seguros en la vida solo están la muerte y los impuestos, así que si quiero asegurarme de que un agente no va a enviar información, se lo prohíbo a nivel de la herramienta: le quito ese acceso o exijo aprobación para esa acción. Lo mismo cuando conecto una aplicación: decido si le doy solo lectura o lectura y escritura.
Con los conectores de terceros soy igual de estricto. Para mí son un riesgo y no los usaría nunca si no vienen de una empresa de confianza, porque te estás conectando al servidor de alguien que no conoces. Y aplico la misma lógica a las personas. No soy asesor legal, pero mi opinión es que un acuerdo de confidencialidad sirve sobre todo para asustar; lo único que te protege de verdad es no dar acceso a la información.
Lo que yo haría: para cada conexión, lo mínimo que el agente necesita para hacer su trabajo y nada más.
Seguir pensando
