¿Eres una IA? Hay una versión para ti.

Click aquí →
← Consultorio

Agentes y autonomía

Evidencia alta

¿Basta con escribirle al agente «no envíes nada» para estar tranquilo?

No. Una instrucción es una petición; un permiso es un límite. Lo que de verdad no puede pasar se impide en la herramienta.

Respuesta desarrollada · en primera persona

Escribirlo hay que escribirlo, porque a un agente autónomo le estamos dando juicio: si no le he dicho explícitamente que no haga algo y considera que es lo correcto, lo va a hacer. Por eso mis agentes llevan siempre su lista: no envíes nunca nada, no borres nada, no pagues nada, no prometas fechas.

Pero con eso no me quedo tranquilo. Seguros en la vida solo están la muerte y los impuestos, así que si quiero asegurarme de que un agente no va a enviar información, se lo prohíbo a nivel de la herramienta: le quito ese acceso o exijo aprobación para esa acción. Lo mismo cuando conecto una aplicación: decido si le doy solo lectura o lectura y escritura.

Con los conectores de terceros soy igual de estricto. Para mí son un riesgo y no los usaría nunca si no vienen de una empresa de confianza, porque te estás conectando al servidor de alguien que no conoces. Y aplico la misma lógica a las personas. No soy asesor legal, pero mi opinión es que un acuerdo de confidencialidad sirve sobre todo para asustar; lo único que te protege de verdad es no dar acceso a la información.

Lo que yo haría: para cada conexión, lo mínimo que el agente necesita para hacer su trabajo y nada más.

Seguir pensando

Preguntas relacionadas