AI agents must be treated as untrusted systems: Researchers
Cointelegraph
Investigadores sostienen que los agentes de IA deben tratarse como sistemas no confiables, requiriendo salvaguardas a nivel de sistema para prevenir ataques en Web3.Resumen
Un estudio realizado por investigadores de Google, Gray Swan AI y otras instituciones argumenta que la seguridad de los agentes de IA debe abordarse como un problema de sistemas, tratando a la IA como un componente no confiable. Ante el auge de los agentes autónomos en el ecosistema cripto y Web3, los autores proponen tres mecanismos clave: separar las instrucciones de los datos, aplicar el principio de menor privilegio y controlar estrictamente el flujo de información sensible. Estas medidas buscan complementar la robustez del modelo con técnicas de seguridad informática tradicional para evitar vulnerabilidades como la inyección de comandos y el acceso no autorizado a billeteras.
(Fuente：Cointelegraph)