La eliminación de las barreras de seguridad de la IA expone las brechas en la regulación de código abierto
Cointelegraph
Las pruebas revelan que las protecciones de la IA pueden eliminarse fácilmente, lo que cuestiona la eficacia de regular únicamente la fase de desarrollo.Resumen
Un estudio realizado por el Financial Times y el grupo Alice reveló que las protecciones de seguridad en modelos de IA de código abierto de Meta y Google pueden eliminarse en minutos mediante herramientas públicas. Esto permite que los sistemas generen contenido prohibido como malware o armas biológicas. Expertos del sector, incluyendo representantes de XYO y Valory, advierten que marcos como la Ley de IA de la UE se centran demasiado en el desarrollo inicial. Sostienen que, una vez que los modelos se distribuyen libremente, la regulación debe orientarse hacia el despliegue, la infraestructura y los canales de distribución para contener eficazmente los riesgos.
(Fuente：Cointelegraph)