airforcemag.com
La Defense Advanced Research Projects Agency (DARPA) ha desarrollado un conjunto de herramientas de código abierto llamadas GARD para ayudar a los desarrolladores a aprender nuevas técnicas defensivas y probar sus productos contra ataques simulados.
El objetivo de GARD es engañar a los sistemas de IA y hacerlos comportarse incorrectamente, asegurando que se defiendan de los ataques. El equipo espera que un conjunto común de técnicas se aplique ampliamente a través de los modelos de IA, permitiendo a los desarrolladores construir sistemas defendidos.
El GARD incluye herramientas de IBM, Two Six Technologies, MITRE Corp., la Universidad de Chicago y Google Research. El jefe de política cibernética de la Fuerza Aérea enfatiza la necesidad de que la IA sea confiable y confiable, mientras que David van Weel de la OTAN advierte que los militares occidentales corren el riesgo de consecuencias imprevistas al adoptar la IA hecha para el sector comercial.
La Comisión de Seguridad Nacional sobre Inteligencia Artificial recomienda incentivar a las oficinas a adoptar IA comercialmente disponible para los procesos comerciales.
Las nuevas herramientas DARPA entrenan a la IA para defenderse de los ataques
DARPA’s New Public Tools Teach AI Developers to Defend Against Attacks | Air & Space Forces Magazine
GARD is a set of open-source tools for AI developers to learn new defensive techniques and to test their products against simulated attacks.
www.airforcemag.com
