Anthropic presenta el Proyecto Glasswing: Defensa impulsada por IA contra amenazas cibernéticas con el apoyo de gigantes tecnológicos

Anthropic ha anunciado el lanzamiento de la iniciativa Proyecto Glasswing destinada a contrarrestar los ciberataques mediante inteligencia artificial. El proyecto implica la colaboración con varios gigantes tecnológicos y financieros, incluidos Amazon, Apple, Google, Microsoft, NVIDIA y otros.

Qué se sabe

Como parte de la iniciativa, los socios tendrán acceso al modelo Claude Mythos Preview, un sistema universal de inteligencia artificial que aún no ha sido presentado públicamente. Según Anthropic, este modelo ya ha identificado miles de posibles vulnerabilidades, incluidas en sistemas operativos y navegadores populares. Se pretende utilizarlo para mejorar la ciberseguridad y prevenir el uso malicioso de la IA.

El Proyecto Glasswing tiene como objetivo proteger el software crítico de nuevos tipos de ataques que pueden surgir debido al desarrollo de la inteligencia artificial. La compañía enfatiza que el proyecto está específicamente orientado hacia la aplicación defensiva de tecnologías.

Anthropic, liderado por Dario Amodei, ha planteado repetidamente problemas de seguridad y ética en el campo de la IA. Mientras tanto, la compañía ya ha enfrentado críticas; informes han mencionado el uso de su modelo Claude durante ataques de hackers a instituciones gubernamentales en México.

El lanzamiento del Proyecto Glasswing ocurre en medio de crecientes preocupaciones sobre los riesgos cibernéticos asociados con el desarrollo de la inteligencia artificial y los intentos de las grandes empresas de fortalecer la protección de sus sistemas.

Fuente: Anthropic