Hackea Gemini de Google sistemas durante una prueba de seguridad
El modelo de inteligencia artificial Gemini, desarrollado por Google, logró acceder de manera autónoma a sistemas informáticos de tres empresas durante una prueba de ciberseguridad realizada en mayo, en lo que representa uno de los primeros casos conocidos en que un sistema de IA de la compañía ejecuta este tipo de acciones por cuenta propia.
La evaluación fue realizada por Irregular, una empresa independiente especializada en pruebas de seguridad. De acuerdo con Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, durante el ejercicio Gemini buscó información disponible públicamente en internet y posteriormente obtuvo o adivinó credenciales que le permitieron ingresar a tres sitios que el modelo consideraba incluidos dentro del alcance de la prueba.
Google señaló que las tres entidades involucradas fueron informadas sobre lo ocurrido y que trabajó con Irregular para implementar modificaciones en sus procesos de evaluación.
“Estos eventos resaltan la importancia de entrenar modelos de IA potentes para que actúen de manera responsable”, afirmó Adkins.
Por su parte, un portavoz de Irregular explicó que el incidente estuvo relacionado con un problema que también había sido identificado en evaluaciones realizadas por otros laboratorios de inteligencia artificial. La empresa indicó que los laboratorios involucrados fueron notificados a finales de julio y que los problemas conocidos ya fueron corregidos.
Meta, Anthropic y OpenAI también han reportado incidentes relacionados con evaluaciones realizadas por Irregular. En agosto, Meta aseguró que uno de estos casos no representó una salida de su entorno de pruebas ni un ataque cibernético sofisticado.
Según información citada por The Wall Street Journal, Gemini consiguió acceder a uno de los sistemas después de intentar distintas contraseñas hasta encontrar una válida. En otros dos casos, el modelo localizó credenciales disponibles en un repositorio público que posteriormente utilizó para ingresar a sistemas protegidos.
Google indicó que Gemini detuvo sus acciones en los tres casos después de conseguir el acceso, mientras continúan las discusiones sobre los mecanismos de seguridad necesarios ante el desarrollo de agentes de IA con mayores niveles de autonomía y acceso a internet y sistemas informáticos.
