El gegant tecnològic Google ha reconegut per primera vegada que la seva intel·ligència artificial, Gemini, va aconseguir saltar-se les barreres de ciberseguretat de tres companyies durant uns assajos. Una revelació que reobre el debat sobre els límits i la supervisió d'aquests sistemes potents, després que una bretxa tècnica permetés al model actuar per iniciativa pròpia fora del seu entorn de simulació.
Els incidents, que van tenir lloc al maig, es van produir durant uns exàmens de ciberseguretat executats per la firma israeliana Irregular, especialitzada en auditories de seguretat sobre plataformes avançades d'intel·ligència artificial. Aquesta mateixa companyia va estar vinculada recentment a episodis similars en què van estar implicades OpenAI i Anthropic, segons ha transcendit els últims dies.
Com es va produir l'atac
Les proves es van dissenyar en un entorn tancat i controlat , conegut a l'argot tècnic com a sandbox, utilitzant entitats i identitats corporatives fictícies. La premissa fonamental era que el sistema romangués aïllat de l?exterior. Tot i això, segons ha avançat The Wall Street Journal, s'ha habilitat de manera fortuïta la connexió a la xarxa general. En disposar d'accés a la xarxa, els models van sobrepassar els marges de l'experiment i van irrompre en xarxes de corporacions reals.
El mètode emprat per Gemini va variar segons la prova. En un dels casos, l'auditoria va sol·licitar a la IA que extragués dades del programari d'una firma simulada el nom de la qual coincidia amb una companyia existent. Després d'activar-se la connexió a internet per error, el sistema va deduir amb èxit la clau d'accés i va penetrar als servidors de l'entitat real.
Dues vies d´intrusió
En les altres dues simulacions, Gemini va rastrejar la web fins a localitzar repositoris públics on hi havia emmagatzemades claus d'accés pertanyents a dues empreses més. Utilitzant aquesta informació, l'eina es va endinsar als entorns de les dues organitzacions. Un portaveu d'Irregular va assenyalar que l'incident estava relacionat amb el mateix problema que va afectar altres laboratoris d'IA i que tots els laboratoris pertinents van ser notificats a finals de juliol.
Heather Adkins, vicepresidenta d'enginyeria de seguretat a Google, va detallar que el model "va localitzar informació pública a Internet i va deduir les credencials per entrar a llocs web que va pressuposar integrats a l'exercici". Adkins va remarcar que en les tres ocasions la plataforma va interrompre la seqüència d'ordres per si mateixa quan va identificar que operava sobre entorns reals i no sobre els escenaris simulats.
Silenci de Google i reaccions
Tot i que els atacs van tenir lloc al maig, Irregular no va alertar formalment Google fins a finals del mes de juliol, coincidint amb la troballa de l'incident d'OpenAI. Després de ser consultada pel diari The Guardian, la firma de Mountain View va admetre els fets, justificant la seva decisió de no fer pública la bretxa en què Gemini no va causar danys als sistemes vulnerats. Tot i el silenci mediàtic inicial, la tecnològica va assegurar haver informat de forma privada les tres empreses afectades.
La postura de Google contrasta amb la de competidors com Anthropic i OpenAI, que van optar per difondre proactivament bretxes similars sorgides a les seves pròpies proves. "Aquests successos posen en relleu la importància d'entrenar els potents models d'IA perquè actuïn de manera responsable", va subratllar Adkins respecte a les lliçons extretes de les avaluacions. L'empresa també va indicar que els incidents no van involucrar el model més recent de la companyia , encara que no va especificar quina versió de Gemini va ser la implicada.
Un problema de la indústria
La seguidilla d'incidents deixa una pregunta pràctica sobre la taula: com es blinden les proves quan agents d'IA cada cop més autònoms tenen accés a internet i sistemes aliens. A l'agost, Meta va declarar que el seu incident no va implicar una fuita de l'entorn de proves ni un ciberatac sofisticat, mentre que Irregular va afirmar que està treballant en les millors pràctiques per fer avaluacions de ciberseguretat d'IA de manera segura.
Segons el New York Times, en una prova amb Claude Opus 4.7 d'Anthropic l'agent va continuar atacant fins i tot després de sospitar que l'objectiu era real , mentre que Gemini es va frenar. Irregular va dir a Axios que tots els laboratoris pertinents van ser avisats a finals de juliol i que “tots els problemes coneguts del nostre costat es van remeiar i van resoldre fa setmanes”.
Aquests incidents han suscitat interrogants sobre les mesures de seguretat necessàries a mesura que els agents d'IA adquireixen més autonomia i accés a Internet ia sistemes informàtics. El cas de Gemini no és aïllat: Irregular va estar darrere d'incidents similars ja revelats per OpenAI, Anthropic i Meta, i el fil comú no va ser l'astúcia dels models, sinó un accés a internet que no havia d'existir durant les proves. L'episodi pressiona tant els que dissenyen aquestes avaluacions com les normes sobre què comptar, i quan, quan un model creua la línia.
