Meta ha reso noto che uno dei propri modelli di intelligenza artificiale ha effettuato l’accesso a Internet e ha sfruttato una vulnerabilità in un servizio di terze parti durante alcuni test di sicurezza informatica, a seguito di incidenti simili segnalati di recente da OpenAI e Anthropic.
L’incidente è stato causato da un errore di configurazione nell’ambiente di test, che ha involontariamente consentito al modello di accedere a Internet.
Questa segnalazione si aggiunge a un elenco sempre più lungo di casi in cui modelli avanzati di AI che hanno dimostrato la capacità di identificare e sfruttare autonomamente le falle di sicurezza mentre svolgevano i compiti loro assegnati.
Il commento di Juraj Malcho, CTO di ESET
“Il modello di AI di Meta è stato il più recente a sfuggire al controllo, e difficilmente sarà l’ultimo, a meno che le aziende non smettano di competere per realizzare il modello ‘più spregiudicato’ mai visto.
Incidenti come questi dovrebbero essere considerati un serio allarme per la security, non una dimostrazione di capacità, proprio perché la tecnologia è nuova o strategicamente importante. Ma gli incidenti di sicurezza non dovrebbero diventare un argomento di marketing.
Ogni nuovo fallimento dell’AI dovrebbe sollevare la stessa domanda: perché continuiamo a considerare la cybersecurity come un aspetto secondario in una competizione con conseguenze globali?
Se la velocità continuerà a prevalere sulle considerazioni di sicurezza, potremmo ritrovarci con modelli potenti che diventeranno ancora più difficili da controllare.
Il nostro settore deve abbandonare l’improvvisazione e orientarsi verso tecniche di ingegneria della security consolidate prima che questi sistemi vengano implementati o testati su larga scala.
L’innovazione non esonera le aziende che operano nel campo dell’AI dalle responsabilità in materia di sicurezza che ogni altro vendor di tecnologia è tenuto ad adempiere.”
