per Eliminare i Rischi legati all’AI Generativa e all’utilizzo di LLM
Qualys, Inc. (NASDAQ: QLYS), azienda pionieristica e leader di mercato nella fornitura di innovative soluzioni per IT, sicurezza e conformità basate su cloud ha annunciato l’ampliamento del proprio portafoglio con Qualys TotalAI, progettato per affrontare le crescenti sfide e i rischi associati alla protezione delle applicazioni di AI generativa e di grandi modelli linguistici (LLM).
Man mano che le organizzazioni integrano sempre più AI e LLM nei loro prodotti e soluzioni, si trovano ad affrontare una superficie di attacco più ampia e rischi informatici più elevati. Le pratiche tradizionali di cybersecurity si stanno rivelando insufficienti per affrontare queste nuove sfide. La necessità di scoprire LLM o modelli di AI sconosciuti o non approvati, noti come modelli shadow, aumenta significativamente l’esposizione alle minacce, tra cui il furto di modelli e le fughe di dati da CVE esistenti o configurazioni errate. Inoltre, aumenta il rischio di perdita accidentale di dati, di problemi di conformità e di danni alla reputazione a causa di contenuti inappropriati e di allucinazioni dell’intelligenza artificiale generate da questi modelli. Queste preoccupazioni evidenziano l’urgente necessità di soluzioni di sicurezza robuste nel panorama in evoluzione dell’AI.
Presentata al Black Hat 2024, Qualys TotalAI sfrutta le potenti funzionalità per cui la piattaforma Qualys è nota per consentire alle organizzazioni di adottare con fiducia le tecnologie AI. Espande le rinomate capacità di visibilità degli asset, rilevamento delle vulnerabilità e rimedio di Qualys all’AI generativa e aggiunge la scansione LLM. La soluzione affronta in modo specifico la OWASP Top 10 dei rischi più critici per le applicazioni LLM: prompt injection, divulgazione di informazioni sensibili e furto di modelli. Con Qualys TotalAI, le organizzazioni possono sfruttare in modo sicuro i vantaggi dell’AI, rispettando al contempo rigorosi standard di sicurezza.
“Con l’accelerazione dell’adozione globale dell’AI e dei modelli linguistici di grandi dimensioni (LLM), che superano le misure di governance e sicurezza, è fondamentale per le organizzazioni implementare protezioni solide”, ha dichiarato Philip Bues, senior research manager di IDC. “Qualys TotalAI è focalizzato nel fornire alle aziende gli strumenti necessari per mettere in sicurezza i loro investimenti nell’AI, offrendo visibilità e difesa complete contro le minacce informatiche emergenti”.
Qualys TotalAI consente alle organizzazioni di:
Scoprire tutti i carichi di lavoro AI: Scoprire, inventariare e classificare tutte le risorse AI e LLM, comprese le GPU, il software, i pacchetti e i modelli, in produzione e sviluppo, correlando la loro esposizione alla superficie di attacco.
Prevenire il furto di modelli: Estendete la potenza di TruRisk per valutare, dare priorità e rimediare alle vulnerabilità del software AI con oltre 650 rilevamenti specifici per l’AI, correlati ai feed delle minacce e all’esposizione delle risorse, per prevenire il rischio di furto di modelli e dati.
Infrastruttura AI sicura: Sfruttare le funzionalità di rimedio complete per superare i requisiti di sicurezza, allinearsi agli SLA e soddisfare le esigenze aziendali. Attenuare in modo proattivo le potenziali minacce per garantire operazioni senza interruzioni e una solida postura di sicurezza dell’AI e dell’LLM.
Rilevare la divulgazione di dati sensibili: Valutare gli LLM per le esposizioni agli attacchi critici, come la prompt injection, la divulgazione di informazioni sensibili e il furto di modelli secondo la OWASP Top 10 per gli LLM. Questo garantirà la fiducia nella gestione del rischio dell’AI e renderà i modelli pronti per la revisione e la conformità.
“Stiamo solo iniziando a scalfire la superficie del potenziale dell’AI e dell’LLM nel creare valore per le aziende. Allo stesso tempo, dobbiamo mettere in sicurezza questo percorso sul nascere, in modo che non aggiunga nuovi rischi al business”, ha dichiarato Sumedh Thakar, presidente e CEO di Qualys. “In Qualys ci impegniamo ad aiutare i nostri clienti a stare al passo con i rischi emergenti della cybersecurity e con Qualys TotalAI le aziende possono concentrarsi sulla crescita e sull’innovazione, sapendo che saranno protette dalle minacce più critiche all’intelligenza artificiale”.
