Valutazione sistematica del comportamento di una GenAI per un aeroporto italiano

Use Cases
Cyber security

La Sfida

In seguito all’implementazione di un chatbot basato su AI Generativa, un primario scalo aeroportuale ha manifestato l’esigenza di valutarne la sicurezza. La rapida evoluzione degli agenti AI e la loro crescente interconnessione con archivi dati e applicazioni aziendali introducono infatti rischi significativi spesso sottovalutati dalle organizzazioni.

La Soluzione

Il team ha eseguito un’analisi sistematica dell’architettura AI, progettando scenari di attacco su misura basati sulle reali modalità d’uso dei modelli. Sono state replicate, in condizioni controllate, tecniche di manipolazione volte a testare l’integrità delle risposte dell’IA e la protezione dei dati sensibili integrati nel sistema.

I Benefici

L’attività ha permesso di mitigare i rischi emergenti legati alla GenAI prima che potessero essere sfruttati, garantendo un’interazione sicura tra il chatbot e gli utenti aeroportuali. Il cliente ha acquisito consapevolezza sulle vulnerabilità specifiche dei modelli linguistici, elevando la resilienza della propria infrastruttura digitale.

Il Ruolo di Humanativa

HUMANATIVA si è posizionata all’avanguardia tecnologica realizzando uno dei primi esercizi di AI Red Teaming in ambito infrastrutturale. Grazie a metodologie innovative, il Gruppo ha dimostrato come la sicurezza possa abilitare l’adozione fiduciosa dell’intelligenza artificiale in contesti critici.

Condividi

Use cases