All'inizio di quest'anno, il Parlamento europeo e il Consiglio hanno deciso di regolamentare l'uso dell'AI nell'UE con l'approvazione della legge dell'Unione europea sull'intelligenza artificiale (legge dell'UE sull'AI), il primo regolamento completo sull'AI al mondo.
Perché la legge dell'UE sull'AI è importante?
Se la tua organizzazione utilizza l'AI e opera all'interno dell'UE, o è un'azienda esterna che opera nell'UE, è importante comprendere le nuove normative e assicurarsi di aderirvi.
Il mancato rispetto di alcune disposizioni può comportare multe fino a 35 milioni di euro (38 milioni di dollari) o fino al 7% del fatturato lordo.
La nuova legge si prefigge di garantire la sicurezza e l'affidabilità dei sistemi di AI, posizionando l'UE come leader nella governance dell'AI. Impone requisiti di trasparenza per tutte le applicazioni generali di AI e delinea obblighi come la gestione del rischio, l'autovalutazione, la mitigazione dei rischi sistemici e altro ancora.
Date chiave da tenere presenti:
- Febbraio 2025: entrano in vigore i requisiti di divieto
- Agosto 2026: la legge dell'UE sull'AI diventa pienamente applicabile
- Agosto 2027: entrano in vigore le norme per i sistemi di AI integrati nei prodotti regolamentati
Continua a leggere per scoprire i passaggi che la tua organizzazione deve seguire per conformarsi ai nuovi requisiti.
I quattro livelli di classificazione
La legge dell'UE sull'AI classifica i sistemi in base al rischio che rappresentano per gli utenti e ogni livello di rischio presenta un livello di regolamentazione specifico. Questi quattro livelli (inaccettabile, elevato, limitato e minimo/senza rischi) saranno trattati in modo diverso in base ai casi d'uso.
La legge dell'UE sull'AI si concentra sui sistemi di AI inaccettabili e a rischio elevato. Diamo un'occhiata nei dettagli.
Sistemi AI a rischio inaccettabile
I sistemi AI considerati un rischio inaccettabile sono ritenuti una chiara minaccia per le persone e non rispettano i valori dell'UE.
Tra gli esempi dell'UE di sistemi di AI a rischio inaccettabile si annoverano:
- Manipolazione cognitivo-comportamentale di persone o gruppi vulnerabili specifici: ad esempio, giocattoli ad attivazione vocale che inducono i bambini a comportamenti pericolosi.
- Punteggio sociale: classificazione delle persone in base al comportamento, allo stato socio-economico o alle caratteristiche personali.
- Identificazione biometrica e categorizzazione delle persone.
- Sistemi di identificazione biometrica in tempo reale e a distanza, come il riconoscimento facciale.
I sistemi di AI a rischio inaccettabile saranno vietati entro sei mesi dall'entrata in vigore della legge europea sull'AI, con alcune eccezioni per scopi di applicazione della legge.
Sistemi AI a rischio elevato
I sistemi di AI considerati a rischio elevato incidono negativamente sulla sicurezza o sui diritti fondamentali e si dividono in due categorie:
- Sistemi di AI utilizzati nei prodotti che rientrano nella legislazione dell'UE sulla sicurezza dei prodotti, inclusi giocattoli, aviazione, automobili, dispositivi medici e ascensori
- Sistemi di AI che rientrano in aree specifiche che dovranno essere registrati in un database dell'UE, tra cui gestione e funzionamento delle infrastrutture critiche, istruzione e formazione professionale e gestione della migrazione, dell'asilo e del controllo delle frontiere
I sistemi di AI a rischio elevato devono essere valutati prima di entrare nel mercato e durante il loro ciclo di vita. I cittadini hanno il diritto di presentare reclami su questi sistemi.
Questi requisiti e obblighi diventeranno applicabili 36 mesi dopo l'entrata in vigore della Legge dell'UE sull'AI.
Sistemi di AI generativa
Gli strumenti di AI come Microsoft 365 Copilot e ChatGPT non sono classificati a rischio elevato, ma richiedono la conformità ai requisiti di trasparenza e alle leggi sul copyright dell'UE. Ciò include:
- Comunicare chiaramente quando i contenuti sono generati dall'AI, in modo che gli utenti finali ne siano consapevoli.
- Progettare il modello per evitare che produca contenuti illegali.
- Pubblicare sintesi di dati protetti da copyright utilizzati per la formazione.
I modelli di AI ad alto impatto generale devono superare valutazioni approfondite e gli incidenti gravi devono essere segnalati alla Commissione Europea.
Questi requisiti si applicheranno 12 mesi dopo l'entrata in vigore della legge dell'UE sull'AI.
In che modo Varonis può essere utile
Garantire la conformità a strutture normative complesse è un compito impegnativo e, con l'introduzione della legge dell'UE sull'AI, la necessità di trasparenza e sicurezza dei dati diventa ancora più stringente.
Varonis semplifica la gestione della conformità e offre visibilità e controllo in tempo reale sui dati critici utilizzati dall'AI per aiutarti a rispettare la legge dell'UE sull'AI in quattro modi fondamentali:
- Proteggendo i dati privati e sensibili ingeriti e prodotti dall'AI generativa.
- Consentendo di vedere completamente i suggerimenti e le risposte dell'AI, compresa l'indicazione dell'accesso ai dati sensibili.
- Inviando avvisi su minacce e anomalie, tra cui attività e comportamenti che indicano un uso improprio.
- Proteggendo automaticamente i dati, compresa la revoca degli accessi eccessivi, la correzione delle etichette e delle configurazioni errate, per ridurre l'esposizione e il rischio.
Abbiamo inoltre consentito a migliaia di aziende di conformarsi alle normative, tra cui HIPAA, GDPR, CCPA, NIST e ITAR.
Accelerare l'adozione dell'AI per i team di sicurezza
Nell'ambito di un approccio olistico alla sicurezza dell'AI generativa, Varonis offre anche l'unica offerta completa del settore per la protezione di Microsoft 365 Copilot e Salesforce Einstein Copilot.
L'ampia gamma di funzionalità di sicurezza della nostra piattaforma di sicurezza dei dati può accelerare l'adozione e l'implementazione dell'AI da parte della tua organizzazione, consentendo di vedere e controllare completamente le autorizzazioni e i carichi di lavoro degli strumenti.
Riduci i rischi senza assumerne nessuno.
Se stai iniziando il percorso verso l'AI o non sai come ottemperare ai requisiti della legge dell'UE sull'AI, ti consigliamo di iniziare con la nostra Data risk assessment gratuita.
In meno di 24 ore, avrai una visione chiara e basata sul rischio della tua posizione di sicurezza e della tua ottemperanza agli standard di conformità.
Inizia subito la tua valutazione gratuita.
-1.png)
