L’AI Act (Regolamento UE 2024/1689) impone requisiti di trasparenza, tracciabilità e supervisione umana per i sistemi di IA, inclusi quelli integrati in ambienti SAP.
Ma cosa fare nel contesto SAP?
Quali sono gli obiettivi dell'IA Act Europeo?
- Tutela dei diritti fondamentali: salute, sicurezza, privacy, dignità umana.
- Promozione dell’innovazione responsabile: favorire lo sviluppo di IA sicura e trasparente.
- Armonizzazione normativa: regole comuni per tutti gli Stati membri.
- Controllo umano: l’IA deve essere supervisionata e non sostituire il giudizio umano
Classificazione dei sistemi di IA
L’AI Act adotta un approccio basato sul rischio, suddividendo i sistemi in quattro categorie (Entra in vigore il regolamento sull'IA)
- Rischio inaccettabile
- Sistemi vietati (es. punteggio sociale, manipolazione cognitiva, riconoscimento emozioni in ambiti sensibili)
- Alto rischio
- Sistemi usati in sanità, giustizia, selezione del personale, sicurezza. Devono rispettare requisiti rigorosi: trasparenza, qualità dei dati, sorveglianza umana, registrazione
- Rischio limitato
- Obbligo di trasparenza (es. chatbot che devono dichiarare di essere IA)
- Rischio minimo
- Sistemi come filtri spam o videogiochi. Nessun obbligo, ma incoraggiati codici di condotta volontari
Cosa fare nel contesto SAP per la gestione AI?
Quali sono gli aspetti da tenere presente in questo caso, ad esempio:
- Valutare e documentare i rischi legati all’uso di IA nei sistemi SAP
- Integrare controlli specifici per l’IA
- Definizione di policy aziendali per l’uso etico e conforme dell’IA
- Valutare se i modelli IA usati rientrano tra quelli ad alto rischio secondo l’AI Act
Valuta la conformità allo standard ISO 42001, il primo standard internazionale per la gestione dei sistemi di Intelligenza Artificiale (IA). Qui di seguito quello della SAP.
Le domande comuni
- Se pongo delle domande, le risposte tengono conto delle mie abilitazioni (autorizzazioni)
- Come il sistema riconosce chi ha di fronte (tematica autenticazione)
- Dove e come sono gestiti i dati (saranno utilizzati per addrestrare modelli IA)
- Posso inserire qualsiasi dato/contenuto "nel prompt" oppure esistono filtri particolari
