L’AI Act, regolamentazione europea sull’Intelligenza Artificiale, entrato in vigore il 1° agosto 2024, ha cominciato a impostare un quadro normativo di riferimento a livello globale, per la protezione delle persone dai rischi di queste tecnologie e dalla deriva verso la tecnocrazia.
In questo regolamento, si ritiene opportuno ad esempio vietare l’immissione sul mercato, la messa in servizio o l’uso di sistemi di IA destinati a essere utilizzati per rilevare lo stato emotivo delle persone in situazioni relative al luogo di lavoro e alla scuola.
Vengono definiti ad alto rischio i sistemi di IA utilizzati nell’istruzione o nella formazione professionale, in particolare per determinare l’accesso o l’ammissione, per assegnare persone agli istituti o ai programmi di istruzione e formazione professionale a tutti i livelli, per valutare i risultati dell’apprendimento delle persone, per valutare il livello di istruzione adeguato per una persona e influenzare materialmente il livello di istruzione e formazione che le persone riceveranno o a cui potranno avere accesso. Questi sistemi possono determinare il percorso d’istruzione e professionale di una persona e quindi incidere sulla sua capacità di garantire il proprio sostentamento.
Analogamente sono previste restrizioni nell’utilizzo dell’AI in ambito sanitario, dei diritti civili e dei servizi sociali, sempre relativamente a possibili ingerenze indebite nella vita delle persone, a valutazioni o pressioni che impediscono all’individuo di fare scelte libere e indipendenti.
