La Cina ha utilizzato l’Intelligenza Artificiale per realizzare quello che potremmo definire un “Panopticon Tecnologico”. Ideato da Bentham come un carcere a pianta centrale in grado di esercitare un controllo centralizzato sulle persone recluse, il Panopticon viene inteso da Foucault come metafora del meccanismo degli apparati che amministrano il potere nella società: stati, eserciti, penitenziari.
Nella rete Internet il meccanismo Panoptico investe lo spazio sociale: la tecnologia contemporanea produce una gabbia virtuale invisibile e intangibile in cui tutti siamo intrappolati.
Il partito comunista Cinese utilizza l’intelligenza artificiale per il controllo della popolazione, attraverso il sistema di punteggio del Credito Sociale: 2.5 milioni di persone hanno già subito sanzioni.
La Cina sta esportando il sistema AISS (Artificial Intelligence Surveillance System, che ha prodotto anche le sanzioni appena descritte, in oltre sessanta paesi, fornendo non solo il sistema di intelligenza artificiale, ma anche le videocamere, necessarie per smantellare l’opposizione, monitorare l’estremismo, creare l’infrastruttura necessaria alla sorveglianza civile e politica.
Sempre in campo autocratico, è di rilievo anche la dichiarazione di Vladimir Putin rivolta agli studenti in occasione dell’apertura dell’anno scolastico 2017: “Il leader nell’intelligenza artificiale dominerà il mondo.
Su questo punto è evidente il contrasto tra l’approccio autocratico di vari sistemi politici totalitari e quello democratico dell’UE, come si evince da questo passaggio dell’AI Act Europeo: “I sistemi di IA che permettono ad attori pubblici o privati di attribuire un punteggio sociale alle persone fisiche possono portare a risultati discriminatori e all’esclusione di determinati gruppi. Possono inoltre ledere il diritto alla dignità e alla non discriminazione e i valori di uguaglianza e giustizia. Tali sistemi di IA valutano o classificano le persone fisiche o i gruppi di persone fisiche sulla base di vari punti di dati riguardanti il loro comportamento sociale in molteplici contesti o di caratteristiche personali o della personalità note, inferite o previste nell’arco di determinati periodi di tempo. (…) I sistemi di IA che comportano tali pratiche inaccettabili di punteggio aventi risultati pregiudizievoli o sfavorevoli dovrebbero pertanto essere vietati.”
