Nel suo parere pubblicato il 13 ottobre 2022 , il GEPD accoglie con favore l’apertura dei negoziati per una convenzione del Consiglio d’Europa sull’intelligenza artificiale, i diritti umani, la democrazia e lo stato di diritto (convenzione).
Il GEPD considera la Convenzione un’importante opportunità per integrare la proposta di legge sull’intelligenza artificiale della Commissione europea rafforzando la protezione dei diritti fondamentali delle persone , come i diritti alla privacy e alla protezione dei dati personali.
Gli obiettivi generali dovrebbero dare la priorità alle salvaguardie e ai diritti da fornire agli individui e ai gruppi di individui che possono essere influenzati dall’uso dei sistemi di IA.
Per garantire la protezione delle persone e dei loro diritti, le direttive di negoziato dovrebbero mirare alla coerenza della Convenzione con il quadro giuridico esistente dell’UE in materia di protezione dei dati .
Il GEPD è del parere che i sistemi di IA che pongono rischi inaccettabili per le persone dovrebbero essere vietati . In particolare, l’uso dell’IA per: il punteggio sociale degli individui;
identificazione biometrica di individui in spazi accessibili al pubblico;
la categorizzazione degli individui sulla base dei loro dati biometrici (es. la loro etnia);
la categorizzazione degli individui in base alle loro emozioni percepite, dovrebbe essere vietata per impostazione predefinita.
Dovrebbero essere vietati anche i sistemi di IA che incidono sui diritti degli individui alla dignità umana in generale. Tali condizioni dovrebbero anche essere esplicitamente incluse nelle direttive di negoziato.
È fondamentale monitorare l’uso dei sistemi di IA, il funzionamento di questi sistemi, il rischio che comportano. Il GEPD raccomanda che le direttive di negoziato mirino a fornire garanzie procedurali minime per proteggere le persone che potrebbero essere interessate dall’uso dei sistemi di IA.
Queste salvaguardie dovrebbero garantire che l’uso dei sistemi di IA sia trasparente, possa essere spiegato chiaramente alle autorità di sorveglianza e ai singoli individui e possa essere verificato regolarmente per limitare i rischi che tali strumenti possono presentare.
Dovrebbero inoltre essere messi in atto meccanismi di conformità e controllo , nonché la cooperazione transfrontaliera tra le autorità competenti progettate dalle parti della Convenzione, per vigilare sull’uso dell’IA e proteggere le persone e i loro diritti fondamentali.
