Il 17 maggio 2024, il Comitato dei Ministri del Consiglio d’Europa ha adottato la Convenzione sull’intelligenza artificiale (IA) durante la 133ª sessione ministeriale, alla quale ha partecipato Ignazio Cassis, capo del Dipartimento federale degli affari esteri (DFAE).
Questa convenzione mira a garantire che l’IA rispetti le norme giuridiche in materia di diritti umani, democrazia e Stato di diritto. La Svizzera ha avuto un ruolo attivo nei negoziati, che sono durati un anno e mezzo.
In occasione del 75º anniversario del Consiglio d’Europa, il Comitato dei Ministri ha approvato all’unanimità il testo adottato a marzo dal Comitato sull’intelligenza artificiale (CAI).
La convenzione è il frutto di due anni di lavoro di un organo intergovernativo, il Comitato sull’intelligenza artificiale (CAI), che ha riunito, per la redazione del trattato, i 46 Stati membri del Consiglio d’Europa (fra cui la Svizzera), l’Unione Europea e 11 Stati non membri (Argentina, Australia, Canada, Costa Rica, Stati Uniti d’America, Israele, Giappone, Messico, Perù, Santa Sede e Uruguay), oltre a rappresentanti del settore privato, della società civile e del mondo accademico, in qualità di osservatori.
La Convenzione sarà aperta alla firma degli Stati a partire da settembre 2024 e, in caso di ratifica, dovrà essere integrata nella legislazione svizzera.
La Convenzione sull’IA istituisce un quadro giuridico comune e vincolante che assicura il rispetto delle norme del Consiglio d’Europa e di altri standard internazionali riguardanti i diritti umani, la democrazia e lo Stato di diritto nel ciclo di vita dei sistemi IA. Si basa su principi generali come la trasparenza, la robustezza, la non discriminazione e la protezione della privacy, e promuove valori comuni oltre lo spazio europeo.
La convenzione stabilisce requisiti di trasparenza e controllo adattati a contesti e rischi specifici, inclusa l’identificazione dei contenuti generati dai sistemi di IA.
Le parti dovranno adottare misure per identificare, valutare, prevenire e mitigare i rischi potenziali e valutare la necessità di un moratorio, di un divieto o di altre misure appropriate riguardo all’uso dei sistemi di IA quando tale utilizzo potrebbe presentare rischi incompatibili con le norme relative ai diritti umani.
Dovranno inoltre determinare le responsabilità e stabilire l’obbligo di rendere conto in caso di impatti negativi, garantire che i sistemi di IA rispettino l’uguaglianza, inclusa l’uguaglianza di genere, vietare la discriminazione e proteggere la vita privata.
Inoltre, le parti del trattato dovranno assicurarsi che le vittime di violazioni dei diritti umani nell’uso dei sistemi di IA abbiano accesso a rimedi e benefici delle garanzie procedurali. Le persone che interagiscono con un sistema di IA dovrebbero essere informate di tale interazione.
Per quanto riguarda i rischi per la democrazia, il trattato richiede alle parti di adottare misure per garantire che i sistemi di IA non siano utilizzati per minare le istituzioni e i processi democratici, inclusi i principi di separazione dei poteri, indipendenza della giustizia e accesso alla giustizia.
Le parti della convenzione non saranno tenute ad applicare le disposizioni del trattato alle attività legate alla protezione degli interessi di sicurezza nazionale, ma dovranno garantire che tali attività siano condotte nel rispetto delle istituzioni e dei processi democratici e del diritto internazionale. La convenzione non si applicherà alle questioni di difesa nazionale né alle attività di ricerca e sviluppo, salvo se la sperimentazione di sistemi di IA interferisca con i diritti umani, la democrazia e lo Stato di diritto.
Per garantire una sua efficace attuazione, la convenzione stabilisce un meccanismo di monitoraggio sotto forma di una conferenza delle parti.
Infine, la convenzione richiede che le parti istituiscano un meccanismo di controllo indipendente per verificare il rispetto della convenzione e sensibilizzino il pubblico, animino e illuminino il dibattito pubblico e conducano consultazioni multipartitiche su come utilizzare la tecnologia dell’IA.
Thomas Schneider, ambasciatore e vicedirettore dell’Ufficio federale delle comunicazioni (UFCOM), ha presieduto i negoziati come presidente del CAI. La delegazione svizzera, guidata da Roger Dubach, direttore aggiunto della Direzione del diritto internazionale pubblico (DFAE), includeva rappresentanti dell’Ufficio federale di giustizia (UFG), del DFAE e dell’UFCOM.
