{"id":28507,"date":"2023-12-15T16:55:10","date_gmt":"2023-12-15T16:55:10","guid":{"rendered":"https:\/\/dejalex.com\/it\/2023\/12\/storico-accordo-ue-ai-act-sicurezza-sviluppo-intelligenza-artificiale\/"},"modified":"2023-12-15T16:58:17","modified_gmt":"2023-12-15T16:58:17","slug":"storico-accordo-ue-ai-act-sicurezza-sviluppo-intelligenza-artificiale","status":"publish","type":"post","link":"https:\/\/www.dejalex.com\/it\/2023\/12\/storico-accordo-ue-ai-act-sicurezza-sviluppo-intelligenza-artificiale\/","title":{"rendered":"L\u2019AI ACT ASSUME UN VOLTO. STORICO ACCORDO TRA PARLAMENTO E CONSIGLIO PER GARANTIRE SICUREZZA E SVILUPPO"},"content":{"rendered":"<p>In data 8 dicembre 2023, successivamente ad una \u201cmaratona negoziale\u201d di 36 ore, \u00e8 stato raggiunto un cruciale accordo politico tra Parlamento Europeo e Consiglio, riguardante la proposta di Regolamento volta a garantire la sicurezza e lo sviluppo dell&#8217;Intelligenza Artificiale in Europa (\u201c<em>AI Act\u201d<\/em>)<a href=\"#_ftn1\" name=\"_ftnref1\"><sup>[1]<\/sup><\/a>. L&#8217;obiettivo \u2013 ed il compromesso &#8211; \u00e8 garantire il rispetto dei diritti fondamentali e della democrazia, consentendo contemporaneamente lo sviluppo e la leadership europea del settore.<\/p>\r\n<p>Le ultime battute del processo legislativo avevano visto, successivamente all\u2019emersione di una serie di punti di discussione durante il trilogo del 24 ottobre 2023<a href=\"#_ftn2\" name=\"_ftnref2\"><sup>[2]<\/sup><\/a>, la pubblicazione di un documento informale diffuso da Francia, Italia e Germania, avente ad oggetto un accordo \u201ca tre\u201d circa le modalit\u00e0 di regolamentazione dei modelli di fondazione<a href=\"#_ftn3\" name=\"_ftnref3\"><sup>[3]<\/sup><\/a>, facenti parte del pi\u00f9 vasto ramo della IA generativa (la categoria in cui rientra, per esempio, ChatGTP), nella prospettiva pi\u00f9 permissiva di un\u2019autoregolamentazione obbligatoria attraverso codici di condotta<a href=\"#_ftn4\" name=\"_ftnref4\"><sup>[4]<\/sup><\/a>. Si era temuto che quest\u2019iniziativa potesse minare il raggiungimento di un accordo di massima tra gli Stati Membri sul testo dell\u2019<em>AI Act <\/em>nel successivo trilogo fissato per il 6 dicembre 2023. Tale scenario \u00e8 stato scongiurato.<\/p>\r\n<p>Di seguito, riassumiamo il contenuto dell\u2019accordo raggiunto tra Parlamento e Consiglio all\u2019esito di tale ultima tornata.<\/p>\r\n<p><strong>Applicazioni vietate<\/strong><\/p>\r\n<p>Riconoscendo la potenziale minaccia derivante da alcune applicazioni dell&#8217;intelligenza artificiale (\u201c<strong>IA<\/strong>\u201d) verso i diritti dei cittadini e la democrazia, i co-legislatori hanno concordato il <strong>divieto<\/strong> delle seguenti pratiche:<\/p>\r\n<ul>\r\n<li>sistemi di categorizzazione biometrica che si basino su caratteristiche \u201csensibili\u201d delle persone (ad esempio, convinzioni politiche, religiose, filosofiche, orientamento sessuale e razza);<\/li>\r\n<li><em>scraping<a href=\"#_ftn5\" name=\"_ftnref5\"><sup><strong>[5]<\/strong><\/sup><\/a> <\/em>indiscriminato di immagini facciali reperite su Internet o catturate da registrazioni di telecamere a circuito chiuso al fine creare <em>database<\/em> di riconoscimento facciale;<\/li>\r\n<li>sistemi di riconoscimento delle emozioni delle persone sui luoghi di lavoro e nelle istituzioni educative;<\/li>\r\n<li>sistemi di valutazione sociale basati su comportamenti o caratteristiche personali di individui (c.d. <em>social scoring<\/em>);<\/li>\r\n<li>sistemi di IA che manipolino il comportamento umano per eluderne il libero arbitrio;<\/li>\r\n<li>l&#8217;utilizzo dell&#8217;IA per sfruttare le vulnerabilit\u00e0 delle persone (a causa dell\u2019et\u00e0, disabilit\u00e0, situazione sociale o economica).<\/li>\r\n<\/ul>\r\n<p><strong>Casi tassativi di utilizzo lecito della identificazione biometrica <\/strong><\/p>\r\n<p>I negoziatori hanno inoltre concordato una serie di strette eccezioni per l\u2019impiego di sistemi di identificazione biometrica in luoghi ad accesso pubblico<a href=\"#_ftn6\" name=\"_ftnref6\"><sup>[6]<\/sup><\/a>.<\/p>\r\n<p>Il loro <strong>utilizzo<\/strong> dovr\u00e0 essere subordinato a preventiva autorizzazione giudiziaria e sar\u00e0 funzionale alla repressione di determinati reati previamente definiti. Il riconoscimento biometrico <em>ex post <\/em>(con utilizzo delle immagini \u201cin differita\u201d) potr\u00e0 poi essere utilizzato solamente per la ricerca mirata di individui condannati o sospettati di aver commesso reati pre-identificati come gravi; l\u2019utilizzo del riconoscimento biometrico \u201cin tempo reale\u201d (su cui le discussioni sembra siano state effettivamente molto accese nel corso dei triloghi) dovr\u00e0 invece soddisfare una serie di condizioni rigorose, con <strong>limitazione<\/strong> ai fini di:<\/p>\r\n<ul>\r\n<li>ricerche mirate di vittime di determinati reati gravi (ad esempio, sequestro, tratta, sfruttamento sessuale);<\/li>\r\n<li>prevenzione di una minaccia terroristica specifica e attuale;<\/li>\r\n<li>localizzazione o identificazione di una persona sospettata di aver commesso uno dei reati gravi specificamente menzionati (ad esempio, terrorismo, tratta, sfruttamento sessuale, omicidio, rapimento, stupro, rapina a mano armata, partecipazione a un&#8217;organizzazione criminale).<\/li>\r\n<\/ul>\r\n<p><strong>Obblighi per i sistemi classificati \u201cad alto rischio\u201d<\/strong><\/p>\r\n<p>Come abbiamo avuto modo di rappresentare in precedenti contributi sul tema<a href=\"#_ftn7\" name=\"_ftnref7\"><sup>[7]<\/sup><\/a>, in base al c.d. <em>risk-based approach<\/em>, la proposta di Regolamento introduce una <strong>classificazione in base al rischio su quattro livelli<\/strong>, in funzione delle ripercussioni che potrebbe avere l\u2019IA sulla sicurezza delle persone e sui diritti fondamentali.<\/p>\r\n<p>Il livello di <strong>rischio alto<\/strong> si presenta come quello pi\u00f9 oneroso in termini di <em>compliance<\/em>, comportando molteplici obblighi a cui i fornitori devono attenersi prima dell\u2019immissione del sistema sul mercato europeo e durante il suo ciclo di vita. In tale categoria sono inclusi anche i sistemi suscettibili di arrecare danni alla salute, alla sicurezza, ai diritti fondamentali o all\u2019ambiente.<\/p>\r\n<p>Per i sistemi di IA classificati come ad alto rischio (in considerazione degli interessi che potrebbero coinvolgere), sono stati definiti nuovi obblighi (addizionali rispetto a quelli previamente previsti). I co-legislatori hanno incluso la necessit\u00e0, tra gli altri requisiti, di prevedere una valutazione obbligatoria dell&#8217;impatto sui diritti fondamentali denominata <em>Fundamental-Rights Impact Assessment<\/em>(\u201cFRIA\u201d) per certi sviluppatori di sistemi ad alto rischio. Dovranno, ad esempio, svolgere una FRIA gli sviluppatori di sistemi di intelligenza artificiale nei settori assicurativo e bancario (si pensi, ad esempio, a <em>software<\/em> che decidano in maniera \u201cmeccanica\u201d e automatizzata a chi concedere un mutuo e a chi no). Tale obbligo sar\u00e0 poi estendibile anche ai sistemi di IA utilizzati per influenzare l&#8217;esito di elezioni politiche e il comportamento degli elettori. Resta fermo il diritto dei cittadini di presentare reclami sui sistemi di IA ad alto rischio, nonch\u00e9 di ricevere spiegazioni sulle decisioni basate su detti sistemi qualora lamentino un pregiudizio ai loro diritti.<\/p>\r\n<p><strong>Limiti per i sistemi di Intelligenza Artificiale aventi scopi generali<\/strong><\/p>\r\n<p>Per tenere conto della vasta gamma di compiti che i sistemi di IA possono svolgere e della rapida espansione delle loro capacit\u00e0, si \u00e8 convenuto che i sistemi di intelligenza artificiale aventi <strong>scopi generali<\/strong> definiti come \u201c<em>General-Purpose AI<\/em>\u201d (\u201cGPAI\u201d)<a href=\"#_ftn8\" name=\"_ftnref8\"><sup>[8]<\/sup><\/a> e i modelli su cui si basano dovranno attenersi ai requisiti di trasparenza inizialmente proposti dal Parlamento. Questi includono la necessit\u00e0, per chi sviluppa tali sistemi, di redigere documentazione tecnica, di conformarsi alla legislazione sul diritto d\u2019autore dell&#8217;Unione e di diffondere resoconti dettagliati sui dati utilizzati per l\u2019addestramento degli algoritmi.<\/p>\r\n<p>Inoltre, per i modelli GPAI ad alto impatto che comportano rischi sistemici, \u00e8 passata la posizione del Parlamento che garantisce obblighi ancora pi\u00f9 rigorosi: se questi modelli soddisfano determinati criteri, i loro sviluppatori dovranno effettuare valutazioni del modello e analisi volte a mitigare i rischi sistemici nonch\u00e9 condurre specifici <em>test<\/em> e segnalare alla Commissione incidenti gravi che dovessero occorrere a causa dell\u2019utilizzo. Peraltro, l\u2019accordo prevede che, fino a quando non saranno pubblicati <em>standard<\/em>armonizzati dell&#8217;Unione, i GPAI con rischi sistemici dovranno comunque basarsi su codici di condotta.<\/p>\r\n<p><strong>Misure a sostegno dell&#8217;innovazione e delle PMI<\/strong><\/p>\r\n<p>Infine, l\u2019accordo raggiunto garantisce che le imprese, in particolare le PMI, possano sviluppare soluzioni di IA in condizioni idonee a contenere il rischio che i <em>player<\/em> che controllano l\u2019industria sviluppino una posizione dominante. A tal fine, l&#8217;accordo promuove i cosiddetti &#8220;<em>regulatory sandboxes<\/em>&#8220;<a href=\"#_ftn9\" name=\"_ftnref9\"><sup>[9]<\/sup><\/a> e i \u201c<em>real-world-testing\u201d<\/em>, che dovranno essere istituiti dalle autorit\u00e0 nazionali e che consentiranno a tutti gli operatori interessati di sviluppare e addestrare delle IA innovative prima della loro messa sul mercato.<\/p>\r\n<p><strong>Prossimi passi e Calendario dell\u2019IA<\/strong><\/p>\r\n<p>Intanto, in data 12 dicembre la Commissione Europea ha pubblicato una versione aggiornata delle sue Q\/R sull\u2019<em>AI Act, <\/em>in seguito all&#8217;accordo provvisorio raggiunto tra Parlamento Europeo e Consiglio<a href=\"#_ftn10\" name=\"_ftnref10\"><sup>[10]<\/sup><\/a>.<\/p>\r\n<p>I punti salienti del documento riguardano:<\/p>\r\n<ol>\r\n<li>l\u2019introduzione, nell\u2019esplicazione delle categorie di rischio, di uno \u201c<em>Specific transparency risk\u201d<\/em>, il quale configurerebbe un obbligo di trasparenza orizzontale applicabile a tutti i sistemi di IA<a href=\"#_ftn11\" name=\"_ftnref11\"><sup>[11]<\/sup><\/a>;<\/li>\r\n<li>l\u2019ambito di applicazione del Regolamento, che si dirige anche ai soggetti stabiliti al di fuori dell&#8217;Unione, a condizione che il sistema di IA sia immesso sul mercato unionale o che il suo utilizzo riguardi persone che si trovano nell&#8217;Unione. Gli importatori di sistemi di IA dovranno inoltre garantire che il fornitore extraeuropeo abbia gi\u00e0 eseguito l&#8217;appropriata procedura di valutazione della conformit\u00e0, che il sistema rechi una marcatura CE e che sia accompagnato dalla documentazione e dalle istruzioni per l&#8217;uso<a href=\"#_ftn12\" name=\"_ftnref12\"><sup>[12]<\/sup><\/a>;<\/li>\r\n<li>l\u2019approfondimento sul <em>Fundamental-Rights Impact Assessment<\/em>, attraverso una descrizione dei contenuti della valutazione a cui l\u2019implementatore dei sistemi ad alto rischio sar\u00e0 sottoposto<a href=\"#_ftn13\" name=\"_ftnref13\"><sup>[13]<\/sup><\/a>.<\/li>\r\n<\/ol>\r\n<p>L&#8217;accordo politico sar\u00e0 ora soggetto all&#8217;approvazione formale del Parlamento Europeo e del Consiglio, che potrebbe protrarsi ancora per vari mesi nel corso del 2024. Occorreranno, infatti, incontri tecnici per raffinare il testo della proposta. Del pari, sar\u00e0 necessario ottenere l\u2019approvazione dei rappresentanti dei Governi e quella in seduta plenaria del Parlamento. A questo punto, il testo sar\u00e0 pubblicato sulla Gazzetta ufficiale ed entrer\u00e0 in vigore 20 giorni dopo la data di pubblicazione.<\/p>\r\n<p>\u00c8 previsto che l\u2019<em>\u2019AI Act<\/em> divenga applicabile <strong>due anni<\/strong> dopo la sua entrata in vigore, fatta eccezione per alcune disposizioni specifiche: i divieti (di cui abbiamo discusso pi\u00f9 sopra) si applicheranno gi\u00e0 dopo <strong>sei mesi<\/strong> dalla pubblicazione del testo mentre le norme sull\u2019IA per scopi generali (pure oggetto di approfondimento) saranno gi\u00e0 applicabili dopo <strong>dodici mesi<\/strong>.<\/p>\r\n<p>Infine, la Commissione Europea ha annunciato che nel periodo transitorio prima che il Regolamento diventi generalmente applicabile, verr\u00e0 lanciato un \u201cpatto sull\u2019intelligenza artificiale\u201d, attraverso la promozione di incontri tra sviluppatori di IA provenienti dall\u2019Europa e da tutto il mondo per tentare di ottenere l\u2019impegno congiunto ad aderire su base volontaria agli obblighi-chiave dell\u2019<em>AI Act<\/em> anche prima della sua entrata in vigore<a href=\"#_ftn14\" name=\"_ftnref14\"><sup>[14]<\/sup><\/a>.<\/p>\r\n<p class=\"has-text-align-center\" style=\"text-align: center;\"><a href=\"https:\/\/dejalex.com\/it\/wp-content\/uploads\/2023\/12\/Articolo_LAi-Act-assume-un-volto.pdf\" target=\"_blank\" rel=\"noreferrer noopener\"><i  class=\"x-icon x-icon-download\" data-x-icon-s=\"&#xf019;\" aria-hidden=\"true\"><\/i> Scarica l&#8217;articolo<\/a><\/p>\r\n<!-- \/wp:post-content -->\r\n\r\n<!-- wp:separator {\"className\":\"is-style-wide\"} --><hr class=\"wp-block-separator is-style-wide\" \/><!-- \/wp:separator -->\r\n\r\n<!-- wp:paragraph {\"style\":{\"typography\":{\"fontSize\":10}}} -->\r\n<div style=\"font-size: 10px;\">\r\n<p id=\"_ftn1\">[1] Per ulteriori informazioni sull\u2019Intelligenza Artificiale e le sue implicazioni nel complesso, si veda il nostro precedente contributo al seguente <a href=\"https:\/\/www.lexology.com\/library\/detail.aspx?g=05b6a023-5225-44c0-a426-13da5e73695b\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn2\">[2] Per ulteriori informazioni sulle questioni aperte dal trilogo del 24 ottobre, si veda il nostro precedente contributo al seguente <a href=\"https:\/\/www.lexology.com\/library\/detail.aspx?g=c403d218-8d25-4b7e-a9d3-6f0c66126dcf\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn3\">[3] Nell\u2019ambito dell\u2019Intelligenza Artificiale, con il termine \u201cmodello\u201d si fa riferimento a un insieme strutturato di algoritmi e parametri che permettono di eseguire specifici compiti di apprendimento automatico. I modelli sono addestrati tramite l\u2019analisi e l\u2019elaborazione di dati, al fine di identificare e apprendere schemi o relazioni tra di essi.<\/p>\r\n<p>Un <em>foundation model<\/em> rappresenta un tipo specifico e avanzato di modello di Intelligenza Artificiale. I modelli \u201cgenerici\u201d di Intelligenza Artificiale sono progettati e addestrati per svolgere compiti specifici e ben definiti e possono essere addestrati su set di dati di dimensioni variabili, a seconda del compito che dovranno svolgere.<\/p>\r\n<p>I <em>foundation models<\/em>, invece, sono addestrati su enormi quantit\u00e0 di dati e con moltissimi parametri. Ci\u00f2 permette loro di svolgere una variet\u00e0 di compiti pi\u00f9 ampia rispetto ai modelli tradizionali.<\/p>\r\n<p id=\"_ftn4\">[4] Per ulteriori informazioni sull\u2019accordo, si veda il nostro precedente contributo al seguente <a href=\"https:\/\/www.lexology.com\/library\/detail.aspx?g=fea0a357-51e6-46c9-b850-168873e10d07\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn5\">[5] Per <em>scraping<\/em> si intende la tecnica informatica di estrazione di dati e informazioni dalla rete.<\/p>\r\n<p id=\"_ftn6\">[6] Per \u201csistema di identificazione biometrica\u201d si intende un particolare tipo di sistema informatico che ha la funzionalit\u00e0 e lo scopo di identificare una persona sulla base di una o pi\u00f9 caratteristiche fisiologiche e\/o comportamentali (biometria), confrontandole con i dati, precedentemente acquisiti e presenti nel <em>database<\/em> del sistema, tramite degli algoritmi e dei sensori di acquisizione dei dati in <em>input<\/em>.<\/p>\r\n<p id=\"_ftn7\">[7] Per ulteriori informazioni, si veda il nostro precedente contributo al seguente <a href=\"https:\/\/www.lexology.com\/library\/detail.aspx?g=05b6a023-5225-44c0-a426-13da5e73695b\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn8\">[8] Per <em>\u201cGeneral-Purpose AI\u201d<\/em> si intendono dei sistemi di IA che hanno un&#8217;ampia gamma di usi possibili, sia previsti che non previsti dagli sviluppatori. Possono essere applicati a molti compiti diversi in vari campi, spesso senza modifiche sostanziali e messe a punto.<\/p>\r\n<p id=\"_ftn9\">[9] Come riporta la Commissione Europea, <em>\u201c\u2026 <\/em><em>The regulatory sandbox is a way to connect innovators and regulators and provide a controlled environment for them to cooperate. Such a collaboration between regulators and innovators should facilitates the development, testing and validation of innovative AI systems with a view to ensuring compliance with the requirements of the AI Regulation \u2026\u201d.<\/em><\/p>\r\n<p>Per ulteriori informazioni, si veda il seguente <a href=\"https:\/\/digital-strategy.ec.europa.eu\/en\/news\/first-regulatory-sandbox-artificial-intelligence-presented\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn10\">[10] Si veda il documento \u201c<em>Questions &amp; Answers\u201d<\/em> al seguente <a href=\"https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/en\/QANDA_21_1683\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn11\">[11] Si veda il documento \u201c<em>Questions &amp; Answers\u201d<\/em>, sotto la domanda \u201c<em>What are the risk categories?\u201d.<\/em><\/p>\r\n<p id=\"_ftn12\">[12] Si veda il documento \u201c<em>Questions &amp; Answers<\/em>\u201d, sotto la domanda \u201c<em>To whom does the AI Act apply?\u201d.<\/em><\/p>\r\n<p id=\"_ftn13\">[13] Si veda il documento \u201c<em>Questions &amp; Answers<\/em>\u201d, sotto la domanda \u201c<em>What is a fundamental rights impact assessment? Who has to conduct such an assessment, and when?\u201d.<\/em><\/p>\r\n<p id=\"_ftn14\">[14] Per ulteriori informazioni, si veda il seguente <a href=\"https:\/\/digital-strategy.ec.europa.eu\/en\/policies\/ai-pact\">LINK<\/a>.<\/p>\r\n<\/div>","protected":false},"excerpt":{"rendered":"<p>[x_icon type=\"tag\"] Diritto Europeo e della Concorrenza, Protezione dei Dati e Cybersecurity, Digital\/Tech, Prospettive, Societ\u00e0<\/p>\n","protected":false},"author":3,"featured_media":17673,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[460,338,292,402,336,422,307,392],"tags":[],"class_list":["post-28507","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-digital-tech-it","category-diritto-europeo-e-della-concorrenza","category-jacopo-piemonte-it","category-prospettive","category-protezione-dei-dati-e-cybersecurity","category-pubblicazioni","category-roberto-jacchia-it","category-societa"],"_links":{"self":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts\/28507","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/comments?post=28507"}],"version-history":[{"count":2,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts\/28507\/revisions"}],"predecessor-version":[{"id":28509,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts\/28507\/revisions\/28509"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/media\/17673"}],"wp:attachment":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/media?parent=28507"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/categories?post=28507"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/tags?post=28507"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}