{"id":28717,"date":"2024-01-24T09:13:32","date_gmt":"2024-01-24T09:13:32","guid":{"rendered":"https:\/\/dejalex.com\/it\/2024\/01\/openai-linee-guida-contrastare-deep-fake\/"},"modified":"2024-01-25T09:22:11","modified_gmt":"2024-01-25T09:22:11","slug":"openai-linee-guida-contrastare-deep-fake","status":"publish","type":"post","link":"https:\/\/www.dejalex.com\/it\/2024\/01\/openai-linee-guida-contrastare-deep-fake\/","title":{"rendered":"SOTTO IL VELO DELL&#8217;INTELLIGENZA ARTIFICIALE GENERATIVA: LE NUOVE LINEE GUIDA EMANATE DA OPEN AI PER FRENARE I DEEP FAKE"},"content":{"rendered":"<p>Il 30 novembre 2022, giorno del lancio sul mercato di ChatGTP, \u00e8 stata senza dubbio una data fondamentale per quanto riguarda l\u2019utilizzo dell\u2019intelligenza artificiale (IA). Tale strumento ha ravvivato il dibattito relativo a questa tecnologia e dimostrato che la stessa potrebbe avere effetti dirompenti nelle nostre vite.<\/p>\r\n<p>Pi\u00f9 particolarmente, l\u2019IA Generativa (<em>\u201cGenerative AI\u201d<\/em>) rappresenta una frontiera sempre pi\u00f9 critica e complessa nel vasto campo dell&#8217;IA. Infatti, a differenza dei modelli convenzionali, che si limitano alla realizzazione di compiti specifici, i sistemi generativi sono progettati per <u>creare autonomamente nuovi contenuti, come testi, immagini e addirittura intere opere d&#8217;arte e video<\/u>. Al cuore di questa innovazione si trova la tecnologia dei <u>modelli generativi<\/u> come, appunto, ChatGTP (<em>Generative Pre-trained Transformer<\/em>), che ha dimostrato una straordinaria capacit\u00e0 di comprendere e produrre il linguaggio umano in modo coerente.<\/p>\r\n<p>&nbsp;<\/p>\r\n<p><strong>Una tecnologia complessa al centro dell\u2019attenzione<\/strong><\/p>\r\n<p>Il funzionamento delle intelligenze artificiali generative \u00e8 basato sulle <u>reti neurali complesse<\/u>, intese come <u>modelli computazionali addestrati su enormi quantit\u00e0 di dati<\/u>. Questi modelli, alimentati da un vasto <em>corpus<\/em> di informazioni, sono in grado di apprendere schemi, stili e strutture linguistiche e visive, consentendo loro di generare contenuti in modo realistico. Questa capacit\u00e0 di creare da s\u00e9 nuovi contenuti offre un potenziale immenso in svariati settori, dalla creativit\u00e0 artistica alla scrittura automatica di testi complessi.<\/p>\r\n<p>Tuttavia, con detta innovazione emergono anche importanti <u>questioni etiche e rischi associati<\/u>. Uno dei principali aspetti critici riguarda la possibilit\u00e0 di generare contenuti falsi o manipolati in modo convincente, con implicazioni in ambito giornalistico, politico e sociale. La creazione dei <em>c.d.<\/em> <em>deepfake<\/em>, come dimostrano le manipolazioni di video nel contesto delle elezioni in Taiwan appena concluse<a href=\"#_ftn1\" name=\"_ftnref1\"><sup>[1]<\/sup><\/a>, \u00e8 un chiaro esempio di come queste tecnologie possano essere utilizzate per alterare la percezione della realt\u00e0: nel caso di specie, era stato diffuso <em>via social<\/em> un falso video del deputato statunitense Rob Wittman che si impegnava a sostenere militarmente Taiwan in caso di affermazione del <em>Democratic Progressive Party<\/em>.<\/p>\r\n<p>A ci\u00f2, si aggiungano fenomeni come la potenziale perdita di controllo sulla produzione di contenuti dannosi o illegali, nonch\u00e9 la perpetuazione di pregiudizi e discriminazioni potenzialmente presenti nei dati di addestramento degli algoritmi.<\/p>\r\n<p>\u00c8 fondamentale, di conseguenza, affrontare questi rischi sviluppando meccanismi di regolamentazione e controllo che garantiscano un utilizzo etico e responsabile di tali tecnologie.<\/p>\r\n<p>&nbsp;<\/p>\r\n<p><strong>A che punto siamo con la regolamentazione di tale fenomeno? <\/strong><\/p>\r\n<p>Su queste premesse, occorre notare come il legislatore europeo sia stato colto \u201cdi sorpresa\u201d dall\u2019arrivo di ChatGTP e dei suoi epigoni. La prima proposta di Regolamento sull\u2019Intelligenza Artificiale (c.d. <em>AI ACT<\/em>) risale infatti all\u2019aprile 2021 e non prendeva in considerazione tali tecnologie (le quali sono salite agli onori della cronaca soltanto alla fine del 2022). Di fronte a questa \u201clacuna\u201d, gli artefici dell&#8217;AI Act hanno prontamente adottato misure correttive, e nel corso del perfezionamento normativo, l&#8217;Unione Europea ha tentato di sviluppare un approccio efficace per la regolamentazione delle intelligenze artificiali generative.<\/p>\r\n<p>A riguardo, il 19 novembre 2023, Italia, Francia e Germania avevano diffuso un documento informale delineando un possibile quadro regolamentare per i modelli di fondazione in quest\u2019ambito. Questo documento proponeva un approccio <em>soft<\/em>, suggerendo la possibilit\u00e0 di adottare una forma di autoregolamentazione obbligatoria attraverso l&#8217;implementazione di codici di condotta<a href=\"#_ftn2\" name=\"_ftnref2\"><sup>[2]<\/sup><\/a>.<\/p>\r\n<p>Successivamente, <u>l&#8217;accordo finale tra il Parlamento Europeo e il Consiglio<\/u> dell&#8217;8 dicembre 2023 ha introdotto modifiche significative, optando per una <u>maggiore cautela nel regolare la materia<\/u><a href=\"#_ftn3\" name=\"_ftnref3\"><sup>[3]<\/sup><\/a>. In base a tale accordo, i sistemi di intelligenza artificiale con scopi generali, definiti come &#8220;<em>General Purpose AI<\/em>&#8221; (GPAI), inclusi anche i modelli di IA Generativa, saranno tenuti a conformarsi ai requisiti di trasparenza originariamente proposti dal Parlamento. Questi requisiti includono l&#8217;obbligo per gli sviluppatori di tali sistemi di redigere documentazione tecnica, rispettare la legislazione sul diritto d&#8217;autore dell&#8217;Unione e fornire dettagliati resoconti sui dati utilizzati per l&#8217;addestramento degli algoritmi. In particolare, peraltro, per i modelli GPAI ad alto impatto che presentano rischi sistemici sono previsti obblighi ancora pi\u00f9 rigorosi. Se tali modelli soddisfano determinati criteri, gli sviluppatori devono infatti condurre valutazioni e analisi mirate a mitigare i rischi sistemici. Inoltre, sono tenuti a eseguire test specifici e a segnalare alla Commissione Europea eventuali incidenti gravi derivanti dall&#8217;uso di tali modelli.<\/p>\r\n<p>&nbsp;<\/p>\r\n<p><strong>Le Linee Guida di Open AI contro le <em>deep fake<\/em><\/strong><\/p>\r\n<p>Come noto, il processo di finalizzazione dell\u2019AI Act sta raggiungendo una fase cruciale. Tuttavia, \u00e8 evidente che il periodo richiesto per l&#8217;effettiva implementazione di questa nuova legislazione potrebbe essere considerevole. Sono previsti, infatti, diversi mesi transitori per consentire alle societ\u00e0 di conformarsi alle sue disposizioni dopo la pubblicazione dell&#8217;AI Act sulla Gazzetta Ufficiale (che si vocifera potrebbe arrivare nella prima met\u00e0 del 2024). Nel frattempo, d\u2019altro conto, l&#8217;evoluzione tecnologica non si arresta e si pone sempre pi\u00f9 la domanda su come regolare questo settore in assenza di una legislazione unitaria e coerente.<\/p>\r\n<p>In questo contesto, appaiono rilevanti le mosse prese da Open AI. <u>Il colosso americano (che \u00e8 stata ultimamente protagonista in negativo<a href=\"#_ftn4\" name=\"_ftnref4\"><sup>[4]<\/sup><\/a> sulle cronache) si \u00e8 ora fatta parte attiva e ha pubblicato <\/u>in data 16 gennaio 2024 <u>delle Linee Guida<a href=\"#_ftn5\" name=\"_ftnref5\"><sup>[5]<\/sup><\/a> contro l\u2019uso dell\u2019IA nelle campagne di disinformazione (\u201cLinee Guida di Open AI\u201d), primariamente in ragione delle numerose tornate elettorali che si avvicenderanno nel 2024 in tutto il mondo<\/u><a href=\"#_ftn6\" name=\"_ftnref6\"><sup>[6]<\/sup><\/a>.<\/p>\r\n<p>In particolare, la Societ\u00e0, tramite il suo sito web, dichiara il proprio impegno verso la sicurezza nell\u2019ottica delle imminenti elezioni politiche che si susseguiranno nel 2024 in numerosi Stati, attraverso la predisposizione di una serie di misure.<\/p>\r\n<p><u>In primo luogo<\/u>, viene posta un&#8217;enfasi particolare sulla <u>prevenzione di possibili abusi<a href=\"#_ftn7\" name=\"_ftnref7\"><sup>[7]<\/sup><\/a><\/u>. Open AI ha assunto l\u2019impegno di anticipare, nella maggiore misura possibile, minacce come i <em>deepfakes<\/em> ingannevoli, le operazioni di influenza su larga scala e l&#8217;impiego di <em>chatbot<\/em> per impersonare candidati nel corso delle elezioni. Prima del lancio di nuovi sistemi, Open AI dichiara dunque di condurre rigorosi test, coinvolgendo utenti e collaboratori esterni per raccogliere <em>feedback<\/em>, e di implementare misure di sicurezza finalizzate a ridurre il potenziale rischio. Nelle stesse Linee Guida di Open AI viene peraltro sottolineato come la stessa Societ\u00e0 sia ancora nel processo di apprendimento delle modalit\u00e0 con cui gli individui possano abusare della tecnologia in esame. In considerazione di ci\u00f2, le <u>misure provvisorie per evitare abusi<\/u> che Open AI avrebbe implementato consistono in: i) un <u>divieto di sviluppo di applicazioni da utilizzarsi in campagne politiche e attivit\u00e0 di <em>lobbying<\/em><\/u>; ii) un <u>divieto di sviluppo di <em>chatbot<\/em> che fingano di essere persone reali<\/u> (ad esempio, candidati) o istituzioni; iii) un <u>divieto di sviluppo di applicazioni che scoraggino la partecipazione ai processi democratici<\/u>, ad esempio, rappresentando in modo distorto i processi di voto e le qualifiche (quando, dove o chi \u00e8 idoneo a votare) o che scoraggino il voto sostenendone la futilit\u00e0; iv) un sistema di report delle potenziali violazioni a disposizione degli utenti.<\/p>\r\n<p><u>In secondo luogo<\/u>, le Linee Guida prospettano una <u>maggiore trasparenza sui contenuti generati dall\u2019intelligenza artificiale<a href=\"#_ftn8\" name=\"_ftnref8\"><sup>[8]<\/sup><\/a><\/u>. In questo ambito l\u2019attenzione \u00e8 posta su un modello <em>text-to-image<\/em> sviluppato da Open AI, denominato DALL-E 3<a href=\"#_ftn9\" name=\"_ftnref9\"><sup>[9]<\/sup><\/a>. Tale applicazione utilizza metodologie di <em>deep learning<\/em> per generare immagini digitali partendo da descrizioni in linguaggio naturale, anche dette &#8220;<em>prompt<\/em>&#8220;. A questo riguardo, le Linee Guida anticipano l\u2019<u>imminente implementazione delle credenziali digitali<\/u> elaborate dalla <em>Coalition for Content Provenance and Authenticity<\/em><a href=\"#_ftn10\" name=\"_ftnref10\"><sup>[10]<\/sup><\/a>, <u>che dovrebbero codificare e \u201crestituire\u201d all\u2019utente i dettagli sull&#8217;origine delle immagini generate<\/u> da DALL-E 3. Per quanto riguarda, d\u2019altra parte, la piattaforma ChatGPT, si evidenzia come quest\u2019applicazione si stia integrando sempre di pi\u00f9 con fonti esistenti di informazioni. Ad esempio, utilizzando lo strumento in parola, gli utenti inizieranno ad avere accesso a notizie in tempo reale a livello globale, <u>con l\u2019inclusione dei relativi <em>link<\/em> riferiti alle fonti<\/u>. La trasparenza sulla provenienza delle informazioni e l&#8217;equilibrio nelle fonti delle notizie potranno cos\u00ec aiutare gli elettori a valutare meglio le informazioni e decidere autonomamente a cosa possono dare fiducia.<\/p>\r\n<p>Infine, viene riportata una collaborazione in corso d\u2019opera<a href=\"#_ftn11\" name=\"_ftnref11\"><sup>[11]<\/sup><\/a>, negli Stati Uniti, con la <em>National Association of Secretaries of State<\/em>(NASS), l&#8217;organizzazione professionale <em>non-partisan<\/em> pi\u00f9 antica del paese per funzionari pubblici. Nel contesto di questa <em>partnership<\/em>, ChatGPT \u00e8 stato progettato per indirizzare gli utenti verso <em>CanIVote.org<\/em>, l\u2019autorevole sito che fornisce informazioni sul voto negli Stati Uniti quando sorgono domande procedurali legate alle elezioni, ad esempio circa la localizzazione dei seggi elettorali o dei requisiti per l\u2019ammissione al voto.<\/p>\r\n<p>&nbsp;<\/p>\r\n<p><strong>Considerazioni conclusive<\/strong><\/p>\r\n<p>In un momento cruciale per la societ\u00e0 civile, l&#8217;impatto rivoluzionario dell&#8217;Intelligenza Artificiale Generativa \u00e8 innegabile. Sorgono rischi significativi, soprattutto nella diffusione di <em>fake news<\/em>, rendendo imperativo un intervento regolamentare tempestivo per mitigare tali sfide. L&#8217;Europa ha risposto positivamente a questa chiamata, preparandosi ad implementare l&#8217;AI Act per regolare l&#8217;uso dell&#8217;Intelligenza Artificiale.<\/p>\r\n<p>\u00c8 degno di nota che i tempi di attuazione potrebbero protrarsi a lungo, soprattutto in rapporto al rapido sviluppo delle IA generative. In questo periodo di transizione, \u00e8 possibile che gli operatori nel campo dell&#8217;intelligenza artificiale scelgano di autoregolamentarsi, promuovendo misure regolatorie e iniziative di <em>soft law<\/em> &#8220;ad interim&#8221; <em>ad hoc<\/em>, seguendo l&#8217;esempio di Open AI. In ogni caso, per affrontare immediatamente le sfide emergenti, \u00e8 essenziale un dialogo continuo tra tutti gli <em>stakeholders<\/em>. Solo questo potr\u00e0 infatti garantire che la regolamentazione si mantenga al passo con l&#8217;evoluzione accelerata della tecnologia generativa.<\/p>\r\n<p class=\"has-text-align-center\" style=\"text-align: center;\"><a href=\"https:\/\/dejalex.com\/it\/wp-content\/uploads\/2024\/01\/Articolo_OPENAI-Linee-Guida.pdf\" target=\"_blank\" rel=\"noreferrer noopener\"><i  class=\"x-icon x-icon-download\" data-x-icon-s=\"&#xf019;\" aria-hidden=\"true\"><\/i> Scarica l&#8217;articolo<\/a><\/p>\r\n<p class=\"has-text-align-center\" style=\"text-align: center;\"><!-- \/wp:post-content -->\r\n\r\n<!-- wp:separator {\"className\":\"is-style-wide\"} --><\/p>\r\n<hr class=\"wp-block-separator is-style-wide\" \/>\r\n<p class=\"has-text-align-center\" style=\"text-align: center;\"><!-- \/wp:separator -->\r\n\r\n<!-- wp:paragraph {\"style\":{\"typography\":{\"fontSize\":10}}} --><\/p>\r\n<div style=\"font-size: 10px;\">\r\n<p id=\"_ftn1\">[1] Per ulteriori informazioni si veda il seguente <a href=\"https:\/\/factcheck.afp.com\/doc.afp.com.349D8R6\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn2\">[2] Per ulteriori informazioni, si veda il nostro precedente contributo al seguente <a href=\"https:\/\/www.lexology.com\/library\/detail.aspx?g=fea0a357-51e6-46c9-b850-168873e10d07\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn3\">[3] Per ulteriori informazioni, si veda il nostro precedente contributo al seguente <a href=\"https:\/\/www.lexology.com\/library\/detail.aspx?g=ed6d535d-5bb0-46d9-a2ac-20c7e26512b1\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn4\">[4] Per ulteriori informazioni, si veda il nostro precedente contributo al seguente <a href=\"https:\/\/www.lexology.com\/library\/detail.aspx?g=4af77f61-224b-44e2-b21c-0ef3c1869643\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn5\">[5] Per ulteriori informazioni, si veda il seguente <a href=\"https:\/\/openai.com\/blog\/how-openai-is-approaching-2024-worldwide-elections\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn6\">[6] Oltre alle elezioni europee, alcuni tra gli Stati che andranno al voto sono Stati Uniti, Russia, Messico, Brasile e India.<\/p>\r\n<p id=\"_ftn7\">[7] Per ulteriori informazioni, si veda il paragrafo \u201c<em>Preventing Abuse<\/em>\u201d delle Linee Guida.<\/p>\r\n<p id=\"_ftn8\">[8] Per ulteriori informazioni, si veda il paragrafo \u201c<em>Transparency around AI-generated content<\/em>\u201d delle Linee Guida.<\/p>\r\n<p id=\"_ftn9\">[9] DALL-E 3 \u00e8 un modello <em>text-to-image<\/em> sviluppato da Open AI utilizzando metodologie di <em>deep learning<\/em> per generare immagini digitali partendo da descrizioni in linguaggio naturale, anche dette &#8220;<em>prompt<\/em>&#8220;.<\/p>\r\n<p id=\"_ftn10\">[10] Per ulteriori informazioni, si veda il seguente <a href=\"https:\/\/c2pa.org\/\">LINK<\/a>.<\/p>\r\n<p id=\"_ftn11\">[11] Per ulteriori informazioni, si veda il paragrafo \u201c<em>Improving access to authoritative voting information<\/em>\u201d delle Linee Guida.<\/p>\r\n<\/div>","protected":false},"excerpt":{"rendered":"<p>[x_icon type=\"tag\"] Protezione dei Dati e Cybersecurity, Prospettive, Societ\u00e0<\/p>\n","protected":false},"author":3,"featured_media":17673,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"inline_featured_image":false,"footnotes":""},"categories":[292,402,336,422,392],"tags":[],"class_list":["post-28717","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-jacopo-piemonte-it","category-prospettive","category-protezione-dei-dati-e-cybersecurity","category-pubblicazioni","category-societa"],"_links":{"self":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts\/28717","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/comments?post=28717"}],"version-history":[{"count":1,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts\/28717\/revisions"}],"predecessor-version":[{"id":28718,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/posts\/28717\/revisions\/28718"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/media\/17673"}],"wp:attachment":[{"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/media?parent=28717"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/categories?post=28717"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.dejalex.com\/it\/wp-json\/wp\/v2\/tags?post=28717"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}