Autrice: EMMA MCGOWAN
Fonte: Blog Avast
Nel mondo dell’IA e dell’AA, i modelli di apprendimento del linguaggio sono un tema scottante. Possono avere molte applicazioni, ma, come per ogni tecnologia, esistono anche possibili inconvenienti e preoccupazioni.
Nel mondo dell’IA e dell’apprendimento automatico, l’improvvisa popolarità massiccia dei modelli di apprendimento del linguaggio è un tema scottante. Questi strumenti, tra i quali il più popolare al momento è probabilmente ChatGPT-3, sono modelli linguistici che possono rispondere a domande concrete e persino generare codice. Può essere utilizzato per diverse applicazioni, come chatbot, traduzione di lingue e riassunto di testi. Tuttavia, come accade con qualsiasi tecnologia, esistono anche possibili inconvenienti e preoccupazioni.
ChatGPT e la privacy
Una delle principali preoccupazioni che suscitano questi modelli è la privacy. Gli utenti possono avere difficoltà a scoprire se i propri dati sono stati utilizzati per addestrare un modello di apprendimento automatico. GPT-3, ad esempio, è un grande modello di linguaggio che è stato addestrato con una grande quantità di dati di Internet, inclusi siti web personali e contenuti di social media. Ciò ha generato la preoccupazione che il modello possa utilizzare i dati delle persone senza il loro permesso e che sia difficile controllare o eliminare i dati che sono stati utilizzati per addestrare il modello.
Un’altra preoccupazione è la questione del «diritto all’oblio». Man mano che si generalizza l’uso di modelli GPT e altri modelli di apprendimento automatico, è possibile che gli utenti vogliano avere la possibilità di cancellare i propri dati dal modello.
«La gente è furiosa perché i dati vengono utilizzati senza il loro permesso», afferma Sadia Afroz, ricercatrice di IA di Avast. «Ci sono persone che hanno cancellato i propri dati, ma, poiché il modello di linguaggio li ha già utilizzati, rimangono lì per sempre. Non sanno come cancellarli».
Attualmente, non esiste alcun metodo ampiamente accettato per consentire agli utenti di richiedere l’eliminazione dei propri dati da un modello di apprendimento automatico una volta che sono stati utilizzati per addestrarlo. Ricercatori e aziende stanno lavorando a metodi che consentano di eliminare o «dimenticare» informazioni di utenti o dati specifici, ma questi metodi sono ancora nelle prime fasi di sviluppo e non è ancora chiaro fino a che punto saranno fattibili o efficaci. Inoltre, l’eliminazione di dati dai modelli di apprendimento automatico pone problemi tecnici, poiché i dati potrebbero essere stati utilizzati per addestrare il modello e la loro eliminazione potrebbe far sì che questo perda precisione.
ChatGPT è legale?
La legalità dell’uso di dati personali per addestrare modelli di apprendimento automatico come GPT-3 può variare in funzione delle leggi e delle normative specifiche di determinati paesi o regioni. Nell’Unione Europea, ad esempio, il Regolamento generale sulla protezione dei dati (RGPD) regola l’uso dei dati personali ed esige che siano raccolti e utilizzati unicamente per fini specifici e leciti.
«Il RGPD ha come obiettivo la restrizione dei fini», dichiara Afroz. «I dati devono essere utilizzati per il fine per il quale sono stati raccolti. Se si vogliono usare per un’altra cosa, bisogna chiedere il permesso. Ma i modelli di linguaggio sono tutto il contrario: i dati possono essere utilizzati per qualsiasi fine. Come può il RGPD far rispettare questa restrizione?».
Secondo il RGPD, le aziende devono ottenere il consenso esplicito degli utenti prima di raccogliere e utilizzare i loro dati personali. Esiste una base giuridica per il trattamento di dati personali a fini di ricerca scientifica e storica, ma il responsabile del trattamento deve rispettare i principi e i diritti del RGPD, come il diritto a essere informato dell’utente, il diritto di accesso, il diritto di rettifica, il diritto di cancellazione, il diritto di opposizione e il diritto alla portabilità dei dati. Di conseguenza, sembra che i modelli di apprendimento del linguaggio non siano conformi al RGPD, il che potrebbe diventare un’importante barriera per la loro crescita in futuro.
Negli Stati Uniti non esiste alcuna legge federale che regoli specificamente l’uso di dati personali per addestrare modelli di apprendimento automatico. Tuttavia, in generale, le aziende sono obbligate a rispettare leggi come la legge sul trasferimento e la responsabilità dell’assicurazione sanitaria (HIPAA o Health Insurance Portability and Accountability Act) o la legge sulla protezione della privacy online per i bambini (COPPA o Children’s Online Privacy Protection Act) se raccolgono e utilizzano dati personali di individui di determinate categorie sensibili. In California, dove si trovano la maggior parte delle grandi compagnie tecnologiche, le aziende sono obbligate a rispettare la legge sulla privacy dei consumatori della California (CCPA o California Consumer Privacy Act), che ha requisiti di privacy simili a quelli del RGPD.
Lo sviluppo di modelli di IA, come GPT-3, è un campo in costante evoluzione. Pertanto, è probabile che le leggi e le normative che regolano l’uso di dati personali nell’IA cambino in futuro, per cui è importante tenersi aggiornati sugli ultimi sviluppi legali in questo ambito.
ChatGPT è preciso?
Un’altra grande preoccupazione sui modelli GPT è la disinformazione e la mancanza di verifica. È stato ampiamente riportato che molte IA di apprendimento del linguaggio presentano informazioni in modo sicuro ma inesatto. Tale mancanza di controllo dei fatti potrebbe aumentare la diffusione di informazioni false, il che risulta particolarmente pericoloso in ambiti delicati come le notizie e la politica. Google, ad esempio, ha previsto di utilizzare grandi modelli di apprendimento del linguaggio per offrire un servizio migliore ai propri clienti, ma non è ancora chiaro come gestirà l’elemento di controllo dei fatti.
Sebbene i grandi modelli di apprendimento del linguaggio abbiano il potenziale di rivoluzionare il modo in cui interagiamo con la tecnologia e automatizzare determinate attività, è importante considerare anche i possibili inconvenienti e preoccupazioni. Man mano che si generalizza l’uso di questi modelli, è cruciale affrontare i problemi di privacy e trovare soluzioni per la questione del «diritto all’oblio».
