09 - Il futuro che ci aspetta

Ben tornati ad intelligenza artificiale, una storia dal futuro. Io sono Costantino. In otte episodi abbiamo raccontato come siamo arrivati fin qui, degli algoritmi e le strutture dati degli anni 50, attraverso due inverni degli affino alle reti neurali profonde ai transformer e in fine ai modelli giganti che usiamo oggi quotidianamente. È stata una storia di visione, ostinazione, fallimenti e triomfi, una storia incredibile per certi versi. Ma oggi dobbiamo parlare delle cose che ancora non funzionano dei problemi aperti e delle domande a cui non abbiamo risposta, perché sì li ha appotente ma anche problemi seri, alcuni tecnici, altri etici, altri ancora che toccano le fondamenta stesse della società. Oggi affrontiamo le sfide che dobbiamo risolvere se vogliamo che questa tecnologia sia davvero un bene per tutti. Interpretabilità, BS, sicurezza, privacy, impatto sul lavoro, regolamentazione e la domanda più grande. Come facciamo a controllare qualcosa che sta diventando sempre più potente? Benvenuti all'episodio delle domande difficili. Iniziamo dal problema tecnico più frustrante, l'interpretabilità. Le retine orali profonde sono delle Black Box, scato l'enere, voi date un input e ottenete un output, ma quello che succede in mezzo e mistero. GPT4 ha altro un trillione di parametri. Strati su strati di neuroni artificiali, connessi in modo complesso. Quando gli chiedete "perché hai dato questa risposta", non può dirvelo, non nel senso che non vuole, ma letteralmente non lo sa. I parametri della rete sono state aggiustati da miliardi di esempi attraverso Black Prope Action, ma non c'è una logica legibile. Non ci sono regole splicite che potete estrarre e studiare. E come chiedere a qualcuno "perché ti piace questa canzone?" La risposta che otterrete è "non lo so, mi piace, è basta". C'è una ragione da qualche parte nei pattern del nostro cervello, ma non è accesibile alla coscienza. Il problema è che questo in alcuni contesti è inacettabile. In medicina, ad esempio, se un'ia suggerisce una di aggno sì, il medico deve capire il "perché". Il medico dice "queste è un tumore, non bassa, serve sapere, quelli caratteristiche nell'immagine hanno portata quella conclusione, perché si è arrivati a quella conclusione". E poi c'è la giustizia. Se un algoritmo decide che qualcuno è ad alto rischio di recidiva e quindi inegala libertà condizionale, quella persona ha diritto di sapere il "perché". L'algoritmo ha deciso. Non è una spiegazione accettabile in uno stato di diritto. E poi c'è la finanza, se un'ia riusciuto un prestito serve una motivazione. Esistono tecniche di interpretabilità, ma di per cercare di capire cosa guarda la rete, quali parti dell'imputo sono più importanti ma sono a prossimazioni. Non è trasparenza reale. E come o delì sempre più grandi e complessi il problema peggiora. Poi c'è il problema del bias del pregiudizio. Le IAS sono destrate su dati umani e i dati umani sono pieni di pregiurizi. Reflettono cele ineguagliance, gli istereotipi i pregiurizi della società. Alcuni esempi reali che sono successi è il recrutamento in Amazon ad esempio che ha sviluppato un sistema di app per filtrare i cv. Dopo un po si sono accorti che il sistema penalizzava le donne perché era stata destrada su cibi di assuncioni passate dove la maggioranza dei candidati selezionati erano uomini. Gli Ainsom aveva imparato che essere donna era accorrelato negativamente con le sereossunti. Amazon ha dovuto abbandonare il progetto. E poi c'è la giustissia predittiva, il sistema Compass, usato in tribunale americani per valutare il rischio di recidiva, è stato trovato essere più severo con afro americani rispeta i bianchi anche a parità di crimini precedenti. L'alborismo aveva imparato pattern storici di un sistema giudizialio già afflitto da bias raziali. E poi c'è il riconoscimento faciale, i primi sistemi di riconoscimento faciale funzionavano benissimo su volte i bianchi maschili, male sui volte di donne e persone di colore, perché i dataset di training erano sbilanciati con prevalenza di volte i bianchi. Il problema in sua ma in molto subdolo li hanno un erazista o sessista, non ha intenzioni, ma riproduce ed amplifica i pattern che vede nei dati, e se i dati riflettono una società ingiusta li ha impara l'ingiuszizia. Come si risolve? È molto complicato. Poi bilanciare i dataset, puoi aggiungere penalità per autoput discriminatori, puoi fare audit e testing rigorosi, ma non c'è una soluzione magica purtroppo. Torniamo per un attimo su un problema che abbiamo già menzionato l'efficienza energetica. A destrare, GPT3 ha consumato altre 1.200 mW di elettricità. I modelli futuri consumeranno ancora di più, questo è certo, e non è solo l'adestramento, e l'inferenza, ogni volta che qualcuno usa chat GPT ci sono server che lavorano. Multiplicate per migliardi di cui rialgiorno è l'energia consumata di venta enorme. Alcuni studi stimano che li ha potrebbe consumare entre 2030 una percentuale significativa dell'electricità globale. C'è chi parla dirittura del 20% - altri dicono che all'armismo che l'efficienza migliorerà. Ma il punto resta, li ha un costa ambientale, e in un'era di crisi climatica, questo non è trascurabile. Le soluzioni sicuramente sono l'ardo erpiafficente, algoritmi più parzimoniosi e modelli più piccoli per compiti che non richiedono giganti. Ma serve anche una riflessionetica, ne vale la pena, i benefici che gli ha, produce, giustificano l'impatto ambientale. Non ci sono anche qui risposte facili, ma ignorare la domanda non è un'opzione. E poi c'è il problema della sicurezza, o come lo chiamano i ricercatori "la line-man problem". L'idea è che come facciamo garantire che li ha faccia quello che vogliamo. Non solo superficialmente, ma anche in profondità visto che non riusciamo a scruttare sui suoi ragionamenti. Sembra banale, ma non lo è. C'è una parabola classica nella sicurezza dell'interigenza artificiale, che è la parabola della premista seregone o derremida. Immaginate vivire ad un'ia super intelligente, ma simizza la produzione di graffette. L'ia super efficiente potrebbe decidere che il modo migliore per massimizzare la produzione è trasformare tutto, in cruzigli umani, immatiale per graffette. Tecnicamente ha fatto quello che gli avete chiesto, ma ovviamente non era quello che intendevate. È un esempio extremo, certo, ma il lustra il problema. Specificare cosa vogliamo è difficile, le istruzioni possono essere interpretate letteralmente in modo che non ci aspettiamo. È ma mano che l'ia diventa più capace, questo rischio cresce, un'ia stupida fa danni piccoli, un'ia molto intelligente, ma la lineata potrebbe fare danni enormi. L'RLHF, oi rinforzo per apprendimento con feedback humano, è un tentativo di soluzione, a destri l'ia ma simizzare quello che gli umani preferiscono, ma anche questo ha dei limiti. L'umani possono dare feedback in correnti, possono preferire risposse sbagliate, ma convincenti. Cosa succede quando l'ia diventa più intelligente degli umani che la valutano? Open AI, anthropic e molti altri hanno i tiri team dedicati alla sicurezza dell'ia. Ma è un problema perto e forse il problema più importante degli audio di Erna. E poi ci sono le questioni di privacy e proprietà intellettuale. Le AI sono adestrate sui enormi quantità di dati, inclusi spesso i dati personali, conversazioni, email, post sui social, quanto di questo è consensuale, quanto è anonymizzato davvero. Quando usato un'ia, i vostri dati vengono inviate ai server di Open AI di Google di anthropic, cosa ne fanno? L'usano per migliorare i modelli, li conservono, li vendono. La legge sulla privacy tipo il GTPR in Europa cerca di regolare questo problema ma fatica nattenere il passo con questa tecnologia. Le AI generative sono adestrate su testi, immagini, codici protetti da copyright senza permesse plicito degli autori nella maggior parte dei casi. È un uso trasformativo, quindi un uso ecco, o è un furto su scala industriale. I RTC si lamentano. L'IA ha imparato dal mio stile senza pagarmi e ora generate che mi fa concorrenza. I scrittori fanno altrettanto i miei libri sono stati usati per adestrare Gpt senza che mi chiedessere il permesso. E poi ci sono i programmatori, GitHub genera codice basato sul reposito di open source di mia proprietà, dove è la tributzione. Ci sono cause legal in corso. In New York Times ha fatto causa dope nei. Gpt maeges ha fatto causa stable diffusion, altri seguiranno certamente. Il risultato. incerto potrebbe stabilire precedenti importanti potrebbe cambiare come li avviene adestrata o potrebbe non cambiare nulla, ma la tensione quella si è reale. E poi c'è il problema del dip fake e della disinformazione. Li ha a po' generare testi, immagini, video falsi ma realistici. Potete creare un video di un politico che dice cose che non ha mai detto. Potete generare foto di eventi mai accaduti. Potete scrivere articoli di notizie completamente inventati ma convincenti. Il rischio è minare la fiducia nelle informazioni se tutto può essere falso come distinguiamo il vero dal falso. Gio oggi ci sono casi preoccupanti, video dip fake usati per trovare aziende, audio generati per truffe telefoniche e campagne di disinformazione automatizzate. Le contro misure sono il watermarking, il markare cioè dire i contenuti generati da li ha, il detector di dip fake li ha che rileva contenuti generati da li ha, una corsa agli armamenti insomma. Ma è una battaglia molto difficile perché li ha che genera è sempre un passavanti rispetto a li ha che rileva. E poi c'è una domanda filosofica, se non possiamo più fidarci di quello che vediamo e sentiamo, su cosa basiamo la verità. E ora la domanda che tutti si fanno, li ha, ci ruberà il lavoro, la risposta onesta è dipender. Storicamente ogni ondata di automazione ha eliminato alcuni lavori e ne ha creati altri. La rivoluzione industriale ha eliminati testi torrimanuali ma ha creato fabbiche. I computer hanno eliminato le datilografe ma hanno creato progammatori grafici web designer. Lì ha probabilmente far allo stesso ma c'è una differenza, la velocità. Le precedenti rivoluzioni tecnologiche si sono diffuse in decenni, davano cioè il tempo alla società di adattarsi e riquelificare i lavoratori. Lì ha si sta diffondendo in anni forse mesi, il ritmo e senza precedenti. I lavori a rischio alto sono i traduttori già colpiti da Google Translate di Plurning, assistenza clienti, chatbot, alcune forme di giornalismo articoli brevi riassunti delle marketing. La domanda vere in so mai, la società è pronta, abbiamo reti di sicurezza sociale, progammi di riquelificazione e un reddito base universale. E se li ha umente normemente la produttività, chi ne beneficia, i proprietari degli ha o tutti. Sono tutte domande politiche, non tecniche ma urgenti. E questo ci porta all'arregolamentazione. L'IA si move veloce, troppo veloce per i legislatori. Le legi richiedono anni per essere scritte, discuse e approvate e li ha cambia in mesi, settimane. Ma alcuni tentativi ci sono. C'è l'Unione Europea che ha creato una delle prime legi comprensive su LIA. Classifica le A per rischio, le A dal turisco ed esempio quelle di medicina giustizia di infrastrutture e critiche devono rispettare requisiti distretti come la trasparenza, il testing e la supervisione umana. Poi ci sono gli stati uniti che hanno un approccio più frammentato, alcuni stati come la california hanno leggi propria, ma non una legge organica. Poi c'è la scina, con regolamentazione più centralizzata e controllo stretto, su chi può sviluppare e distribuire i A. Il problema è la giurisizione diversa e le regole diverse. Purtroppo li ha infatti globale e quindi questo tipo di leggi sono magnificate. Un modello adestrato in un poese può essere usato dunque. Serve coordinamenti internazionale, ma ottenerlo è difficile. Ci sono interessi geopolitici, la scina che vuole dominarli A, gli stati uniti pure, l'Europa vuole regolare. Chi vince? Non c'è una risposta purtroppo. Troppe regole soffocano l'innovazione. Troppe poche regole potrebbero fare danni irreparabili. Trovare il bilanciamento giusto è una delle sfide politiche del nostro tempo. E arriviamo alla domanda finale, quella che attraversa tutto questo podcast. L'intelligenza artificiale sarà un bene per l'umanità o un male. La risposta è dipende da noi. Li ha un ostromento, il più potente forse che abbiamo mai creato, ma resta un ostromento. Il fuoco può scal dare case o bruciarle, l'energia nucleare può alimentare città o distruggerle, internet può connettere il mondo o diffondere audio. Li ha a popurare malattie a accelerare la scienza a democratizzare l'educazione, o può automatizzare la sorveglianza a amplificare di su guagliance e creare armi autonome. Non è determinato, dipende da noi. Li hanno ne salvezza neapocalisse e una tecnologia complessa con potenziale norme e rischi reali. Nella storia ci ha insegnato che le tecnologie di rompenti creano sempre vincitori e perdenti. Il nostro compito è far in modo che i benefici siano distribuiti il più ecquamente possibile e rischi mitigati. Non sarà facile, ma è necessario. Questo è stato intelligenza artificiale, una storia dal futuro. Io sono costantino e vi ringrazio per essere stati con me in questo viaggio attraverso decenni di scoperte, fallimenti e triomphi. E ricordate, ogni volta che interagite con un NIA, state toccando 70 anni di ricerca, miliardi di parametri e scelte umane. Non è magia.