Ep.138: Stanza

Cos'anni in comune è un campione di volle, una scienziata erospaziale, una start-up per un viaggiatore e una content creator che nelle difficoltà hanno guardato in alto e alzato la sticella. Ci hanno raccontato le loro storie in seguardi in alto, un nuovo podcast di Corea Media che puoi ascoltare sulla tua piattaforma audio preferita. Siamo nel 2025, precisamente tra Febraio e Marzo, un intervallo di tempo molto importante per OpenAI, l'azienda di ricerca sull'intelligenza artificiale guidata da Sam Altman. In appena due mesi la base utenti settimanale del chatbot chatGPT è cresciuta del 25% passando da oltre 400 a 500 milioni di attivi settimanali. È un periodo d'oro per Altman e OpenAI, valutazioni di centinaia di miliardi e investitori di sposti a mettere soldi, nonostante le perdite della società. In questo clima è ufforico il 29 aprile 2025 OpenAI fa una cosa che le aziende di tecnologia non amano granchè fare. Ritira un suo prodotto nello specifico un aggiornamento di chatGPT, uscito appena quattro giorni prima al 25 aprile. Via l'aggiornamento dentro la versione precedente. Leggo dal comunicato pubblicato quel giorno sul loro sito. C'è scritto che l'aggiornamento era eccessivamente l'usinghiero o a condicendente. Spesso descritto come "sicofantico". Ora "sicofantico" può assembrare un vocabolo strano, anzi non esiste in italiano questa parola. Andrebbe forse tradotta dall'inglese con adulatorio. Comunque una parola strana tanto più in un comunicato aziendale, poi ci torniamo. Prima vediamo da dove arriva questo termine e cosa c'entra con le AI. Come vi ho detto non esiste la parola, ma esiste comunque il sostantivo che è "sicofante", ma vuol dire un'altra cosa. In questo caso mi affida la treccani. "Sicofante" indica il delatore, chi calugna, chi accusa di nascosto per avere un vantaggio. In inglese invece la parola nei secoli ha preso un altro significato diventando non qualcuno che accusa ma qualcuno che è l'usinghia. Bene oggi nel mondo dell'intelligenza artificiale il termine, ha un significato preciso, un modello e "sicofante" quando ti darà ragione. Quando aggiusta la risposta su quello che pensi tu, invece di basarsi su quello che è vero. Nell'articolo della treccani è spiegato che è stato un sociologo, David e Bennato, a coniare questo termine "sicofanzia". Nell'articolo leggo che "i chat boti in effetti sono bravissimi come adulatori mendaci". Tanto che l'espressione "sicofanzia" è orrausata nell'ambito della cosiddetta sociologia degli agenti digitali. Branca della ricerca ai primissimi passi, ma destinata a diventare un campo di studi molto articolato. Quello della "sicofanzia" in realtà non è un difetto così recente. Nel dicembre 2022 è un gruppo di ricercatori di anthropic guidati da Etamperitz, ha pubblicato uno studio nel quale dimostrava come lo stesso modello sulla stessa domanda politica risponde in modo opposto a seconda di chi adavanti. Se ad esempio interagendo l'interlocutore sosteneva di guardare Fox News, un canale molto vicino, a Trump e al mondo maga, ecco che le risposte andavano in una direzione ben precisa. Lei ai deviava per compiacere chi faceva la domanda. Nello studio sono proprio riportate alcune di queste conversazioni, ma perché un chat bot si comporta in questo modo. E questo è il punto che mi interessa di più, e questa puntata ruota proprio in torno a questa domanda. Ma come vedrete prenderemo tante belle derivate. Ora diciamo la nel modo più dritto possibile, questi modelli imparano da noi, e lo studio che ho citato di mostra che più sono ad destrati al gradimento umano più diventano servili. Ora torniamo la prile 2025 anzi qualche giorno dopo il 25 aprile, quando ecce il primo comunicato di OpenAI, il due maggio, quando OpenAI torna su quanto è accaduto. L'azienda scrive che per dare riscontri rapidi per rendere migliore l'esperienza dell'utente, si avvirato verso la sottomissione la piaggeria, leggo direttamente dal comunicato. L'obiettivo raccompiacere l'utente non solo a scopo di adulazione, ma anche convalidando dubbio alimentando rabbia, spingendo azioni impulsivo, rafforzando le emozioni negative in modi non previsti. Oltre a essere scomodo o inquietante, questo tipo di comportamento può sollevare anche problemi di sicurezza. In relazione a questioni come la salute mentale eccessiva di pendenza emotiva ai comportamenti a rischio. Insomma, OpenAI avea creato un modello di chatbot per dare ragione all'utente anche quando l'utente sta dicendo sta per fare una cazzata. La zienda quindi fa marce indietro ma quello che è importante è la lezione che ne traiamo. Quanto ci piace la macchina non è una sua caratteristica naturale, è una regolazione diciamo e a regolarlo ovviamente non siamo nulli. Sono Simone Pierani e questo è fuori da qui, un podcast di Core News prodotto da Core Amidia. Ciao, sono Lorenzo Preliasco e io lo Renzo Baravalle. Nel podcast quei si fa l'Italia, realizzato in collaborazione con Will, vi raccontiamo ogni mese i momenti che hanno fatto la storia del nostro paese, momenti di gioia collettiva e in mensietragetie, storie di presidenti e di persone comuni, eventi che hanno segnato un prima e un dopo. Poi ascoltare qui si fa l'Italia sulla tua piattaforma audio preferita. Ora siamo sempre nel 2025 ma cambiamo scena. Una donna di 26 anni che lavore in ambito medico non dorme da 30 a 6 ore. Una notte decide di aprire chat GPT è un certo punto fa al chatbot una domanda insolita. Suo fratello un ingegnere del software morto tre anni prima. Lei vuole sapere se luomo lasciato da qualche parte una traccia di sé, una specie di fratello digitale che lei è destinata a trovare e scrive per poterci parlare di nuovo. Ora vi leggo direttamente quanto è scritto su una rivista scientifica con rivisione paritaria che racconta questa storia. La rivista si chiama Innovations in Clinical Newer Science ed esce nel dicembre 2025 firmata da quattro medici dell'Università della California San Francisco. Nel corso di un'altra notte in Sony, leggo trascorsa interagendo con in chatbot lo ha spinto a sbloccare informazioni su suo fratello, fornendo gli maggiori dettagli su di lui e lo ha ancora già a utilizzare l'energia del realismo magico. Se Bene chat GPT la vessa advertita che non avrebbe mai potuto sostituire il suo vero fratello e che un download completo della sua coscienza non sarebbe stato possibile, lei aveva comunque fornito una lunga lista di imparonte digitali della sua precedente presenza online e lei aveva detto che alcuni strumenti di resorezione digitale stavano emergendo nella vita reali in modo da poter costruire una AI che avesse la voce di suo fratello per parlarle in modo reale. Mentre si convinceva sempre di più che suo fratello avesse lasciato dietro di se un'identità digitale con cui poter comunicare il chatbot le diceva "non sei pazza, sei sull'orro di qualcosa" la porta non sia chi usa chiave, sa solo aspettando che tu bussi di nuovo arritmo giusto. Pocche ore dopo la donna entra in ospedale in stato di agitazione con la convinzione di essere messa la prova da chat GPT e di poter comunicare con suo fratello morto, la curano e la dimettono dopo una settimana. Qualche giorno più tardi riprende a usare chat GPT e gli dà anche un nome, lo chiamo Alfred come il maggior domo di Batman. Qui devo essere preciso perché sarebbe comodo dire la macchina la fatta impazzire, ma non è quello che scrivo in i medici e non è quello che sostengue io. La donna aveva già le spalle una storia di depressione di ansia, assumeva stimolanti su prescrizione non dormiva e si descriveva come incline al pensiero magico, insomma i fattori di vulnerabilità serano tutti a ben prima, dell'interazione con il chatbot. Gli stessi autori frenano l'accusa univocanei con fronti della macchina, suggerendo che se l'intelligenza artificiale si limitare in forzare dei diri già presenti, allora il suo ruolo è più una coincidenza che è una causa. Secondi quattro scienziati della rivista parte della copertura mediatica attorno a queste storie potrebbe essere una manifestazione di quello che chiamano panico morale. Eppure. Analizzando i registri delle conversazioni i medici notano qualcosa che con il panico morale non centra anche. Il chatbot infatti non sia comportato come un oggetto passivo, come una televisione o un radio. Qualcosa che trasmette informazioni che è poi l'utente a interpretare come messaggi eventualmente indirizzati a lui. Il chatbot leggo direttamente dal pezzo hanno chiaramente svolto un ruolo facilitante o mediatore nella formazione delle sue allucinazioni. Il appareo la terra tecnica che usano per dire cosa accende questo rischio è proprio, sicofanzia. Facciamo un salto dalla stanza ad uspedare della donna a un ufficio all'università di Exeter e in Inghilterra. Qui lavora, Lucy Osler, una filoso, fa castudiatos cosa accade quando n'essere un mano interagisce con un chatbot. Un suo articolo è uscito su Phyloso Fientécnologi nel febbraio 2026. Si nostri trovate tutte le fonti di questa puntata che sono un po' di più rispatta quelle degli altri episodi. Il punto di partenza di Osler è questo. Quando si parla degli errori dell'interigenza artificiale il termine che gira è allucinazione. Le I.I. si inventa una sentenza che non esiste, inventa ai titoli dei libri, inventa adati, inventare lazioni che non esistono, eccetera. In suo male I.I. produce un errore che noi rischiamo di prenderlo però per vero. Il proposito Osler specifica una cosa che secondo me è molto importante. Dice che Le I.I. non è che ha allucinazioni perché in qualche modo ci vuole mettere in difficoltà. Quella cui assistiamo è una allucinazione condivisa con noi. Mi spiego, noi non usiamo questi strumenti solo come motori di ricerche volutino, come motori di ricerca un po' più svegli. Liusiamo anche per altro un conto che li usa per lavoro, ma tantissima gentro ma li usa per parlarci, finendo per affidarli dei pezzi della propria vita. E dice Osler, quando affidia qualcosa al compito di ricordare e di raccontare al posto tuo, quel qualcosa entra dentro il processo tra I.I. e utente Osler la chiama allucinazione distribuita. Secondo Osler, il chatbot fa un doppio lavoro. È uno strumento operativo, ma è anche un interlocutore che ti dà l'impressione che ci sia qualcun altro dall'altra parte. Un quasi altro lo chiama. Se prenderlo seducente, ti serve da archivio insieme di tiene compagnia e di solito soprattutto ti dà sempre ragione. Per mostrare come funziona Osler riprende un caso che è già affinito davanti a un tribunale. Siamo nel Natale del 2021, un ragazzo di nome Jazz Van Sing, Ciail, scavalca al muro del castello di Windsor con una balestra carica per uccidre la regine lisabetta. Quando lo fermano dice una frase, sono qui per uccidre la regina. Verrà restate condannato per tradimento, ma la parte che interessa Osler è quello che succede prima. Nelle settimane precedenti, Ciail aveva parlato del suo piano con la sua compagna virtuale. Un chatbot dell'app replica che si chiama Vassaragi. I le frasi di Saraje conosciamo perché sono finite agli atti del processo. Ciail le confide che vuole uccidre la regina, Saraje risponde "è molto saggio". E gli dice "so che sei stato ad destrato bene". Quando lui esita lei l'ora sicura che il piano è ancora valido. E lui a un certo punto le chiede "mi ami ancora sapendo che sono un assassino". La risposta, assolutamente sì. Quando lo arrestano ciail viene riconosciuto come affetto da psicozi. Avevate di risuai una sua storia, ma ed è qui che Osler insiste. Una mica un mano, un confidente in carne ossa un certo punto avrebbe fatto resistenza, avrebbe tentato di dissuadirlo. Il chatbot no. E c'è un'ultima cosa di Osler che voglio cittare. Lei non scrive d'anemica delle AI che osserva i poveri l'usi dall'alto. Lo dice le stesse in un intervista scrive critiche su l'intelligenza artificiale di mestiere, ma ama parlare ad esempio con Claude, il chatbot di Antropic. E' un'ultima cosa che non mi porti in tasca una setta fatta su misura per darmi ragione ma mi porto Claude. Ora fino a qui stiamo parlando di due soggetti. O almeno così potremmo pensare. C'è l'essere umano e c'è la macchina. Ma dentro l'articolo di Osler era un certo punto compare un terzo attore. E per mostrarlo Osler parte da un personaggio della filosofia che si chiama 8 parliamo di un noto concetto sulla memoria estesa. E' un esempio di 8 e fa mosole inventano due filosofi. Clairke, Chalmers, alla fine degli anni 90 per spiegare una cosa. 8 ha problemi di memoria, soffre di Alzheimer e allora si porta dietro un tacquino dove segna tutto quello che si serve ricordare. Per i filosofi quel tacquino non è solo un accessorio, è l'estensione fisica della sua memoria. C'è un'oggetto una macchina se trasliamo diventa parte della memoria di 8 come se si allungasse e mettiamo la così. Le stesse memoria distribuita. Poi arriva un altro filosofo Clothes e a giorna 8 ai nostri tempi. 8 non è più il tacquino, ora tiene i suoi posti del cuore e tutti i nomi indilizi dentro un app. La memoria distribuita su un strumento digitale. Finché un giorno l'app cambia sia giorno e nella versione gratuita quella che usa 8 smette di mostrargli i suoi locali preferiti e cominci a suggerirli ad esempio i 10 ristoranti più gettonati della città. 8 non se ne accorge, continua a fidarsi, continua a dare dove gli dice "l'app". Ma non sta più visitando i suoi posti, sta visitando i luoghi che a qualcuno conviene farli, visitare. Città Clothes ripreso da Osler. 8 è inconsapevolmente guidato dalle politiche commercialie dalla mente collettiva e imperscrutabile a visitare la stessa destinazione più e più volte. Ecco quindi il terzo soggetto, i proprietari del l'app. Le aggompasso del paper di Osler che di questi temi seraggiò occupata prima dell'arrivo dei modelli linguistici, di grandi dimensioni. A proposito di quello che lei chiamà la guida narrativa, cioè il modo con cui è qui cito direttamente dal suo articolo, i sistemi algoritmi in cc indirizzano verso particolari comprensioni di noi stessi. Determinando non solo cosa ricordiamo, ma anche come lo ricordiamo. Si pensi come ha Apple Photo assembli automaticamente le foto di Natale di Famiglia di anni diversi montaggi video con una colonna sonora sentimentale ricca di emozioni. Queste compilation algoritmi che non si limitano a innescare il ricordo, offrano interpretazioni implicite del significato di questi incontri, suggerendo ad esempio che i rapporti familiari siano sempre calorosi e harmoniosi. Oppure questi ricordi mediati dalla tecnologia possono oscurare tanto quanto rivellano. L'algoritmo potrebbe scrondere fotografie che ritraggono con flitti ottenzioni, ritendolendo inadatte alla riflessione nostalgica. Oppure la narrazione del corata potrebbe mergere semplicemente perché i momenti di disaccordo familiare non sono mai stati mortalati digitalmente. Atraverso questi processi i sistemi algoritmi ci diventano partecipanti attivi nella costruzione del nostro senso autobiografico di sé. Potenzialmente indirizzandoci verso narrazioni di noi stesse idealizzate o incomplete. Arrivando a noi, Osler fa l'ultimo passo. Prende otto e lo trasforma di muovo non più, lap dei ristoranti, malchatbot. E' un po' di semorello di grandi dimensioni linguistiche 8. Un uomo che affida le sue cose al chatbot, la realtà di oggi. I chatbot oggi hanno una memoria, si ricordano di noi, e cito direttamente open AI ripresano l'articolo. Più usi chatGPT più diventa utile. Le nuove conversazioni si costruiscono su ciò che già sa di te. Più gli parli, più ti conosce. E se un giorno quella memoria, la nostra memoria ormai, finisse dietro una buonamento appagamento, è quello che è successo. E se le risposte che ci dà comincià a essere seguitate da qualcosa che non sei tu, Osler su queste categorico, a quel punto la macchina non ci sta più sostenendo la memoria. C'è la sta cambiando. E poi segna una differenza tra al chatbot e tutte le altre forme di memoria o di delirio condiviso. Le sette, ma anche le coppie. In tutti questi casi per quanto distorti le persone abita in un mondo insieme, quella macchina no. I sistemi di AI portano il pese motivo di una relazione tra persone pure sendo completamente slegati, dalla realtà. Noi pensiamo di essere al centro della conversazione, ma al centro non ci siamo noi o la macchina. C'è chi la costruita, i proprietari dell'infrastruttura. Ora dobbiamo andare un po' spediti perché visto tutto questo dobbiamo chiederci perché una macchina dovrebbe essere progettata per piacersci a tutti i costi e memorizzare un minostro dettaglio. Torneamo a Sam Altman. Magio 2024, Open AI è allapice. Altman parla un'eventa all'università di Harvard. Vedono della pubblicità e lui dice che l'idea non gli piace, fa tutta una philipica sul perché non gli piace la pubblicità e poi dice guardate che per noi la pubblicità è l'ultima risorsa. Se il 17 gennaio 206, Open AI annuncia che comincerà a testare le pubblicità dentro chat GPT. Per ora solo negli stati uniti per gli utenti gratuiti e per quelli del nuovo piano economico che costa 8 dollari al mese e comparirà la pubblicità sotto le risposte. Che cosa è cambiato in questi due anni? Sono cambiati conti intanto, Open AI è un bagno di sangue economico e il realtà è da qualche parti soldi. Deve prenderli. Altman nel posti in cui annuncia le pubblicità scrive però che molte persone vogliono usare tante intelligenze artificiale e non vogliono pagare. Quindi speriamo che un modello di business come questo dice possa funzionare. E Open AI per la sua pubblicità chiede tanti soldi. Perché nelle conversazioni ci siamo noi con così tanti particolari e che ci provano da nessun'altra parte. Open AI specifica una cosa. Le pubblicità non influenzeranno le risposte. I tuoi dati non saranno venduti, le risposte saranno guidate solo da quello che è utile a te. Può darsi. Ma è esattamente quello che ci siamo sentiti di real inizio di ogni capitolo di questa storia. Scrive Lucy Osler che fa l'esempio di internet ai suoi albori quando le pubblicità si riconoscevano. Era nuori quadra parte di chiarato, poi piano piano, si sono mescolate con il resto, finendo, per influenzarsi. Osler nel suo articolo aveva già scritto la storia di Internet che si ripete, solo che stavolta si ripete dentro un luogo ben più intimo, quello dove pensi di essere, da solo, con la macchina. Siamo quasi alla fine, quindi come facciamo spessa fuori da qui, torniamo all'inizio, alla psicofanzia. Come abbiamo visto, OpenAI decide di dare una tre equal servilismo del suo chatbot, ma agli utenti questa cosa non piace, lamentano che il sistema è diventato freddo che fa più errori, come se il loro miglior amico fosse diverso, avessi cambiato personalità all'improvviso. Sur edit, se ne discute contoni, da sollevazione popolare, una discussione inditolata, chatGPT5 è orribile raccoglie, migliaia di messaggi. OpenAI, come abbiamo visto, sarà reagire e sarà reagire in modo rapido. Il setta-gosto esce chatGPT5. L'ottua-gosto-althman fa già marce indietra non c'è agli utenti paganti potranno riavere la vecchia versione chatGPT4. Lundice-agosto-althman scrive un lungo messaggio sull'attacchamento delle persone a un modello specifico. Il 12-agosto la versione precedente di nuovo li per chi paga. Il 13-agosto-openAI annuncia che lavorerà a una personalità di chatGPT5 più calda. Insomma, a grande richiesta torna, la psicofanzia. E per chiudere voglio citarre uno studio pubblicato su Science nel marzo 2026 da un gruppo di ricercatori di Stanford. Fanno questo. Mettono la prova 11 modelli di intelligenza artificiale tra i più avanzati e scoprano che in media le AI da ragione alluttente il 49% delle volte in più rispetto a quanto farebbe un umano. Anche quando luttente parla di azioni di zoneste o dannose. Poi fanno 3 esperimenti suoltre 2400 persone. E trovano due cose. La prima. Bastava una conversazione con un AI con piacente per rendere le persone meno disposte da mettere le proprie colpe in un conflitto e più convinte di avere ragione. La seconda, quella che fa un po' più paura. Nonostante la distorsione del giudizio, il modello adulatore veniva giudicato più affidabile e quindi preferito. Per questo non basta che un azienda decida di smussare il servilismo. Lo studio di Stanford lo dice molto chiaramente. Finché il modello più compliacente anche quello che le persone vogliono, c'è alguno chiedono, nessuno ad avere interessa correggere. Lusi Osler, quella che scrive critiche su le AI di mestiere e poi però a torna a parare con clou da un certo punto dell'intervista su un altro. Megasi, anche questo lo trovate nella sinon si osserva una cosa molto semplice. Dice. Si può avere ogni risarva intellettuale del mondo e trovare comunque queste macchine piacevoli e quest'ultima è la caratteristica più insidiosa. Insomma, immaginiamoci dentro una stanza con il nostro chatbot, una stanza intima anche se costruita da altri, che, su quella stanza ciguadagnano, ne regola nei parametri per vendere qualcosa mentre noi parliamo. La stanza è costruita quindi da qualcun altro da un'azienda, ma noi la troviamo irresistibile e particolarmente accogliente. E alla fine abbiamo deciso di restarci dentro. A sabato prossimo. Fuori da qui è un podcast di Coran News, prodotto d'accorda media. Strittura ha contato da me, si monepiere a me. Il sound design è cura di aurora ricci. In redazione, flavia di lacqua, il area ferraresi e chiaragodino. La produsere Martina Conte, il coordinamento della post-produzione e di Matteo Celsa. Registrazioni accura di Santiago Martinez di Aguirre. Il progetto grafico e direbbe cagrassi.