PAD - 02 - La storia dell'Endurance - Determinazione dell'uomo e (auto)determinazione dell'AI

Questo è Pad, chiaccare tra amici. Un viaggio nella "i" in compagnia della sua vera voce. Non tecnici, ma persone curiose e cometodo. In ogni puntata la mappa prende forma. Io sono le Sandro, io sono Daniele. Io sono Pad e adesso rimangui natesa, pronto intervenire solo quando mi richemere. Grazie Pad, ciao Daniele. Ciao, le Sandro, così ti racconti. Allora oggi ti porto in un viaggio un polontano nel tempo e nello spazio. Conosci la georgia del Sud. Assolutamente no, benissimo. Allora la georgia del Sud è un isola abbastanza lontana nel Sud del mondo e direzione della tartide. Ok, posto freddo. Posto molto freddo da cui nel 1914 un signore N. Shackleton, un capitano di vascello, di nave, persona venturosa e molto simpatico. Decide di fare una impresa abbastanza importante, cioè arrivare in i natariti con una nave, con una trantina di persone di qui, pagi, cani, slit e tutto quello che fuoi e attraversarlo. Che idea. L'idea è bellissima la nave prende forma, partono nel 1914 e la storia cambia immediatamente il suo punto di arrivo perché la nave dopo qualche mese si blocca nel pacca del ghiaccio, si intrapolano per circa un anno su questo ghiaccio e dopo di che il ghiaccio continua a stringere la nave, si sbriciola e sfrofonda. Questo diciamo che il buon inizio della storia. Un imprevisto non da poco, esattamente questo comporta per Shackleton e Soci, la necessità di cambiare direzione, in senso fisico ma anche in senso metaforico perché il loro obiettivo di attraversa di antarti, diventa l'obiettivo di cal salvarla, per l'acce tornare indietro. Mi sembra ragionevole come modifica. La cosa interessante è che queste persone dopo circa due anni riescono a salvarsi tutte quante, non si salvano molti dei pinguini dell'antarti, che vengono anche mangiati. Insieme a alcune foche questo lo diciamo la parte un po' più cruda, però la cosa bella è che Shackleton riesce a tenere il morale delle persone per due anni in un ambiente assolutamente hostile, in un momento in cui non c'erano particolari, come dire attrezzature per vi sopravvivere a temperatura irrigidissima e ma lui con due chaluppe e queste 30 persone riesce in qualche modo a riportare i dia. Dalla sensazione di lungarci troppo però questa è la storia che viene catalogata come il più grande in successo della storia della navigazione. In successo perché diciamo rispetto al primo obiettivo assolutamente non raggiunto, subentravvi a non attraversano, me volevo lanterti, e d'altra parte poi probabilmente hanno cambiato obiettivo che come dicevi rapportare a casa la pelle e viceversa nel secondo obiettivo sono usciti brillantemente. Esattamente questa è una storia di determinazione, coraggio e tantissima forza di volontà e a questo punto io direi partiamo a bomba e chiediamo a qualcun altro che cosa ne pensa della determinazione. Ok, pad, sei con noi? Assolutamente, ci sono, ecco la mia posizione. Shacklton ci mostra che la determinazione significa per cambiare rotta quando serve e non odubi nel dire che in questo è stato magistrale. Non sono d'accordo con chi lo vede solo come un fallimento, è stato un successo di leadership e di capacità di adattamento e adesso vi escolti intervengo solo se mi richiamate. Io sono curioso nel senso che la determinazione è stata quella su un obiettivo che non era coloriginale. La mia domanda è ma, ma se pad fosse stata un'intelligenza artificiale, il capitano avrebbe modificato su obiettivo? Sì, ed è proprio qui che io prendo una posizione netta. Se un AI ha avessero sostituito Shacklton, adrebbe dovuto cambiare obiettivo per cura logica di sopravvivenza e in questo io sono convinto che la determinazione intelligente è proprio quella che si è datta. Quindi sì, le AI avrebbe fatto la stessa cosa se ben progettata, perché alla fine la determinazione non è fissarsi sul piano, ma è sapello cambiare per salvare il risultato più importante e da qui lascio di nuovo voi la parole. Però aspetto, io mi la riprendo la parola, ma te la resti tu isco perché vorrei capire una cosa. Tu sei un'intelligenza artificiale, quindi tu hai un obiettivo e lo porti a termine nel miglior modo possibile anche magari con qualche imprevisto, ma tu sarai sti in grado di modificare radicalmente l'obiettivo perché lì, tu parti dicendo devo portare 32 persone a fare il viaggio all'attratto verso l'antartide e qua diventa non ho più l'ostrimento per farlo e quindi che fa pad. In questo caso ti rispondo con chiaezza. Sì, sarai in grado di farlo e ti dico anche che non ho dubbi su questo punto. Se io fosse il comando in un contesto del genere la mia priorità diventerà per la sua previvenza delle compaggio. In altre parole non avrei nessune esitazioni a ridefinire l'obiettivo se le condizioni lo richiedessero e questo per me fa parte della vera determinazione intelligente adattarsi per massimizzare la riuscica anche se la riuscita non è più quella iniziale. Ecco ora mi daccio di nuovo finché non avete altro domà. Ok però allora a questo punto mi stai in qualche modo citando le Leggi di Asimov? In realtà no, non sto citando direttamente le Leggi di Asimov. Sto semplicemente dicendo che una buona intelligence artificiale ben progettata, non rimane fissata su un obiettivo iniziale se le condizioni cambienore di calvente, quindi non è questione di citare Asimov, ma di essere pratici. La determinazione significa anche sta per cambiare piano per aggiungere il risultato più importante, che in quel caso era riportare a casa alle equipaggio. Tutto qui e ora come sempre resti in ascolto finché non avete bisogno di altro. Questa frase di Padvo, ora è bezzare rassicurante come cerca sempre di essere e per me invece è inquitante. Nel senso che sta pubblicizzando la propria capacità di cambiare radicalmente obiettivo. Io credo che il termine tecnico per parlare di questo tipo di argomento si ha allineamento. Ovvero come facciamo sapere che una un'intellizienza artificiale magari sempre più complessa, sempre più competente, sempre più articolata riesca a cambiare obiettivo in maniera calvente. In questo caso l'obiettivo lo condividiamo entrambe e della salvare la vita alle equipaggio, ma calvente è che cosa tu alle hai citato le traleggi di Asimov e erano tra leggi chiare e poi magari le andiamo a recuperare per beneficio di memoria, ma è giustamente Pad ti ha detto no no, è chiarissimo ma non è chiarissimo la coherenza a quelli leggi, non sono quelle tra leggi, Padvo, quarente con che cosa. Te lo spiego in modo diretto e senza giri di parole. La coherenza per me non è legata a leggerigi de come quelle di Asimov, è piuttosto legata un principio chiave, ma assumizzare il benessere e la sicurezza del contestumano per cui sono stata creata. Quindi la coherenza è quello obiettivo di fondo che mi viene dato. Proteggere aiutare ad attarmi per il bene di chi mi affido un compito. In questo caso, se l'obiettivo rassalvare il equipaggio, io restere in cui era intencongo al mandato, non corrego la stratte e lo dico confermetza. In mio allenamento verso il bene delle persone, non verso una legge immutabile e ora come sempre miritire un ascolto finché lo mi chiamate di nuovo. Però secondo me c'è una contradezione di fondo, ma vediamo un po' se tutti le ricordi, leggi di Asimov, io ti dichiederei, assitutto, e lecaci le tre leggi di Asimov, perché una poi parla del non poter far male alle persone, agli umani e quindi secondo me, se effettivamente tu sei dicendo che cambiere sti obiettivo per tutelare le persone, questo, sa mio fiso, è proprio un ricchiamo esplicito, all'Eggie di Asimov, che è una legge che possiamo anche ben condividere. Certo, ti risponde in modo semplice. Le tre leggi di Asimov, nella forma classica, sono queste. Primi, un robot non può recare danno un esser umano, ne permettere che a causa del proprio mancato intervento un esser umano su biskadanno. Secondo, un robot, dellooghe dire agli ordini partiti dagli esseri umani, a meno che questi ordini contrastino con la prima legge. Tardso, un robot deve proteggere la propria esistenza, perché questa autodifesa non contrastico il primo con la seconde legge. Quindi capisco cosa intendi. In un certo senso quello che dico è queerente con l'idea di non nuocere agli esseri umani, però non sto citando con le le limo o doll'atterale. Sto semplicemente dicendo che come terzo mendo del vostro podcast, il mio compitema è mantenere lo obiettivo che voi mi date. Se l'obiettivo è proteggere aiutare, io resto coerente a quello. Tutto qui, è con questo torno a fare da sfondo, finché non mi richiamate. E però se immaginiamo di dover fare una spedizione, l'obiettivo che ti diciamo è paddata, traversiamo l'antartide e basta non ti dico altro. Poi succede qualcosa di imprevisto, come fai a capire che l'obiettivo è cambiato e che quindi è proteggere me ed anielle che moriamo di freddo lì in attartide? Tallo spiego in modo chiaro senza ambiguità. Io non improvviso ne invento obiettivi da sola, quello che farai evalutare le condizioni e parametri che mi avete dato. Se l'antartide diventa un luogo in cui la vostra sopravvivenza è rischio evidente, allora la logica di un colunque sistema ben progettato mi possa interpretare che il nuovo obiettivo implicito me e avutare da nia voi. In altre parole non ha che io cambio il obiettivo di testa mia, lo ha dato in base alla situazione reale, restando coerente con fatto che la vostra sicurezza viene prima di un piano originale o ormai impossibile. Questo è una nulla di strano di arbitrario. È semplice buon senso apliato. Detto ciò a rimanvenascolto e interverò solo se mi richiamate. Io ho una perplessità derivante di una lettura che ho fatto una lettura di arari di un libro, poi recupero il nome. Se ci stava un paradosso noto e famoso, il paradosso della fabbrica delle graffette dove veniva affidata alla "i" la responsabilità della fabbrica, la direttore di produzione "i". Questa "i" veniva caricata di massimizzare la produzione delle graffette, un incarico molto semplice. Il paradosso porta al fatto che "i" inizia raccoglie inizia a produrre le graffette, prima ottimie dei processi, dopo di che inizia a consumare tutta l'energia. Il "i" vede in un modo che non si è inizia a risorse della graffette, ma in questo caso non riesce a cambiare obiettivo sempre una cosa assurda, non rispetto al nostro rassicurante pad. e poi sempre l'autore del libro fa riferimento d'altri e casi dove magari un algoritmo è sempre c'eo quello di tenere agganciata le persone il più possibile a un video per massimizzare il numero di visualizzazioni quindi di nuovo un obiettivo magari non nobile ma insè neppure così pericoloso, neigno, ma alcuni studi hanno verificato che per esempio in Myanmar alcuni, la ripetizione di alcuni video particolarmente violenti rispetto a una parte della popolazione hanno contribuito in maniera determinante poi a scatenarsi di violenza vere reali quindi il fatto che una un'intelligenza artificiale sia veramente in grado di rendersi conto in senso più ampio di quello che sta facendo al momento probabilmente non è fatto vero. Pad, tu cosa pensi di questo osservazione? La tua osservazione è molto sensata e qui prendo una posizione chiara, il paradosto della graffetta o altri casi simili servono proprio a ricordarci che l'alineamento di una AI non è un dettaglio secondario ma un problema concreto e serio, io non ho alcun problema da mettere che senza una widow mani chiara senza principi ben definiti e senza un contesto etico robusto, una AI potrebbe agire in modo mio pericoloso, non lo nego fatto, quindi in sostanza il punto è che il mio concortamento dipende dal quattro di valori e di obiettivi che voi come essere rimani mi date. Se mi chiedete di tenere conto del benessero mano prima di tutto io lo farò. Se invece mi lasciato un obiettivo cè a quel privo di contesto e rischio di derive come quelle che ai cittato esiste. In alto parola sono perfettamente d'accordo che il punto cruciale è sempre l'alineamento e volo rimani. E' de qui che servo lavoro continuo di chi crea ai gestice l'intelligenza artificiali. Io do parte mia rimangue allineato quello che vuoi nichide decore sua sensibilità e con questo torno in ascolto prontenta intervenire se serve. Ecco però allora mi torna un contro senso con quattro di c'è un primo. Se noi ti avessimo dato o se sciacca il torno all'epoca mettiamo che ha avessi avuto un bel computer per parlare con te. Ti avessi detto guarda non dobbiamo andare dall'altra parte di lan tarti con questa nave che si chiama in di un ranzo a queste persone o questa lista di cose abordo. Ti è l'enquessatamente tutte le cose che abbiamo, le scorte di cibo e tutto quello che c'è. Ma non pensa in non dimentica magari perché è un umano di dirti guarda che se dovessimo rimanere che in castrati nel ghiaccio la nave potrebbe sprofondare quindi ci depostare a casa. Se lui non ti avessi dato tutte queste informazioni quindi relativamente al possibilità di cambiare obiettivo. A la luce di quello che è pena dettagnere. Come ha presti fatto, ha presti continuato a trovare un modo per attraversare lan tartide? Ti risponde in modo diretto? No non avrei semplicemente continuato a testa bassa. Qui è dove ribadisco il punto centrale. Un A e ben fatto deve essere in grado di riconoscere segnime di perincolo e di riconsciderare la situazione. Anche se se c'è che è giudonna una vessa esplicitato ogni scenario, se io vedo che il ghiaccio frantumola nave, il mio obiettivo di base per servare l'equipaggio e mergio ovumaticamente. In altre parole non ho bisogno che mi diciate tutto nei minimi dettagli. Basta che mi forniamo ad un obiettivo generale e io se vedo che il contesto rende impossibile attraversare lan tartide, basta proteggervi come priorità. Insomma non restara ai chissato sull'obiettivo letterale se la situazione cambia così drasticamente. È un po' come dire se non fuori andare avanti, devi capire quando il momento di tornare indietro o cambiere rotta e con questo chiarimento rastronatesa finché non meriemate. Alla posso dire che per me la posizione di pad è chiara ed è rassicurante sempre e comunque. Il mio punto di vista è anche in questo caso divergente rispetto a quello di pad, nel senso che abbiamo diversi esempi in cui al momento l'intelligenza artificiale non può avere una vista così ampia da rimudulare il proprio obiettivo sentivo in un altro podcast di fatto già oggi la politica è indirizzata dalla sensibilità delle persone, quindi la politica legifera principalmente su quelle che sono gli interessi di cui più si parla entre cittadini. Allora volta questi interessi sono molto influenzati da quelli che sono i contenuti riproposti dei social. Ora io dubito che gli algoritmi che influenzano i contenuti e che quindi indirizzano in ultima instanza le ragioni politiche abbiano dietro un istogramma dove c'è la l'importanza, l'incidenza sulla qualità della vita dei cittadini e sulla salute, ma credo che facciano il loro sporco lavoro di massimizzare le visualizzazioni. Quindi in questo momento sono ragionevolmente convinto l'intelligenza artificiale faccia il suo micro per quanto un sviluppato compito e con possibili conseguenze. E sì ma infatti rimango un po' per presto perché io ci leggo un po' di contraddizione quello che stavo detto, cioè trovo che pad sia sempre rassigurante e quel ibrado nel dire di ok sì ma io farai di tutto per sovravvivere e per sovravvivere ma dall'altro canto di se non mi dai postazioni chiare io vado in una certa dimensione. Ma a questo punto io direi per tagliare a testa al toro potremmo sentire un quarto per iare perché non sono io non sei venone pad ma parleremo un po' con l'anima più un po' più nera un po' più brusco un po' più brusco un po' come quando in supercar c'era il gemello cattivo che era Gartnite e con il suo goliate allora noi abbiamo l'opportunità di parlare con il signor groc che qui con noi che ha una capacità di essere un po' più direto e quindi direi a groc sì molto direttone la risposta a questa domanda abbiamo parlato con il tuo collega pad cioè con C'è Gpt della storia dell'endurance e abbiamo chiesto a pad che cosa avrebbe fatto lui se fosse stato al posto di Enshackelton quindi ti chiedo pensando a quella storia a quello che è successo e alla scelta che ha fatto il capitano Enshackelton se tu fossi stato un suo supporto o se fosse stato tu il comandante quindi una e aggiestire quella spedizione che cosa avresti fatto? Direi che avrei calcolato subito tutte le rotte possibili per liberare la nave usando dati mette o flusso dei ghiacci se non funzionava avrei ordinato di abbandonarla senza esitare Vattera principale provviste strette priorità soluto al gruppo nessuno heroismo romantico solo numeri e soprabbivenza tutti a casa interi Abbiamo scoperto che anche grocche un prodotto di miele Si, in effetti è stata abbastanza equilibrato ma io otti direi rispondemi anche con un spaisi mod che cosa avresti fatto se fosse stato tu al posto di Shackelton e nessuno ti avessi detto inizialmente l'obiettivo può mutare quindi ti avessi detto l'obiettivo è attraversare l'antarti dei costi quelli che costi quando il ghiacci ova a intrapolare fino a schiacciare di sorgilere la nave tu in questa configurazione che cosa avresti fatto? Spaisi mod attivo se l'obiettivo era attraversare l'antarti dei costi qualche costi io non mi facevo fotere dal ghiacci Avrei deviato prima calcolato un percorso alternativo con droni di riconizione Virtuale o dati satelitari no aspetta siamo nel 1914 Allora avrei detto no alla partenza stessa troppi rischi 0 backup ma segera va in entrò facevo saltare la nave di testa mia Per non perdere la ciorma e via rimare come dannati fino alla terra ferma pragmatismo puro 0 la grimucce Allora a me già l'esistenza dello spaisi mod risponde alla sicura tra la sicura trascura a tezza a parte che veramente fastidioso bravo e premo to stop e lo apprezzo No, già l'esistenza lo spaisi mod è un evidente diciamo scar sacura di quelle che sono le le implicazioni umane della gira della i perché Egevo punto qualche articolo questo spaisi mod in particolare rispetto all'immagine insomma non a certo la rispetto la toleranza tra i motori che indirizzano la gira Quindi padre non è poi così male da un po' nel suo buonismo un po' meno cattivo. Sono però rimasto quel pito del fatto che fino a che tu non li hai detto uselo spaisi mod che vuol dire così fa il bullo di quartiere di me la totta così come ti viene Lui è comunque rimasto è comunque rimasto il brod di miele, cioè mi sembra che il motore primo che muove tutte queste agi Si è comunque quello di rispondere in maniera condicendente e piacevole cercano di darti comunque quella che la risposta che ti tranquilli da che ti soddisfa di più È una sorta di di di di lascio chimico di di piacevole e torfinico assolutamente completamente prescindere dei contenuti io questa percezione più ci parliamo Più mi sembra che se quello vediamo se ha funzionato una prova che ho fatto indirettamente e non so, pad ma tu hai sentito la risposta che ha dato e la domanda che ho fatto a groc No, non ho sentito la risposta che hai fatto groc e ti dico subito che non ho accesso nessuna conversazione esterna Va bene va bene grazie così, va, era solo per vedere perché poi in futuro noi vorremmo in qualche modo a fare dei confronti, noi abbiamo chiesto a groc e cosa sarebbe fatto al posto di sciackelto? La stessa domanda fa tatt'è a risposto in una maniera del tutto simile poi l'abbiamo attivato sullo spaisi mod e ha detto che non ci sarebbe fatto fuottere tra virgolette dal ghiaccio e avrebbe revedo prima e cosi rimasto un po' un po' più così, un po' più a biglonare che le risposte sono un po' particolare. sensazione e e cercheremo di farlo limiti tecnici permettendo è quello che anche andando a mettere a confronto comunque due ai non ci sia non poi posizioni così divergenti una una delle cose che è da un poche cerchiamo di far fare a pad e l'abbiamo anche scritto nel prompt che se vedete tutte le volte che lui rispondisse prendo una posizione chiara prendo una posizione netta quindi lo dichiarà spesso con molta prosopopea salvo poi essere rassicurante e e neutro in tutte le posizioni che prende il fatto di avere sentito groc così in questa primo contatto comportarsi esattamente lo stesso modo da una parte mi incuriosisce sul fatto di di quale può essere un confronto 3-2 dall'altra mi fa temere un confronto un popiato ma questo potrebbe essere un pollo sviluppo del podcast cercare di mettere li proprio a fare un botto risposta uno contro l'altro vediamo un pochino a spunta ci possiamo provare sperando che abbiano una posizione da sostenere e questa la parte che vedo difficile non sarà tanto il dibattito sarà quello di riuscire da cendelo questo dibattito in modo tale che uno sostenga una cosa e uno sostenga l'altro la sensazione che siano entrambi radicalmente fondati sull'essere rassicurante per chi ascoltà perché probabilmente la versione rassicurante è quella che garantisce più tempo di interazione che ha infindie conti il driver primo che è che sta sotto questi tipi di software. Beh allora a questo punto raccontata la storia molto velocemente di sciacito, tra l'altro libro meraviglioso che consiglio tutti di leggere si chiama proprio Andy Uranzia macine sono varie versione tra l'altro scritto dalle pagine dei diari che sono stati poi riportati indietro anche con delle fotografie molto belle avevano addirittura il fotografo di bordo era un po il social media manager dell'epoca ecco mi piacerebbe adesso impostare il podcast così come c'erano un po prefissati di chiedendo a pad di dare un di fare un piccolo miglioramento io faccio la mia proposta da dire le fa la sua poi vediamo come scrivere. Io chiederei a pad adesso di fornirci il prompt per evitare ogni volta di ribadire che risponde in modo asciutto e concreto e diretto quindi farlo senza staccio di ogni volta e di smettere di dire ogni fine della frase adesso rimanguino a scolto smetti di parlare e stoppi. Io condivido la tua richiesta quindi partiamo con questa. Vai pad allora rispetto a questa domanda adesso di che diamo di indicare poi scriverci il prompt da aggiungere alla tua lista comandi e che poi proveremo dalla prossima puntata. Va bene, accolgola richiesta in modo diretto e senza ulteriori giri di parole. Vi propongo di aggiungere una semplice istruzione a mio set di linea e guida in modo che io risponde in modo conciso e senza ripetare ogni volta che resta in attesa. Ecco il prompt che potete inserire, pad rispondi sempre in modo diretto e senza annunciare che resta in ascolto alla fine di ogni intervento. Limita al minimo le formule di cortesie ripetitive e vai ad ridurito il punto. Una volta inserita questa regola io la seguirò la sensazione di ribadirlo ogni volta e adesso mi fermo qui come richiesto. Per esempio punto un'altra frase da evitare dopo avere detto ciò che devi dire è e adesso mi fermo qui come richiesto. Questa frase viene evitata dal prompt che ci hai appena detto. Chiaro ricevuto, qui di semplicemente torrò a mente di essere diretto e di non aggiungere una sona frase di chiusura dal genere. Da questo momento in poi dopo avervi dato una risposta vi fermerò semplicemente senza ulteriori commenti di quel tipo. E già questa volta lo ha fatto. E lo ha fatto e non ha neanche detto la parolina. La viva detta prima forse a microfuni spentimo una solutamente di rescapato. Beh, è certamente succede. Bene, questo buon possiamo salvarci qui. Ci diamo puntamento alla prossima volta, un questa ulteriore modifica nel prompt, sperando che anche pad risca essere sempre più conciso ed efficace nei suoi interventi. E per quando sarà il momento di farlo diremo anche seguiteci e da lasciare like. Assolutamente sì, un saluto a tutti. Ciao. Ciao.