The Rise of Killer Robots – AI, Morality & the Future of War

Pensa per un momento all'immagine classica di un soldato sul campo di battaglia. Storicamente c'è sempre stata una cruda e innegabile fragilità biologica in quell'immagine. - Un 19 novene con un fucile in mano. - Esatto! Un 19 novene è sposto al fangogelido, alla privazione del sonno e soprattutto al terrore puro. Il terrore visserale e imprevedibile del combattimento ravvicinato. - È un'immagine profondamente humana. E diciamolo tragicamente vulnerabile. Sotto stress estremo quando la adrenalina satura il sangue, la biologioumana, cede. - Cede completamente. - La percezione si restringe, si commettono errori di calcolo fatali. Spesso si preme il grilletto per puropanico. - Proprio così. Ma ora, immagina una entità alta 1,75 metro, pesante circa 80 kg, che avanza senza esitare attraverso le rovine industriali dell'Ucraina Ovientale. - È mette una firma termica, giusto. - E mette la stessa identica firma termica di un esteromano, trasporta 20 kg di munizioni verso una trincella alleata e lo fa sotto un pesante fuoco di artiglioria. Ma c'è un dettaglio. - Non ha un battito cardiaco. - Niente battito. Non ha polmoni da perforare, non prova paura e soprattutto se calpesta una mina anticarro, nessuna famiglia riceverà una bandiera piegata. - Caspita, è una prospettiva potente. - "Welcome to the debate". Un caloroso benvenuto a questo confronto intellettuale. L'immagine che abbiamo appena descritto non è tratta da un film di fantascienza ma dalle trincee di oggi. - Exploriamo infatti il tema centrale della nostra epoca, "The Rise of Killer Robots, AI, Morality and the Future of War". Questo scambio di prospettive nasce dall'analisi di recenti report internazionali. In particolare, i documenti dell'unidire del Comitato Internazionale della Croce rossa. - Senza dimenticare la realtà sul campo, cioè lo schieramento effettivo di nuove tecnologie, come "I Robo Manoid Phantom Mk1" in Ukraine. - Dunque, la domanda centrale di oggi è questa. L'integrazione di Robo Manoid e Autonomie e intelligenza artificiale sul campo di battaglia è un imperativo morale ed economico per preservare le vite umane. - Oppure rappresenta una pericolosa escalation che distruggia il diritto internazionale e abbassa irreversibilmente la soglia per l'inizio di nuovi conflitti. - In reve, io sono profondamente convinto che l'impiego misurato di queste macchine sia un'evoluzione necessaria, direi persino umanitaria per le democrazie moderne. - E io invece sono altrettanto convinta che le gravi vulnerabilità tecnologiche e il conseguente voto di responsabilità legale crene un rischio del tutto inacettabile per l'umanità. - Vorrei iniziare proprio dal perché considero questa tecnologia non solo inevitabile, ma necessaria dal punto di vista operativo e morale. I sistemi robotici rappresentano un mezzo intredibile per proteggere le truppe. Prendi il Phantom Mk1. Attualmente viene testato per la logistica in zone ad altissimo rischio, la cosiddetta linea zero. Il suo scopo è evitare di esporre soldati in carne e dossa al fuoco nemico. - Solo per portare rifornimenti intendi? - Esatto, compiti basilari malletali come portare munizioni o ispezionare difficili. E poi c'è l'efficienza economica incontestabile. Un robot umanoide sacrificabile costa oggi circa 150.000 dollari. - Una cifra quasi trascurabile in ambito militare. - Una frazione infinitesimale se paragonata agli 80 milioni di dollari di un caccia F35. Ma sai, all'adilà dell'economia c'è la questione morale. Le macchine sono prive di emozioni. - Su questo non ci piove. - E se inquadrate in rigidi protocolli militari, penso alla direttiva di odd3.09 sul cosiddetto "human in the loop", sono meno in clinia a comettere crimini di guerra. Non provano rabbia, non agiscono per stanchezza o pregiudizio. - Capisco la tua posizione, la narrativa del soldato perfetto e incrollabile e affascinante. Ma dobbiamo focalizzarci sulle pericolose limitazioni della tecnologia. - Quali limitazioni vedi come più critiche? - Il report del Comitato Internacional della Croce rossa del linea oninevitabile con lasso della responsabilità legale e poi c'è l'immaturità dell'ar2 erattuale. - Ma il fantomo peraggia sul campo. - Amma la pena direi, trasporta solo 20 kg circa 44 libres, manca di una vera impermeabilizzazione e guarda è letteralmente caduto per terra durante una semplice dimostrazione per la stampa. - Sì, ho letto l'articolo su Newsweek. - Esatto, ma a livello software la situazione ancora più inquietante. I modelli di intelligenza artificiale, LLM, soffrono costantemente di allucinazioni e di deriva comportamentale, il cosiddetto Bheavioral Drift. - Delegare l'uso della forza letale a retineorali così imprevedibili genera un voto di responsabilità penale. È una violazione diretta del diritto internazionale umanitario. - Ok, fermo un secondo. Per comprendere l'implicazione etiche, dobbiamo prima stabilire se questa tecnologia funzioni effettivamente nella brutale realtà del fronte. - Certo, analizziamo i fatti. - Lucraina è la prova della validità del concetto. Il fentom emica a uno impiega l'apprendimento per rinforzo per adattarsi a terreni complessi e fa una cosa geniale, proietta una firma termica umana per confondere i sensori nemici. - Funge da esca in pratica. - - Proprio così, da esca tattica, salva vite umanevere attirando il fuoco su un manichino di metallo. Come fai e ignorare questo vantaggio? - Non lo ignoro, ma sfido questa narrazione tecnica, sottolineando le vulnerabilità catastrofice della guerra elettronica. La cosiddetta EW. - Spiegati meglio. - Ti chiedo direttamente. Se il segnale di teleoperazione viene distorbato o acheerato tramite spuffing, non stiamo forse offrendo al nemico un arma da rivoltare contro le nostre stesse truppe. - Lo spuffing è un rischio certo, ma ci sono protocolli di sicurezza. - Ma c'è anche un enorme rischio geopolitico. Immagina di vedere il proprio stack di autonomia basato su LLM, catturato fisicamente decodificato da forzio stili. Stiamo regalando la nostra tecnologia al nemico. - Sì, ma questo valeva anche per i droni ripercatturati impassato. È un problema ingegneristico che si risolbe corrutin di auto distruzione cryptografica. - Ma è il punto e un altro. Una volta superati i difetti fisici della macchina di chi è la colpa quando l'algoritmo sbaglia e colpisce i civili. - E qui entriamo nel vivo del voto di responsabilità internazionale. - Riciamo la difficoltà attuale di applicare il diritto penale internazionale. Pensai recenti mandati di arresto della Corte Penale Internazionale per gli attacchi alle infrastrutture energetiche in Ukraine. - Quelli condotti con i droni Shad 136, giusto? - Esatto, droni e autonomi. Gia oggi è un incubo legale. I robò umanoidi renderanno la catena di comando completamente opaca se la macchina allucina un bersaglio chi va a processo. - Beh il sistema previde sempre una supervisione. - Ma chi condagniamo? Il soldato alla console, l'ingegnere del software in California, o mettiamo alla sbarra all'algoritmo stesso. - Guarda, ti rispondo con una analogia provocatoria. È come un chirurgo che utilizza un braccio robotico avanzato per operare. - Una analogia medica? - Sì. La responsabilità rimane categoricamente nelle mani dell'umano che supervisiona il sistema. Il principio dell'o "humanin del loop" mitiga questi rischi. - Non sono d'accordo. La analogia non regge. - Ma ti chiedo. - Nalle è forse moralmente peggiore costringere un 19 novene terrorizzato a fare i ruzioni in un bunker buio, sapendo che il panico umano causa storicamente la maggior parte dei danni collaterali. - Aspetta, aspetta. Il braccio chirurgico è un sistema deterministico. Se premi un pulsante si muove di un millimetro. Le retine urali sono probabilistiche. - Cioè imparano in tempo reale? - Esatto. E allucinano in oltre il concetto di "humanin del loop" è una rassicurazione fittizia. Conosci l'automation bias. - La tendenza umana a fidarsi c'eccamente dei suggerimenti della macchina. - Proprio quello. Se il sistema ti dice "bersaglio nemico al 99%" in una frazione di secondo l'operatore premera sempre sì. Non c'è un vero controllo morale. C'è solo un alibi per la responsabilità penale. - Certo, l'automation bias esiste, massimitica con l'addestramento. Però spostando lo sguardo dal singolo evento tattico alla stabilità geopolitica come cambia l'architettura della pace globale in quest'era di eserciti sintetici. - Questo è il vero fulcro del problema. - La corsagliarmamenti è un dato di fatto. La cina sta già integrando cani robotici armati, rilasciati da grandi droni. E stanno sviluppando un etica militare legata al controllo del partito. - Ma noi non dobbiamo seguire lì secamente in questo baratro? - L'estime di Goldman Sachs parlano di 100.000 unità spedite entre il 2026. Ingiorare queste proiezioni significa ebeccedere il vantaggio strategico ad avversari con molti meno scrupoli umanitari dei nostri. - Io ribatto che proprio questa mentalità abbassa pericolosamente la soglia del conflitto. - In che modo? Aver un esercito forte è sempre stato un deterrente. - Ma se le guerre vengono combattute da macchine economiche e sacrificabili, i leader politici non subiscono più la pressione dell'opinione pubblica. - Ma anche il costo invite umane per la propria nazione, intendi. - Esatto. Senza barre che tornano a casa, la guerra diventa un'opzione troppo facile da intraprendere. E per questo che dobbiamo appoggiare gli oltre 120 paesi e la campagna Stop Killer Robots serve un trattato vincolante contro le armile tale autonome. Ma un trattato del genere vinco le rebbe solo le democrazie trasparenti. I regimi autoritari continuerebbero a sviluppare la tecnologia insegreto e senza un deterrente tecnologico ci troveremo in difesi. C'è un problema però. A fidarci agli algoritmi per la deterrenza ci porta alla Machine Speed Warfare. La guerra alla velocità delle macchine. Ricordi il flash crash di Wall Street. Algoritmi che rispondevano ad altri algoritmi, bruciando miliardi in pochi secondi. Immagina un flash crash militare. Sistemi difensivi che rispondono in mili secondi ad una allucinazione di un algoritmo nemico. Prima che qualsiasi lider umano possa intervenire, la guerra totale è già scoppiata. Creiamo le condizioni per una poca liscia accidentale. È uno scenario spaventoso, lo riconosco, ma le red lines nel codice servono proprio a questo. La sfida è costruire sistemi di salvaguardi efficaci, non fermare l'innovazione. E questo ci porta verso la conclusione del nostro confronto. Per sintetizzare la mia posizione, io riafermo che con la giusta supervisione queste tecnologie sono uno scudo cruciale per la vita umana. Certo. fronte a minacci globali, avere robot che si assumono il rischio fisico al posto dei nostri soldati è, dal mio punto di vista, un imperativo etico. Da parte mia invece ribadisco che la tecnologia si sta muovendo troppo velocemente rispetto all'etica e alla legge. Il rischio di automatizzare crimini di guerra e di nescare conflitti accidentali è semplicemente troppo alto. Entrambi riconosciamo però dei chiari punti di convergenza. Lucraina a irreversibilmente trasformato il modo in cui le armi vengono testate. Assolutamente, si è passati dal laboratorio direttamente al fronte in pochi mesi e la regolamentazione internazionale è gravemente tragicamente irritato. Esatto. Credo che questo dimostri il grande valore di esaminare prospettive contrastanti ci aiuta a cogliere la reale complessità del tema, senza fermarci alle semplificazioni. Sono molto d'accordo. E c'è ancora un vasto materiale da esplorare in merito, da ebia salgorichmici alla sicurezza della guerra elettronica. Decisamente. Oggi non dichiariamo un vincitore, ne forniamo una soluzione definitiva, perché il dibattito è ancora in piene evoluzione. Vi ringraziamo per averci seguito, un saluto e arrivederci alla prossima puntata di PodCyest.