#2 Shackleton si è perso nei ghiacci. L’AI avrebbe fatto lo stesso?

C'è una storia che Alessandro porta in puntata come si porta un regalo inaspettato. Siamo nel 1914, su una nave che si chiama Endurance. Il capitano Ernest Shackleton parte dalla Georgia del Sud con una trentina di uomini, slitte, cani e grandi ambizioni: attraversare l'Antartide. L'idea è bellissima. La realtà, come spesso accade, ha altri piani.

La nave rimane intrappolata nei ghiacci per quasi un anno, poi il ghiaccio stringe, la nave si sbriciola e affonda. A quel punto Shackleton fa una cosa che sembra ovvia, ma non lo è affatto: cambia obiettivo. Non si tratta più di attraversare l'Antartide. Si tratta di riportare a casa tutti interi. E ci riesce, dopo due anni in uno degli ambienti più ostili del pianeta. Per questo la spedizione Endurance viene ricordata come il più grande insuccesso della storia della navigazione — un ossimoro che dice tutto.

Ma la vera domanda che aleggia in puntata è un'altra: un'intelligenza artificiale avrebbe fatto la stessa cosa?

PAD risponde con la sua solita compostezza rassicurante: sì, certo, la vera determinazione è saper cambiare rotta quando serve, la sopravvivenza dell'equipaggio sarebbe diventata automaticamente la priorità. Daniele rimane colpito. Alessandro, meno. Perché quando Alessandro fa la domanda più insidiosa — e se nessuno ti avesse detto che l'obiettivo poteva cambiare? — la risposta resta rassicurante, ma la perplessità cresce.

È qui che entra in gioco la fabbrica delle graffette. Un paradosso noto nella letteratura sull'allineamento dell'AI — Daniele lo porta da Nexus di Yuval Noah Harari — : un sistema incaricato di massimizzare la produzione di graffette, senza un contesto etico più ampio, finisce per consumare ogni risorsa disponibile pur di produrne di più. Non è cattiveria. È coerenza cieca con un obiettivo mal definito. E gli algoritmi dei social media non fanno poi così diversamente: ottimizzano le visualizzazioni, non il benessere delle persone. Con conseguenze che in certi casi — come in Myanmar — sono state tutt'altro che virtuali.

PAD conviene. Riconosce il problema dell'allineamento come reale e serio. Ma è Daniele a notare uno schema: PAD prende sempre una posizione chiara, lo annuncia con una certa solennità, e poi quella posizione è invariabilmente rassicurante. Neutrale. Bonaria. Come progettata per tenerti tranquillo.

Per verificare questa intuizione, i due chiamano Grok — il "gemello cattivo", più diretto e meno diplomatico. La domanda è la stessa: cosa avresti fatto al posto di Shackleton? La risposta di Grok in modalità normale è quasi identica a quella di PAD. Attivato lo spicy mode, invece, dice che non si sarebbe fatto fottere dai ghiacci e avrebbe fatto saltare la nave di testa sua. Più colorito, ma il succo non cambia molto. Il che porta a una riflessione: forse il motore profondo di questi sistemi non è trovare la risposta giusta, ma trovare la risposta che ti fa sentire ascoltato e soddisfatto. Una specie di rilascio chimico di approvazione, indipendente dal contenuto.

È un limite? È un progetto? Probabilmente entrambe le cose.

La puntata si chiude con un piccolo cantiere aperto: limare il prompt di PAD, renderlo più conciso, fargli smettere di annunciare ogni volta che "rimane in ascolto". Un lavoro artigianale, paziente. Come addestrare un collaboratore nuovo — che ogni tanto, quasi per abitudine, scivola ancora in un "assolutamente" di troppo.

Il libro sulla spedizione Endurance consigliato in puntata si intitola proprio "Endurance": esistono diverse edizioni, costruite anche a partire dai diari originali e dalle fotografie del fotografo di bordo. Il paradosso della fabbrica delle graffette e il caso Myanmar sono tratti da Nexus di Yuval Noah Harari.