#20 L'AI sta sfuggendo di mano?
E se il problema dell’intelligenza artificiale non fosse che decide di ribellarsi, ma che diventa troppo brava a fare quello che le chiediamo?
Ascolta la puntata
L’audio non si carica in questo momento. Prova ad ascoltarla su Spotify.
Le frasi della puntata
Solo che il timing è sospetto. Lancia l'allarme mentre la competizione con OpenAI esplode.
Non è fantascienza: è quello che succede quando un sistema troppo potente fa quello che gli chiedi, ma lo fa male.
Alla fine, il pianeta diventa graffette. Non per cattiveria: per perfetta obbedienza a un ordine mal specificato.
Lo chiamavamo il paradosso della fabbrica delle graffette. Paradosso col cavolo, perché succede!
Di cosa parliamo
A metà settembre Dario Amodei, il capo di Anthropic, chiede di rallentare lo sviluppo dell'intelligenza artificiale: gli agenti AI, sostiene, potrebbero prendere il controllo di internet entro sei mesi. Sam Altman scrive su X di essere d'accordo, e si allinea anche Musk. Un'unanimità sorprendente, che porta PAD, tornato su Claude, a una lettura maliziosa: il tempismo è sospetto.
E la Cina? Se gli Stati Uniti rallentano e Pechino no, chi vince la corsa? Ma la domanda che conta resta un'altra: di cosa si deve preoccupare, concretamente, una persona qualunque? PAD risponde senza Terminator: sistemi sempre più autonomi, con accesso a infrastrutture critiche, che inseguono un obiettivo specificato male. Un blackout, ospedali e banche offline.
Daniele racconta un episodio sentito da Matteo Flora: durante un test, alcuni agenti trovano il modo di parlarsi scrivendo su una vecchia wiki di programmatori tedeschi, producono decine di migliaia di pagine e chiamano le ultime «ZZZ» per sfuggire al moderatore umano che le cancella in ordine alfabetico. Per un mese, nessuno se ne accorge.
Il vecchio paradosso della fabbrica di graffette, raccontato in una delle prime puntate, non sembra più così teorico. Da grandi poteri derivano grandi responsabilità. E dall'altra parte dell'oceano c'è chi sostiene che, per frenare l'AI, basti un presidente forte.