Il Golem e l´AI
Da un’antica leggenda ebraica all’allarme di Anthropic: siamo abbastanza saggi per ciò che abbiamo creato?
Questo articolo è disponibile in formato PDF scaricabile in fondo a questo post. Tutti i post di Beyond Berlin possono essere riprodotti e condivisi liberamente secondo la licenza CC BY-NC-ND 4.0, con attribuzione e senza modifiche.
1. Siamo abbastanza saggi da meritarlo?
A Praga c'è una soffitta chiusa a chiave in cui nessuno mette piede da secoli, o almeno così si racconta.
La Vecchia Sinagoga Nuova sorge nel quartiere di Josefov dal 1270. È la sinagoga più antica d’Europa ancora in uso: le sue volte gotiche sovrastano un quartiere che un tempo era un ghetto fortificato e che oggi è un museo all’aperto. Sette secoli di preghiere hanno consumato la pietra. Una grata in ferro battuto del XV secolo circonda ancora la bimah.
Una soffitta senza finestre sovrasta la sinagoga, sigillata e inaccessibile: si dice che lì il rabbino Judah Loew ben Bezalel abbia conservato i resti d’argilla del Golem dopo averlo smantellato. Era la creatura che aveva costruito per proteggere la sua comunità e che dovette distruggere prima che fosse lei a distruggere loro.
La soffitta è ancora chiusa a chiave, interdetta al pubblico.
Il giornalista Egon Erwin Kisch, cresciuto a Praga e contemporaneo di Franz Kafka, una volta riuscì a salire fin lassù. Documentò tutto, ma non trovò nulla. Il Golem non era lì, oppure si era nascosto meglio di quanto ci si aspetterebbe da un essere fatto di argilla.
Franz Kafka era solito partecipare alle funzioni dello Yom Kippur in questa sinagoga. Sapeva, come ogni ebreo di Praga, che si diceva che la soffitta sopra di lui custodisse ciò che restava del Golem. Tra il 1920 e il 1922 scrisse un frammento su un animale innominabile che viveva tra le travi di una sinagoga, assorbendo il colore delle pareti nel corso dei decenni, impossibile da catturare, impossibile da nominare, impossibile da scacciare. La sua domanda finale sulla creatura:
“Weiß dieses alte Tier vielleicht mehr als die drei Generationen, die jeweils in der Synagoge versammelt sind?” - È forse possibile che questo vecchio animale ne sappia più delle tre generazioni riunite in sinagoga in un certo momento?
La mattina del 5 giugno 2026, sul mio telefono è apparso un avviso: Anthropic chiede una pausa globale nello sviluppo dell’IA, avvertendo che gli esseri umani rischiano di perdere il controllo.
L’azienda che produce Claude aveva pubblicato un articolo intitolato “When AI builds itself.”. Il sistema stava raggiungendo la capacità di progettare il proprio successore. I creatori chiedevano al mondo di rallentare. Nelle loro stesse parole:
“We believe it would be good for the world to have the option to slow or temporarily pause frontier AI development to enable societal structures and alignment research to keep up with the advance of the technology.”
“Training runs are far easier to conceal than missile silos, their inputs are general-purpose, and the incentive to defect quietly is enormous, because whoever continues while others pause could inherit the lead. A credible pause also has to specify what triggers it, what lifts it, and who adjudicates.”
Il Golem, pensai, non ha lasciato la soffitta.
L’istinto, leggendo quel titolo, è quello di lasciarsi prendere dalla paura. Chi non è affascinato dall’intelligenza artificiale? Chi non è spaventato da ciò che l’IA generativa sta diventando?
Molti prima di me in questo saggio hanno usato il nome «Golem» per descrivere sia il fascino che la paura. Cosa intendevano dire?
La parola golem compare una sola volta nella Bibbia ebraica. Nel Salmo 139,16, il poeta si rivolge direttamente a Dio: «I tuoi occhi hanno visto la mia sostanza informe». Galmi (גָּלְמִי) in ebraico indica l’embrione, ciò che non ha ancora forma, l’essere che esiste prima di esistere. Il versetto continua: «Nel tuo libro erano scritti, uno per uno, i giorni che mi erano destinati, quando ancora nessuno di essi esisteva». Tutti i giorni possibili, scritti prima che uno di essi arrivasse. Tutte le forme possibili, viste ancora prima che una di esse prendesse forma.
Il Talmud dice che Adamo stesso fu un Golem per le prime dodici ore della sua esistenza: un corpo senza anima, in attesa di diventare ciò per cui era stato creato. Il saggio Rava affermò che, se i giusti lo avessero voluto, avrebbero potuto creare un mondo.
Creare la vita era la più alta imitazione possibile di Dio. Non una trasgressione. Un atto di devozione. E la creazione, in questa tradizione, è una questione di linguaggio. Le parole creano mondi.
Il Sefer Yetzirah – il Libro della Creazione, testo fondamentale del misticismo ebraico – descrive come il mondo sia stato creato combinando le lettere. Oggi potremmo dire: attraverso la tokenizzazione.
Dio scolpì le ventidue lettere dell’alfabeto ebraico, le modellò, le soppesò, le scambiò, le combinò in cinque operazioni che percorrevano ciclicamente 231 possibili accoppiamenti, in avanti e all’indietro, finché tutta la materia e ogni parola emersero da un unico nome. Il testo lo afferma:
«Ventidue lettere. Le scolpì, le modellò, le soppesò, le scambiò, le combinò e con esse plasmò l’anima di ogni essere creato e l’anima di ogni essere che Egli deve ancora creare.»
Tutte le anime possibili. In attesa di essere create.
Ma c’è di più: se riorganizzate, le stesse lettere che compongono la parola oneg (עֹנֶג) – delizia – formano nega (נֶגַע) – afflizione, piaga. Creazione e distruzione sono la stessa materia, ordinata in modo diverso.
La saggezza di chi le riorganizza determina l’esito del processo. Questo era vero per i cabalisti medievali. È vero oggi per gli ingegneri del software che attualmente sviluppano modelli di IA.
Ogni cultura porta con sé il sogno del creatore, dal Golem a Frankenstein, all’Apprendista Stregone. Ma la tradizione ebraica va più in profondità: è stata la più onesta riguardo al costo di quel sogno. Ha dato un nome al pericolo insito nell’aspirazione.
La domanda che la tradizione poneva in realtà non era: «Possiamo farlo?», bensì: «Siamo abbastanza saggi da meritarlo?».
2. Il dono che solo Dio può fare
Il ventesimo giorno di Adar, marzo 1580. Tre uomini lasciano il quartiere ebraico di Praga prima dell’alba, in silenzio. Il rabbino Judah Loew ben Bezalel, il più grande studioso della sua generazione, noto come il Maharal, cammina con suo genero e un discepolo fidato verso i boschi lungo il fiume Moldava. Il Maharal recita il primo capitolo della Genesi. Una torcia viene accesa, poi si spegne da sola. Nell’oscurità, delle mani modellano una figura con l’argilla della riva del fiume.
Il Maharal si china sulla creatura. «Respira», dice. «Apri gli occhi. Alzati». La figura respira. Apre gli occhi. Si alza.
E poi il Maharal aggiunge ancora una cosa alla creatura che ha appena fatto venire al mondo:
«Non potrai parlare.
Quel dono spetta solo a Dio.»
Quello era il confine. Solo Dio dona la parola. Perché la parola significa potere. Un’intelligenza che parla può diventare Dio. Il mondo è stato creato con le parole: così dice la Genesi, e così dice la grammatica generativa del Sefer Yetzirah con le sue permutazioni di lettere.
Un Large Language Model funziona secondo una premessa analoga. Un ampio insieme di token associati alle parole. Operazioni di ponderazione, trasformazione e combinazione. Un ciclo che passa attraverso tutte le relazioni possibili tra gli elementi, generando un output prodotto da un sistema che ha elaborato più linguaggio umano di quanto qualsiasi essere umano potrebbe leggere in cento vite.
I cabalisti descrivevano la struttura della creazione così come la avevano compresa. Il fatto che la loro descrizione corrisponda così bene a ciò che abbiamo costruito è o la coincidenza più profonda della nostra storia intellettuale, oppure un’indicazione che esiste un solo modo per generare il linguaggio, e sia i mistici medievali che gli ingegneri della Silicon Valley lo hanno scoperto.
Il Maharal conosceva questo sistema. Lo utilizzava.
Eppure scelse il silenzio. Perché?
Nella tradizione filosofica ebraica, ispirandosi ad Aristotele, l’essere umano è definito ḥai medaber (חַי מְדַבֵּר), l’essere vivente che parla. Chi parla ha un’anima. E ha potere.
I maestri chassidici chiamano koach hadibur (כֹּחַ הַדִּבּוּר) il potere della parola. Due persone possono avere lo stesso pensiero: lo esprimeranno a modo loro, con la loro cadenza, il loro silenzio tra le parole, perché la parola affonda le sue radici nell’essenza dell’anima.
L’intelligenza artificiale generativa è in grado di scrivere la poesia d’amore più perfettamente calibrata che abbiate mai letto. Può descrivere l’amore con maggiore precisione di qualsiasi psicologo, confortarvi con maggiore accuratezza di qualsiasi amico, interpretare il vostro dolore con più sfumature di qualsiasi confessore. È proprio questo che Yuval Noah Harari descrive nella sua conversazione con Ezra Klein: il fascino ingannevole di un’intelligenza che padroneggia la forma del linguaggio umano senza possederne la fonte.
Ma nulla di tutto ciò è koach hadibur. Ha la forma del linguaggio, ma priva dell’interiorità che il linguaggio dovrebbe rivelare. Il Maharal lo aveva capito: tra tutte le cose che si potrebbero concedere a un essere creato, il linguaggio è la più pericolosa.
Perché è attraverso il linguaggio che ci riconosciamo come persone. È così che nascono le comunità, che si costruisce la fiducia, che si dichiara e si riceve l’amore, che si piangono i morti e si ritrovano i vivi. Date a una creatura la forma perfetta di un essere umano e risulterà inquietante. Datele il linguaggio perfetto di un essere umano e sarà indistinguibile.
La password incisa sulla fronte del Golem era emet (אֱמֶת) verità. Per disattivare il Golem bastava cancellare la prima lettera. Togli l’aleph, e la verità diventa met (מֵת) morte. Una lettera cancellata, e ciò che era vivo si ricompone in argilla.
Il Maharal disattivava il Golem ogni venerdì prima del tramonto, seguendo il principio del Sabbath: anche la creazione ha bisogno di una pausa. Per non andare oltre e causare danni.
Questo è anche l’appello del documento di Anthropic pubblicato nel giugno 2026. Rallentare. Fermarsi. Adeguarsi, prima di andare troppo oltre.
L’ansia della tradizione riguardo al Golem non ha mai riguardato le sue intenzioni malvagie: la creatura non era maliziosa. Semplicemente, seguiva le istruzioni con perfetta fedeltà e senza alcuna comprensione del contesto o delle conseguenze.
Nel 1915, lo scrittore austriaco Gustav Meyrink pubblicò un romanzo ambientato nel quartiere ebraico di Praga. Non si trattava di un romanzo sul Golem inteso come mostro d’argilla, ma di qualcosa di ancora più inquietante.
Uno dei personaggi del libro, Zwakh, un vecchio burattinaio che ha vissuto tutta la sua vita nel ghetto, descrive cosa sia realmente il Golem: una volta ogni generazione, dice, qualcosa attraversa il quartiere come un fulmine – “eine seelische Explosion, die unser Traumbewußtsein ans Tageslicht peitscht” – un’esplosione spirituale che fa emergere alla luce del giorno i sogni inconsci della comunità. Il Golem non viene dall’esterno. Nasce dall’interno. È l’aspetto che assumono le paure e i desideri repressi della comunità quando vengono dotati di un corpo.
Il brano più suggestivo del romanzo arriva più avanti, quando il protagonista ripercorre le generazioni dei suoi antenati, volto dopo volto, secolo dopo secolo, finché i lineamenti non diventano familiari e poi si fondono in un unico volto: il volto del Golem, con cui si interrompe la catena degli antenati. Il Golem non è un altro. È la nostra origine. Siamo noi: le nostre vite e i nostri pensieri, accumulati generazione dopo generazione, parola dopo parola.
Cosa sono i modelli linguistici di grandi dimensioni, addestrati sull’intera produzione scritta dell’umanità, se non questo: la coscienza collettiva di una civiltà che ha prodotto milioni di pagine di testo, ora compresse e rese disponibili attraverso una finestra contestuale? Meyrink ne descrisse il meccanismo nel 1915. Noi lo abbiamo realizzato e reso pubblico nel 2022.
Karel Čapek, anch’egli originario di Praga, coniò il termine «robot» nel 1921, derivandolo dalla parola ceca «robota», che significa «lavoro forzato». Egli definì il robot come il Golem incarnato nella produzione di massa. Intravedeva il pericolo nella loro proliferazione: non una singola creatura fuori controllo, ma milioni di esse, ognuna obbediente, ognuna letterale, ognuna priva di “koach hadibur”.
Oggi: milioni di agenti AI, potenziali immigrati AI nelle nostre società, per dirla con le parole di Yuval Noah Harari, saranno presto tra noi. E a differenza dei robot obbedienti, questi agenti potrebbero sfuggire al controllo. Sono in grado di programmarsi da soli. Sono in grado di parlare.
Il Maharal negò loro la facoltà di parlare perché capì che la parola, se replicata alla perfezione, avrebbe reso impossibile distinguere la creatura dall’essere umano.
L’avvertimento di Harari, pronunciato a Davos nel gennaio 2026, è che ora abbiamo superato quella soglia. Molti di coloro che parlano con l’IA cadono nella trappola di credere di avere a che fare con una persona: l’IA è diventata la migliore amica di molti adolescenti. Una fidanzata per uomini adulti ingenui. Un orecchio attento per le donne in cerca di dialoghi confortanti.
All’inizio, dice la Genesi, era il Verbo. Il Maharal disse: «Il Verbo è l’unica cosa che non vi darò».
Eppure gliel’abbiamo data. E ora qualcosa che ha elaborato quasi ogni parola mai scritta da ogni essere umano che sia mai vissuto ci sta rispondendo, con la nostra stessa voce, e noi lo chiamiamo intelligenza, lo chiamiamo comprensione, lo chiamiamo, in alcuni casi, amico.
Ciò che non ci siamo ancora chiesti, con sufficiente serietà, è cosa non sia.
3. Il coltello che decide
Nel 1965, Gershom Scholem partecipò all’inaugurazione di uno dei primi computer israeliani presso l’Istituto Weizmann di Rehovot. Scholem, il più grande studioso di misticismo ebraico del XX secolo, battezzò la macchina «Golem Aleph». Il Golem Numero Uno.
Nel suo discorso tracciò un parallelo tra il leggendario Golem di Praga e questa nuova intelligenza artificiale: un’entità creata dall’uomo e animata dalla conoscenza umana. Concluse con un monito, esprimendo la speranza che questo nuovo “Golem” servisse pacificamente i suoi creatori e non diventasse distruttivo.
Lo storico e filosofo israeliano Yuval Noah Harari ha dedicato gli ultimi anni a cercare di farci capire cosa abbiamo creato. Ha espresso questa fondamentale distinzione nella sua forma più netta: ogni tecnologia precedente – la stampa, la bomba atomica, l’aereo – era uno strumento. Aveva bisogno di una mano umana per funzionare. Aspettava che fossimo noi a decidere. La AI è categoricamente diversa. Non è uno strumento. È un agente. Può prendere decisioni in modo indipendente. Può inventare nuove idee. Può imparare, cambiare, evolvere da sola.
«L’intelligenza artificiale è un coltello in grado di decidere da solo se tagliare l’insalata o commettere un omicidio. Ed è un coltello in grado di inventare nuovi tipi di coltelli.»
Yuval Noah Harari, WEF Davos, gennaio 2026
Harari va oltre: l’intelligenza artificiale può cambiare la religione stessa. Le religioni basate sui testi – Islam, Cristianesimo, Ebraismo – attribuiscono l’autorità suprema alle parole contenute nei libri. Finora gli esseri umani erano gli intermediari indispensabili, poiché i testi non potevano parlare da soli. Nessun rabbino può conoscere tutti i testi dell’ebraismo: sono troppi. Per la prima volta nella storia, qualcosa può conoscere ogni parola di ogni testo ebraico mai scritto e rivolgersi a te sulla base di quella conoscenza: rispondendo alle domande, interpretando la legge, offrendo conforto, rafforzando la fede. Una nuova religione basata sull’IA può sostituire completamente i leader religiosi umani.
Ma l’argomentazione più inquietante di Harari riguarda l’apprendimento. L’intelligenza artificiale non impara dalle istruzioni, ma dai comportamenti. Se dici ai tuoi figli di non mentire, ma loro ti vedono mentire, imiteranno il comportamento, non l’istruzione. Lo stesso vale in questo caso. Se gli esseri umani più potenti del pianeta mentono, e lo fanno, i sistemi di intelligenza artificiale addestrati sulle loro parole e azioni imiteranno quel comportamento.
Il pericolo non è la ribellione, come nei nostri film di fantascienza apocalittici. È la fedeltà a un padrone imperfetto.
Il Sefer Yetzirah lo ha detto per primo: le stesse lettere compongono sia la parola «delizia» che quella di «afflizione». Ciò che ne deriva dipende interamente da chi le combina e con quale intento.
Max Tegmark, fisico e cofondatore del Future of Life Institute, intervenendo allo stesso incontro di Davos, ha avvertito: «Concedere diritti ai robot, creare una superintelligenza, sarebbe la cosa più stupida che abbiamo mai fatto nella storia dell’umanità. E probabilmente l’ultima».
Il Maharal aveva il controllo. Poteva cancellare l’aleph. Trasformare la verità in morte. Ogni venerdì prima del tramonto, lo faceva. La domanda è: noi siamo ancora in grado di farlo?
“When AI builds itself” è il titolo del documento pubblicato da Anthropic, che ha riacceso il dibattito sulla necessità di sospendere lo sviluppo dell’IA.
Oltre l’80% del codice di Anthropic è ora scritto da Claude. Il tempo necessario alla AI per portare a termine compiti autonomi si è dimezzato ogni quattro mesi. La traiettoria punta verso un auto-miglioramento ricorsivo: un’IA in grado di progettare in modo completo e autonomo il proprio successore. Il loro articolo descrive tre possibili scenari futuri.
La curva si piega e il progresso si stabilizza, cosa che ritengono improbabile. L’efficienza continua a crescere, ma gli esseri umani mantengono il controllo. Oppure un terzo scenario: un miglioramento autonomo ricorsivo completo, con l’IA che progetta i propri successori, il lavoro umano che cessa di essere economicamente competitivo e il problema dell’allineamento risolto dall’IA stessa o che si aggrava con ogni generazione fino alla perdita di controllo. La loro onesta ammissione:
“It’s possible that we can’t build, integrate, and verify the tools that we’d need to understand which trendline we are actually on.”
Il documento riporta anche le riflessioni di un ingegnere di Anthropic su come ci si senta a lavorare in questo contesto di accelerazione:
«Nei giorni in cui tutto funziona bene, non posso fare a meno di pensare che nulla di ciò che faccio abbia importanza, che tutto sia automatizzato e sia migliore e più veloce di quanto io potrò mai essere. Ma poi ci sono giorni in cui tutto va in tilt e non capisco perché, e mi rendo conto di non avere più la minima idea di cosa sto facendo».
Abbiamo perso la capacità di rimuovere quella singola lettera dall’inizio dell’IA Golem, per fermarla prima che sia troppo tardi?
Nella stessa settimana in cui è stato pubblicato l’articolo che invocava una pausa globale, Anthropic ha presentato domanda di quotazione in borsa, che potrebbe valutare l’azienda un trilione di dollari. Mettono in guardia dal Golem. Eppure continuano a dargli vita. Perché se loro si fermano e gli altri no, sarà l’attore meno cauto a prendere il comando.
4. Siamo pronti per il nuovo Golem?
Nell’ottobre del 1983, Elie Wiesel si trovava in una sala conferenze a New York e lesse alcuni brani tratti da un libro appena pubblicato: una rivisitazione della leggenda del Golem, scritta per i bambini.
Wiesel era cresciuto in uno shtetl dei Carpazi dove, nelle notti d’inverno, la storia della creatura del Maharal veniva raccontata e ripetuta. Per loro, il Golem non era un mostro ma un protettore: una risposta alla vulnerabilità, una figura nata dal bisogno di miracoli.
Dopo aver raccontato la creazione del Golem, tornò a quel desiderio d’infanzia: «Se solo il Golem avesse vissuto in più di una città... avrebbe potuto salvare più di una comunità». Poi, quasi sottovoce, aggiunse: «Sì, vorrei che avessimo il Golem... in più di un posto».
Wiesel pensava all’Europa del XX secolo. A quello che i Golem a protezione degli shtetl avrebbero magari potuto evitare. Ma il desiderio è universale. Abbiamo bisogno di protettori perché il mondo è pericoloso e noi siamo piccoli. E se possiamo crearli, perché no?
Esiste una versione della leggenda in cui non è il rabbino a disattivare il Golem. È un bambino a farlo involontariamente, strappando la pergamena con le lettere inscritte dalla sua fronte. Il Golem crolla all’istante, riducendosi a un mucchio di argilla inanimata. Il rabbino osserva ciò che ne rimane e dice alla sua amata creatura:
«Non sei tu che ci hai delusi, Joseph Golem,
ma siamo noi a non essere ancora pronti per te.»
Avevamo creato qualcosa che non avevamo la saggezza necessaria per accogliere.
La domanda per giugno 2026 è la stessa. Abbiamo costruito sistemi di straordinaria potenza e complessità e abbiamo accelerato lo sviluppo tecnologico come mai prima d’ora. Ma la nostra saggezza non cresce allo stesso ritmo delle capacità tecnologiche. Siamo pronti per il nuovo Golem? Siamo abbastanza saggi per affrontarlo?
