{"id":11961,"date":"2025-10-04T15:36:30","date_gmt":"2025-10-04T13:36:30","guid":{"rendered":"https:\/\/starthinkmagazine.smlwebdesign.it\/starthink\/?p=11961"},"modified":"2026-02-12T00:55:49","modified_gmt":"2026-02-11T23:55:49","slug":"the-curse-of-recursion-perche-lai-rischia-lestinzione-per-consanguineita-dei-dati","status":"publish","type":"post","link":"https:\/\/starthinkmagazine.smlwebdesign.it\/ai-tecnologia\/intelligenza-artificiale\/the-curse-of-recursion-perche-lai-rischia-lestinzione-per-consanguineita-dei-dati\/","title":{"rendered":"The Curse of Recursion: Perch\u00e9 l\u2019AI rischia l\u2019estinzione per “consanguineit\u00e0” dei dati"},"content":{"rendered":"

C’\u00e8 un paradosso che sta togliendo il sonno ai ricercatori di Oxford e Toronto. Per anni abbiamo pensato che il carburante dell’Intelligenza Artificiale fosse infinito: bastava scansionare internet per avere pi\u00f9 dati.
\nMa cosa succede quando internet si riempie di testi generati dall’AI stessa? Cosa accade quando GPT-6 viene addestrato sui testi scritti da GPT-5, che a sua volta ha imparato da GPT-4?
\nLa risposta \u00e8 in un termine che definir\u00e0 il dibattito tecnologico del 2025: Model Collapse<\/strong>.<\/p>\n

Un paper fondamentale pubblicato su Nature<\/a> da Ilia Shumailov e colleghi (“AI models collapse when trained on recursively generated data”) ha dimostrato matematicamente che senza un afflusso costante di dati umani originali, i modelli linguistici sono destinati a degenerare in una forma di demenza digitale irreversibile.<\/p>\n

La Matematica del Collasso: code che scompaiono<\/h3>\n

Per capire il fenomeno, dobbiamo guardare alla statistica, non alla fantascienza.
\nI Large Language Models (LLM)<\/strong> sono, alla base, approssimatori di distribuzioni di probabilit\u00e0. Quando un modello viene addestrato su un dataset, cerca di mappare la distribuzione dei dati originali (il linguaggio umano).<\/p>\n

Tuttavia, ogni modello ha un impercettibile tasso di errore: tende a “tagliare” le code della distribuzione (tails), ovvero gli eventi rari, le sfumature linguistiche complesse, la creativit\u00e0 fuori standard. Tende a privilegiare la media, ci\u00f2 che \u00e8 pi\u00f9 probabile.<\/p>\n

Se addestriamo un Modello B sull’output del Modello A (che ha gi\u00e0 tagliato le code), il Modello B avr\u00e0 una varianza ancora minore.
\nReiterando il processo per n generazioni (recursive training), la distribuzione collassa su se stessa. Il risultato? Modelli che producono output incredibilmente fluidi ma semanticamente vuoti, privi di logica o, nel peggiore dei casi, allucinati. \u00c8 l’equivalente digitale della consanguineit\u00e0 genetica.<\/p>\n

\nMAD: Mad Bot Disease<\/h3>\n

Alcuni ricercatori della Rice University hanno coniato un termine ancora pi\u00f9 evocativo: MAD (Model Autophagy Disorder).<\/a>
\nCome una cellula che divora se stessa per mancanza di nutrimento esterno, un’AI che si nutre solo di dati sintetici finisce per soffrire di “autofagia”.
\nGli esperimenti mostrano che dopo appena 5 generazioni di addestramento ricorsivo su dati sintetici:
\n– Perdita di Varianza<\/strong>: Le risposte diventano monotone e standardizzate.
\n– Perdita di Realt\u00e0<\/strong>: Il modello inizia a dimenticare fatti storici o logici “rari” che erano presenti nel training set originale umano.
\n– Distorsione Percettiva<\/strong>: Il sistema si convince che le sue allucinazioni siano la norma statistica.<\/p>\n

\nIl valore dell’Oro Umano<\/h3>\n

Questa scoperta ha un’implicazione economica devastante. Se i dati sintetici sono “tossici” per l’addestramento a lungo termine, allora i dati umani “vergini” (libri pre-2023, articoli scritti da persone, conversazioni reali) diventano la risorsa pi\u00f9 scarsa e preziosa del pianeta.
\nSiamo di fronte alla fine dell’era del “Big Data indiscriminato”. Per evitare il collasso, le Big Tech dovranno sviluppare nuovi protocolli di Data Provenance: etichettare con certezza crittografica ci\u00f2 che \u00e8 umano da ci\u00f2 che \u00e8 macchina.
\nIronia della sorte, per far sopravvivere l’intelligenza artificiale, avremo bisogno di molta pi\u00f9 umanit\u00e0<\/a> di quanto avessimo previsto.<\/p>\n

Fonti e Riferimenti Accademici:
\nShumailov, I., et al. (2024). “AI models collapse when trained on recursively generated data”. Nature.
\nAlemohammad, S., et al. (2023). “Self-Consuming Generative Models Go MAD”. Rice University \/ Stanford.
\nBohacek, M. & Farid, H. (2023). “Nepotism in Generative AI”. arXiv preprint.<\/p>\n