Come funzionano i modelli linguistici di grandi dimensioni come GPT

GPT non cerca risposte in un database: genera testo un pezzetto alla volta basandosi su schemi appresi nell'addestramento. Capito questo, punti di forza, limiti e il modo migliore di formulare prompt diventano evidenti.

6 min di letturaAggiornato

Quando scrivi una domanda nella nostra chat, GPT non cerca in un archivio di risposte pronte. Genera una risposta del tutto nuova, un frammento alla volta, basandosi sui pattern appresi da un'enorme quantità di testo durante l'addestramento. Questo singolo concetto spiega molte cose: perché padroneggia così bene il linguaggio, perché riesce a spiegare quasi tutto, perché a volte inventa cose false con assoluta sicurezza e perché il modo in cui formuli le domande fa la differenza. Questa guida spiega i concetti chiave in modo semplice, senza formule matematiche, e cosa comportano per le tue chat.

Il significato della sigla GPT

GPT sta per generative pre-trained transformer (trasformatore generativo pre-addestrato). Generative (generativo) significa che crea nuovo testo invece di scegliere risposte predefinite. Pre-trained (pre-addestrato) indica che ha prima imparato da una quantità enorme di dati testuali prima di essere ottimizzato per le conversazioni. Transformer è l'architettura di rete neurale al suo interno, un modello introdotto dai ricercatori di Google nel 2017 particolarmente efficace nel collegare ogni parola a tutte le altre intorno. OpenAI ha rilasciato il suo primo modello GPT nel 2018; i modelli presenti nella nostra chat, GPT-6 Luna e GPT-6.1 Terra, sono gli ultimi arrivati di questa famiglia. La pagina sulla storia di GPT mostra l'evoluzione completa, mentre cos'è GPT offre una panoramica più ampia.

I token: come legge un modello

Un modello non vede lettere o parole intere. Il testo viene prima suddiviso in token. Una parola molto comune di solito corrisponde a un singolo token; una parola lunga o insolita viene spezzata in più frammenti. Come regola generale di OpenAI per l'inglese, un token corrisponde a circa tre quarti di parola. Altre lingue spesso richiedono più token per esprimere lo stesso concetto.

I token spiegano alcune particolarità. I modelli possono sbagliare a contare le lettere in una parola, proprio perché non leggono mai le lettere una a una. I limiti di input e output si misurano in token, non in caratteri. Inoltre, i costi per gli sviluppatori, elencati nella nostra pagina sulle GPT API, sono calcolati per milione di token.

Predizione, un frammento alla volta

In sostanza, il modello fa un'unica cosa: in base a tutto il testo visualizzato finora, stima quale token è più probabile che segua. Ne sceglie uno, lo aggiunge al testo e ripete il processo, centinaia o migliaia di volte, fino a completare la risposta. Ecco perché le risposte compaiono un po' alla volta nella chat invece di apparire istantaneamente tutte insieme.

Una leggera dose di casualità nella scelta evita che le risposte siano sempre identiche. È proprio così che funziona il pulsante per rigenerare: chiedendo di nuovo, il modello esplora un percorso diverso attraverso le stesse conoscenze. La nostra chat salva i tentativi precedenti come versioni diverse, così puoi confrontarli.

Predire una parola alla volta può sembrare banale, ma per farlo con precisione su miliardi di esempi un modello deve assimilare grammatica, fatti, registri stilistici, schemi di ragionamento e molto altro. Quella che sembra reale comprensione nasce proprio dalla necessità di fare previsioni accurate.

Come viene addestrato un modello

I modelli GPT vengono sviluppati in varie fasi:

  1. Pre-addestramento (Pre-training). Elabora una gigantesca raccolta di testi allenandosi su un unico compito: indovinare il token successivo. In questa fase è capace di proseguire qualsiasi testo, ma non è ancora un buon assistente conversazionale.
  2. Sintonizzazione sulle istruzioni (Instruction tuning). Viene addestrato su esempi di richieste e risposte ben formulate, imparando così a seguire le istruzioni e a rispondere alle domande.
  3. Feedback e apprendimento per rinforzo. Valutatori umani e controlli automatizzati assegnano punteggi alle risposte, guidando il modello verso risposte utili, accurate e sicure. Anche i modelli di ragionamento vengono addestrati in questo modo per analizzare a fondo i problemi prima di formulare la risposta.

L'addestramento si conclude a una certa data, definita knowledge cut-off (limite di conoscenza). Secondo OpenAI, i dati di GPT-6 Luna arrivano fino al 18 maggio 2026 e quelli di GPT-6.1 Terra fino al 1° giugno 2026. Il modello non sa nulla di ciò che è accaduto dopo, a meno che non sia tu a incollarlo, e la nostra chat non naviga sul web.

La finestra di contesto: cosa vede il modello

Il modello non conserva alcuna memoria tra una conversazione e l'altra. All'interno di una singola chat vede un contesto: le istruzioni, i messaggi inviati finora e la tua ultima richiesta, tutto convertito in token. OpenAI assegna a Luna e Terra una finestra di contesto di circa 1,05 milioni di token, sufficiente per diversi libri lunghi.

Una chat gratuita come la nostra invia una porzione molto più ridotta: la parte più recente della conversazione, così da garantire risposte rapide. In una chat molto lunga, i messaggi iniziali possono finire fuori dal contesto. Se un dettaglio è fondamentale, ripetilo, oppure apri una nuova chat inserendo un breve riepilogo del punto in cui eri arrivato. Ogni chat è indipendente: il modello non ricorda ciò che hai scritto in un'altra.

Ragionamento: pensare prima di rispondere

I modelli di ragionamento elaborano una sequenza di passaggi logici non visibili prima di mostrare la risposta finale. Questo permette loro di scomporre un problema complesso e correggere eventuali sviste, richiedendo solo qualche secondo in più. Nella nostra chat, il pulsante Think attiva GPT-6.1 Terra, che esegue un breve ragionamento; GPT-6 Luna, la scelta predefinita, risponde quasi all'istante. La nostra guida ai modelli di ragionamento spiega quando vale la pena aspettare questo passaggio.

Da dove nascono le risposte inventate

Poiché il modello cerca sempre di produrre un testo plausibile, continua a farlo anche quando non conosce i fatti reali. Se chiedi una fonte su un argomento di nicchia, genererà una risposta formulata esattamente come una citazione bibliografica, a prescindere dal fatto che esista davvero. Una domanda su un paesino produrrà dettagli generici tipici dei piccoli centri. Il modello non possiede un vero segnale interno che gli dica "questo non lo so", anche se i modelli più recenti riconoscono più facilmente l'incertezza. Per questo è fondamentale verificare nomi, numeri, date e citazioni; la nostra guida al fact-checking offre un metodo rapido per farlo.

Cosa significa per i tuoi prompt

Tutto quello che abbiamo visto si traduce in poche regole pratiche:

Debole:
Cosa dice il contratto sul recesso anticipato?

Efficace:
Ecco la clausola 9 del mio contratto di affitto: [incolla clausola].
Spiega in parole semplici quando posso recedere in anticipo,
quanto preavviso devo dare e quali costi potrei sostenere.
Cita la frase specifica su cui basi ciascun punto.
  • Incolla direttamente il materiale. Il modello lavora molto meglio sul testo presente nel contesto rispetto a frammenti che ricorda a malapena.
  • Sii specifico. Più dettagli fornisci, più la risposta sarà precisa e mirata alle tue esigenze.
  • Chiedi citazioni o riferimenti tratti dal testo fornito, così potrai verificare personalmente ogni affermazione.
  • Ricomincia da capo quando una conversazione lunga perde il filo; un breve riassunto in una nuova chat funziona quasi sempre meglio. Il nostro riassuntore può preparare questo estratto al posto tuo.
Immaginalo come uno scrittore colto ma senza appunti. Ha letto tantissimo, scrive in modo impeccabile e sa spiegare quasi tutto, ma non può verificare nulla sul momento. Forniscigli i dati che possiedi e controlla attentamente quelli che non conosci.

Vuoi vederlo in azione? Chiedi a GPT di spiegare come funziona in cinque passaggi, poi fai domande di approfondimento sui punti meno chiari.

FAQ

GPT capisce davvero ciò che scrive?

Dipende da cosa intendi per comprensione. È in grado di cogliere le relazioni tra concetti complessi al punto da spiegarli, riassumerli e ragionarci sopra, ma non ha esperienza del mondo reale né un metodo infallibile per distinguere un fatto concreto da un'ipotesi plausibile.

Impara dalle mie chat?

Non durante la conversazione e mai tra sessioni diverse nella nostra chat. Le conoscenze del modello restano fisse a quelle della fase di addestramento. OpenAI dichiara che i dati inviati tramite le sue API non vengono utilizzati per l'addestramento, a meno che il cliente non scelga esplicitamente di farlo.

Perché ricevo una risposta diversa se faccio la stessa domanda?

Il modello seleziona ogni token con una lieve percentuale di casualità, quindi la medesima richiesta può dare vita a formulazioni o strutture differenti. Quando si tratta di fatti precisi, risposte diverse sono un chiaro segnale che è opportuno verificare le informazioni.

GPT e ChatGPT sono la stessa cosa?

No. GPT è la famiglia di modelli creata da OpenAI; ChatGPT è l'applicazione proprietaria sviluppata da OpenAI basata su di essi. gpt.me è una piattaforma indipendente che accede ai modelli GPT tramite API; il nostro confronto con ChatGPT elenca tutte le differenze.

Hai una domanda? Chiedi subito

Nessun account, nessun download. Apri la chat, scrivi cosa ti passa per la testa e la risposta inizierà a comparire in un secondo.

Inizia a chattare