Il quadro generale
Il software tradizionale segue istruzioni scritte dalle persone: se succede questo, fai quello. L'IA ribalta il processo. Invece di scrivere le regole, gli ingegneri mostrano a un sistema molti esempi e lasciano che un algoritmo di apprendimento scopra le regole da solo.
Quasi tutti i sistemi di IA che usi oggi seguono lo stesso processo.
| Fase | Cosa succede | Esempio: un assistente virtuale |
|---|---|---|
| Dati | Raccoglie e pulisce gli esempi. | Grandi quantità di testi, codice e conversazioni. |
| Modello | Sceglie un'architettura con parametri regolabili. | Una rete neurale Transformer con miliardi di parametri. |
| Addestramento | Regola i parametri per ridurre gli errori. | Predice il token successivo, poi migliora grazie al feedback umano e dell'IA. |
| Valutazione | Esegue test su dati che il modello non ha mai visto. | Benchmark, test di sicurezza e revisione umana. |
| Inferenza | Usa il modello con nuovi dati in ingresso. | Risponde al tuo messaggio in pochi secondi. |
Passo 1: I dati
I dati sono la materia prima dell'IA. Un modello può imparare solo gli schemi presenti nei dati di addestramento, quindi la qualità, la varietà e l'equità di quei dati influenzano tutto ciò che segue.
- Dati strutturati: tabelle come transazioni, letture di sensori o cartelle cliniche.
- Dati non strutturati: testi, immagini, audio e video, che costituiscono gran parte delle informazioni nel mondo.
- Dati etichettati: esempi accompagnati dalla risposta corretta, come foto contrassegnate con "gatto" o "cane".
- Dati sintetici: esempi generati da altri modelli di IA, oggi ampiamente usati per addestrare e perfezionare nuovi modelli.
Prima dell'addestramento, i dati vengono ripuliti, privati dei duplicati, filtrati per eliminare contenuti dannosi o di bassa qualità e convertiti in numeri che il modello può elaborare. Per i testi, questo significa dividerli in token, ovvero parole o parti di parole.
Passo 2: I metodi di apprendimento
Il machine learning offre diversi modi per imparare dai dati. I sistemi moderni spesso li combinano.
Apprendimento supervisionato
Impara da esempi etichettati. È usato per rilevare lo spam, classificare immagini mediche e prevedere i prezzi.
Apprendimento non supervisionato
Individua strutture nei dati non etichettati, come segmenti di clienti o transazioni insolite.
Apprendimento auto-supervisionato
Crea le proprie etichette a partire da dati grezzi, per esempio nascondendo una parola e cercando di prevederla. È così che vengono preaddestrati gli LLM.
Apprendimento per rinforzo
Impara per tentativi ed errori sulla base di ricompense. È usato nell'IA che gioca, nella robotica e per addestrare modelli di ragionamento.
Passo 3: Le reti neurali
La maggior parte dei sistemi di IA moderni usa reti neurali artificiali. Una rete è composta da strati di piccole unità (neuroni). Ogni unità moltiplica i valori in ingresso per i rispettivi pesi, li somma e passa il risultato allo strato successivo attraverso una semplice funzione non lineare.
- Lo strato di input riceve numeri che rappresentano i dati, come i valori dei pixel o le rappresentazioni numeriche dei token.
- Gli strati nascosti trasformano quei numeri, passo dopo passo, in caratteristiche più astratte, come contorni, forme e oggetti in un'immagine.
- Lo strato di output produce il risultato, come la probabilità di ogni possibile parola successiva.
Deep learning significa semplicemente usare reti con molti strati. Architetture diverse si adattano a dati diversi: reti convoluzionali per le immagini, reti ricorrenti per i sistemi vocali più datati, modelli di diffusione per generare immagini e Transformer per il linguaggio e, sempre più spesso, per quasi tutto il resto.
Passo 4: L'addestramento
L'addestramento è un ciclo di ottimizzazione che si ripete miliardi di volte.
- Passaggio in avanti: il modello formula una previsione per un gruppo di esempi.
- Errore: una funzione di perdita misura quanto la previsione è sbagliata.
- Retropropagazione: l'algoritmo calcola quanto ogni peso ha contribuito all'errore.
- Discesa del gradiente: ogni peso viene modificato leggermente nella direzione che riduce l'errore.
I modelli linguistici più avanzati vengono addestrati su enormi set di dati usando migliaia di chip specializzati (GPU o TPU) per settimane o mesi. Secondo le stime pubbliche, addestrare i modelli più grandi costa decine o centinaia di milioni di dollari. Per questo solo poche aziende li sviluppano da zero.
Un problema comune è l'overfitting: il modello memorizza gli esempi usati per l'addestramento invece di imparare schemi generali. Gli ingegneri lo individuano testando il modello su dati di validazione separati e lo prevengono con più dati, tecniche di regolarizzazione e l'interruzione anticipata dell'addestramento.
Passo 5: L'inferenza
L'inferenza è ciò che avviene quando usi l'IA. I pesi appresi restano fissi e il tuo input attraversa la rete una volta (o, nella generazione di testo, una volta per ogni token generato) per produrre un output.
L'inferenza costa molto meno dell'addestramento, ma con centinaia di milioni di utenti richiede comunque grandi data center. Per questo i fornitori offrono modelli di varie dimensioni: modelli piccoli e veloci per le attività semplici e modelli più grandi o di ragionamento per i problemi difficili.
Come funzionano i modelli linguistici di grandi dimensioni
I modelli linguistici di grandi dimensioni (LLM), come OpenAI GPT, Anthropic Claude, Google Gemini e i modelli con pesi aperti come Llama, Mistral, Qwen o DeepSeek, vengono sviluppati in più fasi.
Token ed embedding
Il testo viene suddiviso in token e ogni token viene associato a un embedding: una lunga sequenza di numeri che ne rappresenta il significato. Le parole con significati simili hanno embedding simili.
Il Transformer e il meccanismo di attenzione
L'architettura Transformer, introdotta nel 2017, usa un meccanismo chiamato attenzione. Per ogni token, questo meccanismo individua quali altri token nel contesto sono più importanti. Così il modello può collegare un pronome al nome giusto o una domanda alla parte pertinente di un documento lungo.
Pre-addestramento
Il modello legge enormi quantità di testo e impara a prevedere il token successivo. Per riuscirci, deve assimilare grammatica, informazioni, modi di ragionare e schemi di programmazione.
Addestramento successivo
Un modello appena pre-addestrato si limita a continuare un testo. L'addestramento sulle istruzioni, l'apprendimento per rinforzo basato sul feedback umano (RLHF) e metodi simili gli insegnano a seguire istruzioni, sostenere una conversazione, rifiutare richieste dannose e ammettere quando non è sicuro.
Contesto e strumenti
Durante l'inferenza, il modello vede una finestra di contesto che contiene la tua conversazione, le istruzioni e, a volte, documenti recuperati. La generazione aumentata tramite recupero (RAG) e la ricerca sul web gli forniscono informazioni aggiornate che non ha appreso durante l'addestramento.
Modelli di ragionamento e agenti IA
Dal 2024, due sviluppi hanno cambiato il funzionamento pratico dell'IA avanzata.
I modelli di ragionamento vengono addestrati, spesso tramite apprendimento per rinforzo, ad affrontare un problema per passaggi intermedi prima di dare una risposta finale. Dedicare più risorse di calcolo alla risposta tende a migliorare i risultati in matematica, scienze, programmazione e pianificazione. La maggior parte dei principali fornitori offre ora modalità di ragionamento o «pensiero».
Gli agenti IA inseriscono un modello in un ciclo: pianificano, agiscono usando uno strumento, osservano il risultato e pianificano di nuovo. Gli strumenti possono includere la navigazione web, l'esecuzione di codice, la modifica di file o altri software. Gli agenti possono completare attività in più passaggi, ma hanno comunque bisogno di obiettivi chiari, autorizzazioni e supervisione umana.
I sistemi multiagente fanno un passo in più e permettono a diversi ruoli IA di collaborare o confrontarsi. Le ricerche sul «dibattito tra IA» suggeriscono che far sì che i modelli si critichino a vicenda può portare alla luce errori che un singolo modello non noterebbe.
Cosa significa nell'uso quotidiano
Capire come funziona l'IA aiuta a usarla meglio.
- Fornisci contesto. Il modello conosce solo ciò che ha appreso durante l'addestramento e ciò che scrivi nel prompt.
- Per le informazioni importanti, chiedi spiegazioni e fonti, poi verificale.
- Usa un modello di ragionamento per i problemi complessi e un modello veloce per le bozze rapide.
- Confronta le prospettive. Modelli diversi, addestrati su dati diversi, possono arrivare a conclusioni diverse.
Debatly rende semplice confrontare le prospettive: diversi personaggi IA dibattono sulla tua domanda e un giudice IA riassume chi ha sostenuto meglio la propria tesi e perché. Puoi anche chattare direttamente con gli ultimi modelli di OpenAI, Anthropic e Google nella stessa app.