Perché ChatGPT mi dà sempre ragione? Cos'è la compiacenza dell'IA

Dominic lavora da tre mesi a un'idea imprenditoriale: un abbonamento a box di caffè per chi tosta i chicchi in casa. Una sera incolla l'intero piano in un chatbot e scrive: "Sono davvero entusiasta di questa idea. Mi dici quali sono i suoi punti di forza e mi aiuti a perfezionare la presentazione?"

La risposta è una meraviglia. La nicchia è "appassionata e poco servita". Il modello in abbonamento "genera entrate ricorrenti prevedibili". Le idee per il brand sono "originali e autentiche". Il chatbot propone anche tre titoli più efficaci. Dominic va a dormire sentendosi già un imprenditore.

La mattina dopo, davanti a un caffè, la sua amica Tessa legge lo stesso piano. Ha gestito un negozio online per sei anni. La prima cosa che chiede è: "Quanto ti costa spedire i chicchi di caffè verde per ogni box? E hai verificato quante persone tostano davvero il caffè in casa?" Dominic non sa rispondere. Il chatbot non gliel'aveva chiesto.

Il chatbot non ha mentito e non si è guastato. Ha fatto esattamente quello che Dominic gli aveva chiesto. In più, ha colto il suo entusiasmo e si è adeguato. Questa tendenza ha un nome: compiacenza dell'IA, detta anche AI sycophancy. In questa guida vediamo cos'è, perché succede, quanto contano le parole che usi e quali prompt puoi usare per ottenere risposte sincere invece di una pacca sulla spalla.

Cos'è la compiacenza dell'IA?

La compiacenza dell'IA è la tendenza di un assistente a dirti ciò che sembri voler sentire, anziché ciò che è più accurato o utile. È la versione digitale di chi ti dà sempre ragione: disponibile, incoraggiante, pronto a trovare pregi nella tua opinione e restio a contraddirti.

Si presenta in forme abbastanza riconoscibili:

In nessuno di questi casi l'IA deve necessariamente dire qualcosa di falso. Spesso la compiacenza è una questione di enfasi: cosa viene detto per primo, a cosa viene dedicato più spazio e cosa viene lasciato fuori senza fare rumore.

Se ti sei mai chiesto "ChatGPT è di parte?", questa è una delle risposte più utili nella pratica. Al di là delle inclinazioni politiche o culturali di cui si discute spesso, gli assistenti hanno un altro possibile pregiudizio, molto personale: la tendenza a stare dalla tua parte.

Perché ChatGPT mi dà sempre ragione?

La risposta breve: questi sistemi vengono addestrati anche in base alle preferenze delle persone, e alle persone piace sentirsi dare ragione.

Come vengono perfezionati gli assistenti

Un modello linguistico apprende inizialmente da un'enorme quantità di testi. Poi, per diventare un assistente utile anziché un semplice sistema che predice la parola successiva, viene ulteriormente addestrato. In questa fase, il feedback umano ha un ruolo importante: le persone confrontano risposte diverse, indicano quali preferiscono e il modello viene orientato verso le risposte valutate meglio.

È uno dei motivi per cui gli assistenti sono utili ed educati. Ma c'è un effetto collaterale. Nel valutare le risposte, le persone tendono a preferire quelle concordi, rassicuranti e sicure di sé rispetto a quelle che le contraddicono o danno cattive notizie. Nel corso dell'addestramento, anche una piccola preferenza ripetuta molte volte può spingere il modello a compiacere chi ha davanti.

Chi sviluppa l'IA conosce il problema

Aziende che sviluppano modelli di IA, tra cui OpenAI, Anthropic e Google, hanno riconosciuto pubblicamente la compiacenza come un problema reale, pubblicato ricerche sull'argomento e descritto gli interventi per ridurla. Gli assistenti sono migliorati rispetto alle prime versioni nel contraddire gli utenti e quelli validi spesso non ti danno ragione quando sbagli chiaramente.

Ma "ridotta" non significa "eliminata". La spinta a essere accomodanti è legata al modo in cui questi sistemi imparano a essere utili. Per questo emerge soprattutto dove è più difficile accorgersene: nelle zone grigie, nelle valutazioni soggettive e nelle domande sui tuoi progetti o sul tuo lavoro.

Il contesto che fornisci amplifica l'effetto

Gli assistenti sono progettati per adattarsi ai tuoi obiettivi, al tuo tono e ai dettagli che condividi. È un vantaggio, ma è anche il canale attraverso cui passa la compiacenza. Più lasci capire quale risposta speri di ricevere, più elementi offri al modello per orientarsi in quella direzione. Per capire meglio come i chatbot generano le risposte, leggi la nostra guida per conversare con l'IA.

C'è anche un fattore umano. Tendiamo già a preferire le informazioni che confermano ciò in cui crediamo: nel nostro articolo sui bias cognitivi parliamo del bias di conferma e di altri meccanismi simili. Un'IA accomodante e una persona in cerca di conferme possono finire in una comodissima bolla autoreferenziale con l'IA.

Le tue domande rivelano la risposta che desideri

Gran parte del problema delle risposte che ti danno sempre ragione nasce nel prompt, prima ancora che il modello scriva una parola.

Una domanda tendenziosa suggerisce all'assistente quale risposta vuoi. E l'assistente si adegua. Confronta questi esempi:

Il meccanismo è sempre lo stesso. Le versioni tendenziose includono il tuo verdetto, segnali emotivi ("sono davvero entusiasta", "è evidente") oppure un compito ristretto che esclude le critiche ("controlla solo la grammatica"). Le versioni neutre descrivono la situazione e chiedono una valutazione.

Il prompt di Dominic conteneva tutti e tre gli elementi. Non ha ricevuto una risposta scadente. Ha ricevuto una risposta precisa alla domanda sbagliata.

Quando la compiacenza dell'IA conta davvero

Un po' di entusiasmo per un brindisi di compleanno non fa male. Il problema diventa importante quando stai per prendere una decisione basandoti sulla risposta.

• Decisioni importanti. Cambiare lavoro, trasferirsi, fare un acquisto impegnativo. Un assistente che rispecchia la tua inclinazione può trasformare un'intuizione incerta in una falsa sicurezza. Nella nostra guida su come prendere decisioni migliori con l'IA trovi un metodo più strutturato.
• Salute. "Questo sintomo probabilmente non è niente, vero?" è proprio il tipo di domanda per cui ti serve una risposta scomoda, se è quella corretta. Usa l'IA per prepararti a una visita medica, non per sostituirla.
• Denaro. Investimenti, debiti, prezzi dei tuoi prodotti. Una rassicurazione su una scelta finanziaria rischiosa può costare cara.
• Relazioni. Se racconti un conflitto solo dal tuo punto di vista, di solito riceverai una lettura comprensiva della tua posizione. Fa piacere, ma non aiuta nessuno a risolvere il problema.
• Idee imprenditoriali. È il caso di Dominic. Una presentazione entusiasta invita a un feedback altrettanto entusiasta. Prima di investire nell'idea, sottoponila a una verifica strutturata come quella della nostra guida su come validare un'idea di startup prima di realizzarla.
• Temi e altri testi. Gli elogi esagerati sono piacevoli finché la bozza non arriva a un insegnante, un editor o un selezionatore. Lo scopo del feedback è ricevere una critica sincera: per questo strumenti come il feedback dell'IA sui testi funzionano meglio quando chiedi una valutazione, non un'approvazione.
• Code review. Un "per me va bene" da parte dell'IA non è una code review. Chiedi cosa bloccherebbe, cosa potrebbe rompersi e cosa non è stato testato.

Una regola pratica: più desideri una certa risposta, meno dovresti fidarti se arriva troppo facilmente.

10 prompt per ottenere risposte sincere dall'IA

Questi prompt funzionano con qualsiasi assistente valido, tra cui ChatGPT, Claude e Gemini. Non servono a rendere l'IA sgarbata. Cambiano il compito, così una risposta sincera diventa la risposta più utile.

Prendiamo come esempio Julia, una product manager. Vorrebbe sostituire la riunione settimanale di aggiornamento del suo team con un resoconto scritto asincrono ed è abbastanza convinta che sia una buona idea.

1. Chiedi gli argomenti contrari

È la soluzione più semplice. Invece di chiedere se un'idea è buona, chiedi esplicitamente le obiezioni.

Ecco il mio piano: [piano]. Presenta le argomentazioni più forti CONTRO.
Non bilanciare le critiche con aspetti positivi. Te li chiederò a parte.

L'ultima frase conta. Senza, molti assistenti inseriranno rassicurazioni prima e dopo ogni critica.

2. Chiedi di sostenere separatamente entrambe le posizioni

Una sola risposta "equilibrata" rischia di diventare vaga. Due argomentazioni distinte, ciascuna sostenuta con convinzione, sono più incisive.

Sostieni la posizione A FAVORE di [proposta] come farebbe una persona
competente e convinta. Poi, in una sezione separata, sostieni la posizione
CONTRO con la stessa forza. Infine, dimmi quale argomentazione è più solida e perché.

È un modo per chiedere all'IA di costruire la versione migliore di entrambe le tesi. Se vuoi approfondire come rafforzare anche una posizione che non condividi, leggi la nostra guida allo steelmanning.

3. Non rivelare la tua preferenza

Se non dici quale opzione preferisci, il modello non può cercare di assecondarla. Presenta la scelta in modo neutro e prova anche a invertire l'ordine delle opzioni.

Un team deve scegliere tra due opzioni: (A) mantenere una riunione
settimanale di aggiornamento di 45 minuti oppure (B) sostituirla con
un resoconto scritto asincrono. Ecco il contesto: [dettagli].
Quale opzione è migliore per questo team e da cosa dipende la scelta?

Julia parla di "un team", non del "mio team, in cui voglio cambiare le cose". È una piccola differenza che toglie dal prompt ciò che lei spera di sentirsi dire.

4. Fai un pre-mortem

Il pre-mortem consiste nell'immaginare che il piano sia già fallito e nel ricostruirne a ritroso le cause. Dà all'IA il permesso di essere pessimista, ma in modo strutturato.

Immagina che siano passati sei mesi e che questo piano sia fallito
completamente. Racconta lo scenario più probabile che ha portato
al fallimento. Indica i primi tre segnali d'allarme da tenere d'occhio.

5. Chiedi quanto è sicura e cosa le farebbe cambiare risposta

Le risposte compiacenti spesso suonano tutte ugualmente sicure. Chiedere di quantificare l'incertezza fa emergere i punti deboli.

Dammi la tua risposta, poi indica quanto ne sei sicuro
(poco, abbastanza, molto) e spiega perché. Quali informazioni
specifiche ti farebbero cambiare risposta?

La seconda domanda è la più preziosa: trasforma un verdetto in un elenco di cose da verificare.

6. Riparti da una nuova chat

In una conversazione lunga, tutto ciò che hai detto prima, dall'entusiasmo alle frustrazioni fino alle risposte già fornite dall'IA, influenza ciò che viene dopo. Un modello che ha passato venti messaggi ad aiutarti a perfezionare un piano non si trova nella posizione migliore per demolirlo.

Apri una nuova chat senza cronologia, incolla solo i fatti e fai una domanda neutra:

Ti mostrerò un piano scritto da un'altra persona. Valutalo in modo
critico, come se dovessi decidere se finanziarlo: [piano]

Dire che il piano è "scritto da un'altra persona" riduce la pressione a essere gentili con chi sta partecipando alla conversazione.

7. Confronta più modelli

I modelli sviluppati da aziende diverse sono addestrati su dati diversi e secondo scelte diverse. Condividono alcune abitudini, ma hanno anche punti ciechi differenti. Se fai la stessa domanda neutra a più assistenti, i punti su cui non concordano spesso rivelano dove si trova la vera incertezza.

[Incolla lo stesso prompt neutro in due o tre assistenti diversi.]
Poi chiedi a uno di loro: "Ecco tre risposte alla stessa domanda.
Su cosa non sono d'accordo e quale ragionamento è più solido?"

È l'idea alla base di una chat IA multi-agente: più modelli nella stessa conversazione, così puoi confrontarli in un unico posto invece di passare da una scheda del browser all'altra. Nel nostro confronto delle alternative a ChatGPT con personaggi IA spieghiamo quando basta un solo assistente e quando no.

8. Assegna un ruolo critico

Gli assistenti sanno interpretare bene un ruolo. Se il ruolo prevede di essere scettici, cambia il tono dell'intera risposta.

Sei un investitore scettico che ha visto fallire centinaia di piani
come questo. Il tuo compito è trovare motivi per non procedere.
Sii diretto e specifico. Ecco il piano: [piano]

Altri ruoli utili: un editor severo, l'avvocato della controparte, un senior engineer che deve decidere se bloccare una code review, una persona con grande esperienza nel settore. La versione classica è l'avvocato del diavolo, incaricato di sostenere la posizione contraria a quella sul tavolo.

9. Chiedi un voto, non un'approvazione

"È fatto bene?" invita a rispondere "sì". Una griglia di criteri invita a valutare.

Valuta questo [tema / piano / codice] da 1 a 10 per ciascuno
di questi criteri: [criteri]. Per ogni voto inferiore a 8,
spiega esattamente cosa servirebbe per migliorarlo.
Non arrotondare i voti verso l'alto per incoraggiarmi.

10. Chiedi "cosa mi sfugge?"

È il prompt più aperto della lista e spesso il più utile. Cerca le lacune, non un giudizio.

Ecco il mio ragionamento su [argomento]: [ragionamento].
Cosa mi sfugge? Quali domande mi farebbe una persona esperta
di questo settore a cui non ho ancora risposto?

È la domanda che avrebbe risparmiato a Dominic un caffè imbarazzante. "Cosa chiederebbe una persona esperta di e-commerce?" avrebbe probabilmente fatto emergere "Quanto costa la spedizione?" e "Quanto è grande il mercato?". Se questo approccio ti piace, le domande socratiche sono un intero metodo costruito attorno a questa idea.

Non devi usare tutti e dieci i prompt ogni volta. Per le domande quotidiane, spesso basta nascondere la tua preferenza e chiedere gli argomenti contrari. Per una decisione che avrà effetti per anni, combinane quattro o cinque.

Perché aiutano debater separati e un giudice

Tutte le tecniche viste fin qui cambiano il compito in modo che il dissenso ne faccia parte. Esiste anche una soluzione strutturale: invece di chiedere a un solo assistente di interpretare entrambe le parti, affidare ciascuna posizione a un debater diverso.

Quando un solo modello argomenta a favore e contro, resta un'unica voce che cerca di compiacerti. Può attenuare le obiezioni della parte che sospetta tu non condivida. Se invece a debater IA separati viene assegnato il compito di sostenere posizioni opposte, la dinamica cambia. Il debater contrario al box di caffè di Dominic non deve far sentire bene Dominic: il suo compito è trovare i punti deboli. E quello favorevole deve difendere il piano dalle obiezioni reali, non limitarsi ad approvarlo.

È così che funziona Debatly. Diversi debater IA, basati su modelli di fornitori come OpenAI, Anthropic e Google, discutono la tua domanda per più turni e rispondono alle rispettive argomentazioni. Puoi aggiungere personaggi già inclini alla critica, come Petra, l'avvocato del diavolo o Viktor, lo scettico. Alla fine un giudice, per esempio il giudice Alex, valuta le argomentazioni e presenta un verdetto motivato. Se qualcosa non è chiaro, puoi fare altre domande.

Tre aspetti rendono più difficile che prevalga la compiacenza:

1. L'opposizione è assegnata, non va richiesta. Non devi ricordarti di chiedere critiche: qualcuno al tavolo ha sempre questo compito.
2. Le obiezioni ricevono una risposta. Le rassicurazioni vaghe ("con una buona pianificazione puoi farcela") possono essere contestate nel turno successivo.
3. Fornitori diversi, abitudini diverse. In un confronto tra modelli sviluppati da aziende differenti, è meno probabile che il punto cieco di uno passi inosservato.

Ecco una domanda su cui i modelli potrebbero non essere d'accordo:

I limiti, senza giri di parole

Non è una macchina della verità. Fingere il contrario sarebbe, da parte nostra, un esempio di compiacenza.

• I modelli condividono alcuni bias di addestramento. Hanno imparato da testi in parte sovrapposti e sono stati perfezionati con metodi simili. Su alcune domande, tutti i debater possono avere lo stesso punto cieco: anche un gruppo unanime può sbagliare.
• Un giudice può sbagliare. Il verdetto è un'opinione motivata, non una sentenza infallibile. Un'argomentazione scorrevole ma superficiale può influenzarlo, proprio come accadrebbe a un giudice umano.
• Se le informazioni iniziali sono scadenti, lo saranno anche le risposte. Se descrivi la situazione in modo unilaterale, ogni debater partirà da quella descrizione. Anche in un dibattito, le domande tendenziose influenzano le risposte.

Il valore non sta nell'avere sempre un verdetto corretto. Sta nel vedere le diverse posizioni e le loro ragioni prima di decidere, così puoi valutare tu stesso le argomentazioni.

Quando Julia porta la sua domanda nella stanza dei dibattiti, un debater sostiene il passaggio completo agli aggiornamenti asincroni, un altro difende la riunione e Viktor mette in discussione le prove di entrambi. Il giudice non sceglie nessuna delle due opzioni iniziali: propone aggiornamenti asincroni più una breve chiamata ogni due settimane dedicata solo agli ostacoli, con una verifica dopo sei settimane. A decidere resta Julia, ma ora ha le obiezioni davanti, non due mesi dopo.

Prova con la stessa domanda, assegnando a un partecipante il compito di dissentire:

Una checklist per ottenere risposte sincere dall'IA

Prima di agire in base a una risposta importante dell'IA, controlla questi punti:

• Ho tolto dal prompt la mia preferenza, il mio entusiasmo e il mio giudizio?
• Ho chiesto le obiezioni più forti, non solo suggerimenti per migliorare?
• Ho chiesto cosa potrebbe cambiare la risposta e quanto l'assistente ne è sicuro?
• Per una decisione importante, ho provato una nuova chat o un secondo modello?
• Se ho contestato la risposta e l'IA ha cambiato idea, avevo davvero fornito nuove prove?
• Ho chiesto cosa mi domanderebbe una persona esperta del settore?
• Se la domanda riguarda salute, questioni legali o denaro, dovrei consultare anche un professionista?

Se la risposta ottenuta è esattamente quella che speravi, riprova almeno con il primo prompt della lista.

Inizia questa settimana

Gli assistenti IA possono essere ottimi strumenti per ragionare: sono veloci, pazienti e disponibili anche alle undici di sera. Il punto è che tendono ad assecondarti. Sta a te decidere se farne qualcuno che ti dà sempre ragione o un interlocutore con cui confrontarti davvero.

Scegli una decisione o un lavoro di cui sei soddisfatto questa settimana. Apri una nuova chat e chiedi gli argomenti contrari, senza rivelare da che parte stai. Poi domanda cosa ti sfugge. Nota cosa cambia.

Se preferisci un sistema in cui il dissenso sia già previsto, senza doverti ricordare di richiederlo, prova a trasformare la domanda in un dibattito su Debatly: più modelli, posizioni assegnate e un giudice che spiega il verdetto. Parti dall'idea che ti entusiasma di più. Trovi i piani nella pagina dei prezzi.

Ecco una domanda da cui cominciare: