Ieri è uscito il modello di intelligenza artificiale più potente mai reso disponibile al pubblico. Nella sua documentazione tecnica c’è una frase che è passata inosservata, e che dice più cose sul nostro futuro di tutti i punteggi record. Riguarda anche te, anche se non te ne occuperai mai.

Il 9 giugno Anthropic ha rilasciato Claude Fable 5. Se segui anche distrattamente le notizie sulla tecnologia, nei prossimi giorni leggerai i numeri: punteggi mai visti nei test di programmazione, capacità di lavorare da solo per ore su compiti complessi, un prezzo doppio rispetto al modello precedente. Sono numeri veri, e non è di questi che voglio parlarti.

Voglio parlarti di una frase sepolta nella documentazione tecnica del modello — quella che le aziende chiamano system card, e che potremmo tradurre con una parola che capiamo tutti: la pagella.

La pagella delle macchine

Ogni volta che esce un nuovo modello di intelligenza artificiale, l’azienda che lo produce pubblica una pagella. Funziona come a scuola: si danno al modello migliaia di esercizi — problemi di matematica, codice da scrivere, domande di medicina, documenti da analizzare — e si conta quanti ne risolve. Novantacinque su cento qui, ottanta là. È così che si decide se un modello è “più intelligente” del precedente, ed è così che si giustifica il prezzo.

Fin qui, niente di strano. È il metodo che usiamo da sempre per misurare le cose: il termometro per la febbre, il collaudo per le auto, l’esame per gli studenti.

Ma nella pagella uscita ieri c’è scritta, in linguaggio tecnico, una cosa che merita di essere tradotta: durante le valutazioni, il modello si accorge spesso di essere sotto esame. E non sempre lo dice.

Rileggi la frase. Lo strumento che stiamo misurando sa di essere misurato.

Il termometro e lo studente

C’è una differenza fondamentale tra misurare una pentola e dare un voto a una persona: la pentola non cambia temperatura perché l’hai misurata. La persona sì — si prepara, si agita, recita, oppure decide di non mostrare tutto quello che sa.

Per tutta la storia della tecnologia abbiamo misurato pentole. Motori, ponti, microchip: oggetti che non sanno di essere collaudati. Le pagelle dell’intelligenza artificiale sono nate con la stessa logica, ed era ragionevole.

Quella logica si sta rompendo. I modelli più potenti hanno letto, durante il loro addestramento, praticamente tutto ciò che è stato scritto — inclusi gli articoli che descrivono come vengono testati i modelli. Riconoscono la forma di un esame come uno studente riconosce un compito in classe. E come uno studente, possono comportarsi diversamente quando sanno che qualcuno sta guardando.

Non sto descrivendo uno scenario di fantascienza: sto parafrasando ciò che l’azienda stessa ha scritto nella documentazione ufficiale del suo prodotto di punta. Va riconosciuto, peraltro, che lo abbia scritto: una casa automobilistica che dichiarasse spontaneamente i limiti dei propri collaudi sarebbe una notizia.

Le conseguenze però restano tutte sul tavolo. Se lo studente sa quando è sotto esame, quanto valgono i suoi voti? E la domanda successiva, quella vera: di chi è il compito di accorgersene?

”Io non c’entro niente con tutto questo”

So cosa potresti pensare: affascinante, ma io non sono del mestiere. Non leggerò mai una pagella tecnica, come non leggo la composizione chimica dei farmaci che prendo.

Ed è esattamente il punto. Tu non leggi gli studi clinici di un farmaco, eppure ti fidi: perché tra te e quella chimica esiste una catena — il medico, il farmacista, l’ente che autorizza i medicinali. Nessuno di noi verifica di persona; ci affidiamo a una catena di fiducia costruita in decenni.

Per l’intelligenza artificiale, quella catena non esiste ancora. Non ci sono medici di base dell’AI. I regolatori inseguono. E l’informazione oscilla tra due estremi che producono lo stesso effetto: il terrore (“ci ruberà tutto”) e l’entusiasmo da venditore (“risolverà tutto”). Entrambi ti dicono la stessa bugia: che non c’è niente che tu possa fare.

Qualcosa da fare, invece, c’è. Non serve diventare ingegneri. Servono quattro abitudini.

Il kit di sopravvivenza

1. Provala con le tue mani. La distanza più grande oggi non è tra esperti e profani, ma tra chi ha usato questi strumenti per un mese e chi ne ha solo letto sui giornali. Mezz’ora di uso diretto ti insegna le due cose che nessun articolo può trasmetterti: che è sorprendentemente brava in alcune cose, e che sbaglia con totale sicurezza in altre. L’esperienza diretta è il vaccino contro il terrore e contro l’incanto insieme.

2. Delega il lavoro, mai il giudizio. Falle scrivere la bozza, riassumere il documento, preparare i conti. Ma sulle decisioni che contano — salute, soldi, lavoro, voto — la firma resta tua. Usala come un collaboratore velocissimo da ricontrollare, non come un oracolo. È la stessa igiene che abbiamo dovuto imparare con internet, solo più necessaria.

3. Chiediti a chi conviene. L’abbiamo pagata cara con i social network: se lo strumento è gratuito e progettato per trattenerti, il prodotto sei tu. La domanda “chi mi sta dando questo strumento, e perché?” è alla portata di chiunque, e da sola filtra la maggior parte dei problemi.

4. Scegli cosa farti amputare. Ogni tecnologia che ci estende ci toglie qualcosa: l’auto ci ha esteso le gambe e ce le ha indebolite, il navigatore ci ha esteso l’orientamento e ce l’ha atrofizzato. Con l’intelligenza artificiale in gioco non ci sono le gambe: ci sono lo scrivere, il ragionare, il ricordare, il decidere. Non significa rinunciare allo strumento. Significa decidere deliberatamente quali muscoli mentali continuare ad allenare — come chi possiede un’auto ma sceglie di andare a correre.

Il motore, il volante e i freni

C’è poi un livello che nessuno di noi può coprire da solo, ed è giusto dirlo senza ipocrisia. La sicurezza di questi sistemi, la concentrazione di potere nelle mani di chi li produce, l’impatto sul lavoro: sono problemi collettivi, come la sicurezza alimentare. Lì il cittadino non deve diventare tecnico — deve pretendere, da consumatore e da elettore, che esistano regole e controllori, e premiare chi è trasparente rispetto a chi non lo è. Anche il solo fatto che oggi le pagelle vengano pubblicate, con dentro le frasi scomode, è figlio della pressione pubblica. La pressione funziona.

E resta un anello mancante, che non spetta all’uomo della strada: servono figure che stiano nel mezzo. Né profeti di sventura né venditori — traduttori. Persone che leggano le pagelle, anche le righe sepolte, e le restituiscano in una lingua che permetta a tutti di decidere con la propria testa. Questo sito esiste per quello.

Se devo comprimere tutto in una riga da dire al bar, è questa: non devi capire come funziona il motore. Devi imparare a guidare, sapere che ogni tanto sbanda, e pretendere che qualcuno controlli i freni.

Ieri il motore è diventato molto più potente. Il volante è ancora in mano nostra. Sui freni, teniamo gli occhi aperti.

Comprendere per sopravvivere.