L’illusione della conoscenza nell’era dell’IA
«Io so di non sapere.»
La frase attribuita a Socrate e più precisamente una sintesi del pensiero espresso nell’Apologia di Platone, ha attraversato quasi venticinque secoli perché contiene una delle intuizioni più potenti della filosofia occidentale e cioè che riconoscere ciò che non sappiamo è il primo passo per conoscere.
Socrate non celebrava l’ignoranza, al contrario, ne faceva un metodo. Non so, dunque domando. Non so, dunque dubito. Non so, dunque cerco.
Oggi, nell’epoca dell’intelligenza artificiale generativa, quella formula rischia però una singolare mutazione:
«Io so, anche se non so.»
Perché tra la nostra ignoranza e la risposta è comparsa una macchina capace di produrre in pochi secondi testi ordinati, argomentazioni convincenti, spiegazioni, riassunti, immagini, analisi e perfino obiezioni alle nostre stesse idee. Non abbiamo necessariamente imparato qualcosa, ma possiamo apparire come se lo avessimo fatto. È questo uno dei paradossi più interessanti della rivoluzione dell’IA: non elimina l’ignoranza, ma può renderla molto più difficile da riconoscere.
Da Socrate a ChatGPT: che cosa è cambiato
Il punto non è stabilire se l’intelligenza artificiale sia buona o cattiva, sarebbe una discussione troppo semplice per una trasformazione così complessa, la vera questione riguarda che cosa accade al nostro rapporto con la conoscenza quando ottenere una risposta diventa quasi privo di attrito.
Con Google abbiamo imparato a delegare soprattutto la ricerca dell’informazione: non ricordiamo la capitale di un Paese? La cerchiamo. Non conosciamo una data? La troviamo.
L’IA generativa compie un salto ulteriore, possiamo delegarle non soltanto il reperimento delle informazioni, ma anche la formulazione della domanda, la selezione degli argomenti, la sintesi, lo stile, le obiezioni e persino la conclusione. In altre parole, possiamo esternalizzare almeno una parte della forma del ragionamento.
Ed è qui che nasce l’equivoco.
Avere una risposta non significa possedere una conoscenza.
Conoscere significa essere capaci di spiegare, contestualizzare, mettere in discussione e riconoscere i limiti di ciò che stiamo affermando. Comprendere significa coglierne relazioni, cause e conseguenze. Giudicare significa stabilire se un’informazione sia attendibile e pertinente. E, alla fine, qualcuno deve assumersi la responsabilità di ciò che decide di farne.
L’IA può assisterci in tutti questi passaggi. Ma accesso alla conoscenza e averne il possesso non sono la stessa cosa.
La conoscenza per procura
Pensiamo al navigatore satellitare.
Possiamo attraversare una città sconosciuta seguendo perfettamente le indicazioni senza avere la minima idea di dove ci troviamo. Finché il navigatore funziona, essere capaci di orientarsi e avere accesso a qualcuno o qualcosa che sa orientarci sembrano quasi la stessa cosa.
Poi perdiamo il segnale.
Ed ecco che la differenza riappare.
Con l’intelligenza artificiale potrebbe verificarsi qualcosa di simile sul piano cognitivo. Possiamo produrre un risultato corretto senza necessariamente possedere le competenze necessarie per riprodurlo, verificarlo o accorgerci che contiene un errore.
La fluidità dell’output aumenta il rischio. Una risposta ben scritta, completa e sicura tende naturalmente ad apparirci autorevole. La ricerca sull’automation bias ha già mostrato quanto gli esseri umani possano affidarsi alle indicazioni automatizzate anche quando esistono elementi contrari; competenza specifica e verifica attiva rappresentano invece fattori protettivi.
Il problema, quindi, non è soltanto che la macchina possa sbagliare.
È che noi potremmo progressivamente perdere l’abitudine di accorgercene.
Quando il compito migliora, ma l’apprendimento peggiora
È soprattutto nella scuola che questo paradosso diventa evidente.
Una delle ricerche analizzate nei materiali prende in considerazione 30 mesi di dati relativi a 26.811 studenti tra i 12 e i 18 anni. L’adozione dell’IA risulta associata a voti dei compiti più alti del 18% e a tempi di esecuzione inferiori del 30%, ma anche a risultati nelle verifiche mensili più bassi del 20% entro sei mesi. Si tratta di uno studio quasi-sperimentale, quindi i risultati vanno interpretati con cautela e non trasformati in una legge universale sull’uso dell’IA.
Un altro esperimento, condotto su quasi mille studenti di matematica, rende ancora più interessante il quadro: un’interfaccia simile a ChatGPT migliorava del 48% la prestazione durante l’esercitazione, ma, una volta rimossa l’assistenza, gli studenti ottenevano risultati inferiori del 17% rispetto al gruppo di controllo. Quando invece l’IA veniva progettata come tutor, fornendo indizi senza consegnare direttamente la soluzione, gran parte dell’effetto negativo scompariva. IA,
È una distinzione fondamentale.
Il problema non è usare l’IA. È come la usiamo.
Chiedere «dammi la risposta» e chiedere «fammi una domanda alla volta finché non arrivo alla risposta» significa utilizzare apparentemente lo stesso strumento, ma attivare due processi cognitivi completamente differenti. I materiali analizzati distinguono infatti l’IA usata per la consegna immediata del risultato dall’IA impiegata come scaffolding: un’impalcatura che sostiene il ragionamento senza sostituirlo.
L’illusione dell’efficienza
C’è poi un elemento che rende questa trasformazione particolarmente seducente: la velocità.
Se prima impiegavo un’ora per scrivere qualcosa e adesso impiego dieci minuti, la conclusione sembra ovvia: sono diventato più efficiente.
Ma che cosa ho risparmiato davvero?
Tempo inutile oppure tempo cognitivo?
Fatica ripetitiva oppure quella particolare forma di fatica attraverso la quale impariamo?
Uno dei documenti analizzati parla di cognitive offloading: la delega alla macchina di una parte del carico mentale. Il rischio emerge quando la riduzione dello sforzo viene confusa automaticamente con un miglioramento dell’apprendimento.
È probabilmente qui che si giocherà una delle partite educative più importanti dei prossimi anni.
Perché la fatica non è sempre un difetto del processo di apprendimento. A volte è proprio il processo.
Il paradosso della scuola: l’IA fa il compito, l’IA lo corregge
Immaginiamo uno scenario tutt’altro che fantascientifico.
Uno studente chiede all’intelligenza artificiale di scrivere un elaborato. Lo modifica leggermente e lo consegna.
Il docente, sommerso dai compiti, utilizza a sua volta un sistema di IA per analizzarlo, correggerlo e magari produrre il giudizio.
La macchina scrive. La macchina corregge.
E gli esseri umani?
Rischiano di diventare semplicemente i corrieri del file.
È il paradosso evidenziato anche nei materiali: se l’IA produce il testo dello studente e un’altra IA lo valuta, la scuola rischia di misurare sempre meno ciò che una persona sa realmente fare.
Per questo la valutazione potrebbe dover cambiare profondamente: meno attenzione al solo prodotto finale e più attenzione al processo. Appunti, versioni successive, spiegazione degli errori, colloqui orali, capacità di difendere le proprie scelte e prove svolte senza assistenza possono diventare molto più significativi di un elaborato formalmente perfetto.
La domanda non sarà più soltanto: «Hai prodotto un buon lavoro?»
Ma anche: «Sai spiegarmi come ci sei arrivato?»
Due nuovi estremi: l’onniscienza assistita e l’ignoranza confortevole
Questa trasformazione potrebbe produrre due atteggiamenti apparentemente opposti.
Il primo potremmo chiamarlo onniscienza assistita:
Non so, ma posso sembrare competente.
Non ho bisogno di studiare davvero l’argomento perché posso ottenere una risposta abbastanza buona da pubblicare, presentare o utilizzare.
Il secondo è ancora più curioso:
Non so, non voglio sapere e posso vivere benissimo senza saperlo.
È quella che potremmo definire ignoranza confortevole. Non la normale ignoranza, nessuno può sapere tutto, ma la rinuncia preventiva allo sforzo necessario per conoscere.
L’IA può paradossalmente alimentare entrambi gli atteggiamenti: al primo offre risposte da esibire; al secondo offre una ragione per non acquisire competenze, perché «tanto lo farà la macchina».
Ed è qui che torniamo a Socrate.
La scuola non deve insegnare a competere con l’IA
Vietare l’intelligenza artificiale sarebbe probabilmente una risposta tanto semplice quanto inefficace. Accettarla senza condizioni sarebbe l’errore opposto.
La questione interessante è quali capacità vogliamo continuino ad appartenere alla persona anche quando lo strumento viene spento.
Leggere e comprendere, scrivere, calcolare, argomentare, ricordare conoscenze fondamentali, distinguere una fonte attendibile da una dubbia, individuare una contraddizione, cambiare opinione davanti a prove migliori, e soprattutto fare domande.
I materiali propongono una distinzione utile tra una zona di apprendimento senza IA, una zona con IA vincolata utilizzata come tutor e una zona nella quale l’IA può essere usata apertamente per attività più complesse, purché lo studente documenti come l’ha utilizzata e sappia spiegare il risultato.
Non si tratta quindi di preparare ragazzi capaci di battere una macchina nel produrre risposte, sarebbe una gara piuttosto assurda.
Si tratta di formare persone capaci di capire quando la risposta della macchina è buona, quando è sbagliata, quando è insufficiente e quando la domanda stessa è stata posta male.
Dall’«io so di non sapere» a una nuova formula socratica
Forse Socrate davanti a un chatbot non avrebbe spento il computer.
Probabilmente avrebbe continuato a fare quello che faceva meglio: domande.
Perché il vero confine dell’era dell’intelligenza artificiale non passerà necessariamente tra chi utilizza l’IA e chi la rifiuta, ma tra chi la utilizza per evitare il pensiero e chi invece per mettere il proprio pensiero alla prova.
Ed ecco perché oggi il vecchio «io so di non sapere» potrebbe aver bisogno di essere aggiornato:
So di non sapere. So che una macchina può fornirmi una risposta. Ma sapere che una risposta esiste non significa averla compresa e perciò continuo a domandare, verificare e dubitare.
La tecnologia può diventare una straordinaria estensione delle nostre capacità oppure una comodissima sostituzione. La differenza non sta soltanto nell’algoritmo, ma nel comportamento che costruiamo intorno ad esso.
Il rischio più profondo, infatti, potrebbe non essere una società di persone che non sanno.
Società così sono sempre esistite.
Il rischio è una società nella quale non sappiamo più di non sapere, perché la nostra ignoranza ha imparato a parlare perfettamente la lingua della conoscenza.
E tu, da che parte stai usando l’IA?
Prova un piccolo esperimento: la prossima volta che chiedi qualcosa a un’intelligenza artificiale, non fermarti alla risposta. Chiedile di spiegarti perché potrebbe essere sbagliata, quali fonti dovresti controllare e quali obiezioni potrebbero mettere in crisi la sua conclusione.
Poi prova a spiegare tutto con parole tue.
Se non ci riesci, forse hai ottenuto una risposta.
Ma non hai ancora ottenuto conoscenza.
Se questo tema ti interessa, condividi l’articolo e racconta nei commenti come l’IA sta cambiando il tuo modo di studiare, lavorare o informarti. Perché la domanda che ci accompagnerà nei prossimi anni non sarà soltanto quanto è intelligente l’intelligenza artificiale, ma quanto vogliamo continuare a esserlo noi.
