L’IA esternalizza il pensiero, rischiando di farci rinunciare alla nostra facoltà più umana.
L’avvento dell’Intelligenza Artificiale rappresenta uno spartiacque tecnologico enorme e tutti ce ne stiamo accorgendo. Da sempre la tecnologia ci ha aiutati a diminuire la fatica associata a certi compiti, permettendoci di fare cose incredibili. La ruota, una delle più importanti invenzioni tecnologiche di tutti i tempi, ha permesso all’umanità di spostare pesi in modo sempre più efficiente, superando i limiti fisici. Altre invenzioni, come la moderna calcolatrice, hanno invece permesso di risparmiare tempo e fatica con conti rapidi e accurati. I computer hanno prodotto i calcoli che hanno portato l’uomo sulla Luna.
Link sponsorizzato
Il compito di quasi tutta la tecnologia è “esternalizzare” una competenza umana. La ruota esternalizza la forza delle braccia; la calcolatrice la capacità di calcolo; adesso l’IA sta esternalizzando il pensiero.
La grande rivoluzione dell’IA consiste infatti nel delegare la nostra facoltà più sacra, più umana, il ragionamento. Non è come un motore di ricerca che presenta i fatti nudi e crudi ma crea collegamenti tra essi, quasi delle “opinioni”.
Per questo molti vedono l’IA come un grande pericolo: se deleghiamo a una macchina la nostra funzione più alta, il pensiero, che ne sarà della nostra autonomia cognitiva?
A scuola le maestre ci dicevano sempre che dovevamo imparare bene a fare i calcoli, perché “non avremmo avuto sempre una calcolatrice a portata di mano”. I fatti dimostrano che si sbagliavano, perché ciascuno di noi ha sempre a portata di mano la calcolatrice integrata nel cellulare. Il risultato è che la capacità di calcolo di molti adulti è limitata, peggiore di quella che avevano da bambini. A forza di essere aiutati dalle macchine, le loro competenze si sono ridotte.
Lo stesso potrebbe accadere in un mondo pervaso dall’Intelligenza Artificiale. Gli esperti chiamano il fenomeno “resa cognitiva”. Chi si “arrende” non usa l’IA per scrivere email noiose o per correggere gli errori in un testo ma le chiede di trarre conclusioni al posto suo, accettandole di default. Una forma di delega che nel tempo potrebbe atrofizzare la capacità di pensare criticamente. Perché ragionare richiede fatica e il cervello, come un muscolo, potrebbe indebolirsi.
Uno dei grandi limiti dell’IA è che spesso è approssimativa, se non proprio in torto. Sono famose le sue “allucinazioni”, che consistono nel dare risposte senza alcun riscontro nella realtà. Chi non le verifica può formarsi convinzioni erronee che possono portare non pochi problemi, soprattutto se parliamo di temi importanti.
Open AI avverte sempre a piè di pagina che: “ChatGPT può commettere errori. Assicurati di verificare le informazioni importanti” però poi presenta ogni risposta con certezza tale che non tutti sospettano la presenza effettiva di questi errori. Le “allucinazioni” non sono episodi rari, ma ricorrono tanto spesso da rappresentare un rischio concreto. Delegare il ragionamento, quindi, è molto pericoloso.
Ma anche se la macchina funzionasse perfettamente (succederà un giorno) è legittimo porsi una domanda: se il ragionamento è ciò che ci rende davvero umani (cogito ergo sum) che cosa saremo quando avremo smesso?