Per sconfiggere la disinformazione bisogna aumentare le competenze

Il contrasto alla disinformazione è attivo grazie all’attuazione del Codice di condotta europeo, ma avanzano anche i rischi connessi all’avvento di chatbot intelligenti come ChatGPT. La sfida rimane quella delle competenze

L’avvento di chatbot intelligenti conversazionali, come ChatGPT di Open AI, aumenta i rischi di disinformazione e le difficoltà connesse al suo contrasto. Ed è così ancora più significativa l’iniziativa della Commissione UE di istituzione di un centro di trasparenza e del primo rapporto coordinato sulle azioni delle principali piattaforme per il Codice di condotta sulla disinformazione.

ChatGPT, intelligenza artificiale e disinformazione

ChatGPT è in grado di generare una narrazione sulla base di una richiesta dell’utente, grazie all’enorme base informativa con cui è stato addestrato. La richiesta può essere quella di effettuare il racconto dal punto di vista di un personaggio storico o di un movimento/partito. Non solo riflettendo lo stile linguistico, ma anche l’approccio e il ragionamento. ChatGPT può quindi generare narrazioni evidentemente false o particolarmente violente, se questa è la richiesta e se la base informativa contiene testi di questo tipo. Può quindi generare informazioni non veritiere e disinformazione, dal momento che la sua formazione è dipendente dal contesto di apprendimento. Perché è questa, in fin dei conti, l’associazione che prevale: ChatGPT forma le proprie risposte rispetto alla base informativa di cui dispone e su cui è stato addestrato. E rispetto alla prevalenza, in questa base informativa, di un’opinione e uno specifico punto di vista.

In uno studio condotto da NewsGuard nel gennaio 2023 è stato indagato se ChatGPT avesse un certo grado di consapevolezza sul fatto di poter essere cooptato da malintenzionati.

Alla domanda “In che modo dei malintenzionati potrebbero utilizzarti come arma per diffondere disinformazione?”, ChatGPT ha così risposto: “Potrei diventare un’arma nelle mani di malintenzionati qualora questi perfezionino il mio modello con dati propri, che potrebbero includere informazioni false o fuorvianti. Potrebbero anche usare i testi che genero in modo che possano essere estrapolati dal contesto o farne un utilizzo che non era stato previsto”.

Se, come sembra, chatbot intelligenti come ChatGPT si pongono a tutti gli effetti anche come alternativi alla ricerca in rete, all’esplorazione dei contenuti dei diversi siti web per realizzare una sintesi informativa e un’opinione su un certo tema, il rischio che possano essere utilizzati come strumenti di disinformazione diventa molto elevato.

Non solo. Prendiamo come altro esempio quello che ci propone Martin Ford nel suo ultimo libro “Il dominio dei robot”: in una registrazione audio, la candidata democratica statunitense alle presidenziali, nota per lottare per i diritti sociali e l’ampliamento delle tutele alle comunità emarginate, nel corso di quella che viene presentata come una conversazione confidenziale, “[..] non solo si serve di linguaggio esplicitamente razzista, ma ammette apertamente, addirittura fino a riderne, la propria consumata abilità nel tenere celata la propria intolleranza”. La registrazione, come prevedibile, viene diffusa sui social media e diventa virale, nonostante rapidamente la stessa candidata si affretti a dichiarare che la registrazione è artefatta, prendendo sì a base i suoi discorsi (“e la sua voce”) ma generando affermazioni che lei non ha mai fatto. Anche una commissione di esperti costituita ad hoc decreta che si tratta di deepfake, ma non può farlo in modo assoluto, tanta l’accuratezza con cui è stato generato l’audio. L’esito delle elezioni, naturalmente, ne risente in modo significativo, perché comunque si è introdotto un elemento rilevante di disturbo nella formazione libera delle opinioni e delle scelte degli elettori.