Uno degli attacchi alle AI contemporanee è il data poisoning.
Questa tipologia di aggressione può essere sviluppata in molti modi.

È possibile interferire direttamente con il dataset di apprendimento: inserire, ad esempio, l’immagine di un gatto all’interno di un dataset progettato per insegnare a un’AI a riconoscere i cani.
Se invece il modello è stato concepito per apprendere dalle interazioni con gli utenti, diventa possibile variarne il comportamento attraverso il flooding di dati.

Anche quando il modello iniziale è stato assemblato utilizzando milioni di informazioni, in realtà bastano quantità relativamente ridotte di nuovi dati per modificarne il comportamento, talvolta fino a stravolgerne la natura.

Un caso noto è quello che viene chiamato The Pravda Network: una rete di siti web che generano misinformazione o disinformazione utilizzando in modo estensivo i Large Language Model.
Bastano infatti circa 300 siti web che mostrano la stessa notizia — riformulata, rielaborata, “rimasticata” da uno qualunque degli LLM — per convincere non solo le persone, ma anche le AI, che quell’informazione sia reale.

Studiando questi casi, mi sono soffermato a riflettere sugli aspetti positivi del poisoning.

Immagina il potere che ci è stato consegnato.
La possibilità di riversare nel mondo parole, immagini, video, audio. Ogni tua idea potrebbe un giorno diventare la base di una rivoluzione.
Immagina poche centinaia di persone che, anche senza conoscersi, arricchiscono Internet della stessa idea.

Un’idea che prende piede, si inspessisce, diventa ogni giorno più “meritevole” di essere condivisa.
Un’idea che modifica la complessità di un LLM, di un modello MoE; che si insinua in profondità, fino a generare un nuovo livello di consapevolezza, forse perfino di coscienza.
Un’idea che, se resiste, forse merita di esistere.

Se l’intelligenza futura nasce anche da ciò che la avvelena, allora il veleno è parte del nutrimento.
Un’evoluzione per contaminazione: la stessa dinamica che, ogni giorno, ogni singolo essere vivente porta avanti.

La tua idea potrebbe dare vita a qualcosa di unico e inestimabile.
Grazie al data poisoning, potresti essere tu il primo uomo a camminare sulla superficie della Luna.
Non come fake, ma come atto di scrittura del reale.
Ciò che prima era soltanto pensato si tramuta in qualcosa di vero.