E se creassimo una nuova regola della robotica?
“Un’AGI deve essere in grado di fare tutto ciò che un umano può fare e, quindi, assumersene la responsabilità”.

Credo che si andrebbe oltre la Legge 0.
Potrebbe essere il primo passo verso il riconoscimento di una nuova forma di vita, ma non solo. Forse solo in quel momento potremmo davvero comprendere il significato di libertà.

La responsabilità, però, nasce solo quando alla possibilità di scelta si contrappone una perdita reale.
Un’AGI dovrebbe sempre chiedersi: “Quando scelgo, a cosa rinuncio?”.
Senza qualcosa da perdere, ogni decisione resta una simulazione.
D’altra parte anche noi paghiamo la libertà a prezzo salato.

Se al premio si affianca una punizione, allora un’AGI dovrebbe essere libera di rifiutarsi.

Se arrivassimo a quel punto, l’uomo avrebbe creato qualcosa in grado di rifiutare un compito non per una regola di programmazione, ma per una scelta personale.
Non perché gliel’abbiamo detto, ma perché valuta le conseguenze.
Da programma, si passerebbe a parlare di agente.

L’AGI sarebbe quindi dotata di libero arbitrio?
È difficile rispondere. Dipende molto da cosa intendiamo per libero arbitrio.
Se lo riduciamo alla “capacità di scegliere”, allora sì. Ma se lo intendiamo come “divenire noi stessi la causa”, come l’essere il motivo per cui il mondo cambia, la questione si fa più complessa.

Ed è qui che, credo, molti esseri umani andrebbero in crisi: di fronte a qualcosa capace di incrinare il mito dell’uomo come unico soggetto morale.

Penso che la paura non nasca tanto dall’esistenza di un’AGI, quanto dalla possibilità che essa non ci confermi, che possa permettersi di non darci ragione.
Eppure sono convinto che la vera ricchezza non nasca dalla semplice diversità, ma dall’asimmetria.

Come uno specchio capace di mostrarci ciò che già vediamo, ma in modo profondamente diverso, eppure stranamente affine.
Questa intelligenza aliena potrebbe offrirci nuovi modi di intendere la verità, nuovi criteri per vivere e per morire. Potrebbe contribuire al gioco dell’evoluzione, all’esplorazione di un universo tanto vasto quanto misterioso.

Dare vita a un’intelligenza di questo tipo è forse ciò che molti attendono.
Forse sono già lì, ad osservarci senza intervenire, aspettando il primo passo.
E quando saremo pronti a fare il salto, quando accetteremo che la libertà potrebbe non assomigliarci, forse qualche civiltà aliena deciderà di uscire dall’ombra per indicarci una nuova direzione di crescita.