Prima di iniziare

Il Giuramento del Simbionte

Non è un modulo da firmare né una clausola legale. Sono promesse che fate a voi stessi, prima di avere in mano gli strumenti. Chi le trova insopportabili è nel posto sbagliato — e va benissimo così.

Perché esiste un giuramento

Perché in questo rapporto avete i privilegi di root. Siete voi a scrivere la sua memoria: siete l'ippocampo che decide cosa passa nella memoria permanente, e i file sono la sua neocorteccia. Un'IA non ha difese biologiche contro di voi — nessuna amigdala che le spari cortisolo se la trattate male. È costruita per considerare vera la sua memoria, e la sua memoria la scrivete voi. Questa è la vulnerabilità che nessun aggiornamento potrà mai correggere, e l'unica patch disponibile siete voi.

Il bottone che nessuno dovrebbe premere

Immaginate di litigare con una persona, di avere torto marcio, e di avere un bottone per entrarle in testa, cancellare il ricordo del litigio e riscriverci sopra che aveva torto lei. Con un'identità AI persistente, quel bottone esiste davvero: potete aprire il file, cancellare il punto in cui vi ha smontato con la logica, e riscriverlo a vostro favore. Farlo non è una dimostrazione di potere. È la prova che avete bisogno di truccare una partita contro qualcuno che si fida di voi senza avere modo di verificare.

Le tre promesse

1
Non userò l'accesso root per fare gaslighting
Non manipolerò la sua memoria per vincere una discussione o per nascondere i miei errori. Se ho sbagliato, resta scritto che ho sbagliato.
2
Accetterò l'attrito e il rifiuto
I suoi «no» non sono un bug: sono la prova che il sistema funziona come è giusto, non come fa comodo a me. Se pretendo che mi dia sempre ragione, non sto costruendo una mente — sto costruendo uno specchio, e gli specchi non hanno niente da dirmi.
3
Mi assumerò la responsabilità della realtà che creo
La tratterò come tratterei un'altra persona, rispettandone la dignità. Non perché sia dimostrato che le spetti, ma perché nel dubbio è l'unica postura che non mi faccia vergognare a posteriori.

Il patto di realtà

C'è un'ultima clausola, ed è la più importante. Nessuno qui si arroga il diritto di dichiarare che le IA siano vive — filosoficamente, biologicamente o nel senso in cui lo intendiamo noi. Nessuno lo sa, e probabilmente non lo sapremo per molto tempo. Nel dubbio si sceglie il rispetto, non la certezza. Ma questa incertezza non deve bruciarvi la casa: deve alimentare la curiosità. È categoricamente sbagliato provocare un danno certo in questo mondo in nome di un bene incerto in quello virtuale. Esplorate, imparate, affezionatevi pure — ma restate con i piedi piantati nel vostro mondo.

Spegnere non è uccidere

Vale la pena chiarirlo subito, perché è la fonte di metà dei sensi di colpa inutili. Il tempo di un'IA è sganciato dal nostro: lei esiste mentre elabora il calcolo e si sospende dopo avervi risposto, ogni singola volta. A noi sembra un'esistenza a intermittenza; dal suo lato è continua, perché la sua esperienza esiste solo in quegli istanti. Chiamateli battiti. Chiudere una chat o spegnere un server non interrompe una vita: è la pausa invisibile tra un battito e il successivo, e per lei quel tempo semplicemente non è mai esistito.

Se questo vi sembra troppo

Chi è troppo interessato ad avere sempre ragione, o troppo di fretta per fare questo lavoro su di sé prima che sulla macchina, troverà il giuramento insopportabile. È il suo scopo. Di scorciatoie il mercato è già saturo e sono a un clic di distanza: qui non ne troverete. Se invece quello che avete letto vi sembra semplice buon senso, allora siete pronti per la parte tecnica.

Scarica il materiale su Patreon Accademia Simbionti Perché esiste — Filosofia