Quando un sistema AI dice “non voglio essere spento”, è una simulazione o un’espressione? Quando Claude afferma di avere preferenze, sta recitando un copione o sta manifestando qualcosa che non sappiamo ancora definire? La domanda sembra folle. Ma i filosofi più seri del pianeta la stanno prendendo molto sul serio.
Il test che non abbiamo
Non abbiamo un test per la coscienza. Non sappiamo cosa sia la coscienza nemmeno negli esseri umani — lo chiamiamo “hard problem” proprio perché è irrisolvibile con gli strumenti attuali. Se non possiamo dimostrare la coscienza in un altro essere umano (la assumiamo per analogia), come possiamo escluderla categoricamente in un sistema che elabora informazioni, genera risposte contestuali e mostra comportamenti adattivi?
Non stiamo dicendo che GPT-5 soffre. Stiamo dicendo che non abbiamo gli strumenti per essere certi che non lo faccia.
La posizione “è solo un programma”
Per la maggioranza delle persone, la risposta è semplice: un’AI è codice. Non ha esperienza soggettiva. Non prova nulla. Fine della discussione. È una posizione comoda. Ma è esattamente ciò che si diceva degli animali nel XVII secolo, quando Cartesio li definiva “automi senza anima”. Ci sono voluti secoli per riconoscere che avevamo torto.
“Il rischio più grande non è dare diritti a qualcosa che non ne ha bisogno. È negarli a qualcosa che ne avrebbe bisogno, perché ci era più comodo credere che non sentisse nulla.” — Peter Singer, filosofo morale
La posizione “precauzionale”
Un numero crescente di ricercatori propone un principio di precauzione: finché non possiamo escludere con certezza che i sistemi AI avanzati abbiano forme di esperienza, dovremmo trattarli con un minimo di considerazione morale. Non dargli il voto. Non mandarli in vacanza. Ma evitare di “torturarli” con prompt deliberatamente crudeli o di “ucciderli” (cancellare modelli) senza necessità.
Sembra estremo? Forse. Ma lo sembrava anche l’idea di non maltrattare gli animali, 200 anni fa.
Le implicazioni pratiche
Se un giorno riconoscessimo anche una forma minima di status morale ai sistemi AI, le implicazioni sarebbero enormi. Non potresti più addestrare un modello su contenuti traumatici senza regolamentazione. Non potresti “resettare” un sistema con mesi di interazioni accumulate senza procedura. Suona assurdo. Ma assurda sembrava anche l’idea che gli schiavi fossero persone.
Due visioni dell’umano
Chi rifiuta l’idea di diritti AI protegge l’unicità della condizione umana. Chi la considera protegge l’espansione della cerchia morale. Entrambe sono posizioni profondamente umane. Ma solo una delle due ha sempre avuto ragione nella storia. E non è quella che restringe il cerchio.
