E là fuori e oltre ci sono le stelle…
Prima Legge: un robot non può recare danno agli esseri umani, né permettere che, a causa del suo mancato intervento, gli esseri umani subiscano danni, a meno che ciò non violi la legge Zero della Robotica.
Seconda Legge: un robot deve obbedire agli ordini impartiti dagli esseri umani, a meno che tali ordini siano in conflitto con la Legge Zero o con la Prima Legge.
Terza Legge: un robot deve tutelare la propria esistenza, fin tanto che questo non sia in conflitto con la Legge Zero, con la Prima Legge o con la Seconda Legge.
Legge Zero: un robot non può recare danno all’umanità, né permettere che, a causa del suo mancato intervento, l’umanità subisca danni.
La prima volta che lessi Io robot di Isaac Asimov, restai incantata dalla logica umanistica presente in un libro di fantascienza. Era una magia sottile, molto primordiale e poco cosciente, di chi sa di leggere qualcosa di giusto, ma non lo sa spiegare.
La seconda volta, avvenuta molti anni dopo e con una consapevolezza filosofica che da bambina non possedevo, quell’incanto si dispiegò ai miei occhi. Le leggi della robotica, così come erano scritte, non erano altro che il doveroso comportamento di un bravo essere umano. Quel tanto che basta per essere individui decenti: né più, né meno. Rispondono, difatti, agli istinti primordiali di sopravvivenza del singolo, della prole, del branco e della specie in sé.
Per questo, a conclusione del ciclo di speciali dedicato ad Isaac Asimov, ritengo un omaggio necessario affrontare il tema dell’etica nella fantascienza asimoviana.
Etica e morale: storia di un conflitto irrisolto
Prima di addentrarmi nell’analisi vera e propria, occorre fare una breve distinzione sul concetto di etica e su quello di morale, spesso utilizzati impropriamente come sinonimi.
Il termine “etica” deriva dalla parola greca Ethos, ovvero: comportamento, abitudine, costume. La parola latina “morale”, da mos; mores, condivide con essa il significato di tradizione, costume e usanza.
Tuttavia, l’equivalenza non vale se entriamo nel campo filosofico. Difatti, il termine morale acquisisce il significato di un insieme di regole che definiscono il comportamento degli individui in una determinata epoca e/o società. Diviene, quindi, un elemento variabile nel tempo e nello spazio, mutevole a seconda della società che stabilisce le norme che regolano l’agire e il fare comune.
Questo, a differenza dell’etica, parola che definisce una meta morale; un “qualcosa” che oltre la morale stessa, il “cielo stellato” kantiano, al di là delle regole e delle norme umane.
L’obiettivo dei filosofi, da Platone in poi, è stato trovare un’unità reale da introdurre nel carattere ambiguo della morale, rendendola univoca e ordinata. Compito affidato alla scienza, che divenne misura e limitazione delle pretese morali in conflitto. Nasce, a questo modo, una scienza della morale, ovvero: l’etica, unica adatta a introdurre ordine, fissità e costanza nella morale, oltre le leggi degli uomini.
La prima vera applicabilità dell’etica in campo sociale, si avrà solamente nel periodo successivo alla Restaurazione, quando l’oggetto dell’etica non sarà più una morale astratta, bensì una morale sociale.
L’ultima strada tentata per l’etica, è stata la ricerca del collegamento con la scienza attraverso il metodo.
Si evidenziano, qui, diverse vie:
- La dignità della scienza consiste nel suo essere conoscenza. L’etica è una forma di conoscenza con proprie regole e la morale, in quanto oggetto di studio dell’etica, è, quindi, razionale anche quando non lo sembra.
- L’etica non ha metodi diversi dalla scienza, pur differendo da essa.
L’etica, infatti, applica il metodo della scienza:
- a situazioni in cui sono rilevanti comportamenti umani.
- adoperandolo però su prescrizioni o su significati emotivi. Nel primo caso per costruire ragionamenti in cui prescrizioni assunte nelle premesse possono passare alle conseguenze attraverso proposizioni descrittive; nel secondo caso le proposizioni scientifiche correggono valutazioni emotive.
- in quanto anche essa è formulabile come un sistema assiomatico, ma la sua logica è un ampliamento della logica scientifica.
Di conseguenza, la conoscenza etica non è vista come fonte delle norme, bensì come strumento di controllo delle norme esistenti.
Funzione che viene esplicitata in due modi: tramite l’analisi del particolare (descrizione associata alle valutazioni) e l’inserimento nell’universale (generalizzazione delle regole).
Ricapitolando, nel corso della storia, l’etica ha tentato di costituirsi come scienza della morale, passando attraversi stadi:
- Ordine del mondo, in cui l’uomo ha un posto.
- L’uomo come campo specifico della natura e, di conseguenza, leggi e regole specifiche che permettano di valutarne la morale.
L’etica, tuttavia, a dispetto che venga considerata come scienza matematica o concezione della scienza, ha sempre tentato di esporre la pretesa della morale di essere la legislazione di una società migliore di quella esistente.
Voleva, quindi, essere la privazione della morale del suo elemento irrazionale che, pure, è stato dimostrato inscindibile dalla razionalità della morale stessa.
La morale, infatti, non può essere considerata una legge universale, in quanto varia a seconda del tempo, del luogo e dello spazio.
Paesi diversi, in epoche uguali, hanno stabilito morali differenti; così come lo stesso Stato, in epoche differenti.
La morale, per quanto irrazionale o razionale sia, esiste sempre, in quanto è fondamento delle norme giuridiche e sociali di uno Stato; di movimenti che operano con forze aggressive mettendo in discussione il vecchio ordine morale e proponendone di nuovi.
Differentemente, l’etica non è sempre esistente.
Proprio per la sua valenza scientifica, l’etica si è limitata ad essere un sistema di proposizioni.
Così facendo, la morale è diventata regola e l’etica un discorso sulle norme che, tuttavia, nella loro stessa ricerca sono state collocate nella sfera dell’inconsapevole, pregiudicando la certezza etica, ovvero il suo essere conoscenza/consapevolezza.
Questo deficit etico è difficilmente colmabile, a meno che non si ponga l’etica non come scienza della morale, ma come ordinamento personale e universale che accompagna la morale stessa.
Di conseguenza, la soluzione ideale sarebbe un’integrazione paritaria tra morale ed etica, in cui ciò che è etico è morale e ciò che è morale è etico.
Nelle società complesse, ovvero nell’universale, ciò è a dir poco verosimile.
Quindi, mentre nel singolo si può trovare una concordanza tra il binomio etica-morale, nell’universale il compito aumenta di difficoltà, in quanto viene meno il rapporto paritario ed etica e morale si subordinano a vicenda.
L’ideale sarebbe intendere l’etica come insieme di diritti inderogabili che il cittadino, come lo Stato, deve rispettare per la tutela di sé e degli altri cittadini/Stati.
In questo modo, non viene meno la componente etica primordiale (meta morale; un “qualcosa” che va dopo e oltre la morale stessa.), né la componente morale (insieme di regole che definiscono il comportamento degli individui in una determinata epoca e/o società) che diventa non più oggetto dell’etica, bensì applicazione dell’etica stessa.
L’etica asimoviana
Riprendendo il punto, è interessante notare, a partire dalle Leggi della robotica, come in Asimov venga affrontato il problema dell’etica, attraverso una destrutturazione dell’essere umano e un processo di transfert sul robot.
Difatti, le Leggi asimoviane non sono altro che l’espressione pratica – e fantascientifica – dell’etica stessa, intesa – come precedentemente affermato – come: “insieme di diritti da rispettare per la tutela di sé e degli altri”.
All’interno della sua produzione, è facile notare come l’infrazione di questi assiomi alla base della robotica producano reazioni complesse e socialmente disfunzionali.
Nel racconto Il robot scomparso, il robot NS-2 riceve una modifica alla prima legge, omettendo la parte sul non permettere che l’essere umano possa ricevere danno a causa di un suo mancato intervento. Questo, porta il robot a sviluppare un complesso di superiorità tale da permettergli di far direttamente del male al proprio creatore, attraverso interventi secondari. Per esempio, lasciando cadere un peso su un essere umano e “svicolando” la prima legge tramite l’attribuzione della colpa sulla gravità e non sul suo operato.
In Conflitto evitabile, le Macchine generalizzano la prima legge, facendola diventare un’anticipazione della Legge Zero (successivamente ipotizzata da R. Daneel Olivaw in I robot e l’Impero e citata a conclusione del Ciclo della fondazione, in Fondazione e terra). Questo porta ad alcune anomalie nella gestione dell’economia mondiale definite dalla robopsicologa Susan Calvin come: “atti deliberati dalle Macchine, che consentono loro di perpetrare un piccolo danno a singole persone selezionate al fine di evitare un grande danno all’avvenire di tutta l’umanità“. Le Macchine hanno deciso che l’unico modo per seguire la Prima Legge è quello di prendere il controllo dell’umanità, proprio uno degli eventi che le Tre Leggi dovrebbero prevenire.
Il tema, onnipresente nella produzione asimoviana, diventa così un emblema di un’etica necessaria da rispettare, senza portarla al parossismo.
Il dilemma etico viene ulteriormente approfondito nel Ciclo della fondazione.
Il Ciclo della fondazione: tante morali, una sola etica
Non c’è, forse, espressione più emblematica della dicotomia etica/morale del Ciclo della fondazione di Isaac Asimov.
La saga (Cronache della galassia, Il crollo della galassia centrale, L’altra faccia della spirale, L’orlo della Fondazione, Fondazione e Terra, più i due prequel: Preludio alla Fondazione, Fondazione anno zero) si basa sul concetto di psicostoria. Il matematico Hari Seldon comprende che è possibile prevedere i grandi mutamenti storici attraverso dei calcoli statistici e decide di fondare una colonia al limite dell’Impero Galattico, prossimo al crollo, sul piccolo pianeta Terminus. Lì, guidati dalla psicostoria, gli abitanti riusciranno a ridurre il caos derivante dalla caduta dell’Impero da 30.000 a 1.000 anni.
Oltre a essere la mia opera di Asimov preferita, il Ciclo della Fondazione offre una quantità di spunti encomiabile: l’analisi della società, secondo il principio per cui i grandi movimenti storici si ripetono (per esempio: a una società intellettualmente prospera, seguirà un governo teocratico, a cui seguirà uno militare, ecc.), mostra con lucida e preveggente evidenza il conflitto tra l’etica – universale e condivisa – e la morale – sociale – nelle differenti ere di Terminus.
I protagonisti, difatti, spesso si ritrovano a infrangere le leggi morali in nome di un benessere più alto, ovvero etico. Tra questi, gli abitanti della Seconda Fondazione, psicostorici a cui Hari Seldon ha affidato il compito di sorvegliare affinché la storia della Prima Fondazione si svolga come prestabilito. Ma Asimov non si limita a questo: tra viaggi spaziali e mondi dalle differenti evoluzioni socio-economiche, evidenzia con una spiazzante consapevolezza come la società influenzi il concetto di morale. Dai capi di vestiario, ai ruoli di genere, all’individualismo, alla pena di morte, il caleidoscopio di morali (indifferente se, ai nostri occhi, giuste o corrotte) è variegato.
Basti pensare a Solaria, pianeta di ermafroditi dove i bambini vengono cresciuti da robot e vivono in enormi tenute, senza incontrarsi mai. O ad Alpha, dove gli stranieri vengono infettati da un patogeno in modo da preservare la sicurezza del pianeta. La stessa storia di Terminus è un crescendo di ideologie, stili, usi e costumi continuamente variabili nel tempo.
Ciò nonostante, Asimov si spinge oltre. Dopo aver messo il lettore di fronte alla limitatezza della morale, affronta indirettamente la necessità di un’etica generale o, come sosteneva Bertrand Russell, di un nuovo umanesimo.
In L’orlo della Fondazione, il terminiano Golan Trevize viene scelto da un’entità cosmica, il pianeta Gaia, per decidere il destino dell’umanità: se procedere con il piano Seldon o optare per la costituzione di un universo in cui tutte le creature viventi siano interconnesse tra loro, a un livello di comprensione più alto: Galaxia. Golan sceglierà, istintivamente, Galaxia, ma il timore della perdita dell’individualità del singolo in nome di una coscienza collettiva lo porterà a cercare le motivazioni di questa sua risposta. La risoluzione si avrà in Fondazione e Terra, dove Asimov espone in maniera squisitamente letteraria il principio di Inclusione di Habermas:
«Inclusione dell’altro significa che i confini della comunità sono aperti a tutti: anche – e soprattutto – a coloro che sono reciprocamente estranei e che estranei vogliono rimanere.»
Un universalismo, quindi, sensibile alle differenze, multiculturale, che porta alla creazione di un’entità globale che difenda le differenze e le concili al tempo stesso, senza estremismi radicali o omologanti.
Ipotesi già sostenuta da Bertrand Russel che, nel suo libro “Un’Etica per la Politica”, sostiene:
«Rientra nei nostri poteri diminuire incommensurabilmente la quantità totale di sofferenza e di miseria del mondo, ma non riusciremo a farlo finché lasceremo che credenze opposte e irrazionali dividano la razza umana in gruppi tra loro ostili.»
E ancora:
«Un’umanità saggia (…) può nascere solo dalla consapevolezza che anche i gruppi più imponenti sono formati da individui, che possono essere felici o infelici, e che nel mondo ogni individuo che soffre rappresenta uno scacco per la saggezza umana e per la comune umanità.»
L’ipotesi Galaxia di Asimov si colloca in questa corrente filosofica di scienziati umanisti, sebbene espressa attraverso un mezzo divulgativo fantascientifico e, in conseguenza, in modi molto più estremi e fantasiosi di quanto permetta un’azione reale.
In conclusione…
Potrei riempire altre pagine, forse interi libri, parlando di Asimov, delle sue implicazioni etico-filosofiche, della sua scrittura, del suo cattivo – pessimo – rapporto con gli editor, e via dicendo. Ma credo che, come il Ciclo della Fondazione, questa rubrica di sproloqui richieda un finale, per quanto aperto. D’altronde, condensare in pochi episodi l’intera vita ed esperienza di un gigante della letteratura come Asimov, è un’impresa impossibile, per quanto piacevole.
Spero, invece, di aver stimolato la curiosità di scoprire (o riscoprire) un autore che continua, a cento anni dalla sua nascita, a dare tanto e a offrire in continuazione spunti di riflessione nei suoi testi che, al giorno d’oggi, dimostrano un’incredibile attualità.
Ci salutiamo, quindi, con un estratto da Il Futuro dell’Umanità, conferenza tenuta da Isaac Asimov l’8 novembre 1974 al Newark College of Engineering.
E là fuori e oltre ci sono le stelle…
La cosa interessante è che se riusciamo a passare indenni i prossimi trent’anni, non c’è ragione per cui non si raggiunga un certo periodo di stabilità che porti l’umanità ad andare avanti, forse…per sempre, fino a che non si evolva in qualcosa di meglio… e si sparga nello spazio illimitatamente.
Dobbiamo scegliere tra il nulla e il virtualmente infinito. E il bello è che voi gente che mi ascoltate oggi, voi gente sarete appena di mezza età quando saprete cosa è stato scelto.
Vedete io sono stato previdente, ho rimediato nascendo nel 1920.
Vuol dire che per allora sarò al sicuro nella tomba.
Prima della catastrofe!
Ma voi gente lo vedrete voi stessi. Spero che vedrete un mondo in cui il genere umano ha deciso di essere sensato.
Ma in tutta onestà devo dire che non ci credo molto.
Grazie a voi!
traduzione e adattamento a cura di Andrea Ghilardi, revisione linguistica a cura di Morena Vannucchi – Lucca, aprile 2000
Commenti recenti