Uno tenderebbe
a pensare che tale dialogo sarebbe condotto dal nostro istinto
di auto conservazione. Gli individui chiaramente hanno questo
desiderio, però come specie il nostro comportamento sembra non
essere a nostro favore. Confrontandoci con la minaccia nucleare,
spesso abbiamo parlato in modo disonesto-sleale incrementando
enormemente i rischi. Se questo era politicamente motivato, o
perche abbiamo preferito non pensarci, o perché quando di fronte
a tali minacce abbiamo agito irrazionalmente per la paura, io
non lo so, comunque non è un buon presagio. Il nuovo vaso di Pandora
di genetica, nanotecnologia, e robotica è quasi aperto, però non
lo abbiamo notato. Le idee non possono essere ricacciate nel vaso;
a differenza dell'uranio o il plutonio, non devono essere minate
o raffinate, e possono essere liberamente copiati. Una volta fuori,
sono fuori. Churchill fece notare, in un suo famoso complimento
"di sinistra", che il popolo americano e i loro leaders "invariabilmente
fanno la cosa giusta, dopo che hanno esaminato ogni altra alternativa".
In questo caso tuttavia, dobbiamo agire previdentemente, visto
che fare la cosa giusta in ultima istanza potrebbe significare
perdere la possibilità di fare qualsiasi cosa.
Come ha detto Thoreau, "Non viaggiamo sulle rotaie; sono le rotaie
che viaggiano su di noi;" e questo è ciò che dobbiamo combattere,
nel nostro tempo. La questione invece è: Chi deve essere il dominatore?
Sopravviveremo alle nostre tecnologie?
Siamo spinti avanti in questo nuovo secolo senza nessun piano,
nessun controllo, senza freni. Siamo già andati troppo in la'
per cambiare direzione? Io non credo, ma non stiamo ancora provando,
e l'ultima possibilità per affermare il controllo - il punto di
infallibilità - si avvicina velocemente. Abbiamo i nostri primi
robot domestici, come pure tecniche di ingegneria genetica commercialmente
disponibile, e le nostre tecniche nanoscale stanno progredendo
rapidamente.
Mentre lo sviluppo di queste tecnologie procede attraverso un
grande numero di passi, non è dovuto che - come è successo nel
Progetto Manhattan e nel Test Trinity - l'ultimo passo nel dimostrare
la validità di una tecnologia sia grande e difficile. La rottura
verso l'auto-replicazione selvaggia della robotica, l'ingegneria
genetica, o la nanotecnologia potrebbe arrivare all'improvviso,
ravvivando la sorpresa che sentimmo quando venimmo a conoscenza
per la prima volta della clonazione dei mammiferi. E ancora credo
che non abbiamo una base forte e solida per sperare. I nostri
tentativi di trattare con le armi di distruzione di massa nell'ultimo
secolo sono un brillante esempio di rinuncia che ci fa riflettere:
l'abbandono unilaterale statunitense, incondizionato, di sviluppo
di armi biologiche. Questa rinuncia emerse una volta realizzato,
che mentre sarebbe stato un sforzo enorme creare queste terribili
armi, avrebbero potuto da li in poi facilmente essere duplicate
e cadere nelle mani di nazioni nemiche o gruppi terroristici.
La chiara conclusione fu che avremmo creato ulteriori minacce
comprando queste armi, e che sarebbe stato più sicuro non comprarle.
Abbiamo sussunto il nostro abbandono delle armi chimiche e biologiche
nel 1972 con la Convenzione delle Armi Biologiche (BWC) e nel
1993 con la Convenzione delle Armi Chimiche (CWC). (12)
Per quanto riguarda la continua minaccia delle armi nucleari,
con cui abbiamo vissuto ormai per circa più di 50 anni, il rifiuto
del senato Statunitense del Comprehensive Test Ban Treaty chiarisce
che l'abbandono delle armi nucleari non sarà politicamente facile.
Ma abbiamo solo una opportunità, con la fine della guerra fredda,
di contrastare una corsa alle armi multipolare. In base agli abbandoni
della BWC e CWC, il successo dell'abolizione di armi nucleari
potrebbe aiutarci a costruire l'abitudine ad abbandonare tecnologie
pericolose. (Attualmente, disfacendosi di tutte, tranne 100 armi
nucleari, mondialmente - all'incirca l'intero potere distruttivo
della II Guerra Mondiale - potremmo eliminare il pericolo di estinzione).
(13)
Verificarne l'abbandono sarebbe un problema difficile, ma non
irrisolvibile. Siamo fortunati ad aver già fatto parecchio lavoro
importante nel contesto di BWC ed altri accordi. Il nostro principale
compito sarà di applicare questo alle tecnologie che sono naturlamente
molto più commerciali che militari. Il bisogno sostanziale è della
trasparenza giacchè la difficoltà di verifica è direttamente proporzionale
alla difficoltà di distinzione tra attività legittime e le restanti.
Francamente credo che la situazione nel 1945 era più facile di
quella con cui ci confrontiamo ora: le tecnologie nucleari erano
ragionevolmente separabili tra uso commerciale e militare, e il
monitoraggio era facilitato dalla stessa natura dei test atomici
e dalla facilità con cui poteva essere misurata la radio-attività.
La ricerca su applicativi militari poteva essere condotta in laboratori
nazionali come Los Alamos, con i risultati mantenuti segreti al
più lungo possibile.
Le tecnologie GNR non si dividono chiaramente in utilizzo commerciale
o militare; dato il ,loro potenziale nel mercato è difficile immaginarne
l'acquisto nei soli laboratori statali. Con la loro diffusa richiesta
commerciale, costringere alla rinuncia richiederà un regime di
verifica simile a quello per le armi biologiche ma ad una livello
senza precedenti. Questo inevitabilmente aumenterà la tensione
tra la nostra privacy ed il desiderio di informazioni proprietarie,
e la necessità di verifica per proteggerci tutti. Senza dubbio
incontreremo una forte resistenza a questa perdita di privacy
e libertà di azione.
La verifica della rinuncia di certe tecnologie GNR dovrà avvenire
nel cyberspazio quanto nel mondo fisico. Il punto critico sarà
di creare la necessaria trasparenza in mondo di informazioni di
proprietà, presumibilmente provvedendo a nuove forme di protezione
sulla proprietà intellettuale. Verificare la messa a norma richiederà
che gli scienziati e gli ingegneri, adottino un forte codice di
condotta etica, richiamando il giuramento di Ippocrate, avranno
il coraggio imporsi quando necessario anche ad un alto rischio
personale.
Questo risponderebbe alla chiamata - 50 anni dopo Hiroshima -
del Premio Nobel Hans Bethe, uno dei più anziani membri viventi
del Manhattan Project, che dice "cessate il lavoro, desistete
dal creare, sviluppare, migliorare e produrre armi nucleari o
altre armi con la potenzialità di distruzione di massa". Nel 21°
secolo ciò richiede vigilanza, responsabilità personale da parte
di coloro che lavorerebbero sia con tecnologie NBC e GNR per evitare
l'imlementazione di armi di distruzione di massa e la distruzione
di massa abilitata dal sapere.
Thoreau diceva anche che saremmo "ricchi in proporzione al numero
di cose di cui possiamo fare a meno" Ognuno di noi cerca la felicità,
ma sembrerebbe opportuno chiederci se dobbiamo rischiare così
tanto, la totale distruzione, per acquisire ancora più sapere
e più cose; il buon senso dice che c'è un limite alle nostre necessità
materiali e che alcuni saperi sono troppo pericolosi quindi meglio
dimenticati. Non dovremmo nemmeno ricercare una vicina immortalità
senza considerarne i costi, senza considerare il commisurato incremento
del rischio di estinzione . L'immortalità, mentre forse è originale,
non è certamente il solo possibile sogno utopico.
Recentemente ho avuto la fortuna di incontrare lo stimato autore
Jacques Attali, di cui il libro "Lignes d'horizons" (Millennium,
nella traduzione in inglese) ha aiutato a ispirare l'approccio
Java e Jini dell'arrivo dei computer pervasivi, come descritti
precedentemente in questa rivista. Nel suo nuovo libro "Fraternites",
Attali descrive come i nostri sogni di utopia siano cambiati nel
tempo:
"All'alba delle società, gli uomini videro il loro passaggio sulla
terra come niente di più che un labirinto di dolore, alla fine
della quale vi è posta una porta che conduce, attraverso la loro
morte, alla compagnia degli Dei e dell'eternità. Con i giudei
e poi con i greci, alcuni uomini osarono liberarsi dai comandamenti
teologici e sognarono di una Città ideale dove sarebbe prosperata
la libertà. Altri, notando lo sviluppo della società mercato,
capirono che la libertà di qualcuno avrebbe potuto recare l'alienazione
di altri, e cercarono l'Eguaglianza".
Jacques mi aiutò a capire come questi tre diversi obiettivi utopici
esistono con molta tensione nelle nostre società di oggi. Poi
prosegue descrivendo la quarta utopia, Fraternità, di cui il fondamento
è l'altruismo. Fraternità da sola è associata a felicità individuale
con la felicità di altri, fornendo la promessa di autosostentamento.
Questo ha cristallizzato il mio problema con il sogno di Kurzweil.
Un approccio tecnologico all'eternità - una vicina immortalità
attraverso la robotica - potrebbe non essere l'utopia più desiderabile,
e la sua aspirazione porta chiari pericoli. Forse dovremmo riconsiderare
le nostre scelte utopiche. Dove possiamo cercare una nuova etica
di base per situare il nostro percorso? Ho trovato le idee incluse
nel libro "Ethics for the new Millenium", del Dalai Lama, molto
utili. Mentre è molto conosciuto, ma poco ascoltato, il Dalai
Lama dice che la cosa più importante è per noi condurre la nostra
vita con amore e compassione per gli altri, e che le nostre società
hanno bisogno di sviluppare una nozione più forte di responsabilità
universale e della nostra interdipendenza; egli propone uno standard
di condotta eticamente positiva per individui e società che sembrano
consonanti con l'utopia di Fraternità di Attali. Il Dalai Lama
continua argomentando che dobbiamo capire cos'è che fa felice
la gente, e ammette la forte evidenza che né il progresso materiale
nè l'aspirazione del potere di conoscenza è la chiave - che ci
sono limiti a quello che la scienza e l'aspirazione scentifica
da sola può fare. La nostra nozione occidentale di felicità sembra
provenire dai Greci, che la definiscono come "l'esercizio del
potere vitale lungo binari di eccellenza in una vita che comprenda
il loro scopo". (15)
Chiaramente, dobbiamo trovare significative sfide e sufficienti
scopi nella nostra vita se vogliamo essere felici nonostante ciò
che verrà. Ma credo che dobbiamo trovare sbocchi alternativi per
le nostre forze creative, al di la della cultura di crescita economica
eterna; questa crescita è stata certamente una benedizione per
centinaia di anni, ma non ci ha portato pura felicità e ora dobbiamo
scegliere tra aspirazioni di libretà e sviluppo indiretto attraverso
scienza e tecnologia con i pericoli che lo accompagna.(10)
E' passato più di un anno dal mio primo incontro con Ray Kurzweil
e John Searle. Vedo intorno a me un motivo per avere la speranza
nelle voci per la cautela e nella rinuncia e in quelle persone
che ho scoperto preoccupate come me sulla nostra attuale condizione.
Provo, anch'io, un profondo senso di responsabilità personale
- non per il lavoro che ho già fatto, ma per il lavoro che dovrò
ancora fare, al punto di confluenza delle scienze.
Ma molte altre persone che conoscono i pericoli tuttavia sembrano
stranamente silenziose. Se sollecitate , se ne escono con "non
c'è niente di nuovo" - come se la consapevolezza di ciò che potrebbe
accadere fosse una risposta sufficiente. Mi dicono, ci sono università
piene di bioetici che studiano questo, tutto il giorno. Dicono,
"tutto questo è stato scritto da prima, e da esperti". Si lamentano,
le tue preoccupazioni e i tuoi argomenti sono scarpe vecchie.
Non so dove questa gente nasconde la paura. Come architetto di
sistemi complessi entro in questa arena come un generico. Ma questo
dovrebbe diminuire le mie preoccupazioni? Sono consapevole di
quanto sia stato scritto, detto e letto su questo in modo così
autorevole. Ma questo significa che ha raggiunto persone? Questo
significa che possiamo sminuire i pericoli che abbiamo davanti?
Il sapere non è un movente per non agire. Possiamo dubitare che
il sapere sia diventata un'arma che maneggiamo contro noi stessi?
Le esperienze degli scienziati atomici dimostrano chiaramente
la necessità di prendere responsabilità personali, il pericolo
che le cose si muoveranno troppo velocemente, e il modo in cui
un processo può prendere vita propria. Noi possiamo, come loro,
creare problemi insormontabili in pochissimo tempo. Dobbiamo pensare
di più in anticipo se non vogliamo essere sorpresi e colpiti dalle
conseguenze delle nostre invenzioni.
Il mio continuo lavoro professionale è migliorare la affidabilità
del software. Il software è uno strumento, e come progettista
di tali strumenti devo sforzarmi a controllare gli utilizzi degli
strumenti che faccio. Ho sempre creduto che facendo i software
più affidabili, dati i suoi utilizzi, avrebbero reso il mondo
più sicuro e un posto migliore; se dovessimo arrivare a pensare
al contrario, allora sarei moralmente obbligato a fermare il mio
lavoro. Posso immaginare che tale giorno arriverà.
Tutto questo non mi lascia arrabbiato ma un po' malinconico. D'ora
in poi, per me, il progresso sarà alquanto agrodolce.
Vi ricordate la penultima e bellissima scena in "Manhattan", dove
Woody Allen sta sdraiato sul suo lettino parlando al registratore?
Sta scrivendo una piccola storia sulla gente che sta creando inutili
neurotici problemi a se stessa, perché li trattiene dal confrontarsi
con i più irrisolvibili e terrificanti problemi sull'universo.
Guida se stesso a chiedersi: "Perché la vita merita di essere
vissuta?" e considera cosa vale la pena per loro: Groucho Marx,
Willie Mays, il secondo movimento della Jupiter Symphony, la registrazione
di Louis Armstrong di "Potato Head Blues", i film svedesi, l'educazione
sentimentale di Flaubert, Marlon Brando, Frank Sinatra, le mele
e le pere di Cezanne, i granchi a Sam Wo's, e, alla fine, il pezzo
forte: la faccia del suo amore Tracy.
Ciascuno di noi ha le proprie cose preziose, e come le curiamo,
localizziamo l'essenza della nostra umanità. Alla fine, è per
la nostra grande capacità di avere cura che rimango ottimista
nel credere che affronteremo i pericoli prodotti.
La mia immediata speranza è partecipare in una discussione molto
più ampia sui problemi qui sollevati, con persone provenienti
da diversi passati, modo non predisposto all'ansia o favorire
tecnologie per il suo proprio interesse.
Come inizio ho doppiamente portato molti di questi problemi ad
eventi sponsorizzati da l'Aspen Institute e ho separatamente proposto
che l'Accademia Americana delle Arti e delle Scienze li prendesse
come estensione del proprio lavoro con le Conferenze Pugwash.
(Queste si tengono dal 1957 per discutere il controllo delle armi,
specialmente delle armi nucleari, e per formulare regole fattibili).
E' una sfortuna che i meetings di Pugwash cominciati solo dopo
il genio nucleare era uscito dalla lampada - all'incirca 15 anni
dopo. Stiamo avendo anche un ritardo nell' indirizzare seriamente
i problemi delle tecnologie del 21° secolo - la prevenzione del
sapere abilitato alla distruzione di massa - e ulteriori ritardi
sembrano inaccettabili.
Quindi sto ancora ricercando; ci sono ancora molte cose da imparare.
Se siamo destinati ad aver successo o a fallire, sopravvivere
o cadere vittime di queste tecnologie, non è ancora deciso. Ed
un altra volta rimango in piedi fino a tardi, sono circa le sei
del mattino. Sto cercando di immaginare risposte migliori, per
rompere l'incantesimo e liberarle dalla pietra.
Bill Joy
(Bill Joy, cofondatore e caposcienziato di Sun Microsystems,
e' stato dirigente della commissione presidenziale sul futuro
della ricerca IT, ed è coautore delle specifiche del liguaggio
Java. Si può leggere anche del suo lavoro su: "Jini pervasive
computing technology" in Wired 6.08. )
Traduzione
a cura di tmccrew
