ricerca:non di sola ragione vive l'uomo

[Andrea Agostini <lonanoda at tin.it>]

da boiler.it di mercoledi 25 luglio 2001

 Non di sola ragione vive il mondo

di Michael Dertouzos
direttore del Laboratory for Computer Science del MIT
  


 Nella sua storia l’uomo non è quasi mai riuscito a prevedere le
conseguenze delle sue scelte tecnologiche e ha anche difficoltà a valutare
se qualcosa inventato cinquant’anni prima ha avuto ricadute positive o
negative sulla società. Questa costante incapacità significa forse che
dobbiamo limitare lo sviluppo di alcuni tipi di conoscenze, come proposto
da Bill Joy su Wired in un famoso articolo del 2000? Dertouzos non è di
questo avviso.

IN UN FAMOSO ARTICOLO sulla rivista Wired, Bill Joy sostiene che le
conseguenze della ricerca in robotica, ingegneria genetica e nanotecnologia
potrebbero condurre a «una distruzione di massa incoraggiata dalla
conoscenza... enormemente amplificata dal potere dell’autoriproduzione». Il
rimedio che propone: «l’abbandono... limitando lo sviluppo di alcuni tipi
di conoscenze». Non mi convince. Ciò che mi dà fastidio della sua tesi è l’
arrogante idea che la logica umana possa anticipare gli effetti di azioni
intenzionali e non preordinate, e l’ancora più arrogante idea che il
ragionamento umano possa determinare il corso dell’universo. Cercherò di
spiegare il perchè e di offrire alcune alternative.

La difficoltà di prevedere gli effetti delle nostre invenzioni

Di rado riusciamo a stabilire la direzione in cui ci muoviamo. Nel 1963,
quando costruimmo i computer a partizione di tempo, lo facemmo per
distribuire il costo di un processore da 2 milioni di dollari tra tutti gli
utenti. Nel 1970, quando il Darpa sviluppò Arpanet (una rete con circa 60
mila calcolatori), lo fece per evitare di comprare costosi computer per i
suoi fornitori, a cui venne detto di condividere le macchine in rete.
Entrambe le iniziative ebbero successo, non per questi obiettivi, ma perchè
hanno consentito alle persone di condividere l’informazione. Internet venne
lanciata per interconnettere reti di computer; nessuno aveva previsto che
la sua maggiore applicazione sarebbe stato il Web. Il radar fu progettato a
scopi militari, ma diventò la pietra miliare del trasporto aereo. La
ricerca sulle armi nucleari rese importante la medicina nucleare. Migliaia
di innovazioni hanno in comune lo stesso schema: le valutazioni iniziali
non sono correlate al prodotto finale.

La nostra capacità di prevedere le conseguenze è così limitata da non
essere neanche aiutata dal senno del poi. Dunque, le macchine sono state un
bene o un male per la società? E l’energia nucleare, o la medicina
nucleare? Siamo incapaci di giudicare se qualcosa che abbiamo inventato
oltre cinquant’anni fa è oggi un bene o un male. Tuttavia Joy vuole che noi
formuliamo questi giudizi in prospettiva, per determinare quale tecnologie
dobbiamo abbandonare! Sviluppi futuri che oggi sembrano spaventosi
potrebbero rivelarsi un miraggio. Si prendano ad esempio le macchine
spirituali di Ray Kurzweil che preoccupano Bill Joy. Ho una grande stima di
Ray e accolgo con favore le sue idee, come quelle di Bill, per quanto
discutibili mi possano apparire. Ma bisogna tracciare una chiara linea tra
ciò che è solo immaginato e ciò che è probabile. A rendere confusa questa
linea è la ciarlataneria. Il semplice fatto che i chip e le macchine stanno
diventando più veloci non significa che saranno più intelligenti o che
addirittura si autoriprodurranno. Se si muovono le braccia più rapidamente,
non si diventa più brillanti.

Al di là del gran parlare che si fa intorno agli agenti intelligenti, i
sistemi computerizzati attuali non sono intelligenti nell’accezione normale
della parola. Né sembra di vedere nell’orizzonte della ricerca le
tecnologie critiche che dovrebbero condurli a questo punto. Dobbiamo
bloccare lo sviluppo dell’informatica e la ricerca sull’Intelligenza
Artificiale per il timore che un giorno le macchine intelligenti possano
riprodursi e sorpassarci? La mia risposta è no. Credo che avrebbe più senso
aspettare e vedere se i rischi potenziali sono supportati da qualcosa di
diverso della nostra immaginazione.

Non tutto dipende da noi

Dato che non possiamo capire dove stiamo andando, dovremmo fermare del
tutto la ricerca? Ciò mi fa venire in mente un anziano e saggio impiegato
delle linee aeree con cui mi vantavo di aver smesso di volare con la sua
compagnia aerea per la scarsa documentazione che fornivano sulla sicurezza.
«Ascolti signore», mi disse. «Se sul vostro visto d’uscita da questa vita è
stampato «incidente aereo», anche se state nel vostro letto, l’aeroplano vi
scoverà e vi cadrà sopra». In tal senso, all’alba del secolo tecnologico,
non è alla moda prestare attenzione a forze esterne alla ragione. È il
momento di riconsiderare tutto ciò, soprattutto se ci si illude di capire
abbastanza dell’ universo per controllare con successo il suo corso futuro,
come propugna Joy.

Non dovremmo dimenticare che quanto facciamo come esseri umani è parte
della natura. Non sto sostenendo di fare quello che vogliamo, proprio in
quanto naturale, ma di tenere la natura – incluse le nostre azioni – in
soggezione. Nell’elaborare complesse strategie per «regolare il problema
dell’ozono», o qualunque altro grave problema del nostro mondo, dobbiamo
essere rispettosi dei modi imprevedibili in cui la natura potrebbe reagire.
E dovremmo avvicinarci con uguale rispetto all’idea che la naturale spinta
umana a indagare il nostro universo possa subire una limitazione. La mia
proposta è di allargare la nostra prospettiva alla pienezza della nostra
umanità, che oltre alla ragione include i sentimenti e le credenze.

Talvolta, quando siamo alla guida della macchina del progresso scientifico
e tecnologico, cambiamo direzione perchè la nostra ragione dice così. Altre
volte seguiamo i nostri sentimenti o ci lasciamo guidare dalla fede. La
maggior parte delle volte ci affidiamo contemporaneamente a tutte e tre
queste forze umane, che hanno già guidato le azioni umane per migliaia di
anni. In questa prospettiva dobbiamo essere attenti, pronti a fermarci, se
il pericolo è imminente, usando tutta la nostra umanità per prendere una
simile decisione. In tal modo il nostro punto di riferimento sarà molto
differente da quello attuale, basato su valutazioni iniziali di ordine
razionale che ci hanno spesso portato al fallimento. Dobbiamo credere in
noi stessi, nelle altre persone e nel nostro universo. E ricordarci che non
tutto dipende da noi.