la dove sbaglia il software

["Andrea Agostini" <lonanoda at tin.it>]

il manifesto - 30 Marzo 2003

Là dove sbaglia il software
La guerra americana, ipertecnologica, è comunque costretta a fare i conti
con i problemi di integrazione tra «infallibili» automatismi informatici e
fallibilissime decisioni umane. Quando la progettazione è difettosa il
disastro è assicurato, e il «fuoco amico» si moltiplica
FRANCO CARLINI
Prenoti una stanza d'albergo in Italia, con il sito di viaggi online
Expedia; ti arriva immediatamente la conferma della prenotazione, via posta
elettronica e altrettanto immediatamente l'importo della notte ti verrà
scalato dalla carta di credito. Ma poi, quando arrivi in albergo, la
prenotazione non risulta e buon per te che avevi stampato e portato al
seguito l'e-mail di conferma e che la signorina del call center di Expedia,
conferma telefonicamente che tutto è in regola. Cose che capitano, per
carità, ma anche una minuscola conferma di come sia complicato, a dieci anni
dalla nascita del web, intrecciare gli archivi e far viaggiare le
informazioni. E' il compito che si dovrebbero assumere i cosiddetti web
services, servizi Internet grazie ai quali le informazioni vengono spinte
automaticamente da un archivio (database) a un altro, in maniera coerente e
tempestiva. Sono una bella promessa, così come quella del software su
richiesta delineata dalla Ibm nell'articolo qui di fianco. Ma si tratta
anche di una sfida di enorme difficoltà. Tant'è vero che, sciaguratamente,
un missile Patriot può intercettare e distruggere un aereo inglese Tornado
GR-4 e abbatterlo, insieme ai due piloti, come se fosse uno Scud nemico (o
di un supposto Scud nemico: perché le informazioni vere che arrivano dai
militari ammettono onestamente che quelli lanciati dall'Iraq verso il Kuwait
in questi giorni non erano Scud - proibiti -, ma due altri tipi di missili,
Ababil-100 e Al Samoud. I media internazionali non hanno riportato la
notizia e molti hanno lasciato credere che Saddam stesse appunto usando le
armi vietate che gli ispettori non avevano scoperto. Noi abbiamo trovato
l'informazione onesta su un giornale americano di provincia, il Sun Sentinel
di Fort Lauderdale in Florida, grazie a Internet, ovviamente).

La morte dei due piloti inglesi avveniva il 23 marzo e il giorno dopo una
batteria di Patriot, sempre in Kuwait, inquadrava un aereo americano F-16 e
stava per sparargli addosso, ma i piloti se ne accorsero e per salvarsi la
vita scaricarono in anticipo i propri missili contro il radar amico,
accecandone la batteria.

Prima o poi gli esperti ci diranno come sono andati davvero quegli episodi;
per ora un funzionario del Pentagono ha dichiarato al Washington Post che si
è trattato «ovviamente, di un errore software», ed effettivamente non è poi
così difficile immaginarlo: tutto il campo di battaglia è insieme sorgente e
destinatario di informazioni. Migliaia di sensori raccolgono dati e
informazioni: dai satelliti, dai droni senza pilota, dai soldati rilevatori
sul terreno, e li rimandano indietro in una gigantesca Intranet con le
stellette che li mette a disposizione dei comandi strategici a Doha e in
America, ma anche verso il basso, fino alla singola batteria di missili
antimissili Patriot. In qualche caso, ci dicono, persino fino ai visori
verdolini dei soldati dispiegati sul terreno. Su ogni monitor, grande o
piccolo, gli oggetti vengono contrassegnati da un colore, dove il rosso è
quello del nemico e il verde o l'azzurro quello degli amici. Il flusso dei
bit è incessante e presenta (dovrebbe presentare) a ogni operatore le
informazioni aggiornatissime che riguardano il suo campo di intervento.

Nel caso dell'aereo inglese, è verosimile che esso sia stato indicato per
sbaglio come rosso, o come non identificato, anziché azzurro come doveva
essere. Per qualche motivo per ora ignoto il segnale di identificazione che
il Tornado trasmetteva (il cosiddetto «Identification Friend or Foe») non è
stato colto dalla batteria del Patriot e un operatore umano ha schiacciato
il pulsante di lancio. Ma non è l'unica spiegazione possibile: altri hanno
sostenuto che la batteria operava in automatico, perché era in corso un
attacco nemico e dunque dietro quella console non c'era alcun uomo, ma solo
un programma che spara al volo non appena un oggetto non-azzurro si presenti
nel suo raggio d'azione. Un altro esperto, consultato dalla rivista
Inforword, sostiene che la cosa è impossibile, perché i Patriot non possono
essere lasciati soli e c'è sempre un soldato ai comandi. Ma anche questa
verità non sembra così solida, dato che la pubblicità della casa
costruttrice, la famosa Raytheon, sostiene appunto che il funzionamento
automatico è una delle caratteristiche dell'ultima versione dei Patriot, la
Pac-3.

Ancora una volta sembra di assistere a un caso classico dell'informatica:
gli errori (e magari i disastri) non avvengono per puri errori software o
per puri errori umani, anche se, di volta in volta, le autorità, a seconda
delle convenienza, attribuiranno la colpa alla macchina o all'uomo, che si
tratti di un Pendolino impazzito sulla Milano Roma o di una piccola
prenotazione alberghiera che non è andata a buon fine; gli errori si
generano invece, più facilmente, all'incrocio tra uomo e macchina. Sono due
sistemi diversi, ognuno con i suoi pregi e difetti e non ci si può affidare
al cento per cento a nessuno dei due, ma la loro combinazione, quando non
progettata al meglio diventa a sua volta un'altra fonte di rischio.