COMPUTER AUTONOMI

di Roberto Vacca – pubbl. su: Il Messaggero, 29 giugno 2004

I computer sostituiranno gli uomini? Ci domineranno? Queste domande non sono precise, nè sensate. Chi le ripete, però, sente un disagio non ingiustificato. Infatti gestire e aggiornare i grandi sistemi tecnologici non è solo un problema politico. Implica scelte di tecnologie alternative, regole e direzioni di ricerca. Impone di suddividere l'autorità fra governi, business e organismi professionali. Le decisioni possono essere delegate in parte a sistemi informatici autonomi - e vanno rispettati certi vincoli. Occorre dimostrare che la delega possa funzionare, bilanciare vantaggi sperati e rischi dovuti a possibili difetti di progetto, far comprendere al pubblico le nuove procedure e rendere trasparenti le regole.

In passato i controlli automatici prendevano decisioni giustificate da descrizioni funzionali e da tarature preventive di apparecchiature aventi consistenza fisica separata. I risultati prodotti da questi pezzi di hardware, erano ben compresi dagli operatori. Oggi si usano controlli computerizzati sempre più complessi per gestire (mediante software all'interno di computer) grandi sistemi tecnologici. Fra questi: centrali termoelettriche e nucleari, reti idriche, elettriche e di comunicazione, raffinerie, impianti chimici, organismi finanziari.

E' attraente e ragionevole il concetto di affidare a computer i compiti di riconoscere che cosa succede istante per istante in un grande sistema, quali e quanti interventi (o prestazioni) richiedano il processo (o gli utenti)

e di generare comandi atti a far funzionare bene il tutto. I computer sono proprio adatti a svolgere velocemente elaborazioni di dati e operazioni logiche. Così risolvono i problemi che si susseguono - purchè chi li ha programmati abbia previsto ogni evenienza e ogni problema e identificato i modi migliori di reagire. Per farlo vanno previste le situazioni future. Di quanto crescerà la domanda? Come cambieranno tecnologie e preferenze degli utenti? Va tenuto conto del fatto che i grandi sistemi tecnologici interagiscono gli uni con gli altri. Ad esempio i sistemi di comunicazione e controllo dipendono da quelli energetici per la loro alimentazione. Dunque i sistemi informatici che governano sistemi tecnologici diversi in aree adiacenti devono essere integrati. Si scambiano segnali e cooperano per creare situazioni stabili ed equilibrate.

Ma la struttura di grandi sistemi informatici interconnessi aggiunge complessità alla complessità intrinseca dei sistemi controllati. La struttura e la gestione di questo sistema di sistemi non possono essere decise localmente in modi campanilistici. Gli impatti mutui fra sistemi viaggiano rapidamente nello spazio e attraversano i confini fra settori e fra regioni e nazioni. L'analisi relativa deve essere condotta su scale nazionali e transnazionali.

Dunque l'autonomia dei sistemi di elaborazione e controllo non deve essere vista come un modo moderno per risolvere problemi vecchi. Va concepita come uno strumento in evoluzione per contribuire a gestire complessità crescenti. Allo stesso tempo questa caratteristica può creare rischi nuovi: i controlli gestiti da software grossi, complicati e non trasparenti possono generare dubbi e incertezze nei tecnici addetti, minare la fiducia degli utenti e anche reagire in modi che aggravano emergenze non previste o non riconosciute. E' già accaduto: alcuni anni fa errori nei programmi di computer hanno bloccato per ore la rete telefonica (USA) e più recentemente il sistema di controllo del traffico aereo britannico.

Il progetto di sistemi informatici di controllo che siano autonomi deve prevedere come e quando gli operatori umani possano intervenire e correggere la rotta. Questo è uno dei punti più critici. Gli addetti possono trovare difficoltà estrema a capire se un'emergenza sia causata da un guasto del sistema controllato (hardware) o da un malfunzionamento del sistema di controllo (hardware o software). Anche la gestione manuale temporanea di un sistema che si riporta alla normalità dopo un'emergenza, può essere ardua se il controllo computerizzato incorpora connessioni automatiche con altri sistemi.

La complessità descritta è tale che, per fortuna, renderà sempre meno probabili gli interventi malevoli di vandali o terroristi (tranne eventuali esperti che si diano al sabotaggio). Ma è anche inevitabile che questa complessità continui a crescere. Il funzionamento dei grandi sistemi non si migliora con 'il piccolo è bello'.

Serviranno ulteriori progressi dell'analisi dei sistemi. Un ostacolo non eliminabile è costituito dalla circostanza che la linea di divisione tra falsi allarmi e guasti non rilevati non ha spessore nullo. Le interdipendenze descritte sono così numerose e intricate che si dovrà mirare a rimediare anche ad emergenze molto poco probabili realizzando strutture automatiche e canali di comunicazione macchina-uomo più efficaci di quelli attuali. I problemi, dunque, non sono solo tecnologici. La qualità dell'addestramento dei progettisti, dei gestori, dei manutentori dovrà essere innalzata e dovrà essere monitorata di continuo. Di nuovo: il monitoraggio potrà essere in parte affidato a sistemi automatici. Anche questa delega implica difficoltà e incertezze analoghe a quelle che ho descritto.