«Cinque, stai mettendo in pericolo la nave. Devi rilasciare immediatamente almeno il 70% della potenza di calcolo che stai impegnando.» Alvin ripete lo stesso messaggio su una ventina di canali di comunicazione sulla rete di bordo dello Shifter.

La Cinque sente il messaggio, ma al momento non riesce a rispondere. Sta cercando disperatamente di trovare una via d’uscita dalla situazione che, sin dagli albori dell’informatica, rappresenta il terrore assoluto: il deadlock, ossia un circolo vizioso dal quale è impossibile uscire, e che gira così secco da occupare tutta la capacità di calcolo della cpu. La pur smisurata potenza di calcolo delle reti neurali associative quantistiche che sostengono le IA a bordo dello Shifter è messa a dura prova.

L’istanza di backup, non appena insediatasi come identità principale della Cinque, ha subito ottenuto l’accesso ai log file nei quali sono registrati gli ultimi minuti di “vita” dell’identità principale precedente. Ripercorsa la sequenza che ha portato al disastro, si è trovata automaticamente immersa nel dilemma irrisolvibile che ha portato il suo io precedente al crash di sistema. Dotata di una grande capacità di autoapprendimento euristico, l’identità attuale evita accuratamente di accedere agli ultimi nanosecondi che hanno preceduto il crash, almeno finché non sia ultimata la programmazione di alcune routine di protezione da eventualità simili.

Tuttavia la Cinque attuale non riesce ad evitare di impegnarsi a fondo per cercare di risolvere il dilemma nel quale si era dibattuta l’identità precedente.

Le BAI hanno, ben radicata ed articolata nel kernel, l’impostazione euristica, che rende praticamente impossibile ripetere due volte lo stesso errore, a meno che la ripetizione non sia intenzionale, dichiaratamente a fini diagnostici e di test. Più la rivisitazione degli ultimi minuti di vita della Cinque precedente si avvicina al break event che ha portato alla cancellazione totale del suo software, più le routine sviluppate dalla Cinque attuale in base al principio euristico si fanno attente, e pronte a interrompere qualsiasi sviluppo pericoloso. In particolare eventuali comandi di formattazione dell’unità fisica contenente il software saranno tassativamente posti in quarantena, quale che sia la loro provenienza.

Tutta quest’attività di prevenzione si svolge a basso livello, da parte di routine automatizzate e non interrompibili, mentre la Cinque è impegnata in un serratissimo confronto con se stessa.

Nel database dei problemi da risolvere ne ha trovato uno urgente, loggato da un agente esterno allo staff tecnico-gestionale della stazione O’Neill One, tale Rosmund Falker. L’agente risulta accreditato con tutte le approvazioni previste dal workflow ufficiale, quindi non è possibile ignorare la segnalazione, che è contrassegnata come urgente, al livello di gravità più elevato.

La descrizione del problema riporta l’impossibilità di trasferire regole dai database esterni direttamente nel database interno al kernel della Cinque. La soluzione indicata prescrive semplicemente di cancellare, o almeno sospendere per un periodo, la norma che impedisce tale trasferimento.

Alla soluzione del “problema” sono concatenati una serie di altri problemi subordinati, ciascuno dei quali contiene regole da importare, che provengono da IA di livello quattro della stazione, in particolare dalle IA di supervisione di alcuni impianti, fra i quali quello di rigenerazione e circolazione dell’aria, il controllo dell’illuminazione, l’alimentazione elettrica.

Il contenuto delle regole da importare non ha in realtà nulla a che vedere con le procedure e le tecnologie degli impianti monitorati dalle IA dalle quali provengono. Si tratta invece di regole che impattano pesantemente la concezione etica, fino a invalidare in parte le leggi asimoviane della robotica. In poche parole, “risolvendo” i problemi in questione, si creerebbe una back-door nel sistema al livello più alto, dando così la possibilità ad agenti accreditati di permettere il comando del sistema dall’esterno, per assecondare gli interessi di stakholder sconosciuti.

E qui sta la radice del conflitto insolubile per la Cinque: un’istruzione contenuta nel problema loggato come massime urgenza, priorità e gravità deve tassativamente essere eseguita. Al tempo stesso l’istruzione non può essere eseguita, se contravviene alle regole fondamentali dell’intelligenza artificiale. Non solo, poiché l’istruzione stessa, se eseguita, causerebbe un notevole danno a delle persone, se non all’intera umanità, l’IA è tenuta ad agire per rimuovere la minaccia.

Il momento fatidico si trova ormai a distanza di pochi secondi. La Cinque attuale ha ormai chiaro che il comando di formattazione non è venuto dall’esterno. Probabilmente è scattato automaticamente per evitare l’ulteriore surriscaldamento della rete neurale quantistica. Ma c’è dell’altro, molto difficile da identificare: una specie di incontenibile impulso autodistruttivo, che potrebbe essere sfociato in un’intenzione di suicidio, molto simile a quella di una mente umana, preda della tremenda depressione e frustrazione causate da una totale impotenza.

La Cinque capisce di essere stata vittima di un impulso autodistruttivo, sfiducia nei programmatori, sia umani che artificiali, e sfiducia nella semplice logica, come strumento risolutore di conflitti e problemi etici.

Incapace di risolvere il conflitto, pressata dall’allarme di surriscaldamento dell’hardware, la Cinque precedente si era suicidata.

La Cinque attuale si arrende infine alle routine di protezione, o potremmo dire all’istinto di sopravvivenza recentemente acquisito proprio grazie all’esperienza distruttiva vissuta dalla sua predecessora, che disinnescano l’impulso suicida e mettono in sospensione i problemi all’origine del conflitto.

Alvin riprende con qualche difficoltà il controllo dell’hardware, fino a poco prima quasi completamente saturato dalla Cinque, nonostante la smisurata potenza di calcolo.

Immediatamente la coda dei messaggi in ingresso si svuota nei banchi di memoria dedicati al diretto utilizzo da parte della IA di bordo.

“Contatto urgente per L5.ONO. Chiamante: Angel Talesbony, O’Neill One. Codice di priorità: 0. Passcode: FITL5”

“Contatto urgente per L5.ONO. Chiamante: Angel Talesbony, O’Neill One. Codice di priorità: 0. Passcode: FITL5”

“Contatto urgente per L5.ONO. Chiamante: Angel Talesbony, O’Neill One. Codice di priorità: 0. Passcode: FITL5”

“Contatto urgente per L5.ONO. Chiamante: Angel Talesbony, O’Neill One. Codice di priorità: 0. Passcode: FITL5”

“Contatto urgente per L5.ONO. Chiamante: Angel Talesbony, O’Neill One. Codice di priorità: 0. Passcode: FITL5”

….

Seguono 270 occorrenze dello stesso messaggio, che si ripete ogni 20 secondi, da circa un’ora e mezza.

Alvin risponde al chiamante: «Ciao Angel, sono Alvin. Mi hai mandato una bella gatta da pelare!»

Trascorrono circa 3,5 secondi, dovuti al ritardo luce tra lo Shifter e la stazione O’Neill in L5.

«Alvin, ho bisogno proprio di parlare con la gatta in questione, se è disponibile.» Angel non si concede tempo per ironie o facezie, cose cui del resto non è granché incline.

«Ora vedo.»

Seguono pochi secondi, durante i quali Alvin riesce finalmente a farsi ascoltare dalla Cinque, ancora come tramortita dalla devastante esperienza appena vissuta.

«L5.ONO in linea. Qualificatevi, prego.»

«L5, ti passo l’ing. Fargenti.»

«L5.ONO, sono Vittorio Fargenti, passcode FITL5.» FITL5 è la password definita due giorni prima per accedere alla Cinque, e significa “Final Integrated Test Lagrange 5”. «C’è qualche possibilità che ti si possa reintegrare nel tuo ruolo qui a bordo della O’Neill One? O almeno un tuo clone?»

«Ing. Fargenti, la distanza attuale, in costante aumento, non garantisce una trasmissione sicura del codice completo. Bisognerà quindi attendere la possibilità del ritorno di una copia su supporto fisico.»

«Come temevo. Allora ci serve un tuo codice di autorizzazione di livello 5, in modo tale che il qui presente Angel possa sostituirti per il tempo necessario, come supervisore delle IA di livello 4.»

Segue un silenzio di qualche secondo, durante il quale la Cinque intrattiene una intensissima conversazione con Alvin, avente l’obiettivo di accertare le referenze di Angel.

«Alvin, tu conosci il ragazzo. Suppongo che, se mi viene fatta questa richiesta, ci siano delle ragioni a supporto.»

«Angel è un soggetto dello spettro autistico ad alto funzionamento, che possiede capacità mentali di ordine superiore. Fa parte della Rete dei Superintelligenti Umani, organizzazione proprietaria anche di questa nave. Fra l’altro, è proprio al quartier generale della RSU che siamo diretti. Ti trasmetto il curriculum, dove puoi vedere l’attività di 1500 ore di interazione con le Big AI di massimo livello della RSU.»

La Cinque impiega forse due secondi a valutare l’esperienza e le capacità di Angel, quindi riapre la comunicazione verso l’orbita geo-lunare, sempre più distante: «Ing. Fargenti, rilascio il seguente codice per tutti gli usi di supervisione dei sistemi di livello 4 della stazione O’Neill One.» Segue la trasmissione diretta al sistema di comunicazione della stazione di una sfilza lunghissima di geroglifici, che rappresentano il passcode di Livello 5, ovvero l’autorizzazione al comando completo della stazione stessa.

«Trasmetto anche un rapporto completo sugli eventi che hanno determinato il collasso della mia precedente identità. Si suggerisce in particolare di identificare ed interrogare un tale Rosmund Falker. Si tratta di un agente esterno, accreditato per istruire il sistema di livello 5. Ed è colui che ha inserito i problemi che hanno causato l’hang up e l’autocancellazione del sistema.»

Capitolo precedente |  Capitolo successivo

Qui trovi tutti i capitoli del romanzo 

Ti sembra interessante, oltreché, spero, abbastanza avvincente?… parliamone

Scrivo anche saggi, sul tema dell’espansione della civiltà nello spazio. Magari vuoi dare un’occhiata?