Come la rete Skynet del Pentagono renderebbe la guerra automatizzata – Nafeez Ahmed

Gli ufficiali del Pentagono sono preoccupati che l’esercito americano stia perdendo colpi rispetto a competitori quali la Cina e sono disposti a esplorare pressoché qualunque cosa per rimanere al top – incluso creare una versione diluita di Terminator.

Dovuto a rivoluzioni tecnologiche al di fuori del loro controllo, il Dipartimento della Difesa (DoD- Department of Defense – N.d.T.) anticipa l’alba di un’irrompente era di guerra automatizzata in appena i prossimi 15 anni. A quel punto, loro credono che le guerre potranno essere combattute interamente utilizzando sistemi robotizzati muniti con armamenti avanzati.

La settimana scorsa il segretario della difesa Chuck Hagel ha annunciato la “Defense Innovation Initiative” ( Iniziativa per l’innovazione della difesa) – un vasto piano per identificare e sviluppare scoperte tecnologiche all’avanguardia “nei prossimi tre-cinque anni e oltre” per mantenere la superiorità tecnologica-militare degli Stati Uniti”. Le aree da coprire dal programma includono robotica, sistemi autonomi, miniaturizzazione, Big Data e produzione avanzata, incluso la stampa in 3D.

Ma quanto a fondo l’iniziativa di Hagel può inoltrarsi nella “tana del coniglio” – sia perchè spinta da disperazione, fantasia o arroganza – viene rivelato da un trascurato studio finanziato dal Pentagono, pubblicato alla chetichella a metà settembre dal Centro per la Tecnologia e la Politica di Sicurezza Nazionale della National Defense University (NDU) in Washington DC.

Il Pentagono intende monopolizzare l’imminenti “sviluppi trasformativi” nel campo delle nanotecnologie, della robotica, e dell’energia

Il documento di 72 pagine getta luce dettagliata sulle implicazioni di vasta portata del piano del Pentagono di monopolizzare gil imminenti “sviluppi trasformativi” nelle biotecnologie, nella robotica, nell’intelligenza artificiale, nelle IT, nelle nanotecnologie, e nell’energia.

L’iniziativa di Hagel viene supervisionata dal vicesegretario alla difesa Robert O. Work, autore principale di un rapporto pubblicato lo scorso gennaio dal Center for a New American Security (CNAS) (Centro per una nuova sicurezza americana), intitolato “20YY: Prepararandosi per la guerra nell’era robotica.”

Il rapporto è citato pesantemente nel nuovo studio pubblicato dalla NDU, un istituto di istruzione superiore finanziato dal Pentagono che prepara i funzionari militari statunitensi e sviluppa le strategie di sicurezza nazionale e le politiche di difesa.

Lo studio della NDU avverte che, mentre l’accelerazione nei cambiamenti tecnologici “appiattirebbe il mondo economicamente, socialmente, politicamente e militarmente, potrebbe anche aumentare la disuguaglianza economica e lo stress sociale” e sostiene che il Pentagono deve prendere misure drastiche per evitare il potenziale declino della potenza militare degli Stati Uniti: “perché il DoD rimanga la forza militare preminente nel mondo, esso deve ridefinire la sua cultura e i suoi processi organizzativi per essere più in rete, più agile e basato sulla conoscenza”.

Gli autori del rapporto NDU, Dr. James Kadtke e Dr. Linton Wells, sono consulenti esperti del Pentagono da lungo tempo, entrambi affiliati al centro tecnologico del NDU che effettua della ricerca “a supporto dell’Ufficio del Segretario della Difesa, dei Servizi, e dal Congresso.”

Kadtke era in precedenza un alto funzionario del National Nanotechnology Coordinating Office (Ufficio nazionale per il coordinamento della nanotecnologia) della Casa Bianca, mentre Wells-che ha servito sotto Paul Wolfowitz come DoD Chief Information Officer e vice segretario alla Difesa, è stato fino a giugno di quest’anno presidente della Force Transformation del NDU.

Wells presiede inoltre un gruppo poco noto conosciuto come il ‘Highlands Forum’ che è gestito dall’ ex membro dello staff del Pentagono Richard O’Neill per conto del ministero della Difesa. Il Forum riunisce esperti informatici militari allo scopo d’esplorare le questioni di politica di difesa derivanti dall’impatto di Internet e della globalizzazione.

Spiegando il processo dell’Highlands Forum nel 2006 alla rivista ‘Governo Esecutivo’, Wells ha descritto il Forum come sponsorizzato dal DoD come “motore di idee” che “genera idee nella mente delle persone di governo che hanno la capacità di agire attraverso altri processi … Ciò che viene fuori dall’ “Highlands” è che ti trovi gente che torna con un’idea e dice, ‘Ora come posso fare perché questo accada?’ “

Il Big Brother di Big Data

Un settore chiave sottolineato dallo studio Wells e Kadtke è quello di migliorare la capacità dell’intelligence degli Stati Uniti di analizzare automaticamente ampi set di dati senza la necessità di coinvolgimento umano.

Sottolineando che “dati personali sensibili” possono ora essere facilmente estratti da fonti online e social media, chiedono di stabilire politiche in materia di informazioni personali (Personally Identifiable Information o (PII)) per determinare la capacità del Dipartimento di fare uso di informazioni provenienti da social media in contingenze nazionali” – in altre parole, per determinare in quali condizioni il Pentagono può utilizzare le informazioni private sui cittadini americani ottenute tramite ‘data-mining’ di Facebook, Twitter, LinkedIn, Flickr e così via.

Il loro studio sostiene che DoD può sfruttare “la raccolta di dati su larga scala”, per la medicina e per la società, attraverso “il monitoraggio d’individui e popolazioni che utilizzando sensori, dispositivi indossabili e IoT (Internet of Things -Internet delle cose), che insieme “fornirà rilevamento e analisi predittiva”. Il Pentagono può svilupparne capacità “in partnership con grandi operatori del settore privato, nel quale le soluzioni più innovative sono attualmente in via di sviluppo “.

In particolare, il Pentagono deve migliorare la sua capacità di analizzare insiemi di dati rapidamente, investendo in “tecniche automatizzate di analisi, analisi del testo, e tecniche di interfaccia utente per ridurre il ciclo di tempo e di esigenze di manodopera necessari per l’analisi di grandi insiemi di dati”.

Kadtke e Wells vogliono che l’esercito americano sfrutti la crescente interconnessione di persone e dispositivi tramite la nuova ‘Internet of Things’ attraverso l’uso di “sistemi integrati” in “automobili, fabbriche, infrastrutture, elettrodomestici e case, animali domestici, e potenzialmente all’interno di esseri umani. “Dovuto all’avvento di ” Cloud Robotics … la linea di demarcazione tra la robotica convenzionale e i dispositivi intelligenti di uso quotidiano diventerà sempre più sfumata”.

“Cloud Robotics”, termine coniato dal nuovo capo della robotica di Google, James Kuffner, consente ai singoli robot d’aumentare le loro capacità collegandosi via Internet per condividere risorse online e collaborare con altre macchine. Entro il 2030, quasi ogni aspetto della società globale potrebbe diventare, nelle loro parole, “strumentato, interconnesso, e potenzialmente predisposto per controllo via Internet, in una gerarchia di sistemi cyber-fisici”.

Tuttavia l’applicazione militare più diretta di tali tecnologie, conclude lo studio del Pentagono, sarà in “Command-Control-Communications, Computers and Intelligence-Surveillance-Reconnaissance (C4ISR)” – un campo condotto da “organizzazioni a livello mondiale come il National Security Agency (NSA)”.

Kill Bots¹ intelligenti nel Cloud

In questo contesto di Big Data e cloud robotics, Kadtke e Wells sono entusiasti che, man mano che i sistemi robotici senza pilota diventano più intelligenti, la produzione a basso costo di “eserciti di Killbots che possano autonomamente ingaggiare in guerra” sarà presto una realtà. I robot potrebbero anche venire incorporati nella vita civile per eseguire “sorveglianza, monitoraggio dell’infrastruttura, telepresenza di polizia, e le applicazioni di sicurezza nazionale”.

La sfida principale per tale istituzionalizzazione dei robot verrà da un “contraccolpo politico” al fatto che i robot siano in grado di determinare da soli quando uccidere.

Per contrastare le obiezioni pubbliche, loro sostengono che il Pentagono dovrebbe “adoperarsi” nel garantire “che non venga percepito come la creazione di sistemi di armi senza ‘un umano che gestisca il ciclo”. Può darsi che il DoD dovrebbe pubblicamente auto-limitare la sua dottrina operazionale sull’uso di tali sistemi per scongiurare la reazione negativa del pubblico o internazionale al suo sviluppo di sistemi autonomi.

La logica è quella di “sostituire gli operatori umani”, il più possibile, in particolare per le missioni che sono “pericolose”, “impraticabili”, o “impossibili” per gli esseri umani (come, forse, tutte le guerre?). In soli cinque anni, lo studio sostiene, la ricerca del Pentagono per migliorare l’intelligenza robotica porterà a “progressi significativi”.

Skynet dal 2020?

Forse la dimensione più inquietante tra le intuizioni dello studio dell’NDU è la prospettiva che entro il prossimo decennio, la ricerca sull’intelligenza artificiale (AI) potrebbe generare il “AI forte” -o almeno una forma di “AI debole” che assomigli in alcune caratteristiche al primo.

Un’AI forte dovrebbe essere in grado di simulare una vasta gamma dell’umana cognizione, e includere caratteristiche come la coscienza, sensibilità, conoscenza, o auto-consapevolezza. Molti ora credono, Kadtke e Wells osservano, che un “AI forte potrebbe essere raggiunto prima o poi nel 2020”.

Essi riferiscono che una serie di progressi tecnologici appoggerebbero “questo ottimismo,” ed in particolare che “i processori per computer potrebbero conseguire la potenza di calcolo del cervello umano verso il 2020”. Intel aspira a raggiungere questo traguardo entro il 2018. Altri progressi rilevanti nello sviluppo includono “simulazioni complete del cervello, computer neuro-sinaptici, e sistemi di rappresentazione cognitiva generale, quale IBM Watson.”

Poiché i costi di produzione di robotica e cloud computing precipitano, il rapporto NDU dice che i progressi in AI potrebbero anche consentire l’automazione di funzioni militari di alto livello come “problem solving”, “sviluppo di strategie” o “pianificazione operativa”.

“Nel lungo periodo, soldati pienamente robotizzati potranno essere sviluppati e schierati sul campo, in particolare dai paesi più ricchi dice il rapporto (per fortuna, non si menziona ci siano previsioni di aggiungere ‘tessuto vivo’).

Lo studio prevede quindi che il Pentagono giochi un ruolo principalmente di supervisione su macchine autonome sempre più centrali per tutte le dimensioni di guerra-dalla pianificazione operativa all’individuazione di minacce tramite sorveglianza e social media data-mining; dal determinare gli obiettivi nemici a effettivamente distruggerli.

Non vi è alcun esame di coscienza però, circa gli evidenti rischi dell’utilizzo dell’AI per automatizzare questi elementi fondamentali della pianificazione e operazione militare, al di là della subdola frase: “Un aspetto negativo di queste tendenze, tuttavia, sta nei rischi possibili a causa di vulnerabilità impreviste che possono sorgere dalla distribuzione su larga scala di sistemi automatici intelligenti, per i quali c’è poca esperienza pratica”.

Ma se le riserve dell’imprenditore miliardario della tecnologia Ellon Musk sono da prendere in considerazione, l’arroganza del Pentagono è profondamente inopportuna. Musk, uno dei primi investitori nella compagnia AI DeepMind ora di proprietà di Google, ha avvertito di “qualcosa di pericoloso” che potrebbe capitare fra cinque anni a causa della crescita “presso che esponenziale” dell’AI – e alcuni esperti di AI son d’accordo.

Persone prostetico-sintetiche geneticamente modificate armate di Laser

Come se questo non fosse abbastanza inquietante, Kadtke e Wells tracciano sviluppi significativi in una vasta gamma di altre tecnologie. Essi indicano lo sviluppo di armi di energia diretta ( Direct Energy Weapons – DEW) che progettano radiazione elettromagnetica come luce laser, e che stanno già essendo utilizzate in prova.

Lo scorso agosto, la Nave USS Ponce è partita con un laser operativo – questione che è stata segnalata solo in questi ultimi giorni. DEW, gli autori del documento predicono, “sarà una tecnologia militare travolgente” a causa di “caratteristiche uniche, come ad esempio il tempo di volo vicino a zero, estrema precisione, e un caricatore a tutti gli effetti illimitato”. Il Pentagono prevede di armare le navi con DEW fra pochi anni.

Il Pentagono vuole anche raccogliere tecnologie che possano ‘potenziare’ l’essere umano fisicamente, psicologicamente e cognitivamente. Il rapporto NDU cataloga una serie di settori pertinenti, tra cui “una medicina (genetica) personalizzata, rigenerazione di tessuti e organi attraverso cellule staminali, impianti tipo computer chip e dispositivi di comunicazione, protesi robotiche, interfacce dirette cervello-macchina, potenzialmente comunicazioni dirette cervello-cervello”.

Un’altra area che sta sperimentando sviluppi innovativi è la biologia sintetica (SynBio). Gli scienziati hanno recentemente creato cellule con DNA composto di amminoacidi non naturali, aprendo così la porta a creare nuovi forme di vita “da designer” (il rapporto del Pentagono ne parla entusiasticamente), e progettarli “con proprietà specializzate ed esotiche”.

Kadtke e Wells menzionano una recente valutazione della ricerca SynBio del Pentagono che suggerisce “ci sia una grande promessa per la progettazione di organismi sintetici” utili per una serie di “applicazioni rilevanti per la difesa”.

È già possibile sostituire organi con dispositivi elettromeccanici artificiali per una vasta gamma di parti del corpo. Citando la ricerca in corso dell’esercito americano sulla “cognizione e neuro-ergonomia,” Kadtke e Wells prevedono che: “impianti di polmoni artificiali, orecchie, occhi e muscoli affidabili saranno probabilmente disponibili in commercio nei prossimi 5 o 10 anni”. Ancora più radicalmente essi notano l’emergente possibilità di utilizzare le cellule staminali per rigenerare ogni parte del corpo umano.

Accoppiando questi sviluppi con la robotica presenta ulteriori implicazioni radicali. Gli autori evidenziano manifestazioni di successo d’impianti di memoria artificiale e processori di silicio nel cervello, così come “dispositivi controllati dal pensiero”. A lungo termine, questi sviluppi potrebbero far sì che dei dispositivi indossabili come Google Glass sembrino antichi fossili, e che vengano sostituiti da “sistemi uomo-macchina distribuiti che utilizzano interfacce cervello-macchina e processori fisiomimetici analogici, così come sistemi cibernetici ibridi, che potrebbero fornire esplorazione e analisi di dati sugli umani migliorati artificialmente”.

Siamo tutti sospetti terroristi

Nel loro insieme, le “rivoluzioni scientifiche” catalogate dal raporto della NDU -se militarizzate- concferirebbero al Dipartimento della Difesa (DoD) “dirompenti nuove capacità” di qualità pressoché totalitaria.

Come mi è stato detto dall’ex alto dirigente NSA Thomas Drake, l’informatore che ha ispirato Edward Snowden, la ricerca in corso del Pentagono sul data-mining alimenterebbe direttamente la messa a punto degli algoritmi utilizzati dall’intelligence americana per identificare non solo i “sospetti terroristi”, ma creare anche gli elenchi della CIA per gli attacchi di droni.

Quasi la metà delle persone sulle liste del governo degli Stati Uniti su presunti “terroristi noti o sospettati” non hanno “alcuna affiliazione a gruppi terroristici riconosciuti”, e più della metà delle vittime degli attacchi di droni della CIA nel corso di un solo anno sono stati giudicati afghani, pakistani e estremisti di affiliazione sconosciuta – individui che sono stati semplicemente “sospettati, associati o che probabilmente” appartenevano a gruppi militanti non identificati. Diversi studi dimostrano che un numero sostanziale di vittime dei droni sono civili – e un memorandum segreto dell’amministrazione Obama ha rivelato questa estate, in base al Freedom of Information Act, che il programma droni autorizza l’uccisione di civili come inevitabile danno collaterale.

In effetti, le ipotesi difettose nei sistemi di classificazione del Pentagono per la valutazione delle minacce significa che anche “attivisti politici non violenti” potrebbero venir mesi insieme con i potenziali “estremisti”, che “sostengono la violenza politica”, e quindi rappresentano una minaccia per gli interessi degli Stati Uniti.

Non è affatto detto che la visione Skynetesca del Pentagono di guerra futura possa effettivamente essere messa a frutto. Che quest’aspirazione venga perseguita con tanto fervore in nome della ‘sicurezza nazionale’, nell’era dell’austerità nientemeno, di certo solleva interrogativi sul fatto che l’esercito più potente del mondo non stia tanto perdendo il vantaggio quanto la trama.

Nafeez Ahmed, Ph.D. è un giornalista investigativo e studioso della sicurezza internazionale. E ‘autore di “Guida per l’utente alla crisi della civiltà” e del thriller sci-fi, “Zero Point”.

24 Novembre 2014
Traduzione di Marlene Barmann per il Centro Studi Sereno Regis
Titolo originale: How the Pentagon’s Skynet Would Automate War
http://motherboard.vice.com/read/how-the-pentagons-skynet-would-automate-war