Killer robots e università inglesi

Un articolo pubblicato nel 2021 da Griffith et al., membri della Campagna Stop killer robots (CSKR) che da anni si oppone allo sviluppo di armi ‘autonome’ (cioè in grado di colpire senza il controllo umano diretto) sottolinea la ‘disturbante relazione di vicinanza’ tra il settore militar-industriale e la formazione universitaria nel Regno Unito, specialmente per quanto riguarda le aree di ricerca che riguardano proprio i sistemi d’arma autonomi (Autonomous Weapons Systems, AWS).

Nico Edwards (una studentessa che sta conseguendo il PhD presso la School of Global Studies, Sussex University), ha pubblicato una sintesi dell’articolo di Griffith sulla rivista ‘Responsible Science.. Questa rivista è pubblicata dall’Associazione Scientists for Global Responsibility, formata da un gruppo di studiosi di varia formazione, che da anni sono impegnati a promuovere gli aspetti etici della scienza e della ricerca e progettazione tecno-scientifica, sulla base di principi di trasparenza, responsabilità, pace, giustizia sociale e sostenibilità ambientale.

Qui di seguito traduco le parti più significative dell’articolo di Nico Edwards, rimandando all’originale e alla bibliografia per approfondimenti. Dopo il testo tradotto scrivo alcune note (un commento finale).

Fermare i killer robots

Dopo anni di campagne globali, il 21 ottobre 2022 70 Stati hanno rilasciato all’Assemblea Generale delle Nazioni Unite la prima dichiarazione congiunta in assoluto sui Sistemi d’arma autonomi (AWS) – meglio conosciuti come ‘killer robots’.  La dichiarazione della Campagna Stop Killer Robots (CSKR) individua nei killer robots una grave minaccia ai fondamenti umanitari ed etici della società, e sottolinea la necessità di mantenere il controllo umano e di assumere la responsabilità umana diretta nell’uso della forza. Eppure, potenze come gli USA, la Russia, la Cina, Israele e il Regno Unito continuano a ostacolare i tentativi di sviluppare una legislazione internazionale per regolamentare la ricerca e l’uso dei killer-robots.

La situazione è complicata – nella guerra attualmente in corso in Ucraina – dall’uso da parte di entrambi gli eserciti di droni dotati di una varietà di funzioni autonome: identificazione visiva basata su Intelligenza artificiale, tecnologie per il riconoscimento del bersaglio, capacità autonome di volo e navigazione. La società civile globale prende atto che questa situazione è una prova della necessità di bandire a livello internazionale questi sistemi d’arma, mentre numerosi stati partono proprio da questa situazione per sottolineare la necessità di finanziare nuove ricerche e aumentare gli investimenti sui sistemi d’arma.

I crescenti legami tra università e AWS

Dal 2020 la sezione inglese della Campagna Stop Killer Robots (CSKR) ha sostenuto in tutto il paese gruppi di docenti e di studenti, allo scopo di aumentare la loro consapevolezza sui nessi tra università e AWS.

Contemporaneamente si è intrapreso un ampio studio volto a indagare sulla natura e sugli obiettivi di ricerche che riguardano l’Intelligenza Artificiale  e i sistemi autonomi, e a valutare il rischio che tali ricerche siano utilizzate per la produzione di AWS.

L’indagine si è svolta in 13 università: The Alan Turing Institute, Cranfield University, Imperial College London, University College London, University of Birmingham, University of Bristol, University of Cambridge, University of Edinburgh, University of Manchester, University of Oxford, University of Southampton, University of Strathclyde, University of Warwick. Le università sono state scelte in base al fatto che ricevono finanziamenti significativi dal Ministero della Difesa e che hanno legami diretti con i produttori britannici di tecnologia militare. Ha individuato 65 programmi di ricerca in grado di contribuire – direttamente o indirettamente – alla produzione di killer robots.

Di questi programmi, 17 sono stati valutati ad alto rischio: l’obiettivo di queste ricerche è quello di contribuire direttamente alla produzione di armamenti o allo sviluppo di nuove capacità tecnologiche militari. Viene così evidenziato il ruolo cruciale svolto dalle università nel facilitare le iniziative del governo a favore dei killer robots: lo Stato britannico incoraggia tali ricerche a scapito della protezione umanitaria e del rispetto per l’etica.

Ma la connessione tra militari e università su queste tematiche non si manifesta solo attraverso la collaborazione in progetti di ricerca che vedono coinvolti ricercatori singoli, dipartimenti universitari e ministero della difesa (Ministry of Defence: MOD). Ci sono anche aziende private (come Boeing UK, Thales, Aveillant, Saab e Raytheon UK) che finanziano direttamente progetti di ricerca universitari (militari e dual-use) e offrono agli studenti stages, borse di studio, opportunità di lavoro.

Lo studio mette in luce iniziative palesi di collaborazione tra aziende e università, come la proposta, coordinata insieme dall’Università di Crainfield e la BAE Systems, di un Master in “Intelligenza Artificiale Applicata”; contemporaneamente segnala la scarsa trasparenza – da parte dei consigli di amministrazione delle università – nel fornire informazioni su programmi di ricerca connessi al settore militar-industriale.

Scarsa attenzione all’etica da parte dello Stato

L’articolo di Griffith et al.  sottolinea un punto importante: adottando un’ampia definizione di quali tipi di tecnologie dual-use sono a rischio di finire in ambienti militari si estende  il numero di contesti di ricerca – e quindi il numero di ricercatori – che dovrebbero essere tutelati tramite garanzie etiche.

L’indagine conferma che le università prese in esame non dispongono di criteri chiari con cui valutare le implicazioni e gli obiettivi di ricerche connesse con i sistemi d’arma autonomi, e sottolinea la grave mancanza di trasparenza sulla natura delle ricerche AWS e sui soggetti finanziatori.

Grazie a interviste svolte con studenti e docenti, i membri della Campagna CSKR hanno scoperto che spesso ai ricercatori si chiede da fare una scelta tra la propria etica personale – per esempio il sostegno che si vorrebbe offrire alla messa a punto di una regolamentazione internazionale degli AWS – e la possibilità di proseguire nei programmi in corso.  Altrettanto spesso i ricercatori intervistati ammettono di non essere consapevoli dei rischi associati alle tecnologie ‘dual-use’, soprattutto rispetto al potenziale uso nella ricerca AWS. La mancanza di adeguate informazioni su questo tema scarica sui singoli ricercatori la responsabilità di valutare le implicazioni etiche del loro lavoro (invece che al gruppo di ricerca o all’università di riferimento).

I membri della Campagna CSKR che hanno svolto la ricerca hanno tentato in vari modi di entrare in relazione con i consigli di amministrazione delle università contattate, ma con scarso esito: mozioni, lettere, petizioni, discussioni su newsletter accademiche hanno avuto poco effetto. Una lettera inviata agli Organi competenti delle 13 università oggetto di studio, che conteneva alcuni suggerimenti di azioni da intraprendere per contrastare eventuali usi eticamente impropri delle ricerche (da una maggiore trasparenza dei programmi di ricerca, all’attivazione di corsi di formazione, fino alla proposta di firmare la dichiarazione della Campagna CSKR) ha ottenuto poche risposte.

Embed from Getty Images

Università britanniche a un bivio: umanitarismo o militarismo?

I risultati del rapporto CSKR portano un messaggio essenziale: esiste una sovra-rappresentazione degli interessi militari nel settore universitario, che è problematica perché porta l’attenzione lontano da obiettivi umanitari e favorisce la prospettiva dell’uso della forza nell’affrontare i conflitti globali. Via via che nelle ricerche universitarie aumenta l’influenza del governo e delle aziende legate agli armamenti si riduce il controllo dei ricercatori sui temi e sugli obiettivi da perseguire. E si riducono le possibilità di accedere a carriere socialmente responsabili.

Questa situazione non vale solo per il Regno Unito, ma ha conseguenze internazionali: la crescente dipendenza delle università dai finanziamenti militari orienta sempre più le scelte dei governi ad affrontare le crisi sociali con strumenti di guerra e non di pace.

Le università del Regno Unito hanno ancora la possibilità di garantire indipendenza, trasparenza e responsabilità della ricerca britannica, offrendo ai ricercatori l’opportunità di impegnare le loro competenze per sviluppare ricerche con responsabilità e secondo principi etici. Ma il lavoro della  Campagna CSKR sta mettendo in luce rapporti non trasparenti tra il governo e l’istruzione superiore, che favoriscono gli interessi economici di uno stato militar-industriale complesso e alimentano il sogno politico dell’apparato militare.

Qualche riferimento

• Automated Decision Research (2022). https://automatedresearch.org/news/weapons-systems-with-autonomous-functions-used-in-ukraine/
• Digital Aviation Research and Technology Centre  https://www.cranfield.ac.uk/centres/digital-aviation-research-and-technology-centre
• European Defence Agency https://eda.europa.eu/news-and-events/news/2022/12/08/european-defence-spending-surpasses-200-billion-for-first-time-driven-by-record-defence-investments-in-2021
• Peace Pledge Union https://www.ppu.org.uk/
• Qureshi, M. https://demilitarize.org.uk/2-trillion-for-war-versus-100-billion-to-save-the-planet/

Un commento finale

La situazione descritta nell’articolo di Griffith et al., e riassunta da Nico Edwards sulla rivista ‘Responsible science’ riveste interesse per diversi aspetti. Leggere i dati riportati sulla situazione delle università britanniche invoglia a saperne di più su quanto avviene nelle università italiane, in termini di collaborazioni tra Ministero della Difesa, Università, mondo imprenditoriale.

Qualche dato è già disponibile: un articolo di Antonio Mazzeo (pubblicato sulla rivista Gli asini, n. 27, marzo 2022, e accessibile a questo link) presenta un quadro molto articolato e piuttosto inquietante dei coinvolgimenti del mondo accademico con il mondo della difesa e il complesso industriale-militare.

Nelle ultime pagine di questo articolo si cita un’indagine promossa da Greenpeace Italia, che nel corso del 2021 ha inviato un formulario a 66 atenei italiani chiedendo se fossero stati firmati accordi con il ministero della Difesa, la NATO e i maggiori gruppi del comparto industriale-militare. “Solo dieci università hanno dichiarato di non averne, mentre 34 hanno inviato documentazione anche se spesso in modo parziale”, ha dichiarato Alessandro Giannì, direttore di Greenpeace. “Ma quelli condivisi sono perlopiù accordi poco rilevanti, o privi dei dettagli che avrebbero permesso di comprendere l’applicazione effettiva della ricerca, se bellica o civile”.

È passato più di un anno, e ci troviamo in un periodo di forte ‘ritorno’ all’idea di patria, di difesa armata, di sicurezza.  È di pochi mesi fa (6 marzo 2023) l’istituzione di un “Comitato per lo sviluppo e la valorizzazione della cultura della Difesa” che intende avvalersi esplicitamente del contributo della società civile. Il Ministro Crosetto sostiene che “servono approcci innovativi per continuare a essere efficaci nel garantire la sicurezza della Nazione e sono convinto che un dialogo strutturale tra il mondo militare, il sistema universitario, l’industria di settore e l’ambiente dell’informazione sia uno strumento essenziale per conseguire l’obiettivo”.

Il ministro Crosetto all’AeroSpace Power Conference 2023

La presenza a Torino non solo di una brillante Università, ma anche di un prestigioso Politecnico, impegnato in numerosi settori di ricerca innovativi e tecnologicamente molto sofisticati, in un momento in cui la nostra città si sta orientando – da città dell’automobile – a diventare la città dell’aerospazio, suscita degli interrogativi nella società civile.  Come si stanno orientando i nostri centri di formazione superiore rispetto alla proposta di un ‘dialogo strutturale’ proposto dal Ministro della Difesa? Ci sono già programmi di ricerca in atto sui temi scottanti indagati nell’articolo inglese, dalle ricerche ‘dual-use’ alle applicazioni dell’IA ai sistemi d’arma autonomi? Chi sono i finanziatori? Quali le ricadute occupazionali? Quali sfide etiche devono affrontare i giovani coinvolti in queste ricerche? E come vengono preparati ad affrontarle?

Lo studio realizzato da Griffith e c.  e la rassegna presentata da Antonio Mazzeo offrono numerosi suggerimenti per proseguire la ricerca: per conoscere meglio la situazione delle Università italiane e – in particolare – per capire che ruolo Università e Politecnico di Torino (insieme alle istituzioni nazionali e alle amministrazioni locali) intendono svolgere per costruire il futuro della nostra città.

Titolo originale: UK universities and the further development of killer robots

Responsible Science, no.5, 2023

https://www.sgr.org.uk/resources/uk-universities-and-further-development-killer-robots

Traduzione e sintesi a cura di Elena Camino per il Centro Studi Sereno Regis