Bioetica, preoccupano i Lethal weapons systems – Simone Tropea, Si alla Vita Settembre 2017, Anno XXXIX, n° 01/2017, pag. 20

Elon Musk, amministratore delegato di Tesla, ha promosso una petizione firmata da 116 esperti di robotica ed intelligenza artificiale (IA), presentata ufficialmente all’Onu nell’agosto di quest’anno, in cui si chiede, senza mezzi termini, un riconoscimento responsabile del pericolo incalcolabile che in questo momento rappresentano i “lethal weapons systems”, ovvero quei sistemi meccanici di automazione in grado di uccidere “autonomamente”. I firmatari chiedonoche questi strumenti vengano aggiunti alla lista di armi messe al bando dalla convenzione Onu del 1983, che include le armi chimiche e le armi laser intenzionalmente accecanti.
Nella lettera si legge:«Le armi letali autonome minacciano di diventare la terza rivoluzione in ambito bellico. Una volta sviluppate, permetteranno ai conflitti armati di essere combattuti in una scala più grande che mai, e con tempi più rapidi di quanto gli umani possano comprendere” (…) “Possono diventare armi di terrore, che terroristi e despoti usano contro popolazioni innocenti, e che mediante l’hackeraggio agiranno in maniere indesiderabili… Non abbiamo molto tempo per agire. Una volta aperto, questo Vaso di Pandora sarà difficile da chiudere».
Anche il Comitato Nazionale di Bioetica ed il Comitato Nazionale (CNB) per la Biosicurezza, le Biotecnologie e Le Scienze della Vita (CNBBSV) italiani, si erano espressi in merito quasi un mese prima, della lettera di Musle e dei suo colleghi, sottolineando, nel rapporto “Sugli sviluppi della robotica e della robo-etica” (17 luglio 2017):
1. L’esigenza di implementare gli studi sulla problematicitá etica della robotica militare, evidenziando i limiti e le conseguenze relativamente al principio responsabilitá uomo/macchina autonoma.
2. L’urgenza di una presa di posizione della comunitá internazionale, attraverso un protocollo aggiuntivo alla Convenzione di Ginevra per regolare e limitare gli sviluppoi della nascente tecnologia delle armi autonome.
Nello stesso documento si afferma in modo chiaro che l’utilizzo dei robot per scopi ripropone tutti i problemi legati alla robotica in generale, ma «ne accentua gli aspetti cruciali, perché l’inevitabile prevalenza delle intenzioni distruttive e violente sulle prospettive di cooperazione apre all’interazione tra sistemi automatici ed esseri umani orizzonti che non possono rispettare i piú tradizionali limiti e neppure il generale divieto di arrecare danni alle cose e alle persone».
Questo significa che ci troviamo davvero di fronte ad un bivio. I principi classici dello ius in bello (necessità, proporzionalità, distinzione) smettono di essere incisivi di fronte al fatto oggettivo che è piú facile programmare una reazione distruttiva che innestare un meccanismo inibitorio. Una realta che fa scrivere agli esperti del CNB e del CNBBSV: «Questa difficoltá getta una luce inquietante sul nostro futuro. Ed e´ancora piú angosciante il pensiero che non saremo mai in grado di colmarlo (lo scarto che esiste tra le regole che limitano l’uso della forza previste dal diritto internazionale dei conflitti, per esempio, e la loro concreta applicabilitá). Non sono oggi alla nostra portata meccanismi in grado di distinguere o meno le differenti situazioni concrete(…) L’etica del combattimento slitta verso un’etica dell’esecuzione» (G. Chamayou, Théorie du Drone, tr.it. Derive Approdi, Roma 2013).

Simone E. Tropea
Agenzia Vitanews

Bioetica, preoccupano le Lethal weapons systems – Simone Tropea, Si alla Vita Settembre 2017