La guerra degli algoritmi sta arrivando


iSpeech Vogon

di F. dalle Nogare - L'umanità si trova di fronte a una nuova e seria realtà: l'ascesa di armi autonome. Può sembrare una sceneggiatura di Hollywood, ma il rischio è reale.

Nella nostra mente la guerra è qualcosa di reale, di atrocemente difficile, qualcosa che l'uomo fa all'uomo, ci sono lotte, sudore e altro. In breve, lo immaginiamo come una lotta per la vita. Ma gli esseri umani sono ormai lontani da guerre di questo tipo. Già oggi il processo decisionale in termini di vita e di morte è effettivamente lasciato a sensori e software.

Ma che tipo di futuro incombe, se la vita umana è lasciata agli algoritmi? I robot e i sistemi informatici mancano della distinta e unica capacità umana di comprendere sia l'ambiente complesso in cui operano sia le armi che utilizzano. Inoltre, i sistemi più complessi stanno diventando veramente autonomi grazie all'intelligenza artificiale.

La guerra non dovrebbe esistere tra le possibili scelte per risolvere una disputa, qualunque essa sia, ma in realtà è la cosa che riesce meglio.

La responsabilità delle decisioni di uccidere, ferire e distruggere dovrebbe essere lasciata agli umani?

Lui è il soldato, non una macchina, che include la legge e le conseguenze della sua violazione e chi è responsabile di quell'azione. Questi obblighi non possono essere trasferiti su un programma per computer. I governi, con il contributo della società civile e dell'industria tecnologica, non devono perdere tempo nel concordare limiti all'autonomia nei sistemi balistici automatici.

I progressi tecnologici sono grandi opportunità. Che si tratti di medicina, trasporti, agricoltura, commercio, finanza o qualsiasi altro dominio, la robotica, l'intelligenza artificiale e l'apprendimento automatico stanno avendo un effetto incredibile.

È logico che questa tecnologia sia presa in considerazione ai fini della sicurezza nazionale e della difesa, motivo per cui non dovremmo essere sorpresi se stiamo vedendo molti paesi investire pesantemente nell'IA e nei sistemi robotici militari con maggiore autonomia.

Nell'aprile di quest'anno un gruppo di esperti governativi si è riunito a Ginevra per esaminare i sistemi di armi autonome. Il gruppo ha capito che il controllo deve rimanere nelle mani dell'uomo, non possiamo assegnare un robot.

Il prossimo agosto ci sarà un altro incontro, in cui i governi dovranno rispondere alla domanda più difficile: quale livello di controllo umano è necessario per assicurare sia la compatibilità con le nostre leggi sia l'accettabilità ai nostri valori?

La risposta è molto importante perché alcuni sistemi autonomi sono già in uso in circostanze limitate e per compiti molto specifici. Dopo l'attivazione da parte di un operatore umano, è il sistema d'arma che seleziona un bersaglio e lancia una contromossa.

Tuttavia, lo scopo in cui i sistemi basati su intelligenza artificiale possono essere utilizzati è molto più ampio. È potenzialmente basato sulla tecnologia dei sistemi di "aiuto alle decisioni", che analizzano il feedback video e individuano possibili obiettivi.

Con i nuovi progressi che avvengono a un ritmo vertiginoso, i governi, con il supporto della comunità scientifica e tecnica, devono intraprendere azioni urgenti per concordare i limiti che questi sistemi devono avere.

Tutto senza soffocare o rallentare il progresso tecnologico che porta chiari benefici.

L'alternativa è la prospettiva profondamente inquietante di una nuova corsa agli armamenti e un futuro in cui le guerre sono combattute con algoritmi, con risultati incerti sia per i civili che per i combattenti.

(Fonte: Articolo originale sul Blog di Beppe Grillo)

Commenta su Facebook
Giuseppe Grillo

Informazioni su Babel Fish

Con l'ausilio di un Pesce di Babele, Babel Fish traduce in italiano articoli da noti blog intergalattici e - giammai soddisfatto - traduce dall'italiano al Vogon e poi di nuovo dal Vogon all'italiano articoli da noti blog italiani. I risultati delle lavoro di Babel Fish sono pubblicati su questo blog.

Precedente Reddito base universale: un progetto europeo per le prossime elezioni Successivo Scopri i candidati del concorso del cognato dell'anno 2018

Rispondi

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.