Tra promesse quasi miracolose e scenari distopici, l’Intelligenza Artificiale è una delle buzzwords più gettonate negli ultimi anni. E questa stessa ambivalenza, la mantiene anche in ambito sociale e umanitario. Soprattutto parlando di Paesi in via di sviluppo. Da un lato il piano AI for Humanitarian Action di Microsoft, che si propone di migliorare l’impatto delle azioni umanitarie, dall’altro l’allarme dello scienziato Kai-Fu Lee, autore di AI Superpowers: China, Silicon Valley and the New World Order, secondo cui l’AI potrebbe accrescere le diseguaglianze mondiali, con effetti devastanti sui Pvs.

di Luca Indemini

Il Comitato Internazionale della Croce Rossa ha recentemente condotto una ricerca per analizzare l’utilizzo dell’IA e dell’apprendimento automatico durante i conflitti armati e nella gestione delle potenziali conseguenze umanitarie.

Nelle situazioni di guerra, l’intelligenza artificiale è destinata a giocare un ruolo sempre più preponderante: dai mezzi armati autonomi e senza pilota alle nuove forme di guerra informatica, fino alla gestione dei processi decisionali. Il CICR non si oppone a priori alle nuove tecnologie di guerra – alcune possono anche aiutare a minimizzare le conseguenze umanitarie –; ma evidenzia la necessità di mantenere un approccio che mantenga l’uomo al centro, soprattutto quando si tratta di gestire situazioni o prendere decisioni che potrebbero avere gravi conseguenze per la vita di altre persone.

Riassumendo: va bene l’intelligenza artificiale, ma affiancata da quella umana e utilizzata per servire gli esseri umani. Insomma, le tre leggi della robotica di Isaac Asimov non sono mai state così attuali.

Uso dell’IA e del machine learning nei conflitti

Molti dei potenziali utilizzi dell’IA nei conflitti armati non sono ancora noti. Ci sono però almeno tre aree rilevanti dal punto di vista umanitario, analizzate dal CICR.

Un utilizzo significativo è quello dell’IA per controllare i crescenti sistemi robotici senza pilota, in aria, terra e mare. Da un lato permette una maggiore autonomia nella gestione di queste piattaforme robotiche, sia armate sia disarmate. Dall’altro pone alcune domande fondamentali: quale spazio c’è per la supervisione umana nella gestione di un’arma che seleziona autonomamente i suoi bersagli? Quale deve essere il livello di affidabilità richiesto?

Inoltre, l’uso dell’IA apre nuovi scenari anche nel campo della cyber war o guerra informatica. Infine, quella che potrebbe essere l’applicazione più ampia riguarda l’uso dell’IA nella gestione dei processi decisionali, attraverso la raccolta e l’analisi di dati per l’identificazione di persone e oggetti, per valutare modelli di comportamento, formulare raccomandazioni e strategie per gestire le operazioni militari.

Uso dell’IA per azioni umanitarie

Non è minore l’impatto dell’IA nella gestione delle azioni umanitarie. Su tutti, la possibilità di analizzare i dati a disposizione in determinati contesti complessi, per fornire un’assistenza più efficiente e puntuale.

Inoltre, analizzando immagini, video e altri modelli, l’IA potrebbe aiutare a valutare i danni alle infrastrutture civili, misurare il grado di contaminazione dell’aria o gestire operazioni di sfollamento della popolazione. In questo contesto il CICR ha sviluppato una dashboard per la scansione ambientale mirata ad acquisire e analizzare grandi volumi di dati a supporto del proprio lavoro, per provare a predire e anticipare le esigenze umanitarie.

C’è molto interesse poi, in quelle tecnologie che possono aiutare a identificare persone scomparse, come il riconoscimento facciale basato sull’Intelligenza Artificiale e l’elaborazione del linguaggio naturale per la corrispondenza dei nomi. Il Comitato Internazionale della Croce Rossa ha esplorato l’uso di queste tecnologie per supportare la sua Central Tracing Agency impegnata nel compito di riunire i membri delle famiglie separate dai conflitti.

A queste applicazioni in ambito umanitario dell’IA si accompagnano potenziali rischi, questioni legali ed etiche, in primis per quanto riguarda le tecnologie di riconoscimento facciale.

Cheese 3 School: IA e abbandono scolastico

E sul tema caldo del riconoscimento facciale, c’è un esperimento in atto in Burkina Faso particolarmente interessante. Nelle aree rurali del paese ci sono classi di 50 alunni e anche solo fare l’appello e controllare le presenze quotidiane può diventare un’attività complicata. Di contro, avere dati certi e in tempo reale sulle presenze è fondamentale per intervenire contro l’abbandono scolastico. Per rispondere a questa necessità, Ciai e Gnucoop hanno realizzato l’app Cheese 2 Shool, che rileva automaticamente le presenze dei bambini, consentendo un monitoraggio costante e offrendo un supporto per interventi rapidi contro l’abbandono scolastico. Agli insegnanti basta scattare una fotografia della classe, l’app conta gli alunni, li categorizza per genere, attraverso il riconoscimento facciale, e invia le informazioni a una piattaforma, che aggrega i dati scuola per suola. «L’idea è di consegnare un data set che ci dice gli andamenti delle frequenze. La potenzialità – questo è un progetto pilota in 10 scuole in 10 municipalità – la vedremo alla fine anno scolastico, se funziona potremmo diffonderla a livello nazionale.» racconta Francesca Silva, direttore di Ciai a Vita.