Il governo del Regno Unito sta utilizzando estensivamente algoritmi di deep learning, volgarmente definiti intelligenze artificiali, in diversi ambiti, come per prendere decisioni relative alle richieste di sussidi di assistenza sociale, per individuare frodi e persino per la scansione dei passaporti. Purtroppo i problemi non mancano, come facilmente prevedibile.
Come sottolineato da un'indagine condotta dal Guardian, i numerosi errori che si stanno riscontrando nel Regno Unito nascerebbero dai dati con cui sono stati addestrati gli algoritmi.
Prendiamo il caso della scansione dei passaporti, voluta dal Ministero dell'Interno. L'obiettivo dato alle intelligenze artificiali sarebbe quello di individuare eventuali matrimoni falsi, per sottoporli a indagini più approfondite. Peccato però che l'algoritmo tenda a formarsi dei pregiudizi, segnalando un gran numero di persone provenienti dall'Albania, dalla Grecia, dalla Romania e dalla Bulgaria, perché il dataset è stato addestrato con dati che enfatizzano determinati tratti.
Vanno inoltre moltiplicandosi le notizie su errori commessi dalle IA in diverse organizzazioni governative, probabilmente per scarsa capacità nel loro utilizzo o per sopravvalutazione delle loro potenzialità.
Il governo del Regno Unito difende l'uso delle nuove tecnologie e, nel caso delle richieste di sussidi di assistenza sociale, afferma che la decisione finale viene comunque presa da una persona in carne e ossa. Non è chiaro però il peso dell'output dell'algoritmo sulle decisioni prese, ossia se chi decide riveda tutte le informazioni o si limiti a confermare o meno quanto detto dall'IA. Nel primo caso l'uso delle IA sarebbe uno spreco, nel secondo però i ricorsi in caso di errori potrebbe diventare numerosissimi, soprattutto se i dati con cui è stata addestrata l'IA fossero tendenziosi e forieri di forti pregiudizi. I risultati, in caso di decisioni che riguardassero la sfera sanitaria, potrebbero essere disastrosi, se non monitorati accuratamente.
