Le intelligenze artificiali rappresentano un rischio per il genere umano, che potrebbe essere portato all'estinzione. A dirlo in una lettera aperta sono stati alcuni dipendenti ed ex-dipendenti di compagnie attive nel settore, come OpenAI e Google DeepMind, che hanno chiesto espressamente di poter esporre i pericoli legati a queste nuove tecnologie uscendo dall'anonimato, cui sono costretti dai contratti firmati con le suddette.
La lettera inizia affermando che i firmatari credono "nel potenziale della tecnologia dell'IA di apportare benefici senza precedenti all'umanità." Prosegue poi affermando: "Tuttavia, comprendiamo anche i gravi rischi posti da queste tecnologie. Questi rischi vanno dal ulteriore radicamento delle disuguaglianze esistenti, alla manipolazione e alla disinformazione, fino alla perdita di controllo dei sistemi di IA autonomi che potrebbero potenzialmente portare all'estinzione umana." Secondo la lettera, le stesse compagnie avrebbero riconosciuto questi rischi, così come i governi di tutto il mondo. Anche altri esperti di intelligenze artificiali concorderebbero sul punto.
Spiegatevi meglio
"Confidiamo che questi rischi possano essere adeguatamente mitigati con la guida della comunità scientifica, dei politici e del pubblico. Tuttavia, le aziende di IA hanno forti incentivi finanziari per evitare una supervisione completa, e non crediamo che strutture di governance aziendale su misura siano sufficienti a cambiare lo stato delle cose." Insomma, ci sarebbe bisogno di un monitoraggio terzo di queste tecnologie, che però le aziende non consentono per non rovinare i loro affari. Sembra quasi la trama di un film distopico.
La lettera prosegue affermando che queste compagnie hanno delle informazioni riservate importanti sulle "capacità e sui limiti dei loro sistemi, sull'adeguatezza delle loro misure di protezione e sui livelli di rischio dei danni che potrebbero causare." Attualmente, comunque, non hanno obblighi di condividere le informazioni con i governi o con gli organi di controllo, tantomeno con la società civile, che pure sarà la più colpita. I firmatari della lettera dubitano che ci si possa fidare di queste compagnie per la gestione delle informazioni e la loro condivisione. In fondo chi meglio di un mucchio di manager affamati di soldi può gestire con efficacia e assennatezza il futuro dell'umanità? Lo sappiamo tutti che agiranno solo per il nostro bene.
"Finché non ci sarà una supervisione governativa efficace su queste società, i dipendenti attuali ed ex dipendenti sono tra le poche persone che possono renderli responsabili nei confronti del pubblico. Tuttavia, degli stringenti accordi di riservatezza ci impediscono di rendere note le nostre preoccupazioni, se non alle aziende stesse, che di loro potrebbero non affrontare questi problemi."
La lettera si conclude chiedendo alle compagnie di aprirsi alle critiche sui rischi delle intelligenze artificiali, non imponendo il silenzio ai dipendenti tramite contratti o ritorsioni economiche.
