Un nuovo resoconto getta delle luci inquietanti sull'utilizzo delle intelligenze artificiali generative, ormai diffusissime anche in ambito videoludico. Nello specifico una cosiddetta "fidanzata IA" è stata hackerata, svelando che molti utenti la usavano per simulare abusi sui minori.
Che cos'è una fidanzata IA? Esattamente quello che dice di essere: un chatbot che si finge una fidanzata virtuale. La testata 404 Media ha riportato che il sito Muah.ai, che consente di crearsi dei chatbot con cui scambiarsi dei messaggi espliciti, ha subito un enorme furto di dati, tra i quali molti prompt degli utenti. Quindi si è scoperto il tipo di interazioni tentate dagli utenti. Stando a quanto emerso, in tanti hanno provato a far interpretare dei bambini al chatbot.
A pensar male...
L'hacker autore dell'impresa ha descritto il sito come davvero debole a livello strutturale (sostanzialmente è formato da vari progetti open source collegati a forza). Quando ha notato le varie vulnerabilità, ha iniziato a curiosare, scoprendo uno scenario di uno squallore devastante.
Quindi ha contattato 404 Media per riportare quanto appreso, ossia che alcuni prompt riguardavano l'abuso sessuale di infanti, con tanto di richiesta di un'orgia con dei neonati e con dei ragazzini. 404 Media non ha potuto confermare se Muah.ai ha dato ai pedofili ciò che volevano, ma il solo fatto che certe richieste esistano fa capire come molti vogliano sfruttare davvero le intelligenze artificiali.
Harvard Han, l'amministratore di Muah.ai, ha detto che il chatbot ha un team di moderatori che sospendono e cancellano tutti i chatbot della card gallery (raccolta di chatbot creati dagli utenti) relativi ai minorenni. In realtà la questione pare essere più controversa. Muah.ai consente la creazione di conversazioni e immagini esplicite. In linea teorica tutti i contenuti con minorenni vengono bannati, ma quanto due persone hanno pubblicato un personaggio IA minorenne sul server Discord del sito, gli è stato spiegato di scambiarsi certo materiale in privato. Da questo si è capito che chi amministra il sito sa come viene utilizzato. Il sospetto è che cerchi solo di non farlo emergere per evitare ripercussioni, invece di intervenire davvero su certe situazioni.
