Lo scorso dicembre, lo Stato del New Mexico ha avviato una causa legale contro Meta, sostenendo che gli algoritmi di Facebook e Instagram espongano i minori a contenuti inappropriati.
Recentemente è emersa una presentazione interna in cui i dipendenti stimano che oltre 100.000 minorenni siano vittime di molestie ogni giorno, come riportato dal Wall Street Journal.
Questa scoperta è emersa come parte di nuovi documenti non censurati relativi alle politiche di sicurezza dei minori, nel contesto della causa intentata il mese scorso.
Oltre all'accusa di fornire consigli su contenuti sessuali ai minori, le piattaforme di Meta dovranno affrontare l'accusa di promuovere account di minorenni a utenti adulti con possibili intenzioni predatorie.
Lo scandalo nei messaggi privati
Secondo un documento interno del 2021, l'algoritmo "Persone che potresti conoscere" di Facebook è stato individuato come il principale mezzo di connessione tra i minori e i predatori.
Quando i dipendenti hanno segnalato queste scoperte agli esecutivi di Meta, le raccomandazioni per ridisegnare l'algoritmo e mettere fine alla scia di segnalazioni di importuni sono state respinte.
Si stima che questa funzione sia responsabile del 75% di tutti i contatti inappropriati nei confronti dei giovani utenti.
Il problema è risultato particolarmente grave su Instagram, come evidenziato da un memo interno del 2020, con le conversazioni di questo genere che risultavano essere 38 volte più frequenti rispetto a Facebook Messenger negli Stati Uniti.
Gli investigatori statali hanno proceduto creando account fasulli di minori, fornendo date di nascita false, seguendo la consuetudine dei ragazzi che spesso mentono sull'età per accedere a servizi online.
La denuncia ha sottolineato che tali account ricevevano immagini spinte e offerte di pagamento per atti sessuali.
Nella bufera
Lo scorso giugno, Meta ha costituito una task force per affrontare le problematiche di sicurezza riguardanti i minori sulle sue piattaforme, in risposta a un articolo del Wall Street Journal che metteva in luce come gli algoritmi di Instagram favorissero una vasta rete di account dedicati alla produzione e all'acquisto di contenuti sessuali con minori.
Tra queste misure, rientrano il blocco dei messaggi da parte di utenti non seguiti e la moderazione dei commenti offensivi.
Nonostante ciò, l'istituzione statale sostiene che i dirigenti di Meta non hanno adottato adeguate misure per limitare il comportamento predatorio degli adulti verso i minori fino alla fine del 2022, evitando nel contempo le severe precauzioni raccomandate dal personale della sicurezza.
Uno studio condotto da Meta ha rivelato che il 99% degli account disabilitati per adescamento di minori non aveva dichiarato correttamente la propria età.
Oltre alla denuncia presentata dal New Mexico, Meta è coinvolta in cause intentate da 41 Stati che sostengono che la piattaforma danneggi la salute mentale dei suoi giovani utenti.
Un'altra denuncia, recentemente resa pubblica e presentata da 33 Stati, sostiene che Meta abbia attivamente cercato utenti al di sotto dei 13 anni ed è stata disonesta nella gestione degli account dei minori quando vengono scoperti.
