L'abuso sessuale su minori online è in aumento e assume nuove forme, come immagini e video generati dall'intelligenza artificiale, secondo una valutazione annuale pubblicata martedì dal National Center for Missing & Exploited Children (NCMEC), un centro statunitense per la segnalazione di materiale di abuso sessuale su minori. Le segnalazioni al NCMEC di abusi su minori online sono aumentate di oltre il 12% nel 2023 rispetto all'anno precedente, superando i 36,2 milioni di rapporti, ha dichiarato l'organizzazione nel suo rapporto annuale CyberTipline. La maggior parte delle segnalazioni ricevute riguardava la circolazione di materiale di abuso sessuale su minori (CSAM), come foto e video, ma si è registrato anche un aumento delle segnalazioni di estorsioni sessuali finanziarie, in cui un predatore online induce un minore a inviare immagini o video di nudo e poi richiede denaro.
Alcuni bambini e famiglie sono stati estorti per guadagno finanziario da predatori che utilizzavano CSAM creato con l'IA, secondo il NCMEC. Il centro ha ricevuto 4.700 segnalazioni di immagini o video di sfruttamento sessuale di minori creati da intelligenza artificiale generativa, una categoria che ha iniziato a monitorare solo nel 2023, ha affermato un portavoce. "Il NCMEC è profondamente preoccupato per questa tendenza in rapida crescita, poiché gli attori malintenzionati possono utilizzare l'intelligenza artificiale per creare immagini o video sessualmente espliciti deepfake basati su qualsiasi fotografia di un vero bambino o generare CSAM che rappresenta bambini generati al computer impegnati in atti sessuali grafici," afferma il rapporto del NCMEC. "Per i bambini raffigurati nei deepfake e le loro famiglie, è devastante."
Il contenuto di abuso su minori generato dall'IA ostacola anche l'identificazione delle vere vittime minori, secondo l'organizzazione. Creare tale materiale è illegale negli Stati Uniti, poiché la produzione di rappresentazioni visive di minori coinvolti in condotte sessualmente esplicite è un reato federale, secondo un procuratore del Massachusetts del Dipartimento di Giustizia, che ha parlato in condizione di anonimato.
Nel complesso nel 2023, il CyberTipline ha ricevuto oltre 35,9 milioni di rapporti che facevano riferimento a incidenti sospetti di CSAM, più del 90% dei quali caricati al di fuori degli Stati Uniti. Circa 1,1 milioni di rapporti sono stati trasmessi alla polizia negli Stati Uniti, e 63.892 rapporti erano urgenti o coinvolgevano un bambino in pericolo imminente, secondo il rapporto di martedì.
C'erano 186.000 segnalazioni riguardanti l'adescamento online, in aumento del 300% rispetto al 2022; l'adescamento è una forma di sfruttamento che coinvolge un individuo che comunica online con qualcuno ritenuto un bambino con l'intento di commettere un reato sessuale o un rapimento. La piattaforma che ha inviato più cybertips è stata Facebook, con 17.838.422. Instagram di Meta ha fatto 11.430.007 rapporti, e il suo servizio di messaggistica WhatsApp ne ha fatti 1.389.618. Google ha inviato al NCMEC 1.470.958 suggerimenti, Snapchat ha inviato 713.055, TikTok ha inviato 590.376 e Twitter ha segnalato 597.087.
In totale, 245 aziende hanno inviato rapporti CyberTipline al NCMEC su 1.600 aziende in tutto il mondo che hanno registrato la loro partecipazione al programma di segnalazione cybertip. I fornitori di servizi Internet con sede negli Stati Uniti, come le piattaforme di social media, sono legalmente obbligati a segnalare casi di CSAM al CyberTipline non appena ne vengono a conoscenza. Secondo il NCMEC, esiste una discrepanza tra il volume delle segnalazioni e la qualità dei rapporti inviati. Il centro e le forze dell'ordine non possono legalmente agire in risposta ad alcune delle segnalazioni, incluse quelle effettuate dagli algoritmi di moderazione dei contenuti, senza l'intervento umano. Questa tecnicalità può impedire alla polizia di vedere segnalazioni di potenziale abuso su minori.
"La relativamente bassa quantità di aziende che segnalano e la scarsa qualità di molte segnalazioni evidenziano la continua necessità di azioni da parte del Congresso e della comunità tecnologica globale," afferma il rapporto del NCMEC.
