La protezione dei bambini su Instagram sarà migliorata utilizzando l’intelligenza artificiale

La protezione dei minori sulle piattaforme di social media, come Instagram, è stata a lungo criticata. L'azienda americana Meta sta ora progettando di migliorare le misure di sicurezza.

Il gruppo tecnologico americano Meta ha annunciato una migliore protezione degli utenti minorenni contro i ricatti sessuali. Meta ha annunciato giovedì che sta testando l’uso di software basato sull’intelligenza artificiale (AI).

Questo dovrebbe rilevare automaticamente le foto di nudo inviate a minorenni tramite la funzione di messaggistica diretta di Instagram e renderle irriconoscibili. Inoltre, i suggerimenti sulla sicurezza dovrebbero essere inviati automaticamente a tutti gli utenti che inviano tali contenuti.

Tuttavia, l’immagine è completamente irriconoscibile. “Il destinatario può scegliere se vuole vedere la foto o meno”, ha detto all'AFP Capoussine Touvier, responsabile della protezione dei minori di Meta France. Meta ha affermato che le nuove misure mirano a proteggere i giovani da “contatti indesiderati e potenzialmente pericolosi”.

L’obiettivo dello strumento “Protezione dalla nudità” è fornire una migliore protezione contro la cosiddetta sextortion. Gli autori dei reati spesso convincono le vittime minorenni a creare e inviare loro immagini o video sessualmente espliciti. Gli autori del reato minacciano poi di pubblicare il materiale per estorcere denaro o ulteriori immagini. La nuova funzionalità sarà inizialmente testata in diversi paesi dell’America centrale e latina e sarà implementata in tutto il mondo nei prossimi mesi.

“La domanda è perché non lo hanno fatto molto tempo fa”, ha detto l'informatico Olivier Ertzscheid dell'Università di Nantes. Il software necessario esiste da diversi anni. Ha anche messo in guardia contro la pubblicità ingannevole, come le foto di donne in costume da bagno. “C’è una mancanza di moderazione umana su tutte le piattaforme”, ha criticato.

Meta aveva già annunciato a gennaio una maggiore protezione per i giovani sulla piattaforma Instagram. Per cambiare il conto da privato a pubblico, un giovane deve ottenere l'approvazione dei suoi genitori.

Il Meta Gruppo comprende, tra gli altri, Facebook, Instagram e WhatsApp. L'azienda è stata ampiamente criticata per non aver protetto adeguatamente i propri utenti, soprattutto i bambini. I critici accusano da anni Meta di rendere più facile soprattutto agli utenti pedofili l'uso delle sue reti online e dei servizi di messaggistica per diffondere materiale pedopornografico.

Più di 40 stati degli Stati Uniti hanno già intentato una causa contro Meta per quelle che considerano inadeguate le protezioni fornite dalla società, soprattutto per i bambini. La Commissione Europea ha anche avviato un’indagine sulle misure di protezione dei minori adottate da Meta e da altre società digitali.