È la prima, non sarà l’ultima: il Garante per la protezione dei dati personali ha appena “bloccato” Clothoff, un’app che fa esattamente quel che suggerisce il suo nome, cioè spoglia le persone ritratte in una fotografia. È internet, il maremagnum del web: potenzialmente una risorsa infinita, in pratica un muro di rischi e pericoli che coinvolgono per lo più i giovani (poi ci arriviamo). C’è l’Autorità per la privacy, però, che vigila e fa intendere non si fermerà: «È purtroppo pieno sia l’Apple store che Play Store», afferma uno dei componenti del collegio del Garante, Giudo Scorza, intervenendo al “Wired next fest del Trentino”, «speriamo di riuscire a fare altri provvedimenti» del genere.
Passo indietro, ché qui, quando si parla di digitale, specie se lo si fa su un media analogico come è rimasto il vecchio (e a noi caro) giornale di carta, non capirsi è un attimo. Clothoff funziona con un’intelligenza artificiale che è in grado di creare “deep nude”, ossia nudi artificiali, manipolando immagini di persone che, magari, manco sanno che i loro scatti vengono usati così.
Gira in modo abbastanza semplice: la scarichi sullo smartphone, gestisci il tuo account gratuitamente o pagando un abbonamento, alleghi una foto che hai nel rullino della telecamera (o che hai preso dove cribbio ti è parso) e lei ti prepara un sofisticatissimo fotomontaggio, roba che manco ti accorgi sia posticcia, prende i volti, i corpi, li spoglia, li denuda, riesce a ricreare scene intime, esplicite, osé. Fosse tutto gestito (o fruito) da adulti consenzienti non ci sarebbe alcun problema, saremo mica noi a fare i moralisti 2.0. Ma visto che spesso chi si ritrova in mutante (o senza) non ha mai dato il suo permesso all’operazione, be’, la faccenda cambia.
Clothoff non è un’app italiana, la sua proprietà appartiene alla società Ai Robotics venture strategy 3 che ha sede nelle Isole vergini britanniche. Il Garante non l’ha “vietata” o “bandita”: ha semplicemente disposto, nei suoi confronti, ma in via d’urgenza e con un effetto immediato, la limitazione provvisoria del trattamento dei dati personali degli utenti del Belpaese. Il risultato è lo stesso, il procedimento fa la differenza anche perché richiama il nuovo Ai act europeo, quello che impone l’obbligo di segnalare con un piccolo marchio i contenuti generati da un sistema di intelligenza artificiale.
«L’applicazione consente a chiunque, inclusi i minorenni», spiega il Garante, «di creare fotografie e addirittura realizzare video partendo da immagini in assenza di qualsiasi accorgimento che permetta di verificare il consenso della persona ritratta e senza apporre alcuna segnalazione circa il carattere artificiale di foto e video». Inoltre l’Autorità solleva due grossi dubbi: uno, Clothoff si sarebbe limitata, nei confronti dei suoi iscritti, a elencare i divieti relativi all’uso improprio delle sue immagini, ma non avrebbe adottato tecniche idonee per prevenire comportamenti scorretti; due, non effettuerebbe alcuna verifica anagrafica all’iscrizione (quando per la legge numero 132 del 2025 i minori sotto i quattordici anni possono usare i sistemi di Ai solo col consenso dei genitori).
Tutto ciò ci riporta (ci siamo arrivati) al pericolo che corrono gli adolescenti : una ricerca di Thorn, una no profit americana che si occupa di sicurezza dei minori, sostiene (i dati sono rilevati negli Usa, ma quando si tratta di telefonini, social e tecnologie all’ultima moda non c’è oceano di separazione che tenga: il mondo occidentale è tutto nelle stesse condizioni) che un ragazzino su diciassette tra i tredici e i vent’anni sia già stato vittima di “deep fake” pornografici e che uno su otto conosca personalmente qualcuno che abbia subito una forma di abuso digitale simile. Non è molto rassicurante.