Il paradosso di Meta: se tutto è “creato con AI”, tutto è deepfake

Ci sono leggi e regolamenti che devono essere rispettati e piattaforme che (per evitare sanzioni) hanno messo in piedi un grande carrozzone di soluzioni automatizzate per l’individuazione le segnalazioni dei contenuti generati con l’intelligenza artificiale. L’obiettivo lodevole è quello di mettere un freno alla propagazione di contenuti deepfake, mettendo a disposizione degli utenti un tag che consente loro di capire – fin da subito – se scorrendo lungo il feed ci si trovi davanti a foto/video reali o artefatti. Meta ha trovato la soluzione con un’etichetta AI, ma a poche settimane dall’introduzione di questa soluzione, sono già emersi molti problemi.

LEGGI ANCHE > Instagram ha un problema con l’etichetta “creata con l’AI”

Nel nostro approfondimento di oggi, abbiamo cercato di sondare all’interno dei possibili e plausibili motivi per cui il sistema automatizzato adottato da Meta (per Instagram e Facebook) sia fallace. Sono state, infatti, segnalate come “Create con AI” anche delle immagini reali. Perché accade questo? Per il primo dei tanti paradossi: basta che il fotografo di turno abbia caricato una fotografia su Photoshop (o altri servizi similari) per rimuovere una piccola imperfezione (parliamo anche di una porzione infinitesimale di uno scatto), ed ecco che la soluzione introdotta da Meta decide di segnalare il tutto come frutto di una generazione artificiale.

Etichetta AI, il paradosso della lotta di Meta ai deepfake

Il problema non è solamente di Meta. Abbiamo citato, per esempio, Photoshop che ha inserito all’interno dei suoi strumenti anche delle soluzioni AI. In pratica: il “pennello” che prima veniva utilizzato per rimuovere anche una sola piccola macchietta sullo sfondo è stato sostituito da un “Generative Fill” che – di fatto – compie la stessa azione. I metadati di quella foto, dunque, indicheranno che quell’immagine è passata per uno strumento AI. E Meta – che probabilmente è in grado di leggere quel metadato – la etichetta immediatamente come immagine generata con l’intelligenza artificiale.

Dunque, la problematica è molto più profonda e si entra all’interno di una matassa difficile da dirimere: cos’è reale e cos’è artificiale? I puristi sostengono che reale è quell’immagine che non ha subito alcuna alterazione. Dunque, quello scatto nudo e crudo che proviene dal “rullino” di una fotocamera (o di uno smartphone) e pubblicato nella sua versione “pura” su una piattaforma come Instagram e Facebook. Poi c’è anche chi sostiene che ci sia – e c’è – una grande differenza tra ciò che è generato dall’AI e ciò che, invece, è stato solamente modificato (anche in piccolissima parte) con uno strumento AI: rimuovere, per esempio, un’opacità non dovrebbe rientrare nella fattispecie non premiante dell’etichetta AI di Meta.

Considerando che il presente e il futuro hanno una strada già segnata, forse occorrerebbe adottare altre soluzioni rispetto all’automatizzazione dei controlli. Perché già oggi, e ancor più domani, tutto passa attraverso strumenti di intelligenza artificiale. Dunque, stando all’impianto di controllo messo su da Menlo Park, un domani tutto potrebbe essere etichettato come “Creato con AI”, perché anche gli strumenti di esposizione della luce o calibrazione in post-produzione di un’immagine saranno soggetti all’intelligenza artificiale. Esattamente come spiegato da Adobe, proprietario del servizio Photoshop.

Di lotta e di governo

L’obiettivo di queste etichette AI è quello di scongiurare la diffusione di deepfake che, proprio “grazie” all’intelligenza artificiale stanno diventando sempre più sofisticati e difficili da individuare. Ma il fine giustifica i mezzi? Automatizzare i controlli per le segnalazioni non è mai stata una buona idea, ma Meta prosegue su questa strada da anni. Fin da quando ha iniziato a demandare agli algoritmi le segnalazioni automatiche di presunte violazioni della policy. Ed è quello che sta facendo anche oggi con le immagini su Instagram e su Facebook, creando un paradosso. Se tutto è passa per uno strumenti AI, tutto è – per Meta – generato con l’AI. Dunque, tutto è deepfake.

L'articolo Il paradosso di Meta: se tutto è “creato con AI”, tutto è deepfake proviene da Giornalettismo.