AS Roma Forum

Il deepfake potrebbe essere un problema molto più vicino di quanto immaginiamo.

Già ora ci sono video porno con personaggi famosi, o anche video scherzosi con celebrità che sembrano dire o fare qualcosa di particolare. Iprogressi sono veloci, e sicuramente verrà usato da qualcuno in maniera maliziosa e pericolosa.

Potrebbe non essere lontano un mondo dove si vedano video di Capi di Stato fare affermazioni o azioni con conseguenze potenzialmente enormi, fake news e cospirazioni con tanto di video di supporto, ecc. Magari le cospirazioni potrebbero davvero avere un senso, perchè i governi manipoleranno le informazioni (c'è una serie british che tratta di questo argomento: "The capture").
Un mondo caotico dove non si saprà più cosa è vero e cosa è falso, a quale realtà credere.

Potrebbe addirittura diventare talmente facile creare deepfake, per esempio con un semplice programma a partire da una foto, che perfino la gente comune potrebbe utilizzarla, anche per frivole vendette personali (magari uno apre un social e trova un video di se stesso che compie qualche atto imbarazzante o criminale).

Cosa ne pensate? Che tipo di regole e di difese possono esistere?

Una certificazione universale iso o similare che stabilisca quali siano le condizioni in base alle quali un video o una foto possa ritenersi modificata o originale che si basi sulle differenze con il file raw.
Se l'immagine/video non ha la certificazione iso è da considerarsi sempre fake.
Se un'immagine/video espone la certificazione ma si scopre che la certificazione è falsa immediata multa per chi l'ha diffusa

Che ansia oh

Ricordo che hanno fatto deepfake sulle giornaliste di SkyTG24 e messi su pornhub poi rimossi subito. Spero che verranno sempre rimossi immediatamente.

Jean Louis Scipione ha scritto: ↑dom 20 ago 2023, 22:08 Ricordo che hanno fatto deepfake sulle giornaliste di SkyTG24 e messi su pornhub poi rimossi subito. Spero che verranno sempre rimossi immediatamente.

Finchè è qualche video, nascosto tra i porno, si può rimuovere (anche se niente sparisce veramente una volta che sta sul web), ma quando ce ne saranno una quantità enorme e inizieranno a circolare sui canali ufficiali, diventando virali sui social, indistinguibili da quelli reali, non ci sarà modo di rimuoverli

fabiozeman ha scritto:Una certificazione universale iso o similare che stabilisca quali siano le condizioni in base alle quali un video o una foto possa ritenersi modificata o originale che si basi sulle differenze con il file raw.
Se l'immagine/video non ha la certificazione iso è da considerarsi sempre fake.
Se un'immagine/video espone la certificazione ma si scopre che la certificazione è falsa immediata multa per chi l'ha diffusa

un Sistema di basato su blockchan?

In Spain, dozens of girls are reporting AI-generated nude photos of them being circulated at school: ‘My heart skipped a beat’
While the police investigate, the mothers of the affected have organized to take action and try to stop those responsible

https://english.elpais.com/internationa ... -beat.html

Questo è effettivamente un pericolo serio. La tecnologia va solo avanti, e tra un po' sarà quasi impossibile distinguere il vero dal falso.
Immagino anche un utilizzo in questioni processuali, prove ecc
Se non riesce a distinguere diventa un caos.

Ma le modifiche non lasciano tracce informatiche

Per ora si ma in futuro boh

Ci sono già strumenti per determinare se immagini siano alterate, generate con IA etc - ma hanno bisogno di stare al passo delle tecnologie che stanno galoppando

ma a parte i contesti ufficiali, come processi e altro (che ovviamente spaventano), c'è tutta la parte dei social e del giornalismo che è ad altissimo rischio; già adesso le notizie false vengono propinate come niente fosse (e basta inventarsi dichiarazioni, storcere qualche verità..) - figuriamoci con video e foto realistici a corredo

Allargo il discorso perchè importante per capire tutto:
il mio pensiero in merito alla tecnologia è lungo...
Il deepfake è una parte del problema, l'intelligenza artificiale in generale è il grande cambiamento in arrivo... il problema dei deepfake si amplifica con un popolo ignorante a cui viene pian piano tolto anche il "problema" di pensare, d ragionare. Chi non sarà abituato a pensare sarà manipolabile, la maggior parte della popolazione potrebbe cadere nella tentazione di sfruttare il mezzo oltre la sua reale utilità e quindi verrà fuori una popolazione ignorante e la democrazia che già oggi è "manipolata" dai media "tradizionali" rischia di diventare un problema. Il deepfake così come le fakenews diventano pericolose in mano agli ignoranti, oggi basta tagliare sapientemente una dichiarazione per far scatenare un putiferio, tirare fuori una frase dal contesto di un discorso può far pensare male di chiunque.
Ma, fino ad ora tutta la tecnologia ha avuto in se il problema e la soluzione, la tv prima e internet poi sono stati vie di grandi manipolazioni ma è anche vero che attraverso la stessa via si può smentire velocemente mentre prima invece senza nessun deepfake, internet o tv Hitler poteva sfruttare le sue capacità oratorie per trasmettere il suo pensiero demagogico senza contraddittorio e possibilità di confronto per il suo popolo.
La comunicazione e la tecnologia hanno permesso una quantità maggiore di falsa informazione ma hanno anche permesso una diffusione della "vera" informazione (seppur declinata spesso in maniera più o meno faziosa).
In determinati paesi se hai interesse a scatenare un conflitto internazionale, che sia un semplice conflitto diplomatico oppure bellico ci riesci ugualmente.
Credo fortemente che la tecnologia sia in grado di trovare la soluzione ai problemi che genera ma sono soluzioni che vanno però sfruttate e non è sempre così facile...
Però il fatto che i paesi che hanno problemi di pace e democrazia siano quelli che o a causa della situazione economica o per scelta governativa non permettono una diffusione "completa" della tecnologia dimostra che nella tecnologia ci sia la soluzione.
In questa globalizzazione sfrenata e in questo estremismo tecnologico ci sono enormi rischi e sono già stati commessi enormi errori gravissimi ma è grazie alla globalizzazione e alla tecnologia che in molti paesi sono stati scardinati pensieri tradizionali sbagliati radicati nei secoli. I rischi che si nascondono nel deepfake e nell'intelligenza artificiale troveranno la loro soluzione nella stessa tecnologia.

ho finito, scusate la lunghezza

siamocosì ha scritto: ↑mer 20 set 2023, 13:21 Ma le modifiche non lasciano tracce informatiche

Ora si, va vista l'evoluzione, visto che il "pirata" sta sempre avanti rispetto a chi lo insegue.
I metadati ora permettono di risalire alla fonte e alle modifiche, speriamo siano sempre protetti in futuro.

Qua siamo ancora alle prese con quelli che pubblicano i disclaimer per le foto di facebook o che rispondo ai quiz delle pagine farlocche sperando di vincere una macchina, figuriamoci se non credono a una foto fatta con AI a corredo di una notizia.

L’ombra dei deep fake sulla politica britannica

https://www.ansa.it/osservatorio_intell ... f2dcd.html