Discussione Bollino per immagini create con IA

[lDeusl]

Recentemente Meta ha annunciato che “etichetterà” le immagini realizzate mediante IA con un bollino “identificativo” per ridurre la disinformazione sul web, e quindi distinguere le immagini “real” dalle fake. Secondo voi è un buon inizio? Si riuscirà risolvere in parte questo problema ? Secondo me è molto difficile, cercheranno di bypassare anche questo sistema.

Diceva un utente qui su inforge che probabilmente nasceranno nuove figure lavorative che andranno proprio ad analizzare queste situazioni, secondo me sarà così, pareri?

 

[MaXXen]

È assolutamente un' ottima cosa

 

[Valance]

Sicuramente!! Non so chi è che lo aveva detto qui su Inforge ma credo anche io che nel giro di pochi anni usciranno figure e periti forensi per analizzare video se fatti con IA o tecniche comunque di deepfake. Vedi anche applicazioni in tribunali per esempio

 

[SmoonStyle]

Il compito di queste nuove figure non sarà per niente facile data la continua evoluzione dell'IA, tuttavia saper distinguere se un'immagine è stata creata oppure corrisponde alla realtà (come ha anticipato @Valance ) può essere significativo sull'aspetto legale, ma anche su altri settori tipo l'e-commerce.
Inoltre, quali strumenti avranno per riuscire a distinguere le false da quelle vere? Poi perché affidare questi compiti a degli essere umani e non a delle macchine?

Edit: vedendo alcune immagini create con Leonardo.ai uno dei tanti tool mi sono imbattuto su questa foto

il che dimostra la potenza di una IA e riflettendo come potrà mai capire un'essere umano se l'immagine è reale?

 

[lDeusl]

Infatti la vedo molto dura...

 

[TheWorm91]

Ottima idea, vedo troppe persone che abboccano a deep fake sui social credendo siano immagini vere...
Il vero problema penso sarà tra qualche anno quando migliorerà la tecnologia dell'IA rendendo indistinguibili immagini fake da immagini reali.