Test deg selv – klarer du å skille ekte bilder fra AI-bilder?
Microsoft har lansert et eget minispill: «Real Or Not».
Tror du at du kan skille mellom bilder generert av kunstig intelligens og ekte fotografier? Det kan du nå teste, med Microsofts nye minispill «Real Or Not».
Spillet ble laget i forbindelse med en studie utført av forskere ved Cornell University, på vegne av Microsoft. I studien analyserte forskerne 287.000 bilder som ble vist til 12.500 deltakere fra hele verden.
Resultatet? Man fant at folk bare klarte å identifisere falske bilder riktig 63 prosent av tiden. Da undertegnede forsøkte, ble resultatet faktisk akkurat dette den første gangen – mens det andre gangen ble bare 37 prosent.
- Lyst til å teste deg selv? Prøv minispillet her.
Både mennesker og maskiner sliter med å skille
Til sammenligning sier Microsofts at deres eget AI-verktøy kan oppdage falske bilder med en treffsikkerhet på 95 prosent, uten at vi har hatt mulighet til å verifisere dette.
Det finnes for øvrig mange andre nettsteder som også hevder å gi deg indikasjoner på om noe er AI-generert eller ikke, slik som Wasitai.com. Ifølge Medium overdriver imidlertid de aller fleste slike sin egen treffsikkerhet, inkludet sistnevnte – uavhengig av motiv.
Deltakerne i studien var på sin side best til å gjenkjenne AI-genererte bilder av mennesker, med 65 prosent nøyaktighet. Men de mest overbevisende falske bildene var såkalte «GAN-deepfakesGAN-deepfakesKombinerer generativ AI med maskinlæring der to nevrale nettverk konkurrerer med hverandre om å generere nye data. Brukes blant annet til å erstatte ansikter på mennesker på video og lignende.» som bare viste ansiktsprofiler.
Tre bilder var særlig utfordrende
Overraskende nok var de tre bildene flest i studien trodde var falske, faktisk ekte fotografier. Alle tre viste amerikanske militærstyrker i uvanlige omgivelser med spesiell belysning og farger, noe som kan ha gjort sitt for å forvirre deltagernes svake, stålløse menneskehjerner.
De mest overbevisende AI-bildene hadde samme støynivå, lysstyrke og entropi entropi Entropi er et mål for uorden, og sier noe om hvor tilfeldig, organisk eller uordnet et system er. I dette tilfellet komposisjonen i et bilde.som ekte fotografier, ifølge forskerne. Thomas Roca, hovedforfatteren, skriver i oppsummeringen av studien at dette på nytt «belyser nødvendigheten av vannmerking og gode verktøy for å identifisere AI-generert innhold».
– Det er en stor risiko for spredning av feilinformasjon i fremtiden, understreker han.
Forskerne advarer også i studien om at forståelsen av hvilke teknikker som lurer folk best, kan gjøre fremtidig desinformasjon enda mer overbevisende. Eksempelvis har man tidligere oppdaget at det å inkludere generiske bildefilnavn i henvendelsene til bildegeneratorene øker sjansen for at et «ekte» bilde vil produseres.
De to bildene med lavest korrekt gjetningsprosent (21 og 23 prosent) var eksempelvis laget på denne måten, og var i tillegg landskaps- og byfotografier (AI-genererte landskap og byer, altså).
Hele studien kan du lese her.
