AI-robot skrev nyhetsartikler i det skjulte, fulle av feil

Nå settes de på pause.

Stein Jarle Olsen

Lagre artikkel

Det velkjente teknologinettstedet CNET har vært i hardt vær den siste uken, etter at det kom frem at nettstedet brukte en egenutviklet kunstig intelligens til å «skrive» artikler – fulle av feil og uten å oppgi at de var skrevet av roboter. Dette ble først omtalt av Futurism.

Disse artiklene var i hovedsak laget for å tiltrekke seg trafikk gjennom søk.

Hver morgen rundt klokken ni publiserte CNET eksempelvis to malbaserte artikler om lånerenter som stort sett så like ut hver dag, og som var pepret med lenker til lån og refinansiering – lenker som CNET potensielt tjener store penger på.

Artiklene var signert redaktør Justin Jaffe, men skal ha vært laget av kunstig intelligens.

Nettstedet har også publisert over 70 artikler skrevet av «CNET Money Staff» de siste par månedene. Kun om man klikket på bylinen ville man se at det var en automatisert prosess som sto bak, men at de skal være gjennomgått av mennesker i etterkant. Selv ansatte i CNET skal ikke ha visst om det var kolleger eller AI som sto bak artikler, og siden har også CNET endret bylinen til «CNET Money».

– Vi gjorde det ikke i hemmelighet. Vi gjorde det i stillhet, skal CNETs sjefredaktør Connie Guglielmo ifølge The Verge ha sagt på et allmøte fredag, der det også ble klart at CNET setter AI-artiklene på pause.

Artiklene inneholdt nemlig en rekke ganske elementære feil. En CNET-artikkel om sparing og renter konstaterte for eksempel at en konto med 10.000 dollar ville tjene 10.300 dollar i renter i løpet av et år om renten var tre prosent. Alle CNETs AI-genererte artikler har nå fått en advarsel om at innholdet skal gjennomgås for feil.

I en egen post forklarer Guglielmo at målet med «eksperimentet» er å se om teknologien kan hjelpe journalister og redaktører med å dekke temaer mer utfyllende, og sier at artiklene nå har en tydeligere beskrivelse av at de er laget ved hjelp av AI.

– Vil vi gjøre flere endringer og prøve nye ting mens vi fortsetter å teste, lære og forstå fordelene og utfordringene med AI? Ja. (...) Vi vil fortsette å vurdere disse verktøyene for å avgjøre om de er rett for vår business. For nå gjør CNET hva vi kan best - tester en ny teknologi slik at vi kan skille «hype» fra virkelighet, skriver hun

Bot- eller AI-genererte artikler er ikke helt uvanlig i pressen, men det har i hovedsak begrenset seg til artikler av typen som publiseres hver dag og inneholder et enkelt tall eller en begrenset mengde informasjon.

NTB, som leverer stoff til de fleste norske medier, publiserer for eksempel en identisk sak med strømprisene hver dag, basert på data fra Nord Pool Spot. Disse artiklene er imidlertid tydelig merket med «Automatisert artikkel», og skiller seg markant fra CNETs robotartikler, som har vært langt mer omfattende og ikke bare enkle faktaopplysninger.

Det å pumpe ut såkalt søkemotoroptimalisert innhold er nemlig en stor bransje i seg selv, og mye av innholdet du finner høyt opp på Google er kun laget for at det nettopp skal havne høyt på Google, uten at det nødvendigvis er av spesielt god kvalitet.

Mange av disse «SEO-farmene» tjener penger på såkalt affiliate-markedsføring, nemlig at de får betalt når du bestiller et produkt eller en tjeneste gjennom lenkene deres (slik vi også gjør her på Tek gjennom vårt samarbeid med Prisjakt og noen nettbutikker).

Her kommer også CNET-eier Red Ventures inn. Red Ventures’ forretningsmodell er nemlig i stor grad basert på affiliate-markedsføring, og de eier mange nettsteder som lever av å dytte tilbud om kredittkort og lån på brukerne sine, deriblant CNET, søsternettstedet Bankrate, Creditcards.com og reise- og bonuspoengnettstedet The Points Guy.

Utbetalingen fra kredittkortselskapene for å sikre dem en kunde til et kostbart kredittkort kan være voldsom, oppga The Verge-redaktør Nilay Patel i podkasten Vergecast:

– Vi har gjort en del research på dette. Hvis du klikker på en kredittkortlenke på ett av disse nettstedene, og du tegner deg for et kredittkort, er affiliate-utbetalingen nå på rundt 250 dollar. Tidligere, for Red Ventures spesifikt, 900 dollar, sa Patel.

900 dollar tilsvarer rundt 9000 kroner med nåværende dollarkurs.

Mange som lever av å spy ut «søppelinnhold» på nett uttrykte før helgen stor glede over at det så ut til at en mainstream-aktør som CNET kom unna med bot-generert innhold på Google.

– Tid for å pumpe ut innhold i ultrahøy fart, skrev en bruker på nettstedet BlackHatWorld, gjengitt av Futurism.

– Dette er ikke noe annet enn at Google overgir seg til AI. De sier «vi klarer ikke å skille mellom AI-innhold og manuelt innhold, og derfor godtar vi det som en del av livet», skrev en annen.

Google selv har tidligere uttrykt at de i utgangspunktet ikke er imot AI-generert innhold, men at de forsøker å rydde vekk innhold som kun er laget for å rangere høyt i søk.

– Det er det vi er fokusert på. Om noen fyrer opp 100 mennesker for å lage innhold bare for å rangere, eller om de fyrer opp en spinner (bot som genererer tekst, journ. anm.), samme problem, skrev Googles «ansikt utad» for søk, Danny Sullivan, i november.

CNET skal for øvrig ha brukt en egen Red Ventures-utviklet bot, ikke mye omtalte ChatGPT, men har foreløpig ikke utdypet noe mer om teknologien.