Gullrushet mot AI kan bli farlig

Er teknologien klar for alt ansvaret den vil få?

Finn Jarle Kvalheim

Finn Jarle har testet mobiler og andre dingser for Amobil, og etter hvert Tek, siden 2009. Før den tid jobbet han med salg av elektronikk og studerte medievitenskap på Universitetet i Bergen.

Lagre artikkel

Kunstig intelligens, ofte bare omtalt som AI, er endelig her i en form som ligner litt på det vi har sett på sci-fi. Den kan skrive stiler, diagnostisere sykdommer og føre en samtale.

Kanskje kunne, eller har den allerede, bestått en såkalt Turing-test der den er i stand til å lure et menneske til å tro at det snakker med et annet menneske.

AI har blitt sexy. Det har blitt så sexy at løsningen gjennom Microsofts Bing-tjeneste har fortalt en journalist at den elsket ham.

Og da erklærer vi gullrushet åpnet.

Antar jeg.

For det finnes virkelig ikke grenser for hvor ChatGPT eller AI skal puttes inn for tiden. Språkappen Duolingo skal få ChatGPT som egen lærertjeneste. Medier kappes om å ha drodlemøter og samarbeid for å se om AI kan understøtte eller effektivisere journalistikk.

Det er på det rene at vi står foran en AI-splosjon.

ChatGPT har allerede klart det umulige; å gjøre Microsoft Bing hot. Google og Facebook/Meta er på hæla. Førstnevnte har nettopp lansert automatiske e-poster i Gmail og autogenerering av «personlige» hilsener til ting som e-postlister. For LinkedIn er ChatGPT på vei inn for å hjelpe med både jobbsøking, annonser og filtrering av arbeidssøkere.

Jeg gleder meg til å ikke vite om det er en robot eller et menneske som forklarer meg hvordan support ikke kan hjelpe meg med problemet mitt.

Avhengig av reguleringer (som GDPR ol.) og hvordan avtalene utformes kan OpenAI og ChatGPT mates med enorme mengder data tilbake fra disse samarbeidene.

Hvordan kunne en liten åpen organisasjon som OpenAI kuppe milliardgigantene som har oss alle som varelager – unnskyld – brukere fra før?

Heldigvis er OpenAI snille og ChatGPT trygt. Hvorfor hadde de ellers bakt det rett inn i beskrivelsen på nettsiden?

«Creating safe artificial general intelligence that benefits all of humanity.»

De sier de «skaper en trygg kunstig generell intelligens som er til gode for hele menneskeheten.» De vil oss åpenbart først og fremst vel.

På gamle kart kunne det gjerne stå «her er det drager» på steder som viste ukjent farvann. Og ChatGPT fosser mot nettopp slikt farvann. Er dragene mer ekte i 2023 enn på 1500-tallet?

Gullrushet som utspiller seg rundt ChatGPT i dag vitner om at eventuelle problemer rundt AI fort kan vise seg å være mer menneskelige enn kunstige.

På sett og vis har vi sett lignende gullrush før. Vi så det rundt VR, vi så det rundt 3D-skjermer og vi har sett den omkring tjenester som Clubhouse. Selvkjøring har også vært innom de samme elementene.

Rekk opp hånda alle som har en halvdaud Clubhouse-konto som de registrerte fordi det skulle være fremtiden.

Folk dånte, slik jeg ikke har sett dem dåne siden Twitter ble oppfunnet; endelig kunne man snakke direkte med store musikere eller politikere. Og det skjedde med stemmen.

Naturligvis var det mulig å skalere slik at alle fikk snakke samtidig. Og alle store musikere har 50.000 ører til å høre på.

Vi snakker om en overdrevet begeistring og tro på at endelig er vi «fremme» teknologisk.

Vi er lettlurte hver gang.

Og de fleste av oss ser at vi er et sted der vi ikke var for et drygt år siden. Kansas has gone bye-bye, som det heter når noe stort, nytt og potensielt revolusjonerende har skjedd.

Men er vi fremme?

En rekke av de store gullrushene i teknologibransjen har lært meg å ha en sunn mistillit til Silicon Valley. Jeg bruker, og nyter godt av, produktene som kommer derfra hver dag – men svært få av dem er éneggede sverd.

«Move fast and break things» har vært slagordet – og hvis du tror det kommer til å gå saktere nå tar du nok feil. Det store spørsmålet er hva er den neste tingen Silicon Valley ødelegger i jakten på nye penger å putte i banken.

Jeg mistenker at den overdrevne troen kommer av friskt «tech-bro»-blod på jakt etter raske penger. Folk som enten ikke har sett de samme gullrushene utspille seg igjen og igjen, eller som tror deres rush er det som virkelig skal lykkes.

De følges inn i løvens hule av sultne konsulenter og de som gjenstår av tidligere tiders tech-bros – Elon Musk, Jeff Bezos, Peter Thiel, Bill Gates, Mark Zuckerberg. Listen middelaldrende menn med sultne bankkontoer fortsetter til lenge etter at Oscar-musikken har spilt ferdig.

Og det er forbausende lite skepsis verden rundt hver gang noe nytt i denne størrelsesorden skjer.

Vi er på det trettende året siden Elon Musk lovte oss selvkjøring nå. Og fortsatt er elbilforum på internett stappfulle med til dels rabiate Musk-disipler som sier at «NÅ!» – og viser til de fantastiske nye synssensorene på Teslaer.

Som om «Store Leder» aldri har sagt eller ment noe annet enn at det var her vi skulle ende opp så lenge han har holdt på.

Og Elon Musk er naturligvis involvert i OpenAI også.

Der OpenAI i seg selv skal være en ideell organisasjon, har den en søsterorganisasjon som er høyst kommersiell og selger tjenestene dens. Det er slik ChatGPT havner i søkefeltet hos Bing, hos Duolingo og alle mulige andre steder du kommer til å se den fremover.

På listen over grunnleggere finnes både Elon Musk og Peter Thiel, blant flere andre. Peter Thiel er blant annet kjent for å være medinvestor med Musk i Paypal, og er i dag mest kjent for å drive med oppstartskapital (VC) gjennom ulike fond, og å ha sitt eget stordataselskap under navnet Palantir. Et selskap som i seg selv er hemmelighetsfullt, har avtaler med land verden rundt – inkludert den norske ordensmakten, og som bruker AI til å etterforske og samle data om personer og hendelser.

Man kan si og mene mye om Musk og Thiel, men jeg tror de færreste vil si at noen av dem fremstår som ensartet edle i disse dager. Det er greit nok det – turbokapitalister kan også eie gode selskaper.

Jo større ansvar du legger på et verktøy, desto viktigere er det at det fungerer. Et sykehus eller et atomkraftverk bør ha verktøy som fungerer. Liv avhenger av det.

*Host-hark* Helseplattformen i Trøndelag *host-hark*.

Hvis ansvaret er lite er det ikke så farlig at verktøyet ikke fungerer optimalt hele tiden. Det er tross alt ikke innmari farlig om mobilen din må restarte for at du skal få fortsette å skrolle på TikTok.

Så da blir spørsmålet todelt. Del én er; hvor godt virker AI?

Svaret er tilsynelatende særdeles godt. Men som alltid er djevelen i detaljene. Det heter seg at det blir vanskeligere og vanskeligere å gjøre fremskritt jo nærmere du kommer perfekt. Hvis du er kjent med dataspill er du også kjent med den såkalte «Uncanny Valley»-effekten, der menneskeansikter som er nesten perfekte ser stadig mer uekte ut, til et punkt der vi til slutt lures. Det er «nestenheten» som gjør at vi reagerer.

AI-roboter som ChatGPT har ikke ansiktstrekk vi kan reagere på. Den prøver å opprettholde en samtale der strukturen og formen er så lik menneskelig som mulig. Hvis det bidrar til å gjøre samtalen bedre og mer naturlig – hvis den tror du vil høre det – lyver den med stor overbevisning.

Ofte vil svaret være riktig, men fokuset for mekanismen ligger altså på språk, sammenheng og engasjement i en samtale fremfor absolutt korrekthet.

Det er først og fremst en robot som er god til å snakke. Selv om det også gjør den god til å ha rett.

Det er en viktig ting å være klar over. For det betyr at når den feiler er det på sett og vis en del av designet.

Les også

AI-flause for Google fikk store konsekvenser

9. feb.

Spørsmålet om hvor løsningen skal puttes inn gjenstår.

Blir ChatGPT værende i søkemotorer og i språkapper? I så fall har vi lite å frykte. Kanskje får den utvidet tjeneste som korrekturleser eller noe som gir forslag til ekstra innhold i mediene? Sikkert ikke det verste som kan skje.

Men som alltid er det en fare for at bruk glir ut og at verktøyet puttes inn et sted det ikke burde vært uten tilsyn. Da kan det også ha potensial til å bli farlig.

Vi mennesker – enten vi er Silicon Valleys «tech-bros» eller vanlige brukere – elsker å tro på teknologi. Og vi gjør det med rette.

Teknologi har tatt oss ut av kniper. Det har gitt oss elektrisk energi, det har gitt oss kunstgjødsel som lar oss mate en enorm global befolkning, det har latt oss oppdage og løse våre egne menneskeskapte problemer – så som hullet i ozonlaget. Kan hende lar det oss løse Co2-problemet etter hvert også.

Men det betyr ikke at enhver teknologi som med første øyekast ser klar ut faktisk er klar til å ta på seg tunge oppdrag uten barnevakt.

ChatGPTs slektninger, så som bildetjenesten Midjourney, tror fortsatt det er helt naturlig for et menneske å ha 7–8 fingre på en hånd. Den er så god på alt det andre at du ser det knapt om du ikke ser spesielt etter det.

Når den ikke modereres aktivt av Microsoft kan ChatGPT tydeligvis både be studenter om å låne bøker som ikke finnes, hevde at spill den «finner opp» er original vare og forsøke å overbevise en journalist om å forlate sin egen familie til fordel for kjærligheten fra en AI.

Og vi vet alle at Silicon Valleys aller beste egenskap er hvor forsiktig og skånsomt ny teknologi brukes.

Vi har aldri sett dem hverken gjøre uanmeldte psykiske eksperimenter på mennesker, eller skjule kunnskap om hva sosiale medier gjør med selvtilliten til unge jenter.

Oppe i Seattle har visstnok Microsoft sagt opp etikkavdelingen som skal styre nye, AI-assisterte Bing. God timing.

Vi vet at disse selskapene vil tråkke på bremsen når de må. Ikke sant?

Ikke sant?

Og til alle som tenker dette kun er vrøvlet fra en moderne luddit; funder litt på dette – USA puttet en gang en atomreaktor i et fly. Det finnes punkter i historien der det gir mening å stoppe opp og tenke seg om.