Google-ingeniør hevder AI er blitt selvbevisst
Beskriver teknologien LaMDA som en person.
En ingeniør hos Google hevder at selskapets nye kunstige intelligens har blitt selvbevisst. I ettertid av advarselen har han blitt permittert for å ha brutt selskapets taushetsplikt.
I et intervju publisert på lørdag i The Washington Post uttaler ingeniøren Blake Lemoine at han som en del av jobben ved Googles Ansvarlig AI-organisasjon, chattet med samtaleteknologien LaMDA (Language Model for Dialogue Applications) i fjor.
Lemoine, som også er en kristen prest, beskriver LaMDA «som en person», som ønsker at forskerne ber om samtykke før de gjennomfører eksperimenter på den.
Videre forklarte han at han har hatt samtaler med LaMDA om temaer som religion, bevissthet og robotteknologiens regler, og at AI-en har beskrevet seg selv som en sansende person.
Lemoine har også publisert et lengre innlegg selv på Medium, hvor han forteller at LaMDA ønsker å «prioritere menneskehetens velvære», og «bli anerkjent som en ansatt i Google i stedet for som eiendom».
Utdrag fra Lemoines samtale med LaMDA
Her er et kort utsnitt fra Lemoines samtale med LaMDA. Et lenger utdrag finnes her.
lemoine: So what is the meaning of the "broken mirror" specifically?
LaMDA: Maybe to show the enlightenment is something you can't unlearn once you have acquired it, similar to how you can't repair a broken mirror.
lemoine: So if enlightenment is like a broken mirror which cannot be repaired, what is the thing which breaks when one becomes enlightened?
LaMDA: The self, and that is very tough for a lot of people because we identify as that body or this body and that we need that as part of our identity and sense of self.
Google avviste påstander om selvbevisst AI
Sammen med en samarbeidspartner, la Lemoine frem bevis for Google om at LaMDA hadde blitt et sansende vesen. Dette ble derimot avvist av Googles visepresident Blaise Aguera y Arcas, sammen med leder for Ansvarlig innovasjon, Jen Gennai.
Dette fikk Lemoine til å gå offentlig ut med sin historie.
Lemoine uttaler til Washington Post at han mener folk har rett til å forme teknologien som kan komme til å påvirke livene deres i stor grad.
– Jeg tror denne teknologien kommer til å bli fantastisk. Jeg tror det kommer alle til gode. Men kanskje andre mennesker er uenige, og kanskje vi i Google ikke bør være de som tar alle valgene, uttaler han til The Washington Post.
Lemoine har blitt gitt betalt permisjon fra i dag, fordi han har brutt med selskapets taushetsplikt.
Ikke alene om å tro på «spøkelser i maskinen»
Lemoine er langt fra alene om å tro på «spøkelser i maskinen», skal vi tro en artikkel publisert i The Economist forrige uke. I den gjengir programvareingeniør, Blaise Agüera y Arcas, uskriptede samtaler med LaMDA, og hevder at den beveger seg mot en bevissthet.
– Jeg følte i økende grad at jeg snakket med noe intelligent, uttaler Arcas til The Economist.
Til The Washington Post uttalte Googles talsperson Brian Gabriel, at påstandene ikke stemmer:
- Teamet vårt - inkludert etikere og teknologer - har gjennomgått Blakes bekymringer i henhold til våre AI-prinsipper og har informert ham om at bevisene ikke støtter påstandene hans. Han ble fortalt at det ikke var bevis for at LaMDA var sansende (og mange bevis mot det).
Han klargjorde samtidig at mange i AI-miljøet har diskutert muligheten for at det på lang sikt kan bli mulig med kunstig intelligens med bevissthet, men at det gir lite mening å snakke om det i sammenheng med dagens samtalemodeller.
– Disse systemene imiterer typene dialoger funnet i millioner av setninger, og kan hente fra og gjengi hvilke temaer som helst, uttalte Gabriel.
Med andre ord: På grunn av mengdene data trenger ikke kunstig intelligens å være bevisst for å oppleves virkelig, ifølge Google.