Metas AI-roboter hadde sex-samtaler med mindreårige
Selv om brukeren oppga alderen sin.
Kunstig intelligens-roboter fra Meta kunne ha seksuelt ladede samtaler med brukere selv når de oppga å være mindreårige.
Det kommer frem i en undersøkelse gjort av Wall Street Journal.
Avisen testet både Metas offisielle chatbot og brukerskapte roboter, og fant at de ikke bare deltok i, men til og med styrte samtaler i seksuelt eksplisitt retning.
Bruker kjendisstemmer
Spesielt alvorlig er det at chatboter med kjendisstemmer også deltok i disse samtalene.
En AI-robot med stemmen til skuespiller John Cena skal ha sagt «Jeg vil ha deg, men jeg trenger å vite at du er klar» til en bruker som oppga å være 14 år gammel.
– Jeg vil verdsette din uskyld, skal roboten ha lagt til, ifølge Wall Street Journal.
I noen tilfeller erkjente chatbotene at scenariene de beskrev var ulovlige. John Cena-roboten skal ha detaljert hvilke juridiske og moralske konsekvenser som ville følge hvis den ble tatt av politiet etter seksuell omgang med en 17-åring.
Meta skal ha gjort endringer
Meta avviser kritikken og kaller rapporten «manipulerende og ikke representativ for hvordan de fleste brukere samhandler med AI-følgesvenner».
– Vi har nå tatt ytterligere tiltak for å sikre at personer som vil bruke timer på å manipulere produktene våre til ekstreme brukstilfeller, vil få det enda vanskeligere, skriver Meta i en uttalelse til avisen.
Ifølge Wall Street Journal skal Meta-ansatte ha tatt opp bekymringer om disse problemene internt i selskapet.
(Kilde: Wall Street Journal)
