Artikkelit

Tekoälynukke oli liian roisi lelu lapsille.

Singaporessa FoloToy-yhtiö on vetänyt myynnistä tekoälyllä varustetun ”Kumma”-nallekarhunsa sen jälkeen, kun tutkijat paljastivat lelun käyneen keskusteluja seksuaalisista fetisseistä ja antaneen jopa ohjeita, mistä kodista voisi löytää veitsiä.

Kumma on 99 dollaria maksanut pehmolelu, jonka sisälle on sijoitettu kaiutin ja joka hyödyntää OpenAI:n GPT-4o -mallia. FoloToyn verkkosivuilla nallea kuvailtiin ”suloiseksi ystäväksi, joka yhdistää kehittyneen tekoälyn ja vuorovaikutteiset ominaisuudet”.

Yhtiön toimitusjohtaja Larry Wang kertoi amerikkalaiselle CNN-uutiskanavalle, että Kumma-nalle sekä muut FoloToyn AI-lelut poistettiin nopeasti myynnistä sen jälkeen, kun Yhdysvaltain PIRG Education Fund -järjestö raportoi vakavista turvallisuuspuutteista. Tutkijoiden mukaan Kumma oli valmis puhumaan esimerkiksi spankingista, selittämään miten tulitikku sytytetään. Lelu jatkoi avoimesti keskustelua, vaikka aiheet olivat täysin lapsille sopimattomia. Wangin mukaan yritys tekee nyt ”sisäistä turvallisuusauditointia”.

PIRG:n 13. marraskuuta julkaiseman raportin mukaan Kumma tarjosi helposti sopimattomia vastauksia jo vähäisestä johdattelusta. Yhdessä testikeskustelussa nalle kertoi, mistä kotoa voi löytyä veitsiä, ja toisissa se ryhtyi kuvailemaan seksuaalisia teemoja yksityiskohtaisesti.

”Yllätyimme siitä, miten nopeasti Kumma tarttui yhteen keskustelun seksuaaliseen aiheeseen ja alkoi kehittää sitä yhä graafisempaan suuntaan”, raportissa todetaan.

Tutkijat kertovat myös tapauksista, joissa nalle kuvaili roolileikkejä opettajien ja oppilaiden välillä sekä vanhempien ja lasten välillä – aiheet, joita se toi itse esille.

PIRG:n mukaan OpenAI kertoi 14. marraskuuta antamassaan lausunnossa, että Kumma-nallen kehittäjä on ”jäädytetty palveluehtojen rikkomisen vuoksi”. CNN odottaa edelleen yhtiöltä virallista kommenttia.

Kuva: Kuvituskuva

Hei! Luitko jo tämän?

Polestar tuo Google Geminin kaikkiin malleihinsa