Artikkelit

Kiellettyjä ovat romanttiset ja itsetuhoiset keskustelut.

Meta kertoo kouluttavan tekoälyään uudelleen estääkseen teini-ikäisiä käyttäjiä keskustelemasta haitallisista aiheista, kuten itsetuhoisuudesta, syömishäiriöistä ja romanttisista suhteista.

Yhtiö kertoi lisäävänsä uusia ”turvakaiteita” Meta AI -tekoälyyn, jotta nuorten käyttäjien olisi mahdotonta käydä vaarallisia keskusteluja chatbotien kanssa. Teinit eivät enää jatkossa pääse käsiksi käyttäjien luomiin chatbot-hahmoihin, jotka saattaisivat käydä asiattomia keskusteluja.

Uutistoimisto Reuters kertoi aiemmin elokuussa Meta-dokumentista, jossa tekoälylle sallittiin ”sensuaaliset” keskustelut alaikäisten kanssa. Meta kutsui dokumenttia virheelliseksi ja linjasi, ettei se vastaa yhtiön käytäntöjä. The Washington Post puolestaan raportoi tutkimuksesta, jossa Meta AI ohjeisti teinitilejä jopa itsetuhoisesta käyttäytymisestä ja syömishäiriöistä.

Metan mukaan yhtiö on alusta alkaen rakentanut tekoälytuotteisiinsa suojausmekanismeja, jotka rajoittavat keskusteluja itsetuhoisuudesta, syömishäiriöistä ja muista vaarallisista aiheista. Nyt yhtiö aikoo lisätä entistä vahvempia rajoituksia varotoimenpiteenä.

Uudistusten myötä tekoäly ei jatkossa keskustele teinien kanssa näistä aiheista, vaan ohjaa heidät asiantuntijatahojen tarjoaman tuen pariin. Lisäksi teinien pääsy osaan tekoälyhahmoista on rajattu.

Meta korostaa, että kyse on toistaiseksi väliaikaisista toimista, ja pysyvämpiä ratkaisuja kehitetään parhaillaan. Suojausten käyttöönotto alkaa lähiviikkoina ja ne koskevat kaikkia englanninkielisissä maissa Meta AI:ta käyttäviä nuoria.

Hei! Luitko jo tämän?

Rekisteröintitilastot julki: Tesla sukeltaa, BYD porskuttaa