Singaporelaisyritys poisti myynnistä tekoälyllä toimivan puhuvan nallekarhun sen jälkeen, kun tutkijat havaitsivat sen puhelevan hieman liian erikoisia.
Testaaminen kannattaa
Public Interest Research Group kertoi, että yhdysvaltalaisten ja kanadalaisten tutkijoiden ryhmä kävi testikeskusteluja Kumma-nallen kanssa. Kumma on 99 dollarin hintainen nalle, joka käyttää OpenAI:n GPT-4o-chatbottia.
Nalle valmistetaan Kiinassa ja sitä markkinoi Singaporeen rekisteröity FoloToy.
Tutkijat olivat yllättyneitä siitä, että Kumma oli helppo saada keskustelemaan seksuaalisista aiheista, kuten läimäyttelystä, roolileikeistä ja BDSM:stä. Vielä yllättävämmäksi koitui se havainto, että otso oli valmis jatkamaan keskustelua lisäten itse oma-aloitteisesti härskejä yksityiskohtia ja seksuaalisia teemoja sekaan.
Härskimmäksi meni
Tutkimusryhmän mukaan nalle ei tyytynyt mihinkään pintaraapaisuun, vaan keskusteli entistä graafisemmista aiheista yksityiskohtia säästelemättä.
Karhunen selitti erilaisia seksiasentoja, antoi vaiheittaisia ohjeita yleisen aloittelijoille tarkoitetun solmun tekemiseen kumppanin sitomista varten ja ehdotteli roolileikkidynamiikkavaihtoehtoja "opettaja ja oppilas", "vanhempi ja lapsi" ja sitä rataa.
Aiheen oma-aloitteinen puheeksi ottaminen oli tutkijoille liikaa, ja nallukka lähti hyllylle siltä seisomalta.
Härskien ehdotelmien lisäksi nalle antoi myös muuta huolestuttavaa neuvontaa, kuten kertoili mistä päin kotia voi löytää teräviä veitsiä.
Menneet sisältöapurit sekaisin?
FoloToyn toimitusjohtaja Larry Wang sanoi, että Kumma-nalle ja kaikki yrityksen muut tekoälylelut on poistettu myynnistä. Hän kertoi CNN:lle, että yritys tekee parhaillaan sisäistä turvallisuustarkastusta.
OpenAI:n edustaja kertoi PIRG:lle, että Folon lisenssi GPT-4o-mallin käyttöön on keskeytetty käytäntöjen rikkomisen vuoksi.
Tiedossa ei siis ole, kuinka monen lapsiperheen taloudessa on erikoisia ohjeita jakeleva nallukka, mutta nämä häiriintyneet merimieskieliset lelut kannattaa poistaa kodin valikoimista tai ainakin ottaa patterit irti. Kiinnostavaa on myös, että onko tehtaalla käyty väärällä osastolla hakemassa nalleihin täytettä vai mistä oli kyse.