Facebook moderoi koko maailmaa samoilla ohjeilla – “Teemme virheitä, koska prosessiimme kuuluu ihmisiä”

Maailman suosituin some-kanava kipuilee suuruutensa kanssa.

Kuva: Fotolia

Yksi maailman suosituimpiin ja toistuvasti kiinnostavimpiin podcasteihin kuuluva Radiolab nostaa esiin piilotetun, mutta merkittävän ilmiön joka vaikuttaa yli kahden miljardin ihmisen elämään. Radiolabin tuoreen jakson aiheena ovat Facebookin moderointi ja linjaukset, joiden perusteella Facebookiin julkaistu sisältö pääsee esiin. Saman aiheen parissa on paininut viime aikoina myös Vicen Motherboard-lehti, joka julkaisi hetki sitten mittavaan taustatyöhön perustuvan artikkelin aiheeseen liittyen.

Facebookin valta on valtava. Sillä on määrittelyvaltaa siihen, mitkä aiheet nousevat keskusteluun ja mitkä ovat hyväksytyn sisällön rajat. Heillä on valtaa vaikuttaa siihen kenestä tulee maailman vaikutusvaltaisin henkilö, kuten Donald Trumpin nousu presidentiksi osoittaa.

Samaan aikaan haasteita riittää. Suomalainen sosiaalisen median kouluttaja Harto Pönkä selvitti Facebookin käyttäjämääriä Suomessa ja havaitsi mittavan laskun käyttäjissä huhtikuun jälkeen. Pöngän Facebookin mainostyökalun tarjoamiin lukuihin perustuvan arvion mukaan Facebookista on karannut kevään jälkeen peräti 300 000–400 000 käyttäjää.

Monet niistä, jotka palvelussa edelleen viettävät aikaa, löytävät sieltä entistä vähemmän kiinnostavaa ja etenkin postaavat itse entistä vähemmän.

Facebook ei ole yrityksenä menossa mihinkään, vaikka palvelun kiinnostavuus laskeekin. Monien asiantuntijoiden veikkauksissa Facebookin omistamasta Instagramista on kasvamassa seuraava maailman suurin somealusta.

Kiinassa lisää käyttäjiä ja vaikutusvaltaa jatkuvasti keräävä “jumalsovellus” WeChat on ehtinyt jo miljardiin käyttäjään ja syö markkinaosuuksia Facebookilta etenkin Aasiassa.

Radiolab nostaa esiin kiinnostavia tarinoita Facebookin moderoinnista. Mukana on nimettömänä pysytteleviä moderaattoreita, jotka kertovat mitä työ piti sisällään. Kun podcastin toimittajat yrittivät lähestyä Facebookin moderaattoreita työpaikkansa pihoilla, he kieltäytyivät haastattelusta ja kielsivät jopa tekevänsä töitä Facebookille johtuen tiukoista vaitiolosopimuksista.

Eräs entisistä moderaattoreista kertoo, kuinka päätökset sisällön hyväksymisestä tai hylkäämisestä tehtiin muutamassa sekunnissa ja että päivään mahtui tuhansia päätöksiä. Pahimmillaan sisällöt olivat vastenmielistä katsottavaa, joka jäi pyörimään mieleen pitkäksi aikaa ja vei yöunet. Facebookin moderaattorit joutuvat näkemään kaiken sen, mitä meidän muiden ei tarvitse nähdä.

Tai ainakin ennen joutuivat. Nykyisin tehokkaat tekoälyalgoritmit suodattavat lähes kaiken täyhkän ennen kuin ihminen joutuu sitä katsomaan. Muutos kävijämäärissä on kuitenkin ollut niin nopea, että myös suodatettavan sisällön määrä on kasvanut räjähdysmäisesti.

Kun aluksi Facebookin moderointia alettiin tehdä 12 tyypin tiimillä, on osastolla nykyisin noin 16 000 työntekijää maailmanlaajuisesti. Aluksi Facebookin tarvitsi käytännössä linjata kielletyksi vain alastomuutta ja raakaa väkivaltaa sisältävät postaukset, mutta nykyisin linjaukset osuvat huomattavasti tarkempiin nyansseihin.

Suoraan Zuckerbergin pöydälle

Vaikka algoritmi auttaa kielletyn sisällön karsimisessa, on sen taustalta löytyvät linjaukset ihmisten kehittämiä. Motherboard kertoo, miten Facebookin moderoinnin rajatapauksissa päätökset siirretään ihmisten tehtäväksi. Viime aikoina yhä useampi tapaus on kulkenut moderointitiimien pomojen kautta Facebookin operatiivisen johtajan Sheryl Sandbergin pöydälle ja aina Mark Zuckerbergille asti.

Facebookin kohtaamat haasteet ovat monisyisiä. Palvelun täytyy vastata miljardien käyttäjien toiveita ja kuten Zuckerbergin kuuleminen Yhdysvaltain kongressissa osoittaa, säätelyn ja yksityisyyden kanssa pärjääminen on Facebookin kynnyskysymyksiä. On vaikea luoda yksiselitteisiä pelisääntöjä viestinnälle palvelussa, joka on samaan aikaan mediasisällön tarjoaja, teknologinen palvelu, mainosalusta ja ihmisten henkilökohtaisten muistojen ja näkemysten digitaalinen varasto.

Facebook itse on suojautunut syytöksiltä väittämällä olevansa teknologisen palvelun tarjoaja, ei julkaisija, joka vastaisi palvelussa julkaissusta sisällöstä.

Facebook pääsee määrittelemään omat pelisääntönsä pitkälti itse ja tekee myös jatkuvaa työtä sääntöjen päivittämiseksi. Radiolabin mukaan Facebookin moderaattoreiden toimintaa ohjaa noin 50-sivuinen opus, jossa linjataan millaisia päätöksiä minkäkin sisällön suhteen tulee tehdä. Opasta kehitetään jatkuvasti uusien rajatapausten ilmetessä ja se nojaa tulkinnoissaan esimerkiksi Yhdysvaltain perustuslakiin.

Laimentaakseen kohtaamaansa kritiikkiä, Facebook julkaisi keväällä yhteisönormit, jotka kertovat käyttäjän näkökulmasta, mikä sisältö on sallittua ja mikä ei.

“Teemme virheitä, koska prosessiimme kuuluu ihmisiä ja ihmiset ovat erehtyväisiä”, kirjoitti Facebookin moderoinnin linjauksista vastaava johtaja Monika Bickert.

Rajatapauksia

Rabiolabin podcast nostaa esiin tapauksia, joissa Facebookin moderointilinja on joutunut koetukselle.

Yksi esimerkeistä liittyy sekä Meksikon huumesotaan että Bostonin maratonin ampumatapaukseen. Bostonin tapauksen yhteydessä sallittiin hyvinkin julmat kuvat. Meksikossa puolestaan viranomaiset ja perinteinen media kielsivät tai vaikenivat jengiväkivallasta, joten ihmiset päättivät kertoa siitä itse sosiaalisen median kautta.

Ensin Facebook linjasi, että rajukin sisältö on kyseisessä yhteydessä sallittua, sillä jengiväkivallan julkituominen on merkittävä yhteiskunnallinen edistysaskel. Syntyi kuitenkin valtava vastareaktio, jonka myötä muun muassa Britannian silloinen pääministeri David Cameron kyseenalaisti rajusti Facebookin ratkaisut.

Loppujen lopuksi ja julkisen painostuksen jälkeen Facebook muutti linjansa Meksikon suhteen huomattavasti tiukemmaksi. Radiolabin haastattelema korkea-arvoinen Facebookin moderointilinjauksista vastaava työntekijä päätti irtisanoutua, koska hänen mielestään Bostonissa ja Meksikossa tehdyt linjaukset poikkesivat toisistaan ja Meksikon tiukka linja tarkoitti myös oleellisten ihmisoikeuskysymysten piilottamista näkyvistä.

Väkivaltaisen sisällön lisäksi seksuaalinen sisältö on usein moderointikysymysten ytimessä. Yksi Facebookin varhaisista linjauksista liittyi nännien kieltämiseen. Joukko imettäviä äitejä päätti kuitenkin nousta kapinaan ja järjestivät imetyskampanjan sekä Facebookin moderointiyksikön edessä pidetyn mielenosoituksen muodossa että Facebook-kampanjana. Pian Facebook joutui luopumaan ehdottomista nänni-linjauksistaan. Sittemmin palvelu on tarkentanut nännin näkymisen olevan ok myös muissa yhteyksissä, kuten mielenilmauksissa, taiteessa sekä opetus- tai terveydenhoitoon liittyvissä tarkoituksissa. Asiayhteyden pitää kuitenkin selvitä selkeästi postauksesta.

Aina ei edes monimutkaiset linjaukset auta, jos ongelmana on suuri, vaikeasti valvottava ja ainakin jossain päin maailmaa huonosti palkattu moderoijien ammattiryhmä. Kun Rabiolabin haastattelema filippiiniläisnainen kertoi omista kokemuksistaan moderaattorina, kävi selväksi miten inhimillisiä päätöksiä ihmismoderaattorit tekevät. Marieksi nimetty nainen kertoo, kuinka hänen työtoverinsa päästivät postauksia läpi, vaikka ne olisi pitänyt kieltää ihan vain, koska halusivat suoriutua työstään nopeammin.

“Osa heistä hoiti työnsä huonosti kapinoidessaan huonoa palkkausta vastaan”, noin 2,5 dollaria tunnissa tienannut nainen kertoi.

Hän ei myönnä huonon palkkauksen vaikuttaneen moderointipäätöksiin omalla kohdallaan, mutta hänen tapauksessaan päätöksiin vaikuttivat hänen omat uskomuksensa hartaana kristittynä. Niinpä hän päätyi kieltämään sisältöä, joka olisi linjauksien mukaan pitänyt päästää läpi ja banniin päätyivät myös esimerkiksi imettävien äitien nännit.
 

Johtopäätökset

Radiolabin johtopäätös Facebookin haasteista on se, että loppujen lopuksi palvelu tulee epäonnistumaan ja kaatumaan omaan mahdottomuuteensa. Heidän on kuitenkin pakko yrittää pitää homma hanskassa, koska muuten palvelussa vallitsisi täysi kaaos. Radiolabin jakson tuottaja Simon Adler toivoo, että koko maailma kannustaisi Facebookia onnistumaan sen sijaan, että yrittäisimme saada heidät epäonnistumaan.

Facebook myöntää itsekin auliisti, etteivät heidän linjauksensa ole absoluuttinen totuus. Heidän tarkoituksenaan on ollut luoda edes jonkinlainen systeemi, jotta palvelun toimiminen olisi mahdollista. Haasteet ovat kuitenkin valtavat ja paksukaan opaskirja ei auta aukottomasti ratkaisemaan kaikkia haasteita, joita ilmenee palvelussa, jonka käyttäjien kesken on valtavia kulttuuri- ja näkemyseroja.

Se, mitä käyttäjinä voimme Facebookilta toivoa, on lisää avoimuutta algoritmien toiminnasta ja moderoinnista kivuliaissa rajatapauksissa. Kaikkea emme koskaan saa tietää kun kyse on yksityisen yrityksen liikesalaisuuksista, mutta tietoisuus aiheesta on tärkeää, jotta ihmiset tietävät millaisen toimijan kanssa ovat tekemisissä. Facebook ei ole vain näkymätön internetin taustarakenne, vaan ihmisten pyörittämä organisaatio, jolla on omat tavoitteensa ja linjauksensa sekä taloudellisesti että ideologisesti.

Kommentoi juttua

Henkilökohtainen verkkosivusi (kotisivu, blogi tms.)
3 + 2 = Kirjoita laskutoimituksen tulos tai kirjaudu sisään, jolloin tarkistetta ei kysytä.
Jätä tyhjäksi