Facebookin tekoäly osaa analysoida meemejä, mutta voiko se ymmärtää niitä? Facebookin Rosetta-teknologia analysoi miljardeja kuvia, jotka sisältävät tekstiä, mutta meemit ovat liian monimutkaisia tekoälylle. Miljardeja tekstejä, valokuvia ja videoita ladataan sosiaaliseen mediaan päivittäin. Tämä on runsaasti tietoa, jota ihmismoderaattorit ja heidän faktantarkistajansa eivät pysty kattavasti seulomaan, hallitsemaan ja hallitsemaan. Yritykset, kuten Facebook ja YouTube, ovat pitkään luottaneet tekoälyyn pitääkseen roskapostin, väkivallan, kriittisen sisällön ja pornografian poissa alustoiltaan!
Jotain järjestelmäkriittistä meemiä ilman tekstiä voi olla sen supertietokoneille ja niiden algoritmeille vaikea analysoida ja prosessoida, koska tämä tehtävä edellyttää useiden visuaalisten elementtien laskemista samanaikaisesti. Automaattisten järjestelmien, niin sanottujen bot-järjestelmien, on tunnistettava ja "luettava" kuvan yläpuolella olevat sanat sekä analysoitava ja määritettävä itse kuva. Meemejä voidaan myös kuvata monimutkaisiksi kulttuurisiksi esineiksi, joita on vaikea ymmärtää kontekstin ulkopuolella. Haasteistaan huolimatta kaikki suuret sosiaaliset alustat käyttävät jo tekoälyä ohjaamaan meemejä, mukaan lukien Facebook, joka käyttää Rosetta-nimistä työkalua tekstiä ja kuvatekstejä sisältävien kuvien ja videoiden analysoimiseen.
Facebookin mukaan Rosettaa käytetään jo nyt vihapuheohjeita rikkovan sisällön automaattiseen tunnistamiseen. Rosettan avulla Facebook pyrkii hallitsemaan käyttäjien sisältöä, mukaan lukien valokuvat ja videot, ei vain tekstipohjaisia viestejä. Rosetta tukee prosessia, jossa tarkistetaan automaattisesti, onko tekstiä sisältävät kuvat ja videot aiemmin merkitty "kriittisiksi". Rosetta yhdistää OCR-tekniikan (optinen merkintunnistus) muihin koneoppimistekniikoihin tarkastella, käsitellä, luokitella ja määrittää tekstiä valokuvissa ja videoissa ja sen jälkeen tallentaa ne. Ensinnäkin tekstintunnistusta käytetään määrittämään, missä teksti on meemissä tai videossa. Näin he voivat nopeasti muuttaa tietoja ja käyttää "valitsimiaan" sisällön arvioimiseen.
Kun Rosetta tietää missä sanat ovat, Facebook käyttää hermoverkkoa, joka ymmärtää tekstin, sen transkription ja merkityksen. Tämä teksti voidaan sitten siirtää muiden järjestelmien läpi, kuten järjestelmän, joka tarkistaa, onko meemi virusviesti, joka on jo debunked niiden ohjeiden mukaisesti. Rosettan kehittäjät ja tutkijat väittävät, että työkalu voi nyt poimia tekstiä mistä tahansa Facebookiin julkisesti ladatusta kuvasta reaaliajassa ja tunnistaa tekstin sekä "lukea" sen kielitunnisteen, mukaan lukien englanti, espanja, saksa ja arabia.
Rosetta voi myös analysoida kuvia, jotka sisältävät tekstiä monissa eri muodoissa, kuten kuvia protestikylteistä, ravintolamenuja, näyteikkunoita ja paljon muuta. Viswanath Sivakumar, Facebookin ohjelmistosuunnittelija, joka työskentelee Rosettassa, sanoi sähköpostissa, että työkalu toimii hyvin sekä tekstin tunnistamiseen maisemassa, kuten katukyltissä, että meemeihin - mutta jälkimmäinen on haastavampi. "Vihapuheen ja muun käytäntöjä rikkovan sisällön ennakoivan havaitsemisen yhteydessä meemityyliset kuvat ovat monimutkaisempi tekoälyhaaste", hän kirjoitti.
Toisin kuin ihmiset, tekoälyn on myös tyypillisesti nähtävä kymmeniä tuhansia esimerkkejä ennen kuin se voi oppia suorittamaan monimutkaisen tehtävän, Sivakumar sanoo. Mutta meemit eivät ole loputtomasti hallittavissa edes Facebookissa, ja riittävän määrän esimerkkien kerääminen ja tallentaminen eri kielillä ja tunteilla voi myös osoittautua vaikeaksi. Laadukkaiden viestien löytäminen on jatkuva haaste tekoälytutkimukselle laajemminkin. Tiedot on usein merkittävä huolellisesti manuaalisesti ja arkistoitava. Monet tietokannat ovat myös tekijänoikeudella suojattuja.
Jotta Rosetta saa tarvittavat tiedot ja kouluttaa sen hyödyllisyyttä, teksti, sen kuvatekstit ja paikat, joista ne on julkaistu, yhdistetään laskennalliseksi prosessiksi. Yksinkertaisesti sanottuna olet luonut ohjelman, joka luo juuri niitä esimerkkejä, joiden sisältö vaikuttaa kyseenalaiselta. Tämä tarkoittaa, että koko prosessi on jossain määrin automatisoitu: yksi ohjelma sylkee automaattisesti meemit ja toinen yrittää analysoida niitä. AI kohtaa erittäin suuria haasteita. Esimerkiksi Rosetta kohtaa kieliä, kuten arabiaa, jota luetaan oikealta vasemmalle, toisin kuin muut kielet, kuten englanti tai saksa. Rosetta "lukee" arabiaa taaksepäin, sitten Facebook kääntää merkit päinvastaiseksi käsittelyn jälkeen. Tämä temppu toimii yllättävän hyvin ja mahdollistaa yhtenäisen mallin, joka toimii sekä vasemmalta oikealle että oikealta vasemmalle kirjoitettaville kielille.
Automatisoidut järjestelmät voivat olla erittäin hyödyllisiä sisällön moderointiin ja faktojen tarkistamiseen, mutta ne eivät aina ole helppoja. Esimerkiksi WeChat käyttää kahta eri algoritmia kuvien suodattamiseen. Ensimmäinen, OCR-pohjainen ohjelma, suodattaa kuvat, jotka sisältävät tekstiä kielletyistä aiheista, kun taas muut sensuroivat kuvia, jotka ovat samankaltaisia kuin Kiinan hallituksen todennäköisesti luomalla mustalla listalla. WeChatin suodattimien avulla voit helposti poistaa kuvan ominaisuudet, samoin kuin värityksen tai muuttuneen suunnan. Facebookin Rossetta on monimutkainen, mutta ei todennäköisesti täydellinen. Järjestelmä voidaan kiertää vaikeaselkoisella tekstillä tai vääristyneillä fonteilla. Kaikki kuvantunnistusalgoritmit ovat myös edelleen alttiita ristiriitaisille esimerkeille, hieman muuttuneille kuville, jotka näyttävät ihmisistä samalta, mutta saavat tekoälyn hämmentymään.
Facebook ja muut alustat, kuten Twitter, YouTube ja Reddit, ovat valtavan paineen alaisena valvoa tietyntyyppistä sisältöä useissa maissa. Vuonna 2018 Euroopan unioni ehdotti uusia lakeja, jotka vaativat sosiaalisen median yrityksiä poistamaan terroristiviestit tunnin kuluessa ilmoituksesta, tai sakkoja. Rosetta ja muut vastaavasti automatisoidut työkalut auttavat jo Facebookia ja muita alustoja noudattamaan vastaavia lakeja esimerkiksi Saksassa. Ja he paranevat työssään: Kaksi vuotta sitten toimitusjohtaja Mark Zuckerberg sanoi, että Facebookin tekoälyjärjestelmät sieppaavat vain noin puolet yrityksen poistamasta sisällöstä. Ihmisten täytyy merkitä loput ensin. Facebookin mukaan sen tekoälytyökalut havaitsevat lähes 100 prosenttia tuomitsemastaan roskapostista sekä 99,5 prosenttia terroristisisällöstä ja 86 prosenttia graafisesta väkivallasta. Muut alustat, kuten YouTube, ovat saavuttaneet samanlaista menestystä automaattisilla sisällöntunnistusjärjestelmillä.
Tämä ei kuitenkaan tarkoita, että Rosettan kaltaiset tekoälyjärjestelmät olisivat täydellinen ratkaisu, varsinkin kun kyse on vivahteikasmmista ilmaisumuodoista. Toisin kuin ravintolamenun, meemin merkityksen analysointi voi olla vaikeaa tietämättä kontekstia, jossa se on julkaistu. Siksi on olemassa kokonaisia verkkosivustoja, jotka selittävät ne. Meemissä esiintyy usein sisäisiä vitsejä tai ne ovat hyvin erityisiä tietylle online-alakulttuurille ja sen moraaliselle ja eettiselle taustalle. Ja tekoäly ei vieläkään pysty ymmärtämään meemiä tai videota samalla tavalla kuin ihminen. Toistaiseksi Facebookin on edelleen luotettava ihmismoderaattoreihin ja heidän faktantarkistuksiinsa tehdäkseen päätöksiä meemin poistamisesta.
Käännösartikkeli Wired-lehdestä 14.09.2018
(Via Vale Rion)
Lisää sinulle:
"Dravens Tales from the Crypt" on lumoinut jo yli 15 vuoden ajan mauttomalla sekoituksella huumoria, vakavaa journalismia - ajankohtaisista tapahtumista ja epätasapainoista uutisointia lehdistöpolitiikassa - ja zombeja, koristeltu paljon taidetta, viihdettä ja punk rockia. Draven on muuttanut harrastuksensa suosituksi brändiksi, jota ei voi luokitella.
Blogiani ei ole koskaan suunniteltu levittämään uutisia, saati sitten poliittisesti, mutta ajankohtaisten asioiden kanssa en vain voi olla keräämättä tänne tietoa, joka muuten on sensuroitu kaikilla muilla kanavilla. Tiedän, että suunnittelusivu ei ehkä vaikuta "vakavalta" monista tässä suhteessa, mutta en muuta tätä miellyttääkseni "valtavirtaa". Jokainen, joka on avoin valtion vaatimusten vastaiselle tiedolle, näkee sisällön eikä pakkausta. Olen yrittänyt riittävästi tarjota ihmisille tietoa viimeisen 2 vuoden aikana, mutta huomasin nopeasti, että sillä ei ole koskaan väliä miten se on "pakattu", vaan sillä, miten toinen suhtautuu siihen. En halua laittaa hunajaa kenenkään suuhun täyttääkseni odotuksia millään tavalla, joten pidän tämän mallin, koska toivottavasti jossain vaiheessa pystyn lopettamaan näiden poliittisten lausuntojen esittämisen, koska tavoitteeni ei ole jatkaa. näin ikuisesti 
Jätän jokaisen omaksi, miten he suhtautuvat asiaan. Olet tervetullut kopioimaan ja jakamaan sisältöä, blogini on aina ollut alla WTFPL-lisenssi.
Minun on vaikea kuvata, mitä teen täällä, DravensTalesista on tullut kulttuuriblogi, musiikkiblogi, shokiblogi, tekninen blogi, kauhublogi, hauska blogi, blogi löydetyistä tuotteista Internetissä, outo internet, roskakoriblogi, taideblogi, vedenlämmitin, zeitgeist-blogi vuosien varrella , Romu blogi ja napata laukku blogi kutsutaan. Kaikki mikä on oikein ... - ja silti ei. Blogin pääpaino on nykytaide, sanan laajimmassa merkityksessä.
Sivuston toiminnan varmistamiseksi olet tervetullut Tee lahjoitus luottokortilla, Paypalilla, Google Paylla, Apple Paylla tai suoraveloituksella/pankkitilillä. Suuri kiitos kaikille tämän blogin lukijoille ja tukijoille!
