Kalbant apie socialinę žiniasklaidą, visi žinome, kad be daugybės naudos, kurią ji teikia užmezgant ryšius Taip pat gali kilti tam tikrų pavojų ir pavojų, kylančių bendraujant internete, ypač jauniems žmonėms. Laimei, yra programų, kurios yra aktyvios ir bando apriboti šią žalą, kuri gali kilti jauniems žmonėms, įdiegus tinkamas moderavimo technologijas.
Yubo, tiesioginio socialinio atradimo programa, kurią dažniausiai naudoja Z kartos, paskelbė, kad jos tiesioginio srauto garso moderavimas technologija plečiasi į didžiausias rinkas, būtent JAV, Jungtinę Karalystę, Australiją ir Kanada.
Tai įvyko po kelių mėnesių, kai funkcija buvo išbandyta kai kuriose Jungtinių Valstijų vietose, nes įmonė išmoko spręsti problemas, kylančias analizuojant garsą realiuoju laiku.
Turinio moderavimo svarba
Turinio moderavimas internete yra sudėtingas darbas. Mes tai matėme „Facebook“, „Twitter“, „Instagram“ ir pan. Tarp įžeidimų, neapykantą kurstančių komentarų ar net kartais smurto ar savęs žalojimo labai svarbus saikas, kad šios platformos būtų saugios, o naudotojai – apsaugoti. Galimybė pasislėpti po tariamu interneto siūlomu anonimiškumu kai kuriems žmonėms gali atskleisti blogiausius dalykus.
Na, „Yubo“ ir toliau rodo, kad daro viską, ką gali, kad padėtų to išvengti, ypač todėl, kad jos vartotojų bazė yra daug jaunesnė. Pasak Yubo, 99% jų vartotojų yra Z kartos 13–25 metų amžiaus. Nors priekabiavimą internete nėra malonu niekam ištverti, jis gali būti ypač žalingas paaugliams.
Vaizdų ir vaizdo įrašų moderavimo technologija egzistuoja jau kurį laiką ir buvo sėkmingai įgyvendinta įvairiais etapais. Garso moderavimastačiau išliko didelis iššūkis, ypač su tiesioginiais srautais. Nesvarbu, ar tai tiesioginė transliacija einant gatve, ar kas nors žaidžia vaizdo žaidimą, nesvarbu.
Kaip veikia Yubo garso moderavimas
Nuo 2022 m. gegužės mėn. Yubo pradėjo bandomąjį garso moderavimo technologijos etapą įvairiose JAV srityse. Dabar kitas etapas apima daugumą angliškai kalbančių regionų, kuriuose „Yubo“ turi didelę vartotojų bazę, kad įmonė galėtų geriau suprasti savo naują saugos įrankį.
Nors tai vis dar nauja, tai technologija, kuri ateityje gali būti plačiai naudojama smurtui ar savęs žalojimui aptikti.
Yubo visa tai daro ne vienas, o bendradarbiaudamas su Hive. „Hive“, jei apie juos negirdėjote, yra įmonė, kurianti ir teikianti turinio moderavimo API, kad būtų galima apdoroti vaizdus ir vaizdo įrašus beveik realiuoju laiku.
„Yubo“ įdiegta technologija veikia įrašant ir perrašant 10 sekundžių garso fragmentus tiesioginiuose srautuose, kuriuose dalyvauja 10 ar daugiau žmonių. Dirbtinis intelektas nedelsdamas analizuoja tekstą, kad aptiktų žodžius ar frazes, pažeidžiančius programėlę bendruomenės gairės.
Palauk, čia viskas nesibaigia. Nors dirbtinis intelektas gali puikiai aptikti tokius dalykus, jis dar toli nuo to, kad galėtų atskirti faktinį probleminį naudojimą ir klaidingas vėliavėles.
Klaidingos vėliavėlės gali būti, pavyzdžiui, fone grojančios dainos arba žaisminga kalba, kuri nėra piktybiška.
Taigi čia pradeda veikti Yubo saugos specialistai, kurie yra atvesti tirti pažymėtus incidentus. Žmonės yra tie, kurie gali nuspręsti, ar situaciją reikia eskaluoti, ar ne, jei yra veiksmų kad turėtų būti imamasi prieš žmones, vartojančius blogą kalbą, arba net jei reikia patraukti teisėsaugą in.
Jei tiesioginis srautas yra visiškai tinkamas, jokie nuorašai nėra peržiūrimi arba laikomi viršijant 24 valandų limitą, todėl viskas lieka privati; arba toks privatus, koks gali būti tiesioginis srautas, kuriame dalyvauja daugiau nei 10 žmonių.
Tačiau jei algoritmai aptinka, pavyzdžiui, smurtinius grasinimus, neapykantą kurstančią kalbą ar savęs žalojimą, nuorašai saugomi iki vienerių metų. Tai, žinoma, yra įmonės saugumo priemonė, kai teisės aktų vykdymas reikalauja informacijos arba pačiai įmonei reikia informacijos tolimesniems vidiniams tyrimams.
Yubo operacijų vadovas Marcas-Antoine'as Durandas mato plėtrą garso moderavimas technologijas kaip pagrindinį visos pramonės interneto saugos evoliucijos elementą.
„Balso aptikimo srityje dar reikia padaryti daug pažangos, tačiau didžiuojamės galėdami nutiesti kelią savo bendraamžiams. būti pirmiesiems, kurie pradėjo garso moderavimą naudodami „Hive“ ir padėjo šį įrankį padaryti patikimesnį ir efektyvesnį per šį bandomąjį laikotarpį“, – sakė Durand. sakė.
Akivaizdu, kad socialinės platformos nenori siautėjančių patyčių, neapykantą kurstančių kalbų ir smurtą kurstančių komentarų, nes tai atstumtų kitus vartotojus. Tokios moderavimo technologijos įdiegimas yra puikus įrankis, užtikrinantis vartotojų saugumą, taip pat padedantis užtikrinti Yubo augimą ir sėkmę ilgalaikėje perspektyvoje.
