„Twitter“ atskleidžia, kad dėl rasės ir lyčių šališkumo paslėptas dirbtinio intelekto auginimas

Pirmą kartą mintį, kad „Twitter“ vaizdo kirpimo algoritmas gali turėti tam tikrų šališkumų, pirmą kartą išgirdome 2020 m. Rugsėjo mėn. Kriptografijos inžinierius Tony Arcieri įkėlė du vaizdus, ​​kuriuose pavaizduotas Senato daugumos lyderis Mitchas McConnellas ir buvęs prezidentas Barackas Obama, o dirbtinis intelektas abu kartus buvo apkarpytas.

Kai ginčas galų gale pasiekė „Twitter“, bendrovė pažadėjo išanalizuoti savo modelį. Galiausiai mes turime perskaityti šias išvadas.

„Twitter“ dalijasi savo algoritmų analizės rezultatais

Gegužės pradžioje „Twitter“ pagaliau išleido viso dydžio vaizdų peržiūras savo mobiliojo laiko juostose. Įrašas „Twitter“ tinklaraštyje atskleidė, kad programa išpūtė savo vaizdo apkarpymo algoritmą po to, kai analizė parodė, kad ji turi rasės ir lyties principų.

Platforma savo vaizdams apkarpyti pradėjo naudoti aiškumo algoritmą 2018 m. „Twitter“ teigia, kad drąsumo modeliai mokomi pagal žmogaus akių stebėjimo duomenis, kuriuos tada naudoja algoritmas, skirtas įvertinti, kokie vaizdo subjektai / elementai, jo manymu, greičiausiai yra svarbiausi žmonių.

Tada algoritmas, prieš pasirinkdamas tašką, kurio balas yra didžiausias, turėtų būti derliaus centras, kad gautų visų vaizdo dalių sąmatos balą.

Atlikusi kiekybinį testą, kad patikrintų galimą šališkumą, komanda nustatė, kad salityvumo algoritmas, atrodo, pirmenybę teikia moterims, o ne baltiems - prieš juodaodžius.

„Twitter“ taip pat išbandė „vyriško žvilgsnio“ algoritmą, tačiau objektyvizacijos šališkumo įrodymų nerasta.

Net jei jautrumo algoritmas buvo pakoreguotas, kad atspindėtų tobulą lygybę rasės ir lyčių pogrupiuose, mes [Twitter] esame susirūpinę automatinio algoritmo reprezentacinė žala, kai žmonėms neleidžiama atstovauti sau, kaip jie nori platforma. Salsumas taip pat turi kitų galimų žalos, kurios nėra šios analizės sritis, įskaitant nejautrumą kultūriniams niuansams.

Svarstydamas kompromisus tarp automatinio auginimo greičio ir nuoseklumo bei jo rizikos, „Twitter“ teigia, kad jos komanda suprato, jog tai, kaip apkarpyti vaizdą, geriausiai priima žmonės - ne algoritmai.

Susijęs: Technologijų tendencijos, kurios jau keičia ateitį

„Twitter“ atsikrato automatinio vaizdo apkarpymo

„Twitter“ nebenaudoja skaidrumo algoritmo, o dabar visos „iOS“ ir „Android“ versijose rodomos standartinio formato nuotraukos. Kurdami „Twitter“ įrašą pastebėsite, kad naujame atnaujinime taip pat yra tikroji įkeltų vaizdų peržiūra, kad žinotumėte, kaip viskas atrodys paskelbus.

Jei jus domina skaityti tyrimo akademinį darbą, galite jį rasti arXiv.org. Analizei taip pat galite rasti „Twitter“ kodą „GitHub“.

Kaip įkelti ir peržiūrėti 4K vaizdus „Twitter“

„Twitter“ programa dabar leidžia įkelti ir peržiūrėti vaizdus 4K formatu. Štai kaip pakeisti nustatymus.

Skaitykite toliau

Apie autorių