AI turinio detektoriai neveikia, ir tai yra didelė problema

Dirbtinis intelektas (AI) pakeis ištisus mūsų visuomenės segmentus, nesvarbu, ar mums tai patinka, ar ne, įskaitant pasaulinį internetą.

Kai tokia programinė įranga kaip „ChatGPT“ yra prieinama visiems, turintiems interneto ryšį, darosi vis sunkiau atskirti AI sukurtą turinį nuo žmogaus sukurto turinio. Gerai, kad turime AI turinio detektorius, tiesa?

Ar AI turinio detektoriai veikia?

AI turinio detektoriai yra specializuoti įrankiai, nustatantys, ar ką nors parašė kompiuterinė programa, ar žmogus. Jei tik „Google“ naudosite žodžius „AI turinio detektorius“, pamatysite yra dešimtys detektorių ten visi tvirtina, kad gali patikimai atskirti žmogiškąjį ir nežmogišką tekstą.

Jų veikimo būdas yra gana paprastas: įklijuojate raštą, o įrankis jums pasakys, ar jį sukūrė AI, ar ne. Kalbant labiau technine prasme, naudojant natūralios kalbos apdorojimo metodų ir mašinos derinį mokymosi algoritmai, AI turinio detektoriai ieško modelių ir nuspėjamumo bei skambina pagal juos kad.

Ant popieriaus tai skamba puikiai, bet jei kada nors naudojote dirbtinio intelekto aptikimo įrankį, puikiai žinote, kad jie, švelniai tariant, neveikia. Dažniausiai jie aptinka žmogaus parašytą turinį kaip AI arba žmonių sukurtą tekstą kaip DI sukurtą. Tiesą sakant, kai kurie gėdingai blogai daro tai, ką turėtų daryti.

Kiek tikslūs yra AI turinio detektoriai?

Jei esate Jungtinėse Amerikos Valstijose, pirmasis „Google“ paieškos „AI turinio detektorius“ rezultatas yra writer.com (anksčiau žinomas kaip Qordoba; tai AI turinio platforma, kuri taip pat turi savo detektorių). Bet kai įklijuosite šio atsitiktinio atkarpą Associated Press Straipsnyje teigiama, kad yra labai didelė tikimybė, kad jį sukūrė dirbtinis intelektas.

Taigi, writer.com suklydo.

Tiesą sakant, kiti AI turinio detektoriai vargu ar yra geresni. Jie ne tik sukuria klaidingus teigiamus rezultatus, bet ir pažymi AI turinį kaip žmogaus. Ir net tada, kai to nedaro, pakanka atlikti nedidelius dirbtinio intelekto sukurto teksto pakeitimus, kad viskas būtų gerai.

2023 m. vasario mėn. Volongongo universiteto dėstytojas Arminas Alimardani ir UNSW Sidnėjaus docentas Emma A. Jane išbandė keletą populiarių AI turinio detektorių ir nustatė, kad nė vienas iš jų nėra patikimas. Savo analizėje, kuri buvo paskelbta m Pokalbis, Alimardani ir Jane padarė išvadą, kad šios AI „ginklavimosi varžybos“ tarp teksto generatorių ir detektorių ateityje kels nemenką iššūkį, ypač pedagogams.

Tačiau nerimauti turi ne tik pedagogai ir mokytojai – taip daro visi. Kai dirbtinio intelekto sukurtas tekstas tampa visur paplitęs, gebėjimas atskirti, kas yra „tikra“, o kas ne, ty iš tikrųjų pastebėti, kai ką nors parašė AI, taps sunkesnis. Tai turės didžiulį poveikį praktiškai visoms pramonės šakoms ir visuomenės sritims, netgi asmeniniams santykiams.

AI poveikis kibernetiniam saugumui ir privatumui

Tai, kad nėra patikimų mechanizmų, leidžiančių nustatyti, ar ką nors sukūrė programinė įranga, ar žmogus, turi rimtų pasekmių kibernetiniam saugumui ir privatumui.

Grėsmės veikėjai jau yra naudojant „ChatGPT“ kenkėjiškoms programoms rašyti, generuoti sukčiavimo el. laiškus, rašyti šlamštą, kurti sukčiavimo svetaines ir kt. Ir nors yra būdų, kaip nuo to apsiginti, nerimą kelia tai, kad nėra programinės įrangos, galinčios patikimai atskirti organinį turinį nuo robotų.

Netikros naujienos taip pat jau yra didžiulė problema. Nuotraukoje esant generatyviniam AI, dezinformacijos agentai gali precedento neturinčiu būdu išplėsti savo veiklą. Tuo tarpu paprastas žmogus negali žinoti, ar tai, ką jie skaito internete, sukūrė programinė įranga, ar žmogus.

Privatumas yra visai kitas reikalas. Paimkite, pavyzdžiui, „ChatGPT“. Tai buvo suteikė daugiau nei 300 milijardų žodžių prieš jo paleidimą. Šis turinys buvo paimtas iš knygų, tinklaraščių ir forumo įrašų, straipsnių ir socialinės žiniasklaidos. Jis buvo renkamas be niekieno sutikimo ir, atrodo, visiškai nepaisant privatumo ir autorių teisių apsaugos.

Tada taip pat kyla klaidingų teigiamų rezultatų problema. Jei turinys klaidingai pažymėtas kaip sukurtas dirbtinio intelekto, ar tai negali sukelti cenzūros, kuri vis tiek yra didžiulė problema? Jau nekalbant apie žalą, kuri kaltinama naudojant AI sukurtą tekstą, gali pakenkti žmogaus reputacijai tiek internete, tiek realiame gyvenime.

Jei iš tiesų vyksta ginklavimosi varžybos tarp generatyvaus AI ir turinio detektorių, pirmasis laimi. Dar blogiau, atrodo, kad sprendimo nėra. Visi turime savo puskeptus produktus, kurie net pusę laiko neveikia arba gali būti labai lengvai apgauti.

Kaip aptikti AI turinį: galimi sprendimai

Tai, kad šiuo metu, atrodo, neturime tikrų atsakymų į šią problemą, nereiškia, kad jų neturėsime ateityje. Tiesą sakant, jau yra keletas rimtų pasiūlymų, kurie galėtų pasiteisinti. Vandenženklis yra vienas.

Kalbant apie dirbtinio intelekto ir gilios kalbos modelius, vandenženklis reiškia slapto kodo įterpimą į dirbtinio intelekto sukurtą tekstą (pvz., žodžių šabloną, skyrybos stilių). Toks vandenženklis būtų nematomas plika akimi, taigi beveik neįmanoma jį pašalinti, tačiau specializuota programinė įranga galėtų jį aptikti.

Tiesą sakant, dar 2022 m. Merilendo universitetas mokslininkai sukūrė naują vandenženklio metodą dirbtiniams neuroniniams tinklams. Pagrindinis tyrėjas Tomas Goldsteinas tuo metu sakė, kad jo komandai pavyko „matematiškai įrodyti“, kad jų vandens ženklo negalima visiškai pašalinti.

Kol kas paprastas žmogus gali pasikliauti savo instinktais ir sveiku protu. Jei skaitomame turinyje yra kažkas blogo – jei jis atrodo nenatūralus, pasikartojantis, neįsivaizduojantis, banalus – jis galėjo būti sukurtas programinės įrangos. Žinoma, taip pat turėtumėte patikrinti bet kokią informaciją, kurią matote internete, dar kartą patikrinti šaltinį ir nesilankyti šešėlinėse svetainėse.

Vyksta AI revoliucija

Kai kurie teigia, kad penktoji pramonės revoliucija jau čia pat, nes dirbtinis intelektas užima svarbiausią vietą toje, kas apibūdinama kaip skaitmeninio ir fizinio konvergencija. Nesvarbu, ar taip yra, ar ne, viskas, ką galime padaryti, yra prisitaikyti.

Geros naujienos yra tai, kad kibernetinio saugumo pramonė prisitaiko prie šios naujos realybės ir įgyvendina naujas gynybos strategijas, kurių priešakyje yra AI ir mašinų mokymasis.