4 pavyzdžiai, rodantys, kad negalite pasitikėti ZeroGPT ir kitais AI aptikimo įrankiais

AI pokalbių robotai yra neabejotinai galingi ir naudingi įrankiai. Tačiau gebėjimas atskirti žmogaus sukurtą turinį ir dirbtinio intelekto sukurtą turinį tampa svarbia problema.

Siekiant išspręsti šią problemą, atsirado tokių įrankių kaip ZeroGPT. Jie skirti atskirti AI nuo žmogaus sukurto turinio. Bet ar jie veikia?

Pažvelkime į AI aptikimo įrankius ir pažiūrėkime, ar jie gali atskirti žmogaus ir AI sukurtą tekstą.

Sakoma, kad pudingo įrodymas yra valgymas. Taigi, išbandykime keletą testų ir pamatysime, ar šios priemonės yra veiksmingos. Neįmanoma išbandyti kiekvieno įrankio, todėl išbandome vieną populiariausių įrankių – ZeroGPT.

Kalbant apie medžiagą, manėme, kad būtų labai smagu ChatGPT parašyti šio straipsnio įvadą ir palyginti jį su „žmogaus sukurtu“ įvadu:

Pirmasis testas: žmogaus ir dirbtinio intelekto sukurto straipsnio įvado palyginimas

Pirmas dalykas, kurį padarėme, buvo priversti ChatGPT sugeneruoti įžangą. Įvedėme pavadinimą ir nepateikėme daugiau informacijos. Norėdami tai padaryti, bandymui naudojome GPT-3.5.

Tada nukopijavome tekstą ir įklijavome į ZeroGPT. Kaip matote, rezultatai buvo ne tokie įspūdingi.

Nepastebima pradžia, tačiau ji parodo, kokie veiksmingi yra AI pokalbių robotai. Norėdami užbaigti testą, leidžiame ZeroGPT analizuoti žmogaus sukurtą įvado juodraštį.

Bent jau ši dalis buvo teisinga. Apskritai, ZeroGPT šiame ture nepavyko. Jis nustatė, kad bent dalis AI sukurto įvado buvo įtariama, bet nepabrėžė konkrečių problemų.

Antrasis testas: klaidingai teigiama problema

Augant ChatGPT ir kitų AI įrankių naudojimui, didėja tikimybė, kad kas nors sužinos ar išgirs apie tai, kad kažkas susidurs su teiginiais, kad jų darbas buvo sukurtas dirbtinio intelekto. Šie kaltinimai yra viena rimtesnių problemų, susijusių su „ChatGPT“ ir AI aptikimo įrankiais, pvz., „ZeroGPT“, nes tokios klaidos gali pakenkti reputacijai ir turėti įtakos pragyvenimui.

Klaidingi teigiami rezultatai atsiranda, kai žmogaus sukurtas turinys neteisingai pažymimas kaip dirbtinio intelekto darbas. Kaip rodo toliau pateiktas pavyzdys, problemą lengva pakartoti. Esu entuziastingas meškeriotojas, todėl nusprendžiau parašyti įsivaizduojamo straipsnio apie žvejybą Floridoje įvadą. Tada leidau ZeroGPT analizuoti tekstą – jis pažymėjo, kad tekstas buvo 100 % sukurtas dirbtinio intelekto.

Teisybės dėlei aš ir siekiau tokio rezultato. Aš laikiau tekstą bendru ir vartojau „parduodamą“ kalbą. Tačiau teiginys, kad tai parašė žmogus, išlieka toks pat galiojantis. Tai nėra nepatogumas ar kažkas, ko galima tiesiog gūžčioti pečiais. Tokios klaidos gali turėti rimtų pasekmių rašytojams, studentams ir kitiems profesionalams, kuriantiems rašytinius darbus.

Trečias testas: ZeroGPT testavimas grožinėje literatūroje

Trečiajam bandymui naudosime „ChatGPT“ ir paprašysime parašyti fantastikos. Norėdami tai padaryti, sukūrėme scenarijų ir paskatinome „ChatGPT“ parašyti trumpą išgalvotos istorijos įvadą.

Mes tai padarėme paprastai ir tiesiog paprašėme parašyti įvadą istorijai apie du nepažįstamus žmones, kurie susitiko ant geležinkelio platformos:

Ir štai atsakymas iš ZeroGPT:

Kaip matyti iš rezultato, ZeroGPT negali atskirti fakto nuo fantastikos, kai kalbama apie grožinę literatūrą!

Ketvirtas testas: naujienų straipsniai

Kažkas nerimą kelia tai, kad AI gali informuoti mus apie tai, kas vyksta aplinkiniame pasaulyje. Tai nebūtinai yra „netikros naujienos“, nes jos gali būti svarbios ir informatyvios, tačiau yra neabejotinas etinis susirūpinimas dėl AI.

Teisingai dėl ZeroGPT, šiame teste jis pasirodė gerai. Paprašėme „ChatGPT“ ir „Bing Chat“ parašyti naujienų straipsnius keliomis temomis, o „ZeroGPT“ kiekvieną kartą tai padėdavo. Toliau pateiktame pavyzdyje parodyta, kad jis teisingai deklaruoja „Bing Chat“ sugeneruotą straipsnį kaip 100 % sukurtą dirbtinio intelekto.

Įrankis taip nuosekliai pažymėjo kiekvieną naujienų straipsnį kaip sugeneruotą dirbtinio intelekto, kad nusprendėme jį išbandyti netikrame naujienų straipsnyje, kurį parašėme šiuo tikslu.

Ji bent jau nustatė, kad kai kurie straipsniai yra žmogaus sukurti, tačiau daugiau nei 70 % buvo pažymėti kaip sukurti dirbtinio intelekto. Vėlgi, čia turime būti sąžiningi; tai buvo gana paprasta Bing straipsnio maiša ir vargu ar buvo Pulitzerio premijos kokybė.

Bet esmė lieka galioti. Tai parašė žmogus, naudodamasis internete rastais tyrimais.

Tokių įrankių kaip „ZeroGPT“ trūkumų nėra vienos priežasties. Tačiau viena esminė problema yra generatyvių AI pokalbių robotų efektyvumas. Tai yra neįtikėtinai galinga ir sparčiai besivystanti technologija, kuri veiksmingai paverčia juos judančiu AI aptikimo įrankių taikiniu.

AI pokalbių robotai nuolat gerina savo produkcijos kokybę ir „žmogiškumą“, todėl užduotis tampa itin sudėtinga. Tačiau, nepaisant sunkumų, AI lygties pusė turi priimti sprendimą be žmogaus priežiūros.

Tokie įrankiai kaip „ZeroGPT“ naudoja AI, kad nustatytų. Tačiau AI ne tik atsibunda ryte ir žino, ką daryti. Ją reikia išmokyti, ir čia tampa aktuali techninė lygties pusė.

Atsižvelgiant į didžiulį duomenų dydį, algoritmų ir mokymo duomenų šališkumas yra neišvengiamas dideli kalbų modeliai, kuriais mokomi šie įrankiai. Tai nėra problema, kuri apsiriboja AI aptikimo įrankiais, dėl tų pačių šališkumo AI pokalbių robotai gali generuoti neteisingi atsakymai ir AI haliucinacijos.

Tačiau šios klaidos aptikimo įrankiuose pasireiškia kaip neteisingos „AI vėliavėlės“. Vargu ar tai idealu, bet tai atspindi dabartinę AI technologijos būklę. Treniruotės duomenims būdingi paklaidai gali sukelti klaidingus teigiamus arba klaidingus neigiamus rezultatus.

Kitas veiksnys, į kurį reikia atsižvelgti, yra AI sukurtas turinys. Jei dirbtinio intelekto sukurtas turinys tiesiog perfrazuojamas, ar tai žmonių, ar dirbtinio intelekto sukurtas turinys? Tai yra dar vienas didelis iššūkis – dėl susiliejusių linijų tarp jų beveik neįmanoma apibrėžti mašininiu būdu sukurto turinio.

Žvelgiant į AI aptikimo ateitį

Tai gali atrodyti taip, lyg mes naudojame tokius įrankius kaip „ZeroGPT“. Taip nėra; jie susiduria su didžiuliais iššūkiais, o technologija beveik nesibaigia. Spartus tokių įrankių kaip „ChatGPT“ įsisavinimas sukūrė AI aptikimo poreikį, todėl technologijai turėtų būti suteikta galimybė tobulėti ir mokytis.

Negalima tikėtis, kad šie įrankiai patys susidurs su pokalbių robotų keliamais iššūkiais. Tačiau jie gali atlikti vertingą vaidmenį suderintose ir įvairiapusėse pastangose ​​sprendžiant AI iššūkius. Jie yra viena didesnės galvosūkio dalis, apimanti etišką AI praktiką, žmogaus priežiūrą ir nuolatinius tyrimus bei plėtrą.

Iššūkiai, su kuriais susiduria šios priemonės, yra veidrodiniai iššūkių, su kuriais susiduria visuomenė, sprendžiant dilemas, susijusias su nauju technologijų amžiumi, veidrodiniai vaizdai.

AI ar ne AI? Tai yra klausimas

Tokie įrankiai kaip ZeroGPT yra su trūkumais, dėl to nėra jokių abejonių. Tačiau jie nėra beverčiai ir yra svarbus žingsnis, kai bandome valdyti ir reguliuoti AI. Jų tikslumas pagerės, bet taip pat ir dirbtinio intelekto, kurį jie yra išmokyti aptikti, sudėtingumas. Kažkur šių ginklavimosi varžybų viduryje turime rasti visuomenei patogią pusiausvyrą.

Klausimas – AI ar ne AI? Tai daugiau nei tik diskusija apie tai, ar kažkas yra sukurtas dirbtinio intelekto, ar ne. Tai rodo didesnius klausimus, su kuriais susiduria visuomenė, kai prisitaikome prie naujo drąsaus AI pasaulio.

Anot „ZeroGPT“, 27,21 % šios išvados buvo sukurta dirbtinio intelekto. Hmm.