Turėdami milijonus ChatGPT vartotojų, galite susimąstyti, ką daro OpenAI su visais savo pokalbiais. Ar jis nuolat analizuoja dalykus, apie kuriuos kalbate su „ChatGPT“?
Atsakymas į tai yra taip, „ChatGPT“ mokosi iš vartotojo įvesties, bet ne taip, kaip mano dauguma žmonių. Pateikiame išsamų vadovą, paaiškinantį, kodėl „ChatGPT“ stebi pokalbius, kaip juos naudoja ir ar jūsų saugumas nėra pažeistas.
Ar „ChatGPT“ prisimena pokalbius?
„ChatGPT“ nepriima raginimų pagal nominalią vertę. Ji naudoja kontekstinę atmintį, kad prisimintų ir remtųsi ankstesniais įvestimis, užtikrindama tinkamus, nuoseklius atsakymus.
Paimkite toliau pateiktą pokalbį kaip pavyzdį. Kai paprašėme „ChatGPT“ pateikti receptų idėjų, jis atsižvelgė į mūsų ankstesnį pranešimą apie alergiją žemės riešutams.
Štai saugus „ChatGPT“ receptas.
Kontekstinė atmintis taip pat leidžia AI atlikti kelių etapų užduotis. Žemiau esančiame paveikslėlyje parodyta, kad „ChatGPT“ išlaiko savo charakterį net ir pateikus naują raginimą.
„ChatGPT“ gali prisiminti daugybę pokalbių instrukcijų. Pateikiant daugiau konteksto, jo išvestis iš tikrųjų pagerėja tikslumo ir tikslumo. Tiesiog įsitikinkite, kad aiškiai paaiškinate savo instrukcijas.
Taip pat turėtumėte valdyti savo lūkesčius, nes „ChatGPT“ kontekstinė atmintis vis dar turi apribojimų.
„ChatGPT“ pokalbių atminties talpa yra ribota
Kontekstinė atmintis yra baigtinė. „ChatGPT“ turi ribotus aparatinės įrangos išteklius, todėl įsimena tik tam tikrus dabartinių pokalbių taškus. Platforma pamiršta ankstesnius raginimus, kai pasiekiate atminties talpą.
Šiame pokalbyje mes nurodėme ChatGPT suvaidinti išgalvotą personažą, vardu Tomie.
Jis pradėjo atsakyti į raginimus kaip Tomie, o ne „ChatGPT“.
Nors mūsų užklausa veikė, „ChatGPT“ sulaužė pobūdį, kai gavo 1 000 žodžių raginimą.
„OpenAI“ niekada neatskleidė tikslių „ChatGPT“ ribų, tačiau sklando gandai, kad vienu metu ji gali apdoroti tik 3000 žodžių. Mūsų eksperimento metu „ChatGPT“ sugedo vos po 2800 ir daugiau žodžių.
Raginimus galite suskirstyti į du 1500 žodžių rinkinius, bet greičiausiai „ChatGPT“ neišsaugos visų jūsų nurodymų. Tiesiog pradėkite kitą pokalbį. Kitu atveju per pokalbį turėsite kelis kartus pakartoti konkrečias detales.
„ChatGPT“ prisimena tik su tema susijusias įvestis
„ChatGPT“ naudoja kontekstinę atmintį, kad pagerintų išvesties tikslumą. Ji ne tik saugo informaciją, kad ją rinktų. Platforma beveik automatiškai pamiršta nereikšmingas detales, net jei toli gražu nepasiekiate žetonų limito.
Žemiau esančiame paveikslėlyje bandome supainioti AI su įvairiomis nenuosekliomis, nereikšmingomis instrukcijomis.
Kombinuotą įvestį palikome iki 100 žodžių, bet „ChatGPT“ vis tiek pamiršo pirmąjį nurodymą. Greitai sulaužė charakterį.
Tuo tarpu „ChatGPT“ šio pokalbio metu žaidė vaidmenimis, nes uždavėme tik su tema susijusius klausimus.
Idealiu atveju kiekvienas dialogas turi vykti pagal atskirą temą, kad būtų išlaikyti tikslūs ir svarbūs rezultatai. Vis tiek galite vienu metu įvesti kelias instrukcijas. Tiesiog įsitikinkite, kad jie atitinka bendrą temą, kitaip „ChatGPT“ gali atsisakyti instrukcijų, kurios, jos nuomone, yra nereikšmingos.
Mokymo instrukcijos Overpower User Input
„ChatGPT“ visada pirmenybę teiks iš anksto nustatytoms instrukcijoms, o ne vartotojo sugeneruotai įvestiei. Jis sustabdo neteisėtą veiklą per apribojimus. Platforma atmeta visus raginimus, kurie, jos nuomone, yra pavojingi ar žalingi kitiems.
Paimkite užklausas žaisti vaidmenimis kaip pavyzdžius. Nors jie nepaiso tam tikrų kalbos ir frazių apribojimų, negalite jų naudoti neteisėtai veiklai vykdyti.
Žinoma, ne visi apribojimai yra pagrįsti. Jei dėl griežtų gairių sunku atlikti konkrečias užduotis, nuolat perrašykite raginimus. Žodžių pasirinkimas ir tonas labai veikia išvestį. Įkvėpimo galite pasisemti iš daugumos veiksmingi, išsamūs nurodymai „GitHub“..
Kaip OpenAI tiria vartotojų pokalbius?
Kontekstinė atmintis taikoma tik dabartiniam pokalbiui. ChatGPT architektūra be būsenos pokalbius traktuoja kaip nepriklausomus atvejus; ji negali remtis ankstesnių duomenų informacija. Pradėjus naujus pokalbius modelio būsena visada nustatoma iš naujo.
Tai nereiškia, kad „ChatGPT“ akimirksniu išmeta vartotojų pokalbius. OpenAI naudojimo sąlygos teigia, kad įmonė renka įvestis iš ne API vartotojų paslaugų, tokių kaip „ChatGPT“ ir „Dall-E“. Jūs netgi galite paprašyti pokalbių istorijos kopijų.
Kol ChatGPT laisvai pasiekia pokalbius, OpenAI privatumo politika draudžia veiklą, kuri gali pakenkti naudotojams. Instruktoriai gali naudoti jūsų duomenis tik produkto tyrimams ir plėtrai.
Kūrėjai ieško spragų
„OpenAI“ pokalbiuose ieško spragų. Ji analizuoja atvejus, kai ChatGPT demonstruoja duomenų šališkumą, pateikia žalingą informaciją arba padeda vykdyti neteisėtą veiklą. Platformos etikos gairės nuolat atnaujinamos.
Pavyzdžiui, pirmosios versijos ChatGPT atvirai atsakė į klausimus apie kenkėjiškų programų kodavimą arba sprogmenų konstravimas. Šie incidentai privertė vartotojus pasijusti „OpenAI“ nekontroliuoja „ChatGPT“.. Kad atgautų visuomenės pasitikėjimą, ji išmokė pokalbių robotą atmesti bet kokį klausimą, kuris galėtų prieštarauti jos gairėms.
Treneriai renka ir analizuoja duomenis
„ChatGPT“ naudoja prižiūrimo mokymosi metodus. Nors platforma prisimena visas įvestis, realiuoju laiku iš jų nesimoko. OpenAI treneriai pirmiausia juos surenka ir analizuoja. Taip užtikrinama, kad „ChatGPT“ niekada nepriims gaunamos žalingos, žalingos informacijos.
Prižiūrimas mokymasis reikalauja daugiau laiko ir energijos nei be priežiūros. Tačiau jau buvo įrodyta, kad dirbtinio intelekto palikimas analizuoti įvestį yra žalingas.
Paimkite Microsoft Tay kaip pavyzdį – vieną iš kartų mašininis mokymasis suklydo. Kadangi ji nuolat analizuodavo tviterius be kūrėjo nurodymų, piktybiški vartotojai galiausiai išmokė jį spjauti į rasistines, stereotipines nuomones.
Kūrėjai nuolat stebi šališkumą
Keletas išoriniai veiksniai sukelia AI šališkumą. Nesąmoningi išankstiniai nusistatymai gali atsirasti dėl mokymo modelių skirtumų, duomenų rinkinio klaidų ir prastai sukonstruotų apribojimų. Pamatysite juos įvairiose AI programose.
Laimei, ChatGPT niekada neparodė diskriminacinio ar rasinio šališkumo. Pasak New York Post ataskaita. Platformoje atviriau rašoma liberaliomis nei konservatyviomis temomis.
Siekdama išspręsti šiuos šališkumus, „OpenAI“ uždraudė „ChatGPT“ teikti politines įžvalgas. Jis gali atsakyti tik į bendrus faktus.
Moderatoriai peržiūri „ChatGPT“ našumą
Vartotojai gali pateikti atsiliepimų apie „ChatGPT“ išvestį. Dešinėje kiekvieno atsakymo pusėje rasite mygtukus „Patinka“ ir „Nepatinka“. Pirmasis rodo teigiamą reakciją. Paspaudus mygtuką „Patinka“ arba „Nepatinka“, pasirodys langas, kuriame galėsite atsiųsti atsiliepimą savais žodžiais.
Atsiliepimų sistema yra naudinga. Tiesiog duokite OpenAI šiek tiek laiko peržiūrėti komentarus. Milijonai vartotojų reguliariai komentuoja „ChatGPT“ – jo kūrėjai greičiausiai teikia pirmenybę rimtiems šališkumo atvejams ir žalingos išvesties generavimui.
Ar jūsų „ChatGPT“ pokalbiai yra saugūs?
Atsižvelgdami į OpenAI privatumo politiką, galite būti tikri, kad jūsų duomenys išliks saugūs. „ChatGPT“ naudoja tik pokalbius duomenų mokymui. Jo kūrėjai tiria surinktas įžvalgas, kad pagerintų išvesties tikslumą ir patikimumą, o ne pavogtų asmeninius duomenis.
Tai pasakius, nė viena AI sistema nėra tobula. „ChatGPT“ iš esmės nėra šališkas, tačiau kenkėjiški asmenys vis tiek gali pasinaudoti jos pažeidžiamumu, pvz., duomenų rinkinio klaidomis, neatsargiu mokymu ir saugos spragomis. Norėdami apsisaugoti, išmokite kovoti su šia rizika.
