Kiek laiko gali trukti „ChatGPT“ atsakymas, kol generatyvusis AI nustos jums reaguoti?
„ChatGPT“ yra didelė naujiena. Tačiau kokių atsakymų sulaukiate iš šio universalaus pokalbių roboto?
Tai nustatyti nėra taip paprasta, kaip jūs manote. Pirmiausia užduokite šį klausimą „ChatGPT“ ir būsite užtikrinti, kad jo atsakymų trukmė nėra ribojama.
Tačiau, kaip atskleidžiame čia, tai nėra taip paprasta. Yra paslėptų „ChatGPT“ atsakymo trukmės apribojimų, tačiau taip pat yra keletas puikių ir paprastų sprendimų, padedančių gauti ilgesnius atsakymus.
Kaip ChatGPT nustato atsakymo trukmę?
„ChatGPT“ veikimo principas yra sudėtingas, o atsakymo ilgis skiriasi priklausomai nuo to, ko klausiama, ir nuo to, kiek detalumo prašoma. Kaip rodo kita ekrano kopija, „ChatGPT“ teigia, kad nėra griežtų apribojimų.
Tai ne tai, ką mes radome. Toliau pateiktame pavyzdyje parodyta, kad ChatGPT staiga sustabdo atsakymą sakinio viduryje. Paprašėme jos parengti tūkstančio žodžių esė apie žiedinės ekonomikos naudą. „ChatGPT“ nustojo reaguoti, kai pasiekė 677 žodžius.
Testą pakartojome kelis kartus su skirtingais klausimais ir kiekvieną kartą jis sustojo sakinio viduryje; kartais tai lydėjo tinklo klaida. Tai dažna klaida, ir yra įvairių būdų, kaip ištaisyti tinklo klaidas ChatGPT.
Dalis atsakymo, kodėl taip nutinka, slypi vadinamojoje žetonų sistemoje.
Kam naudojama žetonų sistema „ChatGPT“?
Užuot skaitęs paprastą žodžių skaičių užklausų ir atsakymų trukmei nustatyti, ChatGPT naudoja žetonų sistemą. Tai suskaido kiekvieną įvestį ir išvestį į žetonų seriją, naudojamą užklausos ir atsakymo dydžiui klasifikuoti.
Nors žodžių skaičius čia vaidina svarbų vaidmenį, tai nėra visa istorija. Pavyzdžiui, buvo įvestas toliau pateiktas pavyzdys OpenAi Tokenizer įrankis.
Sakinys ir atsakymas buvo „Tokenized“ iki devynių žetonų. Tai atitinka OpenAI „nykščio taisyklę“, kad vienas ženklas atitinka tris ketvirtadalius žodžio.
GPT 3.5 modelis apriboja vartotojų klausimus ir duomenis iki 4 097 žetonų. OpenAI skaičiavimais, tai prilygsta maždaug 3000 žodžių. Tačiau svarbu pažymėti, kad ši riba taikoma ir atsakymui, ir klausimui.
Nors teoriškai viskas gerai ir gerai, rezultatai, su kuriais susidūrėme, niekada nepriartėjo prie šių ribų. Neišsamus atsakymas, kurį „ChatGPT“ pateikė ankstesniame mūsų teste, svėrė tik 798 žetonus.
Kodėl „ChatGPT“ atsakymai yra riboti?
Ši nauja technologija greitai tapo labiausiai apkalbama šio šimtmečio technologine plėtra. Tai sukėlė didžiulę „ChatGPT“ paklausą. Galiausiai šis reikalavimas veiksmingai sumažino atsaką į gerokai žemiau nurodytas ribas.
Nors oficialaus patvirtinimo tai nėra, atrodo, kad de facto yra maždaug penkių šimtų žodžių arba 4000 simbolių riba.
Pabrėžtina, kad tai nėra fiksuota taisyklė – mes sukūrėme rezultatus, viršijančius tai beveik dviem šimtais žodžių. Tačiau tai gali būti laikoma saugia viršutine riba norint gauti išsamius atsakymus.
Kaip gauti ilgesnius atsakymus iš „ChatGPT“.
Kai suprasite, kad ChatGPT atsakymams yra „paslėpta riba“, yra keletas paprastų būdų, kaip padėti gauti išsamesnius atsakymus.
- Paprašykite ChatGPT tęsti: Jei „ChatGPT“ sustoja atsakant, viena galimybė yra tiesiog paprašyti tęsti. Toliau pateiktame pavyzdyje įvedėme „Tęskite“ ir prie atsakymo pridėta dar du šimtai žodžių.
- Padalinkite klausimą į mažesnes dalis: Pavyzdžiui, kelis kartus prašėme parašyti esė apie AI poveikį visuomenei. Kiekvieną kartą atsakymas nutrūkdavo. Vienas iš variantų yra paprašyti, kad jis nurodytų kai kurias esė apie AI temas, tada naudokite pateiktus punktus kaip atskirus raginimus.
- Naudokite parinktį Regeneruoti: Nors tai gali sukelti tą pačią klaidą, nieko neprarandant, tai visada verta.
- Raginame nurodykite viršutinę žodžių skaičiaus ribą: Toliau pateiktame paveikslėlyje parodyta, kaip tai gali būti naudojama norint manipuliuoti didžiausiu žodžių skaičiumi atsakyme.
Šie patarimai padės gauti išsamesnius atsakymus iš ChatGPT ir apeiti neoficialią atsakymų trukmės ribą.
ChatGPT: kokybė viršija kiekį
Nors ChatGPT atsakymų ilgiui nėra jokių apribojimų, atrodo, kad platforma nustato maždaug penkių šimtų žodžių arba 4000 simbolių apribojimą.
Iš esmės tai gali būti siejama su didžiuliu ChatGPT poreikiu. Dėl to atsakymai buvo neišsamūs, o atsakymai buvo sustabdyti sakinio viduryje, tačiau yra paprastų sprendimų, kurie padės gauti ilgesnius atsakymus.
Nepaisant savo apribojimų, „ChatGPT“ išlieka nepaprasta technologinė plėtra, kuri toliau plėtos ir plės savo produkcijos kokybės ir kiekybės ribas.