Kas yra „ChatGPT Token Limit“ ir ar galite jį viršyti?

„ChatGPT“ užvaldė technologijų pasaulį, todėl pažangos ir atnaujinimų netrūksta. Tačiau nepaisant pažangių technologijų naudojimo, dabartinėje versijoje yra nemažai ribojančių veiksnių.

Vienas iš tokių veiksnių yra žetonų sistema, kuri ir toliau nutraukia evoliucijos ciklą, todėl programos naudingumas yra ant kelių. Jei naudojate „ChatGPT“, galbūt norėsite sužinoti apie „ChatGPT“ prieigos raktus ir ką daryti, kai baigiasi prieigos raktai.

Ženkime žingsnį atgal ir pažvelkime į viską, ką reikia žinoti apie programos veikimo mechanizmus.

Kas yra „ChatGPT“ prieigos raktas?

Jei einate pro programos fasadą, matote tik kompiuterio kalbą, kuri paklūsta jūsų komandoms ir pateikia atsakymus, kurių ieškote. Tačiau užpakalinėje programoje yra tik daug kodo, kuris mokosi kiekvieną minutę ir greitai atsako į klausimus.

„ChatGPT“ kiekvieną žodį paverčia įskaitomu žetonu, kai tik užduodate klausimą. Norėdami jį suskaidyti, žetonai yra teksto fragmentai, o kiekviena programavimo kalba naudoja skirtingą žetonų reikšmių rinkinį, kad suprastų reikalavimus.

Kadangi kompiuteriai tiesiogiai nesupranta teksto reikšmių, jie suskaido jas į skaičių derinį, dažnai vadinamą įterpimu. Jūs netgi galite apsvarstyti įterpimus kaip Python sąrašai, kurie primena susijusių skaičių sąrašą, pvz., [1.1,2.1,3.1,4.1…n].

Kai ChatGPT priima pradinę įvestį, ji bando numatyti kitą galimą įvestį, remdamasi ankstesne informacija. Jis pasirenka visą ankstesnių žetonų sąrašą ir, naudodamas savo kodavimo sintezę, bando užbėgti už akių paskesniam vartotojo įvedimui. Jis naudoja ir numato vieną prieigos raktą vienu metu, kad kalbai būtų lengviau suprasti vartoseną.

Kad pagerintų prognozes ir padidintų tikslumą, jis paima visą įterpimų sąrašą ir perduoda jį per transformatoriaus sluoksnius, kad nustatytų asociacijas tarp žodžių. Pavyzdžiui, kai užduodate tokį klausimą kaip „Kas yra Tomas Edisonas?“, „ChatGPT“ parenka vertingiausius sąrašo žodžius: PSO ir Edisonas.

Transformatorių sluoksniai atlieka savo vaidmenį visame procese. Šie sluoksniai yra tam tikra neuroninio tinklo architektūros forma, išmokyta atrinkti svarbiausius raktinius žodžius iš žodžių eilutės. Tačiau mokymo procesas nėra toks paprastas, kaip atrodo, nes reikia daug laiko išmokyti transformatoriaus sluoksnius gigabaitų duomenų.

Nors „ChatGPT“ vienu metu numato tik vieną prieigos raktą, jo automatiškai regresuojanti technologija yra užprogramuota nuspėti ir grąžinti į pirminį modelį, kad išleistų išvestį. Modelis sureguliuotas veikti tik vieną kartą kiekvienam žetonui, todėl rezultatas spausdinamas po vieną žodį. Išvestis automatiškai sustabdoma, kai programa susiduria su sustabdymo prieigos rakto komanda.

Pavyzdžiui, jei žiūrite į žetonų skaičiuotuvą ChatGPT svetainėje, galite apskaičiuoti savo žetonų naudojimą pagal savo klausimus.

Įveskime teksto pavyzdį, pvz.:

Kaip paaiškinti žetonų naudojimą in ChatGPT?

Pagal skaičiuotuvą šioje eilutėje yra 46 simboliai, kurie sunaudos 13 žetonų. Jei suskirstysite jį į žetonų ID, jis atrodys maždaug taip:

[2437, 466, 314, 4727, 262, 779, 286, 16326, 287, 24101, 38, 11571, 30]

Pagal OpenAI žetonų skaičiuoklė:

Naudinga nykščio taisyklė yra ta, kad vienas prieigos raktas paprastai atitinka ~ 4 teksto simbolius įprasto angliško teksto atveju. Tai reiškia maždaug ¾ žodžio (taigi 100 žetonų ~ = 75 žodžiai).

Nemokama vs. Mokami žetonai

Kad suprastumėte, kas yra ChatGPT programoje, OpenAI siūlo nemokamą ribotą prieigos rakto prenumeratą. Jei norite eksperimentuoti su ChatGPT API, naudokite nemokamą 5 USD kreditą, kuris galioja tris mėnesius. Išnaudojus limitą (arba pasibaigus bandomajam laikotarpiui), galite mokėti eidami, o tai padidina maksimalią kvotą iki 120 USD.

„ChatGPT Plus“: ar verta mokėti prenumeratą?

Norėdami tai padaryti, netgi galite užsiregistruoti „ChatGPT Plus“ pasiūlymas, tai jums atsieis 20 USD per mėnesį. Atsižvelgiant į platų viso AI modelio naudojimą ir populiarumą, čia pateikiamos pagrindinės mokamo prenumeratos modelio funkcijos:

• Prieiga prie „ChatGPT“ net tada, kai dėl vartotojų antplūdžio svetainė prastovos
• Pagerintas atsakymo dažnis
• Tiesioginė prieiga prie naujų funkcijų ir leidimų

Jei manote, kad šios funkcijos visiškai to vertos, galite užsiregistruoti mokamai prenumeratai ir iš karto pasinaudoti jomis.

„ChatGPT Token“ kainodaros struktūra

Yra keletas skirtingų programų modelių, kuriuos galite pasirinkti pagal savo poreikius:

Ada yra greičiausias, o DaVinci yra galingiausias modelis iš šio modelių sąrašo. Raginimas yra klausimas, o užbaigimas susijęs su atsakymais.

Maksimalus žetonų limitas

Kiekvienas modelis leidžia nustatyti maksimalų žetonų skaičių kiekvienoje užklausoje. Šis metodas kontroliuoja maksimalų žetonų skaičių, kurį programa sugeneruoja per vieną skambutį, ribodama išvestį. Funkcija max_token yra gana naudinga, ypač kai norite valdyti išvesties ilgį, kartu išvengdami per didelio žetono naudojimo ir kreditų. Numatytasis ilgis yra 2048 žetonai, o maksimalus gali būti 4096 žetonai.

Apribojus prieigos rakto naudojimą, atsakymai gali būti trumpi, o tai gali apriboti išvestį ir sugadinti naudojimo patirtį.

ChatGPT3 viršutinė riba yra 4096; tačiau, įdiegus ChatGPT4, prieigos raktų ribos padidinamos taip:

Jei jūsų išvestis sutrumpinta, turite padidinti nurodytą didžiausią ribą informacijos suvestinėje. Atminkite, kad jūsų raginimo ir didžiausio žetonų suma visada turi būti mažesnė nei lygi modelio maksimaliam prieigos raktų limitui.

Pavyzdžiui, ChatGPT modelyje prompt_tokens + max_tokens <= 4096 žetonų.

Išmokite valdyti savo „ChatGPT“ raginimus, kad pasiektumėte geriausių rezultatų

Nesvarbu, kaip naudosite AI pagrįstą programą, tikėtina, kad turėsite sugalvoti būdus, kaip protingai žaisti su savo klausimais ir frazėmis. Priklausomai nuo jūsų naudojimo būdų, greičiausiai naudosite „ChatGPT“ kiekvienai užduočiai.

Norėdami gauti geriausius rezultatus, turite išmokti dirbti su žetonų metodika ir tobulinti savo įgūdžius, kad jūsų naudojimo ribos išliktų nepakitusios ir pateiktumėte geriausius įmanomus atsakymus.