Tai naujesnė, bet lėtesnė. Ką duoda?
Su naujausia ChatGPT versija GPT-4, išleista 2023 m. kovo mėn., daugelis dabar stebisi, kodėl ji tokia lėta, palyginti su savo pirmtaku GPT-3.5. Taigi, kokia čia pagrindinė priežastis?
Tik kodėl „ChatGPT-4“ yra toks vangus ir ar turėtumėte laikytis GPT-3.5?
Kas yra „ChatGPT-4“?
ChatGPT-4 yra naujausias modelis „OpenAI“ pokalbių robotas, paprastai žinomas kaip „ChatGPT“.. „ChatGPT“ veikia dirbtinis intelektas, todėl jis gali atsakyti į jūsų klausimus ir raginimus daug geriau nei ankstesni pokalbių robotai. „ChatGPT“ naudoja didelį kalbos modelį, kurį palaiko GPT (generatyvus iš anksto apmokytas transformatorius), kad vartotojams pateiktų informaciją ir turinį, kartu galėtų kalbėtis.
„ChatGPT“ turi daugybę galimybių, todėl jis naudingas milijonams. Pavyzdžiui, ChatGPT gali rašyti istorijas, formuluoti anekdotus, versti tekstą, šviesti vartotojus ir kt. Nors „ChatGPT“ galima naudoti ir daugiau neteisėtų veiksmų, pvz kenkėjiškų programų kūrimas, jo universalumas yra šiek tiek revoliucinis.
„ChatGPT“ GPT-4 modelis buvo išleistas 2023 m. kovo 14 d. Ši ChatGPT versija skirta geriau suprasti emocinę kalbą per tekstą, taip pat geriau suprasti skirtingus kalbos dialektus ir vaizdų apdorojimą. GPT-4 taip pat gali palaikyti ilgesnius pokalbius ir efektyviai reaguoti į ilgesnius vartotojo raginimus.
Be to, GPT-4 parametrai gerokai viršija GPT-3.5 parametrus. „ChatGPT“ parametrai nustato, kaip AI apdoroja informaciją ir į ją reaguoja. Trumpai tariant, parametrai nustato įgūdžius, kuriuos pokalbių robotas turi bendrauti su vartotojais. Nors GPT-3.5 turi 175 milijardus parametrų, GPT-4 turi neįtikėtiną 100–170 trilijonų parametrų (sklido gandai – OpenAI šio skaičiaus nepatvirtino).
Tai buvo „OpenAI“ GPT-3.5, kuris buvo naudojamas „ChatGPT“, kuris dabar yra populiariausias AI pokalbių robotas pasaulyje, maitinimui. Taigi, GPT-3.5 padarė neabejotiną ženklą dirbtinio intelekto srityje. Tačiau technologijų pramonėje viskas nuolat tobulėja, todėl nenuostabu, kad GPT-3.5 dabar turi GPT-4 įpėdinį.
Tačiau GPT-4 jokiu būdu nėra tobulas. Tiesą sakant, ilgas GPT-4 atsako laikas sukelia gana didelį sumaištį. Taigi panagrinėkime šią problemą ir kodėl taip gali nutikti.
ChatGPT-4 yra lėtas
Išleidus GPT-4 daugelis pastebėjo, kad naujasis OpenAI pokalbių robotas buvo neįtikėtinai lėtas. Dėl to daugybė vartotojų nusivylė, nes GPT-4 turėjo būti žingsnis į priekį nuo GPT-3.5, o ne atgal. Dėl to GPT-4 vartotojai kreipiasi į internetines platformas, tokias kaip „Reddit“ ir „OpenAI“ bendruomenės taryba, norėdami aptarti šią problemą.
Įjungta OpenAI bendruomenės forumas, kai kurie vartotojai pranešė apie savo GPT-4 vėlavimo nusivylimus. Vienas vartotojas teigė, kad GPT-4 buvo „labai lėtas“ ir kad net ir nedidelės užklausos, pateiktos pokalbių robotui, lėmė neįprastai ilgą, daugiau nei 30 sekundžių, delsą.
Kiti vartotojai greitai pasidalino savo patirtimi su GPT-4, vienas po įrašu pakomentavo, kad „tas pats skambutis su tais pačiais duomenimis gali užtrukti iki 4 kartų lėčiau nei 3,5 turbo“.
Kitame OpenAI bendruomenės forumo įrašas, vartotojas pakomentavo, kad jų raginimai kartais sutinkami su „klaida kūno sraute“, todėl atsakymo negauta. Toje pačioje temoje kitas asmuo pareiškė, kad negali priversti GPT-4 „sėkmingai atsakyti užbaigtas scenarijus." Kitas vartotojas pakomentavo, kad bandydami naudoti jie nuolat susiduria su tinklo klaidomis GPT-4.
Atrodo, kad GPT-4 yra uždelstų ir nesėkmingų arba neprognozuotų atsakymų, dėl kurių vartotojai greitai atbaido.
Taigi, kodėl būtent tai vyksta? Ar kažkas negerai su GPT-4?
Kodėl GPT-4 yra lėtas, palyginti su GPT-3.5?
Aukščiau nurodytame OpenAI bendruomenės forumo įraše vienas vartotojas atsakė, teigdamas, kad vėlavimas įvyko dėl „dabartinės visos infrastruktūros problemos perkrova“, pridurdama, kad yra iššūkis „per tokį trumpą laiką įveikti mastelio keitimą dėl tokio populiarumo ir pokalbių ir vartotojų skaičiaus API“.
A Reddit įrašas įkeltas į r/singularity subreddit, vartotojas išdėstė kelias galimas GPT-4 lėtumo priežastis, pradedant nuo didesnio konteksto dydžio. GPT ekosistemoje konteksto dydis nurodo, kiek informacijos tam tikra pokalbių roboto versija gali apdoroti ir sukurti informaciją. Nors GPT-3.5 konteksto dydis buvo 4K, GPT-4 yra dvigubai didesnis. Taigi 8K konteksto dydis gali turėti įtakos bendram GPT-4 greičiui.
„Reddit“ autorius taip pat pasiūlė, kad pagerintas GPT-4 valdymas ir valdymas gali turėti įtakos pokalbių roboto apdorojimo laikui. Čia autorius pareiškė, kad GPT-4 didesnis valdymas ir haliucinacijų kontrolė bei netinkamas kalba gali būti kaltininkė, nes šios funkcijos papildo GPT-4 apdorojimo metodą informacija.
Be to, buvo pasiūlyta, kad GPT-4 gebėjimas apdoroti nuotraukas gali sulėtinti darbą. Šią naudingą funkciją mėgsta daugelis, tačiau ji gali būti naudinga. Atsižvelgiant į tai, kad buvo gandai, kad GPT-4 pateikto vaizdo apdorojimas užtrunka 10–20 sekundžių, yra tikimybė, kad šis komponentas pailgina atsakymo laiką (nors tai nepaaiškina naudotojų, teikiančių tik tekstinius raginimus, vėlavimo).
Kiti vartotojai teigė, kad ChatGPT-4 naujovė vaidina svarbų vaidmenį šiuose vėlavimuose. Kitaip tariant, kai kurie mano, kad naujausias OpenAI pokalbių robotas turi patirti tam tikrus skausmus, kad būtų galima pašalinti visus trūkumus.
Tačiau didžiausia priežastis, dėl kurios GPT-4 yra lėtas, yra parametrų, kuriuos GPT-4 gali iškviesti, skaičius, palyginti su GPT-3.5. The fenomenalus parametrų augimas paprasčiausiai reiškia, kad naujesniam GPT modeliui reikia ilgiau apdoroti informaciją ir reaguoti tiksliai. Gausite geresnius atsakymus, kurie yra sudėtingesni, tačiau jų gavimas užtrunka šiek tiek ilgiau.
Ar turėtumėte pasirinkti GPT-3.5, o ne GPT-4?
Taigi, turėdami omenyje šias problemas, turėtumėte naudoti GPT-3.5 arba GPT-4?
Rašymo metu atrodo, kad GPT-3.5 yra veiksmingesnė parinktis nei GPT-4. Tiek daug vartotojų susidūrė su vėlavimais, kad tikėtina, kad laiko problema yra visur, o ne tik su keliais asmenimis. Taigi, jei ChatGPT-3.5 šiuo metu atitinka visus jūsų lūkesčius ir nenorite laukti atsakymo mainais į papildomas funkcijas, gali būti protinga kol kas laikytis šios versijos.
Tačiau turėtumėte atkreipti dėmesį, kad GPT-4 yra ne tik GPT-3.5, bet ir lėtesnis. Ši „OpenAI“ pokalbių roboto versija turi daug pranašumų, palyginti su savo pirmtaku. Jei ieškote pažangesnio AI pokalbių roboto ir neprieštaraujate ilgiau laukti atsakymų, gali būti verta pereiti nuo GPT-3.5 prie GPT-4.
Laikui bėgant GPT-4 vėlavimai gali sumažėti arba visiškai išnykti, todėl kantrybė čia gali būti privalumas. Nesvarbu, ar bandote pereiti prie GPT-4 dabar, ar palaukti šiek tiek ilgiau, kad pamatytumėte, kaip viskas klostysis naudojant šią versiją, vis tiek galite gauti daug naudos iš madingo OpenAI pokalbių roboto.
GPT-4 yra pažangesnis, bet su vėlavimu
Nors GPT-4 turi daug pažangių galimybių, palyginti su GPT-3.5, dėl didelių delsų ir atsako klaidų kai kuriems jis tapo netinkamas. Šios problemos gali būti išspręstos artimiausiu metu, tačiau kol kas GPT-4 tikrai turi įveikti tam tikras kliūtis, kol bus priimtas platesniu mastu.
