Šiandien milijonai žmonių naudojasi ChatGPT kaip naudingu šaltiniu, nesvarbu, ar tai būtų darbas, pramogos ar mokymasis. Bet ar galite pasikliauti šiuo AI pokalbių robotu, kad visada pateiktumėte faktus? Ar „ChatGPT“ kada nors meluoja, ar pateiks tik faktinę informaciją?
Iš kur „ChatGPT“ gauna informaciją?
Mokymų metu „ChatGPT“ buvo tiekiami duomenys iš viso žiniatinklio šaltinių, pvz., vyriausybės ir agentūrų svetainių, mokslo žurnalai, studijos, naujienų straipsniai, podcast'ai, internetiniai forumai, knygos, duomenų bazės, filmai, dokumentiniai filmai ir socialiniai žiniasklaida.
Konkrečiai, ChatGPT-3 buvo apmokytas naudojant didelę informacijos bazę, kuri sudarė 570 GB duomenų. Kaip teigiama straipsnyje iš Mokslo dėmesys, jos kūrimo metu į GPT-3 sistemą buvo įvesta 300 milijardų žodžių informacijos.
Verta paminėti, kad „ChatGPT“ buvo tiekiami tik duomenys, egzistavę iki 2021 m. Tai reiškia, kad pokalbių robotas negali atsakyti į klausimus, susijusius su naujausiais įvykiais. ChatGPT taip pat neturi prieigos prie interneto. Duomenys, kurie buvo pateikti mokymo metu, yra vieninteliai, kuriuos jis naudoja, kad įvykdytų vartotojo raginimus.
Bet ar „ChatGPT“ pateikia jums tik faktus, ar į atsakymus įtraukta daugiau dviprasmiškos informacijos? Be to, ar „ChatGPT“ gali jums meluoti?
Ar ChatGPT meluoja?
Nors „ChatGPT“ dažnai vartotojams teikia teisingą informaciją, ji turi galimybę „meluoti“. Žinoma, „ChatGPT“ nesiryžta piktybiškai meluoti vartotojams, nes to padaryti tiesiog negali. Juk ChatGPT yra kalbos apdorojimo įrankis, o ne tikro, jaučiančio žmogaus imitacija.
Tačiau „ChatGPT“ techniškai vis dar gali slypėti dėl reiškinio, žinomo kaip AI haliucinacijos.
AI haliucinacijos Tai apima AI sistemą, teikiančią informaciją, kuri atrodo pagrįsta arba tikėtina, bet iš tikrųjų yra visiškai netiesa. Tiesą sakant, AI haliucinacijos gali suteikti informacijos, kad ji niekada nebuvo maitinama per mokymo laikotarpį. Arba taip gali nutikti, kai AI sistema pateikia informaciją, nesusijusią su raginimu ar užklausa. AI sistema net gali teigti, kad yra žmogus haliucinacijų atveju.
AI sistemos, tokios kaip pokalbių robotai, patenka į haliucinacijų spąstus dėl kelių priežasčių: realaus pasaulio supratimo stokos, programinės įrangos klaidų ir pateiktų duomenų apribojimų.
Kaip minėta anksčiau, „ChatGPT“ gali teikti informaciją tik naudodama duomenis, paskelbtus iki 2021 m., o tai tikrai riboja, kokius raginimus jis gali įvykdyti.
Vienas iš „ChatGPT“ didelės problemos yra ta, kad ji taip pat gali tapti šališkumo auka, kai suteikia vartotojams informaciją. Net „ChatGPT“ kūrėjai pareiškė, kad AI sistema praeityje buvo „politiškai šališka, įžeidžianti“ ir „kitaip nepriimtina“. Kaip pranešė „The Independent“., ChatGPT kūrėjai yra pasiryžę spręsti šią problemą, tačiau tai nereiškia, kad ji nebekelia pavojaus.
Paklaustas „ChatGPT“ nurodė, kad priežastys, dėl kurių ji gali pateikti netikslią informaciją, yra šios:
- Klausimo dviprasmiškumas (neaiškūs, neaiškūs raginimai);
- Pateikta neišsami informacija;
- Pateikta neobjektyvi arba neteisinga informacija; arba,
- Techniniai apribojimai (daugiausia dėl to, kad trūksta prieigos prie dabartinių duomenų).
Taigi, pati „ChatGPT“ teigė, kad yra scenarijų, kai jis nepateiks tikslios informacijos vartotojams.
Kitame to paties pokalbio atsakyme „ChatGPT“ teigė, kad „visada yra gera idėja patikrinti bet kokią [jos teikiamą] informaciją iš kitų šaltinių“.
Ar galite pasitikėti „ChatGPT“?
Kadangi tai gali pateikti klaidingą informaciją, jūs aiškiai negali pasitikėti „ChatGPT“. 100% laiko.
Galite sumažinti AI pokalbių roboto haliucinacijų riziką nustatydami konkrečius parametrus, kaip jis gali jums atsakyti. Tačiau vis dar nėra garantijos, kad tam tikra melaginga informacija nepaslys pro plyšius.
Dėl šios priežasties geriausia patikrinti bet kokią informaciją, kurią jums suteikia „ChatGPT“, ypač jei prašote informacijos apie naujausius įvykius. Dar kartą patikrinę šiuos duomenis remdamiesi kitais šaltiniais, galite nustatyti, ar „ChatGPT“ yra teisus, ir gali užkirsti kelią priimti neapgalvotus sprendimus.
„ChatGPT“ yra naudingas, bet ne visada teisingas
Deja, negalite pasikliauti „ChatGPT“, kad 100% atvejų pateiks teisingą, nešališką informaciją. Šis dirbtinio intelekto valdomas pokalbių robotas yra neabejotinai naudingas ir gali jums padėti įvairiais būdais, tačiau visada verta patikrinti, ar jo pateikta informacija yra tikroji.
