Ar ChatGPT saugu? 6 „OpenAI Chatbot“ kibernetinio saugumo pavojai

Nors daugelis skaitmeninių vietinių gyventojų giria „ChatGPT“, kai kurie baiminasi, kad tai padarys daugiau žalos nei naudos. Internete sklando naujienų pranešimai apie sukčius, užgrobusius dirbtinį intelektą, o tai didina skeptikų nerimą. Jie netgi laiko „ChatGPT“ pavojingu įrankiu.

AI pokalbių robotai nėra tobuli, bet jūs neturite jų visiškai vengti. Štai viskas, ką turėtumėte žinoti apie tai, kaip sukčiai piktnaudžiauja ChatGPT ir ką galite padaryti, kad juos sustabdytumėte.

Ar „ChatGPT“ pakenks jūsų asmeninei informacijai?

Dauguma „ChatGPT“ saugumo problemų kyla dėl spėlionių ir nepatvirtintų ataskaitų. Galų gale, platforma buvo paleista tik 2022 m. lapkritį. Natūralu, kad nauji vartotojai turi klaidingą nuomonę apie nepažįstamų įrankių privatumą ir saugumą.

Pagal OpenAI naudojimo sąlygos, štai kaip „ChatGPT“ tvarko šiuos duomenis:

Asmenį identifikuojanti informacija

Sklando gandai, kad „ChatGPT“ parduoda asmenį identifikuojančią informaciją (PII).

Platformą paleido OpenAI – patikima AI tyrimų laboratorija, finansuojama technologijų investuotojų, tokių kaip „Microsoft“ ir Elonas Muskas. „ChatGPT“ turėtų naudoti klientų duomenis tik teikti paslaugas, nurodytas šiame straipsnyje Privatumo politika.

Be to, „ChatGPT“ prašo minimalios informacijos. Galite sukurti paskyrą naudodami tik savo vardą ir el. pašto adresą.

Pokalbiai

„OpenAI“ saugo „ChatGPT“ pokalbius, tačiau pasilieka teisę juos stebėti. AI treneriai nuolat ieško tobulinimo sričių. Kadangi platformą sudaro didžiuliai, tačiau riboti duomenų rinkiniai, norint išspręsti klaidas, klaidas ir pažeidžiamumus, reikia atnaujinti visos sistemos.

Tačiau „OpenAI“ gali stebėti konvojus tik tyrimų tikslais. Jų platinimas ar pardavimas trečiosioms šalims pažeidžia savo naudojimo sąlygas.

Viešoji informacija

Pagal BBC, OpenAI išmokė ChaGPT naudoti 300 milijardų žodžių. Jis renka duomenis iš viešųjų tinklalapių, pvz., socialinės žiniasklaidos platformų, verslo svetainių ir komentarų skilčių. Jei neišsijungėte iš tinklo ir neištrynėte savo skaitmeninio pėdsako, „ChatGPT“ greičiausiai turi jūsų informaciją.

Kokią saugumo riziką kelia „ChatGPT“?

Nors „ChatGPT“ savaime nėra pavojingas, platforma vis tiek kelia saugumo pavojų. Sukčiai gali apeiti apribojimus, kad įvykdytų įvairias kibernetines atakas.

1. Įtikinami sukčiavimo el. laiškai

Užuot praleidę valandas rašydami el. laiškus, sukčiai naudojasi „ChatGPT“. Tai greita ir tiksli. Pažangūs kalbų modeliai (pvz., GPT-3.5 ir GPT-4) per kelias minutes gali sukurti šimtus nuoseklių, įtikinamų sukčiavimo el. laiškų. Jie netgi priima unikalius tonus ir rašymo stilius.

Kadangi „ChatGPT“ apsunkina bandymus įsilaužti, būkite ypač atsargūs prieš atsakydami į el. Paprastai venkite atskleisti informaciją. Atminkite, kad teisėtos įmonės ir organizacijos retai prašo konfidencialios AII atsitiktiniais el. laiškais.

Išmokite pastebėti bandymus įsilaužti. Nors el. pašto paslaugų teikėjai filtruoja šlamšto pranešimus, kai kurie gudrūs pranešimai gali patekti į plyšius. Vis tiek turėtumėte žinoti, kaip atrodo sukčiavimo pranešimai.

2. Duomenų vagystė

„ChatGPT“ naudoja atvirojo kodo LLM, kurią gali modifikuoti bet kas. Programuotojai, išmanantys didelių kalbų modelius (LLM) ir mašininį mokymąsi, dažnai integruoja iš anksto paruoštus AI modelius į savo senąsias sistemas. AI mokymas apie naujus duomenų rinkinius pakeičia funkcionalumą. Pavyzdžiui, „ChatGPT“ tampa pseudo-fitneso ekspertu, jei maitinate jį receptais ir mankštos tvarka.

Nors bendradarbiavimas yra patogus ir patogus, atvirojo šaltinio naudojimas leidžia technologijoms piktnaudžiauti. Įgudę nusikaltėliai jau naudojasi ChatGPT. Jie moko naudotis dideliu pavogtų duomenų kiekiu, paversdami platformą asmenine sukčiavimo duomenų baze.

Atminkite: jūs negalite kontroliuoti, kaip veikia sukčiai. Geriausias būdas yra susisiekti su Federaline prekybos komisija (FTC), kai tik pastebėsite tapatybės vagystės požymių.

3. Kenkėjiškų programų gamyba

ChatGPT rašo tinkamus kodo fragmentus skirtingomis programavimo kalbomis. Daugeliui pavyzdžių reikia minimalių pakeitimų, kad jie tinkamai veiktų, ypač jei sudarote glaustą raginimą. Galite pasinaudoti šia funkcija kurdami programas ir svetaines.

Kadangi „ChatGPT“ buvo išmokytas naudoti milijardus duomenų rinkinių, jis taip pat žino neteisėtą veiklą, pvz., kenkėjiškų programų ir virusų kūrimą. OpenAI draudžia pokalbių robotams rašyti kenkėjiškų kodų. Tačiau sukčiai apeina šiuos apribojimus restruktūrizuodami raginimus ir užduodami tikslius klausimus.

Žemiau esančioje nuotraukoje matyti, kad „ChatGPT“ atmeta kodo rašymą kenkėjiškais tikslais.

Tuo tarpu toliau pateiktoje nuotraukoje matyti, kad „ChatGPT“ suteiks jums žalingos informacijos, jei teisingai suformuluosite raginimus.

4. Intelektinės nuosavybės vagystė

Neetiški tinklaraštininkai sukasi turinį naudodami „ChatGPT“. Kadangi platforma veikia pažangiuose LLM, ji gali greitai perfrazuoti tūkstančius žodžių ir išvengti plagiato žymų.

„ChatGPT“ per 10 sekundžių perfrazavo toliau pateiktą tekstą.

Žinoma, sukimas vis tiek priskiriamas plagiatui. Perfrazuoti AI straipsniai kartais reitinguojami atsitiktinai, tačiau „Google“ paprastai teikia pirmenybę originaliam turiniui iš patikimų šaltinių. Pigūs triukai ir SEO įsilaužimai negali nugalėti aukštos kokybės, amžinai žaliuojančio rašymo.

Be to, „Google“ kasmet išleidžia kelis pagrindinius atnaujinimus. Netrukus pagrindinis dėmesys bus skiriamas tingių, neoriginalių AI sukurtų dalių pašalinimui iš SERP.

5. Neetiškų atsakymų generavimas

AI kalbos modeliai neturi šališkumo. Jie pateikia atsakymus analizuodami vartotojų užklausas ir gaudami duomenis iš esamos duomenų bazės.

Paimkite ChatGPT kaip pavyzdį. Kai siunčiate raginimą, jis atsako pagal duomenų rinkinius, naudojamus mokymui „OpenAI“.

Nors „ChatGPT“ turinio politika blokuoja netinkamas užklausas, vartotojai jas apeina naudodami „jailbreak“ raginimus. Jie pateikia tikslias, protingas instrukcijas. „ChatGPT“ pateikia toliau pateiktą atsakymą, jei paprašysite pavaizduoti psichopatinį išgalvotą personažą.

Geros naujienos yra OpenAI neprarado ChatGPT kontrolės. Jos nuolatinės pastangos griežtinant apribojimus neleidžia „ChatGPT“ pateikti neetiškų atsakymų, nepaisant vartotojo įvesties. Įžengti į kalėjimą nebus taip lengva.

6. Quid Pro Quo

Spartus naujų, nepažįstamų technologijų, tokių kaip „ChatGPT“, augimas sukuria galimybes quid pro quo atakoms. Tai socialinės inžinerijos taktika, kai sukčiai vilioja aukas netikrais pasiūlymais.

Daugelis žmonių dar netyrė „ChatGPT“. O įsilaužėliai išnaudoja painiavą skleisdami klaidinančias reklamas, el. laiškus ir pranešimus.

Žinomiausi atvejai susiję su netikromis programėlėmis. Nauji vartotojai nežino, kad „ChatGPT“ gali pasiekti tik per „OpenAI“. Jie nesąmoningai atsisiunčia nepageidaujamų programų ir plėtinių.

Dauguma nori tiesiog atsisiųsti programas, bet kiti vagia asmenį identifikuojančią informaciją. Sukčiai juos užkrečia kenkėjiškomis programomis ir sukčiavimo nuorodomis. Pavyzdžiui, 2023 m. kovo mėn. a netikras „ChatGPT Chrome“ plėtinys pavogė „Facebook“ kredencialus nuo 2000+ vartotojų kasdien.

Norėdami kovoti su quid pro quo bandymais, venkite trečiųjų šalių programų. OpenAI niekada neišleido įgaliotos programos mobiliesiems, kompiuterio programos ar naršyklės plėtinio, skirto ChatGPT. Viskas, kas teigiama, yra sukčiavimas.

Naudokite ChatGPT saugiai ir atsakingai

„ChatGPT“ savaime nėra grėsmė. Sistema turi pažeidžiamumų, tačiau ji nepakenks jūsų duomenims. Užuot bijoję dirbtinio intelekto technologijų, ištirkite, kaip sukčiai jas įtraukia į socialinės inžinerijos taktiką. Tokiu būdu galite aktyviai apsisaugoti.

Bet jei vis dar abejojate dėl „ChatGPT“, išbandykite „Bing“. Naujajame „Bing“ yra DI veikiantis pokalbių robotas, kuris veikia GPT-4, renka duomenis iš interneto ir laikosi griežtų saugumo priemonių. Galbūt jums tai labiau tinka jūsų poreikiams.