Šiuolaikiniai dirbtinio intelekto kalbų modeliai, tokie kaip „ChatGPT“ ir „Microsoft“ „Bing Chat“, klesti visame pasaulyje, daugelis žmonių nerimauja, kad AI užvaldys pasaulį.
Nors artimiausioje ateityje nesusidursime su „SkyNet“, dirbtinis intelektas kai kuriais dalykais tampa geresnis už žmones. Čia iškyla AI valdymo problema.
Paaiškinta AI valdymo problema
AI valdymo problema yra mintis, kad AI ilgainiui taps geresnis sprendimų priėmimas nei žmonės. Remiantis šia teorija, jei žmonės iš anksto netinkamai nustatys dalykų, vėliau neturėsime galimybės taisyti dalykų, o tai reiškia, kad dirbtinis intelektas turės veiksmingą kontrolę.
Dabartiniai AI ir mašininio mokymosi (ML) modelių tyrimai pralenkia žmogaus galimybes bent jau po metų. Tačiau pagrįsta manyti, kad, atsižvelgiant į dabartinę pažangą, AI viršys žmones tiek intelekto, tiek efektyvumo požiūriu.
Tai nereiškia, kad AI ir ML modeliai neturi savo ribų. Galų gale, jie yra saistomi fizikos dėsnių ir skaičiavimo sudėtingumo, taip pat įrenginių, palaikančių šias sistemas, apdorojimo galios. Tačiau galima manyti, kad šios ribos gerokai viršija žmogaus galimybes.
Tai reiškia, kad superinteligentas AI sistemos gali kelti didelę grėsmę jei jis nėra tinkamai suprojektuotas su įdiegtomis apsaugos priemonėmis, kad būtų galima patikrinti bet kokį galimai nesąžiningą elgesį. Tokios sistemos turi būti kuriamos nuo pat pradžių, kad būtų gerbiamos žmogiškosios vertybės ir būtų kontroliuojama jų galia. Štai ką reiškia valdymo problema, kai sakoma, kad viskas turi būti tinkamai nustatyta.
Jei AI sistema be tinkamų apsaugos priemonių pranoktų žmogaus intelektą, rezultatas gali būti katastrofiškas. Tokios sistemos galėtų perimti fizinių išteklių kontrolę, nes daugelis užduočių atliekamos geriau arba efektyviau. Kadangi dirbtinio intelekto sistemos sukurtos taip, kad būtų pasiektas maksimalus efektyvumas, kontrolės praradimas gali sukelti rimtų pasekmių.
Kada taikoma AI valdymo problema?
Pagrindinė problema yra ta, kad kuo geresnė dirbtinio intelekto sistema, tuo sunkiau prižiūrėtojui stebėti technologiją, kad būtų galima lengvai perimti rankinį valdymą, jei sistema sugestų. Be to, žmogaus polinkis pasikliauti automatizuota sistema yra didesnis, kai sistema didžiąją laiko dalį veikia patikimai.
Puikus to pavyzdys yra Tesla visiškai savarankiško vairavimo (FSD) rinkinys. Nors automobilis gali važiuoti pats, jam reikia, kad žmogus laikytų rankas ant vairo, pasiruošęs perimti automobilio valdymą, jei sistema sugestų. Tačiau, kai šios dirbtinio intelekto sistemos tampa patikimesnės, net ir budriausio žmogaus dėmesys pradės skirtis, o priklausomybė nuo autonominės sistemos padidės.
Taigi, kas atsitinka, kai automobiliai pradeda važiuoti greičiu, kurio žmonės negali išlaikyti? Galų gale mes perduosime kontrolę automobilio autonominėms sistemoms, o tai reiškia, kad dirbtinio intelekto sistema valdys jūsų gyvenimą, bent jau tol, kol pasieksite tikslą.
Ar galima išspręsti AI valdymo problemą?
Yra du atsakymai, ar AI valdymo problemą galima išspręsti, ar ne. Pirma, jei klausimą interpretuosime pažodžiui, valdymo problemos išspręsti nepavyks. Nieko negalime padaryti, kas būtų tiesiogiai nukreipta į žmogaus polinkį pasikliauti automatizuota sistema, kai ji didžiąją laiko dalį veikia patikimai ir efektyviau.
Tačiau jei ši tendencija būtų laikoma tokių sistemų savybe, galime sugalvoti būdus, kaip išspręsti valdymo problemą. Pavyzdžiui, Algoritminis sprendimų priėmimas ir kontrolės problema Tyrimo dokumente siūlomi trys skirtingi metodai, kaip įveikti keblią padėtį:
- Naudojant mažiau patikimas sistemas, žmogus turi aktyviai dalyvauti sistemoje, nes mažiau patikimos sistemos nesukelia valdymo problemų.
- Laukti, kol sistema viršys žmogaus efektyvumą ir patikimumą, prieš pradedant diegti realiame pasaulyje.
- Įgyvendinti tik dalinį automatizavimą naudojant užduočių skaidymą. Tai reiškia, kad automatizuojamos tik tos sistemos dalys, kurioms svarbiai užduočiai atlikti nereikia žmogaus operatoriaus. Tai vadinama dinaminio / papildomo funkcijų paskirstymo (DCAF) metodu.
Taikant DCAF metodą, žmogus operatorius visada yra automatizuotos sistemos vairas, užtikrinantis, kad jų įvestis valdytų svarbiausias sistemos sprendimų priėmimo proceso dalis. Jei sistema pakankamai aktyvi, kad žmogus operatorius galėtų nuolat atkreipti dėmesį, valdymo problema gali būti išspręsta.
Ar galime iš tikrųjų kontroliuoti AI?
Kai dirbtinio intelekto sistemos taps pažangesnės, pajėgesnės ir patikimesnės, joms ir toliau perkelsime daugiau užduočių. Tačiau AI valdymo problemą galima išspręsti laikantis tinkamų atsargumo priemonių ir apsaugos priemonių.
AI jau keičia pasaulį mums, daugiausia į gerąją pusę. Kol technologija bus prižiūrima žmonių, mums neturėtų būti dėl ko nerimauti.
