„Microsoft Turns Counterfit AI Security Assessment Tool Open Source“

„Microsoft“ pasuko savo dirbtinio intelekto saugumo rizikos vertinimo įrankį „Counterfit“, kuris yra atviras šaltinis, leidžiantis visiems pradėti naudotis įrankiu nemokamai. Šiuo metu organizacijos gali naudoti „Counterfit“, kad automatizuotų saugumo rizikos vertinimus, užtikrindamos, kad jų naudojama apsauga yra visiškai nulio.

Iš pradžių „Microsoft“ sukūrė „Counterfit“ kaip vidinį įrankį, kuris galėtų greitai įvertinti dirbtinio intelekto ir mašininio mokymosi sistemų saugumą. Jis pradėjo gyvenimą kaip scenarijų rinkinys, prieš greitai peraugdamas į bendrą AI automatiką, kurią operatorius gali naudoti vienu metu „atakuodamas kelias AI sistemas“.

„Microsoft“ dabar reguliariai naudoja „Counterfit“ kaip pagrindinę dirbtinio intelekto intelekto komandos operaciją. Kadangi „Counterfit“ yra aplinka, modelis ir duomenų agnostika, įrankis gali tiksliai įvertinti be impedanso.

Pats įrankis yra skirtas naudoti saugos specialistams. „Counterfit“ naudoja panašias darbo eigas kaip ir kiti populiarūs „Red-team“ įrankiai, tokie kaip „Metasploit“ ar „PowerShell Empyre“, su plačia parama scenarijams, iš anksto įkeltiems atakos algoritmams, pažeidžiamumo nuskaitymui, išplėstiniam registravimui ir kt., prieinamiems per komandinę eilutę.

„Microsoft“ intensyviai bendradarbiavo su saugos specialistais ir didelėmis organizacijomis, taip pat tobulindama „Counterfit“. Ant „Microsoft Security“ tinklaraštis, Matilda Rhode, „Airbus“ vyresnioji kibernetinio saugumo tyrėja, sakė:

Dirbtinis intelektas vis dažniau naudojamas pramonėje; labai svarbu žvelgti į priekį užtikrinant šią technologiją, ypač norint suprasti, kur probleminės erdvės gali būti įvykdytos funkcijų kosmoso atakos. Organizacijos, tokios kaip „Microsoft“, atvirojo kodo įrankių išleidimas, skirtas saugumo specialistams įvertinti dirbtinio intelekto sistemų saugumas yra sveikintinas ir aiškus ženklas, kad pramonė imasi šios problemos rimtai.

Galite rasti atvirojo kodo „Microsoft Counterfit“ jų oficialiame „GitHub“.

Susijęs: Darbai, kurių niekada nežinojai, dirbo AI

Kodėl klastotė naudinga?

Net ir „Microsoft“ dydžio įmonei atlikti efektyvius saugumo vertinimus nėra lengva, ypač kai šios bendrovės yra milžiniškos „Fortune 500“ lyderės, vyriausybės, ne pelno siekiančios organizacijos ir dar daugiau. Ankstesniame „Microsoft“ tyrime nustatyta, kad daugybė įmonių negalėjo tiksliai išbandyti savo dirbtinio intelekto sistemų.

Mes nustatėme, kad 25 iš 28 įmonių nurodė, kad neturi tinkamų įrankių savo dirbtinio intelekto sistemoms apsaugoti ir kad saugos specialistai ieško konkrečių nurodymų šioje erdvėje.

„Counterfit“ palengvina tų vertinimų atlikimą, automatizuodamas analizės ir testavimo procesą.

Susijęs: Būdai, kaip galite naudoti dirbtinio intelekto technologijas savo verslui pagerinti

Be to, neseniai paskelbta Gartnerio tyrimas išvardijo dirbtinio intelekto saugumo pritaikymą kaip vieną svarbiausių saugumo priemonių, kurių bendrovė gali imtis, kad pagerintų apsaugą. Tame pačiame tyrime pažymėta, kad „iki 2024 m. Organizacijos, įgyvendinančios specialią dirbtinio intelekto rizikos valdymo kontrolę, dvigubai dažniau sėkmingai išvengs neigiamų dirbtinio intelekto rezultatų nei tos, kurios to nepadaro“.

Trumpai tariant, „Counterfit“ taps atviro kodo dirbtinio intelekto saugumo vertinimo priemone turėtų padėti padaryti pasaulį šiek tiek saugesnį.

Šie 4 antivirusiniai įrankiai naudoja dirbtinį intelektą jūsų sistemai apsaugoti

Ar kitoje antivirusinėje prenumeratoje turi būti dirbtinis intelektas, ar tai tik dar vienas saugos žodis?

Skaitykite toliau

Apie autorių