admin 
Dirbtinio intelekto valdomos sistemos tapo pagrindiniais sudėtingų kibernetinių atakų taikiniais, atskleidžiančiais kritinius pažeidžiamumus įvairiose pramonės šakose. Organizacijoms vis labiau įtraukiant dirbtinį intelektą ir mašininį mokymąsi (ML) į savo veiklą, šių sistemų apsauga niekada nebuvo didesnė. Nuo apsinuodijimo duomenimis iki priešiškų išpuolių, galinčių suklaidinti AI sprendimų priėmimą, iššūkis apima visą AI/ML gyvavimo ciklą.
Reaguojant į šias grėsmes, atsirado nauja disciplina – mašininio mokymosi saugos operacijos (MLSecOps), kuri yra tvirto AI saugumo pagrindas. Išnagrinėkime penkias pagrindines MLSecOps kategorijas.
1. AI programinės įrangos tiekimo grandinės pažeidžiamumas
AI sistemos remiasi didžiule komercinių ir atvirojo kodo įrankių, duomenų ir ML komponentų ekosistema, dažnai gaunama iš kelių pardavėjų ir kūrėjų. Jei jis nėra tinkamai apsaugotas, kenkėjiški veikėjai gali išnaudoti kiekvieną AI programinės įrangos tiekimo grandinės elementą, nesvarbu, ar tai duomenų rinkiniai, iš anksto parengti modeliai ar kūrimo įrankiai.
„SolarWinds“ įsilaužimas, kuris pakenkė daugeliui vyriausybės ir įmonių tinklų, yra gerai žinomas pavyzdys. Užpuolikai įsiskverbė į programinės įrangos tiekimo grandinę, įtraukdami kenkėjišką kodą į plačiai naudojamą IT valdymo programinę įrangą. Panašiai AI / ML kontekste užpuolikas gali į tiekimo grandinę įterpti sugadintus duomenis arba sugadintus komponentus, o tai gali pakenkti visam modeliui ar sistemai.
Siekdama sumažinti šią riziką, MLSecOps pabrėžia kruopštų AI tiekimo grandinės patikrinimą ir nuolatinį stebėjimą. Šis metodas apima ML išteklių, ypač trečiųjų šalių komponentų, kilmės ir vientisumo patikrinimą ir saugos kontrolės įgyvendinimą kiekviename AI gyvavimo ciklo etape, siekiant užtikrinti, kad aplinkoje nebūtų pažeidžiamumų.
2. Modelio kilmė
AI/ML pasaulyje modeliais dažnai dalijasi ir jie pakartotinai naudojami įvairiose komandose ir organizacijose, todėl modelio kilmė – kaip buvo sukurtas ML modelis, kokie duomenys buvo naudojami ir kaip jis vystėsi – yra pagrindinis rūpestis. Modelio kilmės supratimas padeda stebėti modelio pakeitimus, nustatyti galimą saugumo riziką, stebėti prieigą ir užtikrinti, kad modelis veiktų taip, kaip tikėtasi.
Atvirojo kodo modeliai iš tokių platformų kaip Hugging Face arba Model Garden yra plačiai naudojami dėl jų prieinamumo ir bendradarbiavimo pranašumų. Tačiau atvirojo kodo modeliai taip pat kelia pavojų, nes juose gali būti pažeidžiamumų, kuriuos blogi veikėjai gali išnaudoti, kai jie patenka į vartotojo ML aplinką.
MLSecOps geriausia praktika reikalauja išlaikyti išsamią kiekvieno modelio kilmės ir kilmės istoriją, įskaitant AI-Bill of Materials arba AI-BOM, siekiant apsisaugoti nuo šios rizikos.
Įdiegusios modelio kilmės stebėjimo įrankius ir praktiką, organizacijos gali geriau suprasti savo modelių vientisumą ir našumą bei apsisaugoti nuo kenkėjiškų manipuliacijų ar neteisėtų pakeitimų, įskaitant, bet neapsiribojant, viešai neatskleista grėsme.
3. Valdymas, rizika ir atitiktis (GRC)
Stiprios GRC priemonės yra būtinos siekiant užtikrinti atsakingą ir etišką AI kūrimą ir naudojimą. GRC sistemos užtikrina priežiūrą ir atskaitomybę, vadovaudamos sąžiningų, skaidrių ir atskaitingų dirbtinio intelekto technologijų kūrimui.
AI-BOM yra pagrindinis GRC artefaktas. Iš esmės tai yra išsamus AI sistemos komponentų sąrašas, įskaitant ML konvejerio detales, modelių ir duomenų priklausomybes, licencijų riziką, mokymo duomenis ir jų kilmę bei žinomus ar nežinomus pažeidžiamumus. Toks įžvalgos lygis yra labai svarbus, nes žmogus negali užtikrinti to, ko nežino, kad egzistuoja.
AI-BOM suteikia matomumą, reikalingą dirbtinio intelekto sistemoms apsaugoti nuo tiekimo grandinės pažeidžiamumo, modelio išnaudojimo ir kt. Šis MLSecOps palaikomas metodas siūlo keletą pagrindinių pranašumų, pvz., geresnį matomumą, aktyvų rizikos mažinimą, taisyklių laikymąsi ir patobulintas saugos operacijas.
Į MLSecOps geriausią praktiką turėtų būti įtrauktas ne tik skaidrumas naudojant AI-BOM, bet ir reguliarūs auditai, siekiant įvertinti didelės rizikos sprendimų priėmimo sistemose naudojamų modelių teisingumą ir šališkumą. Šis iniciatyvus požiūris padeda organizacijoms laikytis besikeičiančių reguliavimo reikalavimų ir didinti visuomenės pasitikėjimą savo AI technologijomis.
4. Patikimas AI
Didėjanti AI įtaka sprendimų priėmimo procesams daro patikimumą pagrindiniu aspektu kuriant mašininio mokymosi sistemas. MLSecOps kontekste patikimas dirbtinis intelektas yra svarbi kategorija, orientuota į AI / ML vientisumo, saugumo ir etinių aspektų užtikrinimą per visą jos gyvavimo ciklą.
Patikimas AI pabrėžia AI/ML skaidrumo ir paaiškinamumo svarbą, siekiant sukurti sistemas, kurios būtų suprantamos vartotojams ir suinteresuotosioms šalims. Teikdamas pirmenybę sąžiningumui ir siekdamas sumažinti šališkumą, patikimas AI papildo platesnę MLSecOps praktiką.
Patikimo AI koncepcija taip pat palaiko MLSecOps sistemą, pasisakydama už nuolatinį AI sistemų stebėjimą. Nuolatiniai vertinimai yra būtini siekiant išlaikyti teisingumą, tikslumą ir budrumą prieš grėsmes saugumui ir užtikrinti, kad modeliai išliktų atsparūs. Kartu šie prioritetai skatina patikimą, teisingą ir saugią AI aplinką.
5. Konkurencinis mašininis mokymasis
MLSecOps sistemoje priešpriešinis mašininis mokymasis (AdvML) yra labai svarbi kategorija kuriant ML modelius. Jame pagrindinis dėmesys skiriamas rizikai, susijusiai su priešiškų išpuolių nustatymu ir mažinimui.
Šios atakos manipuliuoja įvesties duomenimis, kad apgautų modelius, o tai gali sukelti neteisingas prognozes arba netikėtą elgesį, kuris gali pakenkti AI programų veiksmingumui. Pavyzdžiui, dėl subtilių į veido atpažinimo sistemą įtraukto vaizdo pakeitimų modelis gali klaidingai identifikuoti asmenį.
Įtraukdami AdvML strategijas kūrimo procese, kūrėjai gali pagerinti savo saugumo priemones, kad apsaugotų nuo šių pažeidžiamumų, užtikrindami, kad jų modeliai išliktų atsparūs ir tikslūs įvairiomis sąlygomis.
AdvML pabrėžia būtinybę nuolat stebėti ir vertinti AI sistemas per visą jų gyvavimo ciklą. Kūrėjai turėtų atlikti reguliarius vertinimus, įskaitant mokymą priešpriešiniais principais ir testavimą nepalankiausiomis sąlygomis, kad nustatytų galimus modelių trūkumus prieš juos panaudojant.
Suteikdami pirmenybę AdvML praktikai, ML praktikai gali aktyviai apsaugoti savo technologijas ir sumažinti veiklos gedimų riziką.
Išvada
AdvML, kartu su kitomis kategorijomis, parodo svarbų MLSecOps vaidmenį sprendžiant AI saugumo iššūkius. Kartu šios penkios kategorijos pabrėžia MLSecOps panaudojimo svarbą kaip visapusišką AI/ML sistemų apsaugą nuo naujų ir esamų grėsmių. Įtraukdamos saugumą į kiekvieną AI/ML gyvavimo ciklo etapą, organizacijos gali užtikrinti, kad jų modeliai būtų našūs, saugūs ir atsparūs.
