admin 
DI tyrimų laboratorijos „Google DeepMind“ generalinis direktorius antradienį išreiškė raginimą standartų institucijai, kuri prižiūrėtų pasienio dirbtinio intelekto plėtrą.
„Standartų institucija būtų atsakinga už vertinimo protokolų rengimą ir bendradarbiavimą su atitinkamomis federalinėmis agentūromis ir JAV nacionalinėmis laboratorijomis, kad būtų atlikti bandymai su nacionaliniu saugumu susijusiose srityse“, – „LinkedIn“ rašė Demisas Hassabis.
Jis pasiūlė, kad grupė būtų sudaryta remiantis federaliniu lygmeniu prižiūrima viešojo ir privataus sektoriaus partneryste arba savireguliavimo organizacija, tokia kaip Finansų pramonės reguliavimo institucija (FINRA), ir ją sudarytų nepriklausomi pagrindiniai techniniai ekspertai ir atvirojo kodo atstovai.
„Šiuo metu esame užsidarę itin intensyviose, daugiasluoksnėse komercinėse ir geopolitinėse lenktynėse“, – aiškino jis. „Nors ši konkurencinė dinamika skatina sparčią pažangą ir paspartina neįtikėtinus pokyčius, pažanga pasienyje lenkia mūsų supratimą apie technologiją.
„Niekas pasaulyje tiksliai nežino, kas iš čia nutiks, ir net ekspertai nesutinka“, – tęsė jis. „Kai yra didelis neapibrėžtumas, o statymai tokie dideli, protinga ir teisinga strategija yra elgtis su atsargiu optimizmu.
„Tai reikalauja viešosios politikos, kuri skatina naujoves, kartu skatinant atsakomybę ir saugumą, skatina tarptautinį bendradarbiavimą svarbiausiais saugos klausimais ir skatina atidžiai apsvarstyti, kaip dirbtinis intelektas naudojamas visuomenės labui“, – patarė jis.
AI standartų institucijos atvejis
Standartų institucija tikrai reikalinga, pareiškė Chrisas Canalas, dirbtinio intelekto saugos bendrovės „EquiStamp“ įkūrėjas ir generalinis direktorius Lewes mieste, Del. „AI yra dvejopo naudojimo metatechnologija“, – sakė jis „TechNewsWorld“. „Tos pačios galimybės, kurios pagreitina vaistų atradimą, gali sumažinti kliūtis kibernetinėms atakoms ir biologiniams ginklams.
„Du dalykai neleidžia derėtis dėl išankstinio diegimo standartų“, – sakė jis. „Pirma, atviro svorio modeliai negali būti atšaukti išleidus. Atviro svorio modelio teikiama nauda ir pavojai egzistuoja nuolat.”
„Antra, – tęsė jis, – tokios laboratorijos kaip Anthropic ir OpenAI jau dalijasi neviešais modeliais su partneriais ir bandytojais prieš išleisdamos, todėl pavojinga galimybė gali atsirasti apyvartoje ir padaryti žalos, kol jokia vyriausybė nesužinos apie jos egzistavimą.
Jeffas Williamsas, CTO ir Contrast Security, vykdymo laiko apsaugos įmonės Los Altos mieste, Kalifornijoje, vienas iš įkūrėjų, sutiko, kad reikalinga standartų institucija, kuri prižiūrėtų AI plėtrą, ypač pasienio AI. „Šios sistemos galiausiai gali kelti riziką, panašią į branduolinį, biologinį ar cheminį ginklą“, – sakė jis „TechNewsWorld“. „Kol kas nežinome, kaip jie taps pavojingi, bet įrodymai yra pakankamai tvirti, kad laukti būtų neatsakinga.
Jis rekomendavo, kad požiūris būtų mokslinis, orientuotas į išmatuojamus pajėgumus ir būtų paremtas saugumo bendruomenėje jau vykdomu darbu. „Open Worldwide Application Security Project (OWASP), visų pirma, parengė praktines gaires, susijusias su daugybe generatyvinių ir agentinių AI pavojų“, – sakė jis. „Standartų institucija turėtų finansuoti, patvirtinti ir išplėsti šį darbą, o ne iš naujo jį išradinėti už uždarų durų.”
Stiprinti esamus pajėgumus
„Mums reikia griežto, standartizuoto pasienio modelių testavimo“, – pridūrė Michelle Lopes Maldonado, DI politikos direktorė Informacinių technologijų ir inovacijų fonde (ITIF), tyrimų ir viešosios politikos organizacijoje Vašingtone.
„Jungtinės Valstijos jau kuria tuos raumenis“, – sakė ji „TechNewsWorld“. „NIST AI standartų ir inovacijų centras (CAISI) turi išankstinio diegimo vertinimo sutartis su dauguma pagrindinių laboratorijų.
„Prieš kurdami naują instituciją turime sustiprinti ir tinkamai finansuoti esamus pajėgumus“, – tvirtino ji. „Ad hoc, kiekvienos laboratorijos saugos bandymai nebus keičiami, nes tobulėja galimybės.
Dėl esamos testavimo infrastruktūros kyla pagrindinis klausimas, susijęs su Hassabis pasiūlymu: ar Jungtinėms Valstijoms reikia naujos AI standartų institucijos, ar turėtų stiprinti ir plėsti institucijų, jau vertinančių pasienio modelius, išteklius.
Michaelas Bellas, „Suzu Labs“, kuri yra dirbtinio intelekto pagrindu veikiančių kibernetinio saugumo paslaugų Las Vegase, generalinis direktorius, teigė, kad reikia atsakyti už konkrečią, išmatuojamą žalą. „Mums nebūtinai reikia naujos biurokratijos, kuri stovėtų tarp kiekvieno modelio išleidimo ir rinkos“, – sakė jis „TechNewsWorld“.
„Pasienio AI keliama rizika saugumui yra reali“, – pripažino jis. „Aš vadovauju įmonei, kuri jungia dirbtinio intelekto sistemas įmonėms ir vyriausybiniams klientams, o atakų paviršiai plečiasi greičiau, nei dauguma organizacijų supranta. Tačiau yra skirtumas tarp tikslinės tikrosios nacionalinio saugumo rizikos priežiūros ir reguliavimo aparato, kuris sulėtina visą pramonę, remiantis pajėgumų slenksčiais, kuriuos nustato tos pačios įmonės, kurios lobizavo organą, kūrimo.”
„Klausimas neturėtų būti „ar mums reikia standartų institucijos?“, – sakė jis. „Tai turėtų būti „ko konkrečiai mes stengiamės užkirsti kelią, ir ar nauja institucija yra veiksmingiausias būdas to išvengti?“.
Geresnis šablonas
Kanalas suabejojo naujos DI peržiūros sistemos modeliavimu FINRA. „FINRA politika veikia po fakto toje srityje, kurioje nuostoliai yra finansiniai ir atlyginami“, – paaiškino jis. „Finansai taip pat yra ta sritis, kuri aiškiai atsisako įkainoti katastrofą. Daugumoje draudimo sutarčių išskiriamos būtent nelaimių kategorijos, kurias gali paliesti AI“.
„Geresnis šablonas, – teigė jis, – yra kažkas panašaus į ASCE statybos kodeksą. Kai patvirtiname projektą, kuris daro poveikį visuomenei, pavyzdžiui, tiltą ar pastatą, įvertiname viešąją naudą, nustatome aiškią toleruojamą gedimo tikimybę ir iš jo nustatome reikalavimus.”
„Paskutinė dalis yra svarbi“, – tęsė jis. „Kai tolerancija yra aiški, taisyklė yra minimumas, kurio reikia, kad jos būtų laikomasi, o ne tai, kaip jautėsi komitetas.
„Turėtume reguliuoti pasienio dirbtinį intelektą taip, kaip leidžiame atomines elektrines, o ne taip, kaip mes policijos biržos makleriai“, – tvirtino jis. „Tai priklauso nuo to, ar dirbtinį intelektą kuriantis subjektas yra vyriausybė, ar privati institucija. Abi turi laikytis statybos kodeksų, o kodeksai yra vykdomi ir tikrinami keliuose statybos proceso taškuose – rengiant projektą / projektuojant, statant prieš / viduryje / po statybų, o tada tęsiamas užbaigus projektą.
Hassabiso rekomendacija, kad standartų valdyba būtų viešojo ir privačiojo sektorių partnerystės dalis, yra svarbi. „Viešojo ir privačiojo sektorių partnerystė yra būtina, nes nė viena grupė neturi visko, ko reikia“, – aiškino Williamsas.
„Pasienio laboratorijos turi modelių, talentų ir skaičiavimų“, – sakė jis. „Vyriausybė suteikia autoriteto, žvalgybos ir nacionalinio saugumo išteklių. Nepriklausoma saugumo bendruomenė suteikia priešingos patirties ir atvirumo.”
„Tačiau tai nebūtų partnerystė tarp lygių“, – tęsė jis. „AI įmonės investuoja milijardus ir juda nepaprastu greičiu. Vyriausybė juda lėtai, o didžioji saugumo bendruomenės dalis vis dar priklauso nuo savanorių. Nebent nepriklausomi moksliniai tyrimai bus finansuojami kažkuo panašesniu į pramonės mastą ir greitį, pasienio įmonės nustatys darbotvarkę vien todėl, kad visi kiti nuolat bando pasivyti.”
DI savireguliacijos rizika
Standartų valdybos pavertimas savireguliacijos agentūra taip pat turi pranašumų. „Savireguliuojanti organizacija gali samdyti techninius talentus rinkos kainomis, judėti greičiau, nei nustatyta įstatymų nustatyta tvarka, ir atnaujinti gaires kas ketvirtį, o ne kartą per dešimtmetį“, – aiškino Maldonado. „FINRA veikia, nes pramonės atstovai dažnai geriau supranta riziką nei toli esantys reguliuotojai.
Ji pripažino, kad yra ir trūkumų. Pavyzdžiui, kyla grėsmė teisės aktų perėmimui. „Pasienio laboratorijų finansuojama ir informuojama įstaiga gali susidurti su nuolatiniu spaudimu nustatyti gaires, kurios būtų palankios esamiems operatoriams ir padidintų konkurentų išlaidas“, – sakė ji.
Ji pridūrė, kad FINRA gali būti ne geriausias standartų lentos modelis. „FINRA politika veikia brandžioje pramonėje pagal gerai suprantamas taisykles, o AI vertinimo mokslas vis dar jaunas“, – paaiškino ji. „Nepriklausomi auditai jau rodo nenuoseklias vertintojų metodikas.”
„Bet kuri valdyba, kurioje dominuoja pasienio įmonės, būtų suinteresuota sukurti įstaigą, kuri jas apsaugotų ir užkirstų kelią naujiems modeliams“, – pridūrė Seanas Campbellas, rinkos tyrimų ir strateginių rinkodaros paslaugų teikėjos „Cascade Insights“ įkūrėjas Portlande (Ore).
„Tai klasikinė lapės, saugančios vištidę, problema“, – sakė jis „TechNewsWorld“.
Jis palaikė stiprią viešojo ir privačiojo sektorių partnerystę, tačiau pridūrė, kad reikia ir stiprios pasaulinės partnerystės. „Priešingu atveju tai panašu į bandymą kontroliuoti branduolinio ginklo platinimą sudarant susitarimus su 50 valstybių“, – sakė jis.
Standartai prieš atvykstant AGI
Hassabis teigė, kad AI standartų nustatymas dabar palengvins ateities AI – dirbtinį bendrąjį intelektą (AGI) – kelią.
„Su dirbtiniu intelektu susijęs didžiulis jaudulys ir netikrumas, ir abu yra pagrįsti“, – rašė jis. „Tačiau ateitis dar neparašyta; turime panaudoti šį brangų langą prieš atvykstant AGI, kad sukurtume šią technologiją visos žmonijos labui.
„Tai, ką mes kartu darome dabar, lems, kaip klostysis kitas civilizacijos etapas“, – tęsė jis. „Saugiai nukreipdami AGI į pasaulį, galime įžengti į naują mokslo atradimų ir pažangos aukso amžių ir atverti šviesią neįtikėtino žmogaus klestėjimo ateitį.
