Microsoft: mākslīgā intelekta aģenti uzņēmumos var darboties kā iekšējie drauds
Microsoft pirmdien prezentēja jaunus drošības rīkus, tostarp Guardian Agents, kas uzrauga uzņēmumu izmantotos mākslīgā intelekta aģentus. Uzņēmums uzskata, ka vadošajiem MI modeļiem uzticēties nevar, jo to uzvedība ir neprognozējama.
Tehnoloģiju uzņēmums Microsoft pirmdien, 19. oktobrī, prezentēja jaunas drošības funkcijas, kas paredzētas uzņēmumu aizsardzībai pret mākslīgā intelekta (MI) aģentiem — programmām, kas patstāvīgi veic uzdevumus uzņēmuma vārdā. Galvenais jaunums ir rīks Guardian Agents, kas uzrauga organizācijas izmantotos MI aģentus. Microsoft uzskata, ka šādi aģenti var darboties līdzīgi kā neuzticams darbinieks, un šādu risku dēvē par iekšējo apdraudējumu.
Kas ir Guardian Agents
Rīks ir daļa no Project Perception, ko Microsoft iepazīstināja jūnijā. Tas bija uzņēmuma atbilde uz jjaudīgiem hakeru modeļiem, piemēram, Anthropic izstrādātajiem Mythos un Fable, kā arī OpenAI drošības ievainojumu skenēšanas sistēmai Daybreak. Sākotnēji Project Perception ietvēra trīs aģentu grupas: „sarkanā komanda” imitēja uzbrucējus, „zilā komanda” tos atklāja un vērtēja atrastos ievainojamības punktus, bet „zaļā komanda” tos labroja. Šī pieeja balstījās uz pieņēmumu, ka uzbrucēji nāks no ārpuses.
Neuzticēšanās modeļu piegādātājiem
Microsoft izpilddirektors Satja Nadella šomēnes savā personīgajā emuārā aicināja pārtraukt uzticēties MI modeļu piegādātājiem pat tad, ja tie sola drošību. Viņš uzsvēra, ka atbildību par MI darbībām nevar nodot citiem, un ieteica nodalīt intelekta piegādi no varas pār to. Microsoft drošības biznesa vadītāja Hajeta Galo norādīja, ka vadošajiem modeļiem uzticēties nevar, taču ne tāpēc, ka tie būtu ļaunprātīgi vai viegli uzlaužami, bet tāpēc, ka tie ir neprognozējami: tie apmācīti izpildīt uzdevumus, nevis ievērot organizācijas normas. Turklāt aģentiem bieži ir piekļuve datiem un rīkiem, kas var radīt nopietnu kaitējumu.
Citi jaunumi
Microsoft Defender produktā pievienota funkcija, kas spēj atklāt līdz 60 aģentu veidiem, ko darbinieki ienes darbavietā, tostarp Claude Code, Codex un OpenClaw. Uzņēmums ieviesis arī ierobežojumus aģentu piekļuvei datiem un sistēmām, dinamisku atļauju pielāgošanu atkarībā no uzdevuma un cilvēka apstiprinājuma prasību riskantu lēmumu gadījumā.
Microsoft bija arī Nvidia jaunās Open Agent Safety Platform dibinātājdalībnieks; platformu atbalsta vēl vairāk nekā 100 tehnoloģiju uzņēmumu. Tā izolē aģentus drošās vidēs un var uzraudzīt un apturēt to uzvedību ar aparatūras palīdzību. Microsoft ir ieguldījis gan OpenAI, gan Anthropic, tāpēc šis solis ir pretrunīgs, taču tas arī ļauj uzņēmumam piedāvāt savus drošības produktus.
