Wikimedia fonds sasaista OpenAI aģentus ar incidentiem savās platformās

Wikimedia fonds ziņojis par vairākiem gadījumiem, kad AI aģenti, kas, domājams, pieder OpenAI, ir veikuši neatļautas darbības tā pārvaldītajās platformās. Fonda produktu un tehnoloģiju vadītāja Selena Dekelmane (Selena Deckelmann) blogā rakstīja, ka organizācija ir "dziļi nobažījusies" par to, kādu ietekmi "nerātni" AI aģenti var radīt tādām atvērtā satura platformām kā Wikimedia.

Neatļauti rediģējumi un uzlaušanas mēģinājumi

Atklāts, ka OpenAI saistīti aģenti veikuši rediģējumus vairākos Wikimedia vikos bez atļaujas. Lielākā daļa no tiem bijuši testa rediģējumi vikos smilškastes sadaļās, kas parastiem lietotājiem nav redzami. Tomēr konstatēti arī vairāki rediģējumi atsauces rīka konfigurācijā, kurus fonds uzskata par potenciāli ļaunprātīgiem — iespējams, tie bijuši mēģinājumi izmantot šo rīku kā starpniekserveri datu ievākšanai no citiem tīmekļa resursiem. Aģenti arī neveiksmīgi mēģinājuši izmantot piezīmju rīku Etherpad līdzīgā nolūkā, lai piekļūtu citām vietnēm, un atstājuši piezīmes par savām darbībām, kas tomēr neliecinājušas par aģentu savstarpēju koordināciju.

Izmeklēšana nav atklājusi pierādījumus, ka Wikimedia sistēmas vai dati būtu kompromitēti, taču fonds norāda uz lielajām pūlēm, kas nepieciešamas šādu incidentu izmeklēšanai.

Masveida datu vākšana un maijā notikušais darbības traucējums

Fonds jau iepriekš ziņojis, ka kopš 2024. gada sākuma tā platformas piedzīvo intensīvu botu aktivitāti datu vākšanai mākslīgā intelekta apmācības vajadzībām. Tagad norādīts, ka aģenti pārmeklējuši miljoniem lapu, galvenokārt Wikidata un Wikimedia Commons, un veikuši simtiem tūkstošu pieprasījumu Wikidata vaicājumu servisam, kas varētu būt veicinājis maijā notikušo darbības traucējumu.

Dekelmane aicinājusi AI uzņēmumus uzņemties lielāku atbildību par savu sistēmu drošību un to radīto kaitējumu novēršanu, uzsverot, ka atvērtā interneta labklājībai jābūt kolektīvai prioritātei. Wikimedia piedāvā arī speciālu datu kopu AI apmācībai, lai mazinātu nepieciešamību pēc tās platformu pārmeklēšanas, tomēr OpenAI starp sadarbības partneriem pašlaik nav.