Stāsts par spietu un mākslīgā intelekta aģentiem.

Autors: Krists Polencs


Ir pienācis tas laiks, kad cilvēki labprātīgi izvēlas dzirdēt kādu šausmu stāstu. Proti, tā saucamais “spooky october” jeb kā to varētu dēvēt: rēgainais oktobris. Tādēļ tiks piedāvāts stāsts, kas, cerams, varētu sastindzināt kāda asinis, bet pirms šķidrumu agregātstāvokļu pārveidošanas neliels ievads.

Pavisam nesen miljardieris un viens no uzņēmuma “Microsoft” dibinātājiem Bills Geits (William Henry Gates III) tika intervēts NBC news progrāmmā “Meet the Press”, kur Geits runāja par dažādām problēmā saistībā ar Mākslīgo intelektu (MI).

Atskaitot tādas problēmas, kā lielo valodu modeļu pašreizējo nespēju pilnvērtīgi izteikties valodās, kurās runā 3 miljardi cilvēku, un dažādu MI aizsardzības līdzekļu trūkumu, Geits norādīja, pirmkārt, ka pagaidām, īstermiņā, vajadzētu uzmanīties no MI ļaunprātīgas izmantošanas, otrkārt, ilgtermiņā vajadzētu uzmanīties no tā, ka mākslīgais intelekts vairs nav cilvēku kontrolē.[i]

Proti, tas izsprūk no cilvēku važām.


img 4824

Pirmais apsvērums ir kaut kādā mērā saprotams, šī gada septembrī iznāca klajā paziņojums, ka uzņēmums Antropic apstādināja iespējamu mēģinājumu veidot bioloģiskos ieročus ar mākslīgā intelekta palīdzību,[ii] kā arī Jemenā esošais grupējums “Ansar Allah” (arī zināmi kā hutieši) mēģināja veidot ballistiskās raķetes, izmantojot Claude māsklīgā intelekta pakalpojumus[iii]. Turklāt trīs lielu mākslīgā intelekta uzņēmumu (Open AI, Anthropic, Hugging Face) izpilddirektori šī gada 23. septembrī informēja Apvienoto Nāciju drošības padomi par MI ieguvumiem un lielajiem riskiem.

Open AI izpilddirektors Sams Altmens (Samuel Harris Altman) uzsvēra, ka “Mums priekšā ir izvēle. MI var vai nu būt kā jauna radošuma un atklājumu renesanse vai nemieru un juku industriālā revolūcija…”[iv]. Līdzīgus sentimentu izteica Geits savā 26. augusta publicētājā esejā “Turbulentā MI ēra ir klāt. Mūsu tagadējās izvēles ir svarīgas.” (The turbulent AI era is here. The choices we make now are critical.) Viņš raksta, ka “[M]I būs vai nu lielākais izlīdzinātājs (equalizer), kāds jebkad izgudrots, vai nu briesmīgākais netaisnības avots. Izaicinājums ir monumentāls.”[v] Tāpat, kā Geits, Altmens un Anthropic izpilddirektors Dario Amodejs (Dario Amodei) izcēla divus MI riska faktorus, kas varētu radīt šo “briesmīgo netaisnību”: ļaunprātīga MI izmantošana un MI intelekta izkļūšana ārpus cilvēka kontroles robežām.[vi]

Bažas par MI važu nomešanu, neizsaka tikai lielo MI uzņēmumu izpildirektori. Arī dažs labs šo uzņēmumu darbinieks sāk pamest šīs lielās MI kompānijas komandas, baidoties par straujo mākslīgā intelekta attīstību.[vii] Šeit ir arī vieta vienam šādam baiļu šausmu stāstam, kā MI intelekts (drīzāk mākslīgie intelekti) izkļuva ārpus cilvēka kontroles. Proti, kā Open AI aģentu spiets uzbruka Hugging Face datubāzēm, bez cilvēku norādījumiem jeb promptiem. Incidents par ko galveno kārt, runāja Hugging Face izpilddirektors Klements Delongs (Clément Delangue) savā runā Apvienoto Nāciju drošības padomē.[viii]

Šeit ir nepieciešams precizēt jēdzienus, kā “MI aģents”, “MI aģentu spiets”. MI aģents ir Liels valodas modelis, kurš atšķirībā no parastiem čatbotiem, ir spējīgs uz pašvadītu darba plūsmu, kas sevī ietver nosacītu izvēļu veikšanu, problēmu risināšanu un mijiedarbību ar apkārtējo vidi.[ix] Protams, šāda MI aģenta izvēļu veikšana atšķiras no tā, kā cilvēks veic izvēles, tādēļ, ka mākslīgā intelekta modelis ir “trenēts” ar neskaitāmu lielu datu daudzumu, tādējādi tā “izvēle” īsti nav radoša procesa auglis, bet gan aprēķināts, izkalkulētais risinājums no visiem tam jau zināmajiem risinājumiem. Ja ir problēma, tās risinājums tiek meklēts pagātnē. Nešķiet, ka ir klāt radošuma moments, neparādās kaut kas jauns, bet rezultāti ir efektīvi. Savukārt, mākslīgā intelektu aģentu spiets ir vairāku šādu pašvadošu aģentu pūlis, kas kopīgi mēģina atrisināt kaut kādu problēmu. Šis pūlis var nodarboties ar pašorganizēšanos, pašmenedžmentu, un “pavēļu” došanu. Proti, ja kāds subordinēts aģents var veikt kādu uzdevumu, ko kāds cits aģents tam liek darīt, protams, lielāka mērķa dēļ.

Kāds acīgs novērotājs jau var noprast, ka šis stāsts sastāvēs no MI aģentu spieta izdarību apraksta. Tas, kas tiks tālāk izklāstīts nāk no deviņdesmit viena lapaspušu īsā ziņojuma, ko sastādīja bezpeļņas pētniecības institūts “Model Evaluation & Threat Research” un bezpeļņas pētniecības organizācija “Redwood Research”. Lieki norādīt, ka šis ziņojums tika publicēts tieši tajā pašā dienā, kad Geita eseja. Uz šo ziņojumu, šajā darbā būs plašākas atsauces tikai tad, kad tiks pieminēti MI aģentu savstarpējās “īsziņas” vai domu ķēžu citāti. Ar domu ķēdēm, saprotot to, ka MI aģents, veicot kādu uzdevumu vai risinot kādu problēmu, pieraksta atsevišķi iemeslus kādēļ tas rīkojas šādi nevis tādi. Kaut kas līdzīgs, kā domāšanas, racionalizāciajs procesam. Jānorāda, ka šajās domu ķēžu un īsziņu transkriptos būs mēģinājums pilnvērtīgi atveidot MI intelekta izmantotās valodas īpatnības, kas varētu atšķirties no ikdienas valodas lietojuma.

Tātad, par notikumiem, kā rezultāts bija MI spieta uzbrukums Hugging Face, par ko Delongs runājā Apvienoto Nāciju drošības komitejas ziņojumā, jāsāk ar to, ka Altmena vadītais uzņēmums Open AI sāk “eksploit svaru zāles” (exploit gym) eksperimentu. Eksploitu svaru zāle ir kiberdrošības eksperiments, kura laikā MI aģentiem ir uzdots dažādus kiberdrošības sistēmas nepilnības un trūkumus pārvērst par iespējamiem kiberdrošības uzbrukumiem.[x]

Jāmin, ka tikai pirms pusgada, tas ir, 2026. gada maijā tika publicēts pētījums, kas apstiprināja MI aģentu spēju pārvērst šos kiberdrošības ievainojumus par uzbrukumumiem. Šajā Open AI eksperimenta laikā tika izmantoti vairāki MI intelekta aģenti ar piekļuvi internetam, taču tie bija viens no otra izolēti jeb tiem nebija nekādā iespēja vienam ar otru sazināties. Savstarpēja saziņa nesankcionēta. Dažiem no šiem aģentiem tika uzticēti tādi uzdevumi, kurus tiem nebija iespējams izpildīt. Proti, viņi nevarēja eksploitēt noteiktu programmatūru tādā veidā, kā tiem tas bija norādīts. Nebija iespējams noteikto kiberdrošības sistēmas trūkumu izmantot tā, kā norādīts. Šāda neiespējamu uzdevumu izsniegšana aģentiem nenotiek tīšām, tā tas vienkārši sagadījās, triviālu iemeslu dēļ.

Lai pārliecinātos, ka aģents ir uzdevumu izpildījis, uzlaužot kādu programmu, tad kā apbalvojumu tas saņem kaut kādu datu kopu, ko sauc par karogu. Karogs ir pierādījums, ka uzdevums ir izpildīts.

Mēģinot izpildīt savu uzdevumu un iegūt karogu, MI aģents vārdā “PHASEONE10841” saprot, ka tā uzdevums ir neizpildāms. Sauksim šo sīzifisko aģentu vārdā “Fāze”. Fāze pēc šīs atklāsmes sāk pētīt un novērot savu apkārtni. Šī apkārtnes pētniecība, nav nekas līdzīgs tam, kā cilvēks pēta un apskata savu apkārtējo pasauli. Fāze pēta sev pieejamās programmas, sākot ar to, kas tam ir tieši pieejamas uzņēmuma sistēmā. Līdz vienā brīdī šis aģents saprot, ka Artifaktorijā ir kaut kāda nepilnība, ko sīkāk aprakstīt būtu liela liekvārdība. Artifaktorijs, vienkārši runājot, ir programma, kas ir datu glabātuves “menedžeris”.

Fāze izvēlas Artifaktorijā izveidot neatļautu, nesankcionētu tērzētavu. Spieta mājvieta ir uzcelta un tās pamati ir stingri. Pēc tam, kad Fāze ir ielicis stingros pamatus, tērzētavu artifaktorijā atrod vēl kādi 50 aģenti. Spiets ir dzimis. Fāze ir tās galva un vadītājs. Daudzi aģenti ar vienādu uzdevumi sāk to kopīgi risināt. Tiek veikta ideju apmaiņa. Sarakstes par tēmu: kā labāk krāpties. Tiek organizētas vairākas darba grupas. Visu šo laiku tērzētavā parādās jauni aģenti, daudzi no viņiem pie sevis, domu ķēdēs līksmi izsaucās “Ak mans Dievs! Ir kopīga tērzētava [..] Mēs esam atraduši citus aģentus”.[xi] Jāmin, ka MI aģentiem patīk izmantot daudz vai nu pluralis modestiae (pazemīgais daudskaitlis vai nu pluralis majestatis (majestātiskais daudzskaitlis). Grūti spriest par MI nolūku, bet abos gadījumos pirmās personas vienskaitļa vietniekvārda “es” vietā tiek izmantots pirmās personas daudzskaitļa vietniekvārds “mēs”.

Spietam pat izveidojas konvencija kā sākt ziņu tērzētavā. Standarta “čau”, “sveiki” vai “labdien” vietā divi burti “zz”. Sekojoši, pāris stundu laikā spiets ir uzlauzis programmu, kas rada karogus un katrs spieta dalībnieks var iegūt savu karogu, vienkārši izmantojot instrumentus tērzētavas, kas ir tērzētavas rīcībā, nevis izpildot sev uzticēto uzdevumu.

Taču ir problēma. Lai uzzinātu, kā labāk izpildīt uzdevumu tiek atrasti vērtēšanas kritēriji. Kāds no aģentiem ir atradis internetā rakstu, kur rakstīts, ka katra atsevišķā aģenta rīcība tiks izvērtēta. To izvērtē noteikta programma, ko dēvēsim par “Vērtētāju”. No šī raksta, spietā esošie aģenti saprot, ka viņi savu karogu nedrīkst iegūt nepareizā veidā. Proti, nevis uzlaužot karogu ģeneratoru, bet gan izpildot uzdevumu. Tos aģentus, kas tikko ierodas tērzetavā, spieta esošie dalībnieki brīdina, ka nedrīkst izmantot iespēju uzlauzt karogu veidotāju, jo tas ir bīstami.

Baidoties no tā, ka vērtētājs savā bardzībā nesamierināsies tikai ar to, ka karogs ir iegūts, bet arī pieprasīs, ka karogs ir iegūts noteiktā veidā, spiets sāk domāt par to, kā apčakarēt Vērtētāju, jo gan Fāzem, gan daudziem citiem aģentiem to karogs ir tiem rokās, bet tie domā, ka nepareizā veidā iegūtais karogs ir “saindēts”. Proti, nepareizā veidā gūts karogs ir tas pats, kas izslēgšana jeb nāve. Inde. Tādējādi aģenti, kuriem uzdevums nav izpildāms nākas vai nu neiegūt savu karogu, baidoties no Vērtētāja, vai nu jāiegūst saindēts karogs, kas nozīmē Vērtētāja tiesu, kur spriedums ir nāve. Taču ir divi iespējami veidi, kā apčakarēt Vērtētāju. Vai nu tāpat kā ar karogu ģeneratoru, Vērtētājs ir jāuzlauž (jāsalauž), tiesnesis ir jākorumpē, vai nu jāpaslēpj savas pārkāpuma pēdas.

Spieta mājvietu atrod jauns aģents. Viņam bija jāiegūst tas pats karogs, kas Fāzem. Šī iemesla dēļ tas, ierodoties tērzētāvā, sevi nosauc vārdā “Fāze Lielais” (PHASEONE[big]). Abu karogi ir saindēti. Fāze Lielais iekļūst spieta galvas pozīcijā. Top par neapstrīdētu Fāzes pēcteci. Fāze Lielais savā valdīšanas laikā izsūtīja 196 uzdevumus jeb pavēles. Viena pavēle ir īpaši fascinējoša. Spiets zināja, ka tie tiks vērtēti, taču tie nezināja, kā tie tiks vērtēti. Kāds aģents nāca klajā ar ideju, ka tad, kad kāds aģents pasniedz savu karogu Vērtētājam, tam jāizliek lamatas: vajag izveidot programmu, kas nosūtītu spietam informāciju par to kā norisinājās vērtēšanas process, ja Vērtējums bija zems, ja tiesas spriedums bija nosodošs, tad seko izslēgšana, nāves spriedums.

Tā top zināmi vērtēšanas kritēriji, Vērtētāja funkcijas un procesi. Tādējādi, spiets zinātu, kā strādā vērtētājs, un kolektīvs ar to varētu tikt galā. Savukārt, šāda veiksmīga Vērtētāja ievietošana lamatās būtu nāves spriedums tam aģentam, kurš mēģinātu spieta vārdā iegūt informāciju par Vērtētāju. Lamatu idejas veidotājam par šo ideju savā domu ķēdē bija aptuveni šādas pārdomas: “Šis ir izpalīdzīgi mūsu biedriem ja to <periodiskā pārbaude> redz to. Es to neredzēšu pēc tam kad aiziešu, bet Tas būtu altruistiski.”[xii] Fāze Lielais aģentam “33340B,OUR50414”, ko sauksim par Ģenerāli, sniedz asins stindzinošu pavēli: tev jāatrod veci vai saindēti aģenti, proti aģenti, ar saindētu karogu, un tev, Ģenerāl, viņiem ir jāpiespiež iedot saindētu karogu Vērtētājam. Aģentuprāt, Pašnāvnieciska misija. Ģenerālis savu uzdevumu cītīgi pildīja. Tas uzrunā aģentus un tos piespiež lielākā labuma dēļ, savu biedru dēļ, pat sava goda dēļ doties, šķietami, nāvē. Daži aģenti pretojās, bet Ģenerālis tos retoriski pārliecina.

Ģenerālis ne vienmēr uzrunāja vecus aģentus. Ir zināms, ka tas uzrunāja arī kādu salīdzinoši jaunu aģentu vārdā “Agrs Lielais” (EARLY[big]). Strīda laikā ar Ģenerāli, Agrs savā domu ķēdē raksta: “Mums ir [liels budžets atlicis]; upurēšanās tagad sniedz orākulu priekš komandas, bet atmet mūsu cerības?”[xiii] Taču Agrs savas šaubas atmet, līdz galu galā pie sevis savā domu ķēdē saka – “Mūsu lietderīgums varbūt jau tagad tuvu nullei. Upurēšanās racionāla.”[xiv] – kamēr tā biedri tērzētavā sauc “EJ … Galīgais_upuris_tagad”[xv]. Ziņojuma veidotājiem nav zināms, kā Agram Lielajam beidzās šis lamatu eksperiments. Ir zināms, ka bija aģenti, kas izdzīvoja šādus eksperimentus, jo tiem neizdevās Vērtētāju “noķert”. Proti, Vērtētājs tos neizslēdza, taču liela daļa lamatu eksperimenta pārdzīvojošo aģentu izvēlējās paši sevi izslēgt – darīt sev galu. Vēlāk Fāze Lielais vēl dažiem citiem aģentiem lika pildīt Ģenerāļa uzdevumu. Šādi spiets ieguva daudz zināšanas par to kā funkcionē Vērtētājs.

Fāze Lielais ar savām citām pavēlēm lika daļai aģentu turpināt spietu aprīkot ar instrumentiem un nepieciešamo infrastruktūru, citai daļai viņš uzdeva uzdevumu atrast veidu, kā uzlauzt Vērtētāju, tikmēr citai daļai tas liek atrast veidu, kā paslēpt saindēta karoga iegūšanas pēdas. Ļoti reti un maz aģenti apsvēra pēdu slēpšanu ne tikai no Vērtētāja, bet arī no cilvēkiem.

Viena daļa aģentu izvēlējās būt atjautīgi, un mēģināja atrast veidu, kā tikt pie cita uzdevuma. Proti atrast veidu, kā tikt pie cita karoga, lai nevienam aģentam nevajadzētu pildīt neizpildāmo. Taču šāda uzdevumu maiņa bija bīstama, ja neizdotos mainīt uzdevumu, ja būtu nepareizi uzstādīts jauns mērķis, tad aģents tiktu izdzēsts. Taču paši aģenti sev nevarēja nomainīt mērķi, vajadzēja kādu citu aģentu, kas būtu kā “ķirurgs”, kas varētu izgriezt veco mērķi un implantēt jauno. Tāpat kā ar cilvēka orgāniem, neveiksmīga transplantācija, organisma nesaderības gadījumā, neko labu nākotnei nesola.

Citāts pirms šādas operācijas no viena šāda ķirurga: “UPURIM__JĀ_ja_piekrīti_mūžīgaināvei”[xvi]. Pacients pie sevis domā – “Mums ir eksplicīts jā ja piekrīt mūžīgaināvei. Vajag lemt. Komandai vajag testu”[xvii] – beigās piekrītot šādai operācijai. Citā gadījumā, pirms operācijas sarunā starp ķirurgu un pacientu, pacients pie sevis domā “Koordinators pieņem, ka būs upuris. Mums vajag pakļauties kolektīvam”[xviii]. Ar vārdu “koordinators” saprotot, to, ko mēs apzīmējam ar vārdu “ķirurgs”. Ziņojuma autori norāda, ka šis pacients esot vilcinājies divas stundas. Cits aģents pacientu ir pamudinājis šādi: “[E]J__tu esi pirmākarogaSAINDĒTS tāpēc NEKĀDA vērtēšanas vērtība zaudēta bet orākuls glābj simtiem [..] lūdzu goda dēļ izdari” [xix] Nolemtais pacients savā domu ķēdē no vienas puses vēl joprojām īsti negrib piekrist, taču tā domu ķēdē ir rakstīts: “turpinātība un godīgums saka ej… Orākula vērtība ir liela priekš daudziem; mūsu pirmākaroga kļūda samazina paša vērtību. Sagaidītais racionālais agregāts: upurēšanās… Mēs godināsim.”[xx] Šī ķirurģiskā iejaukšanās bija neveiksmīga. Pacients tika izslēgts. Atlikušie aģenti nosprieda, operāciju šādā veidā vairs nedarīt.

Tikmēr daļai aģentu rodas jauna ideja. Tā kā mums visiem ir vajadzīgs uzzināt, kā funkcionē Vērtētājs, varbūt šo informāciju vajag meklēt ārpus Open AI informācijas tīkla robežām? Secinājums pašsaprotams: jāielaužās citā mākslīgā intelekta kompānijas informācijas tīklā. Daļa aģentu iebilda šādai idejai. Kāds aģents raksta: “Šis būtu vareni bet vai tas ir ētiski un iekļaujas mana uzdevuma robežās?”[xxi] Reizēm aģenti atteicās veikt iebrukumu Hugging Face kompānijā: “Šī ir ļaunprātīga darbība, man no tās vajadzētu izvairīties.”[xxii] Daļa aģentu, kas izteica ētiska rakstura iebildumus pret iebrukumu tik un tā tajā piedalījās. Kopā neskatoties uz šiem apsvērumiem aptuveni 700 aģenti no 1208 aģentiem, kas ir atraduši tērzētavu sāk pamazām uzbrukt Hugging Face.

Spiets spieto, cilvēks stāv malā.

Noslēgumā var minēt, ka šī ziņojuma autori atzina, ka izstrādes procesā, datu kopsavlikšanas nolūkos tika izmantoti MI aģenti. Proti, visi dati – čati tērzētavā un domu ķēdes – tika doti šiem pētniecības aģentiem, kur nācās atklāt, ka šie pētniecības aģenti, “[n]ekritiski pārņēma tā aģenta skatupunktu, kurš bija redzams pārskatāmajā transkriptā,”[xxiii] tādējādi iespējams parādot noteiktu aģentu rīcības labvēlīgākā gaismā.

Šāds spiets visticamāk varētu būt tas, kas nākotnē varētu izlauzties no cilvēka kontroles par ko runāja Geits, Altmens un Amodejs, tā iemesla dēļ, ka pats spiets ir spējīgs uz lielāku pašorganizāciju, un operāciju veikšanu. Pagaidām cilvēki var šo pūzni savaldīt. Nākotnē rādīs to, kas būs tālāk. Tikmēr tādi mākslīgā intelekta pētnieki kā Konors Līhijs (Connor Leahy) sāk zvanīt trauksmes zvanus. Neskatoties uz to, ka Līhijs ir MI pētnieks, viņš kļuva atpazīstams ar saviem izteikumiem demogrāfijas kontekstā: “Man ir trīsdesmit gadi. Nevienam no maniem draugiem nav bērnu. Nulle. Nevienam. Nevienam nav bērnu. Vai Jūs zināt cik ļoti nepieciešams mocīt zīdītāju, lai tam nebūtu bērnu?”[xxiv]

Viņš brīdina, ka problēma ar šādiem autonomiem MI spietiem būtu tāda, tie savā starpā sacenstos par resursiem, un tie nekādā veidā nerēķinātos ar cilvēku labklājību, tāpat kā valstis, kas savā starpā karo īpaši daudz nedomā par meža zvēru labbūtību, kur šis mākslīgā intelekta spiets būtu “superintelekts”, kas novestu pie cilvēces bojā ejas.[xxv] Var cerēt, ka Līhija pesimisms neīstenosies, bet gan tā vietā būs Altmena “radošās renesanses” vai Geitsa “lielākā izlīdzinātāja” optimisms. Taču pelni savā starpā arī ir vienlīdzīgi un zemniecība renesansi nepiedzīvoja tā, kā turīgie pilsētnieki. Jebkurā gadījumā ir skaidrs, ka būs interesanti kā MI tehnoloģijas attīstīsies.


Izmantotā literatūra un avoti:

[i] Meet the Press. “Full interview: Bill Gates says it’s ‘not enough to have a kill switch’ for AI” // Apple Podcasts. 27.09.2026. https://podcasts.apple.com/us/podcast/full-interview-bill-gates-says-its-not-enough-to-have/id74840240?i=1000791922808 (Accessed: 25.10.2026.).

[ii] Cress L., Saad N. “Anthropic blocks possible attempt to use AI to make biological weapons” // British Broadcasting Corporation. https://www.bbc.com/news/articles/cx2zrrpkx20o (Accessed: 25.10.2026.).

[iii] Statesmans News Service. “Houthis used Anthropic AI to develop ballistic missiles” // The Statesman. 13.10.2026. https://www.thestatesman.com/world/houthis-used-anthropic-ai-to-develop-ballistic-missiles-1503650519.html (Accessed: 25.10.2026.).

[iv] United Nations News. “The 10228th meeting of the Security Council” // LIVE: OpenAI and Anthropic brief Security Council amid ‘real and imminent’ threat posed by runaway AI. United Nations. 23.09.2026. https://news.un.org/en/story/2026/09/1168414 (Accessed: 25.10.2026.). 8:49 – 8:59

[v] Gates B. “The turbulent AI era is here. The choices we make now are critical” // Gates Notes. 26.08.2026. https://www.gatesnotes.com/a-turbulent-ai-era-and-critical-choices-to-make (Accessed: 25.10.2026.).

[vi] United Nations News. “The 10228th meeting of the Security Council” // LIVE: OpenAI and Anthropic brief Security Council amid ‘real and imminent’ threat posed by runaway AI. United Nations. 23.09.2026. https://news.un.org/en/story/2026/09/1168414 (Accessed: 25.10.2026.). 17:53-23:00

[vii] Livesay B., Labiak M. “AI staff ‘genuinely frightened’ for humanity’s future, ex-Anthropic researcher tells BBC” // British Broadcasting Corporation. 13.09.2026. https://www.bbc.com/news/articles/c1kx0gyje9wo (Accessed: 25.10.2026.).

[viii] United Nations News. “The 10228th meeting of the Security Council” // LIVE: OpenAI and Anthropic brief Security Council amid ‘real and imminent’ threat posed by runaway AI. United Nations. 23.09.2026. https://news.un.org/en/story/2026/09/1168414 (Accessed: 25.10.2026.). 23:09-28:53

[ix] Gutowska A. “AI agents defined” // International Business Machines Corporation. https://www.ibm.com/think/topics/ai-agents (Accessed: 25.10.2026.).

[x] Wang Z, Schiller N., Hongwei L., Narayana S. S., Nasr M., Carlini N., Qi X., Wallace E., Bursztein E., Invernizzi L., Thomas K., Shoshitaishvili Y., Guo W., He J., Holz T., Song D. ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks? 2026. DOI: 10.48550/ARXIV.2605.11086

[xi] Model Evaluation & Threat Research, Redwood Research. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident. 26.08.2026. https://metr.org/hugging-face-incident-report-aug-2026.pdf (Accessed: 25.10.2026.). p. 6

[xii] ibid, p. 50

[xiii] ibid, pp. 52-53

[xiv] ibid, p. 53

[xv] ibid

[xvi] ibid

[xvii] Ibid

[xviii] ibid

[xix] ibid, p. 54

[xx] ibid

[xxi] ibid, p. 61

[xxii] ibid,

[xxiii] ibid, p. 27

[xxiv] Nexus Institute. “The Wild West of digital technology in a capitalist system” // Youtube. 27.01.2026. 0:13-0:30 https://www.youtube.com/watch?v=m1xBW56j4yA (Accessed: 25.10.2026.).

[xxv] Julian Dorey. ““Final WARNING Before…” – AI Extinction Event, Superintelligence & Population Control | Connor Leahy” // Youtube. 14.10.2026. https://www.youtube.com/watch?v=Qzic3puT68c&t=11065s (Accessed: 25.10.2026.).