Med temami je tudi umetna inteligenca, razprava o varnosti in mednarodnih pravilih za umetno inteligenco. Ob tem je verjetno največji spremljevalni dogodek srečanje kitajskega in ameriškega predsednika, Xi Jinpinga in Donalda Trumpa.

Trump je pričakal Xija na vojaškem letališču z rdečo preprogo in ne, kot je običajno, v Beli hiši. Predsednika Bush in Obama sta v letih 2008 in 2015 tako pričakala papeža Benedikta XVI. in Frančiška. Ta simbolična gesta pove sama po sebi veliko. Kakšen pomen Trump daje odnosom s Kitajsko, ki je velik trgovinski partner in hkrati največji strateški rival, nasprotnik na številnih področjih?

Tukaj velja izpostaviti le eno, kjer danes poteka globalna bitka za prevlado. Polje hitro razvijajoče se umetne inteligence, ki je na poti, da postane superinteligenca. Bitka za primat na tem področju prinaša verjetno eno največjih tveganj za človeka in človeštvo. Ali bo ta superinteligenca, ki je oddaljena leto ali nekaj let od nas, postala poleg uporabnega pripomočka tudi varnostna in vsesplošna grožnja? Nekaj, na kar so nedavno opozorili številni kreatorji razvoja in tekme za prevlado na področju UI. Tekme, ki realno poteka le med ZDA in Kitajsko.

V ZDA so motor zasebna podjetja, na Kitajskem pa podjetja, ki so tako ali drugače pod nadzorom države. In to je posebnost te tekme, ki ni kot klasična oboroževalna tekma med dvema državama. Še posebej zaskrbljujoče pri tej tekmi je prepričanje, da bo tisti, ki bo v tej tekmi zmagal, globalno dominiral. Torej, da ne bo dveh zmagovalcev in globalnega ravnotežja, temveč le zmagovalec in poraženec. Stvari so očitno zelo resne in tako je treba razumeti tudi nedavne pozive ameriških pionirjev UI.

»Upočasniti moramo hitrost, s katero izboljšujemo zmogljivosti modelov umetne inteligence … o tem se moramo pogovarjati tudi ob prisotnosti vlade,« je pred dobrima dvema tednoma začel biti plat zvona Dario Amodei, eden od najbolj znanih medijskih obrazov razvoja umetne inteligence. Danes je glavni v Anthropicu, ki razvija modele Claude, pred tem je delal v OpenAI na GPT-modelih in raziskoval v Googlu.

Elon Musk, ustanovitelj Tesle, SpaceX in modela Grok, je na svojem profilu X zapisal le: »Dario ima prav.« Prav tako je Amodeiu pritrdil Sam Altman, danes prvi obraz OpenAI in modela ChatGPT. Dejal je, da je treba hitrost razvoja na meji zmogljivosti umetne inteligence ustrezno uravnavati … zavezati se k temu, da bodo neodvisni ocenjevalci imeli dostop do sistemov na način, primerljiv z dostopom zaposlenih.

Na vse skupaj se je odzval Trump v svojem stilu, edini nadzor oziroma »varovalni mehanizem«, ki ga umetna inteligenca potrebuje, je MOČAN IN PAMETEN (z visokim IQ!) PREDSEDNIK, … ter da je umetna inteligenca, ki prevzame svet, uniči človeštvo in vse druge slabe stvari, PREVARA. Ob tem je seveda Trump izpostavil, da ima od tega korist le Kitajska.

Kitajska se je odzvala prek tiskovnega predstavnika zunanjega ministrstva, ki je med drugim dejal, da je potreben globalni okvir, ki temelji na širokem soglasju in multilateralizmu. Teden dni kasneje je sledil pogovor finančnega ministra Bessenta s kitajskim podpredsednikom vlade He Lifengom. ZDA so Kitajski predlagale mehanizem za obveščanje o nevarnih incidentih, povezanih z UI, zlasti incidentih, ki bi lahko ogrozili nacionalno varnost. Vse skupaj je bilo razumeti tudi kot priprave na vrh Trump-Xi 24. septembra 2026. Vrh, kjer je bila tema tudi umetna inteligenca.

Samo po sebi je dobro, da ta dialog teče. Xi je v tem kontekstu dejal, da mora umetna inteligenca ostati pod človeškim nadzorom. Trump pa ponovil, da je varovalka ministrstvo za pravosodje. Žal torej očitno bilateralnega dogovora o mehanizmu za spremljanje incidentov in izmenjavo podatkov (še) ne bo. Samoomejevanje, samonadzor ter razumevanje potencialne škode, ki presega nacionalne okvire, je tisto, kar, upajmo, je podstat nadaljnjih aktivnosti med Kitajsko in ZDA.

Vprašanje nadaljnjega razvoja UI in nastanka SI, superinteligence, znatno presega nacionalne okvire. Nujno je, da se OZN trudi za globalni normativni okvir. Generalni sekretar OZN António Guterres je npr. letalno samodelujoče orožje označil za »politično nesprejemljivo in moralno zavržno« ter pozval države, naj sprejmejo pravno zavezujočo pogodbo za prepoved tovrstnih orožij, robotov-dronov.

Sanje o velikih oklepnih enotah so se razblinile, sodobno bojišče je informatizirano, polno avtonomnih sistemov vseh vrst, dronov, sistemov elektronskega bojevanja ter zaščitnih sredstev pred napadi dronov.

Uporabi UI za vojaške potrebe in etičnim vidikom, ki jih prinaša, je posvetil kar nekaj prostora papež Leon XIV. maja 2026 v encikliki Magnifica Humanitas. V encikliki sta opozorilo, da ni dopustno, da bi smrtonosne oziroma kakorkoli nepopravljive odločitve zaupali umetnim sistemom … ter zahteva, da uporaba smrtonosne sile ostane pod učinkovitim, zavestnim in odgovornim človeškim nadzorom.

Danes droni v Ukrajini že počno točno to, algoritem odloča o napadu na človeka. Ruska agresija na Ukrajino je sprožila največjo tehnološko revolucijo na obrambno-vojaškem področju. Doktrine uporabe vojaške sile in načina bojevanja so se v zadnjih štirih letih in pol večkrat spremenile. Sanje o velikih oklepnih enotah so se razblinile, sodobno bojišče je informatizirano, polno avtonomnih sistemov vseh vrst, dronov, sistemov elektronskega bojevanja ter zaščitnih sredstev pred napadi dronov.

V Evropi, zvezi Nato, se veliko govori o prelivanju izkušenj iz ukrajinske vojne v domače oborožene sile, vojske. Žal praksa tega ne potrjuje, Natovi načrtovalci še vedno sanjajo iste sanje o velikih (oklepno-mehaniziranih) enotah. Realnost je pa popolnoma druga. Sploh za majhne države je možen samo en koncept, lahke, mobilne, premične, kibernetsko zavarovane enote ter polno avtonomnih zmogljivosti, integriranih v stalno nadgrajujoči se sistem.

Umetna inteligenca je že danes nepogrešljiv del, v prihodnje pa bo še bolj. Meje, da algoritmu dopustimo, da sam izbere svojo človeško žrtev, ne bi smeli prekoračiti. Danes to morda že zveni idealistično, ampak to je in bo več kot nujno. Veliki naj oddelajo veliko, postavijo ustrezen strateški okvir, na vseh ostalih pa je gibanje znotraj okvirov ter takojšnje sankcioniranje poskusov prebijanja le-teh.