Sljedeća faza primjene umjetne inteligencije u poslovnom okruženju postaje pitanje arhitekture, a ne samo pitanje modela. Tvrtka Anthropic je 1. rujna 2026. najavila „Enterprise Frontier Safeguards” – planirani sustav koji kombinira pristup bez pohrane podataka s automatiziranim nadzorom, uz istovremeno zadržavanje podataka o aktivnostima unutar infrastrukture pod kontrolom klijenta.
Ova je objava važna jer se regulirane organizacije često suočavaju s teškim izborom. Žele moćne modele za pisanje koda, istraživanje i operativne zadatke, no istovremeno trebaju jasnu kontrolu nad osjetljivim zapisima, ključevima za enkripciju i ljudskim pristupom. Novi dizajn nastoji razdvojiti te aspekte: Anthropic provodi automatizirano otkrivanje, dok klijent zadržava podatke i odlučuje kako će se postupati s označenim događajima.
Što arhitektura mijenja
Tri su elementa ključna za prijedlog:
- Pohrana u vlasništvu klijenta. Zapisi o aktivnostima ostaju u vlastitom okruženju u oblaku same organizacije.
- Ključevi za enkripciju kojima upravlja korisnik. Organizacija upravlja ključevima koji štite pohranjene podatke.
- Automatizirani sigurnosni nadzor. Sustavi analiziraju podatke o prometu u pomičnom vremenskom razdoblju kako bi otkrili obrasce povezane s ozbiljnom zlouporabom, uključujući ofenzivne kibernetičke ili biološke aktivnosti te moguću krađu vjerodajnica.
Prema navodima tvrtke Anthropic, označeni sadržaj prosljeđuje se timu klijenta i ne zahtijeva pregled od strane zaposlenika tvrtke Anthropic. Kontrole se aktiviraju prema izboru korisnika i namijenjene su upotrebi kako putem izravnog pristupa, tako i na podržanim računalnim platformama u oblaku.
To se razlikuje od pukog obećanja da se upiti neće koristiti za treniranje modela. Lokacija podataka, čuvanje ključeva, zadržavanje podataka i odgovor na incidente zasebna su operativna pitanja. Korisna kontrola na razini poduzeća mora definirati sve četiri stavke.
Zašto automatizirani nadzor nije potpuno rješenje
Otkrivanje obrazaca može pomoći u prepoznavanju ponašanja koje se odvija tijekom više sesija ili putem više računa. Međutim, to ne jamči da će svaka štetna radnja biti prepoznata. Sustavi za otkrivanje mogu propustiti nove obrasce, generirati lažne uzbune ili izgubiti kontekst kada se aktivnost odvija izvan nadziranog područja.
Kontrola od strane korisnika ujedno prenosi i odgovornost. Ako upozorenja ostaju unutar korisničkog okruženja, toj su organizaciji potrebni obučeni timovi za reagiranje, pravila pristupa i revizijski trag. Upozorenje koje nitko ne pregledava nije učinkovita mjera zaštite.
Stoga ovu objavu valja promatrati kao prikaz arhitektonskog usmjerenja, a ne kao neovisan dokaz o učinkovitosti u stvarnim uvjetima. Iz tvrtke Anthropic navode da je sustav razvijen u suradnji s više od 100 klijenata, no podaci o primjeni u praksi, stope lažno pozitivnih rezultata i vanjske evaluacije još nisu dostupni.
Praktičan popis za provjeru za timove
Prije povezivanja naprednog modela s osjetljivim poslovima, organizacije bi se trebale zapitati:
- Gdje se pohranjuju upiti, izlazni podaci i zapisnici praćenja?
- Tko upravlja ključevima za enkripciju i pravilima pristupa?
- Koje radnje model može izvršiti i mogu li se one poništiti?
- Tko prima sigurnosna upozorenja i kakav je postupak reagiranja?
- Kako će se mjeriti lažno pozitivni rezultati i propušteni incidenti?
- Što se mijenja kada se modelu pristupa putem partnera za usluge u oblaku?
Ova su pitanja korisnija od tretiranja pojedinačne oznake privatnosti ili sigurnosne značajke kao jamstva.
Taj Mythic Mode perspektiva
Poslovna umjetna inteligencija prelazi s izoliranih sučelja za razgovor na sustave koji mogu pristupati kodu, dokumentima i operativnim alatima. U takvom se okruženju povjerenje gradi putem jasnih granica: načela najmanjih privilegija, podataka pod kontrolom klijenta, transparentnih radnji i jasne ljudske odgovornosti.
Uvođenje sustava Enterprise Frontier Safeguards planirano je u fazama, uz ciljanu širu dostupnost u kasnu jesen 2026. godine. Iz kompanije Anthropic navode da neće posebno naplaćivati te sigurnosne mehanizme, iako će korisnici možda morati platiti svojem pružatelju usluga u oblaku troškove pohrane, pristupa podacima i njihova prijenosa izvan sustava. Upravo će ti detalji implementacije – kao i neovisni dokazi prikupljeni nakon pokretanja – odrediti hoće li taj koncept postati trajni model ili će ostati tek obećavajući nacrt.