Agentizácia · v ostrej prevádzke
Jedna brána, všetky modely, žiadne shadow AI
Situácia
Modely od siedmich rôznych poskytovateľov, niekoľko aplikácií, ktoré ich chcú — a predvolený výsledok: kľúče nakopírované všade, kde bolo treba, žiadny rozpočet, žiadny audit, žiadna predstava o tom, čo odchádza z budovy.
Čo sme urobili
Všetko ide cez LiteLLM. Dvadsaťosem ciest k modelom, kľúče vydané na projekt a viazané na konkrétne modely, rozpočty na projekt, stopa o tom, čo kam odišlo. Lokálne modely bežia na Ollame na vlastnej karte — vrátane bge-m3, ktorý počíta embeddingy pre vyhľadávanie v slovenčine za nejakých stopäťdesiat milisekúnd, takže dokumenty, v ktorých sa hľadá, nikam neodchádzajú. Nad tým agenti, ktorí prácu rovno vykonajú: bežia na pravidelnom rozvrhu, bez dozoru, čítať smú všetko, zapísať až po potvrdení.
Výsledok
Každá aplikácia klope na jedny dvere. Vymeniť poskytovateľa znamená zmeniť konfiguráciu, nie prehrabávať repozitáre. A na otázku „čo sme komu poslali“ existuje odpoveď — presne na tú sa totiž pýta audítor.
Čo nás to naučilo
Skôr než to išlo naostro, dali sme vlastný návrh na adversariálne review štyrom expertom. Našli cestu, ktorou mohol agent vyniesť vlastné prihlasovacie údaje, a overili, že naozaj funguje — v našom nástroji, na ktorý sme sa práve chystali spoľahnúť. Opravili sme to, fix overili a sandbox okolo utiahli: default-deny egress, read-only súborový systém, odobraté právomoci. Poučenie platí všeobecne: allowlist nástrojov, ktorý stráži schopnosť, ale nestráži cestu, je celá trieda zraniteľností. Odvtedy predpokladáme, že každé „prečítaj“ znamená „prečítaj čokoľvek“. Tú dieru u nás nenašiel nikto cudzí. Našli sme ju my, vo vlastnom návrhu, skôr než stihla niečo znamenať.
Ako to vyzerá u vás
Vaši vývojári už teraz lepia kód do chatovacieho okna — len to nevidíte. Jedna brána, kľúče pre každý tím, rozpočty, audit log a citlivá robota pripnutá na model, ktorý zostane vnútri. Prvý krok býva dvojtýždňový audit s písomným verdiktom.