Bezpieczeństwo i dostęp do danych: Czy Agent AI zachowa tajemnice Twojej firmy?

Zanim przejdę do technicznych aspektów wdrażania agentów w firmie, podzielę się pewną historią, która idealnie obrazuje, dlaczego temat sztucznej inteligencji budzi dziś tyle skrajnych emocji.

Niedawno rozmawiałem ze znajomym, pasjonatem religioznawstwa, który mocno eksplorował ten temat z pomocą ChatGPT. Znajomy słyszał, że w jego mieście działa grupa osób, która od kilkunastu miesięcy pracuje nad książką o interesującym go zagadnieniu. Zapytał o to chat. W odpowiedzi sztuczna inteligencja nie tylko powołała się na zapisy z tej książki, ale nawet podała konkretne cytaty i jej numer ISBN. Znajomy, zaintrygowany, skontaktował się z wydawnictwem. Okazało się, że książka jeszcze nie została wydana.

Jak to się stało, że AI znało fragmenty jej treści?

Jako osoby pracujące z technologią, nie musimy szukać teorii spiskowych o tym, że AI „włamało się” na komputery autorów. Mamy tu do czynienia z dwoma wysoce prawdopodobnymi scenariuszami:

1. Wyciek w fazie tworzenia: Ktoś z zespołu redakcyjnego mógł korzystać z darmowych, publicznych wersji narzędzi AI do korekty tekstu lub tłumaczeń. W publicznych modelach wprowadzane dane mogą stawać się częścią zbiorów treningowych, a model po prostu to „zapamiętał”.
2. Klasyczna halucynacja: Modele językowe (LLM) to w uproszczeniu potężne silniki statystyczne przewidujące kolejne słowa. Kiedy zapytasz je o wysoce specyficzną, niszową rzecz (jak lokalna publikacja, o której znajomy mógł wspomnieć w prompcie), model potrafi wygenerować niesamowicie wiarygodnie brzmiące tytuły, „cytaty”, a nawet wygenerować losowy, poprawny matematycznie numer ISBN, który nie istnieje w żadnym rejestrze. AI po prostu niezwykle pewnie siebie zmyśla, chcąc zadowolić użytkownika.

Ta anegdota to idealne podsumowanie obaw każdego Dyrektora Finansowego czy Prezesa. Skoro publiczne AI potrafi „wyciągnąć” informacje o niewydanej książce lub zmyślać z pełnym przekonaniem, to skąd mam pewność, że nie zrobi tego samego z moimi fakturami i umowami NDA?

Odpowiedź brzmi: publiczne AI tego nie zagwarantuje. Ale zamknięte środowisko orkiestracji – już tak.

Oto najważniejsze zasady, na które musisz zwrócić uwagę, podłączając agentów do procesów i dokumentów w Twojej organizacji.

Kontekst użytkownika: Agent nie jest wszechwiedzący

Największym mitem dotyczącym wdrożeń sztucznej inteligencji w biznesie jest przekonanie, że „AI musi przeczytać całą firmę, żeby być mądre”. To błąd, który prowadzi do katastrofy bezpieczeństwa.

W profesjonalnych systemach, takich jak JobRouter, agent AI działa jako cyfrowy asystent przypisany do konkretnego zadania i dziedziczy dokładnie takie same uprawnienia do danych, jak pracownik, którego zastępuje lub wspiera.

• Jeśli pracownik Działu Obsługi Klienta uruchamia agenta, aby przeanalizował treść reklamacji, ten agent ma dostęp wyłącznie do bazy reklamacji. Nie odczyta dokumentacji kadrowej, wynagrodzeń zarządu ani strategicznych umów.
• Zasada najniższych przywilejów (Zero Trust) obowiązuje cyfrowego pracownika tak samo, jak człowieka.

Strażnik Bramy: Jak JobRouter filtruje dostęp do danych

Aby zrozumieć, dlaczego wyciek danych jest niemożliwy w odpowiednio zaprojektowanej architekturze, musimy spojrzeć „pod maskę”. Kluczowym elementem systemu nie jest wcale sam duży model językowy (LLM), ale Filtr, który stoi między nim a Twoimi danymi.

W architekturze zorientowanej na agentów (Agentic AI), proces wygląda następująco:

1. Agent otrzymuje zadanie w procesie (np. weryfikacja faktury).
2. Zgłasza zapotrzebowanie na narzędzia lub dane (np. przeszukanie bazy kontrahentów).
3. Zanim zapytanie trafi do systemu, przechodzi przez Kluczowy Filtr (Zarządzanie Kontekstem i Uprawnieniami). To on weryfikuje, czy ten konkretny agent w tym konkretnym kroku ma prawo zadać to pytanie.
4. Do modelu LLM wysyłany jest wyłącznie wyselekcjonowany, anonimizowany wycinek informacji potrzebny do podjęcia decyzji tu i teraz. AI „nie uczy się” na Twoich danych, ono je tylko na ułamek sekundy przetwarza w zamkniętym kontenerze.

Wniosek: Filtr to absolutny fundament bezpieczeństwa. Gwarantuje on, że agent nie ma bezpośredniego złącza z bazą danych (np. SQL), a jedynie prosi orkiestratora o niezbędne strzępki informacji.

Twoje dane zostają w Europie (Przetwarzanie w EOG)

Organizacje często obawiają się, że korzystanie z najpotężniejszych modeli na świecie oznacza wysyłanie umów na serwery za oceanem, gdzie mogą zostać wykorzystane do trenowania kolejnej wersji publicznego ChatGPT.

Przy wdrożeniach klasy korporacyjnej (Enterprise) korzystamy z wydzielonych usług chmurowych, które gwarantują, że:

• Przestrzeń obliczeniowa znajduje się fizycznie na serwerach w Europejskim Obszarze Gospodarczym (EOG).
• Umowa SLA i regulacje RODO wprost zakazują operatorowi chmury wykorzystywania wprowadzanych przez Ciebie danych (tzw. promptów) i załączników do trenowania publicznych modeli.
• Po przetworzeniu zadania (np. wyciągnięciu danych z faktury), informacje są usuwane z pamięci modelu.

Dylemat dyrektorów IT: LLM On-Premise. Czy warto?

Z obawy przed chmurą, wiele firm rozważa uruchomienie lokalnych modeli LLM na własnych serwerach fizycznych (tzw. instalacje On-Premise), aby całkowicie odciąć system od Internetu. Czy to dobry kierunek?

W 95% przypadków: Nie. Zbudowanie i utrzymanie infrastruktury serwerowej pod lokalne LLMy (wymagające potężnych kart graficznych) to gigantyczny wydatek. Ponadto, modele open-source uruchamiane lokalnie często ustępują pod względem precyzji i zdolności „rozumowania” topowym rozwiązaniom komercyjnym.

Zamiast budować kosztowną twierdzę we własnej serwerowni, znacznie bezpieczniej i oszczędniej jest wykorzystać dobrze skonfigurowaną, prywatną chmurę korporacyjną z silnym Filtrem w warstwie orkiestratora, takiego jak JobRouter. Rozwiązania On-Premise mają uzasadnienie biznesowe tylko w przypadku bardzo nielicznych, ściśle regulowanych sektorów (np. przemysł zbrojeniowy czy badania nad nowymi lekami), gdzie polityka bezpieczeństwa całkowicie wyklucza chmurę publiczną.

Podsumowanie

Strach przed sztuczną inteligencją w biznesie bierze się z doświadczeń z jej darmowymi, publicznymi odpowiednikami. Wdrożenie agentów AI w platformie workflow to zupełnie inny świat. Dajesz im narzędzia i dostęp do informacji, ale to JobRouter stoi na straży tego, które szuflady i w jakim kontekście cyfrowy pracownik może otworzyć.

Bezpieczne wdrożenie AI nie zaczyna się od samego modelu, lecz od uporządkowanych procesów, kontroli dostępu i warstwy orkiestracji, która zarządza przepływem informacji. To właśnie na tym opiera się inteligentna automatyzacja procesów biznesowych z AI, łącząca workflow, dokumenty, reguły biznesowe i agentów AI w jednym środowisku.

Jeśli chcesz zobaczyć, jak wygląda to w praktyce – od automatyzacji obiegu dokumentów po orkiestrację agentów AI w firmie – więcej na ten temat opisujemy tutaj: inteligentna automatyzacja procesów z JobRouter.

Skoro wiemy już, że agenci mogą pracować bezpiecznie, pojawia się pytanie: jak technicznie zmusić model językowy, aby szukał odpowiedzi w naszych firmowych dokumentach, a nie „zmyślał” ich jak w przypadku wspomnianej na początku książki? O tym porozmawiamy w ósmym artykule, gdzie rozłożymy na czynniki pierwsze koncepcję RAG (Retrieval-Augmented Generation) i serwery MCP.