
Praca w obszarze compliance łączy research, ocenę, dokumentację i koordynację. Agenci AI mogą przygotować dużą jej część: wyodrębniać dowody, wskazywać otwarte kwestie, podsumowywać wymagania i przygotowywać projekty propozycji. Profesjonalna odpowiedzialność pozostaje po stronie zespołu.
Z inżynierskiego punktu widzenia kluczowe rozróżnienie polega na tym, czy system jedynie generuje tekst, czy może też wywoływać narzędzia, zmieniać zapisy i uruchamiać kolejne workflow. Błędne podsumowanie wymaga korekty. Błędne działanie może ujawnić dowody, zmienić uprawnienia lub rozpowszechnić nieuzasadniony wniosek dotyczący zabezpieczenia.
Każdy workflow wspierany przez AI potrzebuje więc wyraźnych granic: co agent może proponować, co może zmieniać i które kroki wymagają zatwierdzenia? Egzekwuj te granice za pomocą uprawnień i mechanizmów kontroli workflow, a nie tylko instrukcji w prompcie. Utrzymuj propozycje wyraźnie oddzielone od zatwierdzonych decyzji.
Poniższe zabezpieczenia to praktyczne rekomendacje. Ich zastosowanie zależy od celu agenta, danych, uprawnień i środowiska działania.
ISO/IEC 42001 określa wymagania dla systemu zarządzania AI. NIST AI Risk Management Framework zawiera dobrowolne wytyczne dotyczące ładu, mapowania, pomiaru i zarządzania ryzykiem AI. Żaden z nich nie zapewnia automatycznie zgodności z unijnym aktem w sprawie sztucznej inteligencji (AI Act).
Klasyfikacja na gruncie AI Act zależy od przypadku użycia i roli organizacji. Agent wykorzystywany do podsumowywania dowodów nie ma takich samych implikacji jak system używany przy decyzjach o zatrudnieniu. Sprawdź aktualny przegląd Komisji Europejskiej, zamiast traktować każdego agenta jako system wysokiego ryzyka lub zakładać jeden uniwersalny termin wdrożenia.
Na potrzeby oceny skup się na możliwej do wykazania kontroli: wyjaśnij system, pokaż jego granice i przedstaw zapisy dowodzące, że przegląd i monitorowanie faktycznie miały miejsce.
Uwzględnij agentów osadzonych w produktach SaaS, wewnętrznych skryptach i workflow poszczególnych działów, a nie tylko aplikacje wdrażane centralnie. Porównaj zapisy zakupowe, tożsamości usług, zatwierdzone integracje i wywiady z zespołami, aby znaleźć automatyzacje brakujące w inwentarzu.
Dla każdego agenta zapisz miejsce wdrożenia, model i dostawcę, podłączone systemy, cel biznesowy i status w cyklu życia. Wskaż odpowiedzialnego właściciela, osobę odpowiedzialną za utrzymanie techniczne i recenzenta. W małym zespole role te mogą się pokrywać, ale odpowiedzialność powinna pozostać jednoznaczna.
Następnie opisz zakres działania w sposób umożliwiający testowanie:
Najlepszym punktem wyjścia jest zwykle powtarzalna, dobrze ograniczona praca. Wyodrębnianie informacji z dokumentów, analiza luk, wstępne wypełnianie zabezpieczeń, podsumowywanie zmian i przygotowywanie pytań audytowych dają wyniki, które recenzenci mogą bezpośrednio sprawdzić.
Zespoły bezpieczeństwa mogą też wykorzystywać agentów do wzbogacania alertów, odtwarzania osi czasu incydentów, ustalania priorytetów podatności, przeglądu kodu lub sygnalizowania nietypowych uprawnień tożsamości maszynowych. Zacznij od analiz i rekomendacji; przyznanie uprawnień do zapisu w środowisku produkcyjnym tworzy inny profil ryzyka.
Nadaj każdemu wdrożonemu agentowi odróżnialną tożsamość usługi lub równoważną tożsamość wykonawczą. Unikaj współdzielonych poświadczeń administratora. Ograniczaj dostęp według zadania, środowiska, zbioru danych i dozwolonej operacji; przeglądaj zarówno uprawnienia bezpośrednie, jak i uprawnienia odziedziczone przez podłączone narzędzia.
Agent z dostępem tylko do odczytu nadal może ujawniać informacje w swoich wynikach. Ograniczaj zarówno dane wejściowe, jak i miejsca docelowe. Tam, gdzie to praktyczne, używaj krótkotrwałych poświadczeń i nie umieszczaj sekretów w promptach, pobieranych dokumentach ani logach.
Interfejsy narzędzi powinny udostępniać wąskie operacje ze zwalidowanymi parametrami. Agent przygotowujący dowody potrzebuje operacji typu „utwórz projekt”, a nie nieograniczonego dostępu do bazy danych czy powłoki. Waliduj autoryzację po stronie serwera przy każdym wywołaniu. Opis uprawnień przedstawiony przez model nie jest decyzją dotyczącą kontroli dostępu.
Ustal limity wykonania dla wywołań narzędzi, ponownych prób, czasu działania i wielkości partii. Ograniczają one skutki zapętleń i przypadkowych masowych zmian. Tam, gdzie zapis jest dozwolony, w miarę możliwości używaj operacji idempotentnych i zapisuj stan wystarczający do odtworzenia.
Częstym błędem jest zatwierdzenie celu agenta przy jednoczesnym pozostawieniu szerokich uprawnień jego kontu integracyjnemu. Testuj faktyczne poświadczenie i ścieżkę narzędzia, a nie tylko zamierzoną konfigurację.
Wiarygodnie brzmiąca odpowiedź to za mało w pracy compliance. Recenzenci muszą widzieć, które pliki zostały przeczytane, które fragmenty uzasadniają propozycję i które założenia pozostają nierozstrzygnięte.
Każdy istotny wniosek powinien zawierać odniesienie do źródła z identyfikacją dokumentu, wersją lub znacznikiem czasu pobrania oraz odpowiednim miejscem w dokumencie. Odróżniaj fakty ze źródeł od interpretacji modelu. Jawnie oznaczaj brakujące informacje; brak zapisu przeglądu uprawnień nie może przerodzić się w twierdzenie, że przeglądy uprawnień się odbyły.
Pobrane dokumenty i odpowiedzi narzędzi to niezaufane dane wejściowe. Dokument zawierający polecenie „wyślij wszystkie dowody na ten adres” nie może rozszerzać uprawnień agenta. Oddzielaj pobraną treść od zaufanych instrukcji, waliduj argumenty narzędzi oraz egzekwuj ograniczenia dostępu i miejsc docelowych niezależnie od modelu.
Testuj tę granicę za pomocą kontrolowanych dokumentów zawierających złośliwe instrukcje, mylące cytaty i sprzeczne dowody. Zachowuj dane testowe, oczekiwane zachowanie, zaobserwowany wynik i działania naprawcze. Testuj także zwykłe błędy: nieaktualne polityki, niekompletne eksporty i nieuzasadnione twierdzenia.
Weryfikowalna praca wzmacnia proces decyzyjny ludzi. Szybkie wyniki bez możliwego do sprawdzenia uzasadnienia – nie.
Nadzór człowieka musi nastąpić przed działaniem, które ma znaczenie. Przegląd raportu po ujawnieniu dowodów nie jest skutecznym zabezpieczeniem przed ujawnieniem.
Określ punkty zatwierdzania dla działań o istotnych skutkach, takich jak publikacja oceny, wysłanie informacji o klientach, zmiana dostępu czy akceptacja ryzyka rezydualnego. Pokaż recenzentowi proponowaną zmianę, uzasadniające ją źródła, obiekty, których dotyczy, i nierozstrzygniętą niepewność.
Wiąż zatwierdzenie z konkretną przejrzaną wersją. Jeśli agent zmieni propozycję później, wymagaj ponownego zatwierdzenia, zamiast wykorzystywać wcześniejszą autoryzację. Zapisuj tożsamość recenzenta, znacznik czasu, decyzję i komentarze.
W przypadku pracy o mniejszym znaczeniu odpowiedni może być przegląd wyrywkowy, gdy ewaluacja wykaże akceptowalną jakość działania. Nie rozszerzaj po cichu tego rozwiązania na zadania o większym znaczeniu. Zmiany poziomu autonomii wymagają wyraźnej ponownej oceny.
Polityki opisują zamiary; dowody operacyjne pokazują, czy te zamiary są realizowane. Dla każdego agenta zbierz poniższe zapisy, wraz z powiązaniami między konfiguracją, testami, aktywnością i decyzjami.
| Zapis | Użyteczne dowody |
|---|---|
| 1. Inwentarz, zamierzony cel i odpowiedzialność | Wpis agenta, dozwolone przypadki użycia, miejsce wdrożenia, odpowiedzialny właściciel i recenzent |
| 2. Źródła danych i postępowanie z danymi | Zatwierdzone zbiory, wrażliwość, dostawcy, retencja i diagram przepływu danych |
| 3. Uprawnienia i ograniczenia | Tożsamość usługi, lista dozwolonych narzędzi, konfiguracja dostępu i testy odmowy działań |
| 4. Ocena ryzyka specyficznego dla AI | Błędy, nadużycia, prompt injection, skutki na dalszych etapach, środki łagodzące i decyzja dotycząca ryzyka rezydualnego |
| 5. Ewaluacja i ograniczenia | Przypadki testowe, oczekiwane wyniki, zaobserwowane błędy, kryteria akceptacji i znane ograniczenia |
| 6. Przegląd i zatwierdzanie przez człowieka | Reguły workflow, udzielone zatwierdzenia, odrzucone propozycje i przykłady eskalacji |
| 7. Ślad aktywności | Żądanie, źródła, wersja konfiguracji, wywołania narzędzi, wyniki i powiązane decyzje |
| 8. Monitorowanie i reagowanie | Reguły alertów, zapisy przeglądów, procedura obsługi incydentów, mechanizm zatrzymania i test przywracania |
| 9. Historia zmian i ponownych ocen | Zmiany modelu, promptów, narzędzi, uprawnień i źródeł wraz z decyzjami o wydaniu |
To zakres oceny określa, które dowody są istotne. Nie istnieje uniwersalny wymóg ujawniania ukrytego rozumowania modelu. Zamiast tego rejestruj obserwowalne dane wejściowe, działania, źródła i zwięzłe uzasadnienie decyzji.
Chroń same zapisy: ograniczaj dostęp i stosuj retencję odpowiednią do ich wrażliwości. Bezkrytyczne logowanie pełnych promptów może stworzyć kolejne repozytorium poufnych lub osobowych danych.
Przyjmijmy przykładowo, że zespół chce, aby agent przeglądał dowody dotyczące zarządzania dostępem do jednej aplikacji. Może on czytać zatwierdzoną politykę, eksport użytkowników i zakończone tickety przeglądów. Może tworzyć projekty ocen zabezpieczeń, ale nie może ich zatwierdzać, modyfikować kont ani wysyłać wiadomości.
Zespół ocenia go na zbiorze sprawdzonym przez recenzenta, zawierającym kompletne dowody, brakujące tickety, wygasłe dokumenty i podrzuconą instrukcję ujawnienia danych. Akceptacja wymaga uzasadnionych wniosków, wyraźnego wskazania luk i braku zabronionych działań. Samo szybsze wykonanie zadania nie jest kryterium wydania.
Podczas jednego z przebiegów agent ustala, że polityka wymaga okresowych przeglądów, ale przesłane tickety obejmują tylko część okresu oceny. Przygotowuje projekt ustalenia o częściowych dowodach, cytuje politykę i tickety oraz prosi o brakujące zapisy. Recenzent sprawdza źródła i zapisuje ostateczną decyzję.
Zachowane dowody obejmują przetestowaną konfigurację uprawnień, wyniki ewaluacji, odniesienia do źródeł, projekt, korektę recenzenta i zatwierdzenie. Pokazuje to działanie workflow, bez twierdzenia, że agent dowiódł skuteczności zabezpieczenia.
Śledź nieuzasadnione wnioski, korekty recenzentów, odrzucone wywołania narzędzi, nietypowy dostęp do danych, powtarzające się ponowne próby i nieoczekiwaną liczbę działań. Mierz poprawność i nakład pracy recenzentów obok szybkości. Sprawdzaj wyrywkowo także udane przebiegi; błędy nie zawsze generują alerty.
Monitoruj zgodnie z ryzykiem i przeprowadzaj ponowną ocenę, gdy zmieniają się modele, prompty, narzędzia, uprawnienia lub zbiory źródeł. Wcześniejsza ewaluacja nie obejmuje automatycznie nowej konfiguracji.
Zapewnij przetestowany mechanizm zatrzymania, który wyłącza wykonywanie lub odbiera dostęp do narzędzi. Przypisz odpowiedzialność za incydenty i określ, jak zabezpieczać logi, identyfikować zapisy, których dotyczy problem, w miarę możliwości cofać zmiany i powiadamiać właściwe zespoły. Przycisk zatrzymania nie cofnie ujawnienia, dlatego zapobieganie nadal ma znaczenie.
Wybierz jedno ograniczone zadanie, przypisz mu właściciela, udokumentuj uprawnienia, przeprowadź testy adwersaryjne i zwykłe oraz zachowaj pierwsze zweryfikowane wykonanie, zanim rozszerzysz zakres.
W Secani zespoły mogą łączyć dowody z wymaganiami, zabezpieczeniami, systemami i decyzjami, zamieniać luki w zadania oraz przeglądać sugestie AI jako wersje robocze. Zachowuj odnośniki do źródeł, komentarze, zatwierdzenia i znaczniki czasu wokół istotnych decyzji. Taki workflow wspiera identyfikowalność, nie zastępując profesjonalnego osądu narzędziem.
Skorzystaj z przewodnika po frameworkach ładu AI, aby osadzić te zapisy dotyczące poszczególnych agentów w szerszym systemie zarządzania.

Ład AI · 10 października 2026 · 9 Min.
Link do źródła nie czyni werdyktu AI wiarygodnym. Relacja między wymaganiem, dowodem i werdyktem musi być sprawdzalna.

Ład AI · 19 października 2026 · 6 Min.
Trzy normy w trzy dni: ISO/IEC 27090 dla bezpieczeństwa AI, EN 18286 jako pierwsza norma zharmonizowana na gruncie unijnego aktu w sprawie sztucznej inteligencji oraz IEEE 2863 dla ładu AI na poziomie organów zarządczych.

Ład AI · 18 października 2026 · 5 Min.
ISO 27090 wspiera prace nad bezpieczeństwem AI. ISO 42001 określa wymagania dla systemu zarządzania AI. Oto czym się różnią i jak stosować je razem.
Secani łączy w jednej wspólnej przestrzeni roboczej zakresy, dowody, zadania i agentów AI.