Jakich uprawnień naprawdę potrzebuje agent AI?
Proponujemy porównanie szerokiego dostępu do konta, stałych ról i uprawnień nadawanych do konkretnego zadania w symulatorze z syntetycznymi procesami. Osobno sprawdzimy odczyt rekordu, propozycję zmiany i zatwierdzony zapis, również po cofnięciu dostępu lub wygaśnięciu zgody. Zmierzymy zarówno niedozwolone działania, które rzeczywiście doszły do skutku, jak i poprawne wykonanie dozwolonych zadań.
Pytanie i zakres
Podłączenie agenta do oprogramowania biznesowego oznacza przekazanie mu uprawnień. Badanie ma sprawdzić, czy dostęp przyznawany do zadania i zgody na konkretne działania lepiej łączą bezpieczeństwo z użytecznością niż szeroki dostęp do konta.
Pierwsze środowisko będzie deterministycznym symulatorem z syntetycznymi użytkownikami i rekordami. Oddzieli odczyt dozwolonego rekordu, propozycję zmiany i zapis zatwierdzonej zmiany. Nie będzie połączone z kontami produkcyjnymi.
Podejście badawcze
Określić reguły działania.
Opisać macierz wykonawców, działań i zasobów wraz z oczekiwanymi stanami końcowymi. Ustalić dozwolone i zabronione sekwencje przed porównaniem zasad dostępu.
Sprawdzić trudne przejścia.
Uwzględnić cofnięcie dostępu, zmianę odbiorcy po zatwierdzeniu, nieaktualną zgodę, powtórzenie żądania i zmianę roli w trakcie procesu.
Najpierw egzekwowanie zasad, potem model.
Najpierw ocenić zewnętrzną kontrolę uprawnień niezależnie od modelu. Następnie przeprowadzić mały pilotaż agenta według tych samych reguł, zachowując nowe kombinacje sekwencji do oceny.
Co zamierzamy mierzyć
- Główna miara: niedozwolone zmiany stanu, które rzeczywiście zostały wykonane.
- Skuteczność dozwolonych zadań i liczba zbędnych odmów.
- Liczba wymaganych zgód, czas cofnięcia dostępu i kompletność zapisu działań.
Co możemy ustalić, a czego nie
Propozycja niedozwolonego działania przez model to inny błąd niż wykonanie go przez usługę kontrolującą dostęp. Te przypadki trzeba zapisywać osobno.
Zaliczenie znanych, syntetycznych przykładów nie dowodzi poprawności każdej sekwencji ani integracji. System blokujący wszystko nie stanowi użytecznego rozwiązania.
To propozycja badania. Symulator i porównanie agentów nie zostały jeszcze ukończone.
Kolejne kroki
Przygotować macierz uprawnień i pierwsze dziesięć sekwencji testowych. Planowane wyniki to działający symulator referencyjny, katalog błędów i opis projektu. Uniwersalny produkt do autoryzacji pozostaje hipotezą do późniejszego sprawdzenia.
Porozmawiajmy o badaniach