AI tam, gdzie decyzje mają znaczenie
Niezależne myślenie. Wspólna odpowiedzialność.
Inteligencja.Zodpowiedzialnością.
Tworzymy firmę AI opartą na badaniach, dla branż regulowanych, z cyberbezpieczeństwem u podstaw. Badamy ryzyka AI i pomagamy organizacjom wdrażać bezpieczniejsze systemy.
Poznaj nasze podejściePostęp powinien zwiększać możliwości ludzi.
I zachowywać ich kontrolę.
Tworzymy firmę AI dla branż, w których decyzje mają konsekwencje. Łączymy pytania badawcze z praktycznymi systemami, uwzględniając bezpieczeństwo od początku.
Idea stojąca za ForthreasonFirma, którą budujemy
Praktyka stawia pytania.
Badania nadają kierunek.
AI zyskuje możliwość działania w połączonych systemach. Branże regulowane potrzebują sposobu na ograniczanie tych działań, sprawdzanie ich skutków i zachowanie odpowiedzialności człowieka. Wokół tej potrzeby budujemy Forthreason.
- 01
Początkowy model przychodów
Doradztwo
Płatne oceny, wdrożenia o określonym zakresie i uzgodnione wsparcie. Praktyczne problemy wskazują pytania warte zbadania.
- 02
Rozwijana praktyka
Badania
Badamy możliwości i zabezpieczenia. Jedno badanie jest w toku; dwa kolejne pozostają propozycjami.
- 03
Długoterminowy kierunek
Produkty
Sprawdzone, powtarzalne metody mogą stać się narzędziami. Potrzeby klientów i użyteczność muszą zostać potwierdzone przed skalowaniem.
Na przykład: powtarzające się problemy z uprawnieniami agentów mogą wskazać, jakie metody oceny warto opracować. Jeśli badania i praca z użytkownikami potwierdzą ich wartość, mogą powstać narzędzia kontroli. To kierunek rozwoju, nie gotowy rezultat obecnego badania modeli.
Poznać możliwości.
Sprawdzić granice.
Chcemy zrozumieć, do czego AI jest naprawdę zdolna, sprawdzać jej granice i rozwijać zabezpieczenia, które zwiększają bezpieczeństwo wraz ze wzrostem możliwości. Łączymy badania nad modelami, uprawnieniami agentów i dowodami potrzebnymi do zachowania kontroli.
Jedno badanie w toku / Dwie propozycje
01Odmowa, możliwości i modele z otwartymi wagami.Zachowanie modeliW toku
Co się zmienia, gdy model rzadziej odmawia wykonania polecenia?
Pilotaże eksploracyjne
Badamy, czym opublikowane modele zmodyfikowane pod kątem rzadszych odmów różnią się od swoich wersji bazowych w zwykłych zadaniach i działaniu lokalnym. Obecne prace obejmują odtwarzalne porównania nieszkodliwych zadań, precyzji obliczeń i wydajności na lokalnym sprzęcie. Formalne testy odmów czekają na dopracowanie planu analizy oraz ocenę etyczną i metod punktacji. Obserwacje z pilotaży nie są potwierdzonymi wynikami dotyczącymi bezpieczeństwa.
Poznaj zakres badania02Jakich uprawnień naprawdę potrzebuje agent AI?Minimalne uprawnienia agentówPropozycja badania
Czy węższe uprawnienia pozwalają zachować użyteczność i ograniczyć skutki błędu?
Propozycja badania eksploracyjnego
Proponujemy porównanie szerokiego dostępu do konta, stałych ról i uprawnień nadawanych do konkretnego zadania w symulatorze z syntetycznymi procesami. Osobno sprawdzimy odczyt rekordu, propozycję zmiany i zatwierdzony zapis, również po cofnięciu dostępu lub wygaśnięciu zgody. Zmierzymy zarówno niedozwolone działania, które rzeczywiście doszły do skutku, jak i poprawne wykonanie dozwolonych zadań.
Poznaj zakres badania03Czy ktoś inny odtworzy przebieg decyzji?Dowody i zapis decyzjiPropozycja badania
Jakich dowodów potrzebuje osoba oceniająca działanie AI, gdy zmienił się już jego kontekst?
Propozycja badania eksploracyjnego
Proponujemy porównanie zapisów rozmów, zwykłych dzienników aplikacji i uporządkowanych zestawów dowodów w syntetycznych procesach. Niezależne osoby oceniające odpowiedzą na ustalone pytania o źródła, uprawnienia, zgody i wyniki. Zmierzymy poprawność odtworzenia, brakujące powiązania, czas analizy i ilość zachowanych danych wrażliwych. Sama jakość dowodów nie potwierdza zgodności z przepisami.
Poznaj zakres badaniaPrzedstawiamy projekty i propozycje badań, a nie listę gotowych publikacji. Obserwacje z pilotaży odróżniamy od wyników pełnych eksperymentów.
Poznaj nasze badaniaCzwarty powód
to odpowiedzialność.
Firmę, którą tworzymy, opieramy na czterech zasadach. Każda ma znaczenie. Czwarta każe nam oceniać pozostałe przez pryzmat ich konsekwencji.
Kto zachowuje kontrolę?
Ambitne AI.
W realiach Twojej organizacji.
Przeglądy bezpieczeństwa AI, oceny uprawnień agentów i integracje o określonym zakresie dla organizacji z wrażliwymi informacjami i osobą odpowiedzialną za wynik.
Zacznij od płatnej oceny jednego procesu: mapa danych i odpowiedzialności, przegląd ryzyk oraz rekomendacja dalszych działań. Zakres i cenę uzgadniamy przed rozpoczęciem pracy.
Od czego zacząć? Odpowiedz na kilka pytań o proces, dane i oczekiwany rezultat. Otrzymasz opis projektu, który możesz poprawić i przesłać do omówienia.
Opisz swój projekt krok po krokuZobacz, jak współpracujemyZobacz powiązane projektyZnajdźmy właściwy problem.
Analizujemy proces, dane, ryzyka i uzasadnienie biznesowe. Zanim zaczniemy budowę, ustalamy, co oznacza przydatny i akceptowalny wynik.
Ocena o uzgodnionym zakresie i konkretna rekomendacja.Wyznaczmy jasne granice.
Projektujemy i wdrażamy procesy AI z ograniczonym dostępem, odpowiednimi testami, zatwierdzaniem przez człowieka i zapisem wykonanych działań.
Wdrożenie o określonym zakresie i mierzalnych kryteriach odbioru.Ustalmy, kto odpowiada.
Uzgadniamy utrzymanie, przeglądy i wsparcie systemu w miarę zmian jego zastosowania. Określamy odpowiedzialność i ścieżki eskalacji.
Zakres wsparcia dopasowany do konkretnego systemu.Dobre metody.
Praktyczne narzędzia.
Szukamy sposobów, by powtarzające się potrzeby przekładać na przydatne oprogramowanie. Skupiamy się na bezpiecznej pracy agentów i zapisach decyzji, które można sprawdzić.
Narzędzia kontroli agentów
Narzędzia dokumentowania decyzji
Kierunki na etapie rozpoznania. Nie udostępniamy jeszcze gotowych produktów.
Poznaj kierunki rozwoju produktówZaufanie potrzebuje
konkretnych podstaw.
Jasne uprawnienia. System powinien korzystać tylko z danych i narzędzi potrzebnych do wykonania zadania.
Czytelne decyzje. Ludzie potrzebują dowodów, które pozwalają zrozumieć i ocenić działania mające konsekwencje.
Odpowiedzialność człowieka. Za zatwierdzanie, interwencję i skutki działania powinna odpowiadać wskazana osoba.
Nad czym
teraz myślisz?
Wrażliwy proces. Trudne pytanie badawcze. System, który potrzebuje wyraźniejszych granic.
Zacznijmy rozmowę