Jakie rodzaje niepewności mają znaczenie?
Niepewność danych wynika z niejednoznacznych lub zaszumionych wejść. Niepewność modelu wynika z ograniczonej wiedzy lub słabego pokrycia. Użyteczne rozróżnienie polega na tym, czy ryzyko zmniejszą więcej danych, lepszy model czy ludzki osąd. Metody obejmują uczenie zespołowe, wielokrotne próbkowanie, rozkłady predykcyjne i sygnały pewności specyficzne dla zadania.
Jak niepewność powinna wpływać na aplikację?
Połącz sygnał z confidence gating i ścieżkami human in the loop. Zweryfikuj niepewność przez kalibrację modelu, zanim ustawisz progi. Wysoka niepewność może uruchomić wyszukiwanie, dopytanie, inny model albo wstrzymanie się od odpowiedzi. Dobieraj reakcję do kosztu pomyłki: tanie, odwracalne zadanie może po prostu spróbować ponownie, a nieodwracalne działanie powinno się zatrzymać i trafić do człowieka razem z dowodami modelu. Uwzględnij wynikające z tego decyzje w zarządzaniu ryzykiem AI, bo niewykorzystany wynik niepewności niczego nie zmienia w zachowaniu na produkcji.
Jak w Soba Labs zamieniamy niepewność w decyzję?
Za pomocą deterministycznych bramek, a nie samooceny modelu. Systemy, które dostarczamy, oceniają każdy wynik, a zwykły kod porównuje tę ocenę z progiem i decyduje: kontynuować albo zatrzymać się i przekazać sprawę człowiekowi. Bramka to zwykłe deterministyczne oprogramowanie, więc to samo wejście zawsze dostaje tę samą decyzję, dzięki czemu wstrzymywanie się od odpowiedzi da się testować i audytować; uzasadnienie opisujemy w tekście o deterministycznych bramkach pewności (po angielsku). Każdy próg ustawiamy na podstawie błędów zaobserwowanych na prawdziwych przypadkach, a nie deklarowanej pewności modelu, a w dziedzinach, w których pomyłka kosztuje najwięcej, takich jak asystent zdrowotny z naszego case study Shen.AI, bramka w razie wątpliwości przekazuje sprawę człowiekowi.