Welche Arten von Unsicherheit zählen?
Datenunsicherheit entsteht durch mehrdeutige oder verrauschte Eingaben. Modellunsicherheit entsteht durch begrenztes Wissen oder schwache Abdeckung. Die nützliche Unterscheidung ist, ob mehr Daten, ein besseres Modell oder menschliches Urteil das Risiko verringern können. Zu den Methoden gehören Ensembles, wiederholtes Sampling, prädiktive Verteilungen und aufgabenspezifische Konfidenzsignale.
Wie sollte Unsicherheit eine Anwendung beeinflussen?
Verbinden Sie das Signal mit Confidence Gating und Pfaden für Human in the Loop. Validieren Sie Unsicherheit über Modellkalibrierung, bevor Sie Schwellenwerte festlegen. Hohe Unsicherheit kann Retrieval, eine Rückfrage, ein anderes Modell oder den Verzicht auf eine Antwort auslösen. Wählen Sie die Reaktion nach den Kosten eines Fehlers: Eine günstige, umkehrbare Aufgabe kann einfach erneut versucht werden, während eine unumkehrbare Aktion anhalten und mit den Belegen des Modells an einen Menschen gehen sollte. Nehmen Sie die daraus folgenden Entscheidungen in Ihr AI-Risikomanagement auf, denn ein ungenutzter Unsicherheitswert ändert nichts am Verhalten in Produktion.
Wie machen wir bei Soba Labs aus Unsicherheit eine Entscheidung?
Mit deterministischen Gates, nicht mit Selbstauskünften des Modells. Die Systeme, die wir ausliefern, bewerten jede Ausgabe, und schlichter Code vergleicht diesen Wert mit einem Schwellenwert und entscheidet: weitermachen oder anhalten und an einen Menschen übergeben. Das Gate ist gewöhnliche deterministische Software, also bekommt dieselbe Eingabe immer dieselbe Entscheidung, was das Verhalten beim Antwortverzicht testbar und prüfbar macht; die Begründung steht in unserem Beitrag zu deterministischen Confidence Gates (auf Englisch). Jeden Schwellenwert legen wir anhand beobachteter Fehler an echten Fällen fest statt anhand der vom Modell angegebenen Konfidenz, und in Bereichen, in denen eine falsche Antwort am meisten kostet, etwa beim Gesundheitsassistenten aus unserer Fallstudie zu Shen.AI, neigt das Gate dazu, den Fall an einen Menschen zu übergeben.