Vertrauen in KI als Priorität

Künstliche Intelligenz und maschinelles Lernen sind bereits fest in unseren Alltag eingebunden – von den Sprachassistenten in unseren Küchen bis hin zu komplexen Analysen, die Unternehmen bei der Entscheidungsfindung unterstützen. Sie haben die Art und Weise verändert, wie wir auf Informationen zugreifen, Antworten finden und sogar unseren Tag planen. Doch während wir uns bei immer wichtigeren Entscheidungen auf diese digitalen Gehirne verlassen, schwebt eine große Frage in der Luft: Wie viel Vertrauen sollten wir diesen Systemen eigentlich schenken?

Vertrauen neu denken: Mehr als nur “alles richtig zu machen”

Man ist schnell geneigt zu glauben, dass ein KI-System, das durchweg genaue Ergebnisse liefert, auch zuverlässig sein muss. Doch das ist nicht das ganze Bild. Jedes KI-Modell, egal wie fortschrittlich es auch sein mag, ist mit Unsicherheiten konfrontiert. Manchmal liegt das daran, dass die Trainingsdaten begrenzt oder inkonsistent waren, oder einfach daran, dass die Welt zu komplex ist, um sie mit absoluter Sicherheit vorherzusagen. Die Antwort, die Sie sehen, ist nur eines von vielen möglichen Ergebnissen, und das Modell lässt die anderen möglicherweise außer Acht.

Wie können wir also mit dieser verborgenen Ebene der Unvorhersehbarkeit umgehen? Die Antwort liegt in einem Konzept namens *Unsicherheitsquantifizierung* (UQ). UQ ist ein Verfahren, das KI-Systemen dabei hilft, nicht nur die wahrscheinlichste Antwort zu schätzen, sondern auch die Bandbreite anderer plausibler Ergebnisse sowie die Zuverlässigkeit der eigenen Vorhersagen einzuschätzen. Ohne dieses Verfahren können Nutzer nur raten, inwieweit sie den Aussagen der KI Glauben schenken sollen.

Das Ignorieren von Unsicherheiten hat seinen Preis

Nehmen wir einmal die Wettervorhersage als Beispiel. Wenn für morgen eine Höchsttemperatur von 21 °C vorhergesagt wird, nehmen die meisten von uns diese Angabe für bare Münze. Stellen Sie sich jedoch vor, die Vorhersage würde Ihnen auch mitteilen, dass eine reale Wahrscheinlichkeit besteht, dass es stattdessen 12 °C, 15 °C oder 16 °C werden könnte. Diese Unsicherheit würde Ihre Tagesplanung beeinflussen.

In der Praxis wird die Quantifizierung von Unsicherheiten jedoch oft übersprungen, da sie viel Rechenleistung beansprucht und die Entwicklung von Systemen komplexer macht. In Situationen mit hohem Risiko, wie im Gesundheitswesen oder bei autonomen Fahrzeugen, kann es jedoch gefährlich sein, Unsicherheiten zu ignorieren. Ärzte, die sich bei einer Diagnose oder einem Behandlungsplan auf KI verlassen, müssen wissen, wie sicher das System ist – und wo seine blinden Flecken liegen könnten. Bei selbstfahrenden Autos kann bereits eine geringe Fehlerquote den Unterschied zwischen einem Beinaheunfall und einer Kollision ausmachen, wenn das System Unsicherheiten in seinen Berechnungen nicht berücksichtigt.

Eine der ältesten Methoden zur Abschätzung von Unsicherheiten ist die Durchführung von Monte-Carlo-Simulationen, bei denen dasselbe Modell wiederholt mit geringfügigen Änderungen der Eingabewerte durchlaufen wird. So erhält man einen Eindruck von der Wahrscheinlichkeitsverteilung, die den verschiedenen Ergebnissen zugrunde liegt. Das Verfahren ist zuverlässig, aber langsam und ressourcenintensiv – und da es auf Zufälligkeit basiert, können die Ergebnisse von Durchlauf zu Durchlauf leicht variieren, selbst wenn man alle Parameter identisch einstellt.

Hardware der nächsten Generation: Die Messlatte höher legen

Nun entstehen neue Rechenplattformen, die diese Herausforderungen direkt angehen. Im Gegensatz zu herkömmlichen CPUs und KI-Beschleunigern sind diese neuen Chips von Grund auf so konzipiert, dass sie Wahrscheinlichkeitsverteilungen ebenso selbstverständlich verarbeiten wie einfache Rechenoperationen.

In der Finanzwelt bedeutet dies, dass Risikobewertungen wie “Value at Risk” endlich direkt auf reale Marktdaten zurückgreifen können, ohne dass synthetische Stichproben erstellt werden müssen. Das Ergebnis? Deutlich schnellere und genauere Risikoeinschätzungen. Außerdem ist es nun möglich, die Quantifizierung von Unsicherheiten in bestehende KI-Workflows zu integrieren – sogar bei Modellen, die bereits im Einsatz sind –, und das mit deutlich weniger Aufwand.

Ein bemerkenswerter Fall: Jüngste Forschungsergebnisse, die auf der NeurIPS 2024 vorgestellt wurden, zeigten, dass diese spezialisierten Plattformen UQ-Aufgaben über 100-mal schneller bewältigten als ein herkömmlicher Server, auf dem Monte-Carlo-Simulationen ausgeführt wurden. Das ist nicht nur ein Sprung in Sachen Geschwindigkeit, sondern auch in Bezug auf die praktische Anwendbarkeit.

Vertrauenswürdige KI: Der Weg in die Zukunft

Da KI-Systeme in unserem Leben eine immer größere Rolle spielen, ist der Aufbau von echtem, begründeten Vertrauen keine Option mehr – sondern ein Muss. Die Quantifizierung von Unsicherheiten sollte ein fester Bestandteil jedes wichtigen KI-Einsatzes werden, genau wie Transparenz und Erklärungen dazu, wie die Systeme zu ihren Entscheidungen gelangen.

Das ist nicht nur technisches Haarspalterei – es ist etwas, das die Öffentlichkeit fordert. Laut einer KPMG-Studie geben etwa drei Viertel der Befragten an, dass sie KI mehr vertrauen würden, wenn die Systeme transparent wären und ihre Antworten mit Konfidenzwerten versehen wären. Während wir uns alle mit schwierigen Fragen zur Ethik, zur Rechtslage und zu den weiterreichenden Auswirkungen von KI auseinandersetzen, ist die Etablierung der Quantifizierung von Unsicherheiten als Standard ein entscheidender Schritt, um langfristig das Vertrauen der Öffentlichkeit zu gewinnen.

Den Originalartikel finden Sie hier: https://www.unite.ai/prioritizing-trust-in-ai/