K\u00fcnstliche Intelligenz und maschinelles Lernen sind bereits fest in unseren Alltag eingebunden \u2013 von den Sprachassistenten in unseren K\u00fcchen bis hin zu komplexen Analysen, die Unternehmen bei der Entscheidungsfindung unterst\u00fctzen. Sie haben die Art und Weise ver\u00e4ndert, wie wir auf Informationen zugreifen, Antworten finden und sogar unseren Tag planen. Doch w\u00e4hrend wir uns bei immer wichtigeren Entscheidungen auf diese digitalen Gehirne verlassen, schwebt eine gro\u00dfe Frage in der Luft: Wie viel Vertrauen sollten wir diesen Systemen eigentlich schenken?<\/p>\n
Man ist schnell geneigt zu glauben, dass ein KI-System, das durchweg genaue Ergebnisse liefert, auch zuverl\u00e4ssig sein muss. Doch das ist nicht das ganze Bild. Jedes KI-Modell, egal wie fortschrittlich es auch sein mag, ist mit Unsicherheiten konfrontiert. Manchmal liegt das daran, dass die Trainingsdaten begrenzt oder inkonsistent waren, oder einfach daran, dass die Welt zu komplex ist, um sie mit absoluter Sicherheit vorherzusagen. Die Antwort, die Sie sehen, ist nur eines von vielen m\u00f6glichen Ergebnissen, und das Modell l\u00e4sst die anderen m\u00f6glicherweise au\u00dfer Acht.<\/p>\n
Wie k\u00f6nnen wir also mit dieser verborgenen Ebene der Unvorhersehbarkeit umgehen? Die Antwort liegt in einem Konzept namens *Unsicherheitsquantifizierung* (UQ). UQ ist ein Verfahren, das KI-Systemen dabei hilft, nicht nur die wahrscheinlichste Antwort zu sch\u00e4tzen, sondern auch die Bandbreite anderer plausibler Ergebnisse sowie die Zuverl\u00e4ssigkeit der eigenen Vorhersagen einzusch\u00e4tzen. Ohne dieses Verfahren k\u00f6nnen Nutzer nur raten, inwieweit sie den Aussagen der KI Glauben schenken sollen.<\/p>\n
Nehmen wir einmal die Wettervorhersage als Beispiel. Wenn f\u00fcr morgen eine H\u00f6chsttemperatur von 21 \u00b0C vorhergesagt wird, nehmen die meisten von uns diese Angabe f\u00fcr bare M\u00fcnze. Stellen Sie sich jedoch vor, die Vorhersage w\u00fcrde Ihnen auch mitteilen, dass eine reale Wahrscheinlichkeit besteht, dass es stattdessen 12 \u00b0C, 15 \u00b0C oder 16 \u00b0C werden k\u00f6nnte. Diese Unsicherheit w\u00fcrde Ihre Tagesplanung beeinflussen.<\/p>\n
In der Praxis wird die Quantifizierung von Unsicherheiten jedoch oft \u00fcbersprungen, da sie viel Rechenleistung beansprucht und die Entwicklung von Systemen komplexer macht. In Situationen mit hohem Risiko, wie im Gesundheitswesen oder bei autonomen Fahrzeugen, kann es jedoch gef\u00e4hrlich sein, Unsicherheiten zu ignorieren. \u00c4rzte, die sich bei einer Diagnose oder einem Behandlungsplan auf KI verlassen, m\u00fcssen wissen, wie sicher das System ist \u2013 und wo seine blinden Flecken liegen k\u00f6nnten. Bei selbstfahrenden Autos kann bereits eine geringe Fehlerquote den Unterschied zwischen einem Beinaheunfall und einer Kollision ausmachen, wenn das System Unsicherheiten in seinen Berechnungen nicht ber\u00fccksichtigt.<\/p>\n
Eine der \u00e4ltesten Methoden zur Absch\u00e4tzung von Unsicherheiten ist die Durchf\u00fchrung von Monte-Carlo-Simulationen, bei denen dasselbe Modell wiederholt mit geringf\u00fcgigen \u00c4nderungen der Eingabewerte durchlaufen wird. So erh\u00e4lt man einen Eindruck von der Wahrscheinlichkeitsverteilung, die den verschiedenen Ergebnissen zugrunde liegt. Das Verfahren ist zuverl\u00e4ssig, aber langsam und ressourcenintensiv \u2013 und da es auf Zuf\u00e4lligkeit basiert, k\u00f6nnen die Ergebnisse von Durchlauf zu Durchlauf leicht variieren, selbst wenn man alle Parameter identisch einstellt.<\/p>\n
Nun entstehen neue Rechenplattformen, die diese Herausforderungen direkt angehen. Im Gegensatz zu herk\u00f6mmlichen CPUs und KI-Beschleunigern sind diese neuen Chips von Grund auf so konzipiert, dass sie Wahrscheinlichkeitsverteilungen ebenso selbstverst\u00e4ndlich verarbeiten wie einfache Rechenoperationen. <\/p>\n
In der Finanzwelt bedeutet dies, dass Risikobewertungen wie \u201cValue at Risk\u201d endlich direkt auf reale Marktdaten zur\u00fcckgreifen k\u00f6nnen, ohne dass synthetische Stichproben erstellt werden m\u00fcssen. Das Ergebnis? Deutlich schnellere und genauere Risikoeinsch\u00e4tzungen. Au\u00dferdem ist es nun m\u00f6glich, die Quantifizierung von Unsicherheiten in bestehende KI-Workflows zu integrieren \u2013 sogar bei Modellen, die bereits im Einsatz sind \u2013, und das mit deutlich weniger Aufwand.<\/p>\n
Ein bemerkenswerter Fall: J\u00fcngste Forschungsergebnisse, die auf der NeurIPS 2024 vorgestellt wurden, zeigten, dass diese spezialisierten Plattformen UQ-Aufgaben \u00fcber 100-mal schneller bew\u00e4ltigten als ein herk\u00f6mmlicher Server, auf dem Monte-Carlo-Simulationen ausgef\u00fchrt wurden. Das ist nicht nur ein Sprung in Sachen Geschwindigkeit, sondern auch in Bezug auf die praktische Anwendbarkeit.<\/p>\n
Da KI-Systeme in unserem Leben eine immer gr\u00f6\u00dfere Rolle spielen, ist der Aufbau von echtem, begr\u00fcndeten Vertrauen keine Option mehr \u2013 sondern ein Muss. Die Quantifizierung von Unsicherheiten sollte ein fester Bestandteil jedes wichtigen KI-Einsatzes werden, genau wie Transparenz und Erkl\u00e4rungen dazu, wie die Systeme zu ihren Entscheidungen gelangen.<\/p>\n
Das ist nicht nur technisches Haarspalterei \u2013 es ist etwas, das die \u00d6ffentlichkeit fordert. Laut einer KPMG-Studie geben etwa drei Viertel der Befragten an, dass sie KI mehr vertrauen w\u00fcrden, wenn die Systeme transparent w\u00e4ren und ihre Antworten mit Konfidenzwerten versehen w\u00e4ren. W\u00e4hrend wir uns alle mit schwierigen Fragen zur Ethik, zur Rechtslage und zu den weiterreichenden Auswirkungen von KI auseinandersetzen, ist die Etablierung der Quantifizierung von Unsicherheiten als Standard ein entscheidender Schritt, um langfristig das Vertrauen der \u00d6ffentlichkeit zu gewinnen.<\/p>\n