Warum Beobachtbarkeit das fehlende Glied bei der Entfaltung des vollen Potenzials von Agentic AI ist

Warum Sie agentische KI im Auge behalten sollten

Als Ashan Willy, der CEO von New Relic, bei der Transform 2025 die Bühne betrat, brachte er eine neue – und dringend benötigte – Perspektive in die KI-Diskussion ein. Anstatt nur Daten oder bahnbrechende Algorithmen anzupreisen, rückte Willy etwas in den Fokus, das viele übersehen: die Beobachtbarkeit. Seine Botschaft war einfach, aber eindringlich: Wenn wir intelligentere, autonomere KI-Systeme entwickeln – was er als “agentebasierte KI” bezeichnet –, müssen wir sicherstellen, dass wir tatsächlich sehen können, wie sie funktionieren.

Was genau ist also agentische KI? Stellen Sie sich diese Systeme so vor, dass sie nicht nur Daten verarbeiten oder einfache Anweisungen befolgen, sondern selbstständig in Echtzeit Entscheidungen treffen und dabei auf die Ziele hinarbeiten, die wir ihnen vorgeben. Doch diese Art von Autonomie bringt auch Komplexität mit sich. Es ist ein bisschen so, als würde man einen superschlauen Mitarbeiter einstellen, der nie schläft und nie um freie Tage bittet, der aber auch so schnell arbeitet, dass es schwierig ist, den Überblick darüber zu behalten, was er gerade tut. Deshalb betont Willy immer wieder, wie wichtig eine bessere Transparenz – oder Beobachtbarkeit – ihrer Handlungen ist.

Willy bringt es auf den Punkt: “Was man nicht messen kann, kann man auch nicht verbessern.” Je mehr Unabhängigkeit wir diesen KI-Agenten gewähren, desto wichtiger ist es, ihre Denkprozesse nachvollziehen, ihre Leistung messen und ihre Entscheidungen verstehen zu können. Observability-Tools sind die Lösung – sie bieten Entwicklungsteams einen Echtzeit-Einblick darin, was diese KI-Agenten tun, wie sie abschneiden und ob sie sich wie erwartet verhalten.

Die “Black Box” transparent machen

In der Tech-Branche gibt es einen seit langem kursierenden Witz (und ein anhaltendes Problem) rund um das “Black-Box”-Problem. Wir entwickeln intelligente Systeme, doch manchmal können selbst die Entwickler nicht genau erklären, wie eine KI-Engine zu einer bestimmten Schlussfolgerung gelangt ist. Das ist nicht nur eine Kuriosität – es ist ein echtes Problem, insbesondere wenn KI an Stellen eingesetzt wird, an denen Fehler nicht in Frage kommen.

Hier kommen Willy und sein Team bei New Relic ins Spiel. Ihr Ziel ist es, diese “Black Box” in eine sogenannte „Glasbox“ zu verwandeln – in der vom ersten Tag an alles sichtbar, messbar und steuerbar ist. Indem sie Observability in den Kern autonomer KI-Systeme integrieren, streben sie eine Welt an, in der Entscheidungen nachvollziehbar sind, Anpassungen schnell vorgenommen werden können und die Verantwortlichkeit nicht erst im Nachhinein berücksichtigt wird.

Der praktische Nutzen der Observability

Neben Transparenz und Vertrauen gibt es noch einen weiteren wichtigen Grund, warum Observability so wichtig ist: die Kapitalrendite. Unternehmen investieren enorme Summen in KI, und es reicht nicht mehr aus, einfach nur darauf zu hoffen, dass alles gut läuft. Observability liefert die entscheidenden Daten und den Kontext, die Sie benötigen, um die Leistung zu optimieren, Abläufe zu rationalisieren und Probleme zu erkennen, bevor sie eskalieren.

Wie Willy es ausdrückt: Wenn man überwachen kann, was die KI-Agenten gerade tun, kann man schneller iterieren, Probleme beheben, bevor sie zu Katastrophen werden, und letztendlich einen viel größeren Mehrwert schaffen. Mit anderen Worten: Observability ermöglicht es Teams, nicht mehr nur auf Probleme zu reagieren, sondern diese proaktiv zu bewältigen – wodurch KI überall dort, wo sie eingesetzt wird, sicherer, schneller und zuverlässiger wird.

Und je mehr Unternehmen ihre eigenen intelligenten Agenten einführen, desto größer wird der Bedarf an einer robusten Überwachbarkeit. Unternehmen, die Transparenz und Überwachung bereits heute in den Vordergrund stellen, werden nicht nur über eine bessere KI verfügen – sie werden einen echten Vorteil haben und zuverlässigere sowie skalierbarere Systeme aufbauen, um für alles gerüstet zu sein, was die Zukunft bringt.

Wenn Sie mehr über Ashan Willys Vision erfahren und sehen möchten, wie New Relic die Zukunft der agentenbasierten KI mitgestaltet, lesen Sie den vollständigen Artikel auf VentureBeat: hier.