Kann KI über Vorhersagen hinaus zu echtem Verstehen führen?

Von Kepler bis Newton: Bewertung der Tiefe des Verständnisses von KI

Seit dem 17. Jahrhundert, als Johannes Kepler die Astronomie mit seinen genauen mathematischen Gesetzen zur Vorhersage der Planetenbewegungen revolutionierte, haben wir einen langen Weg zurückgelegt. Aber diese Modelle waren zwar beeindruckend, konnten aber nicht erklären, warum sich die Planeten so bewegten, wie sie es taten. Erst mit Isaac Newton und seiner Formulierung der Gravitationsgesetze kam ein tieferes Verständnis auf. Heute ziehen wir Parallelen zwischen dieser Geschichte und dem aktuellen Stand der künstlichen Intelligenz.

KI-Systeme sind inzwischen in der Lage, Vorhersagen in Bereichen wie Sprache, Bilderkennung und sogar wissenschaftliche Modellierung zu treffen, was einen an Keplers Beiträge erinnert. Aber verstehen diese Systeme die Welt wirklich, oder imitieren sie nur Muster, ähnlich wie Keplers Modelle, die nicht an Newtons tiefe Einsichten heranreichen? Diese beunruhigende Frage löst unter Wissenschaftlern eine wachsende Welle der Neugier aus.

Entlarvung der Weltmodelle der KI

Ein Team von Forschern des MIT-Labors für Informations- und Entscheidungssysteme (LIDS) und der Harvard University hat es sich zur Aufgabe gemacht, dieses faszinierende Geheimnis zu lüften und die Tiefe des Verständnisses von KI zu erforschen. Ihr Ziel? Sie wollten herausfinden, ob KI interne Modelle der Welt erstellen kann - eine Art "Weltmodell", das eine Verallgemeinerung ihrer Vorhersagen ermöglicht. Keyon Vafa, ein Harvard-Postdoktorand und Hauptautor der Studie, stellte fest, dass die Herausforderung darin bestand, herauszufinden, ob die KI in der Lage ist, von der Erstellung präziser Vorhersagen zur Konstruktion von Weltmodellen wie beim Menschen überzugehen.

Sendhil Mullainathan, MIT-Professor und einer der Hauptautoren der Studie, wies auf das größte Hindernis hin, das sich ihnen in den Weg stellte: die Definition von "Verstehen" im Zusammenhang mit KI. Sie wussten, wie man die Vorhersagegenauigkeit eines Algorithmus misst, aber sie brauchten eine solide Methode, um seine Fähigkeit zu verstehen, zu bewerten. Um dieses Problem zu überwinden, entwickelte das Team eine Metrik namens "induktive Verzerrung", ein Maß dafür, wie gut die Schlussfolgerungen eines KI-Systems reale Umstände widerspiegeln.

Das Team versuchte, die Tiefe des Verständnisses der KI in verschiedenen Szenarien mit zunehmender Komplexität zu ermitteln. Bei einem einfachen eindimensionalen Gittermodell, wie einem Frosch, der zwischen Seerosenblättern hin- und herspringt, zeigte die KI hervorragende Leistungen auf der Grundlage auditiver Hinweise. Doch mit zunehmender Komplexität, etwa beim Übergang zu zwei- oder dreidimensionalen Gittern, hatte die KI Schwierigkeiten. Peter G. Chang, ein MIT-Absolvent, stellte fest, dass ihr Modell bei Systemen mit geringerer Komplexität eine starke induktive Tendenz aufwies, die jedoch mit zunehmender Komplexität nicht mehr zum Tragen kam.

Verstehen": Der nächste Schritt für KI

Die Auswirkungen dieser Studie sind angesichts der wachsenden Rolle der KI in der wissenschaftlichen Forschung erheblich. Die Vorhersage der Eigenschaften von Verbindungen oder das Verständnis der Proteinfaltung erfordert mehr als nur die Erkennung von Mustern - sie erfordern ein Verständnis der zugrunde liegenden Prinzipien. Dies erinnerte Keyon Vafa an eine ernüchternde Tatsache - selbst bei so grundlegenden Dingen wie mechanischen Konzepten liegt noch ein weiter Weg vor uns.

Foundation-Modelle", große KI-Systeme, die auf riesigen Datensätzen in verschiedenen Bereichen trainiert wurden, sorgen für große Aufregung. Von diesen Modellen wird erwartet, dass sie bereichsspezifisches Wissen anhäufen, das für neue Probleme von Nutzen ist. Aber sind wir dafür bereit? Unsere Studie veranlasst uns, dies zu überdenken, meint Chang. Ihre Forschung hat jedoch einen Weg eröffnet, um zu testen, ob KI genaue Weltmodelle erstellt, ein Werkzeug von unschätzbarem Wert sowohl für Entwickler als auch für Wissenschaftler.

In einer von KI beherrschten Welt könnte der Sprung von der Vorhersage zum Verständnis der nächste monumentale Schritt sein, ähnlich wie der von Kepler zu Newton. Wie Chang treffend zusammenfasst, können wir, sobald wir eine Metrik haben, diese effektiv optimieren, was einen vielversprechenden Weg für die KI aufzeigt.

Lesen Sie den Originalartikel unter MIT-Nachrichten.