Die Verbreitung innovativer Werkzeuge und Technologien in der heutigen hypervernetzten Welt hängt oft davon ab, wie Nutzer deren Zuverlässigkeit und Nutzen im Vergleich zu bestehenden Lösungen einschätzen. Dies gilt insbesondere für künstliche Intelligenz (KI), deren Akzeptanz eine enorme Hürde darstellen kann. Vor diesem Hintergrund leisten fünf bahnbrechende Doktoranden aus dem ersten Jahrgang des MIT-IBM Watson AI Lab Summer Program Pionierarbeit für die Zukunft der KI-Technologie. Sie arbeiten unermüdlich daran, KI in verschiedenen Bereichen vertrauenswürdiger, effizienter und nützlicher zu machen.
Der Satz “Vertrauen ist gut, Kontrolle ist besser” trifft nirgendwo mehr zu als im Zusammenhang mit künstlicher Intelligenz. Andrey Bryutkin, ein Doktorand am MIT, hat sich intensiv mit der Vertrauenswürdigkeit großer Lernmodelle (Large Learning Models, LLMs) auseinandergesetzt. Unter der Betreuung von Veronika Thost von IBM Research und Marzyeh Ghassemi vom MIT konzentriert sich seine Forschung darauf, inhärente Strukturen wie komplexe Gleichungen und Erhaltungssätze zu nutzen, um robuste und zuverlässige Modelle zu entwickeln.
Bryutkins Team befasst sich mit einem bedeutenden Problem – der “Unsicherheit der Unsicherheit” in großen Sprachmodellen (LLMs), bei der herkömmliche Methoden, die auf kleinen neuronalen Netzen (Probes) basieren, oft nicht ausreichen, um unzuverlässige Ausgaben zu erkennen. Er möchte dies beheben, indem er verborgene Aspekte wie Aktivierungsvektoren und finale Tokens von LLMs anhand von Prompt-Label-Paaren analysiert. Dies hilft nicht nur dabei, problematische Datenbereiche zu identifizieren, sondern deckt auch Inkonsistenzen bei der Beschriftung auf und stärkt so den Aufbau zuverlässiger KI-Systeme.
Die Vertrauenswürdigkeit von KI ist jedoch nicht die einzige Hürde, die es zu überwinden gilt. Der Physik-Doktorand Jinyeop Song befasst sich mit “Halluzinationen” in LLMs. Durch die Einbindung vertrauenswürdiger externer Wissensquellen wie Freebase und Wikidata möchte Song dazu beitragen, dass LLMs genaue Informationen effizienter abrufen können. Zu diesem Zweck arbeitet er gemeinsam mit Yada Zhu von IBM Research und Julian Shun vom MIT an der Entwicklung eines Frameworks für verstärkendes Lernen, das herkömmliche, ressourcenintensive Multi-Agenten-Pipelines durch einen einzigen, intelligenten Agenten optimiert.
Unterdessen sorgt Songlin Yang, ein Doktorand am Fachbereich EECS, für mehr Harmonie in der Welt der KI, indem er die Architektur von Sprachmodellen neu erfindet, um lange, sich verändernde Eingabesequenzen kosteneffizient zu verarbeiten. Parallel dazu revolutioniert Jovana Kondic vom MIT das Verständnis visueller Daten durch KI, insbesondere bei komplexen Elementen wie Diagrammen, die sowohl optische Zeichenerkennung als auch logisches Schlussfolgern erfordern.
Und nicht zu vergessen Leonardo Hernandez Cano, der KI-Anwendungen für das digitale Design entwickelt. Konkret lehrt er die KI, wie man realistische Texturen auf der Grundlage benutzerdefinierter Bilder für CAD-Anwendungen erzeugt, und ebnet damit den Weg für noch nie dagewesene Möglichkeiten für digitale Materialien mit spezifischen visuellen Eigenschaften.
Die kollektive Anstrengung dieser angehenden Forscher bedeutet einen gemeinsamen Vorstoß, um KI leistungsfähig, aber auch praktisch und zuverlässig zu machen. Indem sie kritische Herausforderungen in Bezug auf Vertrauen, Effizienz und Verständnis angehen, legen sie zusammen mit ihren Mentoren eine solide Grundlage für reale KI-Anwendungen - von der wissenschaftlichen Forschung bis hin zu Unternehmenssoftware. Ihr unermüdlicher Einsatz bringt die KI-Technologie aus den Labors auf reale Plattformen und gestaltet unsere Zukunft auf bisher ungeahnte Weise.
Mehr über ihre revolutionäre Arbeit erfahren Sie im Originalartikel auf MIT-Nachrichten.
Diese Website verwendet Cookies.