Die k\u00fcnstliche Intelligenz hat in den letzten Jahren gro\u00dfe Fortschritte gemacht. Tools wie ChatGPT sind bemerkenswert gut darin geworden, jede Frage mit Sicherheit zu beantworten. Es gibt jedoch einen entscheidenden Haken: KI-Systeme neigen dazu, nicht zu erkennen, wenn sie falsch liegen. Sie k\u00f6nnen Antworten geben, die auf unvollst\u00e4ndigen Daten, zweideutigen Mustern oder voreingenommenem Training beruhen, ohne dass es Anzeichen f\u00fcr Unsicherheit gibt. Dieses Problem wird besonders wichtig, wenn KI in wichtigen Bereichen wie Gesundheitswesen, Verkehr und Wissenschaft eingesetzt wird.<\/p>\n
Ein Forscherteam des MIT hat sich dieser Herausforderung gestellt und Themis AI gegr\u00fcndet, ein Startup, das die Zuverl\u00e4ssigkeit von KI verbessern soll, indem es den Modellen selbst die Erkennung ihrer eigenen Unsicherheit erleichtert. Ihr f\u00fchrendes Produkt, Capsa, ist so konzipiert, dass es in jedes maschinelle Lernmodell integriert werden kann, um unzuverl\u00e4ssige Ergebnisse zu erkennen, sobald sie auftreten. Durch die Erkennung von Anzeichen von Mehrdeutigkeit, Voreingenommenheit oder unvollst\u00e4ndiger Argumentation erm\u00f6glicht Capsa KI-Systemen, sich selbst zu \u00fcberwachen und zweifelhafte Ergebnisse hervorzuheben, bevor sie zu Schaden f\u00fchren.<\/p>\n
Capsa ist so konzipiert, dass es wie eine Sicherheitsdecke f\u00fcr ein Modell funktioniert - es wird eingewickelt, seine Unsicherheiten und Fehlerm\u00f6glichkeiten werden identifiziert und dann verbessert, erkl\u00e4rt Daniela Rus, Mitbegr\u00fcnderin von Themis AI und Professorin am MIT. Ausgestattet mit dieser F\u00e4higkeit zur Selbstkontrolle k\u00f6nnen KI-Systeme zuverl\u00e4ssiger, weniger fehleranf\u00e4llig und sicherer f\u00fcr ihre Nutzer werden.<\/p>\n
Rus gr\u00fcndete Themis AI im Jahr 2021 zusammen mit Alexander Amini und Elaheh Ahmadi. Seit der Gr\u00fcndung des Unternehmens haben sie mit Telekommunikationsanbietern zusammengearbeitet, \u00d6l- und Gasfirmen geholfen, seismische Bilder zu verstehen, und zur Forschung \u00fcber den Aufbau vertrauensw\u00fcrdigerer Chatbots beigetragen - was die Vielseitigkeit und Wirkung ihres innovativen Ansatzes unter Beweis stellt.<\/p>\n
Heute arbeitet Themis AI mit Unternehmen aus verschiedenen Branchen zusammen, insbesondere mit solchen, die gro\u00dfe Sprachmodelle (LLMs) wie ChatGPT entwickeln. Capsa hilft diesen Modellen dabei, ihre Konfidenzniveaus f\u00fcr jede Ausgabe anzugeben, wodurch sie bei der Beantwortung von Fragen oder der Zusammenfassung von Dokumenten zuverl\u00e4ssiger werden. Die Entwicklung von Capsa hat nicht nur den Bereich der KI-Anwendungen erweitert, sondern auch dazu beigetragen, diese Systeme transparenter zu machen und das Risiko potenziell katastrophaler Fehler zu minimieren, da die KI-Technologie immer h\u00e4ufiger eingesetzt wird.<\/p>\n
Mit Blick auf die Zukunft sieht Themis AI Potenzial in einer Technik, die als \"chain-of-thought reasoning\" bezeichnet wird. Durch die Identifizierung der zuverl\u00e4ssigsten Denkpfade k\u00f6nnte Capsa KI-Antworten pr\u00e4ziser und rechnerisch effizienter machen. Diese ehrgeizige, zukunftsorientierte Mentalit\u00e4t geht Hand in Hand mit der umfassenderen Vision von Themis AI - technische L\u00f6sungen zu entwickeln, die die Herausforderungen der KI angehen, das Vertrauen und das Verst\u00e4ndnis zwischen Menschen und Technologie f\u00f6rdern und die KI-Forschung f\u00fcr die Welt relevant machen.<\/p>\n
Die Sicherstellung, dass KI-Technologie korrekt funktioniert, Fehler minimiert und f\u00fcr die Nutzer sicher ist, ist nicht nur ein klinisches Ziel, sondern stellt einen erheblichen gesellschaftlichen Nutzen dar und hat das Potenzial, Branchen und Leben zu ver\u00e4ndern. F\u00fcr Rus und ihr engagiertes Team ist Themis AI nicht nur ein Start-up. Es ist ein Weg, um sicherzustellen, dass ihre unerm\u00fcdliche Arbeit im Labor greifbare, positive Auswirkungen auf die Gesellschaft hat. Mit Capsa und Themis AI sieht unsere digitale Zukunft viel sicherer aus.<\/p>\n