Artificial intelligence has seen great strides in recent years. Tools like ChatGPT have become remarkably good at answering any question with confidence. However, there is a crucial hitch—AI systems tend not to realize when they’re wrong. They can produce answers based on incomplete data, ambiguous patterns, or biased training without any indicators of uncertainty. This issue becomes particularly consequential as AI is leveraged in crucial areas like health care, transport, and scientific study.
Zespół naukowców z MIT podjął to wyzwanie, uruchamiając Themis AI, startup mający na celu zwiększenie niezawodności sztucznej inteligencji poprzez ułatwienie rozpoznawania własnej niepewności przez same modele. Ich wiodący produkt, Capsa, został zaprojektowany tak, aby można go było zintegrować z dowolnym modelem uczenia maszynowego w celu wykrycia niewiarygodnych wyników w momencie ich wystąpienia. Wykrywając oznaki niejednoznaczności, stronniczości lub niepełnego rozumowania, Capsa pozwala systemom sztucznej inteligencji monitorować się i podkreślać wątpliwe wyniki, zanim doprowadzą do szkody.
Capsa została zaprojektowana tak, aby działać jak koc ochronny dla modelu - owijając go, identyfikując jego niepewności i tryby awarii, a następnie ulepszając go, wyjaśnia współzałożycielka Themis AI i profesor MIT Daniela Rus. Wyposażone w tę zdolność do samokontroli, systemy AI mogą stać się bardziej niezawodne, mniej podatne na błędy i bezpieczniejsze dla swoich użytkowników.
Rus co-founded Themis AI in 2021 along with Alexander Amini and Elaheh Ahmadi. Since the company’s inception, they have collaborated with telecom providers, helped oil and gas firms understand seismic imagery, and contributed to research on building more trustworthy chatbots—demonstrating the versatility and impact of their innovative approach.
Obecnie Themis AI współpracuje z korporacjami z różnych sektorów, w szczególności z tymi, które opracowują duże modele językowe (LLM), takie jak ChatGPT. Capsa pomaga tym modelom wypowiadać się na temat ich poziomów zaufania dla każdego wyniku, czyniąc je bardziej wiarygodnymi podczas odpowiadania na pytania lub podsumowywania dokumentów. Rozwój Capsa nie tylko rozszerzył zakres zastosowań sztucznej inteligencji, ale także sprawił, że systemy te stały się bardziej przejrzyste, minimalizując ryzyko potencjalnie katastrofalnych błędów w miarę upowszechniania się technologii AI.
Patrząc w przyszłość, Themis AI widzi potencjał w technice zwanej rozumowaniem łańcuchowym. Identyfikując najbardziej niezawodne ścieżki rozumowania, Capsa może potencjalnie sprawić, że odpowiedzi AI będą bardziej dokładne i wydajne obliczeniowo. Ta ambitna, przyszłościowa mentalność idzie w parze z szerszą wizją Themis AI - opracowywania rozwiązań technicznych, które sprostają wyzwaniom stawianym przez sztuczną inteligencję, wspierają zaufanie i zrozumienie między ludźmi a technologią oraz sprawiają, że badania nad sztuczną inteligencją mają znaczenie dla świata.
Ensuring that AI technology functions correctly, minimizes errors, and is safe for users isn’t just a clinical goal—it represents a substantial societal benefit, with the power to transform industries and lives. For Rus and her dedicated team, Themis AI isn’t just a start-up. It’s a way of making sure their tireless work in the lab has palpable, positive effects on society. With Capsa and Themis AI, our digital future looks a lot more secure.
Originally reported on MIT News. Przeczytaj oryginalny artykuł.
This website uses cookies.