Themis AI pomaga systemom sztucznej inteligencji rozpoznać własne ograniczenia

Sztuczna inteligencja poczyniła w ostatnich latach ogromne postępy. Narzędzia takie jak ChatGPT stały się niezwykle dobre w udzielaniu odpowiedzi na każde pytanie. Istnieje jednak kluczowa przeszkoda - systemy sztucznej inteligencji zwykle nie zdają sobie sprawy, kiedy się mylą. Mogą one udzielać odpowiedzi na podstawie niekompletnych danych, niejednoznacznych wzorców lub tendencyjnego szkolenia bez żadnych wskaźników niepewności. Kwestia ta staje się szczególnie istotna, gdy sztuczna inteligencja jest wykorzystywana w kluczowych obszarach, takich jak opieka zdrowotna, transport i badania naukowe.

Wprowadź Themis AI: Zapewnienie niezawodności w modelach sztucznej inteligencji

Zespół naukowców z MIT podjął to wyzwanie, uruchamiając Themis AI, startup mający na celu zwiększenie niezawodności sztucznej inteligencji poprzez ułatwienie rozpoznawania własnej niepewności przez same modele. Ich wiodący produkt, Capsa, został zaprojektowany tak, aby można go było zintegrować z dowolnym modelem uczenia maszynowego w celu wykrycia niewiarygodnych wyników w momencie ich wystąpienia. Wykrywając oznaki niejednoznaczności, stronniczości lub niepełnego rozumowania, Capsa pozwala systemom sztucznej inteligencji monitorować się i podkreślać wątpliwe wyniki, zanim doprowadzą do szkody.

Capsa została zaprojektowana tak, aby działać jak koc ochronny dla modelu - owijając go, identyfikując jego niepewności i tryby awarii, a następnie ulepszając go, wyjaśnia współzałożycielka Themis AI i profesor MIT Daniela Rus. Wyposażone w tę zdolność do samokontroli, systemy AI mogą stać się bardziej niezawodne, mniej podatne na błędy i bezpieczniejsze dla swoich użytkowników.

Rus był współzałożycielem Themis AI w 2021 roku wraz z Alexandrem Aminim i Elahehem Ahmadim. Od momentu powstania firmy współpracowali z dostawcami usług telekomunikacyjnych, pomogli firmom naftowym i gazowym zrozumieć obrazy sejsmiczne oraz przyczynili się do badań nad budowaniem bardziej godnych zaufania chatbotów - demonstrując wszechstronność i wpływ ich innowacyjnego podejścia.

Przejście do rzeczywistego wpływu

Obecnie Themis AI współpracuje z korporacjami z różnych sektorów, w szczególności z tymi, które opracowują duże modele językowe (LLM), takie jak ChatGPT. Capsa pomaga tym modelom wypowiadać się na temat ich poziomów zaufania dla każdego wyniku, czyniąc je bardziej wiarygodnymi podczas odpowiadania na pytania lub podsumowywania dokumentów. Rozwój Capsa nie tylko rozszerzył zakres zastosowań sztucznej inteligencji, ale także sprawił, że systemy te stały się bardziej przejrzyste, minimalizując ryzyko potencjalnie katastrofalnych błędów w miarę upowszechniania się technologii AI.

Patrząc w przyszłość, Themis AI widzi potencjał w technice zwanej rozumowaniem łańcuchowym. Identyfikując najbardziej niezawodne ścieżki rozumowania, Capsa może potencjalnie sprawić, że odpowiedzi AI będą bardziej dokładne i wydajne obliczeniowo. Ta ambitna, przyszłościowa mentalność idzie w parze z szerszą wizją Themis AI - opracowywania rozwiązań technicznych, które sprostają wyzwaniom stawianym przez sztuczną inteligencję, wspierają zaufanie i zrozumienie między ludźmi a technologią oraz sprawiają, że badania nad sztuczną inteligencją mają znaczenie dla świata.

Zapewnienie, że technologia AI działa poprawnie, minimalizuje błędy i jest bezpieczna dla użytkowników, to nie tylko cel kliniczny - to znacząca korzyść społeczna, która może zmienić branże i życie. Dla Rus i jej oddanego zespołu Themis AI to nie tylko start-up. To sposób na upewnienie się, że ich niestrudzona praca w laboratorium ma namacalny, pozytywny wpływ na społeczeństwo. Dzięki Capsa i Themis AI nasza cyfrowa przyszłość wygląda o wiele bezpieczniej.

Originally reported on MIT News. Przeczytaj oryginalny artykuł.