Sztuczna inteligencja poczyni\u0142a w ostatnich latach ogromne post\u0119py. Narz\u0119dzia takie jak ChatGPT sta\u0142y si\u0119 niezwykle dobre w udzielaniu odpowiedzi na ka\u017cde pytanie. Istnieje jednak kluczowa przeszkoda - systemy sztucznej inteligencji zwykle nie zdaj\u0105 sobie sprawy, kiedy si\u0119 myl\u0105. Mog\u0105 one udziela\u0107 odpowiedzi na podstawie niekompletnych danych, niejednoznacznych wzorc\u00f3w lub tendencyjnego szkolenia bez \u017cadnych wska\u017anik\u00f3w niepewno\u015bci. Kwestia ta staje si\u0119 szczeg\u00f3lnie istotna, gdy sztuczna inteligencja jest wykorzystywana w kluczowych obszarach, takich jak opieka zdrowotna, transport i badania naukowe.<\/p>\n
Zesp\u00f3\u0142 naukowc\u00f3w z MIT podj\u0105\u0142 to wyzwanie, uruchamiaj\u0105c Themis AI, startup maj\u0105cy na celu zwi\u0119kszenie niezawodno\u015bci sztucznej inteligencji poprzez u\u0142atwienie rozpoznawania w\u0142asnej niepewno\u015bci przez same modele. Ich wiod\u0105cy produkt, Capsa, zosta\u0142 zaprojektowany tak, aby mo\u017cna go by\u0142o zintegrowa\u0107 z dowolnym modelem uczenia maszynowego w celu wykrycia niewiarygodnych wynik\u00f3w w momencie ich wyst\u0105pienia. Wykrywaj\u0105c oznaki niejednoznaczno\u015bci, stronniczo\u015bci lub niepe\u0142nego rozumowania, Capsa pozwala systemom sztucznej inteligencji monitorowa\u0107 si\u0119 i podkre\u015bla\u0107 w\u0105tpliwe wyniki, zanim doprowadz\u0105 do szkody.<\/p>\n
Capsa zosta\u0142a zaprojektowana tak, aby dzia\u0142a\u0107 jak koc ochronny dla modelu - owijaj\u0105c go, identyfikuj\u0105c jego niepewno\u015bci i tryby awarii, a nast\u0119pnie ulepszaj\u0105c go, wyja\u015bnia wsp\u00f3\u0142za\u0142o\u017cycielka Themis AI i profesor MIT Daniela Rus. Wyposa\u017cone w t\u0119 zdolno\u015b\u0107 do samokontroli, systemy AI mog\u0105 sta\u0107 si\u0119 bardziej niezawodne, mniej podatne na b\u0142\u0119dy i bezpieczniejsze dla swoich u\u017cytkownik\u00f3w.<\/p>\n
Rus by\u0142 wsp\u00f3\u0142za\u0142o\u017cycielem Themis AI w 2021 roku wraz z Alexandrem Aminim i Elahehem Ahmadim. Od momentu powstania firmy wsp\u00f3\u0142pracowali z dostawcami us\u0142ug telekomunikacyjnych, pomogli firmom naftowym i gazowym zrozumie\u0107 obrazy sejsmiczne oraz przyczynili si\u0119 do bada\u0144 nad budowaniem bardziej godnych zaufania chatbot\u00f3w - demonstruj\u0105c wszechstronno\u015b\u0107 i wp\u0142yw ich innowacyjnego podej\u015bcia.<\/p>\n
Obecnie Themis AI wsp\u00f3\u0142pracuje z korporacjami z r\u00f3\u017cnych sektor\u00f3w, w szczeg\u00f3lno\u015bci z tymi, kt\u00f3re opracowuj\u0105 du\u017ce modele j\u0119zykowe (LLM), takie jak ChatGPT. Capsa pomaga tym modelom wypowiada\u0107 si\u0119 na temat ich poziom\u00f3w zaufania dla ka\u017cdego wyniku, czyni\u0105c je bardziej wiarygodnymi podczas odpowiadania na pytania lub podsumowywania dokument\u00f3w. Rozw\u00f3j Capsa nie tylko rozszerzy\u0142 zakres zastosowa\u0144 sztucznej inteligencji, ale tak\u017ce sprawi\u0142, \u017ce systemy te sta\u0142y si\u0119 bardziej przejrzyste, minimalizuj\u0105c ryzyko potencjalnie katastrofalnych b\u0142\u0119d\u00f3w w miar\u0119 upowszechniania si\u0119 technologii AI.<\/p>\n
Patrz\u0105c w przysz\u0142o\u015b\u0107, Themis AI widzi potencja\u0142 w technice zwanej rozumowaniem \u0142a\u0144cuchowym. Identyfikuj\u0105c najbardziej niezawodne \u015bcie\u017cki rozumowania, Capsa mo\u017ce potencjalnie sprawi\u0107, \u017ce odpowiedzi AI b\u0119d\u0105 bardziej dok\u0142adne i wydajne obliczeniowo. Ta ambitna, przysz\u0142o\u015bciowa mentalno\u015b\u0107 idzie w parze z szersz\u0105 wizj\u0105 Themis AI - opracowywania rozwi\u0105za\u0144 technicznych, kt\u00f3re sprostaj\u0105 wyzwaniom stawianym przez sztuczn\u0105 inteligencj\u0119, wspieraj\u0105 zaufanie i zrozumienie mi\u0119dzy lud\u017ami a technologi\u0105 oraz sprawiaj\u0105, \u017ce badania nad sztuczn\u0105 inteligencj\u0105 maj\u0105 znaczenie dla \u015bwiata.<\/p>\n
Zapewnienie, \u017ce technologia AI dzia\u0142a poprawnie, minimalizuje b\u0142\u0119dy i jest bezpieczna dla u\u017cytkownik\u00f3w, to nie tylko cel kliniczny - to znacz\u0105ca korzy\u015b\u0107 spo\u0142eczna, kt\u00f3ra mo\u017ce zmieni\u0107 bran\u017ce i \u017cycie. Dla Rus i jej oddanego zespo\u0142u Themis AI to nie tylko start-up. To spos\u00f3b na upewnienie si\u0119, \u017ce ich niestrudzona praca w laboratorium ma namacalny, pozytywny wp\u0142yw na spo\u0142ecze\u0144stwo. Dzi\u0119ki Capsa i Themis AI nasza cyfrowa przysz\u0142o\u015b\u0107 wygl\u0105da o wiele bezpieczniej.<\/p>\n