Hirundo zabezpiecza $8M, aby zrewolucjonizować niezawodność sztucznej inteligencji poprzez uczenie maszynowe

Sztuczna inteligencja jest obecnie wszędzie, po cichu kształtując wszystko, od sposobu, w jaki piszemy e-maile, po krytyczne decyzje w opiece zdrowotnej i finansach. Ale w miarę jak sztuczna inteligencja staje się coraz bardziej wpleciona w codzienne życie, jej wady - takie jak halucynacje (te wiarygodnie brzmiące, ale całkowicie błędne odpowiedzi), utrzymujące się uprzedzenia i zbliżające się zagrożenie wyciekiem danych - zaczęły wydawać się o wiele bardziej osobiste i ryzykowne.

W tym miejscu Hirundo wkracza z czymś naprawdę innym. Startup z siedzibą w Tel Awiwie właśnie pozyskał $8 milionów finansowania zalążkowego, aby poradzić sobie z tymi bólami głowy związanymi ze sztuczną inteligencją, przy wsparciu Maverick Ventures Israel i silnej ławce innych inwestorów. Zamiast bez końca dostrajać modele lub filtrować złe wyniki, Hirundo jest pionierem czegoś, co nazywa się “oduczaniem maszyn”.”

Oduczanie maszyn jest tym, na co wygląda - uczeniem sztucznej inteligencji, by zapominała o rzeczach, których nie powinna wiedzieć lub zachowaniach, których nie chcemy, by powtarzała. Wyobraź sobie, że dajesz swojemu modelowi AI ukierunkowaną amnezję na złe nawyki, wrażliwe informacje lub niepożądane uprzedzenia - po tym, jak został już przeszkolony i wdrożony. Nie trzeba zaczynać od zera ani podejmować długiego procesu przekwalifikowania. To trochę jak neurochirurgia: platforma identyfikuje dokładne parametry wewnątrz modelu, które powodują problemy, a następnie usuwa je z chirurgiczną precyzją, utrzymując wszystko inne w płynnym działaniu.

Ma to największe znaczenie w miejscach, w których błędy sztucznej inteligencji mogą prowadzić do czegoś więcej niż tylko zamieszania - na przykład w briefach prawnych, poradach zdrowotnych lub zaleceniach finansowych. Halucynacje w tych dziedzinach są nie tylko dziwne - mogą oznaczać procesy sądowe lub nadszarpnięte zaufanie. Podejście Hirundo oznacza, że organizacje mogą zająć się tymi zagrożeniami bezpośrednio wewnątrz sztucznej inteligencji, wykorzeniając przyczyny, a nie tylko łatając objawy. Wczesne pilotaże w branżach takich jak bankowość, zdrowie, a nawet obrona już teraz obserwują modele, które dają bardziej wiarygodne, mniej ryzykowne wyniki.

Co więcej, technologia Hirundo została stworzona z myślą o skalowaniu. Automatycznie rozpoznaje błędnie oznaczone dane i dziwne wartości odstające, śledzi korzenie dziwnych zachowań i pozwala zespołom czyścić modele AI - na żywo i często w jednym kroku. Nie ma żadnych zakłóceń w obecnych systemach i przepływach pracy. Działa na różnych typach danych, obsługuje zarówno modele generatywne, jak i niegeneratywne, i może być wdrażany w dowolny sposób, w zależności od potrzeb firm dbających o bezpieczeństwo: jako narzędzie SaaS, we własnej chmurze prywatnej, a nawet w zamkniętych, hermetycznych środowiskach, które nigdy nie dotykają publicznego Internetu.

Za kulisami stoją założyciele łączący akademicką siłę i praktyczną wiedzę techniczną: Ben Luria, Michael Leybovich i profesor Oded Shmueli. Dzięki głębokiemu doświadczeniu w dziedzinie informatyki, bezpieczeństwa danych i sztucznej inteligencji na dużą skalę, są oni dobrze przygotowani do kierowania rozmową na temat zaufania i niezawodności sztucznej inteligencji.

Nic więc dziwnego, że inwestorzy zwracają na to uwagę. “Hirundo podejmuje jedno z najpilniejszych wyzwań sztucznej inteligencji - upewniając się, że systemy te nie tylko brzmią przekonująco, ale są oparte na prawdzie, a nie na dyskryminacji lub niebezpiecznych danych” - powiedział Yaron Carni z Maverick Ventures. Ponieważ świat technologii budzi się do faktu, że zaufanie do sztucznej inteligencji nie podlega negocjacjom, wizja Hirundo dotycząca oduczania maszyn po treningu wydaje się nie tylko aktualna, ale i konieczna.

W miarę jak AI rozszerza swój zasięg na coraz bardziej wrażliwe domeny, jasne jest, że sprawienie, by AI “zapomniała” o swoich błędach, może być równie ważne, jak uczenie jej nowych rzeczy. Podejście Hirundo wskazuje na przyszłość, w której modele AI mogą być zarówno potężne, jak i niezawodne - kluczowy skok dla każdego, kto polega na tej technologii.

Więcej szczegółów można znaleźć w oryginalnym artykule na stronie Unite.AI.