Sztuczna inteligencja jest obecnie wszędzie, po cichu kształtując wszystko, od sposobu, w jaki piszemy e-maile, po krytyczne decyzje w opiece zdrowotnej i finansach. Ale w miarę jak sztuczna inteligencja staje się coraz bardziej wpleciona w codzienne życie, jej wady - takie jak halucynacje (te wiarygodnie brzmiące, ale całkowicie błędne odpowiedzi), utrzymujące się uprzedzenia i zbliżające się zagrożenie wyciekiem danych - zaczęły wydawać się o wiele bardziej osobiste i ryzykowne.
W tym miejscu Hirundo wkracza z czymś naprawdę innym. Startup z siedzibą w Tel Awiwie właśnie pozyskał $8 milionów finansowania zalążkowego, aby poradzić sobie z tymi bólami głowy związanymi ze sztuczną inteligencją, przy wsparciu Maverick Ventures Israel i silnej ławce innych inwestorów. Zamiast bez końca dostrajać modele lub filtrować złe wyniki, Hirundo jest pionierem czegoś, co nazywa się “oduczaniem maszyn”.”
„Oduczanie maszynowe” oznacza dokładnie to, na co wskazuje nazwa — uczenie sztucznej inteligencji zapominania rzeczy, których nie powinna wiedzieć, lub zachowań, których nie chcemy, by powtarzała. Wyobraź sobie, że wywołujesz u swojego modelu AI ukierunkowaną amnezję dotyczącą złych nawyków, poufnych informacji lub niepożądanych uprzedzeń — po tym, jak model został już wyszkolony i wdrożony. Nie ma potrzeby zaczynania od zera ani przeprowadzania długotrwałego procesu ponownego szkolenia. Przypomina to nieco neurochirurgię: platforma identyfikuje dokładne parametry wewnątrz modelu, które powodują problemy, a następnie usuwa je z chirurgiczną precyzją, zapewniając płynne działanie pozostałych elementów.
Ma to największe znaczenie w miejscach, w których błędy sztucznej inteligencji mogą prowadzić do czegoś więcej niż tylko zamieszania - na przykład w briefach prawnych, poradach zdrowotnych lub zaleceniach finansowych. Halucynacje w tych dziedzinach są nie tylko dziwne - mogą oznaczać procesy sądowe lub nadszarpnięte zaufanie. Podejście Hirundo oznacza, że organizacje mogą zająć się tymi zagrożeniami bezpośrednio wewnątrz sztucznej inteligencji, wykorzeniając przyczyny, a nie tylko łatając objawy. Wczesne pilotaże w branżach takich jak bankowość, zdrowie, a nawet obrona już teraz obserwują modele, które dają bardziej wiarygodne, mniej ryzykowne wyniki.
Co więcej, technologia Hirundo została stworzona z myślą o skalowaniu. Automatycznie rozpoznaje błędnie oznaczone dane i dziwne wartości odstające, śledzi korzenie dziwnych zachowań i pozwala zespołom czyścić modele AI - na żywo i często w jednym kroku. Nie ma żadnych zakłóceń w obecnych systemach i przepływach pracy. Działa na różnych typach danych, obsługuje zarówno modele generatywne, jak i niegeneratywne, i może być wdrażany w dowolny sposób, w zależności od potrzeb firm dbających o bezpieczeństwo: jako narzędzie SaaS, we własnej chmurze prywatnej, a nawet w zamkniętych, hermetycznych środowiskach, które nigdy nie dotykają publicznego Internetu.
Za kulisami stoją założyciele łączący akademicką siłę i praktyczną wiedzę techniczną: Ben Luria, Michael Leybovich i profesor Oded Shmueli. Dzięki głębokiemu doświadczeniu w dziedzinie informatyki, bezpieczeństwa danych i sztucznej inteligencji na dużą skalę, są oni dobrze przygotowani do kierowania rozmową na temat zaufania i niezawodności sztucznej inteligencji.
Nic więc dziwnego, że inwestorzy zwracają na to uwagę. “Hirundo podejmuje jedno z najpilniejszych wyzwań sztucznej inteligencji - upewniając się, że systemy te nie tylko brzmią przekonująco, ale są oparte na prawdzie, a nie na dyskryminacji lub niebezpiecznych danych” - powiedział Yaron Carni z Maverick Ventures. Ponieważ świat technologii budzi się do faktu, że zaufanie do sztucznej inteligencji nie podlega negocjacjom, wizja Hirundo dotycząca oduczania maszyn po treningu wydaje się nie tylko aktualna, ale i konieczna.
W miarę jak zakres zastosowań sztucznej inteligencji rozszerza się na coraz bardziej wrażliwe dziedziny, staje się jasne, że sprawienie, by sztuczna inteligencja “zapomniała” o swoich błędach, może być równie ważne jak nauczanie jej nowych rzeczy. Podejście firmy Hirundo wskazuje na przyszłość, w której modele sztucznej inteligencji będą mogły być zarówno potężne, jak i niezawodne — co stanowi kluczowy krok naprzód dla wszystkich, którzy polegają na tej technologii.
Więcej szczegółów można znaleźć w oryginalnym artykule na stronie Unite.AI.
Ta strona używa plików cookie.