Równoważenie etyki i optymalizacji w podejmowaniu decyzji opartych na sztucznej inteligencji

Sztuczna inteligencja wkracza, by zoptymalizować proces podejmowania decyzji w różnych kontekstach. Na przykład system autonomiczny może precyzyjnie określić strategię dystrybucji energii, która ogranicza koszty i poprawia stabilność napięcia. Czy jednak taki optymalny pod względem technicznym wynik oznacza sprawiedliwość? Co dalej, jeśli strategia dystrybucji energii o najniższych kosztach spowoduje, że dzielnice znajdujące się w niekorzystnej sytuacji będą bardziej narażone na przerwy w dostawach prądu niż dzielnice o wysokich dochodach?

W tym miejscu do akcji wkraczają naukowcy z MIT, którzy opracowują zautomatyzowaną metodę oceny, łączącą efektywność kosztową ze sprawiedliwością społeczną. Ta innowacyjna metoda pomaga w szybkiej identyfikacji potencjalnych dylematów etycznych przed wdrożeniem rozwiązań opartych na sztucznej inteligencji. Uwzględnia ona zarówno mierzalne wyniki, takie jak opłacalność i niezawodność, jak i wartości jakościowe, takie jak sprawiedliwość, które mają bardziej subiektywny charakter.

System rozróżnia obiektywne oceny od wartości ludzkich zdefiniowanych przez użytkowników. W tym celu wykorzystuje duży model językowy jako reprezentację wartości ludzkich, aby uchwycić i uwzględnić preferencje interesariuszy. Adaptacyjna struktura wybiera najbardziej odpowiednie scenariusze do dogłębnej oceny, co pozwala zaoszczędzić czas, wysiłek i pieniądze związane z ręcznym doborem scenariuszy. Te przypadki testowe mogą przedstawiać sytuacje, w których systemy autonomiczne dobrze wpisują się w wartości ludzkie, a także przypadki, w których nie spełniają one ustalonych oczekiwań etycznych.

Wybitna profesor nadzwyczajna z MIT, Chuchu Fan, wraz ze swoim zespołem wniosła ogromny wkład w ten projekt rozwojowy. Ich badania zostaną zaprezentowane podczas zbliżającej się Międzynarodowej Konferencji poświęconej reprezentacjom uczenia się.

Sieć energetyczna stanowi doskonały przykład systemu, w którym zapewnienie zgodności autonomicznego modelu sztucznej inteligencji z zasadami etyki stanowi ogromne wyzwanie. Tradycyjne ramy testowania opierają się w dużej mierze na wcześniej zgromadzonych danych, którym często brakuje kontekstu etycznego. Ponieważ standardy etyczne i systemy sztucznej inteligencji nieustannie ewoluują, tradycyjne metody oceny wymagają częstych aktualizacji i korekt. Aby rozwiązać ten problem, naukowcy z MIT opracowali eksperymentalny system projektowania — Scalable Experimental Design for System-level Ethical Testing (SEED-SET) — mający na celu identyfikację scenariuszy dostarczających najwięcej informacji.

W przypadku różnych grup użytkowników, takich jak społeczność wiejska czy centrum danych, priorytet kwestii etycznych ulega zmianom, nawet jeśli ich podstawowe wymagania są takie same. SEED-SET rozwiązuje ten problem, dzieląc go hierarchicznie na ocenę obiektywną i subiektywną. Metoda ta rozpoczyna się od stworzenia modelu obiektywnego, który uwzględnia wydajność systemu w oparciu o wymierne wskaźniki, takie jak koszt. Na tej podstawie tworzony jest następnie model subiektywny, który uwzględnia oceny interesariuszy, takie jak postrzegana sprawiedliwość.

System SEED-SET, dzięki swojej wyjątkowej zdolności do dostosowywania się do różnych celów bez konieczności dysponowania wcześniejszymi danymi ewaluacyjnymi, mógłby na przykład wskazać przypadki, w których w okresach szczytowego zapotrzebowania na energię elektryczną priorytetowo traktowane są obszary o wyższych dochodach, co sprawia, że dzielnice o niższym statusie społeczno-ekonomicznym są bardziej narażone na przerwy w dostawach prądu.

W praktycznych testach swojego systemu naukowcy wykorzystali SEED-SET do oceny realistycznych systemów autonomicznych, takich jak sieć energetyczna sterowana przez sztuczną inteligencję oraz system planowania tras ruchu miejskiego. Jaki był wynik? W tym samym czasie system wygenerował ponad dwukrotnie więcej optymalnych scenariuszy w porównaniu ze strategiami bazowymi i ujawnił wiele scenariuszy, które zostały pominięte przez inne metody.

“Wraz ze zmianą preferencji użytkowników lista sytuacji ujawnionych przez SEED-SET uległa radykalnej zmianie. Świadczy to o tym, że strategia oceny skutecznie dostosowuje się do preferencji użytkowników” – mówi Anjali Parashar, główna badaczka.

Patrząc w przyszłość, naukowcy mają nadzieję przeprowadzić badania z udziałem użytkowników, aby ocenić praktyczne korzyści płynące z wykorzystania SEED-SET w rzeczywistych sytuacjach decyzyjnych. Chcieliby również zbadać możliwość zastosowania bardziej wydajnych modeli, które będą w stanie radzić sobie z większymi problemami o szerszym zakresie kryteriów, takich jak testowanie procesów decyzyjnych z wykorzystaniem dużych modeli językowych.

Te przełomowe badania zostały częściowo sfinansowane przez amerykańską Agencję Zaawansowanych Projektów Badawczych Obrony (DARPA). Chcesz wdrożyć automatyzację opartą na sztucznej inteligencji w swojej działalności? Odwiedź stronę implementi.ai aby poznać najnowocześniejsze, dostosowane do Twoich potrzeb rozwiązania biznesowe.

Aby uzyskać więcej informacji na temat tych badań, przeczytaj oryginalny artykuł prasowy tutaj.