Sztuczna inteligencja wkracza, by zoptymalizowa\u0107 proces podejmowania decyzji w r\u00f3\u017cnych kontekstach. Na przyk\u0142ad system autonomiczny mo\u017ce precyzyjnie okre\u015bli\u0107 strategi\u0119 dystrybucji energii, kt\u00f3ra ogranicza koszty i poprawia stabilno\u015b\u0107 napi\u0119cia. Czy jednak taki optymalny pod wzgl\u0119dem technicznym wynik oznacza sprawiedliwo\u015b\u0107? Co dalej, je\u015bli strategia dystrybucji energii o najni\u017cszych kosztach spowoduje, \u017ce dzielnice znajduj\u0105ce si\u0119 w niekorzystnej sytuacji b\u0119d\u0105 bardziej nara\u017cone na przerwy w dostawach pr\u0105du ni\u017c dzielnice o wysokich dochodach?<\/p>\n
W tym miejscu do akcji wkraczaj\u0105 naukowcy z MIT, kt\u00f3rzy opracowuj\u0105 zautomatyzowan\u0105 metod\u0119 oceny, \u0142\u0105cz\u0105c\u0105 efektywno\u015b\u0107 kosztow\u0105 ze sprawiedliwo\u015bci\u0105 spo\u0142eczn\u0105. Ta innowacyjna metoda pomaga w szybkiej identyfikacji potencjalnych dylemat\u00f3w etycznych przed wdro\u017ceniem rozwi\u0105za\u0144 opartych na sztucznej inteligencji. Uwzgl\u0119dnia ona zar\u00f3wno mierzalne wyniki, takie jak op\u0142acalno\u015b\u0107 i niezawodno\u015b\u0107, jak i warto\u015bci jako\u015bciowe, takie jak sprawiedliwo\u015b\u0107, kt\u00f3re maj\u0105 bardziej subiektywny charakter.<\/p>\n
System rozr\u00f3\u017cnia obiektywne oceny od warto\u015bci ludzkich zdefiniowanych przez u\u017cytkownik\u00f3w. W tym celu wykorzystuje du\u017cy model j\u0119zykowy jako reprezentacj\u0119 warto\u015bci ludzkich, aby uchwyci\u0107 i uwzgl\u0119dni\u0107 preferencje interesariuszy. Adaptacyjna struktura wybiera najbardziej odpowiednie scenariusze do dog\u0142\u0119bnej oceny, co pozwala zaoszcz\u0119dzi\u0107 czas, wysi\u0142ek i pieni\u0105dze zwi\u0105zane z r\u0119cznym doborem scenariuszy. Te przypadki testowe mog\u0105 przedstawia\u0107 sytuacje, w kt\u00f3rych systemy autonomiczne dobrze wpisuj\u0105 si\u0119 w warto\u015bci ludzkie, a tak\u017ce przypadki, w kt\u00f3rych nie spe\u0142niaj\u0105 one ustalonych oczekiwa\u0144 etycznych.<\/p>\n
Wybitna profesor nadzwyczajna z MIT, Chuchu Fan, wraz ze swoim zespo\u0142em wnios\u0142a ogromny wk\u0142ad w ten projekt rozwojowy. Ich badania<\/a> zostan\u0105 zaprezentowane podczas zbli\u017caj\u0105cej si\u0119 Mi\u0119dzynarodowej Konferencji po\u015bwi\u0119conej reprezentacjom uczenia si\u0119.<\/p>\n Sie\u0107 energetyczna stanowi doskona\u0142y przyk\u0142ad systemu, w kt\u00f3rym zapewnienie zgodno\u015bci autonomicznego modelu sztucznej inteligencji z zasadami etyki stanowi ogromne wyzwanie. Tradycyjne ramy testowania opieraj\u0105 si\u0119 w du\u017cej mierze na wcze\u015bniej zgromadzonych danych, kt\u00f3rym cz\u0119sto brakuje kontekstu etycznego. Poniewa\u017c standardy etyczne i systemy sztucznej inteligencji nieustannie ewoluuj\u0105, tradycyjne metody oceny wymagaj\u0105 cz\u0119stych aktualizacji i korekt. Aby rozwi\u0105za\u0107 ten problem, naukowcy z MIT opracowali eksperymentalny system projektowania \u2014 Scalable Experimental Design for System-level Ethical Testing (SEED-SET) \u2014 maj\u0105cy na celu identyfikacj\u0119 scenariuszy dostarczaj\u0105cych najwi\u0119cej informacji. <\/p>\n W przypadku r\u00f3\u017cnych grup u\u017cytkownik\u00f3w, takich jak spo\u0142eczno\u015b\u0107 wiejska czy centrum danych, priorytet kwestii etycznych ulega zmianom, nawet je\u015bli ich podstawowe wymagania s\u0105 takie same. SEED-SET rozwi\u0105zuje ten problem, dziel\u0105c go hierarchicznie na ocen\u0119 obiektywn\u0105 i subiektywn\u0105. Metoda ta rozpoczyna si\u0119 od stworzenia modelu obiektywnego, kt\u00f3ry uwzgl\u0119dnia wydajno\u015b\u0107 systemu w oparciu o wymierne wska\u017aniki, takie jak koszt. Na tej podstawie tworzony jest nast\u0119pnie model subiektywny, kt\u00f3ry uwzgl\u0119dnia oceny interesariuszy, takie jak postrzegana sprawiedliwo\u015b\u0107.<\/p>\n System SEED-SET, dzi\u0119ki swojej wyj\u0105tkowej zdolno\u015bci do dostosowywania si\u0119 do r\u00f3\u017cnych cel\u00f3w bez konieczno\u015bci dysponowania wcze\u015bniejszymi danymi ewaluacyjnymi, m\u00f3g\u0142by na przyk\u0142ad wskaza\u0107 przypadki, w kt\u00f3rych w okresach szczytowego zapotrzebowania na energi\u0119 elektryczn\u0105 priorytetowo traktowane s\u0105 obszary o wy\u017cszych dochodach, co sprawia, \u017ce dzielnice o ni\u017cszym statusie spo\u0142eczno-ekonomicznym s\u0105 bardziej nara\u017cone na przerwy w dostawach pr\u0105du.<\/p>\n W praktycznych testach swojego systemu naukowcy wykorzystali SEED-SET do oceny realistycznych system\u00f3w autonomicznych, takich jak sie\u0107 energetyczna sterowana przez sztuczn\u0105 inteligencj\u0119 oraz system planowania tras ruchu miejskiego. Jaki by\u0142 wynik? W tym samym czasie system wygenerowa\u0142 ponad dwukrotnie wi\u0119cej optymalnych scenariuszy w por\u00f3wnaniu ze strategiami bazowymi i ujawni\u0142 wiele scenariuszy, kt\u00f3re zosta\u0142y pomini\u0119te przez inne metody.<\/p>\n \u201cWraz ze zmian\u0105 preferencji u\u017cytkownik\u00f3w lista sytuacji ujawnionych przez SEED-SET uleg\u0142a radykalnej zmianie. \u015awiadczy to o tym, \u017ce strategia oceny skutecznie dostosowuje si\u0119 do preferencji u\u017cytkownik\u00f3w\u201d \u2013 m\u00f3wi Anjali Parashar, g\u0142\u00f3wna badaczka.<\/p>\n Patrz\u0105c w przysz\u0142o\u015b\u0107, naukowcy maj\u0105 nadziej\u0119 przeprowadzi\u0107 badania z udzia\u0142em u\u017cytkownik\u00f3w, aby oceni\u0107 praktyczne korzy\u015bci p\u0142yn\u0105ce z wykorzystania SEED-SET w rzeczywistych sytuacjach decyzyjnych. Chcieliby r\u00f3wnie\u017c zbada\u0107 mo\u017cliwo\u015b\u0107 zastosowania bardziej wydajnych modeli, kt\u00f3re b\u0119d\u0105 w stanie radzi\u0107 sobie z wi\u0119kszymi problemami o szerszym zakresie kryteri\u00f3w, takich jak testowanie proces\u00f3w decyzyjnych z wykorzystaniem du\u017cych modeli j\u0119zykowych.<\/p>\n Te prze\u0142omowe badania zosta\u0142y cz\u0119\u015bciowo sfinansowane przez ameryka\u0144sk\u0105 Agencj\u0119 Zaawansowanych Projekt\u00f3w Badawczych Obrony (DARPA). Chcesz wdro\u017cy\u0107 automatyzacj\u0119 opart\u0105 na sztucznej inteligencji w swojej dzia\u0142alno\u015bci? Odwied\u017a stron\u0119 implementi.ai<\/a> aby pozna\u0107 najnowocze\u015bniejsze, dostosowane do Twoich potrzeb rozwi\u0105zania biznesowe. <\/p>\n