Rosn\u0105ca popularno\u015b\u0107 i dost\u0119pno\u015b\u0107 generatywnej sztucznej inteligencji doprowadzi\u0142a do pojawienia si\u0119 na rynku wielu bezp\u0142atnych modeli. Modele te, charakteryzuj\u0105ce si\u0119 elastyczno\u015bci\u0105 i mo\u017cliwo\u015bci\u0105 dostosowania, mog\u0105 by\u0107 wykorzystywane do szerokiego zakresu zada\u0144, w tym do tworzenia artystycznych wizualizacji produkt\u00f3w. Jednak zjawisko to ma r\u00f3wnie\u017c swoj\u0105 przera\u017caj\u0105c\u0105 stron\u0119. Ich dost\u0119pno\u015b\u0107 sprawia, \u017ce staj\u0105 si\u0119 one potencjalnym narz\u0119dziem w r\u0119kach os\u00f3b o z\u0142ych zamiarach. Wyobra\u017amy sobie, \u017ce systemy AI zosta\u0142y zmodyfikowane w celu generowania nielegalnych tre\u015bci, w tym mowy nienawi\u015bci lub, co gorsza, materia\u0142\u00f3w przedstawiaj\u0105cych wykorzystywanie seksualne dzieci (CSAM). Wed\u0142ug Narodowego Centrum ds. Zaginionych i Wykorzystywanych Dzieci w 2025 r. zg\u0142oszono ponad 1,5 miliona przypadk\u00f3w materia\u0142\u00f3w przedstawiaj\u0105cych seksualne wykorzystywanie dzieci wygenerowanych przez sztuczn\u0105 inteligencj\u0119, co stanowi niepokoj\u0105cy wzrost w por\u00f3wnaniu z 67 000 przypadk\u00f3w w 2024 r.<\/p>\n
In\u017cynierowie zazwyczaj testuj\u0105 modele sztucznej inteligencji, podaj\u0105c im polecenia i sprawdzaj\u0105c uzyskane wyniki. Jednak w przypadku tak delikatnych kwestii, jak CSAM, takie podej\u015bcie jest w Stanach Zjednoczonych prawnie niemo\u017cliwe. W tym miejscu do akcji wkracza zesp\u00f3\u0142 naukowc\u00f3w z MIT \u2013 Vinith Suriyakumar, Ashia Wilson i Marzyeh Ghassemi \u2013 wsp\u00f3\u0142pracuj\u0105cy z organizacj\u0105 Thorn, organizacj\u0105 non-profit zajmuj\u0105c\u0105 si\u0119 ochron\u0105 dzieci przed wykorzystywaniem w sieci. Zaproponowali oni prze\u0142omowe rozwi\u0105zanie tego dylematu.<\/p>\n
Ten zesp\u00f3\u0142 ekspert\u00f3w proponuje innowacyjne podej\u015bcie do audytu, kt\u00f3re k\u0142adzie nacisk na dog\u0142\u0119bn\u0105 analiz\u0119 wewn\u0119trznego dzia\u0142ania modelu, a nie na to, co on generuje. Metoda ta, polegaj\u0105ca na szczeg\u00f3\u0142owej analizie ukrytych reprezentacji, pozwala wiarygodnie ustali\u0107, czy model zosta\u0142 zaprojektowany w celu generowania szkodliwych obraz\u00f3w. Skuteczno\u015b\u0107 tej techniki zosta\u0142a potwierdzona, gdy wykry\u0142a ona modele specjalnie dostosowane do generowania CSAM z niesamowit\u0105 dok\u0142adno\u015bci\u0105 wynosz\u0105c\u0105 100%. Drzemie w tym ogromny potencja\u0142 \u2013 wyobra\u017a sobie mo\u017cliwo\u015b\u0107 oznaczania szkodliwych modeli lub zapobiegania ich przesy\u0142aniu ju\u017c na samym pocz\u0105tku.<\/p>\n
\u201cTo podej\u015bcie mo\u017ce zrewolucjonizowa\u0107 spos\u00f3b, w jaki radzimy sobie z modelami open source\u201d \u2013 twierdzi Suriyakumar, kt\u00f3ry dostrzega prze\u0142omowe mo\u017cliwo\u015bci zar\u00f3wno dla platform udost\u0119pniaj\u0105cych te modele, jak i dla organ\u00f3w \u015bcigania w zakresie oceny zdolno\u015bci modelu do generowania tre\u015bci niezgodnych z prawem. Dzi\u0119ki sta\u0142ej wsp\u00f3\u0142pracy z Uniwersytetem Bosto\u0144skim i organizacj\u0105 Thorn zesp\u00f3\u0142 badawczy MIT zaprezentowa\u0142 swoje wyniki podczas warsztat\u00f3w \u201eTrustworthy AI for Good\u201d w ramach Mi\u0119dzynarodowej Konferencji po\u015bwi\u0119conej uczeniu maszynowemu.<\/p>\n
Dlaczego jest to wa\u017cne? W czasach, gdy dostosowywanie generatywnych modeli sztucznej inteligencji do konkretnych zada\u0144 sta\u0142o si\u0119 dziecinnie proste, proces ten ma r\u00f3wnie\u017c swoj\u0105 mroczn\u0105 stron\u0119. U\u0142atwia on z\u0142o\u015bliwym u\u017cytkownikom tworzenie wysokiej jako\u015bci nielegalnych tre\u015bci. Sprawdzanie tych modeli pod k\u0105tem szkodliwych tre\u015bci jest nie tylko trudne, ale mo\u017ce r\u00f3wnie\u017c stanowi\u0107 powa\u017cne ryzyko psychologiczne dla os\u00f3b oceniaj\u0105cych. W\u0142a\u015bnie w tym zakresie innowacyjne podej\u015bcie Suriyakumara naprawd\u0119 si\u0119 wyr\u00f3\u017cnia. Odchodzi ono od tradycyjnych narz\u0119dzi, oferuj\u0105c rozwi\u0105zanie niegeneratywne, skupiaj\u0105ce si\u0119 na modyfikacjach wprowadzonych przez algorytm LoRA podczas fazy dostrajania modelu.<\/p>\n
Technika ta, znana jako \u201eGaussian probing\u201d, nigdy nie generuje obraz\u00f3w. Zamiast tego manipuluje losowymi danymi w wielowarstwowej strukturze wewn\u0119trznej modelu i analizuje je, zapewniaj\u0105c dog\u0142\u0119bny wgl\u0105d w spos\u00f3b, w jaki model zosta\u0142 dostosowany. Podczas test\u00f3w metoda ta wykaza\u0142a si\u0119 niezr\u00f3wnan\u0105 precyzj\u0105, identyfikuj\u0105c szkodliwe modele z doskona\u0142\u0105 dok\u0142adno\u015bci\u0105. Ashia Wilson podkre\u015bla piln\u0105 potrzeb\u0119 dbania o bezpiecze\u0144stwo dzieci przed zagro\u017ceniami zwi\u0105zanymi ze sztuczn\u0105 inteligencj\u0105, wyra\u017caj\u0105c nadziej\u0119, \u017ce praca zespo\u0142u sprawi, \u017ce kwestia ta zyska wi\u0119ksz\u0105 uwag\u0119.<\/p>\n
Patrz\u0105c w przysz\u0142o\u015b\u0107, naukowcy t\u0119tni\u0105 energi\u0105, snuj\u0105c plany i rozwa\u017caj\u0105c mo\u017cliwo\u015bci. Zamierzaj\u0105 przetestowa\u0107 swoj\u0105 technik\u0119 na szerszym zestawie wariant\u00f3w modeli oraz oceni\u0107 jej skuteczno\u015b\u0107 w wykrywaniu szkodliwych zdolno\u015bci w modelach bazowych, zanim zostan\u0105 one zmodyfikowane. Marzyeh Ghassemi, jedna z lider\u00f3w zespo\u0142u, ma nadziej\u0119, \u017ce ich praca wywrze g\u0142\u0119boki wp\u0142yw, oznaczaj\u0105cy globalny krok naprz\u00f3d w kierunku bezpiecze\u0144stwa dzieci.<\/p>\n
Aby uzyska\u0107 wi\u0119cej informacji, zapoznaj si\u0119 z oryginalnym artyku\u0142em prasowym tutaj<\/a>. Je\u015bli chcesz wykorzysta\u0107 potencja\u0142 sztucznej inteligencji w swojej firmie, odwied\u017a stron\u0119 implementi.ai<\/a> aby zbada\u0107 mo\u017cliwo\u015bci.<\/p>","protected":false},"excerpt":{"rendered":" Transforming AI Safety with Innovative Techniques The increasing popularity and accessibility of generative artificial intelligence has led to an influx of freely available models. These models, adaptable and flexible, can be used for a wide range of tasks, including creating artistic product renderings. However, there’s a frightening underbelly to this. Their accessibility also makes them a potential tool for evildoers. Imagine these AI systems being tweaked to generate illegal content, including hate speech or worse, child sexual abuse material (CSAM). According to the National Center for Missing and Exploited Children, more than 1.5 million instances of AI-generated CSAM were reported […]<\/p>\n","protected":false},"author":4,"featured_media":9176,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46,47],"tags":[],"class_list":["post-9175","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-automation","category-ai-news","post--single"],"_links":{"self":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/9175","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/comments?post=9175"}],"version-history":[{"count":0,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/posts\/9175\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media\/9176"}],"wp:attachment":[{"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/media?parent=9175"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/categories?post=9175"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aitrendscenter.eu\/pl\/wp-json\/wp\/v2\/tags?post=9175"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}