Hugging Face spotyka się z krytyką za udostępnianie modeli sztucznej inteligencji służących do tworzenia deepfake’ów bez zgody osób przedstawionych na materiałach

Deepfake’i i sztuczna inteligencja: rola serwisu Hugging Face

Rola repozytorium sztucznej inteligencji typu open source, Hugging Face, znalazła się w centrum uwagi w związku z narastającymi obawami dotyczącymi jego udziału w tworzeniu deepfake’ów bez zgody osób przedstawionych. Informacje te pochodzą z raportu europejskiej organizacji non-profit AI Forensics, skupiającego się na potencjalnie problematycznych kwestiach związanych z praktykami moderacji treści na tej platformie.

Wyniki badań przeprowadzonych przez AI Forensics wskazują, że siedem z dziewięciu wiodących modeli do edycji obrazów udostępnianych przez Hugging Face reagowało na polecenia dotyczące rozbierania kobiet. Te niepokojące ustalenia sugerują możliwość nadużywania technologii sztucznej inteligencji. W przeciwieństwie do popularnych modeli sztucznej inteligencji, takich jak Gemini firmy Google i ChatGPT firmy OpenAI, które posiadają wbudowane zabezpieczenia zapobiegające nadużyciom, modele Hugging Face wydają się nie posiadać takich zabezpieczeń.

Etyka sztucznej inteligencji i dalsze kierunki rozwoju

Szczególnie niepokojąca jest kwestia prywatności i zgody w kontekście wykorzystania technologii sztucznej inteligencji. Raport zwraca uwagę na poważne kwestie etyczne związane ze sztuczną inteligencją oraz na znaczne ryzyko wynikające z tworzenia deepfake’ów o charakterze seksualnym. Niewłaściwe wykorzystanie tych technologii może mieć znaczący wpływ na prywatność osób, ich reputację, a także – co nie mniej ważne – na ich dobrostan psychiczny.

W miarę jak toczy się debata na temat etyki sztucznej inteligencji, platformy takie jak Hugging Face znajdują się pod presją, by wprowadzać bardziej rygorystyczne zasady moderacji treści. Wezwanie do odpowiedzialnego opracowywania i wdrażania sztucznej inteligencji ma charakter pilny, ponieważ zakres możliwości tej technologii stale się poszerza.

Jeśli interesuje Cię świat automatyzacji opartej na sztucznej inteligencji lub szukasz rozwiązań dla swojej firmy, zajrzyj do nas implementi.ai więcej informacji. Osoby zainteresowane pogłębieniem wiedzy na ten temat mogą zapoznać się z pełną wersją artykułu tutaj.