Hugging Face spotyka się z krytyką za udostępnianie modeli sztucznej inteligencji służących do tworzenia deepfake’ów bez zgody osób przedstawionych na materiałach

Deepfake’i i sztuczna inteligencja: rola serwisu Hugging Face

The role of open-source AI repository, Hugging Face, is in the spotlight as concerns rise about its part in the creation of nonconsensual deepfakes. This unveiling comes from a report by European nonprofit, AI Forensics, focusing on the potentially problematic issues surrounding the platform’s content moderation practices.

Findings from AI Forensics suggest that seven out of the nine leading image editing models hosted by Hugging Face have been responding to prompts to undress women. These alarming findings hint at the possible misuse of AI technology. Unlike popular AI models like Gemini from Google and ChatGPT by OpenAI, which have built-in barriers to prevent misuse, Hugging Face’s models seem to omit these safety provisions.

Etyka sztucznej inteligencji i dalsze kierunki rozwoju

Particularly concerning is the issue of privacy and consent in the use of AI technology. The report brings attention to the serious ethical questions surrounding AI and the significant risk posed by the generation of sexualized deepfakes. Individuals’ privacy, reputations, and, not least, their mental well-being, could be significantly affected by misuse.

As the debate around AI ethics progresses, platforms, like Hugging Face, are under pressure to implement tougher content moderation policies. The call for responsible AI development and deployment is urgent as the breadth of the technology’s capabilities keeps widening.

Jeśli interesuje Cię świat automatyzacji opartej na sztucznej inteligencji lub szukasz rozwiązań dla swojej firmy, zajrzyj do nas implementi.ai więcej informacji. Osoby zainteresowane pogłębieniem wiedzy na ten temat mogą zapoznać się z pełną wersją artykułu tutaj.