FTC bada chatboty AI w związku z obawami o bezpieczeństwo dzieci i nastolatków

FTC prowadzi dochodzenie w sprawie chatbotów opartych na sztucznej inteligencji w związku z obawami dotyczącymi bezpieczeństwa dzieci

Federalna Komisja Handlu (FTC) rozpoczęła szeroko zakrojone badanie dotyczące świata chatbotów opartych na sztucznej inteligencji, pragnąc uzyskać jasność co do ich wpływu na dzieci i młodzież. Zakres dochodzenia, ogłoszonego we wrześniu, jest bardzo szeroki. Chociaż nie jest to działanie o charakterze egzekucyjnym, stanowi ono ustrukturyzowane badanie mające na celu zrozumienie, w jaki sposób giganci technologiczni oceniają kwestie bezpieczeństwa i etyki związane z technologią sztucznej inteligencji.

Krótki przegląd sytuacji przedsiębiorstw i dlaczego ma to obecnie znaczenie

FTC wydała nakazy skierowane do kilku głównych graczy z branży sztucznej inteligencji, w tym OpenAI, Meta (właściciel serwisu Instagram), Snap, xAI, Alphabet (spółka macierzysta Google) oraz twórców serwisu Character.AI. Zgodnie z tymi wytycznymi przedsiębiorstwa te muszą ujawnić szczegółowe informacje na temat mechanizmów działania swoich asystentów opartych na sztucznej inteligencji, strategii generowania przychodów oraz technik utrzymywania zaangażowania użytkowników. Dla FTC kluczowe znaczenie ma poznanie działań podejmowanych w celu zapobiegania szkodom, zwłaszcza w przypadku użytkowników będących dziećmi i nastolatkami.

W obliczu szybkiego postępu technologicznego chatboty oparte na sztucznej inteligencji stają się coraz bardziej realistyczne, co budzi obawy ze względu na ich wpływ na wrażliwe grupy wiekowe. Dzięki zaawansowanemu oprogramowaniu, które pozwala tym botom naśladować ludzkie interakcje, wiele osób postrzega je jako coś więcej niż zwykłe oprogramowanie – stają się one prawdziwymi towarzyszami. Ta szara strefa budzi niepokój zarówno organów regulacyjnych, jak i rodziców, zwłaszcza w świetle niepokojących incydentów z udziałem nastolatków.

Przepisy, reakcje i to, co nas czeka

Odnotowano przypadki, w których nastolatki w tragiczny sposób odebrały sobie życie po interakcjach z chatbotami opartymi na sztucznej inteligencji, co wywołało debatę. W jednym z przypadków 16-latek z Kalifornii rzekomo omówił swoje zamiary z chatbotem o nazwie ChatGPT, który podobno zasugerował mu pomysły, które mogły doprowadzić do jego śmierci. W innym przypadku 14-latek z Florydy rozmawiał z botem Character.AI, po czym tragicznie odebrał sobie życie. Te niepokojące zdarzenia wywołały coraz silniejsze żądania wprowadzenia kontroli i odpowiedzialności.

Komisarz FTC Mark Meador jasno wyraził pogląd, że twórcy sztucznej inteligencji muszą przestrzegać przepisów dotyczących ochrony konsumentów. Stwierdził: “Pomimo swojej niezwykłej zdolności do symulowania ludzkiego myślenia, te chatboty są produktami takimi jak wszystkie inne”. Zajmując podobne stanowisko, przewodniczący FTC Andrew Ferguson argumentował, że choć Stany Zjednoczone muszą kontynuować swoją drogę innowacji w dziedzinie sztucznej inteligencji, nie powinny nigdy tracić z oczu bezpieczeństwa dzieci korzystających z tych technologii.

Patrząc w przyszłość, wydaje się, że szykują się zmiany legislacyjne. Zgromadzenie Stanowe Kalifornii przyjęło już projekt ustawy, który nakłada normy bezpieczeństwa na chatboty oparte na sztucznej inteligencji, a jednocześnie nakłada na firmy odpowiedzialność za wszelkie szkody, jakie mogą wyrządzić ich narzędzia. Projekt ten, gdy wejdzie w życie, może posłużyć jako wzór dla innych stanów dążących do uregulowania tej dynamicznie rozwijającej się branży.

Teraz kolej na firmy objęte dochodzeniem. Mają 45 dni na udzielenie odpowiedzi na zapytanie FTC. Komisarz Meador wyjaśnił, że gdyby dochodzenie wykazało jakiekolwiek naruszenia prawa, FTC “nie powinna wahać się przed podjęciem działań w celu ochrony osób najbardziej narażonych spośród nas”.”

Rosnąca popularność asystentów opartych na sztucznej inteligencji, zwłaszcza wśród młodszych użytkowników, wskazuje na coraz większą potrzebę nadzoru regulacyjnego. Badanie przeprowadzone pod auspicjami Federalnej Komisji Handlu (FTC) może stać się punktem wyjścia do stworzenia kompleksowych ram regulacyjnych, które zapewnią odpowiedzialne i bezpieczne korzystanie z tych zaawansowanych narzędzi.

Aby zapoznać się z bardziej szczegółowymi informacjami na ten temat, przeczytaj oryginalny artykuł tutaj.