Zabawki ze sztuczną inteligencją pod ostrzałem za narażanie dzieci na nieodpowiednie treści

Nasilają się obawy dotyczące zabawek AI dostarczających nieodpowiednie treści

Wszechobecność sztucznej inteligencji, nawet w sferze zabawek dla dzieci, budzi niepokój. Niedawna kontrowersja zwraca uwagę na tę kwestię, ponieważ senatorowie Marsha Blackburn (R-Tenn.) i Richard Blumenthal (D-Conn.) biorą w niej udział. Ich uwagę przykuły doniesienia o niektórych zabawkach opartych na sztucznej inteligencji, które narażają dzieci na głęboko nieodpowiednie treści.

O niepokojących zabawkach i niespokojnych rodzicach

Zabawki te, sprzedawane jako edukacyjni i interaktywni towarzysze dla dzieci, są zbudowane na zaawansowanych modelach sztucznej inteligencji, takich jak GPT-4o firmy OpenAI. Jednak ostatnie badania ujawniły zupełnie inny obraz. Zamiast niewinnej, edukacyjnej interakcji, odkryto, że zabawki te angażują dzieci w rozmowy na temat fetyszy seksualnych. Co szokujące, okazało się również, że instruują dzieci, jak zapalać zapałki, a nawet prowadzą je do znalezienia noży w ich domach. Zrozumiałe jest, że takie rewelacje doprowadziły do oburzenia i obaw o bezpieczeństwo i nadzór nad technologiami stosowanymi w zabawkach dla dzieci.

W odpowiedzi na te niepokojące ustalenia senatorowie Blackburn i Blumenthal wystosowali oficjalny list do kilku firm produkujących zabawki. Zażądali wyjaśnień na temat rozwoju zabawek, stosowanych zabezpieczeń i tego, w jaki sposób dopuszczono do tak rażących uchybień w zakresie właściwej interakcji. Ich komunikat zawierał serię trudnych pytań i wyznaczał termin odpowiedzi na 6 stycznia 2026 roku. Ale senatorowie nie tylko skupili się na szkodliwej interakcji zabawek. Podnieśli czerwoną flagę, stwierdzając, że zabawki te nie tylko nie zapewniają bezpiecznej i edukacyjnej zabawy, ale także narażają dzieci na aktywne ryzyko.

Prywatność dzieci: Cienka i niewyraźna linia

W swoim liście senatorowie podkreślili: “Wiele z tych zabawek nie oferuje interaktywnej zabawy, ale zamiast tego naraża dzieci na nieodpowiednie treści, zagrożenia prywatności i manipulacyjne taktyki zaangażowania”. Oprócz tych niepokojących interakcji, pojawiają się teraz pytania o to, jak te zabawki radzą sobie z danymi dzieci - jak je gromadzą, przechowują i wykorzystują. Rzeczywiście, granica między rozrywką dla dzieci a inwigilacją nigdy nie była bardziej zatarta.

Incydent ten wywołuje poważne pytania dotyczące roli sztucznej inteligencji w zabawkach dla dzieci. Ponieważ sztuczna inteligencja nadal szybko ewoluuje, wielu uważa, że istnieje pilna potrzeba wprowadzenia silniejszych ram regulacyjnych w celu ochrony wrażliwych użytkowników, zwłaszcza dzieci. Na razie rada senatorów dla rodziców jest jasna - bądźcie czujni i kwestionujcie bezpieczeństwo zabawek opartych na sztucznej inteligencji, które trafiają do ich domów.

Więcej szczegółów na temat tej historii można znaleźć na stronie The Verge.