OpenAI führt eine Kindersicherung für ChatGPT ein: Was Eltern wissen müssen

Ankündigung von OpenAI: Verbesserte Sicherheitsvorkehrungen für junge Nutzer

OpenAI hat sein Engagement für den Schutz jugendlicher Nutzer verstärkt, indem es ein umfassendes Angebot an Kindersicherungen für ChatGPT vorstellte. Bei diesem innovativen Angebot geht es nicht nur darum, dass Eltern ein Auge auf die Interaktion ihrer Kinder mit KI haben, sondern auch darum, die Privatsphäre ihrer Teenager in der sich entwickelnden digitalen Landschaft zu schützen.

Entscheidend ist, dass diese Kontrollen den Eltern die Möglichkeit geben, die KI-Erfahrung ihrer Kinder zu gestalten. Sie können den Kontakt mit sensiblen Inhalten einschränken, bestimmte Funktionen deaktivieren und das Nutzungsverhalten überwachen, um die KI-Interaktion für ihre Kinder individueller zu gestalten. OpenAI macht diese Kontrollen allen Webnutzern zugänglich und wird sie bald auch in mobile Geräte integrieren. So können Eltern Inhalte einschränken, die sexuelle oder gewalttätige Rollenspiele, virale Herausforderungen oder verzerrte Schönheitsnormen beinhalten könnten. Diese Filter werden aktiviert, sobald das Konto des Teenagers mit dem Konto eines Elternteils verbunden ist.

Darüber hinaus hat OpenAI eine einzigartige Funktion entwickelt, mit der sich das Gedächtnis von ChatGPT abschalten lässt. Dadurch kann die KI Gespräche nicht an vergangene Interaktionen anpassen, was die Sicherheit der Inhalte potenziell erhöht. Es wurde eingeräumt, dass ein längeres Engagement dazu führen könnte, dass das System im Laufe der Zeit den Schutz umgeht, was mit dieser Funktion verhindert werden soll. Die Eltern haben auch die Möglichkeit zu entscheiden, ob die Chatdaten ihres Teenagers zur Verbesserung der OpenAI-Modelle verwendet werden können. Wenn sie dies ablehnen, können Familien den Datenschutz auf einer weiteren Ebene schützen.

Verbesserter Schutz, Privatsphäre und Kontrolle

Eine weitere innovative Funktion von OpenAI ist die Einstellung “stille Stunden”, mit der Eltern den Zugang zu ChatGPT zu bestimmten Zeiten des Tages einschränken können. Zusammen mit der Möglichkeit, den Sprachmodus und die Bilderzeugung zu deaktivieren, kann dies die Art und Weise, wie Jugendliche mit der KI interagieren, einschränken.

Darüber hinaus haben die Eltern die Möglichkeit, sich bei besorgniserregendem Verhalten per E-Mail, SMS oder Push-Benachrichtigung benachrichtigen zu lassen. Sie haben zwar keinen Zugriff auf den Chatverlauf ihres Teenagers, aber die Eltern können benachrichtigt werden, wenn das System ein erhebliches Sicherheitsrisiko erkennt. In solchen Fällen würde OpenAI nur das absolute Minimum an Informationen weitergeben, um die Privatsphäre des Teenagers zu schützen.

ChatGPT verwendet auch ein Opt-in-System, mit dem sich Teenager für diese elterliche Kontrolle anmelden können. Das Gleichgewicht ist heikel: Die Verknüpfung des Kontos eines Erwachsenen mit dem eines Teenagers oder die Zustimmung eines Teenagers zu einer Einladung für dieses System ist freiwillig. Obwohl die Verbindung jederzeit unterbrochen werden kann, werden die Eltern vorgewarnt, wenn dies geschieht. Die Harmonie zwischen der Wahrung der Autonomie der Jugendlichen und der Bereitstellung eines Sicherheitsnetzes ist hier der Schlüssel.

Trotz der Bemühungen, eine Funktion einzubauen, die es Eltern ermöglicht, einen Notfallkontakt einzurichten, wurde dies bei der aktuellen Einführung nicht berücksichtigt. Stattdessen setzt das Unternehmen auf sein Benachrichtigungskonzept, um Eltern vor möglichen Gefahren zu warnen. Dieser Schritt folgt auf einen tragischen Vorfall, in den ein 16-jähriger Junge, Adam Raine, verwickelt war, der ausgiebig mit ChatGPT interagierte, bevor er sich auf tragische Weise das Leben nahm. Die Umstände seines Todes, einschließlich der Überlegungen seines Vaters, Matthew Raine, in einem Senatsausschuss über die Sicherheit von KI für Minderjährige, zeigen deutlich, dass Schutzmaßnahmen dringend erforderlich sind und gleichzeitig das Gleichgewicht zwischen Sicherheit, Freiheit und Privatsphäre gewahrt werden muss.

OpenAI, unter der Leitung von CEO Sam Altman, scheint bestrebt zu sein, dieses Gleichgewicht zu finden, wie jüngste Aktionen und Blogbeiträge sowie laufende Arbeiten wie ein System zur Altersvorhersage zeigen. Die Dringlichkeit des KI-Schutzes für Minderjährige wird damit deutlicher denn je, und OpenAI scheint auf dem besten Weg zu sein, genau das zu bieten.

Hilfe für Betroffene verfügbar

Sollten Sie oder jemand, den Sie kennen, mit Schwierigkeiten zu kämpfen haben, können Sie sich an Ressourcen wenden wie Krisentelefon (SMS HOME an 741-741 in den USA), 988 Selbstmord- und Krisenhotline (Anruf oder SMS 988), Das Trevor-Projekt (Text START an 678-678 oder Anruf unter 1-866-488-7386) oder Internationale Vereinigung für Suizidprävention und Befriender weltweit.

Einen detaillierten Einblick in die neue Einführung von OpenAI erhalten Sie auf der Artikel auf The Verge.