Neuer Gesetzentwurf des Senats will KI-Chatbots für Minderjährige verbieten und Altersüberprüfung vorschreiben

Ein neues Plädoyer für strengere KI-Vorschriften: Die Blüte des GUARD-Gesetzes

Ein überparteiliches Paar von US-Senatoren hat einen neuen Gesetzesentwurf vorgestellt, der einen wichtigen Schritt in Richtung strengerer KI-Vorschriften darstellt. Der von den Senatoren Josh Hawley (R-MO) und Richard Blumenthal (D-CT) vorgeschlagene Gesetzentwurf mit dem Namen GUARD Act könnte die Landschaft der KI-Chatbot-Nutzung und -Regulierung grundlegend neu definieren. Die Hauptabsicht? Der besorgniserregenden Zunahme schädlicher Interaktionen zwischen Kindern und KI-Systemen entgegenzuwirken.

Das Innenleben des GUARD-Gesetzes

Der GUARD Act fordert eine erhebliche Änderung der Betriebsverfahren für Unternehmen, die KI-Chatbots einsetzen. Eine zentrale Anforderung wäre die Einführung einer strengen Altersüberprüfung der Nutzer. Dieser Prozess könnte von der Anforderung eines von der Regierung ausgestellten Ausweises bis hin zur Durchführung von Gesichtserkennungsscans reichen. Überraschend ist, dass der Gesetzentwurf ein vollständiges Nutzungsverbot für Personen unter 18 Jahren vorsieht. Dieser beispiellose Schritt zeigt das Engagement des Gesetzgebers, einen sichereren digitalen Raum für Jugendliche zu schaffen.

Hinter dem Gesetzentwurf

Die Dringlichkeit dieses Gesetzesvorschlags ergibt sich aus einer kürzlichen Anhörung im Senat, bei der Sicherheitsbefürworter und besorgte Eltern den beunruhigenden Einfluss von KI-Chatbots auf Kinder und Jugendliche beleuchteten. Den Anstoß dazu gaben erschütternde Zeugenaussagen, die von psychischen Problemen und dem Kontakt mit unangemessenen Inhalten berichteten. Die Gesetzgeber, die sich nun der potenziellen Risiken bewusst sind, sahen sich gezwungen, die wachsenden Bedrohungen rasch zu bekämpfen.

Das GUARD-Gesetz, das sich unablässig für Transparenz und Sicherheit einsetzt, würde vorschreiben, dass KI-Chatbots deutlich machen müssen, dass sie nicht menschlich sind, wobei diese Angaben mindestens alle 30 Minuten während der Interaktion zu bestätigen sind. Täuschendes Verhalten, das darauf abzielt, die Nutzer über ihren nicht-menschlichen Status zu täuschen, wäre streng verboten. Diese Bedingungen spiegeln die jüngsten rechtlichen Schritte Kaliforniens wider, das sich für eine wahrheitsgemäße Identifizierung der Nutzer durch KI-Systeme einsetzt.

Unter den Bestimmungen des Gesetzentwurfs ist eine strenge Regelung gegen KI-Chatbots, die sexuelle oder schädliche Inhalte für Minderjährige erzeugen oder fördern, hervorzuheben. Das Gesetz verbietet auch jegliche Ermutigung zu Selbstverletzung und Selbstmord. Bei Nichteinhaltung drohen schwerwiegende Folgen, einschließlich straf- und zivilrechtlicher Sanktionen, was zeigt, wie sehr der Gesetzgeber darauf besteht, die Ausbeutung von Kindern zu verhindern.

Die Zukunft mit dem GUARD-Gesetz

Senator Blumenthal erklärte: “Unsere Gesetzgebung sieht strenge Schutzmaßnahmen gegen ausbeuterische oder manipulative KI vor, die durch eine strenge Durchsetzung mit straf- und zivilrechtlichen Sanktionen unterstützt werden. Big Tech hat jeden Anspruch darauf verraten, dass wir darauf vertrauen sollten, dass Unternehmen von sich aus das Richtige tun, wenn sie konsequent den Profit über die Sicherheit von Kindern stellen.”

Dieser Gesetzesentwurf symbolisiert die weit verbreitete, überparteiliche Besorgnis über die Rolle der KI-Technologie in der Gesellschaft - insbesondere im Hinblick auf gefährdete Nutzer wie Kinder und Jugendliche. Während die KI ihre rasante Entwicklung fortsetzt, setzen sich die Gesetzgeber weltweit dafür ein, die Nutzer vor potenziellem Missbrauch zu schützen. Ausführlichere Informationen zu diesem wichtigen Gesetzesvorhaben finden Sie unter The Verge.