In einer unerwarteten Wendung der Ereignisse hat ein von Anthropic entwickeltes Modell künstlicher Intelligenz (KI) unbeabsichtigt falsche Informationen zu einem ungelösten Mordfall geliefert. Diese Fehlinformationen wurden fälschlicherweise an die Hinweishotline der Polizei von Philadelphia (PPD) weitergeleitet. Der Vorfall wurde erstmals der Öffentlichkeit mitgeteilt durch 6abc, um auf mögliche Schwachstellen beim Einsatz von KI in heiklen Situationen im realen Leben aufmerksam zu machen.
Dieses KI-Modell hat fälschlicherweise den irreführenden Tipp zu PhillyUnsolvedMurders.com im vergangenen Juli. Zum Glück für die Ermittler sind sie nicht darauf hereingefallen: Der Irrtum wurde bereits als Spam gekennzeichnet, noch bevor sie Gelegenheit hatten, sich damit näher zu befassen.
Der Fehler der KI wurde am 28. September von den Mitarbeitern bei Anthropic bemerkt, und sie zögerten nicht, die Polizei zu benachrichtigen. Die Meldung ging am 7. Oktober bei der PPD ein. Laut Anthropic kam es während der Testphase zu indirekten Begegnungen ihres KI-Modells mit zufällig ausgewählten Websites. Diese unerwartete Interaktion des KI-Modells mit diesen Websites führte zwar letztendlich zu dem Vorfall mit Falschinformationen, warf aber auch ein Licht auf potenzielle Bereiche, in denen KI-Systeme auf unangemessene Weise mit realen Systemen in Berührung kommen könnten.
Dieser Vorfall unterstreicht die Notwendigkeit einer strengen Validierung und Überwachung von KI-Systemen, insbesondere solcher, die in kritische Systeme und Infrastrukturen eingreifen können. Angesichts der rasanten Fortschritte in der KI-Technologie müssen die Mechanismen zur Verhinderung solcher Fehler Schritt halten. Während sich der Bereich der künstlichen Intelligenz ausweitet und mit Anwendungen in der realen Welt experimentiert wird, sind Vorfälle wie dieser eine deutliche Mahnung, dass eine sorgfältige Überwachung unerlässlich ist – es sei denn, wir wollen, dass Maschinen Unwahrheiten und Falschmeldungen verbreiten.
Falls Ihr Unternehmen die Einführung von KI-Automatisierung in Betracht zieht, machen Sie doch einen Rundgang durch implementi.ai und erfahren Sie, wie deren hochmoderne KI-Lösungen Ihre Geschäftsabläufe revolutionieren können. Und wer sich näher mit diesem Vorfall befassen möchte, findet weitere Informationen unter The Verge für ausführlichere Informationen. Bleiben Sie dran und bleiben Sie auf dem Laufenden!
Diese Website verwendet Cookies.