Umgang mit den Herausforderungen durch KI-generierte Texte in gesellschaftlichen Diskussionen

Wenn politische Entscheidungen getroffen werden, bietet sich der Öffentlichkeit oft die Gelegenheit, ihre Ansichten und ihr Feedback einzubringen. In der Vergangenheit standen die Gesetzgeber vor der mühsamen Aufgabe, unrealistische, massenhaft produzierte Kommentare zu sichten, die darauf abzielten, ihre Entscheidungen zu beeinflussen. In den letzten Jahren hat die künstliche Intelligenz (KI) jedoch eine neue Herausforderung mit sich gebracht. Nun gibt es eine Flut von realistisch anmutendem Feedback, bei dem sich die menschliche Quelle nicht zurückverfolgen lässt.

Künstliche Intelligenz: Ein zweischneidiges Schwert

Deb Roy, Professor für Medienkunst und -wissenschaften am MIT und Direktor des Center for Constructive Communication (CCC) des MIT, hat dieses Thema kürzlich in den Fokus gerückt. In seinem im ‘Bulletin of the Atomic Scientists’ veröffentlichten Aufsatz mit dem Titel “Who stands behind the words?” betont Roy, dass auch im neuen Bereich der KI-generierten Texte weiterhin Rechenschaftspflicht besteht und jemand für die verwendeten Worte verantwortlich sein muss.

Roys Anliegen erstreckt sich darauf, wie KI im gesellschaftlichen Diskurs genutzt und nicht missbraucht werden kann. Er war Mitbegründer von Cortico, einer entsprechenden gemeinnützigen Organisation, mit dem Ziel, vertrauensbildende Gruppengespräche über wichtige gesellschaftliche Themen zu ermöglichen. Dies geschieht überall, von Bürgerversammlungen über Schulen bis hin zu privaten Organisationen. Zwar werden nützliche Werkzeuge wie KI eingesetzt, um Trends in den Kommentaren zu erkennen, doch ist der Prozess so gestaltet, dass die Teilnehmer in jeder Phase die Möglichkeit haben, KI-basierte Ergebnisse zu überstimmen. Dadurch wird sichergestellt, dass in jeder Phase eine menschliche Komponente vorhanden ist und jemand für jeden öffentlichen Kommentar verantwortlich ist.

Gefälschtes Feedback: Verschleierung der tatsächlichen öffentlichen Meinung

Roys Sorge hinsichtlich der Nachvollziehbarkeit von KI-generiertem Feedback ist nicht unbegründet. Anhand eines Beispiels aus dem Jahr 2017 verweist er darauf, dass die Federal Communications Commission mit über 22 Millionen Kommentaren überschwemmt wurde, von denen sich schockierende 18 Millionen als fiktiv herausstellten. Dies ist in vielerlei Hinsicht beunruhigend, vor allem weil diese von KI generierten gefälschten Rückmeldungen wesentlich ausgefeilter sind: Jeder Kommentar ist einzigartig und wirkt authentisch, was es nahezu unmöglich macht, die echte öffentliche Meinung zu erkennen.

Anstatt KI jedoch gänzlich abzuschreiben, plädiert Roy dafür, ihr Potenzial verantwortungsbewusst zu nutzen. Er schlägt vier Leitprinzipien vor, um die Rechenschaftspflicht bei von KI verfassten Texten sicherzustellen: greifbare Urheberschaft, ein gründlicher und transparenter Prozess, eine klare Rückverfolgbarkeit zum Ursprung sowie eine breite Verteilung der Verantwortung anstelle einer Konzentration derselben. Dies würde letztendlich dazu führen, dass die Beteiligten in die Lage versetzt werden, Verantwortung für ihre KI-generierten Beiträge zu übernehmen, anstatt den menschlichen Faktor gänzlich auszuschließen.

Ein weiterer wichtiger Punkt, den Roy anspricht, ist die Idee, sich ‘mit der Geschwindigkeit des Vertrauens’ statt mit der ‘Geschwindigkeit der Technik’ zu bewegen. Er betont, wie wichtig es ist, das Vertrauen der Gemeinschaft zu gewinnen und das Tempo der KI-Entwicklungen an demokratische Verfahren anzupassen. Auf diese Weise besteht keine Gefahr, dass Entscheidungen getroffen werden, ohne die öffentliche Meinung einzubeziehen.

Im Wesentlichen betont Roy die Notwendigkeit, Technologie mit menschlicher Aufsicht zu verbinden, damit wir die Vorteile der KI nutzen können und gleichzeitig ihr Potenzial, öffentliche Feedback-Systeme zu verzerren, im Auge behalten. KI ist zweifellos ein leistungsstarkes Werkzeug, das das bürgerschaftliche Engagement erheblich fördern kann, wenn es verantwortungsbewusst eingesetzt wird.

Falls Ihr Unternehmen den Einsatz von KI-Automatisierungslösungen in Erwägung zieht, können Sie unter folgendem Link mehr darüber erfahren, wie KI Ihre Geschäftsabläufe verbessern kann: implementi.ai.