Ausgleich zwischen Ethik und Optimierung bei der KI-gestützten Entscheidungsfindung

Künstliche Intelligenz hilft, die Entscheidungsfindung in verschiedenen Bereichen zu optimieren. So könnte ein autonomes System beispielsweise eine Stromverteilungsstrategie ermitteln, die die Kosten senkt und die Spannungsstabilität erhöht. Aber bedeutet ein solches technisch optimales Ergebnis auch Fairness? Was ist, wenn die kostengünstigste Stromverteilungsstrategie dazu führt, dass benachteiligte Stadtteile stärker von Stromausfällen betroffen sind als ihre einkommensstarken Pendants?

An dieser Stelle setzen die Forscher des MIT an und entwickeln eine automatisierte Bewertungsmethode, die Kosteneffizienz und soziale Gerechtigkeit in Einklang bringt. Diese innovative Methode hilft bei der raschen Identifizierung potenzieller ethischer Dilemmas, bevor KI-gestützte Lösungen implementiert werden. Sie berücksichtigt sowohl messbare Ergebnisse wie Kosteneffizienz und Zuverlässigkeit als auch qualitative Werte wie Fairness, die eher subjektiver Natur sind.

Das System unterscheidet zwischen objektiven Bewertungen und benutzerdefinierten menschlichen Werten. Um dies zu erreichen, verwendet es ein umfangreiches Sprachmodell als Repräsentant menschlicher Werte, um die Präferenzen der Beteiligten zu erfassen und einzubeziehen. Der adaptive Rahmen wählt die am besten geeigneten Szenarien für eine gründliche Bewertung aus, was Zeit, Mühe und Kosten spart, die mit der manuellen Auswahl von Szenarien verbunden sind. Diese Testfälle können sowohl Situationen abbilden, in denen autonome Systeme gut mit menschlichen Werten übereinstimmen, als auch solche, die hinter den gesetzten ethischen Erwartungen zurückbleiben.

Die außerordentliche Professorin am MIT, Chuchu Fan, und ihr Team haben einen großen Beitrag zu diesem Entwicklungsprojekt geleistet. Ihr Forschung wird auf der kommenden Internationalen Konferenz über lernende Repräsentationen zu sehen sein.

Ein Stromnetz ist ein Paradebeispiel für ein System, bei dem die ethische Ausrichtung eines autonomen KI-Modells eine große Herausforderung darstellt. Traditionell hängen die Testverfahren stark von vorab gesammelten Daten ab, denen oft der ethische Kontext fehlt. Da sich ethische Standards und KI-Systeme ständig weiterentwickeln, müssen herkömmliche Bewertungsmethoden häufig aktualisiert und überarbeitet werden. Um dieses Problem anzugehen, haben MIT-Forscher einen Rahmen für die experimentelle Planung entwickelt - Scalable Experimental Design for System-level Ethical Testing (SEED-SET) -, um die informativsten Szenarien zu identifizieren.

Für verschiedene Nutzergruppen, z. B. eine ländliche Gemeinde oder ein Rechenzentrum, schwankt die Priorität ethischer Erwägungen, auch wenn die Kernanforderungen gleich sind. SEED-SET geht dieses Problem an, indem es das Problem hierarchisch in objektive und subjektive Bewertungen aufteilt. Ihre Methode beginnt mit der Bildung eines objektiven Modells, das berücksichtigt, wie das System in Bezug auf greifbare Metriken wie Kosten abschneidet. Darauf aufbauend wird ein subjektives Modell erstellt, das die Einschätzungen der Interessengruppen, wie z. B. die wahrgenommene Fairness, berücksichtigt.

SEED-SET, mit seiner außergewöhnlichen Fähigkeit, sich an mehrere Ziele anzupassen, ohne dass bereits Auswertungsdaten vorliegen, könnte zum Beispiel Fälle aufzeigen, in denen die Stromverteilung einkommensstärkere Gebiete während der Nachfragespitzen bevorzugt und unterprivilegierte Stadtteile anfälliger für Ausfälle sind.

In praktischen Tests ihres Systems nutzten die Forscher SEED-SET, um realistische autonome Systeme zu bewerten, z. B. ein KI-gesteuertes Stromnetz und ein städtisches Verkehrsleitsystem. Das Ergebnis? Das System generierte mehr als doppelt so viele optimale Szenarien innerhalb desselben Zeitrahmens im Vergleich zu Basisstrategien und zeigte viele Szenarien auf, die von anderen Methoden übersehen wurden.

“Als sich die Präferenzen der Nutzer änderten, änderte sich die Liste der Situationen, die SEED-SET enthüllte, drastisch. Das zeigt, dass sich die Bewertungsstrategie effektiv an die Präferenzen der Nutzer anpasst”, sagt Anjali Parashar, die leitende Forscherin.

Mit Blick auf die Zukunft hoffen die Forscher, Anwenderstudien durchzuführen, um den praktischen Nutzen von SEED-SET in realen Entscheidungssituationen zu bewerten. Außerdem möchten sie den Einsatz effizienterer Modelle erforschen, die größere Probleme mit erweiterten Kriterien bewältigen können, wie z. B. das Testen von Large Language Model-Entscheidungen.

Diese bahnbrechende Forschung wurde teilweise von der U.S. Defense Advanced Research Projects Agency finanziert. Möchten Sie die KI-Automatisierung in Ihre Geschäftsabläufe integrieren? Besuchen Sie implementi.ai und entdecken Sie innovative, maßgeschneiderte Lösungen für Ihre geschäftlichen Anforderungen.

Um mehr über diese Forschung zu erfahren, lesen Sie bitte den Original-Artikel hier.