K\u00fcnstliche Intelligenz hilft, die Entscheidungsfindung in verschiedenen Bereichen zu optimieren. So k\u00f6nnte ein autonomes System beispielsweise eine Stromverteilungsstrategie ermitteln, die die Kosten senkt und die Spannungsstabilit\u00e4t erh\u00f6ht. Aber bedeutet ein solches technisch optimales Ergebnis auch Fairness? Was ist, wenn die kosteng\u00fcnstigste Stromverteilungsstrategie dazu f\u00fchrt, dass benachteiligte Stadtteile st\u00e4rker von Stromausf\u00e4llen betroffen sind als ihre einkommensstarken Pendants?<\/p>\n
An dieser Stelle setzen die Forscher des MIT an und entwickeln eine automatisierte Bewertungsmethode, die Kosteneffizienz und soziale Gerechtigkeit in Einklang bringt. Diese innovative Methode hilft bei der raschen Identifizierung potenzieller ethischer Dilemmas, bevor KI-gest\u00fctzte L\u00f6sungen implementiert werden. Sie ber\u00fccksichtigt sowohl messbare Ergebnisse wie Kosteneffizienz und Zuverl\u00e4ssigkeit als auch qualitative Werte wie Fairness, die eher subjektiver Natur sind.<\/p>\n
Das System unterscheidet zwischen objektiven Bewertungen und benutzerdefinierten menschlichen Werten. Um dies zu erreichen, verwendet es ein umfangreiches Sprachmodell als Repr\u00e4sentant menschlicher Werte, um die Pr\u00e4ferenzen der Beteiligten zu erfassen und einzubeziehen. Der adaptive Rahmen w\u00e4hlt die am besten geeigneten Szenarien f\u00fcr eine gr\u00fcndliche Bewertung aus, was Zeit, M\u00fche und Kosten spart, die mit der manuellen Auswahl von Szenarien verbunden sind. Diese Testf\u00e4lle k\u00f6nnen sowohl Situationen abbilden, in denen autonome Systeme gut mit menschlichen Werten \u00fcbereinstimmen, als auch solche, die hinter den gesetzten ethischen Erwartungen zur\u00fcckbleiben.<\/p>\n
Die au\u00dferordentliche Professorin am MIT, Chuchu Fan, und ihr Team haben einen gro\u00dfen Beitrag zu diesem Entwicklungsprojekt geleistet. Ihr Forschung<\/a> wird auf der kommenden Internationalen Konferenz \u00fcber lernende Repr\u00e4sentationen zu sehen sein.<\/p>\n Ein Stromnetz ist ein Paradebeispiel f\u00fcr ein System, bei dem die ethische Ausrichtung eines autonomen KI-Modells eine gro\u00dfe Herausforderung darstellt. Traditionell h\u00e4ngen die Testverfahren stark von vorab gesammelten Daten ab, denen oft der ethische Kontext fehlt. Da sich ethische Standards und KI-Systeme st\u00e4ndig weiterentwickeln, m\u00fcssen herk\u00f6mmliche Bewertungsmethoden h\u00e4ufig aktualisiert und \u00fcberarbeitet werden. Um dieses Problem anzugehen, haben MIT-Forscher einen Rahmen f\u00fcr die experimentelle Planung entwickelt - Scalable Experimental Design for System-level Ethical Testing (SEED-SET) -, um die informativsten Szenarien zu identifizieren. <\/p>\n F\u00fcr verschiedene Nutzergruppen, z. B. eine l\u00e4ndliche Gemeinde oder ein Rechenzentrum, schwankt die Priorit\u00e4t ethischer Erw\u00e4gungen, auch wenn die Kernanforderungen gleich sind. SEED-SET geht dieses Problem an, indem es das Problem hierarchisch in objektive und subjektive Bewertungen aufteilt. Ihre Methode beginnt mit der Bildung eines objektiven Modells, das ber\u00fccksichtigt, wie das System in Bezug auf greifbare Metriken wie Kosten abschneidet. Darauf aufbauend wird ein subjektives Modell erstellt, das die Einsch\u00e4tzungen der Interessengruppen, wie z. B. die wahrgenommene Fairness, ber\u00fccksichtigt.<\/p>\n SEED-SET, mit seiner au\u00dfergew\u00f6hnlichen F\u00e4higkeit, sich an mehrere Ziele anzupassen, ohne dass bereits Auswertungsdaten vorliegen, k\u00f6nnte zum Beispiel F\u00e4lle aufzeigen, in denen die Stromverteilung einkommensst\u00e4rkere Gebiete w\u00e4hrend der Nachfragespitzen bevorzugt und unterprivilegierte Stadtteile anf\u00e4lliger f\u00fcr Ausf\u00e4lle sind.<\/p>\n In praktischen Tests ihres Systems nutzten die Forscher SEED-SET, um realistische autonome Systeme zu bewerten, z. B. ein KI-gesteuertes Stromnetz und ein st\u00e4dtisches Verkehrsleitsystem. Das Ergebnis? Das System generierte mehr als doppelt so viele optimale Szenarien innerhalb desselben Zeitrahmens im Vergleich zu Basisstrategien und zeigte viele Szenarien auf, die von anderen Methoden \u00fcbersehen wurden.<\/p>\n \u201cAls sich die Pr\u00e4ferenzen der Nutzer \u00e4nderten, \u00e4nderte sich die Liste der Situationen, die SEED-SET enth\u00fcllte, drastisch. Das zeigt, dass sich die Bewertungsstrategie effektiv an die Pr\u00e4ferenzen der Nutzer anpasst\u201d, sagt Anjali Parashar, die leitende Forscherin.<\/p>\n Mit Blick auf die Zukunft hoffen die Forscher, Anwenderstudien durchzuf\u00fchren, um den praktischen Nutzen von SEED-SET in realen Entscheidungssituationen zu bewerten. Au\u00dferdem m\u00f6chten sie den Einsatz effizienterer Modelle erforschen, die gr\u00f6\u00dfere Probleme mit erweiterten Kriterien bew\u00e4ltigen k\u00f6nnen, wie z. B. das Testen von Large Language Model-Entscheidungen.<\/p>\n Diese bahnbrechende Forschung wurde teilweise von der U.S. Defense Advanced Research Projects Agency finanziert. M\u00f6chten Sie die KI-Automatisierung in Ihre Gesch\u00e4ftsabl\u00e4ufe integrieren? Besuchen Sie implementi.ai<\/a> und entdecken Sie innovative, ma\u00dfgeschneiderte L\u00f6sungen f\u00fcr Ihre gesch\u00e4ftlichen Anforderungen. <\/p>\n