Studie: Bei der Verteilung knapper Ressourcen mithilfe von KI kann Randomisierung die Equity verbessern | MIT Information

Unternehmen nutzen zunehmend Modelle des maschinellen Lernens, um knappe Ressourcen oder Möglichkeiten zu verteilen. Solche Modelle können Unternehmen beispielsweise dabei helfen, Lebensläufe zu sichten, um Bewerber für ein Vorstellungsgespräch auszuwählen, oder Krankenhäuser dabei unterstützen, Nierentransplantationspatienten anhand ihrer Überlebenswahrscheinlichkeit zu bewerten.

Beim Einsatz eines Modells versuchen Benutzer normalerweise, die Equity seiner Vorhersagen durch Reduzierung von Verzerrungen sicherzustellen. Dazu gehören häufig Techniken wie das Anpassen der Funktionen, die ein Modell zur Entscheidungsfindung verwendet, oder das Kalibrieren der von ihm generierten Bewertungen.

Forscher vom MIT und der Northeastern College argumentieren jedoch, dass diese Fairnessmethoden nicht ausreichen, um strukturelle Ungerechtigkeiten und inhärente Unsicherheiten anzugehen. neues Papierzeigen sie, wie die strukturierte Randomisierung der Entscheidungen eines Modells die Equity in bestimmten Situationen verbessern kann.

Wenn beispielsweise mehrere Unternehmen dasselbe maschinelle Lernmodell verwenden, um Bewerber für Vorstellungsgespräche deterministisch – ohne Zufallsauswahl – zu bewerten, könnte eine Particular person, die für eine Bewerbung in Frage kommt, für jede Stelle der Kandidat mit der niedrigsten Bewertung sein, vielleicht aufgrund der Gewichtung der Antworten, die das Modell in einem On-line-Formular gibt. Die Einführung einer Zufallsauswahl in die Entscheidungen eines Modells könnte verhindern, dass einer Particular person oder Gruppe, die für eine Bewerbung in Frage kommt, immer eine knappe Ressource wie ein Vorstellungsgespräch verweigert wird.

Durch ihre Analyse stellten die Forscher fest, dass die Randomisierung insbesondere dann von Vorteil sein kann, wenn die Entscheidungen eines Modells mit Unsicherheiten behaftet sind oder wenn dieselbe Gruppe durchgängig unfavorable Entscheidungen erhält.

Sie stellen einen Rahmen dar, mit dem man ein bestimmtes Maß an Zufallseffekten in die Entscheidungen eines Modells einbringen kann, indem man die Ressourcen durch eine gewichtete Lotterie zuteilt. Diese Methode, die jeder an seine State of affairs anpassen kann, kann die Equity verbessern, ohne die Effizienz oder Genauigkeit eines Modells zu beeinträchtigen.

„Selbst wenn man faire Vorhersagen machen könnte, sollte man diese soziale Verteilung knapper Ressourcen oder Chancen ausschließlich auf der Grundlage von Punktzahlen oder Ranglisten entscheiden? Mit zunehmender Skalierung und der Tatsache, dass immer mehr Chancen von diesen Algorithmen entschieden werden, können die inhärenten Unsicherheiten dieser Punktzahlen noch größer werden. Wir zeigen, dass Equity eine Artwork Randomisierung erfordern kann“, sagt Shomik Jain, Doktorand am Institute for Knowledge, Techniques, and Society (IDSS) und Hauptautor der Studie.

An der Arbeit arbeiten neben Jain Kathleen Creel, Assistenzprofessorin für Philosophie und Informatik an der Northeastern College, sowie die leitende Autorin Ashia Wilson, Lister Brothers Profession Improvement Professorin in der Abteilung für Elektrotechnik und Informatik und leitende Forscherin im Laboratory for Info and Choice Techniques (LIDS). Die Forschungsarbeit wird auf der Worldwide Convention on Machine Studying vorgestellt.

Prüfung von Ansprüchen

Diese Arbeit baut auf einer vorheriges Papier In diesem Artikel untersuchten die Forscher die Schäden, die durch den Einsatz deterministischer Systeme in großem Maßstab entstehen können. Sie fanden heraus, dass die Verwendung eines maschinellen Lernmodells zur deterministischen Ressourcenzuweisung die in den Trainingsdaten vorhandenen Ungleichheiten verstärken kann, was wiederum zu Voreingenommenheit und systemischer Ungleichheit führen kann.

„Randomisierung ist ein sehr nützliches Konzept in der Statistik und erfüllt zu unserer Freude die Fairnessanforderungen sowohl aus systemischer als auch aus individueller Sicht“, sagt Wilson.

In dieses Papieruntersuchten sie die Frage, wann Zufallsprinzip die Equity verbessern kann. Sie bauten ihre Analyse auf den Ideen des Philosophen John Broome auf, der über den Wert von Lotterien schrieb, um knappe Ressourcen auf eine Weise zu verteilen, die allen Ansprüchen des Einzelnen gerecht wird.

Der Anspruch einer Particular person auf eine knappe Ressource, wie eine Nierentransplantation, kann auf Verdienst, Würdigkeit oder Not beruhen. Jeder Mensch hat beispielsweise ein Recht auf Leben, und sein Anspruch auf eine Nierentransplantation kann sich aus diesem Recht ergeben, erklärt Wilson.

„Wenn man anerkennt, dass Menschen unterschiedliche Ansprüche auf diese knappen Ressourcen haben, erfordert Equity, dass wir alle Ansprüche der Einzelnen respektieren. Wenn wir immer jemandem mit einem stärkeren Anspruch die Ressource geben, ist das dann honest?“, fragt Jain.

Diese Artwork der deterministischen Zuteilung könnte zu systematischer Ausgrenzung führen oder die Ungleichheit verstärken, die entsteht, wenn eine Particular person durch eine Zuteilung die Wahrscheinlichkeit erhöht, auch in Zukunft Zuteilungen zu erhalten. Darüber hinaus können maschinelle Lernmodelle Fehler machen, und ein deterministischer Ansatz könnte dazu führen, dass derselbe Fehler wiederholt wird.

Diese Probleme können durch Randomisierung gelöst werden. Das heißt aber nicht, dass alle Entscheidungen eines Modells gleichermaßen randomisiert werden sollten.

Strukturierte Randomisierung

Die Forscher verwenden eine gewichtete Lotterie, um den Grad der Randomisierung basierend auf der Unsicherheit anzupassen, die mit der Entscheidungsfindung des Modells verbunden ist. Eine Entscheidung, die weniger sicher ist, sollte mehr Randomisierung beinhalten.

„Bei der Nierenzuteilung wird normalerweise die voraussichtliche Lebensdauer geplant, und diese ist höchst unsicher. Wenn zwischen zwei Patienten nur fünf Jahre auseinander liegen, wird es viel schwieriger, das zu messen. Wir wollen dieses Maß an Unsicherheit nutzen, um die Randomisierung anzupassen“, sagt Wilson.

Die Forscher verwendeten Methoden zur Quantifizierung statistischer Unsicherheiten, um zu bestimmen, wie viel Randomisierung in verschiedenen Situationen erforderlich ist. Sie zeigen, dass eine kalibrierte Randomisierung zu gerechteren Ergebnissen für Einzelpersonen führen kann, ohne den Nutzen oder die Wirksamkeit des Modells wesentlich zu beeinträchtigen.

„Es muss ein Gleichgewicht zwischen dem Gesamtnutzen und der Achtung der Rechte der Einzelnen, die eine knappe Ressource erhalten, gefunden werden, aber oft ist der Kompromiss relativ gering“, sagt Wilson.

Die Forscher betonen jedoch, dass es Situationen gibt, in denen zufällige Entscheidungen nicht zu mehr Gerechtigkeit führen würden und Einzelnen schaden könnten, etwa im Zusammenhang mit der Strafjustiz.

Es könnte aber auch andere Bereiche geben, in denen Randomisierung die Equity verbessern kann, etwa bei der Zulassung zu Hochschulen. Die Forscher planen, in zukünftigen Arbeiten weitere Anwendungsfälle zu untersuchen. Sie möchten auch untersuchen, wie sich Randomisierung auf andere Faktoren wie Wettbewerb oder Preise auswirken kann und wie sie genutzt werden könnte, um die Robustheit von Modellen des maschinellen Lernens zu verbessern.

„Wir hoffen, dass unser Papier ein erster Schritt ist, um zu zeigen, dass die Randomisierung Vorteile haben könnte. Wir bieten die Randomisierung als Werkzeug an. Wie sehr Sie sie anwenden wollen, müssen alle Beteiligten an der Zuteilung entscheiden. Und natürlich ist die Entscheidung, wie sie sich entscheiden, eine ganz andere Forschungsfrage“, sagt Wilson.