Angesichts der Vorteile, die algorithmische Entscheidungsfindung und künstliche Intelligenz bieten – einschließlich der Revolutionierung von Geschwindigkeit, Effizienz und Vorhersagefähigkeit in einer Vielzahl von Bereichen – arbeitet Manish Raghavan daran, die damit verbundenen Risiken zu mindern, und sucht gleichzeitig nach Möglichkeiten, die Technologien zur Unterstützung bereits bestehender Risiken einzusetzen soziale Belange.
„Letztendlich möchte ich, dass meine Forschung zu besseren Lösungen für seit langem bestehende gesellschaftliche Probleme führt“, sagt Raghavan, Drew Houston Profession Growth Professor und gemeinsames Fakultätsmitglied der MIT Sloan Faculty of Administration und des MIT Schwarzman School of Computing in den USA Fakultät für Elektrotechnik und Informatik sowie leitender Forscher am Labor für Informations- und Entscheidungssysteme (LIDS).
Ein gutes Beispiel für Raghavans Absicht ist seine Untersuchung des Einsatzes von KI bei der Einstellung von Mitarbeitern.
Raghavan sagt: „Es ist schwer zu behaupten, dass Einstellungspraktiken in der Vergangenheit besonders intestine oder erhaltenswert waren, und dass Instruments, die aus historischen Daten lernen, alle Vorurteile und Fehler übernehmen, die Menschen in der Vergangenheit gemacht haben.“
Hier nennt Raghavan jedoch eine potenzielle Probability.
„Es struggle schon immer schwierig, Diskriminierung zu messen“, sagt er und fügt hinzu: „KI-gesteuerte Systeme sind manchmal einfacher zu beobachten und zu messen als Menschen, und ein Ziel meiner Arbeit besteht darin, zu verstehen, wie wir diese verbesserte Sichtbarkeit nutzen können, um etwas zu entwickeln.“ Neue Wege, um herauszufinden, wann sich Systeme schlecht verhalten.“
Raghavan wuchs in der San Francisco Bay Space auf und hatte beide Eltern einen Abschluss in Informatik. Ursprünglich wollte er Arzt werden, sagt Raghavan. Doch kurz bevor er mit dem School anfing, veranlasste ihn seine Liebe zur Mathematik und zur Informatik dazu, dem Beispiel seiner Familie in die Informatik zu folgen. Nachdem er als Scholar einen Sommer lang an der Cornell College bei Jon Kleinberg, Professor für Informatik und Informationswissenschaft, geforscht hatte, beschloss er, dort seinen Doktortitel zu erwerben und schrieb seine Dissertation über „Die gesellschaftlichen Auswirkungen algorithmischer Entscheidungsfindung“.
Raghavan gewann Auszeichnungen für seine Arbeit, darunter einen Preis des Graduate Analysis Fellowships Program der Nationwide Science Basis, ein Microsoft Analysis PhD Fellowship und den PhD Dissertation Award des Cornell College Division of Laptop Science.
Im Jahr 2022 trat er der MIT-Fakultät bei.
Raghavan hat möglicherweise auf sein frühes Interesse an der Medizin zurückgegriffen und untersucht, ob die Bestimmungen eines hochpräzisen algorithmischen Screening-Instruments zur Triage von Patienten mit Magen-Darm-Blutungen, bekannt als Glasgow-Blatchford Rating (GBS), durch ergänzende Experten verbessert werden können ärztlicher Rat.
„Das GBS ist ungefähr so intestine wie das des Menschen im Durchschnitt, aber das bedeutet nicht, dass es nicht einzelne Patienten oder kleine Patientengruppen gibt, bei denen das GBS falsch ist und Ärzte wahrscheinlich Recht haben“, sagt er. „Wir hoffen, dass wir diese Patienten frühzeitig identifizieren können, sodass das Suggestions der Ärzte dort besonders wertvoll ist.“
Raghavan hat auch daran gearbeitet, wie sich On-line-Plattformen auf ihre Benutzer auswirken, indem er untersucht hat, wie Social-Media-Algorithmen die von einem Benutzer ausgewählten Inhalte beobachten und ihnen dann mehr Inhalte derselben Artwork zeigen. Die Schwierigkeit besteht laut Raghavan darin, dass Benutzer möglicherweise auf die gleiche Weise auswählen, was sie sehen möchten, als würden sie sich eine Tüte Kartoffelchips schnappen, die natürlich köstlich, aber nicht besonders nahrhaft sind. Die Erfahrung magazine im Second zufriedenstellend sein, kann aber beim Benutzer ein leichtes Übelkeitsgefühl hervorrufen.
Raghavan und seine Kollegen haben ein Modell entwickelt, das zeigt, wie ein Benutzer mit widersprüchlichen Wünschen – nach sofortiger Befriedigung und dem Wunsch nach längerfristiger Befriedigung – mit einer Plattform interagiert. Das Modell zeigt, wie das Design einer Plattform geändert werden kann, um ein gesünderes Erlebnis zu fördern. Das Modell wurde auf der Affiliation for Computing Equipment Convention on Economics and Computation 2022 mit dem Exemplary Utilized Modelling Monitor Paper Award ausgezeichnet.
„Langfristige Zufriedenheit ist letztendlich wichtig, auch wenn einem nur die Interessen eines Unternehmens am Herzen liegen“, sagt Raghavan. „Wenn wir anfangen können, Beweise dafür zu sammeln, dass Benutzer- und Unternehmensinteressen besser aufeinander abgestimmt sind, hoffe ich, dass wir gesündere Plattformen vorantreiben können, ohne Interessenkonflikte zwischen Benutzern und Plattformen lösen zu müssen.“ Das ist natürlich idealistisch. Aber ich habe den Eindruck, dass genügend Leute in diesen Unternehmen glauben, dass es Raum gibt, alle glücklicher zu machen, und dass ihnen einfach die konzeptionellen und technischen Werkzeuge fehlen, um dies zu erreichen.“
Über seinen Prozess, Ideen für solche Instruments und Konzepte für die optimale Anwendung von Computertechniken zu entwickeln, sagt Raghavan, dass ihm die besten Ideen kommen, wenn er eine Zeit lang ab und zu über ein Downside nachgedacht hat. Er würde seinen Schülern, sagt er, raten, seinem Beispiel zu folgen und ein sehr schwieriges Downside einen Tag lang aufzuschieben und sich dann wieder damit zu beschäftigen.
„Am nächsten Tag ist es oft besser“, sagt er.
Wenn er nicht gerade ein Downside löst oder unterrichtet, ist Raghavan oft draußen auf einem Fußballplatz zu finden, als Coach des Harvard Males’s Soccer Membership, eine Place, die er schätzt.
„Ich kann nicht zögern, wenn ich weiß, dass ich den Abend auf dem Feld verbringen muss, und es gibt mir etwas, auf das ich mich am Ende des Tages freuen kann“, sagt er. „Ich versuche, Dinge in meinem Zeitplan zu haben, die mir mindestens genauso wichtig erscheinen wie die Arbeit, diese Herausforderungen und Rückschläge in einen Kontext zu setzen.“
Als Raghavan darüber nachdenkt, wie wir Computertechnologien einsetzen können, um unserer Welt am besten zu dienen, sagt er, dass er die Idee, dass KI neue Erkenntnisse über „den Menschen und die menschliche Gesellschaft“ eröffnen wird, am spannendsten auf seinem Gebiet findet.
„Ich hoffe“, sagt er, „dass wir es nutzen können, um uns selbst besser zu verstehen.“