Als Type fasziniert von Videospielen und Puzzles, struggle Marzyeh Ghassemi schon in jungen Jahren von der Gesundheit fasziniert. Glücklicherweise fand sie einen Weg, die beiden Interessen zu verbinden.
Heute arbeiten Ghassemi und ihre Forschungsgruppe „Gesundes ML“ am LIDS an der umfassenden Untersuchung, wie maschinelles Lernen (ML) robuster gemacht und anschließend zur Verbesserung von Sicherheit und Chancengleichheit im Gesundheitswesen eingesetzt werden kann.
Ghassemi wuchs in Texas und New Mexico in einer ingenieurorientierten iranisch-amerikanischen Familie auf und hatte Vorbilder, denen er bei seiner MINT-Karriere folgen konnte. Während sie rätselbasierte Videospiele liebte – „Rätsel zu lösen, um andere Stage freizuschalten oder weiterzukommen, struggle eine sehr attraktive Herausforderung“ –, beschäftigte ihre Mutter sie schon früh mit fortgeschrittenerer Mathematik, was sie dazu verleitete, Mathematik als mehr als nur Arithmetik zu betrachten.
„Addieren oder Multiplizieren sind Grundfertigkeiten, die aus gutem Grund hervorgehoben werden, aber der Fokus kann die Vorstellung verschleiern, dass es in Mathematik und Naturwissenschaften auf höherem Niveau größtenteils um Logik und Rätsel geht“, sagt Ghassemi. „Dank der Ermutigung meiner Mutter wusste ich, dass mir etwas Spaßiges bevorsteht.“
Ghassemi sagt, dass neben ihrer Mutter viele andere ihre intellektuelle Entwicklung unterstützt hätten. Als sie ihren Bachelor-Abschluss an der New Mexico State College machte, half ihr der Direktor des Honors School und ehemaliger Marshall-Stipendiat – Jason Ackelson, heute leitender Berater des US-Heimatschutzministeriums – bei der Bewerbung um ein Marshall-Stipendium, das sie weiterführte Sie ging an die Universität Oxford, wo sie 2011 einen Grasp-Abschluss machte und sich erstmals für das neue und sich schnell entwickelnde Gebiet des maschinellen Lernens interessierte. Während ihrer Doktorarbeit am MIT sagte Ghassemi, dass sie „von Professoren und Kollegen gleichermaßen“ Unterstützung erhalten habe, und fügt hinzu: „Dieses Umfeld der Offenheit und Akzeptanz versuche ich für meine Studenten zu reproduzieren.“
Während ihrer Doktorarbeit stieß Ghassemi auch auf den ersten Hinweis, dass sich in Modellen des maschinellen Lernens Verzerrungen in Gesundheitsdaten verbergen können.
Sie hatte Modelle trainiert, um Ergebnisse anhand von Gesundheitsdaten vorherzusagen, „und die damalige Denkweise bestand darin, alle verfügbaren Daten zu nutzen. Wir hatten gesehen, dass bei neuronalen Netzen für Bilder die richtigen Funktionen für eine gute Leistung erlernt werden, sodass keine manuelle Entwicklung spezifischer Funktionen erforderlich ist.“
Während eines Treffens mit Leo Celi, leitender Forschungswissenschaftler am MIT Laboratory for Computational Physiology und IMES und Mitglied von Ghassemis Dissertationskomitee, fragte Celi, ob Ghassemi überprüft habe, wie intestine die Modelle bei Patienten unterschiedlichen Geschlechts, unterschiedlicher Versicherungsarten und unabhängiger Patienten funktionierten. gemeldete Rennen.
Ghassemi hat nachgesehen, und es gab Lücken. „Wir haben nun quick ein Jahrzehnt Arbeit vor uns, die zeigt, dass diese Modelllücken schwer zu schließen sind – sie sind auf bestehende Verzerrungen bei Gesundheitsdaten und standardmäßige technische Praktiken zurückzuführen. Wenn man nicht sorgfältig darüber nachdenkt, werden Modelle auf naive Weise Vorurteile reproduzieren und erweitern“, sagt sie.
Seitdem beschäftigt sich Ghassemi mit solchen Themen.
Ihr größter Durchbruch in ihrer Arbeit gelang ihr in mehreren Teilen. Zunächst zeigten sie und ihre Forschungsgruppe, dass Lernmodelle die Rasse eines Patienten anhand medizinischer Bilder wie Röntgenaufnahmen des Brustkorbs erkennen können, wozu Radiologen nicht in der Lage sind. Die Gruppe stellte dann fest, dass Modelle, die für eine „durchschnittliche“ Leistung optimiert waren, bei Frauen und Minderheiten nicht so intestine abschnitten. Im vergangenen Sommer kombinierte ihre Gruppe diese Ergebnisse, um zu zeigen, dass der Leistungsunterschied für Untergruppen in diesen Bevölkerungsgruppen umso größer wäre, je mehr ein Modell lernte, die Rasse oder das Geschlecht eines Patienten anhand eines medizinischen Bildes vorherzusagen. Ghassemi und ihr Staff fanden heraus, dass das Drawback gemildert werden könnte, wenn ein Modell darauf trainiert würde, demografische Unterschiede zu berücksichtigen, anstatt sich auf die durchschnittliche Gesamtleistung zu konzentrieren – dieser Prozess muss jedoch an jedem Standort durchgeführt werden, an dem ein Modell eingesetzt wird.
„Wir betonen, dass Modelle, die darauf trainiert wurden, die Leistung zu optimieren (Gesamtleistung mit geringster Gerechtigkeitslücke in Einklang zu bringen) in einem Krankenhausumfeld in anderen Umgebungen nicht optimum sind. „Das hat einen wichtigen Einfluss darauf, wie Modelle für den menschlichen Gebrauch entwickelt werden“, sagt Ghassemi. „Ein Krankenhaus verfügt möglicherweise über die Ressourcen, ein Modell zu trainieren und kann dann nachweisen, dass es gute Leistungen erbringt, möglicherweise sogar unter Berücksichtigung spezifischer Equity-Einschränkungen.“ Unsere Untersuchungen zeigen jedoch, dass diese Leistungsgarantien in neuen Umgebungen nicht gelten. Ein Modell, das an einem Standort intestine ausbalanciert ist, funktioniert in einer anderen Umgebung möglicherweise nicht effektiv. Dies wirkt sich auf den Nutzen von Modellen in der Praxis aus, und es ist wichtig, dass wir daran arbeiten, dieses Drawback für diejenigen anzugehen, die Modelle entwickeln und einsetzen.“
Ghassemis Arbeit ist von ihrer Identität geprägt.
„Ich bin eine sichtbar muslimische Frau und Mutter – beide haben dazu beigetragen, meine Sicht auf die Welt zu prägen, was meine Forschungsinteressen beeinflusst“, sagt sie. „Ich arbeite an der Robustheit von Modellen für maschinelles Lernen und daran, wie mangelnde Robustheit mit bestehenden Vorurteilen kombiniert werden kann. Dieses Interesse ist kein Zufall.“
In Bezug auf ihren Denkprozess sagt Ghassemi, dass ihr oft Inspiration kommt, wenn sie draußen ist – als Studentin beim Fahrradfahren in New Mexico, beim Rudern in Oxford, beim Laufen als Doktorandin am MIT und heutzutage bei einem Spaziergang an der Esplanade von Cambridge. Sie sagt auch, dass sie es bei der Lösung eines komplizierten Issues als hilfreich empfunden hat, über die Teile des größeren Issues nachzudenken und zu verstehen, wie ihre Annahmen zu jedem Teil falsch sein könnten.
„Meiner Erfahrung nach ist der limitierende Faktor für neue Lösungen das, was man zu wissen glaubt“, sagt sie. „Manchmal ist es schwierig, über das eigene (Teil-)Wissen über etwas hinwegzukommen, bis man sich wirklich tief in ein Modell, System usw. vertieft und erkennt, dass man einen Teilbereich nicht richtig oder vollständig verstanden hat.“
So leidenschaftlich Ghassemi auch ihrer Arbeit nachgeht, behält sie bewusst den Überblick über das Gesamtbild des Lebens.
„Wenn man seine Forschung liebt, kann es schwierig sein, zu verhindern, dass dies zu seiner Identität wird – das ist etwas, worüber sich viele Akademiker meiner Meinung nach im Klaren sein müssen“, sagt sie. „Ich versuche sicherzustellen, dass ich Interessen (und Kenntnisse) habe, die über mein eigenes technisches Fachwissen hinausgehen.
„Eine der besten Möglichkeiten, einem Gleichgewicht Priorität einzuräumen, ist die Zusammenarbeit mit guten Leuten. Wenn Sie Familie, Freunde oder Kollegen haben, die Sie ermutigen, ein vollwertiger Mensch zu sein, halten Sie an ihnen fest!“
Ghassemi hat viele Auszeichnungen und viel Anerkennung für seine Arbeit gewonnen, die zwei frühe Leidenschaften umfasst – Informatik und Gesundheit – und bekennt sich zu seinem Glauben daran, das Leben als eine Reise zu sehen.
„Es gibt ein Zitat des persischen Dichters Rumi, das mit „Du bist, was du suchst“ übersetzt wird“, sagt sie. „In jeder Section Ihres Lebens müssen Sie wieder in die Suche nach sich selbst investieren und diese dahingehend ausrichten, wer Sie sein möchten.“