Senior Audrey Lorvo erforscht die Sicherheit von KI, die sichergestellt werden soll, dass zunehmend intelligente KI -Modelle zuverlässig sind und der Menschheit zugute kommen können. Das wachsende Feld konzentriert sich auf technische Herausforderungen wie Robustheit und KI -Ausrichtung auf menschliche Werte sowie gesellschaftliche Bedenken wie Transparenz und Rechenschaftspflicht. Praktiker befassen sich auch mit den potenziellen existenziellen Risiken, die mit zunehmend leistungsstarken KI -Instruments verbunden sind.
„Es wird immer wichtiger, dass die KI nicht missbraucht wird oder wirken, wenn wir uns gegen unsere Absichten entsprechen, wenn wir uns der künstlichen allgemeinen Intelligenz (AGI) nähern“, sagt Lorvo, a Informatik, Wirtschaft und Datenwissenschaft wesentlich. AGI beschreibt das Potenzial der künstlichen Intelligenz, die kognitiven Fähigkeiten der Menschen zu entsprechen oder zu übertreffen.
Ein MIT Schwarzman Faculty of Computing Soziale und ethische Verantwortlichkeiten des Computing (SERC) ScholarLorvo prüft genau, wie KI KI -Forschungs- und Entwicklungsprozesse und -praktiken automatisieren könnte. Ein Mitglied der Large Knowledge -ForschungsgruppeSie untersucht die sozialen und wirtschaftlichen Auswirkungen, die mit dem Potenzial der KI verbunden sind, die Forschung über sich selbst zu beschleunigen und diese Ideen und potenziellen Auswirkungen effektiv an das allgemeine Publikum zu vermitteln, einschließlich Gesetzgeber, strategischen Beratern und anderen.
Lorvo betont die Notwendigkeit, die schnellen Fortschritte und deren Auswirkungen der KI kritisch zu bewerten und sicherzustellen, dass Unternehmen angemessenen Rahmenbedingungen und Strategien zur Bekämpfung von Risiken bestehen. „Wir müssen beide sicherstellen, dass Menschen die Vorteile von AI nutzen und dass wir nicht die Kontrolle über die Technologie verlieren“, sagt sie. „Wir müssen alles tun, um es sicher zu entwickeln.“
Ihre Teilnahme an Bemühungen wie die AI Security Technical Fellowship spiegeln ihre Investition in das Verständnis der technischen Aspekte der KI -Sicherheit wider. Das Stipendium bietet die Möglichkeit, bestehende Forschungen zur Ausrichtung der KI -Entwicklung mit Überlegungen zu potenziellen menschlichen Auswirkungen zu überprüfen. „Das Stipendium hat mir geholfen, die technischen Fragen und Herausforderungen von AI Security zu verstehen, damit ich möglicherweise bessere Strategien für die KI -Governance vorschlagen kann“, sagt sie. Laut Lorvo überschreiten Unternehmen an der Grenze von AI weiterhin Grenzen. Dies bedeutet, dass wir wirksame Richtlinien umsetzen müssen, die die Sicherheit des Menschen ohne Behinderung der Forschung priorisieren.
Wert durch menschliches Engagement
Als Lorvo am MIT ankam, wusste sie, dass sie einen Studiengang verfolgen wollte, der es ihr ermöglichen würde, an der Schnittstelle von Wissenschaft und Geisteswissenschaften zu arbeiten. Die Vielfalt der Angebote am Institut machte ihre Entscheidungen jedoch schwierig.
„Es gibt so viele Möglichkeiten, die Lebensqualität von Einzelpersonen und Gemeinschaften voranzutreiben“, sagt sie, „und MIT bietet so viele verschiedene Untersuchungswege.“
Beginnend mit der Ökonomie-einer Disziplin, die sie aufgrund ihrer Fokussierung auf die Quantifizierung der Auswirkungen genießt-untersuchte Lorvo Mathematik, Politikwissenschaft und Stadtplanung, bevor er den Kurs 6-14 auswählte.
„Professor Joshua Angrists Wirtschaftsklassen haben mir geholfen, den Wert bei der Konzentration auf die Wirtschaftswissenschaften zu erkennen, während die Elemente der Datenwissenschaft und Informatik wegen der wachsenden Reichweite und der potenziellen Auswirkungen der KI mich ansprachen “, sagt sie. „Wir können diese Instruments verwenden, um einige der dringendsten Probleme der Welt anzugehen und hoffentlich ernsthafte Herausforderungen zu bewältigen.“
Lorvo hat auch Konzentrationen in verfolgt Stadtstudien und Planung Und Internationale Entwicklung.
Als sie ihren Fokus eingegrenzt hat, findet Lorvo, dass sie einen Einblick in die Menschheit mit anderen Mitgliedern der MIT -Neighborhood wie der teilt MIT AI -Ausrichtungsgruppevon wem sie einiges über KI -Sicherheit gelernt hat. „Die Schüler kümmern sich um ihre marginalen Auswirkungen“, sagt sie.
Die marginalen Auswirkungen, die zusätzliche Wirkung einer bestimmten Investition in Zeit, Geld oder Anstrengung, ist eine Möglichkeit, zu messen, wie viel ein Beitrag dazu beiträgt, was bereits getan wird, anstatt sich auf die Gesamtwirkung zu konzentrieren. Dies kann möglicherweise beeinflussen, wo die Menschen ihre Ressourcen widmen, eine Idee, die Lorvo anspricht.
„In einer Welt mit begrenzten Ressourcen kann ein datengetriebener Ansatz zur Lösung einiger unserer größten Herausforderungen von einem maßgeschneiderten Ansatz profitieren, der die Menschen dorthin weist, wo sie wahrscheinlich am besten tun“, sagt sie. „Wenn Sie Ihre sozialen Auswirkungen maximieren möchten, kann es sehr wertvoll sein, über die marginalen Auswirkungen Ihrer Berufswahl nachzudenken.“
Lorvo schätzt auch MITs Fokus auf die Erziehung des gesamten Schülers und hat die Möglichkeiten genutzt, Disziplinen wie Philosophie durch zu untersuchen Miet -Halleein Programm, das den Dialog zwischen Wissenschaft und Geisteswissenschaften erleichtert. Concourse hofft, dass die Teilnehmer Anleitung, Klarheit und Zweck für wissenschaftliche, technische und menschliche Aktivitäten erhalten.
Studentenerfahrungen am Institut
Lorvo investiert ihre Zeit außerhalb des Klassenzimmers, um unvergessliche Erfahrungen zu schaffen und Beziehungen zu ihren Klassenkameraden zu fördern. „Ich habe das Glück, dass es Platz gibt, um meine Kursarbeit, Forschung und Clubverpflichtungen mit anderen Aktivitäten wie Gewichtheben und Initiativen außerhalb des Campus in Einklang zu bringen“, sagt sie. „Es gibt immer so viele Golf equipment und Veranstaltungen im gesamten Institut.“
Diese Möglichkeiten, ihre Weltanschauung zu erweitern, haben ihre Überzeugungen in Frage gestellt und sie neuen Interessensbereichen ausgesetzt, die ihr Leben und ihre Karriereentscheidungen zum Besseren verändert haben. Lorvo, der fließend Französisch, Englisch, Spanisch und Portugiesisch spricht, begrüßt das MIT auch für die internationalen Erfahrungen, die es für Studenten bietet.
„Ich habe in Santiago de Chile und Paris mit einem Praktikum gearbeitet Misti und half, a zu testen Wasserdampfkondenskammer das wir im Herbst 2023 entworfen haben D-Lab Klasse in Zusammenarbeit mit dem Madagaskar Polytechnic College Und Tatirano Ngo (Nichtregierungsorganisation) “, sagt sie,„ und hat die Möglichkeiten genossen, die wirtschaftliche Ungleichheit durch meine internationale Entwicklung und D-Lab-Klassen zu erlernen. “
Als Präsident von MITs Undergraduate Economics AffiliationLorvo verbindet sich mit anderen Studenten, die an Wirtschaft interessiert sind, und erweitert ihr Verständnis des Fachgebiets weiter. Sie genießt die Beziehungen, die sie aufbaut, und nimmt auch das ganze Jahr über an den Veranstaltungen der Vereinigung teil. „Selbst als Senior habe ich neue Campus -Gemeinden gefunden, die er erkunden und schätzen“, sagt sie. „Ich ermutige andere Schüler, weiterhin Gruppen und Klassen zu erkunden, die ihre Interessen während ihrer gesamten Zeit am MIT wecken.“
Nach dem Abschluss möchte Lorvo weiterhin die Sicherheit der KI untersuchen und Governance -Strategien erforschen, die dazu beitragen können, den sicheren und effektiven Einsatz der KI sicherzustellen.
„Eine gute Regierungsführung ist für die erfolgreiche Entwicklung von AI von wesentlicher Bedeutung und sicherzustellen, dass die Menschheit von ihrem transformativen Potenzial profitieren kann“, sagt sie. „Wir müssen weiterhin das Wachstum und die Fähigkeiten von KI überwachen, wenn sich die Technologie weiterentwickelt.“
Das Verständnis der potenziellen Auswirkungen der Technologie auf die Menschheit, das Gute zu tun, sich kontinuierlich zu verbessern und Räume zu schaffen, in denen große Ideen das Licht des Tages weiterhin Lorvo vorantreiben können. Die Verschmelzung der Geisteswissenschaften mit den Wissenschaften belegt viel von dem, was sie tut. „Ich hoffte immer, dazu beizutragen, die Leben der Menschen zu verbessern, und die KI stellt die größte Herausforderung und Chancen der Menschheit dar“, sagt sie. „Ich glaube, das KI -Sicherheitsfeld kann von Menschen mit interdisziplinären Erfahrungen wie der Artwork, die ich zum Glück hatte, profitieren, und ich ermutige jeden, der leidenschaftlich die Zukunft hat, sie zu erkunden.“