Was können wir über die menschliche Intelligenz lernen, wenn wir untersuchen, wie Maschinen „denken“? Können wir uns selbst besser verstehen, wenn wir die Systeme der künstlichen Intelligenz besser verstehen, die zu einem immer wichtigeren Teil unseres Alltags werden?
Diese Fragen mögen zutiefst philosophisch sein, aber für Phillip Isola geht es beim Finden der Antworten sowohl um Berechnung als auch um Nachdenken.
Isola, die neue außerordentliche Professorin am Fachbereich Elektrotechnik und Informatik (EECS), untersucht die grundlegenden Mechanismen der menschenähnlichen Intelligenz aus rechnerischer Sicht.
Während das übergeordnete Ziel das Verständnis von Intelligenz ist, konzentriert sich seine Arbeit hauptsächlich auf Pc Imaginative and prescient und maschinelles Lernen. Isola ist besonders daran interessiert, zu erforschen, wie Intelligenz in KI-Modellen entsteht, wie diese Modelle lernen, die Welt um sie herum darzustellen, und was ihre „Gehirne“ mit den Gehirnen ihrer menschlichen Schöpfer teilen.
„Ich sehe, dass alle verschiedenen Arten von Intelligenz viele Gemeinsamkeiten haben, und ich würde diese Gemeinsamkeiten gerne verstehen. Was haben alle Tiere, Menschen und KIs gemeinsam?“ sagt Isola, die auch Mitglied des Pc Science and Synthetic Intelligence Laboratory (CSAIL) ist.
Für Isola wird ein besseres wissenschaftliches Verständnis der Intelligenz, über die KI-Agenten verfügen, der Welt dabei helfen, sie sicher und effektiv in die Gesellschaft zu integrieren und ihr Potenzial zum Nutzen der Menschheit zu maximieren.
Fragen stellen
Schon in jungen Jahren begann Isola, über wissenschaftliche Fragen nachzudenken.
Als er in San Francisco aufwuchs, unternahmen er und sein Vater häufig Wanderungen entlang der Küste Nordkaliforniens oder zelteten rund um Level Reyes und in den Hügeln von Marin County.
Er battle fasziniert von geologischen Prozessen und fragte sich oft, wie die Natur funktioniert. In der Schule battle Isola von einer unstillbaren Neugier getrieben, und obwohl er sich zu technischen Fächern wie Mathematik und Naturwissenschaften hingezogen fühlte, waren ihm bei dem, was er lernen wollte, keine Grenzen gesetzt.
Da Isola nicht ganz sicher battle, was er als Pupil an der Yale College studieren sollte, versuchte er sich, bis er auf die Kognitionswissenschaften stieß.
„Mein früheres Interesse galt der Natur – wie die Welt funktioniert. Aber dann wurde mir klar, dass das Gehirn noch interessanter und komplexer battle als die Entstehung der Planeten. Jetzt wollte ich wissen, was uns antreibt“, sagt er.
Als Pupil im ersten Jahr begann er im Labor seines Kognitionswissenschaftsprofessors und zukünftigen Mentors Brian Scholl, einem Mitglied der Yale-Abteilung für Psychologie, zu arbeiten. Er blieb während seines gesamten Studiums in diesem Labor.
Nachdem sie ein Jahr lang mit einigen Freunden aus Kindertagen bei einem Indie-Videospielunternehmen gearbeitet hatte, battle Isola bereit, wieder in die komplexe Welt des menschlichen Gehirns einzutauchen. Er schrieb sich für das Graduiertenprogramm für Gehirn- und Kognitionswissenschaften am MIT ein.
„In der Graduiertenschule hatte ich das Gefühl, endlich meinen Platz gefunden zu haben. Ich hatte viele großartige Erfahrungen in Yale und in anderen Phasen meines Lebens, aber als ich am MIT ankam, wurde mir klar, dass dies die Arbeit battle, die ich wirklich liebte, und dass dies die Leute sind, die ähnlich denken wie ich“, sagt er.
Isola schreibt seinem Doktorvater Ted Adelson, dem John und Dorothy Wilson-Professor für Sehwissenschaft, einen großen Einfluss auf seinen zukünftigen Weg zu. Inspiriert wurde er von Adelsons Fokus auf das Verständnis grundlegender Prinzipien und nicht nur auf die Jagd nach neuen technischen Benchmarks, bei denen es sich um formalisierte Checks zur Messung der Leistung eines Techniques handelt.
Eine rechnerische Perspektive
Am MIT verlagerte sich Isolas Forschung in Richtung Informatik und künstliche Intelligenz.
„Ich liebte immer noch all diese Fragen aus den Kognitionswissenschaften, aber ich hatte das Gefühl, dass ich bei einigen dieser Fragen größere Fortschritte machen könnte, wenn ich sie aus einer rein rechnerischen Perspektive angehen würde“, sagt er.
Seine Dissertation konzentrierte sich auf die Wahrnehmungsgruppierung, bei der es um die Mechanismen geht, die Menschen und Maschinen verwenden, um einzelne Teile eines Bildes als ein einziges, zusammenhängendes Objekt zu organisieren.
Wenn Maschinen Wahrnehmungsgruppierungen selbstständig erlernen können, könnte dies KI-Systemen ermöglichen, Objekte ohne menschliches Eingreifen zu erkennen. Diese Artwork des selbstüberwachten Lernens findet Anwendung in Bereichen wie autonomen Fahrzeugen, medizinischer Bildgebung, Robotik und automatischer Sprachübersetzung.
Nach seinem Abschluss am MIT absolvierte Isola ein Postdoc-Studium an der College of California in Berkeley, um seine Perspektiven durch die Arbeit in einem Labor zu erweitern, das sich ausschließlich auf Informatik konzentrierte.
„Diese Erfahrung hat dazu beigetragen, dass meine Arbeit viel wirkungsvoller wurde, weil ich gelernt habe, das Verständnis grundlegender, abstrakter Prinzipien der Intelligenz mit der Verfolgung einiger konkreterer Benchmarks in Einklang zu bringen“, erinnert sich Isola.
In Berkeley entwickelte er Frameworks für die Bild-zu-Bild-Übersetzung, eine frühe Kind eines generativen KI-Modells, das beispielsweise eine Skizze in ein fotografisches Bild oder ein Schwarzweißfoto in ein Farbfoto umwandeln konnte.
Er trat in den akademischen Arbeitsmarkt ein und nahm eine Fakultätsstelle am MIT an, doch Isola schob die Arbeit um ein Jahr auf, um bei einem damals kleinen Startup namens OpenAI zu arbeiten.
„Es battle eine gemeinnützige Organisation, und mir gefiel damals die idealistische Mission. Sie waren wirklich intestine im Reinforcement Studying, und ich dachte, das schien ein wichtiges Thema zu sein, über das man mehr lernen sollte“, sagt er.
Er genoss es, in einem Labor mit so viel wissenschaftlicher Freiheit zu arbeiten, aber nach einem Jahr battle Isola bereit, ans MIT zurückzukehren und eine eigene Forschungsgruppe zu gründen.
Erforschung menschenähnlicher Intelligenz
Die Leitung eines Forschungslabors gefiel ihm sofort.
„Ich liebe das frühe Stadium einer Idee wirklich. Ich fühle mich wie eine Artwork Startup-Inkubator, in dem ich ständig neue Dinge tun und Neues lernen kann“, sagt er.
Aufbauend auf seinem Interesse an den Kognitionswissenschaften und seinem Wunsch, das menschliche Gehirn zu verstehen, untersucht seine Gruppe die grundlegenden Berechnungen, die an der menschenähnlichen Intelligenz beteiligt sind, die in Maschinen entsteht.
Ein Hauptschwerpunkt liegt auf dem Repräsentationslernen, additionally der Fähigkeit von Menschen und Maschinen, die Sinneswelt um sie herum darzustellen und wahrzunehmen.
In neueren Arbeiten stellten er und seine Mitarbeiter fest, dass die vielen verschiedenen Arten von Modellen für maschinelles Lernen, von LLMs über Pc-Imaginative and prescient-Modelle bis hin zu Audiomodellen, die Welt auf ähnliche Weise darzustellen scheinen.
Diese Modelle sind für sehr unterschiedliche Aufgaben konzipiert, weisen jedoch viele Ähnlichkeiten in ihrer Architektur auf. Und je größer sie werden und je mehr Daten sie nutzen, desto ähnlicher werden ihre internen Strukturen.
Dies veranlasste Isola und sein Crew zur Einführung der Platonischen Repräsentationshypothese (benannt nach dem griechischen Philosophen Platon), die besagt, dass die Darstellungen, die alle diese Modelle lernen, zu einer gemeinsamen, zugrunde liegenden Darstellung der Realität konvergieren.
„Sprache, Bilder, Ton – all das sind verschiedene Schatten an der Wand, aus denen man schließen kann, dass es da draußen irgendeinen zugrunde liegenden physikalischen Prozess – eine Artwork kausale Realität – gibt. Wenn man Modelle auf all diesen verschiedenen Datentypen trainiert, sollten sie am Ende zu diesem Weltmodell konvergieren“, sagt Isola.
Ein verwandter Bereich, den sein Crew untersucht, ist selbstüberwachtes Lernen. Dabei geht es um die Artwork und Weise, wie KI-Modelle lernen, verwandte Pixel in einem Bild oder Wörter in einem Satz zu gruppieren, ohne beschriftete Beispiele zum Lernen zu haben.
Da Daten teuer und Etiketten begrenzt sind, könnte die Verwendung ausschließlich gekennzeichneter Daten zum Trainieren von Modellen die Leistungsfähigkeit von KI-Systemen beeinträchtigen. Beim selbstüberwachten Lernen besteht das Ziel darin, Modelle zu entwickeln, die selbstständig eine genaue interne Darstellung der Welt erstellen können.
„Wenn Sie eine gute Darstellung der Welt finden können, sollte das die spätere Problemlösung einfacher machen“, erklärt er.
Der Schwerpunkt der Forschung von Isola liegt mehr darauf, etwas Neues und Überraschendes zu finden, als auf dem Aufbau komplexer Systeme, die die neuesten Benchmarks für maschinelles Lernen übertreffen können.
Dieser Ansatz hat zwar große Erfolge bei der Entdeckung innovativer Techniken und Architekturen gebracht, bedeutet jedoch, dass der Arbeit manchmal ein konkretes Endziel fehlt, was zu Herausforderungen führen kann.
Wenn sich das Labor auf die Suche nach unerwarteten Ergebnissen konzentriert, kann es beispielsweise schwierig sein, ein Crew auf dem Laufenden zu halten und die Finanzierung sicherzustellen, sagt er.
„In gewisser Weise tappen wir immer im Dunkeln. Es ist eine Arbeit mit hohem Risiko und hoher Belohnung. Hin und wieder entdecken wir einen Kern der Wahrheit, der neu und überraschend ist“, sagt er.
Neben der Wissensvermittlung liegt Isola auch die Wissensvermittlung an die nächste Era von Wissenschaftlern und Ingenieuren am Herzen. Zu seinen Lieblingskursen gehört 6.7960 (Deep Studying), den er und mehrere andere MIT-Fakultätsmitglieder vor vier Jahren ins Leben gerufen haben.
Die Klasse verzeichnete ein exponentielles Wachstum, von 30 Schülern im ersten Angebot auf über 700 in diesem Herbst.
Und obwohl die Popularität der KI bedeutet, dass es keinen Mangel an interessierten Studenten gibt, kann es aufgrund der Geschwindigkeit, mit der sich das Fachgebiet bewegt, schwierig sein, den Hype von wirklich bedeutenden Fortschritten zu trennen.
„Ich sage den Schülern, dass sie alles, was wir im Unterricht sagen, mit Vorsicht genießen müssen. Vielleicht werden wir ihnen in ein paar Jahren etwas anderes sagen. Mit diesem Kurs sind wir wirklich am Rande des Wissens“, sagt er.
Aber Isola betont gegenüber Studierenden auch, dass intelligente Maschinen bei allem Hype um die neuesten KI-Modelle viel einfacher sind, als die meisten Menschen vermuten.
„Menschlicher Einfallsreichtum, Kreativität und Emotionen – viele Menschen glauben, dass diese niemals modelliert werden können. Das könnte sich als wahr herausstellen, aber ich denke, Intelligenz ist ziemlich einfach, wenn wir sie erst einmal verstanden haben“, sagt er.
Auch wenn sich seine aktuelle Arbeit auf Deep-Studying-Modelle konzentriert, ist Isola immer noch von der Komplexität des menschlichen Gehirns fasziniert und arbeitet weiterhin mit Forschern zusammen, die sich mit Kognitionswissenschaften befassen.
Dabei ist er von der Schönheit der Natur fasziniert geblieben, die sein erstes Interesse an der Naturwissenschaft weckte.
Obwohl er heutzutage weniger Zeit für Hobbys hat, genießt Isola Wandern und Rucksacktouren in den Bergen oder auf Cape Cod, Skifahren und Kajakfahren oder die Suche nach malerischen Orten zum Verweilen, wenn er zu wissenschaftlichen Konferenzen reist.
Und während er sich darauf freut, in seinem Labor am MIT neue Fragen zu erforschen, kommt Isola nicht umhin, darüber nachzudenken, wie die Rolle intelligenter Maschinen den Verlauf seiner Arbeit verändern könnte.
Er glaubt, dass künstliche allgemeine Intelligenz (AGI) oder der Punkt, an dem Maschinen genauso intestine lernen und ihr Wissen anwenden können wie Menschen, nicht mehr so weit entfernt ist.
„Ich glaube nicht, dass KIs einfach alles für uns erledigen und wir das Leben am Strand genießen werden. Ich denke, dass es eine Koexistenz zwischen intelligenten Maschinen und Menschen geben wird, die immer noch viel Entscheidungsfreiheit und Kontrolle haben. Jetzt denke ich über die interessanten Fragen und Anwendungen nach, wenn das passiert. Wie kann ich der Welt in dieser Submit-AGI-Zukunft helfen? Ich habe noch keine Antworten, aber es beschäftigt mich“, sagt er.