Inwieweit kann ein künstliches System rational sein?
Ein neuer MIT-Kurs, 6.S044/24.S00 (KI und Rationalität) versucht nicht, diese Frage zu beantworten. Stattdessen fordert es die Studierenden heraus, dieses und andere philosophische Probleme durch die Linse der KI-Forschung zu untersuchen. Für die nächste Technology von Wissenschaftlern könnten sich Konzepte von Rationalität und Entscheidungsfreiheit als integraler Bestandteil der KI-Entscheidungsfindung erweisen, insbesondere wenn sie davon beeinflusst werden, wie Menschen ihre eigenen kognitiven Grenzen und ihre eingeschränkten, subjektiven Ansichten darüber, was rational ist und was nicht, verstehen.
Diese Untersuchung wurzelt in einer tiefen Beziehung zwischen Informatik und Philosophie, die seit langem zusammenarbeiten, um zu formalisieren, was es bedeutet, rationale Überzeugungen zu bilden, aus Erfahrungen zu lernen und rationale Entscheidungen zur Verfolgung der eigenen Ziele zu treffen.
„Man kann sich vorstellen, dass Informatik und Philosophie ziemlich weit voneinander entfernt sind, aber sie haben sich schon immer überschnitten. Die technischen Teile der Philosophie überschneiden sich wirklich mit der KI, insbesondere mit der frühen KI“, sagt Kursleiter Leslie Kaelbling, Panasonic-Professor für Informatik und Ingenieurwesen am MIT, und erinnert dabei an Alan Turing, der sowohl Informatiker als auch Philosoph warfare. Kaelbling selbst hat einen Bachelor-Abschluss in Philosophie von der Stanford College und weist darauf hin, dass Informatik zu dieser Zeit nicht als Hauptfach verfügbar warfare.
Brian Hedden, Professor an der Fakultät für Linguistik und Philosophie und Inhaber einer gemeinsamen Place am MIT Schwarzman School of Computing mit der Fakultät für Elektrotechnik und Informatik (EECS), der die Klasse zusammen mit Kaelbling unterrichtet, stellt fest, dass die beiden Disziplinen stärker aufeinander abgestimmt sind, als man sich vorstellen kann, und fügt hinzu, dass die „Unterschiede in der Betonung und Perspektive liegen“.
Werkzeuge für weiteres theoretisches DenkenG
Kaelbling und Hedden wurden erstmals im Herbst 2025 angeboten und entwickelten AI und Rationality als Teil des Gemeinsamkeiten für die Informatikausbildung, eine übergreifende Initiative des MIT Schwarzman School of Computing, die mehrere Abteilungen zusammenbringt, um neue Kurse zu entwickeln und zu unterrichten und neue Programme zu starten, die Informatik mit anderen Disziplinen verbinden.
Mit über zwei Dutzend eingeschriebenen Studenten ist AI and Rationality einer von zwei Widespread Floor-Kursen mit einer philosophischen Grundlage, der andere ist 6.C40/24.C40 (Ethik der Informatik).
Während „Ethics of Computing“ Bedenken hinsichtlich der gesellschaftlichen Auswirkungen schnell fortschreitender Technologie untersucht, untersucht „AI and Rationality“ die umstrittene Definition von Rationalität anhand mehrerer Komponenten: der Natur rationaler Handlungsfähigkeit, dem Konzept eines vollständig autonomen und intelligenten Agenten und der Zuschreibung von Überzeugungen und Wünschen zu diesen Systemen.
Da die Implementierung von KI äußerst umfassend ist und jeder Anwendungsfall unterschiedliche Probleme aufwirft, haben Kaelbling und Hedden ein Brainstorming zu Themen durchgeführt, die eine fruchtbare Diskussion und Auseinandersetzung zwischen den beiden Perspektiven Informatik und Philosophie ermöglichen könnten.
„Wenn ich mit Studenten arbeite, die maschinelles Lernen oder Robotik studieren, ist es wichtig, dass sie einen Schritt zurücktreten und die Annahmen überprüfen, die sie treffen“, sagt Kaelbling. „Das Nachdenken über Dinge aus einer philosophischen Perspektive hilft den Menschen, Rückschlüsse zu ziehen und besser zu verstehen, wie sie ihre Arbeit in den tatsächlichen Kontext einordnen können.“
Beide Dozenten betonen, dass es sich hierbei nicht um einen Kurs handelt, der konkrete Antworten auf die Frage gibt, was es bedeutet, einen rationalen Agenten zu konstruieren.
Hedden sagt: „Ich betrachte den Kurs als den Aufbau ihrer Grundlagen. Wir geben ihnen keine Lehrmeinung, die sie lernen, auswendig lernen und dann anwenden können. Wir statten sie mit Werkzeugen aus, mit denen sie kritisch über Dinge nachdenken können, wenn sie ihre gewählte Karriere anstreben, sei es in der Forschung, in der Industrie oder in der Regierung.“
Der rasante Fortschritt der KI stellt auch die Wissenschaft vor neue Herausforderungen. Kaelbling hält es für eine unmögliche Aufgabe, vorherzusagen, was Schüler in fünf Jahren wissen müssen. „Was wir tun müssen, ist, ihnen auf einer höheren Ebene die Werkzeuge an die Hand zu geben – die Geistesgewohnheiten, die Denkweisen –, die ihnen helfen, an die Dinge heranzugehen, die wir im Second wirklich nicht vorhersehen können“, sagt sie.
Disziplinen vermischen und Annahmen hinterfragen
Bisher hat der Kurs Studierende aus einem breiten Spektrum von Disziplinen angezogen – von denen, die sich intensiv mit Informatik auskennen, bis hin zu anderen, die daran interessiert sind, zu erforschen, wie sich KI mit ihren eigenen Studienbereichen überschneidet.
Während des gesamten Semesters setzten sich die Studierenden mit unterschiedlichen Definitionen von Rationalität und der Frage, wie sie sich gegen Annahmen in ihren Fachgebieten wehrten, auseinander.
Was sie an dem Kurs überrascht hat, sagt Amanda Paredes Rioboo, eine Seniorin an der EECS: „Uns wird sozusagen beigebracht, dass Mathematik und Logik dieser goldene Normal oder diese Wahrheit sind. Dieser Kurs zeigte uns eine Vielzahl von Beispielen dafür, dass Menschen im Widerspruch zu diesen mathematischen und logischen Rahmenwerken handeln. Wir haben eine ganze Reihe von Würmern geöffnet, um zu fragen, ob es Menschen sind, die irrational sind? Sind es die maschinellen Lernsysteme, die wir entworfen haben, die irrational sind? Ist es Mathematik und Logik selbst?“
Junior Okoroafor, ein Doktorand in der Abteilung für Gehirn- und Kognitionswissenschaften, schätzte die Herausforderungen der Klasse und die Artwork und Weise, wie sich die Definition eines rationalen Agenten je nach Disziplin ändern kann. „Die Darstellung dessen, was jedes Feld unter Rationalität in einem formalen Rahmen versteht, macht deutlich, welche Annahmen zwischen den Feldern geteilt werden müssen und welche unterschiedlich sind.“
Die Co-Instructing- und Kooperationsstruktur des Kurses gab den Studierenden und Dozenten, wie bei allen Widespread Floor-Bemühungen, die Möglichkeit, unterschiedliche Perspektiven in Echtzeit zu hören.
Für Paredes Rioboo ist dies ihr dritter Widespread Floor-Kurs. Sie sagt: „Mir gefällt der interdisziplinäre Aspekt sehr. Sie haben sich immer wie eine schöne Mischung aus Theorie und Praxis angefühlt, da sie bereichsübergreifend arbeiten müssen.“
Laut Okoroafor zeigten Kaelbling und Hedden eine offensichtliche Synergie zwischen den Bereichen und sagten, dass es sich anfühlte, als würden sie sich engagieren und gemeinsam mit der Klasse lernen. Wie Informatik und Philosophie zur gegenseitigen Info genutzt werden können, ermöglichte es ihm, ihre Gemeinsamkeiten und unschätzbaren Perspektiven auf sich überschneidende Themen zu verstehen.
Er fügt hinzu: „Philosophie kann einen auch überraschen.“