Am 30. April fand am MIT Schwarzman School of Computing statt Soziale und ethische Verantwortung des Computer systems (SERC) veranstaltete ein ganztägiges Forschungssymposium, bei dem untersucht wurde, wie künstliche Intelligenz die Welt prägt und welche Auswirkungen sie auf die Gesellschaft hat.
Das Symposium umfasste Forschungsvorträge der jüngsten SERC-Seed-Stipendiaten zu Themen wie Luftverschmutzungsvorhersage und verantwortungsvoller Pc-Imaginative and prescient-Einsatz, Panels zu KI-Ausrichtung und KI in der Bildung sowie eine Grundsatzrede von Jon Kleinberg PhD ’96, dem Tisch College-Professor für Informatik und Informationswissenschaft an der Cornell College. Im Rahmen der Veranstaltung fand auch eine Postersitzung statt, bei der studentische Forscher ihre Arbeit vorstellten Projekte Sie haben das ganze Jahr über daran gearbeitet SERC-Stipendiaten.
„Am MIT wird so viel erstaunliche Forschung darüber betrieben, wie KI und Pc gute Kräfte zum Nutzen der Menschheit sein können. Es struggle inspirierend, so viel Gemeinschaftsinteresse an all dieser Spitzenarbeit zu sehen“, sagte Brian Hedden, stellvertretender Dekan des SERC und Professor für Philosophie, der eine gemeinsame Place am MIT Schwarzman School of Computing mit der Abteilung für Elektrotechnik und Informatik (EECS) innehat.
„Da Computing und KI zunehmend in quick allen Bereichen der Gesellschaft verankert sind, besteht die Mission des SERC darin, dazu beizutragen, dass ethische Überlegungen und technischer Fortschritt gemeinsam voranschreiten“, sagte Nikos Trichakis, stellvertretender Dekan des SERC und JC Penney-Professor für Administration. „Das diesjährige Symposium beleuchtet das außergewöhnliche Spektrum der laufenden Arbeiten am MIT und schafft ein Discussion board für unsere Neighborhood, um sich intensiv mit den Verantwortlichkeiten auseinanderzusetzen, die mit der Gestaltung der Zukunft des Computing einhergehen.“
KI an menschlichen Werten ausrichten – und welche Werte das sein könnten
Die Herausforderungen bei der KI-Ausrichtung und moralischen Verknüpfung liegen in der ethischen Frage, wie man einer sehr mächtigen und sich schnell verändernden Technologie „menschliche Werte“ vermitteln kann. Wer entscheidet darüber, welche Werte und Rationalitäten in einen ethischen Rahmen einbezogen werden? Wie kann man Verzerrungen bei der Übertragung dieser Werte vom Benutzer auf die Maschine berücksichtigen?
Diese Fragen stellte unter anderem Dylan Hadfield-Menell, außerordentlicher Professor der EECS, während eines von ihm moderierten Panels, das eine interdisziplinäre Gruppe von Rednern zusammenbrachte.
Iason Gabriel, Philosoph und Forscher bei Google DeepMind, verdeutlichte seinen Standpunkt am Beispiel eines Richters. „Sie möchten, dass ein Richter einen guten Charakter hat, aber dennoch die Regeln auslegt. Ein vernünftiger Mensch, wenn auch nicht unbedingt der beste Mensch, der je gelebt hat. Wenn es um KI geht, ist es nicht angebracht, sie als perfekt darzustellen. KI sollte tun, was wir ihr sagen, und gleichzeitig ihren Charakter nutzen, um gemäß unseren moralischen Werten zu interpretieren.“
Bailey Flanigan, Assistenzprofessor für Politikwissenschaft in einer gemeinsamen Berufung mit dem MIT Schwarzman School of Computing in EECS, ging noch einen Schritt weiter. Für sie besteht das wichtigste Downside bei der KI-Anpassung darin, „grundlegende Fragen zu klären, wer überhaupt berechtigt ist, verschiedene Arten von KI-Systemen zu verwalten“.
Neben Flanigan nahm auch Bernado Zacka, außerordentlicher Professor für Politikwissenschaft, an der Diskussionsrunde teil. Angesichts der Dynamik der KI und der komplexen institutionellen Gestaltung, so Zacka, „ist es eines der dringendsten Probleme, die Weisheit zu verstehen, die in den Systemen steckt, die wir ersetzen, und zu verstehen, warum sie so funktionieren, wie sie es tun.“
Wenn der Einsatzdruck zunimmt, hat man oft das Gefühl, dass die Leute das Flugzeug bauen, während sie es fliegen, obwohl die Diskussionsteilnehmer hinsichtlich der Entwicklung der KI-Ausrichtung insgesamt optimistisch schienen und betonten, wie wichtig menschliche Komponenten für die Gestaltung dieser Systeme sind.
Entlastung versus Aufmunterung
Da Schüler auf allen Bildungsebenen beginnen, KI zu nutzen, stellt sich die Frage, ob es eine Möglichkeit gibt, KI-Instruments ethisch zu integrieren und gleichzeitig die akademische Genauigkeit und Strenge beizubehalten. Bei einer Podiumsdiskussion zu KI und Bildung untersuchten die MIT-Fakultät und Marta McAlister, die Direktorin von Gemini for Training, wie KI bereits in ihren Klassenzimmern eingesetzt wird, und diskutierten Möglichkeiten, wie sie das Lernen unterstützen und gleichzeitig an den Lehr- und Lehrplanzielen ausgerichtet bleiben kann.
Die Professoren Eric Klopfer und Samuel Madden, Co-Vorsitzende des Advert-hoc-Ausschusses für den Einsatz von KI beim Lehren, Lernen und in der Forschungsausbildung des MIT, gingen auf das zentrale Dilemma ein, ob KI zur Entlastung von Arbeit eingesetzt wird und nicht dazu, die gelehrten Konzepte zu untermauern.
Madden, Fakultätsleiter für Informatik am EECS und angesehener Professor des MIT School of Computing, beschrieb den Prozess des kognitiven Kampfes, bei dem Lernen durch eine Reihe von Versuchen und Misserfolgen erfolgt. Er sagte: „Heutzutage ist der erste Instinkt der Studierenden, wenn sie an die Wand stoßen, die KI zu fragen. Sie halten das nicht für überragend in diesem Prozess und haben sich die Fähigkeiten, die Sie bewerten, noch nicht wirklich angeeignet.“ Dann stellt sich die Frage, wie Ausbilder den Prozess des kognitiven Kampfes aufrechterhalten, sodass er gerade genug Herausforderung darstellt, um dem Drang, KI zu nutzen, entgegenzuwirken.
Klopfer, der als Direktor des Scheller Trainer Training Program und der Training Arcade am MIT fungiert, teilte ähnliche Ansichten, da kritisches Denken nicht länger ein entscheidender Schritt im Ergebnis der Arbeit sei. Klopfer schlug vor, den Lehrplan als Ganzes zu prüfen, um herauszufinden, wo man ansetzen sollte, um den Stoff gerade anspruchsvoll genug zu gestalten. „Einige Kerninhalte müssen verschwinden. Wir fügen weiter hinzu, anstatt sie zu analysieren oder zu beschneiden“, sagte er.
Moderator Justin Reich, Direktor des Educating Programs Lab und außerordentlicher Professor im Comparative Media Research Program/Writing, stellte fest, dass Teenager zwar wissen, dass KI schlecht ist, dies aber nicht unbedingt dazu führt, dass sie KI nicht mehr nutzen. Indem man sie jedoch in die Diskussion darüber einbezieht, wie KI implementiert wird, und einen reflektierteren Austausch mit Lehrenden einbaut, könnten Studierende besser in die Lage versetzt werden, zu entscheiden, wie und warum sie diese Instruments nutzen.
Unabhängig davon sollten KI-Instruments und ihre Implementierung nicht als einheitliche Richtlinie betrachtet werden. Pat Pataranutaporn, Karriereentwicklungsprofessor für Medienkunst und -wissenschaften bei der Asahi Broadcasting Company und Leiter der Cyborg-Psychologie-Forschungsgruppe am MIT Media Lab, sagte: „KI ist nicht nur eine Sache. Sie kann und sollte anders gestaltet werden, um Dinge wie Kreativität und kritisches Denken zu fördern. Bei dem, was wir messen und wie, sollte es nicht darum gehen, die richtige Antwort zu finden. Wir sollten darüber nachdenken, was für einen Studenten heutzutage wirklich bedeuten würde, etwas zu lernen.“
Ist die Nachahmung menschlichen Denkens genauso intestine wie die Realität?
In seiner Grundsatzrede mit dem Titel „Die Modelle der KI und unserer Welt“ bewertete Kleinberg mit einem Dia-Deck, das Schachgroßmeister und Filmreferenzen enthielt, Fälle, in denen KI-Systeme uns versehentlich zum Scheitern gebracht haben, weil das Weltmodell des Programs nicht mit unserem übereinstimmte.
Um diesen Punkt zu veranschaulichen, verwendete Kleinberg Schach, bei dem moderne Schachmaschinen auf übermenschlichem Niveau konkurrieren können, aber wenn sie mit menschlichen Partnern gepaart werden, sind ihre Strategien für ihr menschliches Gegenstück weder verständlich noch ableitbar. Diese menschlichen Übergaben würden dann zu Verwirrung führen. Kleinberg verwendete das Beispiel von „Die Gefährten“, in dem Gandalf, ein mächtiger Zauberer, einer bunt zusammengewürfelten Gruppe von Abenteurern eine äußerst gefährliche und wichtige Aufgabe anvertraut. Für diejenigen, die mit der Geschichte vertraut sind: Die Gruppe bleibt unerwartet ohne Gandalfs Führung zurück, was sie in einen vorübergehenden Anfall sehr ernster Turbulenzen versetzt.
Wenn die Schach-Engine einen Spielzug an ihren menschlichen Accomplice übergibt, fällt es dem Menschen schwer, das vorausschauende Zugmuster zu erfassen, das die Engine bis zu diesem Zeitpunkt verfolgt hat. „Die Gefahr von Mensch-Algorithmus-Groups besteht darin, dass, wenn der Mensch übernimmt, der Algorithmus weiß, was er als nächstes tun möchte, der Mensch jedoch nicht“, erklärte Kleinberg.
Diese Analogien zeigen die Unterschiede in der Artwork und Weise, wie KI eine Welt versteht – durch prädiktive Simulationen, Mustererkennung und Einschränkungen – um menschliches Denken im Vergleich zum angeborenen, verkörperten Wissen, das mit der menschlichen Erfahrung einhergeht, nachzuahmen, und ob diese Systeme die Welten, in denen sie operieren, wirklich verstehen. Es bleibt jedoch die Frage, ob es eine Rolle spielt, wenn das Spiel immer noch zu einem Schachmatt führt.