Da künstliche Intelligenz immer fortschrittlicher wird, könnte es zunehmend schwieriger werden, zwischen KI-gestützten Benutzern und echten Menschen im Web zu unterscheiden. neues WhitepaperForscher vom MIT, von OpenAI, Microsoft und anderen Technologieunternehmen und akademischen Einrichtungen schlagen die Verwendung von Personhood Credentials vor, einer Verifizierungstechnik, die es einer Individual ermöglicht, on-line zu beweisen, dass sie ein echter Mensch ist, während gleichzeitig ihre Privatsphäre gewahrt bleibt.
MIT Information sprach mit zwei Co-Autoren des Papiers, Nouran Soliman, einem Doktoranden der Elektrotechnik und Informatik, und Tobin South, einem Doktoranden im Media Lab, über die Notwendigkeit solcher Qualifikationen, die damit verbundenen Risiken und wie sie auf sichere und gerechte Weise umgesetzt werden könnten.
Q: Warum brauchen wir Persönlichkeitsnachweise?
Tobin Süd: Die Fähigkeiten der KI verbessern sich rasant. Während sich ein Großteil der öffentlichen Diskussion darum dreht, dass Chatbots immer besser werden, ermöglicht hochentwickelte KI weitaus mehr Funktionen als nur ein besseres ChatGPT, wie etwa die Fähigkeit der KI, autonom on-line zu interagieren. KI könnte in der Lage sein, Konten zu erstellen, Inhalte zu veröffentlichen, gefälschte Inhalte zu generieren, sich on-line als Mensch auszugeben oder Inhalte in großem Umfang algorithmisch zu verstärken. Dies birgt viele Risiken. Man kann sich dies als ein „digitales Hochstapler“-Downside vorstellen, bei dem es immer schwieriger wird, zwischen hochentwickelter KI und Menschen zu unterscheiden. Identitätsnachweise sind eine mögliche Lösung für dieses Downside.
Nouran Soliman: Solche fortschrittlichen KI-Fähigkeiten könnten Kriminellen dabei helfen, groß angelegte Angriffe durchzuführen oder Fehlinformationen zu verbreiten. Das Web könnte voll sein mit KIs, die Inhalte von echten Menschen weitergeben, um Desinformationskampagnen durchzuführen. Es wird schwieriger werden, sich im Web und insbesondere in den sozialen Medien zurechtzufinden. Man könnte sich vorstellen, mithilfe von Identitätsnachweisen bestimmte Inhalte herauszufiltern und Inhalte in Ihrem Social-Media-Feed zu moderieren oder die Vertrauenswürdigkeit von Informationen zu bestimmen, die Sie on-line erhalten.
Q: Was ist ein Personennachweis und wie können Sie die Sicherheit eines solchen Nachweises gewährleisten?
Süden: Mit einem Personennachweis können Sie beweisen, dass Sie ein Mensch sind, ohne etwas anderes über Ihre Identität preiszugeben. Mit diesem Nachweis können Sie Informationen von einer Stelle wie der Regierung erhalten, die garantieren kann, dass Sie ein Mensch sind, und dann mithilfe von Datenschutztechnologie diese Tatsache beweisen, ohne vertrauliche Informationen über Ihre Identität preiszugeben. Um einen Personennachweis zu erhalten, müssen Sie persönlich erscheinen oder eine Beziehung zur Regierung haben, wie etwa eine Steuernummer. Es gibt eine Offline-Komponente. Sie müssen etwas tun, was nur Menschen tun können. KIs können zum Beispiel nicht bei der Kfz-Zulassungsstelle auftauchen. Und selbst die ausgefeiltesten KIs können Kryptografie weder fälschen noch knacken. Wir kombinieren additionally zwei Ideen – die Sicherheit, die wir durch Kryptografie haben, und die Tatsache, dass Menschen immer noch über einige Fähigkeiten verfügen, die KIs nicht haben –, um wirklich robuste Garantien dafür zu schaffen, dass Sie ein Mensch sind.
Soliman: Aber Identitätsnachweise können non-obligatory sein. Dienstanbieter können es den Benutzern überlassen, ob sie einen verwenden möchten oder nicht. Wenn die Leute derzeit nur mit echten, verifizierten Personen on-line interagieren möchten, gibt es dafür keine vernünftige Möglichkeit. Und abgesehen davon, dass sie nur Inhalte erstellen und mit Menschen sprechen, werden KI-Agenten irgendwann auch im Namen von Menschen handeln. Wenn ich on-line etwas kaufen oder ein Geschäft aushandeln möchte, möchte ich vielleicht sicher sein, dass ich mit Entitäten interagiere, die über Identitätsnachweise verfügen, um sicherzustellen, dass sie vertrauenswürdig sind.
Süden: Personennachweise bauen auf einer Infrastruktur und einer Reihe von Sicherheitstechnologien auf, die uns seit Jahrzehnten zur Verfügung stehen, wie etwa die Verwendung von Kennungen wie einem E-Mail-Konto für die Anmeldung bei Onlinediensten, und sie können diese vorhandenen Methoden ergänzen.
Q: Welche Risiken sind mit Persönlichkeitsnachweisen verbunden und wie können Sie diese Risiken verringern?
Soliman: Ein Risiko ergibt sich aus der Artwork und Weise, wie Identitätsnachweise umgesetzt werden könnten. Es gibt Bedenken hinsichtlich einer Machtkonzentration. Nehmen wir an, eine bestimmte Entität ist der einzige Herausgeber oder das System ist so konzipiert, dass alle Macht einer Entität übertragen wird. Dies könnte bei einem Teil der Bevölkerung große Bedenken hervorrufen – vielleicht vertrauen sie dieser Entität nicht und fühlen sich nicht sicher, mit ihr zusammenzuarbeiten. Wir müssen Identitätsnachweise so implementieren, dass die Menschen den Herausgebern vertrauen und sicherstellen, dass die Identität der Menschen vollständig von ihren Identitätsnachweisen isoliert bleibt, um die Privatsphäre zu schützen.
Süden: Wenn die einzige Möglichkeit, einen Identitätsnachweis zu erhalten, darin besteht, physisch irgendwo hinzugehen und zu beweisen, dass man ein Mensch ist, dann könnte das beängstigend sein, wenn man sich in einem soziopolitischen Umfeld befindet, in dem es schwierig oder gefährlich ist, an diesen physischen Ort zu gehen. Das könnte einige Menschen daran hindern, ihre Nachrichten ungehindert on-line zu teilen, was möglicherweise die freie Meinungsäußerung einschränkt. Deshalb ist es wichtig, dass es eine Vielzahl von Ausstellern von Identitätsnachweisen und ein offenes Protokoll gibt, um sicherzustellen, dass die Meinungsfreiheit gewahrt bleibt.
Soliman: Unser Papier soll Regierungen, politische Entscheidungsträger, Führungskräfte und Forscher dazu ermutigen, mehr Ressourcen in Persönlichkeitsnachweise zu investieren. Wir schlagen vor, dass Forscher verschiedene Umsetzungsrichtungen untersuchen und die umfassenderen Auswirkungen untersuchen, die Persönlichkeitsnachweise auf die Gemeinschaft haben könnten. Wir müssen sicherstellen, dass wir die richtigen Richtlinien und Regeln für die Umsetzung von Persönlichkeitsnachweisen schaffen.
Süden: Die KI entwickelt sich sehr schnell, sicherlich viel schneller als die Anpassungsgeschwindigkeit der Regierungen. Es ist an der Zeit, dass Regierungen und große Unternehmen darüber nachdenken, wie sie ihre digitalen Systeme anpassen können, um nachweisen zu können, dass jemand ein Mensch ist, und zwar auf eine Weise, die die Privatsphäre schützt und sicher ist, damit wir bereit sind, wenn wir eine Zukunft erreichen, in der die KI über diese fortschrittlichen Fähigkeiten verfügt.