Eine Diskussion darüber, wie KI Menschen mit Behinderungen helfen und schaden kann
Ich habe kürzlich eine Thread vom 4. September An Blauer Himmel von Dr. Johnathan Flowers der American College über den Streit, der entstand, als die Organisatoren von NaNoWriMo gab eine Erklärung heraus, in der sie den Einsatz generativer KI wie LLM-Chatbots im Rahmen der diesjährigen Veranstaltung befürworteten.
„Kunst ist oft der EINE ORT, an dem die Diskrepanz zwischen dem behinderten Körper und dem Geist und der Welt überwunden werden kann, ohne dass man auf die Großzügigkeit der Nichtbehinderten angewiesen ist oder sich auf erzwungene Intimität einlässt. Zu sagen, dass wir die Hilfe der KI brauchen, bedeutet, all das zu ignorieren.“ –Dr. Johnathan Flowers, 4. September 2024
Dr. Flowers argumentierte, dass die Organisatoren die Fähigkeit dieser Gruppen, kreativ zu sein und an der Kunst teilzunehmen, herunterspielen, indem sie diese Entscheidung ausdrücklich als Versuch bezeichneten, Menschen mit Behinderungen und Randgruppen Zugang zu verschaffen. Da er selbst eine Behinderung hat, stellt er fest, dass die Kunst einer der relativ wenigen Orte in der Gesellschaft ist, an denen Behinderung möglicherweise kein Hindernis für die Teilnahme darstellt, wie dies in weniger zugänglichen Räumen der Fall ist.
Seit der ursprünglichen Ankündigung und dieser und vieler anderer Kritik haben die Organisatoren von NaNoWriMo einige ihrer Aussagen abgeschwächt oder zurückgenommen. der neuste Beitrag scheint Anfang dieser Woche erweitert worden zu sein. Leider entwickelte sich, wie so oft, ein Großteil dieser Unterhaltung in den sozialen Medien zu einer unproduktiven Diskussion.
Ich habe hier schon einmal darüber gesprochen, wie schwierig es ist, zu beurteilen, was es wirklich bedeutet, wenn generative KI in der Kunst zum Einsatz kommt, und ich bleibe bei meiner Meinung, dass ich als Kunstkonsument eine Verbindung zur Perspektive und Weltanschauung einer anderen Individual suche, sodass KI-generiertes Materials mich in dieser Hinsicht nicht interessiert. Ich habe jedoch nicht so viel Zeit damit verbracht, über die Rolle von KI als Hilfsmittel für die Barrierefreiheit nachzudenken, und das ist es, was ich heute diskutieren möchte.
Ich bin keine Individual mit körperlicher Behinderung, daher kann ich dieses Thema nur als Sozialwissenschaftler und als Beobachter dieser Gemeinschaft von außen angehen. Meine Ansichten sind meine eigenen, nicht die einer Gemeinschaft oder Organisation.
In einer kürzlich gehaltenen Präsentation wurde ich gebeten, mit einer Definition von „KI“ zu beginnen. Ich habe immer ein bisschen Angst davor, weil es so nebulös und schwierig ist. Dieses Mal habe ich es jedoch noch einmal versucht und einige der neueren regulatorischen und politischen Diskussionen gelesen. Dabei bin ich zu folgendem Ergebnis gekommen:
KI: Einsatz bestimmter Formen des maschinellen Lernens zur Ausführung von Arbeiten, die sonst von Menschen erledigt werden müssten.
Ich arbeite immer noch an Workshops und werde das wahrscheinlich auch weiterhin tun, da sich die Welt verändert, aber ich denke, dies ist für die heutige Diskussion nützlich. Beachten Sie, dass dies unser Gespräch NICHT auf generative KI beschränkt, und das ist wichtig. Dieses Gespräch über KI bezieht sich speziell auf die Anwendung von maschinellem Lernen, ob es nun Deep Studying beinhaltet oder nicht, zur Erledigung von Aufgaben, die auf keine andere uns derzeit zur Verfügung stehende Weise automatisiert werden könnten.
Die Sozialtheorie rund um Behinderung ist eine eigene Disziplin mit enormer Tiefe und Komplexität. Wie bei Diskussionen und wissenschaftlichen Untersuchungen zu anderen Personengruppen ist es für die tatsächlichen Mitglieder dieser Gemeinschaft unglaublich wichtig, dass ihre Stimmen nicht nur gehört werden, sondern auch Diskussionen darüber geführt werden, wie sie behandelt werden und welche Chancen sie in der Gesellschaft haben. Basierend auf meinem Verständnis des Fachgebiets möchte ich den Anliegen Priorität einräumen, dass Menschen mit Behinderung das Maß an Autonomie und Unabhängigkeit haben, das sie sich wünschen, und dass sie die notwendige Unterstützung erhalten, um Chancen und Ergebnisse zu haben, die mit denen von Menschen ohne Behinderung vergleichbar sind. Erwähnenswert ist auch, dass viele der Technologien, die ursprünglich entwickelt wurden, um Menschen mit Behinderung zu helfen, allen Menschen helfen, wie z. B. automatische Türen.
Welche Rolle kann KI additionally wirklich bei diesem Ziel spielen? Ist KI insgesamt intestine für Menschen mit Behinderungen? Technologie im Allgemeinen, nicht nur KI-bezogene Entwicklungen, wird auf vielfältige Weise eingesetzt, um Menschen mit Behinderungen Autonomie und Unabhängigkeit zu geben, die sonst nicht möglich wäre. Jeder, der wie ich in den letzten Wochen die Paralympics in Paris verfolgt hat, wird Beispiele für derartige Technologien kennen.
Aber ich bin neugierig, was KI zu bieten hat, was es sonst nicht gibt, und was die Nachteile oder Risiken sein könnten. Es stellt sich heraus, dass zu dieser Frage bereits eine ganze Menge wirklich interessanter wissenschaftlicher Forschung durchgeführt wurde und weiterhin veröffentlicht wird. Ich werde einen kurzen Überblick über einige Schlüsselbereiche geben und weitere Quellen angeben, falls Sie sich für einen dieser Bereiche interessieren und tiefer in sie eintauchen möchten.
Neurologische und Kommunikationsprobleme
Dies scheint ein gutes Einsatzgebiet für KI-Instruments zu sein. LLMs sind sehr nützlich, um Texte neu zu formulieren oder zusammenzufassen. Wenn Personen Probleme mit dem Lesen langer Texte oder mit der Konzentration haben, kann die Fähigkeit, genaue Zusammenfassungen zu erstellen, den Unterschied ausmachen, ob die Themen eines Textes für diese Personen zugänglich sind oder nicht. Dies ist nicht unbedingt ein Ersatz für den gesamten Textual content, sondern kann ein Software sein, das das Verständnis des Lesers verbessert. (Wie Cliff Notes, aber für die Artwork, wie sie verwendet werden sollen.) Ich würde nicht empfehlen, LLMs direkte Fragen zur Bedeutung einer Passage zu stellen, da dies eher zu Fehlern oder Ungenauigkeiten führt, aber die Zusammenfassung eines bereits vorhandenen Textes ist ein guter Anwendungsfall.
Zweitens können Menschen, die Schwierigkeiten haben, gesprochene Kommunikation zu produzieren oder zu konsumieren, von KI-Instruments unterstützt werden. Die Technologien können entweder gesprochenen Textual content aufnehmen und hochpräzise automatische Transkriptionen erstellen, die für Menschen mit Formen der Aphasie leichter zu verstehen sein können, oder sie können einer Individual, die Schwierigkeiten beim Sprechen hat, ermöglichen, einen Textual content zu schreiben und diesen in eine sehr realistisch klingende menschliche Stimme umzuwandeln. (Wirklich, künstliche KI-Stimmen werden in letzter Zeit so erstaunlich!)
Und dabei geht es noch nicht einmal darum, wie KI Menschen mit Hörbehinderung helfen kann! Hörgeräte können Modelle verwenden, um die Geräusche zu identifizieren und zu isolieren, auf die sich der Benutzer konzentrieren möchte, und Ablenkungen oder Hintergrundgeräusche zu verringern. Jeder, der aktive Geräuschunterdrückung verwendet, profitiert von dieser Artwork von Technologie, und sie ist ein großartiges Beispiel für Dinge, die sowohl für Menschen mit als auch ohne Behinderung hilfreich sind.
Imaginative and prescient und Bilder
Für Menschen mit Sehbehinderungen kann es Barrieren bei der digitalen Teilnahme geben, darunter Dinge wie schlecht gestaltete Web sites für Screenreader sowie das Fehlen von Alternativtexten, die den Inhalt von Bildern beschreiben. Modelle sind immer besser darin, Objekte oder Merkmale in Bildern zu identifizieren, und dies kann eine äußerst wertvolle Kind der KI sein, wenn es allgemein zugänglich gemacht wird, sodass Screenreader-Software program ihren eigenen Alternativtext oder Beschreibungen von Bildern generieren kann.
Physikalische Prothetik
Es gibt auch Formen der KI, die dazu beitragen, dass Prothesen und Hilfsmittel für die körperliche Erreichbarkeit besser funktionieren. Damit meine ich nicht unbedingt Technologien mit Nervenimplantaten, obwohl so etwas erforscht wird, aber es gibt viele Modelle, die die Physik menschlicher Bewegungen erlernen, damit computergesteuerte Prothesen besser für Menschen funktionieren. Diese können sich in Muskeln und Nervenenden integrieren oder bestimmte Bewegungen subtil automatisieren, was beispielsweise bei der Feinmotorik von Prothesen für die oberen Gliedmaßen hilft. Prothesen für die unteren Gliedmaßen können KI nutzen, um unter anderem Schrittlänge und -flüssigkeit besser zu verstehen und zu erzeugen.
Darstellung und Löschung
Okay, das sind nur einige der großartigen Dinge, die KI für Menschen mit Behinderungen tun kann. Wir sollten uns jedoch auch die Zeit nehmen, die Bereiche zu diskutieren, in denen KI für Menschen mit Behinderungen und unsere Gesellschaft als Ganzes schädlich sein kann. Die meisten dieser Bereiche betreffen die kulturelle Produktion mithilfe von KI, und ich denke, sie sind vor allem darauf zurückzuführen, dass diese Modelle soziale Vorurteile und Diskriminierung reproduzieren und verstärken.
Zum Beispiel:
- Da unsere sozialen Strukturen Menschen mit Behinderungen und ihre Bedürfnisse nicht priorisieren oder hervorheben, tun dies auch Modelle nicht. Unsere Gesellschaft ist von Behindertenfeindlichkeit durchdrungen und dies kommt in von KI produzierten Texten zum Ausdruck. Wir können explizit versuchen, dies durch Immediate Engineering zu korrigieren, aber viele Menschen nehmen sich nicht die Zeit oder denken nicht daran, dies zu tun.
- Ebenso neigen von KI-Modellen generierte Bilder dazu, alle Arten von Gemeinschaften auszulöschen, die kulturell nicht dominant sind oder in den Medien keine Priorität haben, darunter auch Menschen mit Behinderungen. Je mehr diese Modelle Trainingsdaten verwenden, die die Darstellung von Menschen mit Behinderungen in einem positiven Kontext beinhalten, desto besser wird dies, aber es besteht immer eine natürliche Spannung zwischen lebensechten Darstellungsproportionen und mehr Repräsentation, weil wir eine bessere Sichtbarkeit und keine Auslöschung wollen.
Datenschutz und Ethik
In diesem Bereich gibt es zwei große Themen, die für Menschen mit Behinderungen ein negatives Potenzial bergen.
- Erstens besteht ein hohes Risiko, dass KI dazu verwendet wird, Annahmen über die Wünsche und Fähigkeiten von Menschen mit Behinderungen zu treffen, was zu Diskriminierung führt. Wie bei jeder Gruppe ist es kein Ersatz dafür, die KI zu fragen, was die Gruppe bevorzugen, brauchen oder für wünschenswert halten könnte, diese Gemeinschaft tatsächlich an Entscheidungen zu beteiligen, die sie betreffen. Aber es ist einfach und faul für die Leute, stattdessen einfach „KI zu fragen“, und das wird zweifellos manchmal passieren.
- Zweitens ist der Datenschutz hier ein kompliziertes Thema. Insbesondere wenn jemand Barrierefreiheitstechnologien wie einen Screenreader für ein Mobiltelefon oder eine Webseite verwendet, können daraus Rückschlüsse auf den Behinderungsstatus gezogen werden. Wenn diese Daten nicht sorgfältig geschützt werden, kann der Behinderungsstatus einer Individual oder der wahrgenommene Standing, wenn die Rückschlüsse falsch sind, eine Belastung darstellen, die die Individual in anderen Bereichen dem Risiko von Diskriminierung aussetzt. Wir müssen sicherstellen, dass die Tatsache, ob jemand ein Barrierefreiheitstool oder eine Barrierefreiheitsfunktion verwendet oder nicht, als wise personenbezogene Daten betrachtet wird, genau wie andere Informationen über diese Individual.
Voreingenommenheit in der medizinischen Behandlung
Wenn die medizinische Gemeinschaft beginnt, KI in ihrer Arbeit einzusetzen, sollten wir die Nebenwirkungen für marginalisierte Gemeinschaften, darunter Menschen mit Behinderungen, genau unter die Lupe nehmen. Ähnlich wie die Verwendung eines LLM dazu führen kann, dass die tatsächlichen Stimmen von Menschen mit Behinderungen bei wichtigen Entscheidungen übersehen werden, wird diese Beratung, wenn medizinische Fachkräfte LLMs zur Beratung bei der Diagnose oder Therapie von Behinderungen verwenden, von den sozialen und kulturellen negativen Vorurteilen beeinflusst, die diese Modelle mit sich bringen.
Dies könnte bedeuten, dass nicht-stereotypische oder ungewöhnliche Darstellungen von Behinderungen übersehen oder ignoriert werden, weil Modelle zwangsläufig Schwierigkeiten haben, Ausreißer und Ausnahmefälle zu verstehen. Es könnte auch bedeuten, dass Patienten Schwierigkeiten haben, Anbieter von ihrer Lebenserfahrung zu überzeugen, wenn diese im Widerspruch zu den Erwartungen oder Vorhersagen eines Modells steht. Wie ich in anderen Arbeiten erörtert habe, können Menschen zu sehr auf die Genauigkeit von maschinellen Lernmodellen vertrauen und menschliche Perspektiven im Vergleich dazu als weniger vertrauenswürdig angesehen werden, selbst wenn dies keine gerechtfertigte Behauptung ist.
Es gibt noch eine ganze Reihe weiterer Technologien, die ich hier nicht ausführlich behandeln konnte, aber ich möchte darauf hinweisen, dass die bloße Existenz einer Technologie nicht dasselbe ist wie der einfache und kostengünstige Zugang, den Menschen mit Behinderungen zu diesen Dingen haben, um sie tatsächlich zu nutzen. Menschen mit Behinderungen sind oft wirtschaftlich benachteiligt, was größtenteils auf unnötige Barrieren bei der wirtschaftlichen Teilhabe zurückzuführen ist. Daher sind viele der außergewöhnlichen Fortschritte für viele Menschen, die sie möglicherweise benötigen, nicht zugänglich. Dies muss als ein Drawback erkannt werden, für das unsere Gesellschaft Verantwortung übernehmen muss – wie in anderen Bereichen des Gesundheitswesens, insbesondere in den Vereinigten Staaten, leisten wir wirklich schreckliche Arbeit, wenn es darum geht, den Bedürfnissen der Menschen nach Pflege und Hilfsmitteln gerecht zu werden, die es ihnen ermöglichen würden, ihr Leben bestmöglich zu leben und so am Wirtschaftsleben teilzunehmen, wie sie es sonst könnten.
Dies ist nur ein oberflächlicher Überblick über einige der wichtigsten Themen in diesem Bereich, und ich denke, es ist ein wichtiges Thema, das diejenigen von uns, die im Bereich des maschinellen Lernens arbeiten, kennen sollten. Die Technologien, die wir entwickeln, haben Vorteile und Risiken sowohl für marginalisierte Bevölkerungsgruppen, darunter Menschen mit Behinderungen, und es ist unsere Verantwortung, dies bei unserer Arbeit zu berücksichtigen und unser Bestes zu tun, um diese Risiken zu mindern.
https://slate.com/know-how/2024/09/national-novel-writing-month-ai-bots-controversy.html