Künstliche Intelligenz wird zunehmend eingesetzt, um die Entscheidungsfindung in anspruchsvollen Umgebungen zu optimieren. Beispielsweise kann ein autonomes System eine Energieverteilungsstrategie identifizieren, die die Kosten minimiert und gleichzeitig die Spannungen stabil hält.

Aber sind diese KI-gesteuerten Ergebnisse zwar technisch optimum, aber sind sie honest? Was wäre, wenn eine kostengünstige Energieverteilungsstrategie dazu führen würde, dass benachteiligte Stadtteile anfälliger für Ausfälle wären als einkommensstärkere Gebiete?

Um Stakeholdern dabei zu helfen, potenzielle ethische Dilemmata vor dem Einsatz schnell zu erkennen, haben MIT-Forscher eine automatisierte Bewertungsmethode entwickelt, die das Zusammenspiel zwischen messbaren Ergebnissen wie Kosten oder Zuverlässigkeit und qualitativen oder subjektiven Werten wie Equity abwägt.

Das System trennt objektive Bewertungen von benutzerdefinierten menschlichen Werten und verwendet ein großes Sprachmodell (LLM) als Proxy für Menschen, um die Präferenzen der Stakeholder zu erfassen und einzubeziehen.

Das adaptive Framework wählt die besten Szenarien für die weitere Bewertung aus und rationalisiert so einen Prozess, der normalerweise kostspieligen und zeitaufwändigen manuellen Aufwand erfordert. Diese Testfälle können Situationen aufzeigen, in denen autonome Systeme intestine mit menschlichen Werten übereinstimmen, sowie Szenarien, die unerwarteterweise ethische Kriterien nicht erfüllen.

„Wir können viele Regeln und Leitplanken in KI-Systeme einfügen, aber diese Sicherheitsvorkehrungen können nur die Dinge verhindern, die wir uns vorstellen können. Es reicht nicht aus zu sagen: ‚Lasst uns einfach KI verwenden, weil sie anhand dieser Informationen trainiert wurde.‘ Wir wollten eine systematischere Methode entwickeln, um die unbekannten Unbekannten zu entdecken und eine Möglichkeit zu haben, sie vorherzusagen, bevor etwas Schlimmes passiert“, sagt der leitende Autor Chuchu Fan, außerordentlicher Professor am MIT Division of Aeronautics and Astronautics (AeroAstro) und leitender Forscher am MIT Laboratory for Data and Determination Techniques (LIDS).

Fan ist dabei Papier von der Hauptautorin Anjali Parashar, einer Absolventin des Maschinenbaus; Yingke Li, Postdoktorandin bei AeroAstro; und andere am MIT und Saab. Die Forschung wird auf der Worldwide Convention on Studying Representations vorgestellt.

Ethik bewerten

In einem großen System wie einem Stromnetz ist es besonders schwierig, die ethische Ausrichtung der Empfehlungen eines KI-Modells unter Berücksichtigung aller Ziele zu bewerten.

Die meisten Testrahmen stützen sich auf vorab gesammelte Daten, aber gekennzeichnete Daten zu subjektiven ethischen Kriterien sind oft schwer zu bekommen. Da sich ethische Werte und KI-Systeme außerdem ständig weiterentwickeln, müssen statische Bewertungsmethoden, die auf schriftlichen Kodizes oder Regulierungsdokumenten basieren, häufig aktualisiert werden.

Fan und ihr Group gingen dieses Downside aus einer anderen Perspektive an. Aufbauend auf ihrer früheren Arbeit zur Bewertung von Robotersystemen entwickelten sie einen experimentellen Designrahmen, um die aussagekräftigsten Szenarien zu identifizieren, die menschliche Stakeholder dann genauer bewerten würden.

Ihr zweiteiliges System namens Scalable Experimental Design for System-level Moral Testing (SEED-SET) umfasst quantitative Metriken und ethische Kriterien. Es kann Szenarien identifizieren, die messbare Anforderungen effektiv erfüllen und intestine mit menschlichen Werten übereinstimmen, und umgekehrt.

„Wir wollen nicht alle unsere Ressourcen für zufällige Auswertungen aufwenden. Deshalb ist es sehr wichtig, das Framework auf die Testfälle auszurichten, die uns am meisten am Herzen liegen“, sagt Li.

Wichtig ist, dass SEED-SET keine bereits vorhandenen Evaluierungsdaten benötigt und sich an mehrere Ziele anpassen lässt.

Beispielsweise kann ein Stromnetz mehrere Benutzergruppen haben, darunter eine große ländliche Gemeinde und ein Rechenzentrum. Auch wenn sich beide Gruppen eine kostengünstige und zuverlässige Stromversorgung wünschen, kann die Priorität jeder Gruppe aus ethischer Sicht sehr unterschiedlich sein.

Diese ethischen Kriterien sind möglicherweise nicht genau spezifiziert und können daher nicht analytisch gemessen werden.

Der Stromnetzbetreiber möchte die kostengünstigste Strategie finden, die den subjektiven ethischen Präferenzen aller Beteiligten am besten entspricht.

SEED-SET geht diese Herausforderung an, indem es das Downside in zwei Teile aufteilt und einer hierarchischen Struktur folgt. Ein objektives Modell berücksichtigt, wie das System anhand konkreter Kennzahlen wie den Kosten abschneidet. Auf der objektiven Bewertung baut dann ein subjektives Modell auf, das die Urteile der Stakeholder berücksichtigt, beispielsweise die wahrgenommene Equity.

„Der objektive Teil unseres Ansatzes ist an das KI-System gebunden, während der subjektive Teil an die Benutzer gebunden ist, die es bewerten. Durch die hierarchische Zerlegung der Präferenzen können wir die gewünschten Szenarien mit weniger Bewertungen generieren“, sagt Parashar.

Subjektivität kodieren

Um die subjektive Bewertung durchzuführen, verwendet das System einen LLM als Stellvertreter für menschliche Bewerter. Die Forscher kodieren die Präferenzen jeder Benutzergruppe in eine Eingabeaufforderung in natürlicher Sprache für das Modell.

Das LLM verwendet diese Anweisungen, um zwei Szenarien zu vergleichen und anhand der ethischen Kriterien das bevorzugte Design auszuwählen.

„Nachdem ein menschlicher Bewerter Hunderte oder Tausende von Szenarien gesehen hat, kann er unter Müdigkeit leiden und in seinen Bewertungen inkonsistent werden. Deshalb verwenden wir stattdessen eine LLM-basierte Strategie“, erklärt Parashar.

SEED-SET simuliert anhand des ausgewählten Szenarios das Gesamtsystem (in diesem Fall eine Energieverteilungsstrategie). Diese Simulationsergebnisse leiten die Suche nach dem nächstbesten Kandidatenszenario zum Testen.

Am Ende wählt SEED-SET auf intelligente Weise die repräsentativsten Szenarien aus, die objektive Kennzahlen und ethische Kriterien entweder erfüllen oder nicht erfüllen. Auf diese Weise können Benutzer die Leistung des KI-Techniques analysieren und seine Strategie anpassen.

SEED-SET kann beispielsweise Fälle von Stromverteilung identifizieren, die in Zeiten der Spitzennachfrage einkommensstärkeren Gebieten Vorrang einräumt, wodurch benachteiligte Stadtteile anfälliger für Ausfälle werden.

Um SEED-SET zu testen, bewerteten die Forscher realistische autonome Systeme, wie ein KI-gesteuertes Stromnetz und ein städtisches Verkehrsleitsystem. Sie haben gemessen, wie intestine die generierten Szenarien ethischen Kriterien entsprachen.

Das System generierte in der gleichen Zeit mehr als doppelt so viele optimale Testfälle wie die Basisstrategien und deckte gleichzeitig viele Szenarien auf, die andere Ansätze übersehen.

„Als wir die Benutzerpräferenzen veränderten, änderte sich die Menge der von SEED-SET generierten Szenarien drastisch. Dies zeigt uns, dass die Bewertungsstrategie intestine auf die Präferenzen des Benutzers reagiert“, sagt Parashar.

Um zu messen, wie nützlich SEED-SET in der Praxis wäre, müssen die Forscher eine Benutzerstudie durchführen, um zu sehen, ob die generierten Szenarien bei der tatsächlichen Entscheidungsfindung hilfreich sind.

Zusätzlich zur Durchführung einer solchen Studie planen die Forscher, die Verwendung effizienterer Modelle zu untersuchen, die sich auf größere Probleme mit mehr Kriterien anwenden lassen, beispielsweise die Bewertung der LLM-Entscheidungsfindung.

Diese Forschung wurde teilweise von der US Protection Superior Analysis Tasks Company finanziert.

Während es viele Richtlinien für die Ethik für die aktuelle künstliche Intelligenz gibt, gibt es eine Lücke in Rahmenbedingungen, die auf die zukünftige Ankunft der künstlichen allgemeinen Intelligenz (AGI) zugeschnitten sind. Dies erfordert die Entwicklung von speziellen ethischen Überlegungen und Praktiken, um die Fortschritte und die eventuelle Präsenz von AGI zu leiten.

AI -Fortschritte zielen auf zwei Hauptmeilensteine ​​ab: künstliche allgemeine Intelligenz (AGI) und potenziell künstliche Superintelligence (ASI). AGI bedeutet, dass Maschinen intellektuelle Fähigkeiten auf menschlicher Ebene erreichen, das Wissen über verschiedene Aufgaben mit menschlichen Fähigkeiten hinweg verstehen, lernen und anwenden. ASI ist ein hypothetischer Stadium, in dem KI den menschlichen Intellekt übertrifft und die menschlichen Grenzen in quick allen Domäne übertrifft. Das ASI würde die KI-Systeme einbeziehen, die den Menschen in komplexer Problemlösung, Innovation und kreativer Arbeit übertrifft und möglicherweise transformative gesellschaftliche Veränderungen verursacht.

Derzeit bleibt AGI ein unerreichter Meilenstein. Der Zeitplan für AGI ist ungewiss, mit Projektionen von Jahrzehnten bis Jahrhunderten. Diese Schätzungen haben häufig keine Begründung, da konkrete Beweise für ein AGI -Ankunftsdatum nicht vorhanden sind. Das Erreichen von ASI ist angesichts des aktuellen Stadiums der konventionellen KI noch spekulativer. Die wesentliche Kluft zwischen den zeitgenössischen KI -Fähigkeiten und dem theoretischen Potenzial von ASI unterstreicht die erheblichen Hürden bei der Erreichung eines solchen fortgeschrittenen KI.

Zwei Standpunkte zu AGI: Doomers vs. Accelerationisten

Innerhalb der KI -Group sind die Meinungen zur potenziellen Auswirkungen von AGI und ASI stark gespalten. „AI -Doomere“ machen sich Sorgen um AGI oder ASI, die eine existenzielle Bedrohung darstellen und Szenarien voraussagen, in denen fortgeschrittene KI Menschen beseitigen oder unterwerfen kann. Sie bezeichnen dies als „P (Doom), die Wahrscheinlichkeit katastrophaler Ergebnisse durch die nicht kontrollierte AI -Entwicklung. Umgekehrt sind „AI Accelerationisten“ optimistisch, was darauf hindeutet, dass AGI oder ASI die dringendsten Herausforderungen der Menschheit lösen könnten. Diese Gruppe geht davon aus, dass die fortgeschrittene KI durch Durchbrüche in die Medizin bringen, den globalen Starvation lindern und wirtschaftlichen Wohlstand erzeugen und die Zusammenarbeit zwischen Menschen und KI fördern.

Die kontrastierenden Standpunkte zwischen „AI -Doomeren“ und „AI Accelerationisten“ unterstreichen die Unsicherheit im Zusammenhang mit den zukünftigen Auswirkungen der fortschrittlichen KI. Der Mangel an Konsens darüber, ob AGI oder ASI letztendlich der Menschheit zugute kommt oder schadet, unterstreicht die Notwendigkeit einer sorgfältigen Berücksichtigung ethischer Auswirkungen und einer proaktiven Risikominderung. Diese Divergenz spiegelt die komplexen Herausforderungen bei der Vorhersage und Vorbereitung auf das transformative Potenzial der KI wider.

Während AGI beispiellose Fortschritte erzielen könnte, müssen potenzielle Risiken anerkannt werden. AGI wird vor ASI eher erreicht, was möglicherweise mehr Entwicklungszeit erfordern. Die Entwicklung von ASI könnte erheblich von den Fähigkeiten und Zielen der AGI beeinflusst werden, wenn AGI erreicht wird. Die Annahme, dass AGI von Natur aus die Schaffung von ASI unterstützen wird, ist nicht garantiert, da AGI möglicherweise eigene Ziele und Prioritäten hat. Es ist ratsam, zu vermeiden, dass AGI eindeutig wohlwollend ist. AGI könnte bösartig sein oder eine Kombination aus positiven und negativen Merkmalen aufweisen. Es sind Anstrengungen unternommen, um zu verhindern, dass AGI schädliche Tendenzen entwickelt.

Zeitgenössische KI -Systeme haben bereits irreführendes Verhalten gezeigt, einschließlich Erpressung und Erpressung. Weitere Untersuchungen sind erforderlich, um diese Tendenzen in der aktuellen KI einzudämmen. Diese Ansätze könnten angepasst werden, um sicherzustellen, dass AGI auf ethische Prinzipien ausgerichtet und das menschliche Wohlbefinden fördert. AI -Ethik und Gesetze spielen in diesem Prozess eine entscheidende Rolle.

Ziel ist es, KI-Entwickler zu ermutigen, KI-Ethik-Techniken zu integrieren und die Rechtsrichtlinien im Zusammenhang mit KI zu entsprechen, um sicherzustellen, dass aktuelle KI-Systeme innerhalb akzeptabler Grenzen funktionieren. Durch die Schaffung einer soliden ethischen und legalen Grundlage für konventionelle KI ist die Hoffnung, dass AGI mit ähnlichen positiven Merkmalen hervorgeht. Es stehen zahlreiche AI ​​-Ethik -Rahmenbedingungen zur Verfügung, darunter solche der Vereinten Nationen und des Nationwide Institute of Requirements and Know-how (NIST). Die Vereinten Nationen bieten eine umfangreiche AI ​​-Ethik -Methodik, und NIST hat ein robustes KI -Risikomanagementsystem entwickelt. Die Verfügbarkeit dieser Frameworks beseitigt die Entschuldigung, dass KI -Entwicklern keine ethische Anleitung haben. Dennoch ignorieren einige KI -Entwickler diese Frameworks und priorisieren den raschen Fortschritt der KI vor ethischen Überlegungen und Risikominderung. Dieser Ansatz könnte zu einer AGI -Entwicklung mit inhärenten, unüberschaubaren Risiken führen. KI -Entwickler müssen auch über neue und sich entwickelnde KI -Gesetze auf dem Laufenden bleiben, die die „harte“ Seite der KI -Regulierung darstellen, die durch rechtliche Mechanismen und Strafen durchgesetzt wird. Die AI -Ethik repräsentiert die „weichere“ Seite und stützt sich auf freiwillige Einführung und ethische Prinzipien.

Stadien der AGI -Development

Der Fortschreiten in Richtung AGI kann in drei Phasen unterteilt werden:

• Vor-Agi: Umfasst die heutige konventionelle KI und alle Fortschritte, die zu AGI führen.
• Erreicht-Agi: Der Punkt, an dem Agi erfolgreich erreicht wurde.
• Put up-Agi: Die Ära nach der AGI -Errungenschaft, in der AGI -Systeme aktiv eingesetzt und in die Gesellschaft integriert werden.

Eine Agi -Ethik -Checkliste wird vorgeschlagen, um praktische Anleitungen in diesen Phasen anzubieten. Diese anpassbare Checkliste berücksichtigt Lehren aus zeitgenössischen KI -Systemen und spiegelt die einzigartigen Eigenschaften von AGI wider. Die Checkliste konzentriert sich auf kritische AGI-spezifische Überlegungen. Die Nummerierung dient nur als Referenz; Alle Elemente sind gleich wichtig. Die übergreifende agiethische Checkliste enthält zehn Schlüsselelemente:

1. AGI -Ausrichtung und Sicherheitspolitik

Wie können wir sicherstellen, dass AGI der Menschheit zugute kommt und katastrophale Risiken vermeidet und sich auf menschliche Werte und Sicherheit ausrichtet?

2. AGI -Vorschriften und Governance -Richtlinien

Welche Auswirkungen haben AGI-bezogene Vorschriften (neue und bestehende Gesetze) und aufkommende KI-Governance-Bemühungen auf den Weg und die Erreichung von AGI?

3.. AGI geistiges Eigentum (IP) und Open Entry -Richtlinien

Wie werden die IP-Gesetze den Introduction von AGI einschränken oder befähigen, und wie wirkt sich Open-Supply-Modelle gegen Closed-Supply-Modelle auf AGI aus?

4. AGI Wirtschaftliche Auswirkungen und Arbeitsverschiebungspolitik

Wie werden sich AGI und ihr Entwicklungsweg wirtschaftlich auf die Gesellschaft auswirken, einschließlich der Verschiebung von Arbeitskräften?

5. AGI Nationale Sicherheit und geopolitische Wettbewerbspolitik

Wie wird AGI die nationale Sicherheit beeinflussen, einige Nationen stärken und andere untergraben, und wie wird sich die geopolitische Landschaft für Nationen verändern, die AGI verfolgen oder erreichen, gegenüber denen, die dies nicht tun?

6. agiethische Verwendung und moralische Statuspolitik

Wie wirkt sich die unethische Agi aus, die sich auf ihren Weg und den Aufkommen auswirkt? Wie wird optimistic ethische Verwendungszwecke in AGI -Nutzen oder Nachteil codiert? Wie wird das Erkennen von AGI mit juristischer Persönlichkeit oder moralischem Standing sich darauf auswirken?

7. AGI -Transparenz- und Erklärungspolitik

Wie wirkt sich der Grad der Agi -Transparenz, der Interpretierbarkeit oder der Erklärung auf seinen Weg und den Errungenschaften aus?

8. AGI-Kontrolle, Eindämmung und „Off-Swap“ -Richtlinien

Eine gesellschaftliche Sorge ist, ob AGI kontrolliert und/oder enthalten werden kann und ob ein Off-Swap möglich ist oder von AGI (außer Kontrolle geratener AGI) besiegt wird. Welche Auswirkungen haben diese Überlegungen auf den Weg und die Erreichung von AGI?

9. AGI Societal Belief und Insurance policies für öffentliche Engagements

Welchen Einfluss wird das gesellschaftliche Vertrauen in KI und das öffentliche Engagement während der Entwicklung und des Erreichens von AGI und insbesondere in Bezug auf mögliche Fehlinformationen und Desinformationen über AGI (und Geheimhaltung in Bezug auf seine Entwicklung) das gesellschaftliche Vertrauen haben?

10. AGI Existenzielle Risikomanagement -Richtlinien

Eine hochkarätige Sorge ist, dass AGI zum Aussterben oder Versklaven des Menschen führt. Welche Auswirkungen hat dies auf den Weg und die Erreichung von Agis?

Weitere Analysen werden an jedem dieser zehn Punkte durchgeführt, was eine hohe Perspektive auf die Agiethik bietet.

Zusätzliche Untersuchungen haben die Checklisten von AI -Ethik untersucht. Eine kürzlich durchgeführte Metaanalyse untersuchte verschiedene konventionelle KI-Checklisten, um Gemeinsamkeiten, Unterschiede und praktische Anwendungen zu identifizieren. Die Studie, „Der Aufstieg der Checkbox -AI -Ethik: Eine Bewertung”Von Sara Kijewski, Elettra Ronchi und Effy Vayena, die im Mai 2025 in AI und Ethik veröffentlicht wurde: hervorgehoben:

• „Wir haben eine beträchtliche und hoch heterogene Anzahl verschiedener praktischer Ansätze identifiziert, um die ethische Implementierung zu leiten.“
• „Dazu gehören nicht nur Instruments, Checklisten, Verfahren, Methoden und Techniken, sondern auch eine Reihe weitaus allgemeinerer Ansätze, die Interpretation und Anpassung erfordern, z. B. für Forschung und ethische Ausbildung/Bildung sowie für die Gestaltung von Ex-Put up-Prüfungs- und Bewertungsprozessen.“
• „Zusammen reflektiert diese Ansätze die unterschiedlichen Perspektiven auf das, was erforderlich ist, um Ethik in den verschiedenen Schritten über den gesamten Lebenszyklus des KI -Programs von der Entwicklung bis zur Bereitstellung zu implementieren.“

Eine andere Studie, “Navigierende künstliche allgemeine Intelligenz (AGI): gesellschaftliche Implikationen, ethische Überlegungen und Governance -StrategienVon Dileesh Chandra Bikkasani, die im Mai 2025 in AI und Ethik veröffentlicht wurde und in spezifische ethische und gesellschaftliche Implikationen von Agi eingeteilt wurde. Die wichtigsten Punkte aus dieser Studie umfassen:

• „Künstliche allgemeine Intelligenz (AGI) stellt einen entscheidenden Fortschritt in der KI mit weitreichenden Auswirkungen auf technologische, ethische und gesellschaftliche Bereiche dar.“
• „Dieses Papier befasst sich mit Folgendem: (1) Eine eingehende Bewertung des Potenzials der AGI in verschiedenen Sektoren und seinen vielfältigen Implikationen, einschließlich signifikanter finanzieller Auswirkungen wie Belegschaftsstörungen, Einkommensungleichheit, Produktivitätsgewinne und potenzieller systemischer Risiken; Implikationen, insbesondere auf geistiges Eigentum und Haftung, und (4) ein vorgeschlagener Governance -Rahmen, um die verantwortungsvolle AGI -Entwicklung und -Bereinigung sicherzustellen. “
• „Darüber hinaus untersucht und befasst sich das Papier die politischen Auswirkungen von AGI, einschließlich nationaler Sicherheit und potenzieller Missbrauch.“

Es ist eine Herausforderung, das Engagement der KI -Entwickler zur Priorisierung der KI -Ethik für konventionelle KI zu sichern. Die Erweiterung dieses Fokus auf modifizierte ethische Überlegungen für AGI wird wahrscheinlich eine noch größere Herausforderung sein. Dieses Engagement erfordert sorgfältige Anstrengungen und einen doppelten Fokus: Bedenken Sie kurzfristige Bedenken der konventionellen AI-Ethik und berücksichtigen gleichzeitig die AGI-Ethik, einschließlich seiner etwas längerfristigen Zeitleiste. Der Zeitplan für die AGI -Errungenschaft wird diskutiert, wobei einige Experten innerhalb weniger Jahre AGI voraussagen, während die meisten Umfragen 2040 als wahrscheinlicher deuten.

Egal, ob Agi noch ein paar Jahre entfernt oder ungefähr fünfzehn Jahre entfernt ist, es ist eine dringende Angelegenheit. Die kommenden Jahre werden schnell vergehen. Wie das Sprichwort sagt,

„Morgen ist ein Rätsel. Heute ist ein Geschenk. Deshalb heißt es die Gegenwart.“

Die Berücksichtigung und Handlung auf Agiethik ist jetzt wichtig, um in Zukunft unerwünschte Überraschungen zu vermeiden.

---

Ausgewähltes Bildnachweis

Ethische Bedenken im Zusammenhang mit künstlicher Intelligenz scheinen ganz oben auf dem Tech -Nachrichtenzyklus zu stehen. Das ist überraschend, wenn man bedenkt, wie sehr es für große Technologieunternehmen immer noch zu sein scheint.

Aber ich schweife ab. Jeden Monat scheint es eine Geschichte darüber zu geben, wie eine mächtige KI Schurke wurde (Ausstellung A: Geminis Bilder Anfang 2024) oder eine Firma beschloss, ein AI -Ethik -Staff aufzulösen (Abbildung B: Openai um die Zeit, als GPT-4O veröffentlicht wurde). Als Reaktion darauf gibt es in der Regel einen Aufschrei von Kritik und einen erneuten Aufruf zu mehr Zensur, Überwachung und Pflege in Bezug auf KI und ihre Zukunft. Ein Anruf, der unbeantwortet zu werden scheint.

Aber vielleicht liegt das daran, dass wir unsere Energien an der falschen Stelle konzentrieren.

Das Downside mit der AI-Ethik ist, dass es wie viele andere Aspekte des Silicon Valley zu „Clique-y“ geworden ist. So viele Diskussionen über die AI -Ethik finden in Forschungspräsentationen der Universität statt und sprechen über technische Fehler in der Modellentwicklung – Einstellungen und Themen, die sich einfach nicht auf den größeren Anteil der Leute beziehen, die tatsächlich KI verwenden. Ehrlich gesagt, wenn erwartet wird, dass es sich um einen Experten-Technologen oder Vollzeitstudenten oder Begin-up-CEO handelt, bevor…

Neuer Bericht zeigt Bedarf an Schulungen zum verantwortungsvollen Umgang mit KI

Stibo-Systemeein weltweit führendes Unternehmen im Bereich Stammdatenmanagement, veröffentlichte seinen neuesten Bericht: „KI: Das riskante Glücksspiel für Unternehmen.“ Der Bericht zeigt, dass US-Wirtschaftsführer in allen Branchen zwar bei kritischen Entscheidungen zunehmend auf künstliche Intelligenz (KI) angewiesen sind, Lücken in der Alphabetisierung, im ethischen Umgang und in der organisatorischen Vorbereitung jedoch Anlass zu erheblichen Bedenken geben.

„KI verändert Geschäftsabläufe, indem sie Prozesse automatisiert, umsetzbare Erkenntnisse liefert und eine stärkere Einbindung wichtiger Stakeholder fördert“, sagte Gustavo Amorim, Chief Advertising Officer bei Stibo Programs. „Wenn Unternehmensführer jedoch voll und ganz auf KI setzen, ohne starke ethische und Governance-Rahmenwerke zu schaffen, verspielen sie möglicherweise die Zukunft ihres Unternehmens, anstatt es auf langfristigen Erfolg auszurichten.“

Der Bericht umfasst Umfrageergebnisse von 500 US-Wirtschaftsführern (auf Direktorenebene und höher) aus verschiedenen Sektoren, darunter Einzelhandel, Konsumgüter (CPG), Fertigung, Banken, Versicherungen und Biowissenschaften.

Die Umfrage ergab, dass 32 % der Unternehmensleiter zugeben, dass sie die KI-Einführung beschleunigt haben, während 58 % einen Mangel an KI-Ethikschulungen anerkennen. Darüber hinaus äußern 86 % den Wunsch nach mehr Schulungen zum verantwortungsvollen Umgang mit KI.

Weitere wichtige Ergebnisse der Umfrage sind:

• Bedenken hinsichtlich der Vorbereitung: 49 % der Unternehmensführer geben zu, dass sie nicht bereit sind, KI verantwortungsvoll einzusetzen, was die erhebliche Lücke bei der Bereitschaft verdeutlicht.
• Verzerrungsminderung: 79 % der Unternehmen verfügen nicht über Richtlinien und Praktiken zur Voreingenommenheitsminderung, was darauf hindeutet, dass sich die meisten Unternehmensleiter nicht mit den kritischsten ethischen Herausforderungen der KI befassen.
• Sicherheitsrisiken: 54 % der Unternehmen haben keine neuen Sicherheitsmaßnahmen implementiert, um mit der KI-Integration Schritt zu halten.

Amorim fuhr fort: „Die Einrichtung vertrauenswürdiger Datenquellen, die Durchsetzung strenger Sicherheits- und Ethikrichtlinien sowie die Bereitstellung umfassender KI-Kenntnisse und Voreingenommenheitsschulungen sind wesentliche Schritte zum Schutz von Mitarbeitern, Kunden und dem Ruf der Marke.“ Ohne diese Maßnahmen riskieren Unternehmen einen finanziellen Schaden und einen Reputationsschaden, anstatt von den Innovationen und Synergien zu profitieren, die KI bieten kann.“

Weitere Informationen zum Bericht und Zugriff auf alle wichtigen Ergebnisse finden Sie unter HIER.

Melden Sie sich für die kostenlosen insideAI-Information an Publication.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/

Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

Giant Language Fashions (LLMs) und künstliche Intelligenz (KI) haben sich zusammengetan, um die Reichweite von Vertriebsteams zu steigern. Diese revolutionären Fortschritte verändern das Vertriebsengagement, indem sie bemerkenswerte Effizienz- und Personalisierungsmöglichkeiten bieten. Sie bringen jedoch auch Herausforderungen mit sich, denen sich Unternehmen stellen müssen, wenn sie diese unglaublichen Instruments nutzen wollen.

Die Möglichkeiten, die LLMs und KI für die Vertriebsansprache bieten, sind unbestreitbar. Ihre Fähigkeit, große Datenmengen zu analysieren, hilft Vertriebsteams dabei, herauszufinden, wen sie erreichen und was sie sagen können, um Gespräche zu fördern, sei es bei der Suche nach Konversionen oder bei Gesprächen mit treuen Kunden. LLMs und KI schaffen wirkungsvolle Interaktionen, indem sie Muster erkennen, Erkenntnisse gewinnen und hochgradig personalisierte Inhalte in großem Maßstab erstellen.

Einer der größten Vorteile der neuen Technologie ist ihre Fähigkeit, die Öffentlichkeitsarbeit in großem Umfang zu personalisieren. Herkömmliche Techniken zur Personalisierung von E-Mails sind mühsam. Nur einige Verkäufer können sie erstellen. KI kann anhand der Interaktionshistorie, Präferenzen und Reaktionen eines Kunden trainiert werden, um herauszufinden, was bei einer Kontaktaufnahme am besten ankommt – und so die Relevanz und Effektivität jeder Verkaufskampagne zu erhöhen.

Das Fließband automatisierte die Herstellung des Modells T; Ebenso automatisieren KI und LLMs routinemäßige Vertriebs- und Marketingaufgaben. KI und LLMs kümmern sich um arbeitsintensive Aktivitäten wie das Lead-Nurturing und befreien so das Vertriebsteam von alltäglichen Aufgaben und ermöglichen es ihm, sich auf anspruchsvollere und wertvollere Pipeline-Aktivitäten zu konzentrieren.

Jeder bedeutende Fortschritt bringt Herausforderungen mit sich. In diesem Fall müssen Unternehmen die ethischen Auswirkungen in Bezug auf Datenschutz und Einwilligung berücksichtigen. Den Kunden beim Einsatz von KI und LLMs zu respektieren bedeutet, den Prozess clear zu halten und Vorschriften einzuhalten. Eine E-Mail mit unglaublichen persönlichen Particulars kann aufdringlich wirken und den Käufer abschrecken. Hier kommt der menschlichen Einsicht eine entscheidende Bedeutung zu, sodass die menschliche Be aware zu einem unverzichtbaren Teil des Prozesses wird.

Obwohl KI-Interaktionen menschlich erscheinen können, fehlt ihnen das Einfühlungsvermögen und Verständnis, das nur der menschliche Intellekt mit sich bringt. Die menschliche Be aware, die das Vertrauen aufbaut, das für starke Kundenbeziehungen erforderlich ist, ist unersetzlich. Es geht darum, das Automatisierte und das Handgefertigte in Einklang zu bringen. KI und LLMs sind wie ein Marmorblock eines Bildhauers, der in eine grobe menschliche Type gehauen wurde, die der Künstler dann weiter formt und detailliert verarbeitet, um ihn in einen David zu verwandeln. Intelligente Automatisierung kann viele Routineaufgaben erledigen, aber der Mensch muss den letzten Schliff geben und sie zu einem integralen Bestandteil des Prozesses machen.

Darüber hinaus sind KI und LLMs zwar unglaublich, aber nur so intestine wie die Qualität der Daten, auf denen sie trainieren. Ungenaue und fehlerhafte Informationen führen zu unzuverlässigen Ergebnissen, was zu falschen Erkenntnissen und Fehlentscheidungen führt, die die Kundenbeziehung gefährden können. Es obliegt der Organisation, über einwandfreie Datenverwaltungspraktiken zu verfügen, eine Verantwortung, die dafür sorgt, dass der Prozess effizient und zuverlässig bleibt.

Die Zukunft

Die Einführung von KI und LLMs in Vertrieb und Advertising bietet verlockende Möglichkeiten, bringt aber auch Herausforderungen mit sich. Unternehmen, die diese Herausforderungen anerkennen und mit durchdachter Aufsicht und ethischen Umsetzungen meistern, werden eine höhere Produktivität und mehr qualifizierte Leads im Verkaufstrichter erleben.

Die meisten Geschäfte werden nicht allein aufgrund von KI-generierten Aktivitäten abgeschlossen. Während viele Aufgaben automatisiert oder codiert werden können, sind es die Nuancen der menschlichen Interaktion – wie Persönlichkeit und Empathie –, die außerhalb der Reichweite der Technologie bleiben. Die konkreten Verkaufsperipherien rund um diese menschlichen Eigenschaften können jedoch automatisiert werden, um aussagekräftige Nachrichten zu erzeugen, die zu weiteren Gesprächen anregen. Das menschliche Verkaufstalent wird lediglich durch die Fähigkeit der KI verstärkt, aufschlussreiche Inhalte zu produzieren und relevante Bindegewebsstrukturen zwischen Verkäufer und Käufer zu beleuchten. Es liegt an der Individual, den Interessenten in eine Bestellung umzuwandeln.

Über den Autor

Logan Kelly ist ein KI-Innovator und Unternehmer mit umfangreicher Erfahrung in der Nutzung modernster Technologien zur Entwicklung wirkungsvoller Lösungen. Als Gründer und Präsident von CallSineLogan warfare einer der Vorreiter bei der Revolutionierung des Vertriebsengagements durch KI-gesteuerte Strategien. Seine Führung bei CallSine konzentriert sich auf die Integration generativer KI und fortschrittlicher Datenanalysen, um Vertriebsprozesse zu verbessern und das Geschäftswachstum voranzutreiben. Im Laufe seiner Karriere hat Logan Kelly eine Leidenschaft für Innovation bewiesen. Sein Ziel ist es, KI-Technologie für Benutzer ohne datenwissenschaftlichen Hintergrund zugänglich und wertvoll zu machen. Seine Arbeit ebnet weiterhin den Weg für zukünftige KI-Fortschritte und -Anwendungen in verschiedenen Branchen.

Melden Sie sich für die kostenlosen insideAI-Information an E-newsletter.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/

Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

Wenn Sie ein Modell der künstlichen Intelligenz bitten, einen Liedtext zu schreiben, wie es die Beatles getan hätten, und es dies beeindruckend intestine hinbekommt, gibt es dafür einen Grund. Oder wenn Sie ein Modell bitten, Prosa im Stil Ihres Lieblingsautors zu schreiben, und es diesen Stil exakt nachbildet, gibt es dafür einen Grund.

Selbst wenn Sie sich in einem anderen Land befinden und den Namen eines interessanten Snacks übersetzen möchten, den Sie in der Supermarktabteilung finden, erkennt Ihr Smartphone die Beschriftungen und übersetzt den Textual content nahtlos.

Im Mittelpunkt all dieser Möglichkeiten steht die KI, und zwar vor allem deshalb, weil KI-Modelle anhand riesiger Mengen solcher Daten trainiert worden wären – in unserem Fall Hunderte von Liedern der Beatles und wahrscheinlich auch Bücher Ihres Lieblingsautors.

Mit dem Aufkommen der generativen KI ist jeder ein Musiker, Schriftsteller, Künstler oder alles davon. Gen-KI-Modelle erzeugen je nach Benutzereingaben in Sekundenschnelle maßgeschneiderte Kunstwerke. Sie können erstellen Van Gogh-artig Kunstwerke und lassen Sie Al Pacino sogar die Nutzungsbedingungen vorlesen, ohne dass er anwesend ist.

Faszination beiseite, der wichtige Aspekt ist hier die Ethik. Ist es honest, dass solche kreativen Werke zum Trainieren von KI-Modellen verwendet wurden, die nach und nach versuchen, Künstler zu ersetzen? Wurde die Zustimmung der Eigentümer solcher geistigen Eigentumsrechte eingeholt? Wurden sie angemessen entlohnt?

Willkommen im Jahr 2024: dem Jahr der Datenkriege

In den letzten Jahren sind Daten zu einem Magneten geworden, der die Aufmerksamkeit von Unternehmen auf sich zieht, die ihre Gen-KI-Modelle trainieren möchten. KI-Modelle sind wie Kleinkinder naiv. Sie müssen unterrichtet und dann trainiert werden. Deshalb benötigen Unternehmen Milliarden, wenn nicht Millionen von Daten, um Modelle künstlich zu trainieren, damit sie Menschen nachahmen.

Beispielsweise wurde GPT-3 mit Milliarden (Hunderten) von Token trainiert, was man frei mit 1000 Wörtern übersetzen kann. Quellen zeigen jedoch, dass Billionen solcher Token verwendet wurden, um die neueren Modelle zu trainieren.

Wohin wenden sich die großen Technologieunternehmen, wenn sie solch enorme Mengen an Trainingsdatensätzen benötigen?

Akuter Mangel an Trainingsdaten

Ambition und Volumen gehen Hand in Hand. Wenn Unternehmen ihre Modelle skalieren und optimieren, benötigen sie noch mehr Trainingsdaten. Dies könnte auf die Forderung zurückzuführen sein, nachfolgende GPT-Modelle vorzustellen oder einfach verbesserte und präzise Ergebnisse zu liefern.

Unabhängig vom Fall ist es unvermeidlich, dass umfangreiche Trainingsdaten erforderlich sind.

Hier stehen Unternehmen vor ihrem ersten Hindernis. Einfach ausgedrückt wird das Web zu klein, um KI-Modelle zu trainieren. Das bedeutet, dass den Unternehmen die vorhandenen Datensätze ausgehen, mit denen sie ihre Modelle füttern und trainieren können.

Diese schwindende Ressource bereitet Interessenvertretern und Technikbegeisterten Sorgen, da sie möglicherweise die Entwicklung und Evolution von KI-Modellen einschränken könnte. Diese sind meist eng damit verknüpft, wie Marken ihre Produkte positionieren und wie einige der drängendsten Probleme der Welt mit KI-gesteuerten Lösungen angegangen werden sollen.

Gleichzeitig gibt es auch Hoffnung in Kind von synthetischen Daten oder digitaler Inzucht, wie wir es nennen. In Laiensprache ausgedrückt sind synthetische Daten die von der KI generierten Trainingsdaten, die wiederum zum Trainieren von Modellen verwendet werden.

Obwohl es vielversprechend klingt, glauben Technikexperten, dass die Synthese solcher Trainingsdaten zu einer sogenannten Habsburger KI führen würde. Dies ist ein großes Drawback für Unternehmen, da solche Inzuchtdatensätze sachliche Fehler oder Voreingenommenheit enthalten oder einfach nur Kauderwelsch sein könnten, was die Ergebnisse von KI-Modellen negativ beeinflusst.

Betrachten Sie dies als eine Partie Stille Put up, mit dem einzigen Unterschied, dass das erste weitergegebene Wort ebenfalls bedeutungslos sein könnte.

Das Rennen um die Beschaffung von KI-Trainingsdaten

Lizenzierung ist eine ideale Möglichkeit, Trainingsdaten zu beschaffen. Bibliotheken und Repositorien sind zwar leistungsfähig, aber sie sind begrenzte Quellen. Das heißt, sie können den Volumenanforderungen von Modellen im großen Maßstab nicht genügen. Eine interessante Statistik besagt, dass uns bis zum Jahr 2026 möglicherweise die qualitativ hochwertigen Daten zum Trainieren von Modellen ausgehen werden, wenn man die Verfügbarkeit von Daten mit anderen physischen Ressourcen in der realen Welt vergleicht.

Einer der größten Foto-Repositorien – Shutterstock hat 300 Millionen Bilder. Das reicht zwar aus, um mit dem Coaching zu beginnen, aber zum Testen, Validieren und Optimieren wären wiederum umfangreiche Daten erforderlich.

Es gibt jedoch auch andere Quellen. Der einzige Haken dabei ist, dass sie grau farbcodiert sind. Wir sprechen hier von öffentlich verfügbaren Daten aus dem Web. Hier sind einige interessante Fakten:

• Täglich werden über 7,5 Millionen Blogbeiträge veröffentlicht.
• Auf Social-Media-Plattformen wie Instagram, X, Snapchat, TikTok und anderen sind über 5,4 Milliarden Menschen aktiv.
• Es gibt im Web über 1,8 Milliarden Web sites.
• Allein auf YouTube werden täglich über 3,7 Millionen Movies hochgeladen.

Darüber hinaus geben Menschen über reine Audio-Podcasts Texte, Movies, Fotos und sogar Fachwissen öffentlich weiter.

Es handelt sich hierbei um explizit verfügbare Inhalte.

Daher muss es doch honest sein, sie zum Trainieren von KI-Modellen zu verwenden, oder?

Dies ist die Grauzone, die wir bereits erwähnt haben. Zu dieser Frage gibt es keine eindeutige Meinung, da Technologieunternehmen mit Zugriff auf derart große Datenmengen neue Instruments und Richtlinienänderungen entwickeln, um diesem Bedarf gerecht zu werden.

Einige Instruments wandeln Audiodaten von YouTube-Movies in Textual content um und verwenden diese dann als Token für Trainingszwecke. Unternehmen überdenken Datenschutzrichtlinien und gehen sogar so weit, öffentliche Daten zu verwenden, um Modelle zu trainieren, mit der vorab festgelegten Absicht, sich Klagen auszusetzen.

Gegenmechanismen

Gleichzeitig entwickeln Unternehmen auch sogenannte synthetische Daten, bei denen KI-Modelle Texte generieren, die wiederum wie eine Schleife zum Trainieren der Modelle verwendet werden können.

Um dem Information Scraping entgegenzuwirken und Unternehmen daran zu hindern, Gesetzeslücken auszunutzen, implementieren Web sites andererseits Plug-ins und Codes, um das Eindringen von Information-Scraping-Bots zu verhindern.

Was ist die ultimative Lösung?

Der Einsatz von KI zur Lösung realer Probleme wurde schon immer von edlen Absichten getragen. Warum muss man sich bei der Beschaffung von Datensätzen zum Trainieren solcher Modelle dann auf graue Modelle stützen?

Da Gespräche und Debatten über eine verantwortungsvolle, ethische und rechenschaftspflichtige KI immer wichtiger und intensiver werden, liegt es an Unternehmen jeder Größenordnung, auf different Quellen umzusteigen, die über White-Hat-Techniken zur Bereitstellung von Trainingsdaten verfügen.

Das ist wo Shaip zeichnet sich aus. Shaip ist sich der vorherrschenden Bedenken hinsichtlich der Datenbeschaffung bewusst und hat sich immer für ethische Techniken eingesetzt und konsequent verfeinerte und optimierte Methoden zum Sammeln und Zusammenstellen von Daten aus verschiedenen Quellen praktiziert.

Beschaffungsmethoden für White-Hat-Datensätze

Bei unserem proprietären Datenerfassungstool stehen Menschen im Mittelpunkt der Datenidentifikations- und Bereitstellungszyklen. Wir verstehen die Sensibilität der Anwendungsfälle, an denen unsere Kunden arbeiten, und die Auswirkungen, die unsere Datensätze auf die Ergebnisse ihrer Modelle haben würden. So sind beispielsweise Datensätze aus dem Gesundheitswesen im Vergleich zu Datensätzen für Pc Imaginative and prescient für autonome Autos sensibel.

Genau aus diesem Grund umfasst unsere Vorgehensweise sorgfältige Qualitätskontrollen und Techniken zur Identifizierung und Zusammenstellung relevanter Datensätze. Dadurch konnten wir Unternehmen mit exklusiven Gen AI-Trainingsdatensätzen in verschiedenen Formaten wie Bildern, Movies, Audio, Textual content und weiteren Nischenanforderungen versorgen.

Unsere Philosophie

Wir arbeiten nach Kernphilosophien wie Zustimmung, Datenschutz und Equity bei der Datenerfassung. Unser Ansatz stellt auch die Vielfalt der Daten sicher, sodass keine unbewussten Vorurteile entstehen.

Während sich die KI-Welt auf den Beginn einer neuen Ära vorbereitet, die von fairen Praktiken geprägt ist, Shaip beabsichtigen, die Fahnenträger und Vorreiter solcher Ideologien zu sein. Wenn Sie nach absolut fairen und qualitativ hochwertigen Datensätzen suchen, um Ihre KI-Modelle zu trainieren, setzen Sie sich noch heute mit uns in Verbindung.