Das Wachstum der künstlichen Intelligenz (KI) hat sich als eine der einflussreichsten Entwicklungen herausgestellt
in den letzten Jahrzehnten. Technologien wie ChatGPT, Gemini und Claude haben die KI allgegenwärtig gemacht und zu Echtzeitveränderungen in zahlreichen Branchen, einschließlich Finanzen und Advertising, geführt. Seit einigen Jahren nutzen auf Betrugsprävention spezialisierte Unternehmen KI, um ihre Abwehrmaßnahmen gegen die steigenden Risiken von On-line-Betrug zu stärken. Diese Systeme zeichnen sich dadurch aus, dass sie komplexe Daten analysieren und Tendencies und Muster erkennen, die für Menschen möglicherweise unbemerkt bleiben, was zu bemerkenswerten Ergebnissen führt.

Da KI-Instruments für die Öffentlichkeit immer zugänglicher geworden sind, stellen sie bei der Betrugsprävention zunehmend eine doppelte Bedrohung dar. Kriminelle haben begonnen, die leistungsstarken Fähigkeiten dieser Instruments für illegale Zwecke zu nutzen. Dieser alarmierende Development weckt allgemeine Bedenken hinsichtlich des Potenzials für KI-Missbrauch und unterstreicht die dringende Notwendigkeit von Schutzmaßnahmen.

Das Beste nach vorne bringen

In den USA hat das Thema bereits erhebliche Diskussionen ausgelöst, insbesondere nach der Einführung eines Entwurfs für eine KI-Invoice of Rights im Oktober 2022. Die Idee, strengere Vorschriften für KI einzuführen, ist sinnvoll. Allerdings stellt die Regulierung von Bereichen mit schnellem technologischen Fortschritt immer große Herausforderungen dar. Das Risiko unbeabsichtigter Folgen intestine gemeinter Richtlinien ist actual. Daher ist es wichtig, den Blueprint und seine potenziellen Auswirkungen auf die Betrugsprävention gründlich zu bewerten. Im Idealfall würden diese neuen Vorschriften die Möglichkeiten böswilliger Akteure wie On-line-Betrüger einschränken, KI-Instruments zu nutzen, um anderen zu schaden.

Ohne genauere Prüfung lässt sich nur schwer feststellen, ob dies tatsächlich der Fall sein wird. Diese Unsicherheit ergibt sich aus der Sorge, dass diese Vorschriften auch gutmeinende Entwickler daran hindern könnten, KI-Technologien zu verbessern und anzupassen, um den alarmierenden Anstieg des On-line-Betrugs zu bekämpfen. Hierin liegt das Risiko der oben erwähnten unbeabsichtigten Folgen. Angesichts des rasanten Tempos, mit dem sich die KI-Technologie weiterentwickelt, ist der Spielraum für Fehler bei der Verwaltung und Regulierung sehr gering – es ist wichtig, sie von Anfang an richtig zu machen.

BEWERTUNG DES ENTWURFSPLANS FÜR EINE KI-BILL OF RIGHTS

Der im Oktober 2022 veröffentlichte Blueprint for an AI Invoice of Rights dient als unverbindlicher Leitfaden für den ethischen Einsatz von KI. Sein Zweck besteht darin, Verbraucherrechte zu skizzieren und Einzelpersonen eine gewisse Kontrolle über die autonomen Instrumente und Entscheidungen zu gewähren, die in ihrem Namen getroffen werden. Seit seiner Veröffentlichung haben mindestens fünf Bundesbehörden in den Vereinigten Staaten den Blueprint übernommen, und im Juli 2023 haben sieben große KI-Unternehmen, darunter Google, OpenAI und Microsoft, seine Prinzipien freiwillig übernommen.

Das umfassende Rahmenwerk soll sicherstellen, dass KI-Systeme so entwickelt und implementiert werden, dass die Öffentlichkeit vor den potenziellen Risiken dieser Technologien geschützt wird. Zu diesem Zweck liegt ein Hauptaugenmerk des Blueprint auf der Schaffung sicherer und zuverlässiger Systeme. Insbesondere wird die Notwendigkeit gründlicher Checks vor der Bereitstellung, kontinuierlicher Überwachung und Einhaltung branchenspezifischer Requirements betont, um zu verhindern, dass KI-Systeme für schädliche Aktivitäten wie Betrug ausgenutzt werden.

Darüber hinaus plädiert der Blueprint für eine kontinuierliche Risikoerkennung und -minderung sowie eine unabhängige Bewertung von KI-Systemen, einschließlich solcher, die für illegale Aktivitäten ausgenutzt werden könnten. Dieser proaktive Ansatz zur Prävention KI-gestützter Kriminalität ist lobenswert. Die im Blueprint dargelegten Schutzmaßnahmen könnten zweifellos eine entscheidende Rolle bei der Eindämmung der Ausbreitung schädlicher Aktivitäten spielen. Gleichzeitig gibt es andere Bereiche, in denen die Auswirkungen möglicherweise differenzierter und weniger eindeutig sind.

DIE HERAUSFORDERUNG UNBEABSICHTIGTER KONSEQUENZEN

Eine potenzielle Herausforderung besteht darin, wie der Blueprint den Datenschutz angeht und welche Einschränkungen er der Wiederverwendung von Daten in sensiblen Bereichen auferlegt. Derzeit basieren viele Instruments zur Betrugsprävention auf hochentwickelten KI-Algorithmen, die eine schnelle Analyse großer Datenmengen erfordern, um betrügerische Aktivitäten zu erkennen. Wenn der Blueprint den Zugriff auf diese Daten einschränkt und es Unternehmen erschwert, diese Systeme zu entwickeln.

Wie bereits erwähnt, übersteigt die Leistungsfähigkeit KI-gestützter Lösungen zur Betrugsprävention häufig das bisher Mögliche. Die Einschränkung der Fähigkeit von Unternehmen, die diese Lösungen entwickeln, auf die Daten zuzugreifen oder diese zu nutzen, die sie benötigen, um sicherzustellen, dass sie so effektiv wie möglich arbeiten, könnte schädliche Folgen haben. Ohne den richtigen Ansatz könnten wir unbeabsichtigt ein Szenario schaffen, in dem die Versorgung mit diesen Systemen behindert wird. Dies wiederum würde bedeuten, dass Betrüger mit stark geschwächten Systemen zu kämpfen hätten, was langfristig zu einer Zunahme von On-line-Betrug führen könnte.

Darüber hinaus könnten die Anforderungen an eine unabhängige Bewertung und Berichterstattung von KI-Lösungen zu Verzögerungen führen und die Kosten erhöhen, die mit der Entwicklung KI-gestützter Betrugspräventionstools verbunden sind. Dies könnte wiederum Innovationen in diesem Bereich behindern und letztlich Betrügern zugute kommen. Da die On-line-Betrugsraten steigen und die wirtschaftlichen Herausforderungen zunehmen, müssen Unternehmen in den USA und darüber hinaus möglichst zeit- und kosteneffektiv auf diese Lösungen zugreifen. Daher muss dieses Szenario vermieden werden.

HILFE ODER HINDERNIS?

Es ist noch zu früh, um festzustellen, ob sich diese Bedenken bewahrheiten werden. Wie bei den meisten Vorschriften in der Größenordnung des Blueprints ist es eine Herausforderung, seine Auswirkungen in diesem frühen Stadium der Umsetzung vollständig abzuschätzen. Die mit diesen Maßnahmen verbundenen Probleme verdeutlichen die sehr reale Gefahr einer Überregulierung, die die Entwicklung innovativer KI-Instruments, die für die langfristige Betrugsprävention unerlässlich sind, behindern könnte.

Um sicherzustellen, dass die KI-Entwicklung eine optimistic Kraft im Bereich der Betrugsprävention bleibt, müssen wir wachsam bleiben und diese Bedrohung offen ansprechen. Es ist von entscheidender Bedeutung, dass alle eingeführten Maßnahmen flexibel und anpassungsfähig bleiben und dass die Kommunikationskanäle zwischen Regulierungsbehörden und denjenigen, die im öffentlichen Interesse arbeiten, sowohl klar als auch präzise sind. Da sich die Richtlinie noch in der Anfangsphase befindet, ist es jetzt an der Zeit, diese Bedenken zum Ausdruck zu bringen und Lösungen zu finden.

Über den Autor

Tamas Kadar ist der Gründer und CEO von SEON. Er gründete das Unternehmen zusammen mit seinem Mitbegründer, als sie noch Studenten waren, und baute es von Grund auf auf. Er wurde in Forbes‘ „Hottest Younger Startups in Europe“ vorgestellt und ist regelmäßiger Gewinner von Startup-Pitches. Er ist ein wahrer Technik-Fanatic und Produktvisionär für die Schaffung einer Welt ohne Betrug und wurde kürzlich als Gesicht der Technologieliste in die Eliteliste „Forbes 30 Below 30 Europe“ aufgenommen.

Melden Sie sich für die kostenlosen insideAI-Information an Publication.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insideainews/

Begleiten Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW

Der Eröffnungsbericht zeigt, dass quick drei von vier Entscheidungsträgern der Meinung sind, dass eine Nichtinvestition in KI die Rentabilität des Unternehmens gefährden würde, doch schlechte Datenqualität, Regulierungskomplexität und Integration behindern den Erfolg

Hochrangige Entscheidungsträger wissen, dass KI für die Rentabilität ihres Unternehmens von entscheidender Bedeutung ist. Doch trotz des wachsenden Drucks der Stakeholder, die Technologie schnell umzusetzen, verlangsamen regulatorische und technologische Herausforderungen den Prozess, heißt es in einem neuen Bericht unserer Freunde von Exasol, der Anbieter leistungsstarker Analysedatenbanken. Exasols 2024“KI- und Analytics-Bericht„Untersucht den aktuellen Stand der KI-Implementierung, die größten Herausforderungen bei der Datenanalyse und die Zukunft der C-Suite angesichts des explosionsartigen Datenwachstums und der Einführung neuer Technologien.

In Zusammenarbeit mit Vanson Bourne, einem unabhängigen Forschungsunternehmen, befragte Exasol 800 hochrangige Entscheidungsträger sowie Datenwissenschaftler und Analysten in den USA, Großbritannien und Deutschland, um die Daten- und Analyseinitiativen von Unternehmen zu bewerten, einschließlich ihrer größten Herausforderungen und ihrer Lage Sie planen, diese Herausforderungen kurzfristig (innerhalb von zwei Jahren) anzugehen.

Zu den wichtigsten Erkenntnissen gehören:

Entscheidungsträger und technische Analysten glauben, dass es zum Scheitern des Unternehmens führen wird, wenn man heute nicht in KI investiert, es bestehen jedoch immer noch erhebliche Hindernisse für eine breitere Umsetzung

Quick alle (91 %) der Befragten sind sich einig, dass KI eines der wichtigsten Themen für Unternehmen in den nächsten zwei Jahren ist, wobei satte 72 % zugeben, dass eine Nichtinvestition in KI heute die zukünftige Geschäftsfähigkeit gefährden wird. Der Druck der Stakeholder ist ebenfalls ein Faktor für eine stärkere Einführung von KI: 45 % geben an, dass sie einen zunehmenden Druck seitens der Stakeholder verspüren, die Technologie anzunehmen. Zu den am häufigsten genannten Gründen für den Glauben an die Bedeutung von KI gehören die Schaffung neuer Unternehmen oder Einnahmequellen (50 %); sich ändernde Rollen und Verantwortlichkeiten der Belegschaft (47 %); Beschleunigung der Wettbewerbsfähigkeit auf dem Markt (46 %); und Automatisierung von Prozessen (43 %).

Doch trotz des Verständnisses, wie entscheidend die Technologie für den zukünftigen Erfolg ist, gibt es Hindernisse für ihre nahtlose Implementierung: Quick neun von zehn Befragten (88 %) geben an, dass sich entwickelnde bürokratische Anforderungen und Vorschriften für KI mehr Klarheit erfordern. Darüber hinaus fehlt eine Umsetzungsstrategie (44 %); schlechte Datenqualität und unzureichendes Datenvolumen (43 %); und die Integration in bestehende Systeme (38 %) behindern die weit verbreitete Einführung von KI. Unternehmen müssen Wege finden, diese Hindernisse zu überwinden, da mehr als ein Drittel (38 %) der Unternehmen in den nächsten Jahren den Ausbau der KI-Infrastruktur planen.

Latenz behindert weiterhin die Datenanalyse- und KI-Initiativen von Unternehmen

Unternehmen haben Schwierigkeiten, ihre Datenanalyse- und KI-Projekte voranzutreiben. Erstaunliche 78 % der Entscheidungsträger melden Lücken in mindestens einem Bereich ihrer Datenwissenschafts- und maschinellen Lernmodelle (ML). Quick die Hälfte (47 %) nennt die Geschwindigkeit bei der Umsetzung neuer Datenanforderungen als Herausforderung.

Obwohl die meisten (96 %) BI-Beschleunigungs-Engines verwenden, um Abfragen direkt in ihren Instruments zu beschleunigen, geben erstaunliche 69 % der BI-Benutzer zu, dass sie weiterhin mit einer langsamen Berichtsleistung zu kämpfen haben. Weitere 79 % geben an, dass die Umsetzung neuer Geschäftsanalyseanforderungen durch ihre Datenteams zu lange dauert, was bedeutet, dass die Latenz weiterhin die Innovationsfähigkeiten, Datenanalyseprojekte und das KI-Potenzial von Unternehmen beeinträchtigt.

Angesichts der zunehmenden Datenmengen und der KI-Beschleunigung wird sich die Rolle des Chief Knowledge Officer weiterentwickeln, um integrierter, wirkungsvoller und herausfordernder zu werden

Die Rolle des Chief Knowledge Officer (CDO) wird sich als Reaktion auf die Integration von KI weiterentwickeln, einschließlich Infrastrukturentwicklung, KI-gesteuerter Automatisierung und KI-gesteuerter Erkenntnisse. Tatsächlich glauben mehr als die Hälfte (52 %) der Befragten, dass die CDO-Rolle enger mit anderen C-Suite-Mitgliedern zusammenarbeiten muss, und 44 % glauben, dass sie mit dem Chief AI Officer fusionieren wird, während Ethik- und Compliance-Fragen weiterhin eine Rolle spielen Fokus.

Im Hinblick auf Geschäftsbetriebsprognosen gehen 90 % der Unternehmen davon aus, dass sie ihre Investitionen in Personalbestand und/oder Price range in den nächsten zwei Jahren erhöhen werden, um das erwartete Datenwachstum zu unterstützen. Zu den Rollen, die in diesem Zeitraum voraussichtlich am stärksten zunehmen werden, gehören BI-/Analytics-Entwickler und -Ingenieure (beide 48 %); Datenanalysten (46 %); und Datenarchitekten/-modellierer (45 %). Trotz des erwarteten Anstiegs der Mitarbeiterzahl geben 47 % der Umfrageteilnehmer an, dass sie befürchten, dass generative KI ihre Rolle gefährden könnte.

„KI ist für den Geschäftserfolg von entscheidender Bedeutung geworden, aber sie ist nur so effektiv wie die Instruments, die Technologie und die Menschen, die sie im Backend antreiben. Unsere Studie beweist außerdem, dass es eine erhebliche Lücke zwischen aktuellen BI-Instruments und ihrer Ausgabe gibt – mehr Instruments bedeuten nicht unbedingt schnellere Leistung oder bessere Erkenntnisse“, sagte Jörg Tewes, CEO von Exasol. „Da sich CDOs auf mehr Komplexität vorbereiten und die Aufgabe haben, mit weniger mehr zu erreichen, müssen sie den Datenanalyse-Stack evaluieren, um Produktivität, Geschwindigkeit und Flexibilität zu gewährleisten – und das alles zu angemessenen Kosten.“

Für weitere Informationen laden Sie bitte den vollständigen „AI and Analytics Report“ 2024 herunter. HIER.

Methodik

Exasol beauftragte die unabhängige Marktforschungsagentur Vanson Bourne mit der Durchführung von Untersuchungen zu Daten, Analysen und KI. Im Rahmen der Studie wurden im November 2023 800 leitende Entscheidungsträger in IT- und Nicht-IT-Positionen sowie Datenwissenschaftler/-analysten befragt. Die Befragten kamen aus den USA, Großbritannien und Deutschland und alle hatten eine gewisse Verantwortung oder Kenntnisse über die Daten ihrer Organisationen Wissenschafts- und Analysestrategie oder -programm.

Die Befragten kamen aus Organisationen mit 1.000 oder mehr Mitarbeitern aus den folgenden Sektoren: Finanzdienstleistungen, Gesundheitswesen (öffentlich und privat), Einzelhandel und Telekommunikation. Alle Interviews wurden mithilfe eines strengen mehrstufigen Screening-Prozesses durchgeführt, um sicherzustellen, dass nur geeignete Kandidaten die Möglichkeit zur Teilnahme erhielten.

Melden Sie sich kostenlos für insideBIGDATA an E-newsletter.

Begleiten Sie uns auf Twitter: https://twitter.com/InsideBigData1

Treten Sie uns auf LinkedIn bei: https://www.linkedin.com/firm/insidebigdata/

Folge uns auf Fb: https://www.fb.com/insideBIGDATANOW