Politik – chatgpz.de – KI-Tools & Praxiswissen https://chatgpz.de Unabhängige Tests, Anleitungen und Hintergründe zu KI-Tools. Fri, 06 Mar 2026 19:08:29 +0000 de-DE hourly 1 https://wordpress.org/?v=6.4.2 234900186 Verbesserung der maritimen Cybersicherheit durch Technologie und Politik | MIT-Nachrichten https://chatgpz.de/artificial-intelligence/verbesserung-der-maritimen-cybersicherheit-durch-technologie-und-politik-mit-nachrichten/ https://chatgpz.de/artificial-intelligence/verbesserung-der-maritimen-cybersicherheit-durch-technologie-und-politik-mit-nachrichten/#respond Fri, 06 Mar 2026 19:08:28 +0000 https://chatgpz.de/artificial-intelligence/verbesserung-der-maritimen-cybersicherheit-durch-technologie-und-politik-mit-nachrichten/ [ad_1]

Strahinja (Strajo) Janjusevic stammt ursprünglich aus dem kleinen Balkanland Montenegro und sagt, sein Leben habe sich auf unerwartete Weise entwickelt, wofür er zutiefst dankbar sei. Nach seinem Excessive-College-Abschluss wurde er ausgewählt, sein Land in den Vereinigten Staaten zu vertreten und studierte Cyberoperationen und Informatik an der US Naval Academy in Annapolis, Maryland. Seitdem hat er sein Cybersicherheitsstudium fortgesetzt und ist derzeit Masterstudent im zweiten Jahr Technologie- und Politikprogramm (TPP)veranstaltet von der MIT-Institut für Daten, Systeme und Gesellschaft (IDSS). Seine Forschungen mit dem MIT-Labor für Informations- und Entscheidungssysteme (LIDS) und die MIT Maritime Consortium Ziel des Groups ist es, die Cybersicherheit kritischer maritimer Infrastruktur mithilfe künstlicher Intelligenz zu verbessern und dabei sowohl die Technologie als auch die politischen Rahmenbedingungen der Lösungen zu berücksichtigen.

„Meine aktuelle Forschung konzentriert sich auf die Anwendung von KI-Techniken auf Cybersicherheitsprobleme und die Untersuchung der politischen Auswirkungen dieser Fortschritte, insbesondere im Kontext der maritimen Cybersicherheit“, sagt Janjusevic. „Die Vertretung meines Landes auf höchster Bildungs- und Industrieebene hat mir eine einzigartige Perspektive auf die Herausforderungen der Cybersicherheit gegeben.“

Janjusevics Weg von Montenegro nach Maryland wurde durch ein Programm geschaffen, das ausgewählten Studenten aus verbündeten Ländern den Besuch der US Naval Academy ermöglicht. Janjusevic schloss sein Studium mit einem dualen Bachelor-Abschluss in Cyber ​​Operations und Informatik ab. Seine Studienerfahrung bot ihm die Möglichkeit, mit dem US-Militär und der Nationwide Safety Company zusammenzuarbeiten, wodurch er sich mit hochrangigen Cybersicherheitseinsätzen vertraut machte und sein Interesse an der Bewältigung komplexer Cybersicherheitsherausforderungen weckte. Während seines Grundstudiums absolvierte er außerdem ein Praktikum bei Microsoft, wo er Instruments für die Reaktion auf Wolkenvorfälle entwickelte, und bei der NASA, wo er Sonnendaten für Forschungsanwendungen visualisierte.

Nach seinem Abschluss erkannte er, dass er noch mehr Wissen brauchte, insbesondere im Bereich KI und Cybersicherheit. TPP gefiel ihm sofort, da der Schwerpunkt sowohl auf rigorosen technischen Innovationen als auch auf der politischen Analyse liegt, die für deren effektive Umsetzung erforderlich ist. Janjusevics Erfahrungen bei TPP waren eine große Veränderung im Vergleich zu seiner Zeit an der US Naval Academy, mit einem anderen Tempo und einem anderen Umfeld. Er schätzte besonders die Möglichkeit, sein Verständnis über eine Vielzahl von Forschungsbereichen zu erweitern und die Disziplin und das Wissen, das er während seiner Zeit an der Akademie erworben hatte, anzuwenden.

„Meine TPP-Erfahrung battle großartig“, sagt Janjusevic. „Die Kohorte ist wirklich klein, man fühlt sich additionally wie eine Familie, und jeder arbeitet an vielfältigen, wirkungsvollen Problemen.“

Minderung der Risiken neuer Technologien

Janjusevics Dissertation vereint Disziplinen der Cybersicherheit, KI und Deep Studying sowie Kontrolltheorie und -physik und konzentriert sich auf die Sicherung maritimer cyber-physikalischer Systeme – insbesondere großer Altschiffe. Das Hacken der Netzwerke dieser Schiffe kann erhebliche Schäden für die nationale Sicherheit sowie schwerwiegende wirtschaftliche Auswirkungen haben.

„Strajo arbeitet daran, maritimes GPS-Spoofing zu überlisten“, sagt Saurabh Amin, Edmund Okay. Turner-Professor für Bauingenieurwesen. „Solche Angriffe haben bereits Schiffe in umkämpften Gewässern vom Kurs abgebracht. Sein Ansatz kombiniert physikbasierte Flugbahnmodelle mit Deep Studying und erkennt Bedrohungen, die keine einzelne Methode allein erkennen kann. Sein Fachwissen battle sehr hilfreich bei der Weiterentwicklung unserer Arbeit zur Bedrohungsmodellierung und Angriffserkennung.“

Die Forschung nutzt fortschrittliche Bedrohungsmodellierung und Schiffsdynamik, um KI-Systeme darauf zu trainieren, zwischen legitimen Manövern und gefälschten Signalen zu unterscheiden. Dazu gehört der Aufbau eines Frameworks, das einen internen LSTM-Autoencoder (Lengthy Brief-Time period Reminiscence) zur Analyse der Signalintegrität verwendet und gleichzeitig einen physikbasierten Prognostiker nutzt, um die Schiffsbewegung auf der Grundlage von Umweltfaktoren wie Wind und Seegang vorherzusagen. Durch den Vergleich dieser Vorhersagen mit gemeldeten GPS-Positionen kann das System effektiv zwischen natürlichem Sensorrauschen und böswilligen Spoofing-Angriffen unterscheiden. Dieses Hybrid-Framework soll menschliche Bediener stärken und nicht ersetzen und verifizierte Navigationsdaten bereitstellen, die es den Wachleuten ermöglichen, technische Störungen von strategischen Cyberangriffen zu unterscheiden.

Janjusevic konnte seine akademische Forschung durch Branchenerfahrung ergänzen. Im Sommer 2025 absolvierte er ein Praktikum im Community Detection-Crew des KI-Cybersicherheitsunternehmens Vectra AI. Dort untersuchte er potenzielle Bedrohungen, die neue Technologien mit sich bringen können, insbesondere KI-Agenten und das Mannequin Context Protocol (MCP) – den neuen Normal für die Kommunikation von KI-Agenten. Seine Forschung zeigte, wie diese Technologie für autonome Hacking-Operationen und erweiterte Befehls- und Kontrollfunktionen genutzt werden kann. Diese Arbeit zu den Sicherheitsrisiken der Agenten-KI wurde kürzlich im Preprint vorgestellt, „Verstecken im KI-Verkehr: Missbrauch von MCP für LLM-gestütztes Agentic Purple Teaming.“

„Ich konnte praktische Einblicke und praktische Erfahrungen darüber gewinnen, wie ein Information-Science-Crew KI-Modelle nutzt, um Anomalien in einem Netzwerk zu erkennen“, sagt Janjusevic. „Diese Arbeit in der Industrie hat die Modelle zur Anomalieerkennung in meiner Forschung direkt beeinflusst.“

Internationale politische Perspektive

„Strajo bringt nicht nur ein hohes Maß an Intelligenz und Energie in seine Arbeit zur cyber-physischen Sicherheit von Handelsschiffen ein, sondern auch einen starken Instinkt aus seiner Ausbildung bei der Marine, der sich tief in die Forschungsbemühungen einfügt und sie in umsetzbare Richtlinien begründet“, sagt Fotini Christia, Ford Worldwide Professor of the Social Sciences, Direktor des IDSS und Leiter des MIT Maritime Consortium.

Janjusevic beteiligt sich an den Cybersicherheitsbemühungen des Maritime Consortium, einer Zusammenarbeit zwischen Wissenschaft, Industrie und Regulierungsbehörden, die sich auf die Entwicklung technologischer Lösungen, Industriestandards und Richtlinien konzentriert. Das Konsortium umfasst Kooperationen mit einigen internationalen Mitgliedern, unter anderem aus Singapur und Südkorea.

„Bei der KI-Cybersicherheit ist das politische Aspect wirklich wichtig, da das Feld so schnelllebig ist und die Folgen von Hacking so gefährlich sein können“, sagt Janjusevic. „Ich denke, dass in diesem Bereich noch viel politischer Handlungsbedarf besteht.“

Janjusevic hilft derzeit auch bei der Organisation zweier bevorstehender großer Konferenzen: der Europäische Harvard-Konferenz im Februar, zu dem Beamte und Diplomaten aus der ganzen Welt zusammenkommen werden, und die Konferenz über Technologie und nationale Sicherheit im April, eine Zusammenarbeit von Harvard und MIT, die Spitzenführer aus Regierung, Industrie und Wissenschaft zusammenbringt, um kritische Herausforderungen der nationalen Sicherheit anzugehen.

„Ich strebe danach, eine Place zu finden, in der ich den Bereich Cybersicherheit mit KI beeinflussen und vorantreiben und gleichzeitig die Zusammenarbeit und Innovation zwischen den Vereinigten Staaten und Montenegro leiten kann“, sagt Janjusevic. „Mein Ziel ist es, eine Brücke zwischen Europa und den USA in diesem Bereich der nationalen Sicherheit, KI und Cybersicherheit zu sein und mein Wissen beiden Seiten zur Verfügung zu stellen.“

[ad_2]

]]>
https://chatgpz.de/artificial-intelligence/verbesserung-der-maritimen-cybersicherheit-durch-technologie-und-politik-mit-nachrichten/feed/ 0 16847
Umfragestatistik: Anpassung an Interesse an Politik https://chatgpz.de/data-science/umfragestatistik-anpassung-an-interesse-an-politik/ https://chatgpz.de/data-science/umfragestatistik-anpassung-an-interesse-an-politik/#respond Wed, 30 Jul 2025 03:24:24 +0000 https://chatgpz.de/data-science/umfragestatistik-anpassung-an-interesse-an-politik/ [ad_1]

Letzte Woche haben wir eingetreten Ein neues Paradigma: Ob Sie auf eine Umfrage (R) antworten, kann auch nach der Kontrolle von Kovariaten (x) vom Ergebnis (Y) abhängen. Dies wird als nicht zufällig (MNAR) als fehlend bezeichnet, im Gegensatz zu zufällig (mar). Michael BaileyDer Beitrag drückt über Mar über Mar. Im Gegensatz dazu antwortet der Fokus auf die Verbesserung der Plausibilität von MAR durch Hinzufügen zusätzlicher Kovariaten Z zum Satz von Anpassungskovariaten X.

Bearbeiten: nerviger Notation Konflikt hier dazwischen Bailey 2025’s Randomisierte Antwortinstrument („z“) und Kuriwaki et al. 2024Zusätzliche Anpassungskovariaten (auch „Z“). Dieser Beitrag konzentriert sich auf letztere.

Im Kommentarbereich unseres letzten Beitrags wies Andrew auf seine und hin Gustavo’s Antwort: Herausforderungen bei der Anpassung einer Umfrage, in der sich Menschen, die an Politik interessiert sind. Sie beginnen:

Wir stimmen dem allgemeinen Punkt von zu Bailey (2023) Diese zufällige Stichprobe ist ein entfernter Benchmark für reale Umfragen…

Rod Little erinnert uns Diese zufällige Stichprobe ist immer noch related in die Welt jenseits der Meinungsumfrage:

könnte für Meinungsumfragen vertretbar sein, aber nicht für den Bereich der Umfrage als Ganzes… statistische Behörden der Regierung… Umfrageforschungsorganisationen…. bemühen Sie sich, qualitativ hochwertige Wahrscheinlichkeitserhebungen durchzuführen.

Andrew und Gustavo konzentrieren sich weiterhin auf die Anpassung der Unterschiede zwischen Stichprobe und Bevölkerung:

Die Anpassung an die Identifizierung der Partei oder die Stimmgeschichte kann eine Herausforderung sein, da diese Variablen in der Volkszählung nicht tabellarisch sind…

Für einen Weg, dies anzusprechen, siehe Unser Beitrag über 2 Kalibriergeschmacksrichtungen. Dort diskutierten wir Kuriwaki et al. 2024WHO Fügen Sie dem Hilfsdaten X Variable Z mit den bekannten Summen von Z hinzu (zB frühere Wahlergebnisse).

Dann pivot Andrew und Gustavo, darüber zu sprechen Interesse an der Politik können wir dies Z_2 nennen (Es ist der letzte Schrei in der Trainingstheorie):

Es ist jedoch nicht klar, was man gegen diese Überabtastung von Menschen tun soll, die sich für Politik interessieren, da die Verteilung dieser Variablen in der allgemeinen Bevölkerung nicht bekannt ist.

Eine Possibility für Bevölkerungsdaten zu dieser Variablen stammt aus der American Nationwide Election Research (ANES), die fragt (siehe Der Fragebogen 2020 Anes):

(Dies scheint eine andere Frage zu sein als die Verwendung von Andrew und Gustavo?)

Die Anes ähneln den Organisationen, dass Rod Little sagt, dass sie „immer noch um qualitativ hochwertige Wahrscheinlichkeitserhebungen durchführen“. Der 2020 ANES -Methodikbericht Die Rücklaufquote betrug 36,7%. (Warum macht ihre? Datenqualitätsseite Die Rücklaufquoten nur bis 2000 berichten, während dies in den vergangenen Jahren niedriger ist als in den vergangenen Jahren, Sharon Lohr erinnert uns:

Beginnend mit einer Wahrscheinlichkeitsstichprobe hat mehrere Vorteile, selbst wenn die Antwortraten niedrig sind:
– Der Stichprobenrahmen für eine Wahrscheinlichkeitsprobe ist intestine definiert und viele in der Praxis verwendete Rahmen haben eine hohe Abdeckung….
– Die Wahrscheinlichkeitsstichprobe hat häufig mehr Informationen zur Verfügung, die für die Gewichtung, die Imputation oder andere Arten von Nichtantwortmodellierung verwendet werden können…

Der 2020 ANES -Methodikbericht Der Stichprobenrahmen battle die computergestützte Liefersequenzdatei der US -Postdienste. Ihre Nichtantwortanpassung umfasste eine einzelne VS-Mehrfamilienhäuser, unabhängig davon, ob die Adresse eine Telefonnummer und Volkszählungsabteilung enthält.

Es ist unklar, wie stark der Nicht-Reaktionsmechanismus der Anes seine Fähigkeit, zuverlässige Bevölkerungsdaten bereitzustellen, wirkt. Die Anpassung an Z_2 (politisches Interesse) ist additionally möglicherweise nicht so intestine wie die Anpassung an Z (frühere Stimme), aber vielleicht immer noch wert?

Andrew und Gustavo schließen:

Wir sollten die potenzielle Bedeutung erkennen, über konventionelle Anpassungsvariablen hinauszugehen.

Während Michael Bailey über Mar über Mar hinaus drängt, konzentrieren sich Andrew und Gustavo auf die Verbesserung der Plausibilität von MAR, indem Sie Z und Z_2 zu dem Satz von Anpassungskovariaten X addieren.

[ad_2]

]]>
https://chatgpz.de/data-science/umfragestatistik-anpassung-an-interesse-an-politik/feed/ 0 11175
Von immediate zur Politik: Aufbau ethischer Genai -Chatbots für Unternehmen https://chatgpz.de/data-science/von-immediate-zur-politik-aufbau-ethischer-genai-chatbots-fuer-unternehmen/ https://chatgpz.de/data-science/von-immediate-zur-politik-aufbau-ethischer-genai-chatbots-fuer-unternehmen/#respond Tue, 22 Jul 2025 02:47:29 +0000 https://chatgpz.de/data-science/von-prompt-zur-politik-aufbau-ethischer-genai-chatbots-fuer-unternehmen/ [ad_1]

I. EINLEITUNG: Das zweischneidige Schwert von Genai

Durch die Entwicklung der Enterprise -Automatisierung durch Generative AI (Genai) können virtuelle Assistenten und Chatbots die Benutzerabsicht verstehen, damit sie geeignete Antworten und Vorhersageaktionen erstellen können. Die vielversprechenden Vorteile einer kontinuierlichen intelligenten Interaktion in der Skala erzeugen mehrere ethische Herausforderungen, die voreingenommene Outputs und Fehlinformationen sowie die regulatorische Nichteinhaltung und das Misstrauen des Benutzers umfassen. Der Einsatz von Genai ist nicht mehr eine Frage der Fähigkeit, sondern hat sich zu einer Frage der Verantwortung und der angemessenen Implementierungsmethoden entwickelt. Der McKinsey -Bericht zeigt, dass mehr als die Hälfte der Unternehmen mit Genai -Instruments begonnen hat, die sich hauptsächlich auf den Kundendienst und die betrieblichen Anwendungen konzentrieren. Das wachsende Ausmaß dieser Technologie erzeugt entsprechende Auswirkungen auf Equity -Requirements und Sicherheitsmaßnahmen und Compliance -Anforderungen. Genai Chatbots haben bereits damit begonnen, öffentliche und non-public Interaktionen durch ihre Umsetzung in virtuellen Vertretern und mehrsprachigen staatlichen Helplinen zu verändern.

Ii. Chatbots für Unternehmensgröße: eine neue Klasse der Verantwortung

Verbraucheranwendungen tolerieren normalerweise Chatbot -Fehler ohne Konsequenz. Die Risiken in Unternehmensumgebungen wie Finanzen, Gesundheitswesen und Regierung sind viel größer. Eine fehlerhafte Ausgabe kann zu Fehlinformationen, Verstößen gegen die Compliance oder sogar zu rechtlichen Konsequenzen führen. Ethisches Verhalten ist nicht nur eine soziale Verpflichtung. Es ist ein geschäftskritischer Imperativ. Unternehmen benötigen Frameworks, um sicherzustellen, dass KI -Systeme die Benutzerrechte respektieren, Vorschriften einhalten und das öffentliche Vertrauen aufrechterhalten.

III. Von der Eingabeaufforderung bis zur Ausgabe: wo die Ethik beginnt

Jedes Genai-System beginnt mit einem schnellen-was zwischen Eingabe und Ausgabe passiert, ist ein komplexes Netz von Trainingsdaten, Modellgewichten, Verstärkungslogik und Risikominderung. Die ethischen Bedenken können bei jedem Schritt auftreten:

  • Mehrdeutige oder kulturell voreingenommene Aufforderungen
  • Nicht transparente Entscheidungspfade
  • Antworten basierend auf veralteten oder ungenauen Daten

Ohne robuste Filter- und Interpretierbarkeitsmechanismen können Unternehmen unabsichtlich Systeme einsetzen, die schädliche Verzerrungen verstärken oder Informationen erstellen.

Iv. Ethische Herausforderungen in genaiorientierten Chatbots

  • Der Schulungsprozess unter Verwendung historischer Daten stärkt die bestehenden sozialen und kulturellen Vorurteile.
  • Die LLMs erzeugen Antworten, die sowohl sachliche Ungenauigkeiten als auch fiktive Inhalte enthalten.
  • Das unbeabsichtigte Verhalten von Modellen kann dazu führen, dass smart Unternehmens- oder Benutzerinformationen durchlaufen werden.
  • Das Fehlen von mehrsprachigem und interkulturellem Verständnis in Genai-Systemen führt zu einer Entfremdung von Nutzern mit unterschiedlichem kulturellen Hintergrund.
  • Genai-Systeme fehlen integrierte Moderationssysteme, mit denen sie unangemessene oder zwingende Nachrichten erstellen können.
  • Der nicht überprüfte AI-generierte Inhalt verbreitet falsche oder irreführende Daten bei hoher Geschwindigkeit in den regulierten Sektoren.
  • Die mangelnde Prüfbarkeit in diesen Modellen schafft Schwierigkeiten, wenn Sie versuchen, die Quelle einer bestimmten Ausgabe zu identifizieren, da sie als schwarze Kästchen fungieren.

Diese Herausforderungen treten mit unterschiedlichen Schweregraden auf und zeigen unterschiedliche Manifestationen auf der Grundlage der spezifischen Branche. Die Gesundheitsbranche ist einem kritischen Risiko ausgesetzt, da halluzierte Daten in Chatbots im Einzelhandel Kunden verwirren würden, aber zu fatalen Folgen führen könnten.

V. Designprinzipien für verantwortungsbewusste Chatbot -Entwicklung

Bei der Entwicklung ethischer Chatbots müssen Designer Werte direkt in ihren Entwurfsprozess einbeziehen, das über die grundlegende Fehlerbehebung hinausgeht.

  • Das System umfasst Leitplanken und schnelle Moderationsmerkmale, die sowohl Themen als auch Reaktionston und Umfang einschränken.
  • Mensch-in-the-Loop: Sensibilische Entscheidungen, die für die menschliche Überprüfung geleitet wurden
  • Erklärungsmodule: Transparenz in die Erzeugung der Antworten ermöglichen
  • Die Schulungsdaten müssen verschiedene und repräsentative Beispiele umfassen, um eindimensionales Lernen zu verhindern.
  • Prüfungsprotokolle und Versionskontrolle: Gewährleistung der Rückverfolgbarkeit des Modellverhaltens
  • Equity Frameworks: Instruments wie die KI -Equity 360 von IBM können dazu beitragen, unbeabsichtigte Verzerrungen bei NLP -Ausgängen zu testen
  • Echtzeit-Moderation-APIs: Dienste wie das Inhaltsfilter von OpenAI oder die Content material Security API von Microsoft Azure helfen dabei, unsichere Antworten zu filtern, bevor sie von Benutzern gesehen werden

Vi. Governance und politische Integration

Alle Unternehmensbereitstellungen müssen sowohl interne Organisationsrichtlinien als auch externe regulatorische Anforderungen einhalten.

  • GDPR/CCPA: Datenhandhabung und Einwilligung der Benutzer
  • EU AI ACT & Algorithmic Accountability Act: Risikoklassifizierung, Folgenabschätzung
  • Interne AI -Ethikkommissionen: regelmäßige Überprüfung der Bereitstellungen
  • Unternehmen sollten Echtzeit-Protokollierung sowie Alarmierungs- und Auditing-Instruments für die kontinuierliche Compliance-Überwachung implementieren.

Organisationen sollten Genai -Systemen Risiken zuweisen, die auf Domäne, Publikum und Datentyp basieren, die niedrig, mittel- oder ein hohes Risiko sein können. AI -Audit -Checklisten und Compliance -Dashboards helfen dabei, Entscheidungsspuren zu dokumentieren und die Haftung zu verringern.

Vii. Eine Blaupausearchitektur für ethische Genai -Chatbots

Ein ethisches Genai -Chatbot -System sollte enthalten:

  • Die Eingabenteinigungsschicht identifiziert offensive oder manipulative oder mehrdeutige Eingabeaufforderungen im System.
  • Die Einrichtungspunktmotor für die Ausrichtung der Umgabewiedergabe ist dafür verantwortlich, dass die Antworten mit dem Unternehmenston und den ethischen Requirements übereinstimmen.
  • Die Schicht der Vorspannungsminderung führt in Echtzeitüberprüfungen über Geschlecht, Rassen- oder Kulturscheibe in Antworten durch.
  • Menschliches Eskalationsmodul: Routes smart Gespräche zu menschlichen Wirkstoffen
  • Das System umfasst eine Überwachungs- und Rückkopplungsschleife, die aus markierten Ausgängen lernt und das Modell regelmäßig umdehnt.

Abbildung 1: Architektur Blaupause für ethische Genai-Chatbots (AI-generiert für redaktionelle Klarheit)

Beispielfluss: Ein Benutzer gibt eine Grenze -medizinische Abfrage in einen Versicherungs -Chatbot ein. Die Sanitalisierungsschicht kennzeichnet die Unklarheit, die Alignment -Engine erzeugt eine sichere Reaktion mit einem Haftungsausschluss, und das Eskalationsmodul sendet ein Transkript an einen Dwell -Help -Agenten. Das Überwachungssystem protokolliert dieses Ereignis und führt zu Umschulungsdatensätzen.

Viii. Anwendungsfälle und Fehler in der Praxis

  • Microsoft Tay: Ein Chatbot wurde innerhalb von 24 Stunden aufgrund unherliger Wechselwirkungen beschädigt
  • METAs Blenderbot erhielt Kritik an der Bereitstellung von offensiven Inhalten und der Verbreitung falscher Informationen
  • Einstein GPT von Salesforce implementierte menschliche Überprüfungs- und Compliance -Module, um die Einführung von Unternehmen zu unterstützen

Diese Beispiele zeigen, dass in realen operativen Umgebungen ethische Aufschlüsse vorhanden sind. Es geht nicht darum, wann Misserfolge auftreten, sondern wann sie eintreten werden und ob Organisationen die Antwortmechanismen festgelegt haben.

Ix. Metriken für ethische Leistung

Unternehmen müssen neue Messkriterien festlegen, die die Genauigkeitsstandards übertreffen.

  • Vertrauensbewertungen: Basierend auf dem Suggestions und der Moderationsfrequenz von Benutzern
  • Equity Metriken: Vertriebsleistung über demografische Merkmale
  • Transparenzindex: Wie erklärbar die Ausgänge sind
  • Sicherheitsverletzungen zählen: Fälle unangemessener oder eskalierter Ausgänge
  • Die Bewertung der Benutzererfahrung gegen die ethische Durchsetzung erfordert die Bewertung der Aufbewahrung im Vergleich zum Kompromiss der Compliance.

Echtzeit Enterprise Dashboards zeigen diese Metriken an, um sofortige ethische Gesundheits-Schnappschüsse bereitzustellen und potenzielle Interventionspunkte zu erkennen. Organisationen integrieren nun ethische Metriken in ihre vierteljährlichen Leistungsüberprüfungen, die CSAT, NPS und die durchschnittliche Handhabungszeit umfassen, um Ethik als primärer KPI für die CX -Transformation zu etablieren.

X. zukünftige Developments: Aus der Einhaltung von Ethik zu Design

Die Genai Techniques of Tomorrow werden wertschreibend von Design angesetzt, anstatt nur konform zu sein. Die Industrie erwartet Fortschritte in:

  • New -Age -APIs mit eingebetteter Ethik
  • Hoch kontrollierte Umgebungen, die mit regulatorischen Sandboxen zum Testen von KI -Systemen ausgestattet sind
  • Nachhaltigkeitsprüfungen für energieeffiziente KI-Bereitstellung
  • Interkulturelle Simulationsmotoren für die globale Bereitschaft

Große Organisationen schaffen neue Rollen wie KI -Ethikbeauftragte und verantwortungsbewusste KI -Architekten, um unbeabsichtigte Konsequenzen zu überwachen und die Richtlinienausrichtung zu überwachen.

Xi. Schlussfolgerung: Erstellen von Chatbots -Nutzern können vertrauen

Die Zukunft von Genai als Kerntool für Unternehmen erfordert die Akzeptanz seiner Fähigkeiten und die Aufrechterhaltung ethischer Requirements. Jedes Designelement von Chatbots von Aufforderungen zu Richtlinien muss das Engagement für Equity -Transparenz und -verantwortung demonstrieren. Leistung erzeugt kein Vertrauen, da Vertrauen als das tatsächliche Ergebnis existiert. Die Gewinner dieser Zeit werden Unternehmen sein, die verantwortungsvolle Lösungen liefern, die die Dignität und Privatsphäre der Benutzer schützen und dauerhaftes Vertrauen aufbauen. Die Entwicklung ethischer Chatbots erfordert die Teamarbeit zwischen Ingenieuren und Ethikisten, Produktleitern und Rechtsberatern. Unsere Fähigkeit, KI -Systeme zu schaffen, die allen Menschen zugute kommen, hängt von der Zusammenarbeit ab.

Autor Bio:
Satya Karteek Gudipati ist ein in Dallas, TX, ansässiger Software program-Ingenieur, der sich auf Systeme für Unternehmensklassen, Cloud-nativen Architekturen und mehrsprachiges Chatbot-Design spezialisiert hat. Mit über 15 Jahren Erfahrung in Bezug auf skalierbare Plattformen für globale Kunden bringt er ein tiefes Fachwissen in der generativen KI -Integration, der Workflow -Automatisierung und der intelligenten Agentenorchestrierung ein. Seine Arbeiten wurden in IEEE, Springer und mehreren Handelspublikationen vorgestellt. Verbinden LinkedIn.

Referenzen

1. McKinsey & Firm. (2023). *Der Zustand der KI im Jahr 2023*. (Hyperlink)(https://www.mckkinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-in-2023 )

2. IBM AI Equity 360 Toolkit. (ND). (Hyperlink)(https://aif360.mybluemix.web/ )

3.. EU Synthetic Intelligence Act – Vorgeschlagene Gesetzgebung. (Hyperlink)(https://artificialintelligenceact.eu/ )

4. OpenAI Moderation API -Übersicht. (Hyperlink)(https://platform.openai.com/docs/guides/Moderation )

5. Microsoft Azure Content material Security. (Hyperlink)(https://be taught.microsoft.com/en-us/azure/ai-soervices/content-safety/overview )

Der Beitrag Von immediate zur Politik: Aufbau ethischer Genai -Chatbots für Unternehmen erschien zuerst auf DataFloq.

[ad_2]

]]>
https://chatgpz.de/data-science/von-immediate-zur-politik-aufbau-ethischer-genai-chatbots-fuer-unternehmen/feed/ 0 10957
Datenwissenschaft trifft auf Politik. Entschlüsselung der Kongressdynamik mit… | von Luiz Venosa | September 2024 https://chatgpz.de/artificial-intelligence/datenwissenschaft-trifft-auf-politik-entschluesselung-der-kongressdynamik-mit-von-luiz-venosa-september-2024/ https://chatgpz.de/artificial-intelligence/datenwissenschaft-trifft-auf-politik-entschluesselung-der-kongressdynamik-mit-von-luiz-venosa-september-2024/#respond Fri, 27 Sep 2024 23:56:11 +0000 http://chatgpz.de/artificial-intelligence/datenwissenschaft-trifft-auf-politik-entschluesselung-der-kongressdynamik-mit-von-luiz-venosa-september-2024/ [ad_1]

Zunächst einmal brauchen wir Daten.

Ich habe Daten zu allen Gesetzen heruntergeladen, über die abgestimmt wurde, und wie jedes Mitglied des Kongresses von 2023 bis 2024 bis zum 18. Mai abgestimmt hat. Alle Daten sind beim brasilianischen C verfügbarDas offene Datenportal von ongress. Anschließend habe ich zwei verschiedene Pandas-Datenrahmen erstellt, einen mit allen Gesetzen, über die abgestimmt wurde, und einen anderen mit der Artwork und Weise, wie jedes Kongressmitglied bei jeder Abstimmung abgestimmt hat.

votacoes = pd.concat((pd.read_csv('votacoes-2023.csv', header=0, sep=';'),  pd.read_csv('votacoes-2024.csv', header=0, sep=';')))
votacoes_votos_dep = pd.concat((pd.read_csv('votacoesVotos-2023.csv', sep=';', quoting=1) , pd.read_csv('votacoesVotos-2024.csv', sep=';', on_bad_lines='warn', quoting=1, encoding='utf-8')))

Zum Votacoes Datenrahmen, ich habe nur die Einträge mit ausgewählt idOrgao von 180, was bedeutet, dass sie in der Hauptkammer des Kongresses gewählt wurden. Wir haben additionally die Daten für die Stimmen der meisten Kongressmitglieder. Dann habe ich die Liste der verwendet votacoes_Ids um die zu filtern votacoes_votos_dep Datenrahmen.

plen = votacoes(votacoes('idOrgao') == 180)
votacoes_ids = plen('id').distinctive()
votacoes_votos_dep = votacoes_votos_dep(votacoes_votos_dep('idVotacao').isin(votacoes_ids))

Nun, im votacoes_votos_dep, Bei jeder Abstimmung handelt es sich um eine Zeile mit dem Namen des Kongressmitglieds und der Abstimmungssitzungs-ID, um zu identifizieren, auf wen und worauf sich die Abstimmung bezieht. Deshalb habe ich eine Pivot-Tabelle erstellt, in der jede Zeile ein Kongressmitglied darstellt und jede Spalte sich auf eine Stimme bezieht. Dabei habe ich „Ja“ als 1 und „Nein“ als 0 kodiert und alle Stimmen gelöscht, bei denen mehr als 280 Abgeordnete nicht abgestimmt haben.

votacoes_votos_dep('voto_numerico') = votacoes_votos_dep('voto').map({'Sim': 1, 'Não':0})
votes_pivot = votacoes_votos_dep.pivot_table(index='deputado_nome', columns='idVotacao', values='voto_numerico').dropna(axis=1, thresh=280)

Bevor ich die Ähnlichkeitsmatrix berechnete, habe ich alle verbleibenden NAs mit 0,5 gefüllt, um die Positionierung des Kongressmitglieds nicht zu beeinträchtigen. Schließlich berechnen wir die Ähnlichkeit zwischen den Vektoren jedes Stellvertreters mithilfe der Kosinusähnlichkeit und speichern sie in einem Datenrahmen.

from sklearn.metrics.pairwise import cosine_similarity
similarity_matrix = cosine_similarity(votes_pivot)
similarity_df = pd.DataFrame(similarity_matrix, index=votes_pivot.index, columns=votes_pivot.index)
Ähnlichkeitsmatrix – Bild vom Autor

Nutzen Sie nun die Informationen über die Abstimmungsähnlichkeiten zwischen Kongressabgeordneten, um mithilfe von N ein Netzwerk aufzubauenetworkx. Ein Knoten repräsentiert jedes Mitglied.

import networkx as nx

names = similarity_df.columns
# Create the graph as earlier than
G = nx.Graph()
for i, title in enumerate(names):
G.add_node(title)

Dann stellen die Kanten, die zwei Knoten verbinden, eine Ähnlichkeit von mindestens 75 % des Abstimmungsverhaltens der beiden Kongressabgeordneten dar. Um der Tatsache Rechnung zu tragen, dass einige Kongressabgeordnete Dutzende von Kollegen mit einem hohen Grad an Ähnlichkeit haben, habe ich nur die ersten 25 Kongressabgeordneten mit der höchsten Ähnlichkeit ausgewählt, um ihnen einen Vorteil zu verschaffen.

threshold = 0.75
for i in vary(len(similarity_matrix)):
for j in vary(i + 1, len(similarity_matrix)):
if similarity_matrix(i)(j) > threshold:
# G.add_edge(names(i), names(j), weight=similarity_matrix(i)(j))
counter(names(i)).append((names(j), similarity_matrix(i)(j)))
for supply, goal in counter.gadgets():
selected_targets = sorted(goal, key=lambda x: x(1), reverse=True)(:26)
for goal, weight in selected_targets:
G.add_edge(supply, goal, weight=weight)

Um das Netzwerk zu visualisieren, müssen Sie die Place jedes Knotens in der Ebene bestimmen. Ich habe mich für das Federlayout entschieden, bei dem die Kanten als Federn verwendet werden, die Knoten zusammenhalten und gleichzeitig versuchen, sie zu trennen. Das Hinzufügen eines Startwerts ermöglicht die Reproduzierbarkeit, da es sich um einen zufälligen Prozess handelt.

pos = nx.spring_layout(G, ok=0.1,  iterations=50, seed=29)

Abschließend zeichnen wir das Netzwerk mithilfe einer Go-Figur auf und fügen die Kanten und Knoten basierend auf ihrer Place einzeln hinzu.


# Create Edges
edge_x = ()
edge_y = ()
for edge in G.edges():
x0, y0 = pos(edge(0))
x1, y1 = pos(edge(1))
edge_x.lengthen((x0, x1, None))
edge_y.lengthen((y0, y1, None))

# Add edges as a scatter plot
edge_trace = go.Scatter(x=edge_x, y=edge_y, line=dict(width=0.5, shade='#888'), hoverinfo='none', mode='traces')
# Create Nodes
node_x = ()
node_y = ()
for node in G.nodes():
x, y = pos(node)
node_x.append(x)
node_y.append(y)

# Add nodes as a scatter plot
node_trace = go.Scatter(x=node_x, y=node_y, mode='markers+textual content', hoverinfo='textual content', marker=dict(showscale=True, colorscale='YlGnBu', dimension=10, shade=(), line_width=2))

# Add textual content to the nodes
node_trace.textual content = listing(G.nodes())

# Create a determine
fig = go.Determine(knowledge=(edge_trace, node_trace),
structure=go.Format(showlegend=False, hovermode='closest', margin=dict(b=0,l=0,r=0,t=0), xaxis=dict(showgrid=False, zeroline=False, showticklabels=False), yaxis=dict(showgrid=False, zeroline=False, showticklabels=False)))

fig.present()

Ergebnis:

Bild vom Autor

Nun, es ist ein guter Anfang. Es sind verschiedene Cluster von Kongressabgeordneten zu sehen, was darauf hindeutet, dass die politische Ausrichtung und die Bündnisse im Kongress genau erfasst werden. Aber es ist ein Chaos, und es ist unmöglich, wirklich zu erkennen, was vor sich geht.

Um die Visualisierung zu verbessern, habe ich dafür gesorgt, dass der Title nur dann angezeigt wird, wenn Sie mit der Maus über den Knoten fahren. Außerdem habe ich die Knoten entsprechend den auf der Web site des Kongresses verfügbaren politischen Parteien und Koalitionen eingefärbt und ihre Größe danach bestimmt, mit wie vielen Kanten sie verbunden sind.

Bild vom Autor

Es ist viel besser. Wir haben drei Cluster mit einigen Knoten dazwischen und jeweils einigen größeren. Außerdem gibt es in jedem Cluster einen Großteil einer bestimmten Farbe. Nun, lassen Sie es uns genauer analysieren.

[ad_2]

]]>
https://chatgpz.de/artificial-intelligence/datenwissenschaft-trifft-auf-politik-entschluesselung-der-kongressdynamik-mit-von-luiz-venosa-september-2024/feed/ 0 4150
Mit dem KI-Deepfake-Video von Steven Miles dringt die Technologie in die Politik ein https://chatgpz.de/data-science/mit-dem-ki-deepfake-video-von-steven-miles-dringt-die-technologie-in-die-politik-ein/ https://chatgpz.de/data-science/mit-dem-ki-deepfake-video-von-steven-miles-dringt-die-technologie-in-die-politik-ein/#respond Wed, 24 Jul 2024 14:49:35 +0000 http://chatgpz.de/data-science/mit-dem-ki-deepfake-video-von-steven-miles-dringt-die-technologie-in-die-politik-ein/ [ad_1]

Im Mittelpunkt der KI-Kontroverse um Steven Miles steht ein Deepfake-Video der Liberal Nationwide Occasion (LNP), das eine bedeutende Diskussion über die ethischen Auswirkungen von KI in der Politik ausgelöst hat.

Veröffentlicht am TikTok-Konto der ParteiDas Video zeigt Queenslands Premierminister Steven Miles in satirischem Licht, wie er unter einer Bildunterschrift über steigende Lebenshaltungskosten und einer humorvollen Anspielung darauf, dass der Premierminister auf TikTok ein Sandwich macht, tanzt. Obwohl das Video als „KI-generiert“ gekennzeichnet ist, hat es eine Debatte über die Rolle von Deepfakes in politischen Botschaften ausgelöst.

@liberalnationalparty

Falsche Prioritäten. #stevenmeilen #Arbeit #lnp #queensland

♬ 오리지널 사운드 – 김모이 (Kim Moi) – 김모이 (Kim Moi)

Wie haben sie das AI Steven Miles-Video erstellt?

Das AI Steven Miles-Video wurde wahrscheinlich mit dem viralen Software erstellt, Viggle-KI. Hier ist eine Aufschlüsselung, wie ein solches Video erstellt werden könnte:

1. Enter und KI-Coaching

Viggle AI verwendet ein vorab trainiertes Modell, um Deepfake-Inhalte zu generieren. Benutzer geben vorhandene Movies oder Bilder von Steven Miles in das System ein, das dann seine Deep-Studying-Algorithmen anwendet, um sein Aussehen und seine Verhaltensweisen zu replizieren.

2. Videogenerierung

Mithilfe seines trainierten Modells erstellt Viggle AI ein neues Video, in dem Steven Miles verschiedene Aktionen auszuführen oder auf eine vorgegebene Artwork und Weise zu sprechen scheint. Diese Technologie kann Gesichtsausdrücke und Bewegungen manipulieren, um eine überzeugende Darstellung zu erzeugen.

3. Kennzeichnung und Vertrieb

Das fertige Video wird als „KI-generiert“ gekennzeichnet, um die Zuschauer über seinen synthetischen Charakter zu informieren. Anschließend wird es auf Plattformen wie TikTok geteilt, wo es die öffentliche Wahrnehmung beeinflussen und Diskussionen anregen kann.

Dieser optimierte Prozess zeigt, wie Viggle AI schnell und effektiv realistische Deepfake-Movies erstellen kann.

KI Steven Miles Deepfake-Video
Das AI Steven Miles-Video wurde auf TikTok gepostet und porträtiert Queenslands Premierminister Steven Miles auf satirische Weise (Bildnachweis)

Das Deepfake-Dilemma im politischen Diskurs

Steven Miles bezeichnete das KI-generierte Video als einen entscheidenden „Wendepunkt für unsere Demokratie“ und betonte die mit Deepfakes verbundenen Risiken.

Er argumentiert, dass manipulierte Fotos zwar ein Drawback darstellen, KI-generierte Movies jedoch eine neue Ebene potenzieller Fehlinformationen darstellen. Miles hat klargestellt, dass die Labor Occasion des Staates bei den bevorstehenden Wahlen auf die Verwendung solcher Technologien verzichten wird, die bei der Generierung von KI-Movies von Steven Miles für politische Inhalte verwendet wurden, was die Ernsthaftigkeit des Issues unterstreicht.

Trotz Miles‘ Haltung verteidigte die LNP ihre Verwendung des KI-Movies von Steven Miles und betonte, dass das Video eindeutig als KI-generiert gekennzeichnet sei und reale Probleme wie die gestiegenen Lebenshaltungskosten unter der Labour-Regierung widerspiegeln solle.

Kritiker argumentieren, dass KI-Instruments weit verbreitet seien und die Verwendung solcher Inhalte im gesetzlichen Rahmen liege. Allerdings würden dadurch ethische Fragen hinsichtlich der Genauigkeit und Absicht politischer Botschaften aufgeworfen.

Regulierung von KI in der Politik

Die Wahlkommission von Queensland stellte fest, dass das Wahlgesetz des Bundesstaates zwar falsche Angaben zu Kandidaten regelt, sich jedoch nicht speziell mit KI-generierten Inhalten wie dem KI-Video von Steven Miles befasst.

Dies führt zu einer Lücke in der Überwachung und Regulierung solcher Materialien, insbesondere außerhalb des Wahlzeitraums.

Susan Grantham, Dozentin für Kommunikation, weist darauf hin, dass KI seit mindestens 2022 weltweit und in Australien in politischen Kampagnen eingesetzt wird.

KI Steven Miles Deepfake-Video
Kritiker argumentieren, dass die zur Erstellung des KI-Steven-Miles-Movies verwendeten Instruments zwar authorized sind, aber ethische Bedenken hinsichtlich der Genauigkeit politischer Botschaften aufwerfen (Bildnachweis)

Sie weist darauf hin, dass die von KI generierten Inhalte überzeugend, aber möglicherweise auch irreführend sein können, insbesondere wenn sie zur Nachahmung oder Parodie bekannter Figuren verwendet werden, was zu einer Täuschung der Öffentlichkeit führen könnte.

Der umfassende Einfluss der KI auf die Politik

Patrik Wikstrom vom QUT Digital Media Analysis Centre hebt die weitreichenden Auswirkungen von KI auf die politische Kommunikation hervor. Er erklärt, dass KI an sich zwar nicht problematisch sei, ihre Verwendung zur Erstellung irreführender Inhalte jedoch erhebliche Risiken birgt. Die Herausforderung liege in der Regulierung solcher Inhalte, da das Web world sei und es schwierig sei, lokale Gesetze grenzüberschreitend durchzusetzen.

Wikstrom und Grantham sind sich einig, dass das Hauptproblem nicht die Technologie, sondern die Absicht hinter ihrem Einsatz ist. Angesichts der immer ausgefeilteren KI bleibt die Gewährleistung einer transparenten und ehrlichen Kommunikation ein zentrales Anliegen demokratischer Prozesse weltweit.

Wer ist Steven Miles?

Für diejenigen, die mit der australischen Politik überhaupt nicht vertraut sind: Steven Miles ist der Premierminister von Queensland in Australien und vertritt die Australian Labor Occasion.

Er engagierte sich in der Landespolitik und ist für seine Rolle bei der Verwaltung verschiedener Aspekte der Staatsführung bekannt.


Bildnachweis für vorgestelltes Bild: Freepik



[ad_2]

]]>
https://chatgpz.de/data-science/mit-dem-ki-deepfake-video-von-steven-miles-dringt-die-technologie-in-die-politik-ein/feed/ 0 2568