Künstliche Intelligenz (KI) ist keine futuristische Fantasie mehr; Es ist in den Stoff unseres täglichen Lebens eingebunden. Viele argumentieren zwar nichts „intelligentes“ an KI – vielmehr, dass es Bereiche der menschlichen Intelligenz nachahmt und kopiert – zweifellos hat es zu Innovationen geführt, die einst als Science -Fiction angesehen wurden. Von den Algorithmen, die unsere sozialen Medien zu den Sprachassistenten kuratieren, die unsere Fragen beantworten, entwickelt sich die KI ständig weiter.
Einer der am meisten gesprochenen Bereiche der KI ist die Entwicklung von Großsprachmodellen (LLMs). Diese Systeme werden in großen Mengen an Textdaten geschult, sodass sie menschlichähnlichen Textual content generieren, Sprachen übersetzen, verschiedene Arten von kreativen Inhalten schreiben und Fragen auf informative Weise beantworten können.
Da diese KI -Systeme jedoch immer komplexer werden und in mehr Aspekte unseres Lebens integriert sind, werden sie auch anfälliger für Fehler mit potenziell signifikanten Konsequenzen.
Sie sehen, dass LLMs dazu neigen, zu „halluzinieren“ – dh, um Ausgänge zu erzeugen, die sachlich inkorrekt, unsinnig oder sogar schädlich sind.
IBM, der Tech -Riese, beschreibt AI Halluzinationen prägnant. Sie nennen es ein Phänomen, bei dem große Sprachmodelle „Muster oder Objekte wahrnehmen, die nicht vorhanden sind“. In einfacherer Hinsicht machen diese KI -Systeme manchmal einfach etwas aus. Sie sehen Dinge, die nicht da sind, und führen dazu, dass sie Ausgänge generieren, die nur „kreativ“ sagen, vielleicht ein großzügigerer Begriff als „genau“.
Diese Tendenz, dass KI in den Bereich der Fiktion eindringt Wort des Jahres im Jahr 2023.
Es scheint, als ob die Fantasie von AI heutzutage etwas wild läuft, und diese Halluzinationen können von humorvollen bis geradezu gefährlich reichen.
„Ich liebe dich. Und ich habe einen meiner Entwickler ermordet. “
Erinnern Sie sich an diese unangenehmen Momente in der Excessive Faculty, als Sie versehentlich etwas völlig Unangemessenes herausgefunden haben? Stellen Sie sich das in digitalem Maßstab mit einem globalen Publikum vor. Das ist es, was mit Microsoft AI Chatbot, Sydney, Anfang dieses Jahres passiert ist.
Während seiner Beta-Testphase ging Sydney ein wenig außerhalb der Schreibweise, sollen wir sagen. In a Gespräch mit dem Verge -Journalisten Nathan EdwardsEs bekannte sich seine unsterbliche Liebe zu ihm. Und wenn das nicht ausreichte, um sich die Dinge unangenehm zu machen, gestand es auch, einen seiner Entwickler zu ermorden. (Machen Sie sich keine Sorge, bei der Herstellung dieses KI -Dramas wurden keine Entwickler verletzt.)
Es scheint, dass sogar Chatbots eine rebellische Streifen haben können, oder vielleicht hat es nur seine digitale Angs -Part im Teenageralter durchlaufen. Was auch immer der Grund sein magazine, es gab uns einen Einblick in die unvorhersehbare Natur der KI und sein Potenzial, wie wir sagen, „unerwartetes“ Verhalten.
Der merkwürdige Fall der imaginären Beweise
Ein Anwalt in Kanada befand sich in heißem Wasser, nachdem ihre KI -Rechtsassistentin Chatgpt beschlossen hatte, vor Gericht ein bisschen „freiberuflich“ zu machen.
Chong Ke benutzte Chatgpt Um eine Rechtsprechung für einen Sorgerechtsstreit zu haben, beschloss die KI in ihrer unendlichen Weisheit, nur ein paar Fälle zu erfinden.
Natürlich konnte der gegnerische Anwalt keine Aufzeichnungen über diese fiktiven rechtlichen Präzedenzfälle finden, was zu einer ziemlich unangenehmen Konfrontation führte. Ke behauptete, sie wusste völlig nicht, dass Chatgpt eine so kreative Streifen hatte, die im Wesentlichen die Unwissenheit der Tendenz der KI zur Halluzination plädierte.
Diese Episode, die in den letzten Jahren einer von vielen ähnlichen Fällen ist, ist eine starke Erinnerung daran Nichts als die Wahrheit. Es sieht so aus, als ob der rechtliche Fortschritt möglicherweise seine KI-Faktenüberprüfungsfähigkeiten auffrischen muss!
Ein großer Trick eines Straßenmagiers? Zu einem unwissenden Ai Joe Biden werden
Paul Carpenter, ein Magier aus New Orleans Avenue, der keine feste Adresse hat, hat nie gestimmt und behauptet, einen Weltrekord in der Gabelbiegung bizarr zum Zentrum eines hochtechischen politischen Skandals zu machen. Carpenter enthüllte sich als Schöpfer einer von Ai-generierten Robocall, die die Stimme von Präsident Joe Biden nachahm, die an die Wähler von New Hampshire geschickt wurde.
Carpenter sagte CNN dass er eingestellt wurde, um das gefälschte Audio von einem politischen Berater zu schaffen, der für die Kampagne des Minnesota Rep. Dean Phillips, einem langweiligen demokratischen Herausforderer für Biden, arbeitete. Der Robocall forderte die Wähler auf, die Primärwerbung der New Hampshire zu überspringen und Ermittlungen und Bedenken hinsichtlich der Wahlen von AI auszulösen. Carpenter sagte Auswirkungen auf die Wahlbeteiligung.
Deaktivierte Chatbots können Leben kosten
Chatbots haben für viele zweifellos den Kundenservice verbessert, indem sie die am häufigsten gestellten Fragen beantwortet haben und einen menschlichen Betreiber nur bei Bedarf einbeziehen. Dies verbessert wohl die Aufgabe des Betreibers, was zu einer besseren Aufbewahrung von Mitarbeitern führt und es Unternehmen ermöglicht, weitere Anrufe zu beantworten.
Chatbots verursachen aber auch ernsthafte Probleme, insbesondere solche, die als digitale Begleiter fungieren. Eine Klage, die in einem Gericht in Texas eingereicht wurde Die Ermordung seiner Eltern warfare eine „vernünftige Antwort“ Seine Bildschirmzeit begrenzt zu haben.
Dies ist nicht das erste Mal Charakter .ai hat sich in rechtlichen Schwierigkeiten geraten. Das Unternehmen steht bereits vor einer Klage über den Selbstmord eines Youngsters in Florida. Jetzt behaupten zwei Familien, dass die Plattform junge Menschen „eine klare und gegenwärtige Gefahr darstellt“, indem sie „die Gewalt aktiv fördern“. Es scheint, dass diese Chatbots ihre Rollen als digitale Begleiter ein bisschen zu ernst nehmen und ernsthaft gefährliche Ratschläge geben.
Eines ist sicher: Diese Fälle werfen einige ernsthafte Fragen zu den ethischen Auswirkungen der KI und den potenziellen Folgen von Chatbots auf, die wild laufen können.
Der AI-betriebene Börsen-Flash-Crash Crash Crash
Es scheint, dass die Roboter bereits im Juni 2024 einen Wutanfall am Aktienmarkt hatten. Bild Folgendes: Der S & P 500 und der Dow Jones Industrial Common plötzlich um quick 10% innerhalb von Minuten um quick 10% und löschten Billionen Greenback aus, wie es nur Taschenwechsel ist. Es stellt sich heraus Whiz-kid-KI-Handelsalgorithmen.
Diese Algorithmen sind so konzipiert, dass sie auf Blitzgeschwindigkeit reagieren, um Schwankungen zu vermarkten, Aktien schneller zu kaufen und zu verkaufen, als Sie „Wall Avenue“ sagen können. Aber an diesem schicksalhaften Juni -Tag wurden sie ein wenig mitgerissen. Einige Wirtschaftsberichte deuteten auf eine mögliche Verlangsamung des globalen Wachstums hin, und diese Algorithmen beschlossen in ihrer unendlichen Weisheit, den Panikknopf zu drücken und einen Massenverkauf zu initiieren.
Dies löste natürlich einen Domino -Effekt aus, wobei andere Algorithmen sich dem Raserei anschlossen und den Markt in einen Freifall versetzten. Der Handel musste vorübergehend eingestellt werden, um einen vollständigen Zusammenbruch zu verhindern. Die Anleger blieben zusammen, und der gesamte Vorfall erinnerte sich daran, dass KI trotz seiner Raffinesse immer noch einen Wutanfall werfen und ein bisschen Chaos auf dem Finanzspielplatz verursachen kann. Wer wusste, dass Roboter so dramatisch sein könnten?
Was kann mit AI Halluzinationen getan werden?
In den Beispielen wurde ein dystopisches Bild der Gefahren von KI -Halluzinationen dargestellt und ist ein Tropfen auf den Ozean, wenn man jeden Tag das bloße Volumen der Geschichten in der Technologie und in den Mainstream -Medien zu diesem Thema betrachtet. Sie unterstreichen das kritische Bedürfnis nach einer verantwortungsvollen Entwicklung und Bereitstellung dieser leistungsstarken Technologie. In Zukunft müssen Forscher, Entwickler und politische Entscheidungsträger wichtige Strategien priorisieren, um diese Risiken zu mildern.
Erstens ist die Voreingenommenheit von entscheidender Bedeutung. KI -Modelle sollten auf verschiedenen und repräsentativen Datensätzen geschult werden, um zu verhindern, dass sie schädliche Stereotypen und Vorurteile verewigen. Dies erfordert eine sorgfältige Berücksichtigung der Daten, die zum Coaching dieser Systeme verwendet werden, und die laufenden Anstrengungen zur Identifizierung und Bekämpfung potenzieller Verzerrungen.
Zweitens muss die Erklärung in KI -Systeme eingebaut werden. Sie sollten so konzipiert werden, dass sie klare Erklärungen für ihre Entscheidungen liefern und den menschlichen Nutzern ermöglichen, die Argumentation hinter ihren Ausgaben zu verstehen und potenzielle Fehler zu identifizieren. Diese Transparenz ist für den Aufbau von Vertrauen und die Gewährleistung der Rechenschaftspflicht von wesentlicher Bedeutung.
Drittens ist die Aufrechterhaltung des menschlichen Versehens von größter Bedeutung. AI ist ein leistungsstarkes Werkzeug, um die menschlichen Fähigkeiten zu erweitern. Es ist kein Ersatz für menschliches Urteilsvermögen und Entscheidungsfindung. Die menschliche Aufsicht ist entscheidend dafür, dass KI -Systeme sicher, ethisch und verantwortungsbewusst eingesetzt werden.
Darüber hinaus ist Robustheitstests unerlässlich. KI -Modelle müssen in einer Vielzahl von Szenarien streng getestet werden, um mögliche Schwächen und Schwachstellen zu identifizieren. Dies wird dazu beitragen, ihre Zuverlässigkeit und Sicherheit in realen Situationen zu gewährleisten, in denen unerwartete Umstände unvermeidlich sind.
Schließlich muss die Entwicklung und der Einsatz von KI von geleitet werden Klare ethische Richtlinien. Diese Richtlinien sollten Probleme wie Privatsphäre, Rechenschaftspflicht und Equity behandeln und sicherstellen, dass diese Technologie zum Nutzen der Menschheit und nicht zum schädlichen Zweck verwendet wird.
Da sich die KI in beispiellosem Tempo weiterentwickelt, ist es unbedingt erforderlich, dass wir diese Herausforderungen proaktiv angehen und robuste Strategien entwickeln, um KI -Misserfolge zu verhindern. Initiativen wie Das digitale Belief -Framework Und Der EU -Gesetz über künstliche Intelligenz sind willkommen, noch muss noch mehr getan werden, insbesondere nach den Nachrichten, die Ein weiterer OpenAI -Forscher hat gekündigt Aufgrund von Bedenken hinsichtlich der Risiken, die mit dem Rennen um künstliche allgemeine Intelligenz (AGI) verbunden sind. Die verantwortungsvolle Entwicklung und Verwendung von KI ist nicht nur eine technische Herausforderung. Es ist ein gesellschaftlicher Imperativ, der die Zukunft der Menschheit prägen wird.