Fazit: „12 Tage OpenAI”-Reihe stellte OpenAI die o3-Serie vor und betonte deren überlegene Leistung bei Argumentations-, Codierungs- und mathematischen Aufgaben bei gleichzeitiger Wahrung der Kosteneffizienz. Die o3-Modelle erreichten beim ARC-AGI-Benchmark, einem herausfordernden Check der allgemeinen Intelligenz, der seit FÜNF Jahren ungeschlagen conflict, eine fortgeschrittene Punktzahl von 75,7 %. Schauen wir uns diese Modelle genauer an.

Was sind die neuen o3- und o3-mini-Modelle?

Die o3-Modelle stellen die nächste Part der KI-Entwicklung dar und sind in der Lage, immer komplexere Aufgaben zu bewältigen, die fortgeschrittenes Denken erfordern. Nach dem Erfolg des o1-Argumentationsmodells hat OpenAI seinen Ansatz verfeinert und zwei neue Modelle bereitgestellt, die auf unterschiedliche Benutzerbedürfnisse zugeschnitten sind:

• o3: Ein äußerst leistungsfähiges Argumentationsmodell, das sich durch technische Benchmarks auszeichnet und komplexe Probleme domänenübergreifend löst.
• o3-mini: Eine kosteneffiziente Various, die eine beeindruckende Leistung beibehält und gleichzeitig versatile Argumentationsmöglichkeiten für verschiedene Anwendungen bietet.

Außergewöhnliche Leistung bei wichtigen Benchmarks

OpenAI demonstrierte die bemerkenswerten Fähigkeiten von o3 anhand verschiedener Benchmarks:

Codierung

Auf CodeForces, einer wettbewerbsfähigen Programmierplattform, erreichte o3 einen ELO-Wert von 2727, ein deutlicher Sprung gegenüber dem o1-Wert von 1891. Damit gehört das Modell zu den besten menschlichen Programmierern.

Mathematik

Im Check der American Arithmetic Competitions (AMC) erreichte o3 eine Genauigkeit von 96,7 %, verglichen mit 83,3 % für o1. o3 erreichte bei diesem Benchmark 87,7 % und übertraf damit die durchschnittliche Expertenleistung von 70 %.

Beim Frontier Math-Benchmark von EpochAI, der für extrem anspruchsvolle Probleme entwickelt wurde, erreichte o3 über 25 %, eine bemerkenswerte Verbesserung gegenüber bestehenden Lösungen.

ARC-AGI: Auf dem Weg zur allgemeinen Intelligenz

Der ARC-AGI-Benchmark, ein anspruchsvoller Check der allgemeinen Intelligenz, conflict ein weiterer wichtiger Meilenstein für das o3-Modell. Es wurde entwickelt, um die Fähigkeit eines Modells zu messen, neue Aufgaben zu lernen, ohne sich auf das Auswendiglernen verlassen zu müssen, und conflict fünf Jahre lang ungeschlagen.

Das o3-Modell erreichte einen State-of-the-Artwork-Rating von 75,7 % auf dem halbprivaten Holdout-Set und einen noch höheren Rating von 87,5 % unter Excessive-Computing-Einstellungen. Dies übertrifft insbesondere den menschlichen Benchmark von 85 %, was die Fähigkeit des Modells zeigt, die allgemeine Intelligenz auf menschlicher Ebene in bestimmten Kontexten zu übertreffen. Dieser Erfolg unterstreicht den Fortschritt von o3 in Richtung adaptiver und dynamischer Lernfähigkeiten.

o3 und o3-mini Erschwinglichkeit

o3-mini ergänzt o3 und bietet eine kostengünstigere Lösung, ohne zu große Kompromisse bei der Leistung einzugehen. Mit Funktionen wie der einstellbaren „Denkzeit“ können Benutzer den Argumentationsaufwand des Modells optimieren, um ihn an ihre spezifischen Anforderungen anzupassen. Damit eignet sich o3-mini splendid für Anwendungsfälle, bei denen Kosten und Geschwindigkeit entscheidend sind.

o3-mini unterstützt drei Stufen des Argumentationsaufwands: niedrig, mittel und hoch. Bei einfacheren Aufgaben liefert ein geringer Denkaufwand schnellere Ergebnisse, während ein hoher Denkaufwand für die erforderliche Tiefe bei komplexen Problemen sorgt. Diese Flexibilität stellt sicher, dass Benutzer Kosten und Leistung effizient in Einklang bringen können.

Sicherheit und öffentliche Assessments

OpenAI hat die wachsenden Fähigkeiten dieser Modelle erkannt und den Schwerpunkt auf Sicherheitstests gelegt. Ab heute können Forscher einen frühen Zugang zu o3 und o3-mini für öffentliche Sicherheitstests beantragen. Dieser kollaborative Ansatz zielt darauf ab, potenzielle Schwachstellen aufzudecken und die Modelle vor ihrer allgemeinen Veröffentlichung zu verbessern.

Deliberative Ausrichtung: Ein neues Sicherheitsparadigma

Um die Sicherheit zu erhöhen, hat OpenAI „Deliberative Alignment“ eingeführt, eine Technik, die die Argumentationsfähigkeiten der Modelle nutzt, um unsichere Eingabeaufforderungen effektiver zu erkennen. Dieser Ansatz ermöglicht es o3, versteckte Absichten in Benutzeranfragen zu erkennen und stärkt so seine Fähigkeit, schädliche oder irreführende Eingabeaufforderungen abzulehnen.

Zeitplan für die Veröffentlichung

OpenAI plant, o3-mini bis Ende Januar 2025 auf den Markt zu bringen, die vollständige Veröffentlichung von o3 kurz danach. Das Unternehmen ermutigt Forscher und Entwickler, an Sicherheitstests teilzunehmen, um diese Fristen zu verkürzen und gleichzeitig robuste Schutzmaßnahmen zu gewährleisten.

Klicken Sie hier, um sich zu bewerben.

Schlussbemerkung

Die o3-Modelle stellen einen wichtigen Meilenstein in der KI-Entwicklung dar und kombinieren modernste Leistung mit innovativen Sicherheitsmechanismen. Mit o3 und o3-mini ebnet OpenAI den Weg für fortschrittlichere und zugänglichere KI-Lösungen und setzt neue Maßstäbe für die Leistung intelligenter Systeme. Sobald diese Modelle allgemein verfügbar werden, versprechen sie, Forscher, Entwickler und Organisationen in die Lage zu versetzen, komplexe Herausforderungen mit beispielloser Effizienz zu bewältigen.

Bleiben Sie dran Analytics Vidhya Weblog um weitere solcher Updates zu verfolgen.

Hallo, ich bin Nitika, eine technisch versierte Content material-Erstellerin und Vermarkterin. Kreativität und das Lernen neuer Dinge sind für mich selbstverständlich. Ich habe Erfahrung in der Erstellung ergebnisorientierter Content material-Strategien. Ich kenne mich intestine mit Search engine optimization-Administration, Key phrase-Operationen, Internet-Content material-Schreiben, Kommunikation, Content material-Strategie, Redaktion und Schreiben aus.

Ich komme von einem Datenanalysten ohne Doktortitel oder technischen Hintergrund

„Willkommen im Workforce! Wir freuen uns sehr, Sie hier zu haben!“

Ich konnte nicht glauben, dass ich meine erste Stelle als Information Scientist bekommen hatte.

Ich habe weder einen Doktortitel noch einen technischen Hintergrund. Stattdessen komme ich aus dem Finanzbereich und habe mehrere Jahre als Risikoanalyst im FinTech-Bereich gearbeitet.

Ich verspürte sowohl ein Gefühl der Aufregung als auch des Hochstaplersyndroms, selbst nachdem ich die Runden intensiver technischer Programmierinterviews bestanden hatte.

Als Analyst habe ich festgestellt, dass die größten Unterschiede bei der Arbeit in einer Information-Science-Rolle folgende sind:

• Verwaltung der Zeitpläne von Information-Science-Projekten,
• Kommunikation mit Stakeholdern über Projektzeitpläne und -umsetzung.
• Erlernen der technischen Aspekte wie der Einführung eines testgetriebenen Entwicklungsansatzes zum Schreiben von Code auf Produktionsebene,

Die ersten drei Monate des Onboardings als Information Scientist können über Erfolg oder Misserfolg Ihrer Erfahrung entscheiden.

Ich bin hier, um Ihnen zu erklären, was Sie in den ersten 90 Tagen im Job erwartet, um Ihnen dabei zu helfen, die Nervosität rund um den Übergang zu lindern und Ihnen dabei zu helfen, Selbstvertrauen aufzubauen.

Ein Aspekt, der Massive Language Fashions (LLMs) so leistungsstark macht, ist die Vielfalt der Aufgaben, auf die sie angewendet werden können. Dasselbe maschinelle Lernmodell, das einem Doktoranden beim Verfassen einer E-Mail helfen kann, könnte auch einem Kliniker bei der Diagnose von Krebs helfen.

Die breite Anwendbarkeit dieser Modelle macht es jedoch auch schwierig, sie systematisch zu bewerten. Es wäre unmöglich, einen Benchmark-Datensatz zu erstellen, um ein Modell anhand aller möglichen Fragen zu testen.

In einem neues Papierverfolgten die Forscher am MIT einen anderen Ansatz. Sie argumentieren, dass Menschen entscheiden, wann große Sprachmodelle eingesetzt werden. Zur Bewertung eines Modells müsse man verstehen, wie sich Menschen eine Meinung über dessen Fähigkeiten bilden, denn dies ist der Fall, wenn man weiß, wie Menschen sich ein Bild von dessen Fähigkeiten machen.

Beispielsweise muss der Doktorand entscheiden, ob das Modell beim Verfassen einer bestimmten E-Mail hilfreich sein könnte, und der Kliniker muss bestimmen, in welchen Fällen das Modell am besten zu Charge gezogen werden kann.

Auf dieser Idee aufbauend erstellten die Forscher einen Rahmen zur Bewertung eines LLM auf der Grundlage seiner Übereinstimmung mit den Überzeugungen eines Menschen hinsichtlich seiner Leistung bei einer bestimmten Aufgabe.

Sie führen eine menschliche Generalisierungsfunktion ein – ein Modell, das zeigt, wie Menschen ihre Ansichten über die Fähigkeiten eines LLMs aktualisieren, nachdem sie mit ihm interagiert haben. Anschließend bewerten sie, inwieweit LLMs mit dieser menschlichen Generalisierungsfunktion übereinstimmen.

Ihre Ergebnisse zeigen, dass ein Benutzer, wenn Modelle nicht auf die menschliche Generalisierungsfunktion abgestimmt sind, zu selbstsicher oder zu unsicher sein kann, wo er sie einsetzen soll, was zu unerwarteten Modellfehlern führen kann. Darüber hinaus neigen leistungsfähigere Modelle aufgrund dieser Fehlausrichtung dazu, in Situationen, in denen viel auf dem Spiel steht, schlechter abzuschneiden als kleinere Modelle.

„Diese Instruments sind spannend, weil sie universell einsetzbar sind. Aber weil sie universell einsetzbar sind, werden sie mit Menschen zusammenarbeiten. Deshalb müssen wir den Menschen in den Prozess einbeziehen“, sagt Ashesh Rambachan, Co-Autor der Studie, Assistenzprofessor für Wirtschaftswissenschaften und leitender Forscher am Laboratory for Info and Resolution Methods (LIDS).

Rambachan wird an der Arbeit von Hauptautor Keyon Vafa, einem Postdoc an der Harvard College, und Sendhil Mullainathan, einem MIT-Professor in den Abteilungen Elektrotechnik und Informatik sowie Wirtschaftswissenschaften und Mitglied von LIDS, unterstützt. Die Forschungsarbeit wird auf der Worldwide Convention on Machine Studying vorgestellt.

Menschliche Verallgemeinerung

Im Umgang mit anderen Menschen bilden wir uns ein Bild davon, was sie wissen und was nicht. Wenn Ihr Freund beispielsweise sehr pingelig ist, wenn es darum geht, die Grammatik anderer zu korrigieren, könnten Sie verallgemeinern und denken, dass er auch im Satzbau hervorragend ist, obwohl Sie ihm nie Fragen zum Satzbau gestellt haben.

„Sprachmodelle wirken oft so menschlich. Wir wollten zeigen, dass diese Kraft der menschlichen Verallgemeinerung auch in der Artwork und Weise vorhanden ist, wie Menschen ihre Ansichten über Sprachmodelle bilden“, sagt Rambachan.

Als Ausgangspunkt definierten die Forscher formal die menschliche Generalisierungsfunktion. Dabei werden Fragen gestellt, die Antworten einer Particular person oder eines LLM beobachtet und daraus Rückschlüsse gezogen, wie diese Particular person oder dieses Modell auf entsprechende Fragen reagieren würde.

Wenn jemand sieht, dass ein LLM Fragen zur Matrixinversion korrekt beantworten kann, könnte er auch annehmen, dass es Fragen zur einfachen Arithmetik mit Bravour meistert. Ein Modell, das nicht auf diese Funktion abgestimmt ist – additionally Fragen, von denen ein Mensch erwartet, dass es sie richtig beantwortet, nicht intestine beantwortet – könnte bei der Bereitstellung fehlschlagen.

Mit dieser formalen Definition in der Hand entwarfen die Forscher eine Umfrage, um zu messen, wie Menschen verallgemeinern, wenn sie mit LLMs und anderen Menschen interagieren.

Sie zeigten den Umfrageteilnehmern Fragen, die eine Particular person oder ein LLM richtig oder falsch beantwortet hatte, und fragten dann, ob sie glaubten, dass diese Particular person oder dieser LLM eine verwandte Frage richtig beantworten würde. Durch die Umfrage generierten sie einen Datensatz mit quick 19.000 Beispielen, wie Menschen die Leistung eines LLM bei 79 verschiedenen Aufgaben verallgemeinern.

Messen von Ausrichtungsfehlern

Sie stellten fest, dass die Teilnehmer recht intestine abschnitten, wenn man sie fragte, ob ein Mensch, der eine Frage richtig beantwortet hatte, auch eine verwandte Frage richtig beantworten würde. Sie waren jedoch viel schlechter darin, Verallgemeinerungen über die Leistung von LLMs abzugeben.

„Menschliche Generalisierung wird auf Sprachmodelle angewendet, aber das funktioniert nicht, weil diese Sprachmodelle keine Muster von Fachwissen zeigen, wie es bei Menschen der Fall wäre“, sagt Rambachan.

Die Teilnehmer neigten auch eher dazu, ihre Meinung über einen LLM zu ändern, wenn dieser Fragen falsch beantwortete, als wenn er Fragen richtig beantwortete. Sie neigten auch dazu, zu glauben, dass die Leistung eines LLM bei einfachen Fragen wenig Einfluss auf die Leistung bei komplexeren Fragen hätte.

In Situationen, in denen Menschen falschen Antworten mehr Gewicht beimaßen, schnitten einfachere Modelle besser ab als sehr große Modelle wie GPT-4.

„Sprachmodelle, die immer besser werden, können die Leute quick dazu verleiten zu glauben, dass sie bei verwandten Fragen gute Ergebnisse erzielen werden, obwohl das in Wirklichkeit nicht der Fall ist“, sagt er.

Eine mögliche Erklärung dafür, warum Menschen schlechter darin sind, LLMs zu verallgemeinern, könnte darin liegen, dass sie neuartig sind: Menschen haben weitaus weniger Erfahrung im Umgang mit LLMs als mit anderen Menschen.

„In Zukunft ist es möglich, dass wir allein durch die stärkere Interaktion mit Sprachmodellen besser werden“, sagt er.

Zu diesem Zweck möchten die Forscher weitere Studien darüber durchführen, wie sich die Ansichten der Menschen über LLMs im Laufe der Zeit entwickeln, wenn sie mit einem Modell interagieren. Sie möchten auch untersuchen, wie menschliche Generalisierung in die Entwicklung von LLMs einbezogen werden könnte.

„Wenn wir diese Algorithmen überhaupt erst trainieren oder versuchen, sie mit menschlichem Suggestions zu aktualisieren, müssen wir bei unserer Betrachtung der Leistungsmessung die menschliche Generalisierungsfunktion berücksichtigen“, sagt er.

In der Zwischenzeit hoffen die Forscher, dass ihr Datensatz als Benchmark verwendet werden kann, um die Leistung von LLMs im Zusammenhang mit der menschlichen Generalisierungsfunktion zu vergleichen. Dies könnte dazu beitragen, die Leistung von Modellen zu verbessern, die in realen Situationen eingesetzt werden.

„Für mich hat der Beitrag des Papiers zweierlei. Der erste ist praktischer Natur: Das Papier deckt ein kritisches Downside bei der Bereitstellung von LLMs für den allgemeinen Verbrauchergebrauch auf. Wenn die Leute nicht das richtige Verständnis dafür haben, wann LLMs genau sind und wann sie versagen, werden sie eher Fehler bemerken und sich vielleicht von der weiteren Verwendung abhalten lassen. Dies verdeutlicht das Downside, die Modelle an das Verständnis der Leute von Generalisierung anzupassen“, sagt Alex Imas, Professor für Verhaltenswissenschaften und Ökonomie an der Sales space College of Enterprise der College of Chicago, der nicht an dieser Arbeit beteiligt conflict. „Der zweite Beitrag ist grundlegender: Das Fehlen einer Generalisierung auf erwartete Probleme und Domänen hilft dabei, ein besseres Bild davon zu bekommen, was die Modelle tun, wenn sie ein Downside ‚richtig‘ lösen. Es bietet einen Take a look at dafür, ob LLMs das Downside ‚verstehen‘, das sie lösen.“

Diese Forschung wurde zum Teil von der Harvard Information Science Initiative und dem Heart for Utilized AI der College of Chicago Sales space College of Enterprise finanziert.

OpenAI scheint jeden Tag Schlagzeilen zu machen, und dieses Mal sind es doppelte Sicherheitsbedenken. OpenAI ist für seine bahnbrechenden Fortschritte in der künstlichen Intelligenz bekannt und steht nun ins Rampenlicht, und zwar nicht nur wegen zwei gravierende Sicherheitsverstöße.

Diese Vorfälle haben Fragen zum Umgang des Unternehmens mit Daten und zu seinen Cybersicherheitsprotokollen aufgeworfen und das Vertrauen sowohl der Benutzer als auch der Branchenexperten erschüttert.

ChatGPT für Mac ist voller Sicherheitslücken

Der Mac-App für ChatGPT ist ein beliebtes Werkzeug für Benutzer, die das leistungsstarke Sprachmodell von OpenAI nutzen möchten. GPT-4odirekt von ihren Desktops aus. Diese Woche wurde jedoch eine Sicherheitslücke aufgedeckt.

Pedro José Pereira Vieitoein Swift-Entwickler, entdeckte, dass die App Benutzergespräche im Klartext lokal auf dem Gerät speicherte. Das bedeutet, dass alle während dieser Gespräche ausgetauschten vertraulichen Informationen nicht geschützt waren und somit für andere Anwendungen oder potenzielle Malware zugänglich waren.

macOS blockiert seit macOS Mojave 10.14 (vor 6 Jahren!) den Zugriff auf alle privaten Benutzerdaten. Jede App, die auf non-public Benutzerdaten zugreift (Kalender, Kontakte, E-Mail, Fotos, Sandboxen von Drittanbieter-Apps usw.), erfordert jetzt expliziten Benutzerzugriff.

— Pedro José Pereira Vieito (@pvieito) 2. Juli 2024

Vieitos Erkenntnisse wurden schnell von Tech-Nachrichtenagenturen aufgegriffen Der Randwas die Besorgnis unter den Benutzern verstärkte und OpenAI dazu veranlasste, rasch zu handeln. Das Unternehmen veröffentlichte ein Replace, das Verschlüsselung für lokal gespeicherte Chats eingeführtum das unmittelbare Sicherheitsproblem anzugehen.

Das Fehlen von Sandboxing, einer Sicherheitsmethode, die Anwendungen isoliert, um zu verhindern, dass Schwachstellen andere Teile des Programs beeinträchtigen, erschwerte das Downside noch weiter. Da die ChatGPT-App nicht auf dem Apple App RetailerEs muss nicht den Sandboxing-Anforderungen von Apple entsprechen.

Die Tatsache, dass es überhaupt zu einem derart grundlegenden Sicherheitsversehen kam, wirft Fragen zu den internen Sicherheitspraktiken von OpenAI und der Gründlichkeit ihres App-Entwicklungsprozesses auf.

Durch diese Lücke konnte die App Daten unsicher speichern und Benutzer potenziellen Risiken aussetzen.

Die schnelle Lösung durch OpenAI hat die unmittelbare Bedrohung eingedämmt, aber auch die Notwendigkeit strengerer Sicherheitsmaßnahmen bei der Entwicklung und Bereitstellung von KI-Anwendungen hervorgehoben.

Das Spielbuch eines Hackers

Das zweite Sicherheitsproblem von OpenAI ist wurzelt in einem Vorfall vom letzten Frühjahraber seine Auswirkungen sind noch heute spürbar.

Anfang letzten Jahres Einem Hacker gelang es, in die internen Nachrichtensysteme von OpenAI einzudringenund erhalten Zugang zu vertraulichen Informationen über die Geschäftstätigkeit und KI-Technologien des Unternehmens. Hacker entwendete Particulars aus Diskussionen in einem On-line-Discussion board, in dem Mitarbeiter über die neuesten Technologien von OpenAI sprachenso zwei mit dem Vorfall vertraute Personen, hatte jedoch keinen Zugriff auf die Systeme, in denen das Unternehmen seine KI beherbergt und baut.

Führungskräfte von OpenAI berichteten den Mitarbeitern von dem Vorfall während einer All-Fingers-Assembly im Büro des Unternehmens in San Francisco im April 2023. Es wurde jedoch entschieden, den Verstoß nicht öffentlich bekannt zu geben, da keine Kunden- oder Partnerinformationen gestohlen wurden und die Führungskräfte ihn nicht als Bedrohung für die nationale Sicherheit betrachteten. Sie glaubten, dass die Hacker battle eine Privatperson ohne Verbindungen zu einer ausländischen Regierungso dass sie informierte weder das FBI noch die Strafverfolgungsbehörden.

Diese Entscheidung führte zu internen Bedenken hinsichtlich der Sicherheitslage von OpenAI. Einige Mitarbeiter befürchteten, dass Ausländische Gegner wie China könnten möglicherweise ähnliche Schwachstellen ausnutzen um KI-Technologie zu stehlen, die letztendlich eine Bedrohung für die nationale Sicherheit der USA darstellen könnte.

Leopold Aschenbrenner, ein Technischer Programmmanager von OpenAIargumentierte, dass Das Unternehmen hat nicht genügend Maßnahmen ergriffen, um solche Bedrohungen zu verhindernEr sandte ein Memo an den Vorstand, in dem er seine Bedenken darlegte, wurde jedoch später entlassen. Seiner Aussage nach battle der Schritt aufgrund seiner Enthüllungen politisch motiviert.

Geflüsterte Sorgen

Der interner Verstoß und anschließende Behandlung des Vorfalls haben tiefere Risse innerhalb von OpenAI in Bezug auf Sicherheitspraktiken und Transparenz aufgedeckt. Aschenbrenners Entlassung, die seiner Aussage nach eine Folge seiner Whistleblowing-Aktivitäten battle, hat eine Debatte über das Engagement des Unternehmens für Sicherheit und den Umgang mit internen Meinungsverschiedenheiten ausgelöst. Während OpenAI behauptet, dass seine Entlassung nichts mit seiner Whistleblowing-Aktivität zu tun hatte, hat die State of affairs Spannungen innerhalb des Unternehmens deutlich gemacht.

Der Datendiebstahl und seine Folgen haben auch die potenziellen geopolitischen Risiken unterstrichen, die mit hochentwickelten KI-Technologien einhergehen. Die Befürchtung, dass KI-Geheimnisse von ausländischen Gegnern wie China gestohlen werden könnten, ist nicht unbegründet. Ähnliche Bedenken wurden auch in der Technologiebranche geäußert, insbesondere von Microsoft-Präsident Brad Smith, der aussagte, chinesische Hacker würden technische Systeme ausnutzen, um staatliche Netzwerke anzugreifen.

Trotz dieser Bedenken verhindern Bundes- und Landesgesetze, dass Unternehmen wie OpenAI aufgrund der Nationalität diskriminieren. Experten argumentieren, dass der Ausschluss ausländischer Talente die KI-Entwicklung in den USA behindern könnte. Matt Knight, Sicherheitschef von OpenAI, betonte die Notwendigkeit, diese Risiken auszugleichen und gleichzeitig die besten Talente weltweit zu nutzen, um KI-Technologien voranzutreiben.

Was ist das Machtspiel von OpenAI?

Als Reaktion auf diese Vorfälle OpenAI hat Schritte unternommen, um seine Sicherheitsmaßnahmen zu stärkenDas Unternehmen hat eine Sicherheitsausschuss um die mit zukünftigen Technologien verbundenen Risiken zu bewerten und zu mindern. Zu diesem Ausschuss gehören namhafte Persönlichkeiten wie Paul Nakasoneein ehemaliger Normal der Armee, der die Nationwide Safety Company und das Cyber ​​Command leitete und in den Vorstand von OpenAI berufen wurde.

OpenAIs Engagement für Sicherheit wird auch durch die laufenden Investitionen in die Absicherung seiner Technologien unter Beweis gestellt. Knight betonte, dass diese Bemühungen bereits Jahre vor der Einführung von ChatGPT begannen und sich weiter entwickeln, da das Unternehmen versucht, neu entstehende Risiken zu verstehen und anzugehen. Trotz dieser proaktiven Maßnahmen haben die jüngsten Vorfälle gezeigt, dass der Weg zu robuster Sicherheit noch nicht zu Ende ist und ständige Wachsamkeit erfordert.

Bildnachweis für vorgestelltes Bild: Kim Menikh/Unsplash