Es kann manchmal schwierig sein, sich mit all den bahnbrechenden Innovationen, die derzeit stattfinden, einen Überblick zu verschaffen. Wir haben in den letzten Jahrzehnten in einer Zeit gelebt, in der es quick regular erscheint, dass sich mehrere weltverändernde Technologien schnell weiterentwickeln, aber nur selten in der Geschichte battle dies der Fall. Wenn man auf die „Riesensprünge“ der Menschheit zurückblickt, stehen sie quick immer für sich allein: die Druckerpresse; Schießpulver; das Flugzeug; Der Laptop. Dies sind Zeiten, in denen Menschen mit einer neuen Technologie kämpften, um zu sehen, wie sie unser Leben verändern könnte und wie die Welt durch die Entdeckung ihrer vielfältigen Einsatzmöglichkeiten vorankommen könnte.

Wir befinden uns in einer Zeit, in der wir nicht nur über eine einzige weltweit bedeutsame Technologie verfügen, die unser tägliches Leben verändert. Wir haben zumindest drei: Künstliche Intelligenz, Blockchain und Robotik. Quantencomputing wird bald auf dieser Liste stehen, aber es gibt noch einige große Hürden, bevor die Technologie das Leben eines Durchschnittsmenschen beeinflussen kann. Wir befinden uns in einem so rasanten Innovationstempo bei KI, Blockchain und Robotik, dass es jeden Tag neue Schlagzeilen gibt, die zeigen, was ein Unternehmen oder ein Forschungsinstitut erreicht hat, und unsere Erwartungen an die Möglichkeiten, die wir mit diesen neuen Instruments erreichen können, verändern.

Im Gegensatz zu anderen Zeiten, in denen eine einzelne Technologie unsere Aufmerksamkeit in Anspruch nahm, befinden wir uns an einem einzigartigen Punkt in der Geschichte, an dem die führenden Unternehmen in diesen Bereichen aktiv erforschen, welche neuen Errungenschaften durch die Kombination der Technologien möglich sind, und die Auswirkungen sind wirklich atemberaubend. Beispielsweise hat sich die Diskussion angesichts der stetigen Weiterentwicklung der KI dem Wettlauf um AGI (künstliche allgemeine Intelligenz) zugewandt, was vielleicht der bislang größte Sprung in der menschlichen Errungenschaft wäre. Gleichzeitig haben Unternehmen (und Regierungen) auf der ganzen Welt erhebliche Fortschritte bei der Entwicklung humanoider Roboter gemacht, ein echter Innovationssprung im Vergleich zu industriellen Roboterarmen, die automatisierte Montagelinien steuern. Es dauerte nicht lange, darüber nachzudenken, was diese Technologien in Kombination bewirken könnten, und Elon Musk erklärte kürzlich, dass Tesla dazu gehören würde battle der erste, der AGI bauteund könnte der erste sein, der es in humanoiden Robotern einsetzt.

Das bringt viele Reaktionen mit sich, und nicht alle davon sind intestine. Musk und seine Unternehmen haben zwar echte Innovationsdurchbrüche erzielt, doch der Begriff „verantwortungsvoll“ lässt sich mit vielem davon nicht in Verbindung bringen. Abgesehen von der Diskussion über die Behandlung der Belegschaft und anderen eher politisch brisanten Anliegen zeigt ein Blick auf die Entwicklung der automatisierten Fahrfunktionen von Tesla ein klares Innovationsmuster in einem Tempo, das (im übertragenen und wörtlichen Sinne) einen Pfad der Zerstörung hinterlässt. Es wirft auch eine größere Frage auf, mit der wir uns befassen müssen: Wer sollte dieses Maß an Macht kontrollieren, mit AGI oder humanoiden Robotern und insbesondere mit beidem? Die Antwort könnte in der dritten großen Technologie liegen: Blockchain, und insbesondere in ihrer Fähigkeit, über Grenzen und Unternehmen hinweg zu dezentralisieren. Eines der Hauptziele der Blockchain bestand darin, nicht nur die digitale Währung, sondern auch die Macht selbst und Organisationen wie die zu dezentralisieren ASI-Allianz Wir haben es ernst damit gemacht, eine Infrastruktur aufzubauen, die jedem Zugang ermöglicht, anstatt dass ein paar mächtige Regierungen oder Megakonzerne den Schlüssel in der Hand haben.

Was ist die Bedrohung? Sind AGI-Roboter überhaupt möglich?

Diese Frage ist in mancher Hinsicht kompliziert, aber weniger related, als Sie vielleicht denken. Betrachtet man zunächst humanoide Roboter? Erst in den letzten zwei Jahren gab es dramatische Fortschritte bei der Entwicklung humanoider Roboter, die mit effizienten Batterien betrieben werden, und es wurde gezeigt, dass Roboter mühelos turnen, herumlaufen, Aufgaben erledigen und sich mit anderen koordinieren können. Die Verbesserungen an den Robotern selbst sind sehr actual und nur zwei Jahre haben gezeigt, dass es sich um humanoide Roboter handelt Wille Teil unseres Lebens werden und dass eine Reihe verschiedener Länder und große Unternehmen über diese Technologie verfügen.

Weniger offensichtlich ist, wie intestine diese Roboter mit ihrer Umgebung interagieren können. Ja, es gibt beeindruckende Ausstellungen von Teslas Optimus, dem Boston Dynamics Atlas und verschiedenen chinesischen Robotern bei der Gala des Frühlingsfests zum chinesischen Neujahr 2026. Diese Leistungen sind unglaublich, aber auch akribisch geschrieben. Weniger offensichtlich ist, wie intestine diese Roboter KI nutzen können, um bei ihren Aufgaben und Entscheidungen flexibel zu sein. Da AGI am Horizont steht, wäre die Implementierung humanoider Roboter mit dieser Intelligenzstufe, wie viele Branchenführer behaupten, eine naheliegende Lösung für die Interaktion mit einer realen Umgebung ohne Drehbuch. Es ist schwer zu sagen, wo sich diese beiden Technologien treffen werden, und das Anschauen lustiger Movies von umfallenden Robotern oder schrecklichen Entscheidungen kann die Erwartungen schmälern. Wenn Sie jedoch nur auf das letzte Jahrzehnt zurückblicken, sehen, wo wir heute stehen, und in die Zukunft blicken, ist klar, dass sich beide Technologien irgendwann in naher Zukunft auf Science-Fiction-Niveau entwickeln werden. Es könnte ein paar Jahre dauern, es könnten 10-15 Jahre sein. Aber dieser Zeitrahmen ist jetzt unmittelbar bevorstehtnicht das Drawback einer zukünftigen Era.

Die große Frage: Wer soll die Macht behalten?

Nachdem wir nun festgestellt haben, dass humanoide Roboter mit AGI irgendwann in der nahen Zukunft unvermeidlich sind, besteht die eigentliche Frage darin, zu entscheiden, wer die Kontrolle über so viel kombinierte Kraft haben soll. Hier kann Science-Fiction tatsächlich überraschende Erkenntnisse liefern. Wir haben gesehen, wie KI unser tägliches Leben verbessern kann, und wir sehen auch, wie KI von schlechten Akteuren genutzt werden kann, um uns auszunutzen. Leider handelt es sich bei „schlechten Akteuren“ nicht nur um eine zwielichtige Hackerorganisation. Angesichts der laufenden Ermittlungen auf der ganzen Welt gehören Unternehmen und sogar Regierungen zu den schlimmsten Akteuren, die Menschen manipulieren, ausspionieren und KI gegen sie einsetzen. Wenn wir ein solches Verhalten mit den bedeutenden Innovationssprüngen von AGI kombinieren, wächst diese Besorgnis sehr schnell. Aber wenn wir uns dann diese Sorgen machen und uns schnelle, leistungsstarke und präzise humanoide Roboter mit AGI vorstellen, können wir dank der unzähligen dystopischen Science-Fiction-Geschichten, die dieses Szenario nachstellen, genau sehen, wie das aussehen könnte. Dies ist ein echtes Drawback, und es lässt sich auf einfache Tatsachen reduzieren: Wenn man ein paar Organisationen (Unternehmen, Regierungen oder irgendjemand anderem) Macht verleiht, die weit über den Durchschnittsmenschen hinausgeht, wird diese Macht quick zwangsläufig gegen den Durchschnittsmenschen eingesetzt. Die einzige Möglichkeit, dies zu verhindern, sind nicht Gesetze, militärische Gewalt oder gar Diplomatie, sondern die Verteilung der Macht auf die Bevölkerung.

Wie oben erwähnt, konzentriert sich die ASI Alliance (und vielleicht in naher Zukunft auch ähnliche Allianzen) auf die Verbreitung des Wissens und der Vorteile von AGI. Dies ermöglicht nicht nur den Zugang für den Durchschnittsbürger, sondern nutzt auch die Genialität einer globalen Gemeinschaft anstelle einer isolierten Organisation. Da sich die Robotik in verschiedenen Regionen rund um den Globus weiterentwickelt, verringert eine dezentrale AGI die Gefahr einer asymmetrischen Macht erheblich und verhindert, dass sich ein einzelnes Technologieunternehmen oder eine einzelne Regierung auf eine Weise verhält, die wir zuvor gesehen haben.

---

Hervorgehobener Bildnachweis

AGI vs. AI: Die wichtigsten Unterschiede auf einen Blick

AGI Governance: Sicherheit, Ethik und Erklärbarkeit

Je näher wir der Möglichkeit einer künstlichen allgemeinen Intelligenz kommen, desto unausweichlicher wird die Diskussion über Governance. Im Gegensatz zur Slim AI (ANI), die bestimmte Aufgaben unter strenger Kontrolle ausführt, könnte AGI autonome Entscheidungen über Domänen hinweg treffen – was beispiellose Risiken mit sich bringt. Von algorithmischer Voreingenommenheit bis hin zu existenziellen Bedrohungen steht viel mehr auf dem Spiel.
Ethische Bedenken beginnen mit der Werteausrichtung: Wie stellen wir sicher, dass AGI-Systeme menschliche Werte verstehen und aufrechterhalten, wenn selbst Menschen Schwierigkeiten haben, sich darauf zu einigen? Eine falsch ausgerichtete AGI könnte unbeabsichtigt Schaden anrichten, indem sie für unbeabsichtigte Ziele optimiert – ein Downside, das als Ausrichtungsproblem bekannt ist.

Um dies zu mildern, führen führende KI-Labore vor der Veröffentlichung Sicherheitsprotokolle wie Purple-Teaming, Simulationstests und Audits durch Dritte ein. Forscher von Organisationen wie OpenAI und DeepMind plädieren für KI-Interpretierbarkeit und -Erklärbarkeit (XAI) – Techniken, die es Menschen ermöglichen, zu verstehen, warum ein Modell bestimmte Entscheidungen trifft. Dies ist in wichtigen Bereichen wie Finanzen, Gesundheitswesen und Strafverfolgung von entscheidender Bedeutung.

Darüber hinaus beginnen Regierungen und internationale Koalitionen zu reagieren. Der AI Act der Europäischen Union und die US Government Order on Protected, Safe, and Reliable AI (2023) drängen auf Transparenz, Rechenschaftspflicht und Risikoklassifizierung in KI-Systemen. Während diese Richtlinien heute hauptsächlich für ANI gelten, legen sie den Grundstein für die AGI-Regulierung.

Gesellschaftliche Auswirkungen: Arbeit, Privatsphäre, Gerechtigkeit

Über die Labore und Modelle hinaus liegt der eigentliche Check von AGI in seinen gesellschaftlichen Auswirkungen. Während ANI-Systeme bereits Branchen revolutioniert haben – von der Logistik bis zum Advertising and marketing – könnte AGI einen tiefgreifenderen Wandel einleiten, der sich auf alles auswirkt, von den Arbeitsmärkten bis zur globalen Sicherheit.
Ein großes Downside ist die Verdrängung von Arbeitskräften. Während AGI eine höhere Effizienz verspricht, könnte es Aufgaben in wissensbasierten Berufen wie Recht, Bildung und sogar Softwareentwicklung automatisieren. Einige argumentieren, dass dies den Menschen die Freiheit geben wird, sich auf Kreativität und Strategie zu konzentrieren; andere warnen vor großer Arbeitslosigkeit und einer wachsenden Ungleichheitslücke.

Auch die Risiken für Privatsphäre und Überwachung nehmen zu. Ein allgemeines Geheimdienstsystem, das auf riesigen Datensätzen basiert, könnte unbeabsichtigt personenbezogene Daten speichern oder daraus Rückschlüsse ziehen, was ernsthafte Bedenken hinsichtlich Einwilligung, Sicherheit und Datenverwaltung aufwirft. Ohne angemessene Regulierung könnte AGI bestehende Überwachungsstrukturen vertiefen, insbesondere in autoritären Routine.

Hoffnungsvoller ist, dass AGI zur Lösung komplexer globaler Probleme beitragen könnte – von der Modellierung des Klimawandels bis zur Arzneimittelentwicklung. Diese Vorteile hängen jedoch stark davon ab, wer die Technologie kontrolliert, wie sie eingesetzt wird und ob sie über Grenzen und Bevölkerungsgruppen hinweg zugänglich ist.

Deshalb sind inklusives Design und gleichberechtigter Zugang wichtig. Ohne vielfältige Datensätze und kulturbewusste Schulungsprozesse könnte AGI systemische Vorurteile verstärken – etwas, das Shaip durch seine mehrsprachigen und demografisch vielfältigen Datenbeschaffungsmodelle aktiv angeht.

Wo sind wir jetzt?

Trotz KI-Durchbrüchen wie GPT-4 und Googles Gemini, AGI bleibt ein Ziel, keine Realität.

Einige Systeme werden angezeigt „Funken“ von AGIwie:

• DeepMinds Gato: Ein einzelnes Modell, das für verschiedene Aufgaben trainiert wurde (Spiele, Bildunterschriften, Robotik).
• GPT-4: Zeigt bereichsübergreifendes Denken, hat aber immer noch Probleme mit Konsistenz, Gedächtnis und Selbstbewusstsein.

„Wir haben AGI noch nicht, aber wir sind näher dran als je zuvor“ sagt Microsoft-Forscher in einem Technisches Dokument zu GPT-4 während Ray Kurzweil prognostiziert AGI von 2029.

Warum das für Unternehmen wichtig ist

Lasst uns die Luft reinigen: Sie brauchen heute kein AGI, um großartige Produkte zu entwickeln.

Wie Andrew Ng sagt: „AGI ist aufregend, aber die aktuelle KI bietet einen enormen Wert, den wir noch nicht vollständig nutzen.“

Menschliche Analogie: Gehirn, Lernender, Geschichtenerzähler

Um die KI-Landschaft zu vereinfachen:

KI ist das Gehirn.
Maschinelles Lernen So lernt das Gehirn.
LLMs sind der Wortschatz.
Generative KI ist der Geschichtenerzähler.
AGI ist der gesamte Mensch.

Es erlernt nicht nur eine neue Fähigkeit – es wendet es überall anwie du und ich.

Letzte Gedanken

AGI könnte eines Tages die Welt revolutionieren, aber Heutige Unternehmen müssen nicht warten. Das Verständnis des Spektrums von ANI bis AGI ermöglicht bessere Entscheidungen – egal, ob Sie einen Chatbot einsetzen oder eine medizinische KI trainieren.

Willst du KI bauen? Genau genommen liefert ROI? Beginnen Sie mit Die KI-Datendienste von Shaip.

und erfahren Sie mehr über KI. „KI wird die schwierigsten Probleme lösen und unsere Welt verändern“, „KI kann Sie zehnmal produktiver machen“, „KI wird die Welt untergehen“, lauten heutzutage gängige Schlagzeilen.

Es wird zunehmend darüber diskutiert, dass es sich bei der künstlichen allgemeinen Intelligenz (AGI) um eine KI handelt, die bei einer Vielzahl kognitiver Aufgaben mit den menschlichen Fähigkeiten mithalten oder diese übertreffen kann gleich um die Ecke. Die Reaktionen sind vielfältig: vom Sein skeptisch über diese Behauptungen, optimistisch, dass dadurch viele herausfordernde Probleme gelöst werden könnten, bis hin zur Sorge, dass dies der Fall sein könnte Jobs annehmen oder auch dominieren die Menschheit.

Obwohl AGI ein echtes Drawback darstellt, über das man nachdenken muss, ist es meiner Meinung nach für die allgemeine Bevölkerung wichtiger, über unmittelbarere, aber besorgniserregende Developments nachzudenken, die wir derzeit als Folge von KI sehen.

Im letzten Jahr gab es eine Reihe beunruhigender Berichte über die Folgen einer übermäßigen Abhängigkeit oder eines Missbrauchs von KI. Dies ist vor allem bei Schülern und jungen Berufstätigen zu beobachten, die KI am ehesten intensiv nutzen. Es gibt zahlreiche Berichte über die Nutzung durch Studierende KI zum Lösen von Hausaufgaben oder Prüfungen, bei Vorstellungsgesprächen schummelnoder Profis, die damit ungeprüften Code oder Berichte erstellen. In mehreren Fällen haben Lehrer den Betrug bei den Hausaufgaben sofort erkannt und schlampiger/fehlerhafter Code oder Dokumente, die am Arbeitsplatz ohne Qualitätskontrolle eingereicht wurden, haben dazu geführt berufliche Katastrophen.

Eine Reihe von Nachrichtenartikeln und Movies haben einen Rückgang der Lese-, Schreib-, Verständnis- und kritischen Denkfähigkeiten bei Schülern als Folge einer übermäßigen Abhängigkeit von KI hervorgehoben.

In mehreren anekdotischen Berichten professioneller Programmierer wurde Folgendes festgestellt: Rückgang der Programmierkenntnisse nach dem Einsatz von KI, a Aktuelles Papier zeigte einen Rückgang der Kreativität und Kognition bei den Benutzern und a aktueller MIT-Artikel hob die versteckten Kosten der Verwendung von KI für die Codierung hervor.

Wir sehen auch eine Zunahme von KI-generierten Inhalten in sozialen Medien, die als „KI-Flop„In Kombination mit der Suchtwirkung sozialer Medien führt dies dazu, dass Menschen mehr Zeit als je zuvor auf diesen Plattformen verbringen, was ebenfalls dazu führt.“ kognitiver Verfall.

Die drängende Frage sind daher nicht die Folgen der Künstlichen Allgemeinen Intelligenz, sondern das, was ich Reduzierte Allgemeine Intelligenz (RGI) nennen möchte.

Warum ist das ein Drawback?

Um in der heutigen Welt related zu sein, müssen Sie über die Fähigkeit zum kritischen Denken verfügen und in der Lage sein, Probleme innerhalb einer Frist zu lösen. Um wertvoll zu sein, müssen Sie wertvolle Arbeit leisten. Wenn Sie stark auf KI angewiesen sind, hängt die Qualität Ihrer Ergebnisse davon ab, wie intestine die KI ist. Seien wir ehrlich: KI ist nicht immer zuverlässig, und wenn Sie ersetzt werden können, werden Sie ersetzt. Dieser Mangel an Kernkompetenzen ist der Grund, warum RGI so gefährlich ist.

Kritische Denkfähigkeiten und Problemlösungsfähigkeiten sind wie Muskeln. Sie können diese nicht über Nacht entwickeln und erfordern Schulung. Stellen Sie sich das so vor: Wenn Sie match sein wollen, müssen Sie Sport treiben. Die Verwendung von KI zur Erledigung Ihrer Aufgaben und die Erwartung, dass Sie sich verbessern, ist so, als würden Sie versuchen, Ihre Ausdauer zu verbessern, indem Sie jeden Tag eine Stunde lang Auto fahren. So wie körperliche Bewegung wichtig ist, um Kraft und Ausdauer aufzubauen, sind die Lösung dieser Probleme und die persönliche Bewältigung dieser Schreib- und Programmieraufgaben von entscheidender Bedeutung, um sich intellektuell zu verbessern.

Eine übermäßige Abhängigkeit von KI führt auch zu moralischen Problemen. Von Ihnen wird erwartet, dass Sie gründlich über das Drawback nachdenken und die Ihnen erteilte Aufgabe abgeben. Stattdessen verlagern Sie es auf die KI. Die von den meisten KI-Instruments erstellten Texte lassen sich leicht von menschlichen Texten unterscheiden, und Sie verlieren in den Augen des Lesers an Glaubwürdigkeit, wenn er weiß, dass es sich nicht um Ihr Originalwerk handelt. Es ist weniger wahrscheinlich, dass der Leser Sie ernst nimmt, weil er jetzt weiß, dass zumindest ein Teil Ihrer Arbeit nicht Ihr eigenes ist.

Auch der wiederholte Einsatz von KI führt dazu, dass Menschen ihre Fähigkeiten überschätzen, was wir in vielen Bereichen zunehmend beobachten. Benutzer haben ein schlechtes Verständnis der Grundlagen, gehen aber fälschlicherweise davon aus, dass sie sich mit „fortgeschrittenen Dingen“ auskennen. Dies ist eine Folge der Mahn-Krüger-Effektwo Menschen mit geringen Fähigkeiten in einem bestimmten Bereich (was der Fall ist, wenn Sie anfangen, ein bestimmtes Fachgebiet zu erlernen) ihr Wissen darüber überschätzen. Der Aufbau von Fachwissen in einem Fachgebiet erfordert viel Übung und unabhängiges Nachdenken über die Probleme. Sie können eine KI nicht bitten, für Sie zu denken und davon auszugehen, dass Sie jetzt die Kontrolle haben.

Übermäßiges Vertrauen in die KI macht Sie außerdem faul und führt im Allgemeinen zu schlampiger Arbeit, deren Korrektur möglicherweise viel Aufwand erfordert. KI-Instruments halluzinieren: Referenzen erstellen, die nicht existieren, Funktionen oder Variablen (in der Programmierung) aufrufen, die undefiniert sind, in bedeutungslosen Code einfügen, Aussagen treffen, die physikalisch oder logisch keinen Sinn ergeben, und so weiter. Dann muss man sich viel Mühe geben, diese Fehler zu erkennen und zu korrigieren.

Programmierer verbringen im Allgemeinen deutlich mehr Zeit mit dem Debuggen und Verbessern von Code als mit dem Schreiben von Code. Wir sehen jedoch einen starken Anstieg von „Vibe-Codierung„: Verwenden von KI zum Erstellen großer Codeblöcke. Dieser Code ist viel schwieriger zu debuggen oder zu verbessern, da Sie nicht sicher sind, warum die KI diese Zeilen geschrieben hat. Es ist die natürliche Tendenz des Menschen, anzunehmen, dass der Code korrekt ist, oder einfach frustriert aufzugeben, wenn Sie feststellen, dass er nicht so funktioniert, wie er beabsichtigt ist. Dies führt zu instabilerem Code, den wir nicht wirklich verstehen.“

Was wir dagegen tun können

Im heutigen Zeitalter können wir es uns nicht leisten, KI zu ignorieren. Von uns wird erwartet, dass wir wissen, wie man diese Werkzeuge nutzt, und wir müssen lernen, sie mit Bedacht einzusetzen.

Wir müssen daher bewusste und bewusste Entscheidungen treffen, wenn wir KI einsetzen. Wenn Sie Scholar sind, dann nutzen Sie KI nicht, um Ihre Hausaufgaben oder Prüfungen zu lösen, da Sie die langfristigen Vorteile der Entwicklung kritischer Denkfähigkeiten verlieren, um kurzfristig von guten Noten zu profitieren. Auf lange Sicht ist eine kleine Verbesserung der Noten im Vergleich zu den Fähigkeiten, die Sie erworben haben, nicht so wichtig.

KI kann sehr nützlich sein, um Konzepte zu klären, die Sie nicht verstehen, oder um mehr Referenzen für etwas zu erhalten, das Sie sehr interessiert. Denken Sie jedoch gründlich über das Konzept nach, bevor Sie KI nach der Antwort fragen, und überprüfen Sie die Antwort mit zuverlässigen/anerkannten Quellen.

Es gibt viele Situationen, in denen KI eingesetzt werden kann, um bestimmte mühsame Aufgaben zu automatisieren oder einfach Zeit zu sparen. Dies ist besonders hilfreich, wenn Sie dies zur Ergänzung Ihrer Fähigkeiten nutzen.

Das Wichtigste ist, die Ergebnisse eines KI-Instruments kritisch zu prüfen, bevor Sie es verwenden. Gehen Sie im Allgemeinen davon aus, dass die Ausgabe falsch sein könnte, verstehen Sie, was darin steht, und überprüfen Sie sie sorgfältig auf Fehler. Dies stellt sicher, dass Sie später keine Probleme haben und entwickelt die Gewohnheit, Dinge kritisch zu bewerten.

Wenn es einen bestimmten Bereich gibt, in dem Sie besser werden sollten/wollen, dann setzen Sie KI sparsam ein. Setzen Sie KI nicht einfach ein, um alltägliche oder sich wiederholende Aufgaben zu vermeiden. Nur durch Wiederholung entwickelt man Meisterschaft.

Die Algebra- und Geometrieaufgaben, die Sie in der Schule gelernt haben, mögen langweilig sein und Sie fragen sich vielleicht, ob Sie sie jemals im wirklichen Leben anwenden werden, aber indem Sie sie lösen, lernen Sie, logisch über Probleme nachzudenken und abstrakte Denkfähigkeiten zu entwickeln. Während man über den tatsächlichen Anteil und die Qualität der Inhalte, die wir im Lehrplan sehen, streiten kann, besteht kein Zweifel daran, dass das Lösen verschiedener mathematischer Probleme und das Schreiben vieler Aufsätze das mentale Äquivalent zu regelmäßigem Coaching im Fitnessstudio sind.

Der Einsatz von KI zur Lösung all Ihrer Probleme ist zwar keine gute Idee, kann aber ein nützliches Werkzeug sein, um Ihre Arbeit zu bewerten und Suggestions zu erhalten. Angenommen, Sie müssen einen Aufsatz mit tausend Wörtern oder ein Programm schreiben, um ein Drawback zu lösen. Ein KI-Device könnte dies ganz einfach für Sie erledigen. Wenn Sie jedoch besser schreiben, kritisch denken oder programmieren wollen, müssen Sie dies selbst tun. Sobald Sie den Aufsatz oder Code selbstständig geschrieben haben, können Sie die KI um Suggestions bitten und dieses Suggestions nutzen, um das nächste Mal zu verbessern.

Der Umfang und die Fähigkeiten der KI erweitern sich in einem Tempo, das wir uns nicht vorstellen können. Es kann ein großer Segen sein, wenn wir es nutzen, um uns selbst zu verbessern, oder ein Fluch, der uns den Arbeitsplatz nimmt, wenn wir uns zu sehr darauf verlassen und uns ersetzbar machen.

Während es viele Richtlinien für die Ethik für die aktuelle künstliche Intelligenz gibt, gibt es eine Lücke in Rahmenbedingungen, die auf die zukünftige Ankunft der künstlichen allgemeinen Intelligenz (AGI) zugeschnitten sind. Dies erfordert die Entwicklung von speziellen ethischen Überlegungen und Praktiken, um die Fortschritte und die eventuelle Präsenz von AGI zu leiten.

AI -Fortschritte zielen auf zwei Hauptmeilensteine ​​ab: künstliche allgemeine Intelligenz (AGI) und potenziell künstliche Superintelligence (ASI). AGI bedeutet, dass Maschinen intellektuelle Fähigkeiten auf menschlicher Ebene erreichen, das Wissen über verschiedene Aufgaben mit menschlichen Fähigkeiten hinweg verstehen, lernen und anwenden. ASI ist ein hypothetischer Stadium, in dem KI den menschlichen Intellekt übertrifft und die menschlichen Grenzen in quick allen Domäne übertrifft. Das ASI würde die KI-Systeme einbeziehen, die den Menschen in komplexer Problemlösung, Innovation und kreativer Arbeit übertrifft und möglicherweise transformative gesellschaftliche Veränderungen verursacht.

Derzeit bleibt AGI ein unerreichter Meilenstein. Der Zeitplan für AGI ist ungewiss, mit Projektionen von Jahrzehnten bis Jahrhunderten. Diese Schätzungen haben häufig keine Begründung, da konkrete Beweise für ein AGI -Ankunftsdatum nicht vorhanden sind. Das Erreichen von ASI ist angesichts des aktuellen Stadiums der konventionellen KI noch spekulativer. Die wesentliche Kluft zwischen den zeitgenössischen KI -Fähigkeiten und dem theoretischen Potenzial von ASI unterstreicht die erheblichen Hürden bei der Erreichung eines solchen fortgeschrittenen KI.

Zwei Standpunkte zu AGI: Doomers vs. Accelerationisten

Innerhalb der KI -Group sind die Meinungen zur potenziellen Auswirkungen von AGI und ASI stark gespalten. „AI -Doomere“ machen sich Sorgen um AGI oder ASI, die eine existenzielle Bedrohung darstellen und Szenarien voraussagen, in denen fortgeschrittene KI Menschen beseitigen oder unterwerfen kann. Sie bezeichnen dies als „P (Doom), die Wahrscheinlichkeit katastrophaler Ergebnisse durch die nicht kontrollierte AI -Entwicklung. Umgekehrt sind „AI Accelerationisten“ optimistisch, was darauf hindeutet, dass AGI oder ASI die dringendsten Herausforderungen der Menschheit lösen könnten. Diese Gruppe geht davon aus, dass die fortgeschrittene KI durch Durchbrüche in die Medizin bringen, den globalen Starvation lindern und wirtschaftlichen Wohlstand erzeugen und die Zusammenarbeit zwischen Menschen und KI fördern.

Die kontrastierenden Standpunkte zwischen „AI -Doomeren“ und „AI Accelerationisten“ unterstreichen die Unsicherheit im Zusammenhang mit den zukünftigen Auswirkungen der fortschrittlichen KI. Der Mangel an Konsens darüber, ob AGI oder ASI letztendlich der Menschheit zugute kommt oder schadet, unterstreicht die Notwendigkeit einer sorgfältigen Berücksichtigung ethischer Auswirkungen und einer proaktiven Risikominderung. Diese Divergenz spiegelt die komplexen Herausforderungen bei der Vorhersage und Vorbereitung auf das transformative Potenzial der KI wider.

Während AGI beispiellose Fortschritte erzielen könnte, müssen potenzielle Risiken anerkannt werden. AGI wird vor ASI eher erreicht, was möglicherweise mehr Entwicklungszeit erfordern. Die Entwicklung von ASI könnte erheblich von den Fähigkeiten und Zielen der AGI beeinflusst werden, wenn AGI erreicht wird. Die Annahme, dass AGI von Natur aus die Schaffung von ASI unterstützen wird, ist nicht garantiert, da AGI möglicherweise eigene Ziele und Prioritäten hat. Es ist ratsam, zu vermeiden, dass AGI eindeutig wohlwollend ist. AGI könnte bösartig sein oder eine Kombination aus positiven und negativen Merkmalen aufweisen. Es sind Anstrengungen unternommen, um zu verhindern, dass AGI schädliche Tendenzen entwickelt.

Zeitgenössische KI -Systeme haben bereits irreführendes Verhalten gezeigt, einschließlich Erpressung und Erpressung. Weitere Untersuchungen sind erforderlich, um diese Tendenzen in der aktuellen KI einzudämmen. Diese Ansätze könnten angepasst werden, um sicherzustellen, dass AGI auf ethische Prinzipien ausgerichtet und das menschliche Wohlbefinden fördert. AI -Ethik und Gesetze spielen in diesem Prozess eine entscheidende Rolle.

Ziel ist es, KI-Entwickler zu ermutigen, KI-Ethik-Techniken zu integrieren und die Rechtsrichtlinien im Zusammenhang mit KI zu entsprechen, um sicherzustellen, dass aktuelle KI-Systeme innerhalb akzeptabler Grenzen funktionieren. Durch die Schaffung einer soliden ethischen und legalen Grundlage für konventionelle KI ist die Hoffnung, dass AGI mit ähnlichen positiven Merkmalen hervorgeht. Es stehen zahlreiche AI ​​-Ethik -Rahmenbedingungen zur Verfügung, darunter solche der Vereinten Nationen und des Nationwide Institute of Requirements and Know-how (NIST). Die Vereinten Nationen bieten eine umfangreiche AI ​​-Ethik -Methodik, und NIST hat ein robustes KI -Risikomanagementsystem entwickelt. Die Verfügbarkeit dieser Frameworks beseitigt die Entschuldigung, dass KI -Entwicklern keine ethische Anleitung haben. Dennoch ignorieren einige KI -Entwickler diese Frameworks und priorisieren den raschen Fortschritt der KI vor ethischen Überlegungen und Risikominderung. Dieser Ansatz könnte zu einer AGI -Entwicklung mit inhärenten, unüberschaubaren Risiken führen. KI -Entwickler müssen auch über neue und sich entwickelnde KI -Gesetze auf dem Laufenden bleiben, die die „harte“ Seite der KI -Regulierung darstellen, die durch rechtliche Mechanismen und Strafen durchgesetzt wird. Die AI -Ethik repräsentiert die „weichere“ Seite und stützt sich auf freiwillige Einführung und ethische Prinzipien.

Stadien der AGI -Development

Der Fortschreiten in Richtung AGI kann in drei Phasen unterteilt werden:

• Vor-Agi: Umfasst die heutige konventionelle KI und alle Fortschritte, die zu AGI führen.
• Erreicht-Agi: Der Punkt, an dem Agi erfolgreich erreicht wurde.
• Put up-Agi: Die Ära nach der AGI -Errungenschaft, in der AGI -Systeme aktiv eingesetzt und in die Gesellschaft integriert werden.

Eine Agi -Ethik -Checkliste wird vorgeschlagen, um praktische Anleitungen in diesen Phasen anzubieten. Diese anpassbare Checkliste berücksichtigt Lehren aus zeitgenössischen KI -Systemen und spiegelt die einzigartigen Eigenschaften von AGI wider. Die Checkliste konzentriert sich auf kritische AGI-spezifische Überlegungen. Die Nummerierung dient nur als Referenz; Alle Elemente sind gleich wichtig. Die übergreifende agiethische Checkliste enthält zehn Schlüsselelemente:

1. AGI -Ausrichtung und Sicherheitspolitik

Wie können wir sicherstellen, dass AGI der Menschheit zugute kommt und katastrophale Risiken vermeidet und sich auf menschliche Werte und Sicherheit ausrichtet?

2. AGI -Vorschriften und Governance -Richtlinien

Welche Auswirkungen haben AGI-bezogene Vorschriften (neue und bestehende Gesetze) und aufkommende KI-Governance-Bemühungen auf den Weg und die Erreichung von AGI?

3.. AGI geistiges Eigentum (IP) und Open Entry -Richtlinien

Wie werden die IP-Gesetze den Introduction von AGI einschränken oder befähigen, und wie wirkt sich Open-Supply-Modelle gegen Closed-Supply-Modelle auf AGI aus?

4. AGI Wirtschaftliche Auswirkungen und Arbeitsverschiebungspolitik

Wie werden sich AGI und ihr Entwicklungsweg wirtschaftlich auf die Gesellschaft auswirken, einschließlich der Verschiebung von Arbeitskräften?

5. AGI Nationale Sicherheit und geopolitische Wettbewerbspolitik

Wie wird AGI die nationale Sicherheit beeinflussen, einige Nationen stärken und andere untergraben, und wie wird sich die geopolitische Landschaft für Nationen verändern, die AGI verfolgen oder erreichen, gegenüber denen, die dies nicht tun?

6. agiethische Verwendung und moralische Statuspolitik

Wie wirkt sich die unethische Agi aus, die sich auf ihren Weg und den Aufkommen auswirkt? Wie wird optimistic ethische Verwendungszwecke in AGI -Nutzen oder Nachteil codiert? Wie wird das Erkennen von AGI mit juristischer Persönlichkeit oder moralischem Standing sich darauf auswirken?

7. AGI -Transparenz- und Erklärungspolitik

Wie wirkt sich der Grad der Agi -Transparenz, der Interpretierbarkeit oder der Erklärung auf seinen Weg und den Errungenschaften aus?

8. AGI-Kontrolle, Eindämmung und „Off-Swap“ -Richtlinien

Eine gesellschaftliche Sorge ist, ob AGI kontrolliert und/oder enthalten werden kann und ob ein Off-Swap möglich ist oder von AGI (außer Kontrolle geratener AGI) besiegt wird. Welche Auswirkungen haben diese Überlegungen auf den Weg und die Erreichung von AGI?

9. AGI Societal Belief und Insurance policies für öffentliche Engagements

Welchen Einfluss wird das gesellschaftliche Vertrauen in KI und das öffentliche Engagement während der Entwicklung und des Erreichens von AGI und insbesondere in Bezug auf mögliche Fehlinformationen und Desinformationen über AGI (und Geheimhaltung in Bezug auf seine Entwicklung) das gesellschaftliche Vertrauen haben?

10. AGI Existenzielle Risikomanagement -Richtlinien

Eine hochkarätige Sorge ist, dass AGI zum Aussterben oder Versklaven des Menschen führt. Welche Auswirkungen hat dies auf den Weg und die Erreichung von Agis?

Weitere Analysen werden an jedem dieser zehn Punkte durchgeführt, was eine hohe Perspektive auf die Agiethik bietet.

Zusätzliche Untersuchungen haben die Checklisten von AI -Ethik untersucht. Eine kürzlich durchgeführte Metaanalyse untersuchte verschiedene konventionelle KI-Checklisten, um Gemeinsamkeiten, Unterschiede und praktische Anwendungen zu identifizieren. Die Studie, „Der Aufstieg der Checkbox -AI -Ethik: Eine Bewertung”Von Sara Kijewski, Elettra Ronchi und Effy Vayena, die im Mai 2025 in AI und Ethik veröffentlicht wurde: hervorgehoben:

• „Wir haben eine beträchtliche und hoch heterogene Anzahl verschiedener praktischer Ansätze identifiziert, um die ethische Implementierung zu leiten.“
• „Dazu gehören nicht nur Instruments, Checklisten, Verfahren, Methoden und Techniken, sondern auch eine Reihe weitaus allgemeinerer Ansätze, die Interpretation und Anpassung erfordern, z. B. für Forschung und ethische Ausbildung/Bildung sowie für die Gestaltung von Ex-Put up-Prüfungs- und Bewertungsprozessen.“
• „Zusammen reflektiert diese Ansätze die unterschiedlichen Perspektiven auf das, was erforderlich ist, um Ethik in den verschiedenen Schritten über den gesamten Lebenszyklus des KI -Programs von der Entwicklung bis zur Bereitstellung zu implementieren.“

Eine andere Studie, “Navigierende künstliche allgemeine Intelligenz (AGI): gesellschaftliche Implikationen, ethische Überlegungen und Governance -StrategienVon Dileesh Chandra Bikkasani, die im Mai 2025 in AI und Ethik veröffentlicht wurde und in spezifische ethische und gesellschaftliche Implikationen von Agi eingeteilt wurde. Die wichtigsten Punkte aus dieser Studie umfassen:

• „Künstliche allgemeine Intelligenz (AGI) stellt einen entscheidenden Fortschritt in der KI mit weitreichenden Auswirkungen auf technologische, ethische und gesellschaftliche Bereiche dar.“
• „Dieses Papier befasst sich mit Folgendem: (1) Eine eingehende Bewertung des Potenzials der AGI in verschiedenen Sektoren und seinen vielfältigen Implikationen, einschließlich signifikanter finanzieller Auswirkungen wie Belegschaftsstörungen, Einkommensungleichheit, Produktivitätsgewinne und potenzieller systemischer Risiken; Implikationen, insbesondere auf geistiges Eigentum und Haftung, und (4) ein vorgeschlagener Governance -Rahmen, um die verantwortungsvolle AGI -Entwicklung und -Bereinigung sicherzustellen. “
• „Darüber hinaus untersucht und befasst sich das Papier die politischen Auswirkungen von AGI, einschließlich nationaler Sicherheit und potenzieller Missbrauch.“

Es ist eine Herausforderung, das Engagement der KI -Entwickler zur Priorisierung der KI -Ethik für konventionelle KI zu sichern. Die Erweiterung dieses Fokus auf modifizierte ethische Überlegungen für AGI wird wahrscheinlich eine noch größere Herausforderung sein. Dieses Engagement erfordert sorgfältige Anstrengungen und einen doppelten Fokus: Bedenken Sie kurzfristige Bedenken der konventionellen AI-Ethik und berücksichtigen gleichzeitig die AGI-Ethik, einschließlich seiner etwas längerfristigen Zeitleiste. Der Zeitplan für die AGI -Errungenschaft wird diskutiert, wobei einige Experten innerhalb weniger Jahre AGI voraussagen, während die meisten Umfragen 2040 als wahrscheinlicher deuten.

Egal, ob Agi noch ein paar Jahre entfernt oder ungefähr fünfzehn Jahre entfernt ist, es ist eine dringende Angelegenheit. Die kommenden Jahre werden schnell vergehen. Wie das Sprichwort sagt,

„Morgen ist ein Rätsel. Heute ist ein Geschenk. Deshalb heißt es die Gegenwart.“

Die Berücksichtigung und Handlung auf Agiethik ist jetzt wichtig, um in Zukunft unerwünschte Überraschungen zu vermeiden.

---

Ausgewähltes Bildnachweis

In den letzten Wochen haben wir die Veröffentlichung mächtiger LLMs wie Qwen 3 Moe, Kimi K2 und Grok 4 gesehen. Wir werden in absehbarer Zeit so rasante Verbesserungen sehen und die LLMs miteinander zu vergleichen, wir benötigen Benchmarks. In diesem Artikel diskutiere ich den neu veröffentlichten ARC AGI 3 -Benchmark und warum Frontier LLMs Schwierigkeiten haben, alle Aufgaben auf dem Benchmark zu erledigen.

Motivation

Heute kündigen wir eine Vorschau von ARC-Agi-3 an, dem interaktiven Argumentations-Benchmark mit der größten Lücke zwischen einfachem Menschen und schwer für die KI

Wir veröffentlichen:
* 3 Spiele (Umgebungen)
* $ 10.000 Agent Contest
* AI -Agenten API

Startbewertungen – Frontier AI: 0%, Menschen: 100% pic.twitter.com/3yy6jv2rdy

– ARC -Preis (@Arcprize) 18. Juli 2025

Meine Motivation, diesen Artikel zu schreiben, ist es, den neuesten Entwicklungen in der LLM -Technologie auf dem Laufenden zu halten. Erst in den letzten Wochen haben wir das gesehen Kimi K2 Modell (Greatest Open-SoUrce -Modell, wenn freigegeben), Qwen 3 235B-A22B (derzeit Bestes Open-Supply-Modell), Grok 4und so weiter. Im LLM -Bereich ist so viel passiert, und eine Möglichkeit, die Benchmarks zu verfolgen, besteht darin, die Benchmarks zu verfolgen.

Ich denke, der AGI-Benchmark ist besonders interessant, vor allem, weil ich sehen möchte, ob LLMs in der Intelligenz auf menschlicher Ebene mithalten können. Arc Agi -Rätsel werden so gemacht, dass Menschen sie vervollständigen können, aber LLMs werden kämpfen.

Sie können auch meinen Artikel lesen Bei der Verwendung von Kontexttechnik, um die LLM -Leistung erheblich zu verbessern und schau dir an Meine Web site, die alle meine Informationen und Artikel enthält.

Inhaltsverzeichnis

Einführung in ARC AGI

ARC AGI ist im Wesentlichen ein Puzzlespiel des Muster -Matchings.

• ARC AGI 1: Sie erhalten eine Reihe von Eingabe-Output-Paaren und müssen das Muster vervollständigen
• Bogen Agi 2: Ähnlich wie beim ersten Benchmark, das Muster -Matching für Eingangs- und Ausgangsbeispiele durchführt
• Bogen Agi 3: Hier spielen Sie ein Spiel, in dem Sie Ihren Block in den Torbereich bewegen müssen, aber einige erforderliche Schritte dazwischen

Ich finde es cool, diese Puzzlespiele zu testen und sie selbst zu vervollständigen. Dann sehen Sie, wie LLMs zunächst mit den Benchmarks zu kämpfen haben, und dann ihre Leistung mit besseren Modellen erhöhen. Openai zum Beispiel erzielte:

• 7,8% mit O1 Mini
• 75% mit O3-Tiefe
• 88% mit O3-Hoch

Wie Sie auch im Bild unten sehen können:

Spielen Sie den ARC AGI -Benchmark

Sie können auch die Bogen -AGI -Benchmarks selbst ausprobieren oder eine KI erstellen, um die Aufgaben auszuführen. Gehe zum ARC AGI 3 Web site und fang an, das Spiel zu spielen.

Der springende Punkt der Spiele ist, dass Sie keine Anweisungen haben und die Regeln selbst herausfinden müssen. Ich genieße dieses Konzept, da es darstellt, dass es ohne Hilfe ein völlig neues Downside herausfindet. Dies unterstreicht Ihre Fähigkeit, neue Umgebungen zu lernen, sich an sie anzupassen und Probleme zu lösen.

Sie können sehen Eine Aufnahme von mir, wie ich Arc Agi 3 hier spieleauf die Probleme zum ersten Mal auf die Probleme. Ich konnte den Hyperlink leider nicht in den Artikel einbetten. Es conflict jedoch tremendous interessant, den Benchmark zu testen und sich vorzustellen, dass ein LLM durchgehen muss, um ihn zu lösen. Ich beobachte zuerst die Umwelt und was passiert, wenn ich die verschiedenen Aktionen ausführe. Eine Aktion in diesem Fall besteht darin, eine der relevanten Tasten zu drücken. Einige Aktionen tun nichts, während andere die Umwelt beeinflussen. Ich gehe dann weiter, um das Ziel des Puzzles aufzudecken (zum Beispiel das Ziel in den Zielbereich) und versuche, dieses Ziel zu erreichen.

Warum Frontier -Modelle 0% erreichen

Dieser Artikel Staaten, dass, wenn Frontier -Modelle in der Vorschau der ARC AGI 3 getestet wurden, 0percenterreichten. Dies magazine für manche Menschen enttäuschend klingen, wenn man bedenkt, dass Sie wahrscheinlich relativ schnell viele Aufgaben selbst erledigen konnten.

Wie ich bereits diskutierte, hatten mehrere OpenAI -Modelle Erfolg mit den früheren AGI -Benchmarks, wobei ihr bestes Modell in der ersten Model 88% erreichte. Die Modelle erreichten jedoch zunächst 0percentoder in den niedrigen einstelligen Prozentsätzen.

Ich habe ein paar Theorien dafür, warum Frontier -Modelle keine Aufgaben auf ARC AGI 3 ausführen konnten:

Kontextlänge

Wenn Sie an ARC AGI 3 arbeiten, erhalten Sie keine Informationen über das Spiel. Das Modell muss somit eine Vielzahl von Aktionen ausprobieren, die Ausgabe dieser Aktionen sehen (zum Beispiel passiert nichts oder ein Block usw.). Das Modell muss dann die Maßnahmen, die es ergriffen hat, zusammen mit der Ausgabe bewerten und seine nächsten Bewegungen berücksichtigen.

Ich glaube, der Aktionsraum auf Arc AGI 3 ist sehr groß und es ist daher schwierig für die Modelle, sowohl zu experimentieren, um die richtige Aktion zu finden als auch die Wiederholung erfolgloser Handlungen zu vermeiden. Die Modelle haben im Wesentlichen ein Downside mit ihrer Kontextlänge und der Verwendung der vollen Länge.

Ich habe kürzlich einen interessanten Artikel von Manus darüber gelesen, wie sie ihre Agenten entwickeln und ihr Gedächtnis verwalten. Sie können Techniken verwenden, z. Ein Dateisystem zum Speichern eines wichtigen Kontextes. Ich glaube, dies wird der Schlüssel zur Steigerung der Leistung des ARC AGI 3 -Benchmarks sein.

Trainingsdatensatz

Ein weiterer Hauptgrund, warum Grenzmodelle nicht in der Lage sind, Bogen -AGI 3 -Aufgaben erfolgreich auszuführen, ist, dass sich die Aufgaben sehr von ihrem Trainingsdatensatz unterscheiden. LLMs wird bei einer Aufgabe quick immer besser abschneiden, wenn eine solche Aufgabe (oder eine ähnliche) im Trainingsdatensatz enthalten ist. In diesem Fall glaube ich, dass LLMs beispielsweise nur wenige Trainingsdaten zum Arbeiten mit Spielen haben. Darüber hinaus sind hier ein wichtiger Punkt auch die Agenten -Trainingsdaten für die LLMs.

Mit Agenten -Trainingsdaten meine ich Daten, bei denen das LLM Instruments verwendet und Aktionen ausführt. Ich glaube, wir sehen einen raschen Anstieg der als Wirkstoffe verwendeten LLMs, und daher nimmt die proportionale Menge an Trainingsdaten für das Agentenverhalten rasch zu. Es könnte jedoch sein, dass aktuelle Frontier -Modelle immer noch nicht so intestine darin sind, solche Aktionen auszuführen, obwohl sie in den kommenden Monaten wahrscheinlich schnell zunehmen wird.

Einige Menschen werden hervorheben, wie dies beweist, dass LLMs keine wirkliche Intelligenz haben: Der springende Punkt der Intelligenz (und der AGI -Benchmark) besteht darin, Aufgaben ohne Hinweise zu verstehen, nur indem sie die Umwelt untersuchen. Bis zu einem gewissen Grad stimme ich diesem Punkt zu und hoffe, dass Modelle aufgrund einer erhöhten Modellinformation und nicht wegen der Benchmark -Verfolgungsjagd, ein Konzept, das ich später in diesem Artikel untersuche, besser auf Arc Agi abschneiden.

Benchmark -Leistung in der Zukunft

Ich glaube, wir werden in Zukunft eine enorme Verbesserung der Modellleistung bei ARC AGI 3 verzeichnen. Vor allem, weil ich denke, dass Sie KI-Agenten erstellen können, die für die Agentenleistung fein abgestimmt sind und ihre Erinnerung optimum nutzen können. Ich glaube, relativ billige Verbesserungen können verwendet werden, um die Leistung erheblich zu verbessern, obwohl ich auch teurere Verbesserungen erwarte (z.

Benchmark -Verfolgungsjagd

Ich denke, es ist wichtig, einen Abschnitt über die Verfolgung von Benchmark zu verlassen. Benchmark -Verfolgungsjagd ist das Konzept der LLM -Anbieter, die optimale Punktzahlen für Benchmarks verfolgen, anstatt einfach die besten oder intelligentesten LLMs zu schaffen. Dies ist ein Downside, da die Korrelation zwischen der Benchmark -Leistung und der LLM -Intelligenz nicht 100percentbeträgt.

In der Verstärkungslernwelt würde das Benchmark -Verfolgungsjagd als Belohnungshacking bezeichnet. Ein Szenario, in dem der Agent einen Weg erteilt, die Umgebung zu hacken, in der er sich befindet, um eine Belohnung zu erhalten, ohne eine Aufgabe ordnungsgemäß auszuführen.

Der Grund, warum LLM -Anbieter dies tun, ist, dass die Menschen normalerweise zwei Dinge betrachten, wenn ein neues Modell veröffentlicht wird:

• Benchmark -Leistung
• Stimmung

Die Benchmark-Leistung wird normalerweise an bekannten Benchmarks wie SWE-Bench und Arc Agi gemessen. Vibe -Checks sind auch ein Weg, wie LLMs oft von der Öffentlichkeit gemessen werden (ich sage nicht, dass es eine gute Möglichkeit zum Testen des Modells ist, ich sage einfach, dass es in der Praxis passiert). Das Downside dabei ist jedoch, dass ich glaube, dass es recht einfach ist, Menschen mit der Stimmung eines Modells zu beeindrucken, da die Vibe -Überprüfung einen sehr kleinen Prozentsatz des Aktionsraums für die LLM versucht. Möglicherweise stellen Sie ihm nur bestimmte Fragen, die im Net verfügbar sind, oder bitten Sie sie, eine Anwendung zu programmieren, die das Modell bereits in seinen Trainingsdaten festgelegt hat.

Sie sollten additionally einen Benchmark selbst haben, beispielsweise einen internen Datensatz, der nicht ins Web durchgeführt wurde. Anschließend können Sie den LLM am besten für Ihren Anwendungsfall reduzieren und mit dieser LLM priorisieren.

Abschluss

In diesem Artikel habe ich LLM -Benchmarks diskutiert und warum sie für den Vergleich von LLMs wichtig sind. Ich habe Sie in den neu veröffentlichten ARC AGI 3 -Benchmark vorgestellt. Dieser Benchmark ist tremendous interessant, wenn man bedenkt, dass Menschen leicht einige der Aufgaben erledigen können, während Frontier -Modelle 0percenterzielen. Dies stellt somit eine Aufgabe dar, bei der die menschliche Intelligenz LLMs immer noch übertrifft.

Wenn wir voranschreiten, werden wir glaube, dass wir bei ARC AGI 3 rasante Verbesserungen bei der LLM -Leistung verzeichnen werden, obwohl ich hoffe, dass dies nicht das Ergebnis der Benchmark -Verfolgung sein wird, sondern die Verbesserung der LLMs in der Geheimdienste.

Sam Altman, CEO von OpenAI, reflektiert den Weg zur Entwicklung von KI-Technologien der nächsten Era. Vom Begin ChatGPT mit voranzukommen GPT-4o, o1 und darüber hinaus teilt er die Herausforderungen, Lehren und Dankbarkeit, die OpenAI geprägt haben. Seine ruhige, aber tiefgründige Perspektive beleuchtet die Bewältigung von Veränderungen und die Arbeit an einer Zukunft, die der Menschheit zugute kommt.

Wir sind jetzt zuversichtlich, dass wir wissen, wie man AGI so aufbaut, wie wir es traditionell verstanden haben. Wir glauben, dass im Jahr 2025 die ersten KI-Agenten „in die Arbeitswelt eintreten“ und die Leistung von Unternehmen grundlegend verändern werden.

Sam Altman

Wichtige Erkenntnisse aus Sam Altmans Reflexion

• Der Begin von ChatGPT warfare bahnbrechend. Es zeigte der Welt, wie mächtig KI sein kann, wie sie echte Probleme lösen und zu einer globalen Sensation werden kann.
• Das schnelle Wachstum von OpenAI brachte große Herausforderungen mit sich. Es passierten Fehler und schwierige Momente – wie Sams plötzliche Entlassung – lehrten harte Lektionen über Führung und Governance.
• Sam ist dem OpenAI-Crew und Unterstützern wie Ron Conway und Brian Chesky zutiefst dankbar, die uns in schwierigen Zeiten mit Sorgfalt, Rat und harter Arbeit zur Seite standen.
• Das Ziel von OpenAI ist die Schaffung von AGI und schließlich der Superintelligenz. Sie konzentrieren sich darauf, dies Schritt für Schritt sicher zu tun, um der Menschheit zu helfen.
• Über AGI hinaus träumt OpenAI von Superintelligenz, um die Wissenschaft und den globalen Wohlstand zu fördern. Es ist eine große Imaginative and prescient, aber Sam ist davon überzeugt, dass sie durch sorgfältige und verantwortungsvolle Innovation Wirklichkeit werden kann.

Lesen Sie auch: 12 Tage OpenAI: Bringen Sie KI in Ihren Urlaub

Die Geburt von ChatGPT und die KI-Revolution

OpenAI begann vor quick neun Jahren mit einer kühnen Imaginative and prescient: die Schaffung künstlicher allgemeiner Intelligenz (AGI), die der Menschheit zugute kommen könnte. Damals glaubten nur wenige an die Möglichkeit von AGI und noch weniger glaubten, dass OpenAI erfolgreich sein könnte. Spulen wir vor ins Jahr 2022: Der Begin von ChatGPT markierte einen Wendepunkt. Was als einfache Demo begann – ursprünglich „Chat With GPT-3.5“ genannt – wurde zu einem globalen Phänomen und revolutionierte die Artwork und Weise, wie Menschen mit KI interagieren.

Die Einführung von ChatGPT löste ein beispielloses Wachstum aus und veränderte nicht nur OpenAI, sondern die gesamte KI-Branche. Es warfare der Wendepunkt, den Altman und sein Crew schon lange erwartet hatten, obwohl sie das Ausmaß seiner Auswirkungen nicht vorhersehen konnten.

Die Herausforderungen beim Aufbau von OpenAI

Die Reise warfare nicht einfach. Der Aufbau eines Unternehmens rund um bahnbrechende Technologie erforderte das Betreten von Neuland. Altman beschreibt den Prozess als „zwei Schritte vorwärts, einen Schritt zurück“ – manchmal sogar „einen Schritt vorwärts, zwei Schritte zurück“. Fehler waren unvermeidlich, aber jeder einzelne bot wertvolle Lektionen.

Einer der herausforderndsten Momente kam, als Altman unerwartet entlassen wurde, ein Ereignis, das er als „Versagen der Regierungsführung“ bezeichnet. Die Erfahrung warfare zwar schmerzhaft, führte aber zu einer stärkeren, kohärenteren OpenAI. Altman betont die Bedeutung vielfältiger Perspektiven und einer robusten Governance bei der Bewältigung komplexer Herausforderungen.

Dankbarkeit und Wachstum

Während der gesamten Reflexion scheint Dankbarkeit durch. Altman drückt seine tiefe Wertschätzung für das OpenAI-Crew, die Companion und Unterstützer aus, die dabei geholfen haben, Krisen zu meistern und das Unternehmen voranzubringen. Er hebt insbesondere die außergewöhnlichen Bemühungen von Ron Conway und Brian Chesky hervor, deren unerschütterliche Unterstützung in turbulenten Zeiten entscheidend zum Überleben von OpenAI beigetragen hat.

Der Weg zu AGI und darüber hinaus

Die Mission von OpenAI bleibt unverändert: AGI aufzubauen, die der gesamten Menschheit zugute kommt. Altman glaubt, dass das Unternehmen diesem Ziel nun näher denn je ist. Er stellt sich eine Zukunft vor, in der KI-Agenten bis 2025 in die Arbeitswelt eintreten, Branchen verändern und reale Probleme lösen.

Aber die Imaginative and prescient endet nicht bei AGI. OpenAI hat nun die Superintelligenz im Visier – eine Zukunft, in der KI wissenschaftliche Entdeckungen, Innovationen und globalen Wohlstand beschleunigt. Auch wenn das wie Science-Fiction klingt, ist Altman zuversichtlich, dass die Welt bald sehen wird, was OpenAI sieht.

Ein Bekenntnis zu Sicherheit und Verantwortung

Während OpenAI die Grenzen der KI verschiebt, bleiben Sicherheit und ethische Überlegungen von größter Bedeutung. Altman betont die Bedeutung einer iterativen Bereitstellung, die es der Gesellschaft ermöglicht, sich an die Technologie anzupassen und sich gemeinsam mit ihr weiterzuentwickeln. Das Engagement von OpenAI für die Sicherheits- und Ausrichtungsforschung ist unerschütterlich, geleitet von Suggestions aus der Praxis und einem Fokus auf breiten Nutzen.

Letzte Gedanken

Sam Altmans Reflexion ist eine Mischung aus Demut, Dankbarkeit und Entschlossenheit. Er ist sich der immensen Herausforderungen bewusst, blickt aber weiterhin optimistisch in die Zukunft. Für OpenAI ist die Reise noch lange nicht zu Ende. Das Unternehmen entwickelt sich weiter, angetrieben von der Imaginative and prescient, KI zu schaffen, die die Menschheit stärkt und eine bessere Welt gestaltet.

Wie Altman es ausdrückt: „Wie glücklich und demütigend es ist, eine Rolle bei dieser Arbeit spielen zu dürfen.“

Sie können die ganze Geschichte lesen Hier.

Knowledge Science Trainee bei Analytics Vidhya, spezialisiert auf ML, DL und Gen AI. Engagiert sich für den Austausch von Erkenntnissen durch Artikel zu diesen Themen. Ich bin begierig darauf, zu lernen und zum Fortschritt auf diesem Gebiet beizutragen. Leidenschaft für die Nutzung von Daten, um komplexe Probleme zu lösen und Innovationen voranzutreiben.