Wenn Sie sich gerade für Junior-Stellen bewerben, ist Ihnen wahrscheinlich etwas Seltsames aufgefallen: Die Stellenausschreibungen sind immer noch vorhanden, aber es ist einfach schwieriger, die Türen zu öffnen. Bewerbungen gehen ins Leere und man sieht, wie Freunde mit anständigen Lebensläufen verschwinden.

Du bildest es dir nicht ein. Ich habe darüber bereits im Weblog berichtet, als ich Anthropics durchgesehen habe Bericht über die Auswirkungen von KI auf den Arbeitsmarkt: Nachwuchskräfte in KI-gefährdeten Berufen zeigen einen echten, statistisch signifikanten Rückgang der Einstiegsquoten für Arbeitnehmer im Alter von 22 bis 25 Jahren. Die Leute werden nicht allzu sehr entlassen (obwohl es Entlassungen bei großen Technologiekonzernen gibt, hat sich die Arbeitslosenquote nicht wesentlich verändert), sie werden einfach gar nicht erst eingestellt.

Im vergangenen Jahr habe ich mehr als 500 Kandidaten für DareData interviewt, aber auch Dutzende Kandidaten für Unternehmen empfohlen, die sich an mich wenden und nach Datenwissenschaftlern, ML-Ingenieuren und Produktmanagern fragen. In diesem Blogbeitrag möchte ich mitteilen, was bei den Menschen, die den Durchbruch geschafft haben, tatsächlich funktioniert. Nichts davon ist „härter anstrengen„Ratschläge, und sie sind mit Sicherheit nicht technischer Natur. Und vieles, was Personalmanagern am Herzen liegt, steht weder auf der Liste der Dinge, auf die Kandidaten sich optimieren sollten – noch in der Stellenausschreibung.

Lasst uns darauf eingehen.

1. Seien Sie die Particular person, die sich um die Dinge kümmert

Dies ist mit Abstand die am meisten unterschätzte Fähigkeit auf dem modernen Arbeitsmarkt. Es ist auch das, worauf ich zuerst achte, wenn ich jemanden für eine Junior-Stelle bewerbe – insbesondere wenn ich nach Situationen suche, in denen er Verantwortung übernommen hat, obwohl er es nicht brauchte. Ich habe darüber gesprochen Diese Fähigkeit beschreibe ich in meinem Führungsblog immer wieder.

„Sich um Dinge kümmern“ hört sich vage an, ist aber einfach: Wenn etwas auf Ihrem Teller liegt, weiß jeder, dass Sie die Ressourcen finden werden, um es zu erledigen (beachten Sie, dass dies nicht bedeutet, dass Sie … die Ressource haben, aber dass du wird die Ressourcen finden benötigt, um eine Aufgabe zu erledigen).

Wenn Sie jemals in einem Crew gearbeitet haben, wissen Sie genau, welche Artwork von Menschen ich meine, und Sie wissen auch, wie selten sie sind.

Der Grund, warum diese Fähigkeit jetzt so wertvoll ist, liegt darin, dass die KI damit umgeht Aufgabe Schicht ziemlich intestine. Was es nicht kann, ist, einen durchgängigen Arbeitsstrang über Menschen, Systeme und Mehrdeutigkeiten hinweg zu verwalten. Das ist die Lücke, die immer wertvoller wird, und wenn man dafür bekannt wird, Kreisläufe zu schließen, Sie werden auf eine Weise anheuerbar, die nicht davon abhängt, welcher Rahmen dieses Jahr angesagt ist.

Sie können diese Fähigkeit überall üben: in der Schule, bei der Freiwilligenarbeit, sogar zu Hause. Nehmen Sie die Aufgabe an, die zu groß erscheint, und meistern Sie sie einfach.

2. Lernen Sie, anderer Meinung zu sein, ohne lästig zu sein

Die klischeehafte Model des Teamwork-Ratschlags lautet „Seien Sie ein Teamplayer“, was zu vage ist. In Vorstellungsgesprächen achte ich eigentlich darauf, ob mir jemand in einem 45-minütigen Gespräch konstruktiv widersprechen kann.

Ich werde eine Meinung äußern, die absichtlich etwas abwegig ist, etwa zu einer architektonischen Entscheidung, einer Prozessfrage oder dem Umfang eines Projekts. Ich möchte sehen, wie die Kandidaten denken und ob sie Ideen und Meinungen austauschen können, ohne in die Defensive zu geraten. Die schlechten Antworten liegen auf der Hand (mir nur zustimmen oder aggressiv argumentieren).

Intestine zu widersprechen ist eine Fähigkeit, die sich mit der Erfahrung verstärkt, aber Sie können sich einen Vorsprung verschaffen, indem Sie einfach beobachten, wie schlecht es den meisten jungen Menschen gelingt.

3. Helfen Sie irgendwo ehrenamtlich

Freiwilligenarbeit ist der heilige Gral der Vernetzung.

Mein erster richtiger Auftritt bei DareData kam über eine Freiwilligenorganisation zustande. Zu diesem Zeitpunkt bewarb ich mich nicht um eine Stelle, sondern half lediglich dabei, die Dinge in einem gemeinnützigen Umfeld zu leiten, wo ich zufällig Leute traf, die später an mich dachten, als eine Führungsposition frei wurde. Wenn Sie sich ehrenamtlich in Bereichen engagieren, die mit Ihrer Arbeit verknüpft sind, setzen Sie sich dem Glück aus.

Der Fehler, den Junioren machen, besteht darin, Freiwilligenarbeit als Lebenslauflinie zu behandeln. Der Lebenslauf ist das Nebenprodukt, während der eigentliche Wert darin besteht, dass man Zeit mit Menschen verbringt, die Dinge tun, und diese Menschen sich an einen erinnern. Sechs Monate später, wenn jemand sagt: „Wir brauchen jemanden für X“, Ihr Identify steht ganz oben auf der Liste, insbesondere wenn Sie Rat Nummer 1 befolgen.

Wenn Sie am Anfang Ihrer Karriere stehen, suchen Sie sich einen Studentenclub, eine NGO, ein Open-Supply-Projekt oder eine Meetup-Gruppe. An einem Ort nützlich sein, an dem nützliche Menschen aufmerksam sind.

4. Ihr Portfolio ist jetzt Ihr Lebenslauf

Wenn Sie technisch versiert sind, ist GitHub wichtig und eine persönliche Web site wichtig. In einer Welt, die von KI-generierten Lebensläufen überschwemmt wird, ist alles wichtig, was es einem Personalmanager ermöglicht, Ihre Arbeit zu sehen.

Wenn ich eine Junior-Bewerbung prüfe, sagt mir der Lebenslauf, was Sie behaupten, aber das Portfolio sagt mir, was tatsächlich wahr ist. Da ich hauptsächlich KI-Ingenieure anheuere, kann ich innerhalb von 30 Sekunden nach einem Blick auf den GitHub einer Particular person erkennen, ob sie versteht, was sie tut, die Commit-Nachrichten, die README-Qualität, die Struktur der Projekte, ob es sich bei den Repos um verlassene Shells oder tatsächlich funktionierende Dinge handelt. Ja, und ich kann auch KI-generierte Slops in Repos erkennen!

Sie brauchen keine beeindruckenden Projekte, Sie brauchen nur echte Projekte, die mit etwas verbunden sind, das Ihnen Spaß macht und das Sie lieben. Die Größe spielt keine Rolle, sondern wie viel Leidenschaft Sie hineinstecken.

Wenn Sie nicht technisch versiert sind: Es gilt die gleiche Logik, nur in einem anderen Format. Eine Portfolio-Web site mit Fallstudien, ein paar intestine geschriebene Analysen auf Medium, eine Präsentationsplattform aus einem echten Projekt, das Sie durchgeführt haben. Alles, was es jemandem ermöglicht, die Arbeit zu bewerten, nicht nur die Behauptung.

5. Schreiben Sie öffentlich

Die meisten jungen Leute denken, dass sie erst dann etwas sagen können, wenn sie mehr Erfahrung haben, und das ist falsch. Ich habe Stücke von Studenten gelesen, die so neugierig waren, dass ich gerne einen langen Aufsatz von ihnen gelesen hätte.

Wählen Sie ein Thema aus, das Ihnen am Herzen liegt, und beginnen Sie, öffentlich darüber zu schreiben. Substack, Medium, LinkedIn, Ihr eigener Weblog, es spielt keine Rolle. Die Plattform ist weniger wichtig als die Konsistenz. Der Grund dafür ist einfach: Die meisten Nachwuchskräfte sind für Personalchefs unsichtbar, bis sie sich bewerben. Wenn Sie sechs Monate lang öffentlich über Ihr Fachgebiet schreiben, kommen Sie bereits halbwissend zum Vorstellungsgespräch. Möglicherweise hat der Personalchef Ihre Informationen gelesen oder Sie bemerkt.

Der Trick besteht darin, über das zu schreiben, was Sie lernen, und nicht über das, was Sie beherrschen. Es ist eine Win-Win-State of affairs: Sie werden möglicherweise wahrgenommen, verbessern aber auch Ihr Verständnis für Themen, über die Sie mehr wissen möchten.

Oh, und lassen Sie niemals zu, dass KI Ihren Schreibstil bestimmt. Jeder kann jetzt offensichtliche KI-Prosa aus einer Meile Entfernung erkennen, daran sollten Sie nicht vorbeigehen.

6. Beherrschen Sie die Arbeit mit KI fließend, bevor die KI ohne Sie funktioniert

Dies ist wahrscheinlich der offensichtlichste Rat.

Bei jedem Junior, den ich jetzt interviewe, stelle ich im Stillen eine Frage: Können sie clever mit einem KI-Device arbeiten? Intelligentes Arbeiten mit KI besteht heute nicht mehr darin, Code oder Absätze aus KI-Instruments zu kopieren. Ich meine mehr: Wissen sie, wann sie der Ausgabe vertrauen, wann sie zurückweisen, wann sie sie überprüfen und wann sie sie verwerfen müssen? Behandeln sie das Mannequin wie einen Teamkollegen, den sie beaufsichtigen, oder wie ein Orakel?

Die Junioren, die gerade eingestellt werden, betrachten KI nach ihrem Ermessen als Multiplikator. Diejenigen, die das nicht tun, betrachten es als Ersatz für ihr Urteilsvermögen.

Arbeiten Sie regelmäßig mit diesen Instruments und achten Sie darauf, wo sie Ihnen helfen und wo sie Ihnen schaden.

Wenn Sie dies als Scholar oder frischgebackener Absolvent lesen, möchte ich Sie nicht täuschen: Der Markt ist schwieriger als er conflict, und die Angst, die Sie empfinden, ist rational. Es wäre falsch, etwas anderes vorzutäuschen.

Aber die Dinge, die Sie jetzt einstellen, sind nicht die Dinge, die KI automatisiert. KI ist intestine bei Aufgaben, aber sie ist nicht intestine darin, einen Arbeitsstrang zwischen Menschen und Mehrdeutigkeiten zu verwalten, in einem Raum voller Meinungen konstruktiv anderer Meinung zu sein, zu bemerken, was niemand zugewiesen hat, und nicht intestine darin, die Particular person zu sein, der Kollegen vertrauen. Das bist immer noch du.

Menschen sind keine Aufgabenausführer. Wir sind die Ebene, die abbildet, wie Aufgaben zusammenhängen, wer was braucht, wann etwas aus dem Ruder läuft und was sich überhaupt lohnt. Diese Ebene wird immer wertvoller, weil immer mehr Ergebnisse im Umlauf sind, die jemanden mit Urteilsvermögen benötigen, um sie zu verstehen.

Treten Sie als Kandidat auf, der bereits den Anschein erweckt, als würde er den Job erledigen, und die Tür öffnet sich. Wenn Sie sich als verlässlicher zukünftiger Profi etablieren, übernimmt Ihr Ruf das Networking für Sie, es sind keine Bewerbungen erforderlich.

Künstliche Intelligenz kann die Entscheidungsfindung verbessern und Maßnahmen mit geringerem Risiko und größerer Präzision ermöglichen, was sie zu einem entscheidenden Instrument für die nationale Sicherheit macht. Ein neues Programm, das gemeinsam von den MIT-Abteilungen für Maschinenbau (Kurs 2, MechE) und Elektrotechnik und Informatik (Kurs 6, EECS) angeboten wird, bietet Marineoffizieren umfassende und vertiefte technische Studiengänge und bietet Nicht-Marineoffizieren, die am MIT studieren, einen Weg, ihr Verständnis für angewandte KI für Marine- und Militäranwendungen zu erweitern.

„Das Potenzial der künstlichen Intelligenz wird gerade erst vollständig ausgeschöpft. Es handelt sich um ein Werkzeug, das Geschwindigkeit, Effizienz und Entscheidungsfindung in unzähligen Anwendungen dramatisch verbessert“, sagt Commander Christopher MacLean, außerordentlicher Professor am MIT für Maschinenbau, Schiffsbau und Ingenieurwesen. „KI ist ein Kraftmultiplikator, der für Datenverarbeitung, Entscheidungsunterstützung, unbemannte und autonome Systeme, Cyberverteidigung, Logistik und Lieferketten, Energiemanagement und viele andere Bereiche eingesetzt werden kann.“

Das Programm mit dem Namen „2N6: Programm für angewandte künstliche Intelligenz für Marineoffiziere„ umfasst einen zweijährigen Grasp of Science in Maschinenbau mit einem begleitenden KI-Zertifikat, verliehen vom MIT Schwarzman School of Computing.

„Die Offiziere, die an diesem Programm teilnehmen, lernen von Experten aus aller Welt, führen relevante Spitzenforschung durch und verlassen das Programm bestmöglich auf ihre Rolle als Führungskräfte im gesamten US-Marineunternehmen“, sagt MacLean.

Der 2N6-Lehrplan ist anwendungsorientiert und der Inhalt ist so aufgebaut, dass er den Subspezialitätscode der US Navy für angewandte künstliche Intelligenz erfüllt. Die Studierenden lernen grundlegende KI-Konzepte sowie Anwendungen zu speziellen Themen kennen, wie z. B. Entscheidungsfindung für Rechenübungen; KI für Fertigung und Design, mit besonderem Schwerpunkt auf Marineanwendungen; und KI für die maritime Autonomie von Oberflächen- und Unterwasserfahrzeugen.

„Der zunehmende Einfluss künstlicher Intelligenz definiert unseren Ansatz zur Problemlösung neu. KI birgt das Potenzial, einige der drängendsten Probleme in nahezu allen Bereichen anzugehen“, sagt Dan Huttenlocher, Dekan des MIT Schwarzman School of Computing und Henry Ellis Warren Professor für Elektrotechnik und Informatik. „Ich fühle mich geehrt, dass das School zu einem so wichtigen Programm beitragen und es unterstützen kann, das die Marineoffiziere unseres Landes mit dem technischen Fachwissen ausstattet, das sie für missionsrelevante Herausforderungen benötigen.“

Das MIT ist seit über einem Jahrhundert ein führendes Zentrum für Schiffsforschung und -design. Die Arbeit am Institut stellt heute bedeutende Fortschritte in den Bereichen Strömungsmechanik und Hydrodynamik, Akustik, Offshore-Mechanik, Meeresrobotik und -sensoren sowie Meeressensorik und -vorhersage dar. Der 2N-Programm wird 2026 sein 125-jähriges Bestehen am MIT feiern.

„Bei MechE setzen wir auf den Einsatz von KI, um neue Grenzen in Forschung und Bildung zu erkunden, mit fundierten Kenntnissen in den Grundlagen, dem Design und der Skalierung physikalischer Systeme“, sagt John Hart, Professor der Klasse von 1922 und Leiter von MechE. „Mit dem 2N6-Programm sind wir stolz darauf, an der Spitze einer so wichtigen Aufgabe bei der Ausbildung der nächsten Technology von Führungskräften für die Marine zu stehen.“

„Durchbrüche in der künstlichen Intelligenz verändern die Gesellschaft und fördern die menschliche Entscheidungsfindung und Kreativität“, sagt Asu Ozdaglar, stellvertretender Dekan des MIT Schwarzman School of Computing, Leiter des EECS und MathWorks-Professor. „Wir freuen uns, gemeinsam mit dem Division of Mechanical Engineering diese wichtige Zusammenarbeit mit der US Navy zu starten. Das Programm wird nicht nur die Spitze der KI-Fortschritte erforschen, sondern auch deren effektive Anwendung im Marineeinsatz.“

2N6 entstand nach einem Besuch des Campus von Admiral Samuel Paparo, Kommandeur des US-Indopazifik-Kommandos, zusammen mit MIT-Provost Anantha Chandrakasan, der damaligen Dekanin für Technik und Chief Innovation and Technique Officer.

„(Admiral Paparo) erhielt einen Überblick über einige der neuesten Arbeiten und Forschungsarbeiten, die das MIT auf dem Gebiet der KI geleistet hat und noch durchführt (und wurde in das 2N-Programm eingeführt)“, sagt MacLean. „Der Admiral stellte die Verbindung her und stellte sich ein angewandtes KI-Programm ähnlich wie 2N vor.“

2N6 wird als Pilotprogramm mindestens zwei Jahre lang laufen. Die erste Kohorte des Programms wird nur aus Offizieren der US-Marine bestehen, eine breitere Ausweitung ist geplant.

„Wir freuen uns, mit diesem neuen Programm auf der langjährigen Beziehung zwischen dem MIT und der US-Marine aufzubauen“, sagt Themis Sapsis, William I. Koch-Professorin für Maschinenbau und Direktorin des Middle for Ocean Engineering am MIT. „Es ist speziell darauf ausgelegt, Marineoffiziere in den Grundlagen und Anwendungen der KI zu schulen, sie aber auch in Forschungsarbeiten einzubeziehen, die direkte Auswirkungen auf die Marine haben. Wir glauben, dass 2N6 ein neues Paradigma für eine fortgeschrittene KI-Ausbildung modellieren kann, die sich allgemeiner auf die Unterstützung der nationalen Sicherheit konzentriert.“

Im aktuellen Zeitalter der KI wären alle technischen Ingenieure mit LLMs vertraut. Diese LLMs haben es uns leichter gemacht, Aufgaben zu erledigen, indem wir sie mit der Übernahme bestimmter sich wiederholender Aufgaben beauftragen. Als KI-Ingenieure hat dies zweifellos unsere Leistung gesteigert.

Jedes Mal, wenn wir LLMs verwenden, verwenden wir jedoch eine erhebliche Anzahl von Token. Diese Token dienen uns als Eintrittskarte für die Kommunikation mit diesen Modellen. Bei der Verwendung eines Argumentationsmodells werden zusätzliche Token als Argumentationstoken verwendet. Leider sind die verwendeten Token auch sehr teuer, was dazu führt, dass der Benutzer das Tariflimit oder eine Abonnement-Paywall erreicht.

Um unsere Token-Nutzung und damit die Gesamtkosten zu senken, werden wir eine neue Notation untersuchen, die gerade aufgetaucht ist und die Token-Oriented Object Notation (TOON) genannt wird.

Was ist JSON?

JavaScript Object Notation, oder JSON, ist ein leichtes Datenaustauschformat, das sowohl für Pc einfach zu analysieren und zu erstellen als auch für Menschen leicht zu lesen und zu schreiben ist. Es eignet sich perfekt für den Austausch strukturierter Daten zwischen Systemen, beispielsweise zwischen einem Consumer und einem Server in Webanwendungen, da es Daten als Schlüssel-Wert-Paare, Arrays und verschachtelte Strukturen darstellt. Nahezu alle Programmiersprachen können JSON nativ akzeptieren, da es textbasiert und sprachunabhängig ist. JSON-formatierte Daten sehen etwa so aus:

{
  "title": "Hamzah",
  "age": 22,
  "expertise": ("Gen AI", "CV", "NLP"),
  "work": {
    "group": "Analytics Vidhya",
    "position": "Information Scientist"
  }
}

Mehr lesen: JSON-Eingabeaufforderung

Was ist TOON?

Token-Oriented Object Notation (TOON) ist ein kompaktes, für Menschen lesbares Serialisierungsformat, das für die effiziente Weitergabe strukturierter Daten entwickelt wurde Große Sprachmodelle (LLMs) bei deutlich geringerem Einsatz von Token. Es dient als verlustfreier Drop-in-Ersatz für JSON und ist speziell für die LLM-Eingabe optimiert.

Für Datensätze mit einheitlichen Arrays von Objekten, bei denen jedes Factor die gleiche Struktur hat (z. B. Zeilen in einer Tabelle), funktioniert TOON besonders intestine. Es schafft ein strukturiertes und tokeneffizientes Format, indem es die tabellarische Kompaktheit von CSV mit der einrückungsbasierten Lesbarkeit von YAML verbindet. JSON ist möglicherweise immer noch eine bessere Darstellung für tief verschachtelte oder unregelmäßige Daten, auch wenn TOON sich bei der Verwaltung tabellarischer oder zuverlässig strukturierter Daten auszeichnet.

Im Wesentlichen bietet TOON die Kompaktheit von CSV mit der Strukturkenntnis von JSON und hilft LLMs dabei, Daten zuverlässiger zu analysieren und zu analysieren. Betrachten Sie es als eine Übersetzungsebene: Sie können JSON programmgesteuert verwenden und es dann für eine effiziente LLM-Eingabe in TOON konvertieren.

Zum Beispiel:

JSON (tokenlastig):

{
  "customers": (
    { 
      "id": 1, 
      "title": "Alice", 
      "position": "admin" 
    },
    { 
      "id": 2, 
      "title": "Bob", 
      "position": "person" 
    }
  )
}

TOON (Token-effizient):

customers(2){id,title,position}:1,Alice,admin2,Bob,person

Hauptmerkmale

• Tokeneffizient: Erzielt 30–60 % weniger Token als formatiertes JSON für große, einheitliche Datensätze, wodurch die LLM-Eingabekosten erheblich gesenkt werden.
• LLM-freundliche Leitplanken: Explizite Feldnamen und deklarierte Array-Längen erleichtern Modellen die Validierung der Struktur und die Aufrechterhaltung der Konsistenz.
• Minimale Syntax: Eliminiert überflüssige Satzzeichen wie geschweifte Klammern und die meisten Anführungszeichen und sorgt so für ein übersichtliches und lesbares Format.
• Einrückungsbasierte Struktur: Ähnlich wie YAML verwendet TOON Einrückungen anstelle von geschachtelten Klammern, um die Hierarchie darzustellen und so die Übersichtlichkeit zu erhöhen.
• Tabellarische Arrays: Definiert Schlüssel einmal und streamt dann Datenzeilen effizient, preferrred für Datensätze mit einem konsistenten Schema.
• Optionale Schlüsselklappfunktion: Ermöglicht das Zusammenfassen verschachtelter Einzelschlüssel-Wrapper in gepunktete Pfade (z. B. information.metadata.objects), wodurch die Einrückung und die Tokenanzahl weiter reduziert werden.

Benchmark-Leistung

Den Testergebnissen zufolge schneidet TOON hinsichtlich Genauigkeit und Token-Effizienz regelmäßig besser ab als herkömmlichere Datenformate wie JSON, YAML und XML. Mit einer Genauigkeit von 73,9 % und nur 2.744 Token weist TOON das beste Gleichgewicht zwischen Korrektheit und Kompaktheit bei 209 Abrufproblemen und vier verschiedenen LLMs auf. Im Vergleich zu JSON, das eine geringere Genauigkeit von 69,7 % erreicht und gleichzeitig 39,6 % mehr Token verwendet, ist dies weitaus effizienter. Unter allen untersuchten Formen weist TOON die höchste Gesamteffizienz auf, da beim Benchmark-Scoring die Genauigkeit professional 1.000 Token berücksichtigt wird.

Insgesamt zeigt der Benchmark, dass TOON ein besseres Gleichgewicht zwischen struktureller Klarheit, Token-Kosten und Genauigkeit bietet. Aufgrund seines Designs können LLMs Informationen konsistenter extrahieren, tabellarische und verschachtelte Muster leichter verstehen und über eine Vielzahl von Datensatztypen hinweg eine hervorragende Leistung aufrechterhalten. In vielen realen Abrufanwendungen machen diese Eigenschaften TOON zu einem LLM-freundlicheren Datenformat als JSON, YAML, XML oder sogar CSV.

Auf einem Spielplatz können Sie die TOON-Leistung testen:

Wann sollte TOON nicht verwendet werden?

Während TOON eine außergewöhnlich gute Leistung erbringt einheitliche Arrays von Objektengibt es Szenarien, in denen andere Datenformate effizienter oder praktischer sind:

• Tief verschachtelte oder uneinheitliche Strukturen: Wenn Daten viele verschachtelte Ebenen oder inkonsistente Felder aufweisen (tabellarische Eignung ≈ 0 %), verwendet kompaktes JSON möglicherweise tatsächlich weniger Token. Dies ist häufig bei komplexen Konfigurationsdateien oder hierarchischen Metadaten der Fall.
• Halbeinheitliche Arrays (~40–60 % tabellarische Berechtigung): Mit abnehmender Strukturkonsistenz verlieren Token-Einsparungen an Bedeutung. Wenn Ihre vorhandenen Datenpipelines bereits auf JSON basieren, ist es möglicherweise bequemer, dabei zu bleiben.
• Reine tabellarische Daten: Für flache Datensätze: CSV bleibt das kompakteste Format. TOON führt einen kleinen Overhead (~5–10 %) ein, um Strukturelemente wie Feldheader und Array-Deklarationen einzubinden, die die LLM-Zuverlässigkeit verbessern, aber die Größe leicht erhöhen.
• Latenzkritische Anwendungen: In Setups, in denen die Finish-to-Finish-Reaktionszeit oberste Priorität hat, vergleichen Sie TOON und JSON, bevor Sie eine Entscheidung treffen. Einige Bereitstellungen, insbesondere mit lokalen oder quantisierten Modellen (z. B. Ollama) – kann kompaktes JSON trotz der Token-Einsparungen von TOON schneller verarbeiten. Vergleichen Sie immer TTFT (Time To First Token), Token professional Sekunde und Gesamtverarbeitungszeit für beide Formate.

Läuft TOON

Derzeit gibt es eine breite Palette von TOON-Implementierungen in mehreren Programmiersprachen, die sowohl von offiziellen als auch von der Neighborhood betriebenen Bemühungen unterstützt werden. Viele ausgereifte Versionen sind bereits verfügbar Fünf Implementierungen befinden sich noch in der aktiven Entwicklungwas auf anhaltendes Wachstum und eine Erweiterung des Ökosystems hinweist. Die derzeit in Entwicklung befindlichen Implementierungen sind: .NET (toon_format), Dart (toon), Go (gotoon), Python (toon_format) und Rust (toon_format).

Sie können die Set up von TOON hier verfolgen. Aber vorerst werde ich TOON mit Hilfe von implementieren Toon-Python Paket.

Lassen Sie uns einen einfachen Code ausführen, um die Hauptfunktion von toon-python zu sehen:

Set up

Beginnen wir zunächst mit der Set up

!pip set up git+https://github.com/toon-format/toon-python.git -q

Der TOON-API konzentriert sich auf zwei Hauptfunktionen: kodieren Und dekodieren.

encode() Konvertiert jeden JSON-serialisierbaren Wert in das kompakte TOON-Format, verarbeitet verschachtelte Objekte, Arrays, Datumsangaben und BigInts automatisch und bietet optionale Steuerelemente wie Einrückung und Schlüsselfaltung.

decode() kehrt diesen Prozess um, liest TOON-Textual content und rekonstruiert die ursprünglichen JavaScript-Werte, wobei eine strenge Validierung verfügbar ist, um fehlerhafte oder inkonsistente Strukturen zu erkennen.

TOON unterstützt auch anpassbare Trennzeichen wie Kommas, Tabulatoren und Pipes. Diese wirken sich darauf aus, wie Array-Zeilen und Tabellendaten getrennt werden, sodass Benutzer die Lesbarkeit oder Token-Effizienz optimieren können. Insbesondere Tabs können den Token-Verbrauch weiter reduzieren, da sie kostengünstig tokenisiert werden und die Quotierung minimieren.

Sie können dies überprüfen Hier.

Code-Implementierung

Schauen wir uns additionally einige Code-Implementierungen an.

Ich habe nach dem Abschlussteil einen Hyperlink zu meinem Github-Repository eingefügt, in dem ich TOON in einem einfachen Chatbot verwendet habe, falls Sie sehen möchten, wie Sie TOON in Ihren Code integrieren können.

Die Hauptimportfunktion für Python Umsetzung wäre von toon_format.

1. geschätzte_Einsparungen + vergleichende_Formate + count_tokens

Dieser Block nimmt ein Python-Wörterbuch, konvertiert es sowohl in JSON als auch in TOON und berechnet, wie viele Token jedes Format verwenden würde. Anschließend wird der Prozentsatz der Token-Einsparungen ausgedruckt, ein direkter Vergleich angezeigt und schließlich werden die Token für eine TOON-Zeichenfolge direkt gezählt.

from toon_format import estimate_savings, compare_formats, count_tokens

# Measure financial savings
information = {
    "customers": (
        {
            "id": 1,
            "title": "Alice"
        },
        {
            "id": 2,
            "title": "Bob"
        }
    )
}

consequence = estimate_savings(information)
print(f"Saves {consequence('savings_percent'):.1f}% tokens")  # Saves 42.3% tokens

# Visible comparability
print(compare_formats(information))

# Rely tokens straight
toon_str = encode(information)
tokens = count_tokens(toon_str)  # Makes use of tiktoken (gpt5/gpt5-mini)

2. geschätzte_Einsparungen für Benutzerdaten

In diesem Abschnitt wird gemessen, wie viele Token die Daten des Benutzers in JSON vs. TOON erzeugen würden. Es druckt die Tokenanzahl für beide Formate und die prozentualen Einsparungen, die durch den Wechsel zu TOON erzielt wurden.

from toon_format import estimate_savings

# Your precise information construction
user_data = {
    "customers": (
        {"id": 1, "title": "Alice", "electronic mail": "(electronic mail protected)", "energetic": True},
        {"id": 2, "title": "Bob", "electronic mail": "(electronic mail protected)", "energetic": True},
        {"id": 3, "title": "Charlie", "electronic mail": "(electronic mail protected)", "energetic": False}
    )
}

# Evaluate codecs
consequence = estimate_savings(user_data)

print(f"JSON: {consequence('json_tokens')} tokens")
print(f"TOON: {consequence('toon_tokens')} tokens")
print(f"Financial savings: {consequence('savings_percent'):.1f}%")

3. Schätzung der mit TOON eingesparten Kosten

Dieser Block führt Token-Einsparungen für einen größeren Datensatz (100 Elemente) durch und gilt dann GPT-5 Preisgestaltung, um zu berechnen, wie viel jede Anfrage in JSON im Vergleich zu TOON kostet. Es druckt die Kostendifferenz professional Anfrage und die prognostizierten Einsparungen über 10.000 Anfragen.

from toon_format import estimate_savings

# Your typical immediate information
prompt_data = {
    "context": (
        {"position": "system", "content material": "You're a useful assistant"},
        {"position": "person", "content material": "Analyze this information"}
    ),
    "information": (
        {"id": i, "worth": f"Merchandise {i}", "rating": i * 10}
        for i in vary(1, 101)  # 100 objects
    )
}

consequence = estimate_savings(prompt_data("information"))

# GPT-5 pricing (instance: $0.01 per 1K tokens)
cost_per_1k = 0.01

json_cost = (consequence('json_tokens') / 1000) * cost_per_1k
toon_cost = (consequence('toon_tokens') / 1000) * cost_per_1k

print(f"JSON value per request: ${json_cost:.4f}")
print(f"TOON value per request: ${toon_cost:.4f}")
print(f"Financial savings per request: ${json_cost - toon_cost:.4f}")
print(f"Financial savings per 10,000 requests: ${(json_cost - toon_cost) * 10000:.2f}")

Abschluss

Durch die Bereitstellung eines organisierten, kompakten und äußerst tokeneffizienten Ersatzes für herkömmliche Formate wie JSON stellt TOON eine bedeutende Veränderung in der Artwork und Weise dar, wie wir Daten für LLMs vorbereiten. Die Reduzierung der Token-Nutzung führt unmittelbar zu geringeren Betriebskosten, insbesondere für Benutzer, die professional Token über API-Gutschriften zahlen, da immer mehr Entwickler auf LLMs für Automatisierung, Analyse und Anwendungsworkflows angewiesen sind. TOON erhöht außerdem die Extraktionsgenauigkeit, verringert Mehrdeutigkeiten und erhöht die Modellzuverlässigkeit in einer Vielzahl von Datensätzen, indem es Daten vorhersehbarer und für Modelle einfacher zu verarbeiten macht.

Formate wie TOON haben das Potenzial, die Artwork und Weise, wie LLMs in Zukunft mit strukturierten Daten umgehen, völlig zu verändern. Effiziente Darstellungen werden bei der Verwaltung von Kosten, Verzögerungen und Leistung immer wichtiger KI Systeme entwickeln sich weiter, um größere, kompliziertere Kontexte zu bewältigen. Entwickler werden in der Lage sein, umfangreichere Apps zu erstellen, ihre Arbeitslasten effektiver zu skalieren und schnellere, genauere Ergebnisse zu liefern, indem sie Instruments verwenden, die den Token-Verbrauch reduzieren, ohne die Struktur zu beeinträchtigen. TOON ist nicht nur ein neues Datenformat. Es ist ein Schritt in eine Zeit, in der jeder intelligenter, kostengünstiger und effektiver mit LLMs umgehen kann.

Häufig gestellte Fragen

Da künstliche Intelligenz in praktisch jedem Aspekt des täglichen Lebens sowohl aus persönlicher als auch aus geschäftlicher Sicht immer mehr an Bedeutung gewinnt, wird die Datensouveränität immer wichtiger. Datensouveränität ist nichts Neues. Datensouveränität bezieht sich auf das Konzept, dass Daten den Gesetzen und Vorschriften des Landes unterliegen, in dem sie erhoben, gespeichert und verarbeitet werden. Jedes Land hat die Autorität, die Daten innerhalb seiner Grenzen zu verwalten und seine eigenen Gesetze zur Datennutzung, zum Schutz und zur Wahrung der Privatsphäre durchzusetzen. Bestimmte Vorschriften können außerdem die Platzierung von Daten auf eine kurze Liste von Ländern beschränken. Datensouveränität umfasst viele Arten von Daten wie Finanzdaten, persönliche Informationen und geistiges Eigentum.

Die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union ist ein Beispiel für Datensouveränität. Die DSGVO schreibt vor, dass personenbezogene Daten von EU-Bürgern gemäß den EU-Gesetzen geschützt werden müssen, unabhängig davon, wo die Daten gespeichert oder verarbeitet werden. Zu den wichtigsten Aspekten der DSGVO gehört der Datenstandort, wobei ein in der EU tätiges Unternehmen personenbezogene Daten von EU-Bürgern auf Servern innerhalb der EU oder in Ländern speichern und verarbeiten muss, die nach Feststellung der EU über angemessene Datenschutzgesetze verfügen. Unternehmen, auch solche mit Sitz außerhalb der EU, müssen die DSGVO einhalten, wenn sie personenbezogene Daten von EU-Bürgern verarbeiten. Dazu gehört die Umsetzung geeigneter technischer und organisatorischer Maßnahmen zum Schutz der Daten. Wenn Daten außerhalb der EU übertragen werden müssen, muss das Empfängerland über gleichwertige Datenschutzgesetze verfügen oder das Unternehmen muss bestimmte Mechanismen wie Standardvertragsklauseln (SCCs) oder verbindliche Unternehmensregeln (BCRs) verwenden, um sicherzustellen, dass die Daten angemessen geschützt sind.

Die DSGVO ist nur ein Beispiel dafür, wie die Datensouveränität Organisationen dazu zwingt, genau darauf zu achten, wo ihre Daten gespeichert sind, und die volle Kontrolle über die Bewegung der Daten zu haben, sofern diese überhaupt stattfindet. Während sich Datensouveränität traditionell auf die Einhaltung von Vorschriften konzentrierte, brachte KI einen neuen Impuls für die Datensouveränität – die Kontrolle über KI. Aufgrund der zunehmenden Bedeutung von KI sind viele Länder und Regierungsbehörden daran interessiert, in KI zu investieren, um Wettbewerbsvorteile zu erzielen, anstatt ins Hintertreffen zu geraten. Um ihr KI-Schicksal zu kontrollieren, achten viele Länder genau auf den Standort von Daten und Datenverarbeitung. Daher bauen sie souveräne KI-Infrastrukturen mit lokalen Anbietern auf, um Abhängigkeiten von Anbietern zu verringern, die Infrastruktur im Ausland haben oder die Vorschriften eines anderen Landes einhalten müssen.

Um die Datensouveränität effektiv zu gewährleisten, müssen Organisationen die Datenschutz- und Privatsphärengesetze verstehen, die ihre Daten betreffen, unabhängig davon, ob dies auf die Artwork der Daten oder auf die spezifischen Vorschriften des Landes oder der Länder zurückzuführen ist, in denen die Daten gespeichert und verarbeitet werden. Es ist von größter Bedeutung, robuste Datenverwaltungsrichtlinien zu entwickeln und durchzusetzen, die den gesetzlichen Anforderungen der Gerichtsbarkeit entsprechen. Organisationen müssen regelmäßige Audits und Bewertungen durchführen, um die Einhaltung sicherzustellen, und Mitarbeiter und Stakeholder kontinuierlich über die Anforderungen und Greatest Practices zur Datensouveränität informieren, um die Einhaltung in der gesamten Organisation sicherzustellen.

Die wohl größte Herausforderung für die Datensouveränität ergibt sich aus der Natur des Cloud-Computing. Sofern sich ein Unternehmen nicht dazu entschließt, alle seine Daten vor Ort mit seiner eigenen IT zu verwalten oder einen Anbieter zu nutzen, der „On Premises as a Service“ unterstützt, kontrollieren ein oder mehrere Cloud-Anbieter die Platzierung von Daten, Metadaten und Datenkopien. Während öffentliche Cloud-Anbieter es Ihnen ermöglichen, den Speicherort der primären Datenkopie zu bestimmen, kann der Anbieter weitere Datenkopien für die Notfallwiederherstellung oder aus anderen Gründen in einem anderen Land erstellen oder Metadaten in ein anderes Land senden.

Aus Compliance-Gründen sollten sich Unternehmen daher mit den Richtlinien des Cloud-Anbieters in Bezug auf die Datensouveränität intestine auskennen. Um die KI-Kontrolle zu gewährleisten, sollten Unternehmen souveräne KI nur mit Anbietern aufbauen, die „On Premises as a Service“ ermöglichen, bei dem alle Daten, einschließlich aller sekundären Kopien der Daten und Metadaten, auf Servern im gewünschten Land gespeichert werden. So wird das Risiko eines ausländischen Zugriffs auf wichtige KI-Daten verringert.

Über den Autor

Yoram Novick ist Präsident und CEO von Zadara. Er verfügt über umfassendes Fachwissen in den Bereichen Unternehmenssysteme, Cloud Computing, Speicher und Software program und kann auf eine über 25-jährige Erfolgsgeschichte im Aufbau erfolgreicher Startups zurückblicken. Er ist als Firmengründer, CEO und ehemaliges Vorstandsmitglied und Berater verschiedener Technologieunternehmen wie Topio, Maxta, Storwize, Druva und Kapow bekannt. Yoram hält 25 Patente in den Bereichen Systeme, Speicher und Cloud. Er hat sowohl einen Bachelor- als auch einen Masterabschluss in Informatik von der Ben-Gurion-Universität des Negev.

Melden Sie sich für die kostenlosen insideAI Information an Publication.

Folgen Sie uns auf Twitter: https://twitter.com/InsideBigData1

Folgen Sie uns auf LinkedIn: https://www.linkedin.com/firm/insideainews/

Folgen Sie uns auf Fb: https://www.fb.com/insideAINEWSNOW