Das moderne Auto ist nicht mehr nur eine mechanische Maschine. Es hat sich zu einer Sammlung digitaler Systeme entwickelt, die auf Rädern herumrollen. Von Navigation und mobilen Apps bis hin zu Sensoren und Over-the-Air-Updates ist alles dabei.

All diese Intelligenz hat Fahrzeuge definitiv nützlich gemacht und das Leben viel einfacher gemacht. Aber es hat sie (und uns) auch ein wenig anfälliger gemacht Cyberangriffe als uns lieb ist.

Gründe, warum intelligente Autos anfälliger für Cyber-Bedrohungen sind

Erhöhte Konnektivität

Einer der Hauptgründe dafür, dass Fahrzeuge heute anfälliger sind, ist die verbesserte Konnektivität, die mehr Einfallstore für böswillige Hacker geschaffen hat. Von Bluetooth und Wi-Fi bis hin zu Cloud- und mobilen Apps ist jeder Verbindungspunkt ein potenzieller Zugang.

Moderne Fahrzeuge sind nicht mehr isoliert. Sie kommunizieren ständig mit anderen externen Systemen. Je mehr Komfort Ihr Auto bietet, desto exponierter wird es.

Softwarezentriertes Fahrzeugdesign

Ein weiterer Grund ist, dass Fahrzeuge heutzutage mehr Laptop als Fahrzeuge sind. Quick jede Funktion, vom Bremsen und Lenken bis hin zu Infotainment und Diagnose, ist auf Software program angewiesen.

Und wie wir wissen, nimmt die Komplexität von Software program sehr schnell zu. Bei dieser Komplexität besteht immer die Möglichkeit versteckter Lücken, die Hacker ausnutzen können.

Sich entwickelnde Software program-Bedrohungen

Angreifer bleiben nicht wirklich nonetheless. Mit der Weiterentwicklung der Technik erweitern sie auch ihre Fähigkeiten. Das hat zur Folge, dass etwas, das gestern noch sicher warfare, den Bedrohungen von morgen möglicherweise nicht mehr standhalten kann.

Wenn eine Schwachstelle heute entdeckt wird, kann sie außerdem problemlos ausgenutzt und noch schneller ausgenutzt werden. Das ist das Genauer Grund, warum Cybersicherheit nie eine einmalige Set up warfare – es ist ein fortlaufender Prozess mit ständigen Verbesserungen.

Warum Cybersicherheit im Automobilbereich unerlässlich ist

Schutz von Fahrzeugsystemen und Fahrersicherheit

Einer der Hauptgründe, warum Cybersicherheit im Automobilbereich so wichtig ist, besteht darin, dass sie Fahrzeugsysteme und die Sicherheit des Fahrers schützt. Wie bereits erwähnt, sind moderne Fahrzeuge stark auf vernetzte Systeme angewiesen.

Dinge wie Bremsen, Lenken, Beschleunigung und Stabilität sind alle miteinander verbunden. Das bedeutet, dass eine Kompromittierung in einem der Systeme potenziell Auswirkungen auf andere Systeme haben kann (aufgrund der gegenseitigen Abhängigkeit). Und deshalb müssen alle Systeme (insbesondere sicherheitskritische) jederzeit vor unbefugten Eingriffen geschützt bleiben.

Die Cybersicherheit im Automobilbereich schützt mehrere Schichten eines FahrzeugsDadurch wird sichergestellt, dass sich jedes System unter allen Betriebsbedingungen vorhersehbar verhält. Sie verhindern selbst kleinere Verstöße, die möglicherweise zu Risiken für die physische Sicherheit führen könnten.

Sicherung sensibler Fahrer- und Fahrzeugdaten

Auch die Cybersicherheit im Automobilbereich ist von entscheidender Bedeutung, da sie dazu beiträgt, Fahrer- und Fahrzeugdaten zu schützen. Moderne Fahrzeuge sammeln und verarbeiten mittlerweile große Datenmengen, darunter Standortverlauf, Fahrmuster und Benutzerpräferenzen. Vergessen Sie nicht, dass sie auch auf einer viel tieferen Ebene eine Verbindung zu Telefonen herstellen – und dasselbe Telefon regelt das Privatleben vieler Menschen.

Ohne das richtige Schutzniveau sind diese Daten anfällig für unbefugten Zugriff oder Missbrauch. Zuverlässige Cybersicherheit stellt sicher, dass Benutzer darauf vertrauen können, wie das Fahrzeug Daten sammelt, speichert und überträgt.

Das Vertrauen der Verbraucher wahren

Vertrauen in Automobilmarken ist oft mit Sicherheit und Zuverlässigkeit verbunden. Daher kann ein einzelner Cybersicherheitsvorfall den Ruf einer Marke erheblich schädigen. Benutzer können Softwarefehler nicht wirklich von Produktfehlern unterscheiden.

Es hilft nicht, dass wir uns im Informationszeitalter befinden, in dem sich Vorfälle sehr schnell über Medien und soziale Plattformen verbreiten. Selbst wenn es sich lediglich um ein Missverständnis handelt, könnte Ihr Markenimage bereits ruiniert sein, bevor Sie überhaupt reagieren. Und wenn das Vertrauen einmal verloren geht, kann es nahezu unmöglich sein, es wiederherzustellen.

Außerdem lesen Kunden heute Bewertungen anderer Verbraucher, bevor sie ein Auto kaufen. Und die digitale Sicherheit steht auf der Liste der zu berücksichtigenden Kriterien genauso wichtig wie die physische Sicherheit. Aus diesem Grund ist Cybersicherheit zu einem Wettbewerbsvorteil für Fahrzeugmarken geworden.

Einhaltung der Branchenvorschriften

Angesichts der zunehmenden Bedrohungen werden die Cybersicherheitsstandards im Automobilbereich weltweit immer strenger. Hersteller sind nun verpflichtet, definierte Cybersicherheitsprozesse und -kontrollen einzuhalten. Die Einhaltung dieser Anforderungen ist an Zulassungen, Marktzugang und Zertifizierung geknüpft.

Dies ist jedoch nichts Unerwartetes – die Vorschriften entwickeln sich entsprechend der Geschwindigkeit der vernetzten Fahrzeugtechnologie weiter. Wenn ein Unternehmen die Vorschriften nicht einhält, muss es wahrscheinlich mit verzögerten Produkteinführungen oder einem eingeschränkten Vertrieb rechnen (häufig von den Regierungen der Zielländer auferlegt).

Schutz umliegender Ökosysteme (externe Schnittstellen)

Nicht zuletzt ist die Cybersicherheit im Automobilbereich von entscheidender Bedeutung für den Schutz digitaler Ökosysteme, die mit den Systemen des Fahrzeugs interagieren. Wie bereits erwähnt, funktionieren Fahrzeuge nicht mehr isoliert – sie sind mit mobilen Apps, den Cloud-Plattformen und der Infrastruktur der Hersteller verbunden.

Wenn ein Angreifer Zugriff auf die Fahrzeugsysteme erhält, könnte er diese als Einstiegspunkt für damit verbundene externe Schnittstellen nutzen. Daher könnte das Stoppen von Angriffen auf das Fahrzeug selbst der einfachste Weg sein, um sicherzustellen, dass die anderen Systeme geschützt sind.

Abschluss

Da Fahrzeuge immer intelligenter werden, gibt es natürlich auch eine größere Angriffsfläche für Cyber-Angreifer. Daher ist Cybersicherheit kein „Good-to-have“ mehr. Es ist zu einem Teil des gesamten Fahrzeugdesigns geworden. In quick allen Ländern wird die digitale Sicherheit ebenso wichtig wie die physische Sicherheit. Regierungen haben dies zur Voraussetzung gemacht, um den Verkauf von Fahrzeugen auf ihren Märkten zu ermöglichen. Bei der Erfüllung der Anforderungen geht es additionally nicht nur darum, die Sicherheit ihrer Systeme zu gewährleisten; Es entscheidet darüber, ob Marken ihre Fahrzeuge überhaupt verkaufen können oder nicht.

Der zugrunde liegende Mechanismus, den eine Plattform verwendet, um die Wahrheit zu ermitteln, bestimmt ihre Sicherheit, Effizienz und ihren regulatorischen Standing. Wenn Sie einen Prognosemarkt aufbauen, ist die Entscheidung, wer oder was den Good Contract löst, die wichtigste technische Entscheidung, vor der Sie stehen.

Die Architektur der Wahrheit in Prognosemärkten

Ein schlecht gestaltetes Orakel erzeugt Manipulationsvektoren. Ein hyperdezentrales Orakel führt zu inakzeptablen Verzögerungen. Das Finden der genauen Stability entscheidet darüber, ob Ihr Projekt den Kontakt mit Unklarheiten in der realen Welt übersteht.

LegalBison bewertet die Oracle-Mechanik genau, bevor es den rechtlichen Fußabdruck eines Kunden strukturiert. Als Boutique-Rechts- und Unternehmensdienstleistungsunternehmen, das Kryptolizenzen und den Aufbau von Gaming-Unternehmen auf globalen Märkten anbietet, ist sich LegalBison bewusst, dass die technische Architektur die rechtliche Haftung vorschreibt.

Eine Plattform, auf der Betreiber Ergebnisse manuell auflösen, unterliegt völlig anderen Compliance-Verpflichtungen als eine Plattform, die vollständig durch autonome Good Contracts gesteuert wird.

Wir haben die drei vorherrschenden Auflösungsrahmen im gesamten Vorhersageökosystem geprüft, um ihre mechanischen und regulatorischen Kompromisse zu verstehen.

Was passiert, wenn Benutzer unterschiedlicher Meinung über den Ausgang eines komplexen geopolitischen Ereignisses sind? Wer besitzt die Schlüssel zu den hinterlegten Geldern? Wenn wir die von Augur, Polymarket und Manifold Markets verwendeten Systeme aufschlüsseln, sehen wir drei völlig unterschiedliche Philosophien für die Beilegung von Streitigkeiten in der Kette und außerhalb der Kette.

Augur und der REP-Token: Absolute Dezentralisierung

Augur betrachtet die Wahrheit als einen absoluten wirtschaftlichen Konsens. Das Protokoll fungiert als vertrauenswürdiges Netzwerk auf Ethereum und beseitigt jeden Single Level of Failure oder zentralisierte Entscheidungsfindung. Die Entwickler haben keine Möglichkeit, auf treuhänderische Gelder zuzugreifen, Märkte abzuwickeln oder Aufträge zu ändern (Peterson et al., 2015).

Dies schafft ein Umfeld, in dem die Wahrheit durch das finanzielle Gewicht der Gemeinschaft und nicht durch einen ernannten Richter entschieden wird.

Wenn ein Markt endet, übermittelt ein bestimmter Reporter das Ergebnis. Diese Particular person übt keine einseitige Macht aus. Die Neighborhood kann diesen ersten Bericht anfechten, indem sie den nativen Token der Plattform, REP, einsetzt (Peterson et al., 2015).

Kommt es zu Streitigkeiten, gerät das System in einen Einsatzkrieg. Benutzer setzen ihr Kapital in das Ergebnis ein, von dem sie glauben, dass es mit der Realität übereinstimmt. Wenn der Konsens beweist, dass der ursprüngliche Berichterstatter Unrecht hat, verliert er seinen Anteil, der an die ehrlichen Berichterstatter umverteilt wird (Peterson et al., 2015).

Was passiert, wenn der Streit endlos eskaliert? Augur führt das Konzept einer „Gabel“ ein. Eine Abzweigung wird ausgelöst, wenn eine Streitanleihe einen massiven Schwellenwert erreicht, nämlich 2,5 Prozent aller im Umlauf befindlichen REP.

An diesem Punkt spaltet sich das gesamte Augur-Universum in mehrere Versionen auf, die den umstrittenen Ergebnissen entsprechen. Token-Inhaber müssen ihren alten REP gegen einen der neuen ergebnisspezifischen Token eintauschen. Die Model des Tokens, die das falsche Ergebnis darstellt, wird wertlos, weil die Teilnehmer die various Realität aufgeben.

Der Fork ist die nukleare Choice der intelligenten Vertragsauflösung. Es garantiert Genauigkeit durch gegenseitig zugesicherte Zerstörung, bringt den Betrieb jedoch für bis zu 60 Tage zum Erliegen (Peterson et al., 2015).

Aus beratender Sicht verändert diese starre Dezentralisierung das Regulierungsprofil. Wenn keine zentralisierte Instanz über die Entscheidungsbefugnis verfügt, fällt es den Regulierungsbehörden häufig schwer, die Haftung zuzuweisen. Die schiere Reibung einer 60-tägigen Lösungsverzögerung für umkämpfte Märkte macht dieses Modell für Hochfrequenz-Einzelhändler schwer zu verdauen.

Polymarket und das optimistische Orakel der UMA: Das Problem-Response-Modell

Polymarket wählt einen Mittelweg, bei dem die Geschwindigkeit im Vordergrund steht, ohne auf dezentrale Sicherheit zu verzichten. Polymarket arbeitet auf der Polygon-Blockchain und verknüpft sein Abwicklungssystem mit Optimistic Oracle von UMA. Der Begriff „optimistisch“ bezieht sich auf die Standardannahme, dass die eingereichte Antwort korrekt ist, es sei denn, jemand stellt sie innerhalb eines bestimmten Zeitfensters ausdrücklich in Frage.

Wenn ein Markt zu Ende geht, wird ein Vorschlag zum Ergebnis vorgelegt. Wenn innerhalb des Streitzeitfensters niemand den Vorschlag bestreitet, wird der Good Contract automatisch aufgelöst und die Gelder werden verteilt. Die meisten Märkte lösen sich friedlich und sofort auf. Kommt es jemals zu Unstimmigkeiten? Ja.

Wenn ein Benutzer eine falsche Lösung entdeckt, kann er eine Anfechtungsklage einreichen. Dieser Streit stoppt die automatische Lösung und leitet die Entscheidung an den UMA-Datenüberprüfungsmechanismus weiter. Die Token-Inhaber stimmen dann über das richtige Ergebnis ab. Die Seite, die mit der absoluten Mehrheit abstimmt, erhält eine Belohnung, die durch die gekürzte Anleihe der Verliererseite finanziert wird.

Dadurch entsteht ein hocheffizientes System, das Ressourcen nur für umstrittene Grenzfälle aufwendet. Aktuelle empirische Daten zeigen, dass Polymarket Millionen von Greenback an offenen Positionen unter komplexen Veranstaltungsbedingungen verarbeitet (Saguillo et al., 2025).

Um die Stabilität zu gewährleisten, verlässt sich Polymarket auf erschöpfende und sich gegenseitig ausschließende Bedingungen, obwohl leichte Unklarheiten in der Formulierung manchmal zu kurzen Arbitragebedingungen über verwandte Märkte hinweg führen können (Saguillo et al., 2025).

Der optimistische Ansatz bietet besondere Vorteile für Gründer, die eine Krypto-Lizenzgenehmigung oder eine Prognosemarktlizenz anstreben. Da das System auf einem externen dezentralen Orakel und nicht auf einem proprietären internen Staff basiert, vermeidet der Plattformbetreiber eine direkte Beteiligung an der Ergebnisbestimmung.

Diese Trennung schränkt die Kontrolle des Betreibers über die Gelder der Benutzer ein und vereinfacht die Einhaltung in Gerichtsbarkeiten mit strengen Verwahrungsgesetzen.

Vielfältige Märkte: Repute, Zentralisierung und die soziale Schicht

Manifold Markets gibt die schwere Maschinerie des Blockchain-Konsenses zugunsten eines vom Schöpfer geleiteten, auf Repute basierenden Techniques auf. Auf Manifold kann jeder einen Markt schaffen. Die Particular person, die den Markt schafft, trägt die alleinige Verantwortung für die Lösung des Issues. Wenn John fragt: „Wird es nächsten Dienstag in London regnen?“, ist John der alleinige Schiedsrichter darüber, ob der Markt mit JA oder NEIN endet.

Wie verhindert eine Plattform, dass Marktmacher einfach lügen, um Gelder zu stehlen? Manifold arbeitet in erster Linie mit einem Spielgeldsystem, das den wirtschaftlichen Anreiz für böswilliges Verhalten drastisch reduziert.

Darüber hinaus setzt die Plattform auf eine strikte Reputationsökonomie. Wenn ein Ersteller einen Markt auf unehrliche Weise abschließt, werden Nutzer niemals an seinen zukünftigen Märkten teilnehmen. Die soziale Schicht fungiert als eigentliches Orakel.

Für Plattformen, die mit echtem Kapital handeln, löst dieses zentralisierte Abwicklungsmodell eine intensive Prüfung aus. Der Betrieb eines Echtgeldmarktes, bei dem eine einzelne Particular person oder der Plattformbetreiber die Auszahlung manuell vorgibt, ist strukturell identisch mit einem herkömmlichen Sportwettenanbieter.

Dieses Modell erfordert vollständige Spielberechtigungen, wie z Malta-Glücksspiellizenz oder ein ähnlich robuster Regulierungsrahmen. LegalBison weist Kunden darauf hin, dass manuelle Lösungsmechanismen die dezentrale Verteidigung aufheben. Sie können nicht behaupten, ein neutraler Technologieanbieter zu sein, wenn Ihr Verwaltungs-Dashboard eine Schaltfläche enthält, die direkt entscheidet, wer eine Wette gewinnt.

Die Schlichtungsalternative: Delegierte Good-Contract-Justiz

Über diese drei Modelle hinaus experimentiert das breitere Blockchain- und Digital-Asset-Ökosystem mit dedizierten Schlichtungsnetzwerken wie Kleros. Kleros fungiert als dezentrales Gerichtssystem, auf das Good Contracts bei Streitigkeiten zurückgreifen können (Jovanović, 2023). Es basiert auf einem Token namens Pinakion, um Geschworene nach dem Zufallsprinzip auszuwählen (Jovanović, 2023).

Benutzer wählen selbst bestimmte Gerichte aus, beispielsweise ein E-Commerce-Gericht oder ein Finanzgericht, und setzen ihre Token ein (Jovanović, 2023). Das Protokoll zieht Geschworene auf der Grundlage der Menge der eingesetzten Token und schützt das System vor Sybil-Angriffen, bei denen eine Entität Tausende von gefälschten Identitäten erstellt (Jovanović, 2023).

Die Geschworenen prüfen die Beweise und stimmen ab. Die Spieltheorie gleicht ihre Anreize an: Wer mit dem Mehrheitskonsens abstimmt, erhält Schlichtungsgebühren, während Ausreißer einen Teil ihrer eingesetzten Token verlieren (Jovanović, 2023). Dieses delegierte Schlichtungsmodell ermöglicht es Plattformen, die Lösung an ein spezialisiertes Netzwerk auszulagern, anstatt ihre eigenen wirtschaftlichen Wahrheitsmaschinen von Grund auf aufzubauen.

Strukturieren Sie Ihre Vorhersageplattform für die reale Welt

Wir sehen, dass Projekte nicht deshalb scheitern, weil ihr Code schlecht ist, sondern weil ihre technische Architektur direkt ihrer rechtlichen Strategie widerspricht. Der von Ihnen gewählte Lösungsmechanismus bestimmt Ihre erforderlichen Compliance-Pfade.

Wenn Sie ein vollständig dezentrales Protokoll im Augur-Stil einsetzen, besteht Ihre größte Herausforderung darin, die Regulierungsbehörden davon zu überzeugen, dass Sie keine Börse betreiben. Wenn Sie das optimistische Modell von Polymarket übernehmen, hängt Ihr Fußabdruck zur Einhaltung gesetzlicher Vorschriften stark davon ab, wie Sie den Zugriff beschränken und mit der Schnittstelle umgehen.

Wenn Sie ein zentralisiertes Abwicklungssystem im Manifold-Stil mit echtem Kapital aufbauen, betreiben Sie einen regulierten Spiel- oder Finanzderivatplatz.

LegalBison strukturiert die betriebliche Realität von Fintech- und Gaming-Unternehmen passend zu ihren technischen Einsätzen. Wir bieten internationale Unternehmensstrukturierung und Leitlinien zur Einhaltung gesetzlicher Vorschriften, die genau auf die Mechanismen Ihrer Good Contracts abgestimmt sind.

Die Wahl zwischen externen Orakeln, tokengewichteter Abstimmung oder zentralisierter Verwaltungskontrolle verändert Ihr Risikoprofil vollständig. Das Verständnis dieser Unterschiede trennt die theoretischen Blockchain-Projekte von den Unternehmen, die tatsächlich den globalen Markteintritt überleben.

Abschluss

Prognosemärkte ersetzen zentralisierte Buchmacher durch verteilten Konsens. Augur setzt auf absolute wirtschaftliche Zerstörung durch Forks, um Ehrlichkeit durchzusetzen.

Polymarket verwendet ein optimistisches Problem-Response-System, um Geschwindigkeit und Sicherheit in Einklang zu bringen. Manifold stützt sich auf den Ruf des Menschen und die zentralisierte Lösung des Erstellers, um excessive Flexibilität zu gewährleisten. Das beste Modell hängt ganz von der Artwork des Risikokapitals und der Betriebsstruktur der Plattform ab.

Indem Sie Ihre Oracle-Mechanik mit einer fundierten Rechtsarchitektur abgleichen, bauen Sie ein System auf, das sowohl technisch belastbar als auch kommerziell realisierbar ist. Besuchen Sie LegalBison, um fachkundige regulatorische Beratung zum Starten Ihrer Web3-Anwendung zu erhalten.

Referenzen

Jovanović, S. (2023). Schiedsgerichtsbarkeit bei Good Contracts-Streitigkeiten – Ein Blick in die Zukunft. Anali Pravnog fakulteta u Beogradu, 71757-784.

Peterson, J., Krug, J., Zoltu, M., Williams, AK und Alexander, S. (2015). Augur: eine dezentrale Orakel- und Prognosemarktplattform. arXiv.

Saguillo, O., Ghafouri, V., Kiffer, L. und Suarez-Tangil, G. (2025). Den probabilistischen Wald enträtseln: Arbitrage in Prognosemärkten. arXiv.

Die KI-Branche ist derzeit besessen von „Agenten“ – autonomen Programmen, die mehr können als nur chatten. Die meisten aktuellen Multiagentensysteme basieren jedoch auf spröden, hartcodierten Heuristiken, die versagen, wenn sich die Umgebung ändert.

Google DeepMind Forscher haben eine neue Lösung vorgeschlagen. Das Forschungsteam argumentierte, dass Agenten für die Skalierung des „Agentennetzes“ über die einfache Aufgabenteilung hinausgehen und menschenähnliche Organisationsprinzipien wie Autorität, Verantwortung und Rechenschaftspflicht übernehmen müssen.

Definition einer „intelligenten“ Delegation

In Standardsoftware wird ein Unterprogramm einfach „ausgelagert“. Intelligente Delegation ist anders. Es handelt sich um eine Abfolge von Entscheidungen, bei denen ein Delegierter Autorität und Verantwortung auf einen Delegierten überträgt. Dieser Prozess umfasst die Risikobewertung, den Fähigkeitsabgleich und den Aufbau von Vertrauen.

Die 5 Säulen des Rahmenwerks

Um dies aufzubauen, identifizierte das Forschungsteam fünf Kernanforderungen, die spezifischen technischen Protokollen zugeordnet sind:

Engineering-Strategie: „Contract-First“-Zerlegung

Die bedeutendste Veränderung ist Contract-First-Zerlegung. Nach diesem Grundsatz erteilt ein Delegierender eine Aufgabe nur dann, wenn das Ergebnis genau nachweisbar ist.

Wenn eine Aufgabe zu subjektiv oder komplex ist, um überprüft zu werden – etwa „eine überzeugende Forschungsarbeit schreiben“ –, muss das System sie rekursiv zerlegen. Dies wird so lange fortgesetzt, bis die Teilaufgaben mit den verfügbaren Verifizierungstools übereinstimmen, beispielsweise Unit-Assessments oder formalen mathematischen Beweisen.

Rekursive Verifizierung: Die Chain of Custody

In einer Delegationskette, wie z 𝐴 → 𝐵 → 𝐶Verantwortlichkeit ist transitiv.

• Agent B ist verantwortlich für die Überprüfung der Arbeit von C.
• Als Agent B gibt das Ergebnis an zurück Amuss es eine vollständige Kette kryptografisch signierter Bescheinigungen bereitstellen.
• Agent A Anschließend führt es eine zweistufige Prüfung durch: Verifizierung Bist direkte Arbeit und die Überprüfung B richtig verifiziert C.

Sicherheit: Token und Tunnel

Die Skalierung dieser Ketten birgt large Sicherheitsrisiken, darunter Datenexfiltration, HintertürimplantationUnd Modellextraktion.

Um das Netzwerk zu schützen, schlägt das DeepMind-Workforce vor Delegation Functionality Tokens (DCTs). Basierend auf Technologien wie Makronen oder GebäckDiese Token nutzen „kryptografische Vorbehalte“, um das Prinzip der geringsten Privilegien durchzusetzen. Beispielsweise könnte ein Agent ein Token erhalten, das ihm das LESEN eines bestimmten Google Drive-Ordners erlaubt, aber alle Schreibvorgänge verbietet.

Bewertung aktueller Protokolle

Das Forschungsteam analysierte, ob aktuelle Industriestandards für dieses Framework bereit sind. Diese Protokolle stellen zwar eine Grundlage dar, weisen jedoch alle „fehlende Teile“ für eine Delegation mit hohem Einsatz auf.

• MCP (Mannequin Context Protocol): Standardisiert die Artwork und Weise, wie Modelle mit Instruments verbunden werden. Die Lücke: Es fehlt eine Richtlinienebene zur Steuerung von Berechtigungen über tiefe Delegationsketten hinweg.
• A2A (Agent-zu-Agent): Verwaltet Erkennungs- und Aufgabenlebenszyklen. Die Lücke: Es fehlen standardisierte Header für Zero-Information Proofs (ZKPs) oder digitale Signaturketten.
• AP2 (Agent Funds Protocol): Ermächtigt Agenten, Gelder auszugeben. Die Lücke: Es ist nicht möglich, die Qualität der Arbeit vor der Zahlungsfreigabe nativ zu überprüfen.
• UCP (Common Commerce Protocol): Standardisiert Handelstransaktionen. Die Lücke: Es ist für den Einkauf/die Erfüllung optimiert, nicht für abstrakte Rechenaufgaben.

Wichtige Erkenntnisse

• Gehen Sie über Heuristiken hinaus: Aktuelle KI-Delegationen basieren auf einfachen, hartcodierten Heuristiken, die spröde sind und sich nicht dynamisch an Umgebungsveränderungen oder unerwartete Ausfälle anpassen können. Intelligente Delegation erfordert einen adaptiven Rahmen, der die Übertragung von Autorität, Verantwortung und Rechenschaftspflicht beinhaltet.
• Zerlegung der Aufgabe „Vertrag zuerst“: Bei komplexen Zielen sollten Delegierende einen „Contract-First“-Ansatz verwenden, bei dem Aufgaben zerlegt werden, bis die Untereinheiten spezifischen, automatisierten Verifizierungsfunktionen entsprechen, wie etwa Unit-Assessments oder formale Beweise.
• Transitive Verantwortlichkeit in Ketten: In langen Delegationsketten (z. B. 𝐴 → 𝐵 → 𝐶) ist Verantwortung transitiv. Agent B ist für die Arbeit von C verantwortlich, und Agent A muss sowohl die direkte Arbeit von B als auch die korrekte Überprüfung der Bescheinigungen von C durch B überprüfen.
• Abgeschwächte Sicherheit durch Token: Um systemische Verstöße und das Drawback der „verwirrten Stellvertreter“ zu verhindern, sollten Agenten Delegation Functionality Tokens (DCTs) verwenden, die eine abgeschwächte Autorisierung ermöglichen. Dadurch wird sichergestellt, dass Agenten nach dem Prinzip der geringsten Rechte arbeiten und der Zugriff auf bestimmte Teilmengen von Ressourcen und zulässigen Vorgängen beschränkt ist.

Schauen Sie sich das an Papier hier. Sie können uns auch gerne weiter folgen Twitter und vergessen Sie nicht, bei uns mitzumachen 100.000+ ML SubReddit und Abonnieren Unser Publication. Warten! Bist du im Telegram? Jetzt können Sie uns auch per Telegram kontaktieren.

Michal Sutter ist ein Knowledge-Science-Experte mit einem Grasp of Science in Knowledge Science von der Universität Padua. Mit einer soliden Grundlage in statistischer Analyse, maschinellem Lernen und Datentechnik ist Michal hervorragend darin, komplexe Datensätze in umsetzbare Erkenntnisse umzuwandeln.

Bild vom Autor

# Einführung

Heben Sie Ihre Hand, wenn Sie während eines technischen Interviews jemals erstarrt sind, als der Interviewer Sie fragte: „Erläutern Sie mir Ihren Ansatz.“ Die meisten Kandidaten lesen die Frage, springen direkt in den Code und hoffen, dass das Muskelgedächtnis einsetzt.

Was wäre, wenn Sie eine Interviewfrage in ein KI-Software hochladen könnten und eine Podcast-Erklärung Ihres Codes, eine visuelle Mindmap, Lernkarten und ein Quiz erhalten könnten? Nun, das kannst du mit NotebookLM.

In diesem Artikel lösen wir zunächst selbst Metas „Empfehlungssystem“-Interviewfrage und nutzen dann die sechs Funktionen von NotebookLM, um sie intelligenter und nicht schwieriger zu verstehen und daraus zu lernen.

# Lernen Sie NotebookLM kennen: Googles KI-gestützten Lernassistenten

NotebookLM ist Googles KI-Lernassistent. Es verändert die Artwork und Weise, wie wir aus Daten lernen, indem es mehrere KI-gestützte Funktionen kombiniert, die den Prozess interaktiver und anpassungsfähiger machen.

Dies geschieht, indem Ihre Dokumente, Bücher oder andere Materialien in interaktive Lernwerkzeuge umgewandelt werden. Genauer gesagt verwandelt es Ihre Materialien in Konversationen, visuelle Karten und Quizfragen und erspart stundenlanges manuelles Durchsehen, wodurch komplexe Themen leichter verständlich werden.

Dies hilft Ihnen, Wissen schneller zu verstehen und zu behalten. Kurz gesagt, NotebookLM hilft Ihnen, intelligenter und nicht härter zu lernen.

Lassen Sie uns nun die Meta-Interviewfrage lösen und dann untersuchen, wie NotebookLM uns dabei helfen kann, aus demselben Code zu lernen.

# Die Herausforderung: Metas „Empfehlungssystem“-Interviewfrage

Empfehlungssystem
Sie erhalten die Liste der Fb-Freunde und die Liste der Fb-Seiten, denen Benutzer folgen. Ihre Aufgabe ist es, ein neues Empfehlungssystem für Fb zu erstellen. Suchen Sie für jeden Fb-Benutzer nach Seiten, denen dieser Benutzer nicht folgt, aber mindestens einer seiner Freunde. Geben Sie die Benutzer-ID und die ID der Seite aus, die diesem Benutzer empfohlen werden soll.

Die Frage ist verfügbar unter StrataScratch. In dieser Frage hat Meta uns gebeten, ein Empfehlungssystem zu entwickeln, das Fb-Seiten vorschlägt, denen ein Benutzer noch nicht folgt, aber mindestens einer seiner Freunde.

// Die Daten hinter dem Downside verstehen

Wir haben zwei verschiedene Datensätze, user_friends Und user_pages.

Das erste zeigt die sozialen Verbindungen jedes Benutzers (wer ist mit wem befreundet), während user_pages listet auf, welchen Seiten jeder Benutzer bereits folgt.

Gemeinsam helfen sie uns, neue Seitenempfehlungen zu finden, die auf den Aktivitäten gemeinsamer Freunde basieren.

Sehen wir uns eine Vorschau an user_friends Datensatz zuerst.

Sehen wir uns jetzt den zweiten Datensatz in der Vorschau an. user_pages:

// Schritt-für-Schritt-Lösung: Aufbau der Empfehlungsmaschine

Ziel ist es, Fb-Seiten zu empfehlen, denen ein Nutzer noch nicht gefolgt ist, denen aber bereits mindestens einer seiner Freunde folgt.

Zuerst verbinden wir jeden Benutzer mit den Seiten, denen seine Freunde folgen. Dies hilft uns zu sehen, welche Seiten vom Netzwerk des Benutzers verfolgt werden und welche potenziellen Empfehlungen es gibt.

friends_pages = users_friends.merge(users_pages, left_on='friend_id', right_on='user_id')
friends_pages = friends_pages(('user_id_x', 'page_id'))

Jetzt müssen wir Seiten ausschließen, denen Benutzer bereits folgen. Wir tun dies, indem wir erneut mit dem Unique verschmelzen users_pages Tabelle und behält nur die Seiten bei, die noch nicht in der Liste des Benutzers sind.

comparability = friends_pages.merge(
    users_pages,
    how='left',
    left_on=('user_id_x', 'page_id'),
    right_on=('user_id', 'page_id')
)
end result = comparability(comparability('user_id').isna())(('user_id_x', 'page_id'))

Abschließend entfernen wir alle Duplikate, um zu vermeiden, dass dieselbe Seite mehrmals empfohlen wird, und benennen die Spalte aus Gründen der Übersichtlichkeit um.

end result = end result.drop_duplicates()
end result = end result.rename(columns={'user_id_x': 'user_id'})

Hier sind die ersten Zeilen der erwarteten Ausgabe.

Bisher haben wir uns auf traditionelle Techniken verlassen: alles selbst kodieren, zusammenführen und interpretieren.

Mit NotebookLM von Google können wir den Lernprozess nun noch einen Schritt weiter vorantreiben.

# Vom Lösen zum Lernen: Betreten Sie NotebookLM

In diesem Abschnitt zeigen wir, wie Sie NotebookLM mit den Particulars der Meta-Interviewfrage versorgen und erkunden dann die sechs interaktiven Funktionen, die Ihnen helfen, intelligenter zu lernen.

// Schritt 1: Erstellen Sie ein neues Notizbuch und fügen Sie Ihre Daten hinzu

Bevor NotebookLM uns helfen kann, müssen wir ihm Informationen zu unserer Interviewfrage zur Verfügung stellen. Dies beginnt mit der Erstellung eines neuen Notizbuchs. Gehen Sie zum NotebookLM-Website und klicken Sie auf „Neues Notizbuch erstellen“.

Sie werden nach der Quelle gefragt.

Wie Sie im Screenshot unten sehen können, stehen verschiedene Optionen zur Verfügung.

• Google Drive
• Webseite
• Youtube
• Textual content einfügen

Lassen Sie uns die Choice „Textual content einfügen“ verwenden und die Metadaten der Interviewfrage der Meta einfügen. Hier sind die Informationen, die wir in diesem wiederverwendbaren Format einfügen werden.

Right here is the query.
(paste query right here)
It makes use of two datasets.
(paste dataset info right here)
Right here is the python resolution.
(paste python resolution right here.)

Klicken Sie anschließend auf „Einfügen“, wie unten gezeigt.

// Entdecken Sie das Interactive Studying Studio

Unten sehen Sie den Bildschirm, der geöffnet wird, nachdem wir auf „Einfügen“ geklickt haben. Hyperlinks sehen wir die Quellen. In der Mitte haben wir ein LLM, das auf unseren Daten trainiert wurde. Rechts haben wir ein „Studio“ mit sechs verschiedenen Lernformaten, die wir einzeln testen.

Klicken wir auf die Schaltfläche „Wie nutzt die Python-Lösung vorhandene Freundes- und Seitendaten für Empfehlungen“, die sich unter dem Eingabetext in der Mitte befindet? Diese Frage wurde von NotebookLM generiert.

Hier ist die Antwort.

Wie Sie sehen, erklärt es das gesamte Konzept. Sie können diese Notiz auch speichern, indem Sie am Ende auf „Notiz speichern“ klicken. Die Notizen werden dann im Abschnitt „Studio“ wie folgt angezeigt.

Wenn Sie additionally Fragen zu dieser Interviewfrage haben, können Sie das LLM in der Mitte des vorherigen Bildschirms verwenden, um eine Antwort zu erhalten. Lassen Sie uns die sechs „Studio“-Funktionen erkunden, die die Dinge interessanter machen.

// Erleben Sie die sechs Lernfunktionen von NotebookLM

In diesem Abschnitt sehen wir die unten gezeigten sechs Lernfunktionen von NotebookLM in Aktion.

Jedes hilft Ihnen, die Meta-Interviewfrage aus einem anderen Blickwinkel zu verstehen – durch Audio, Video, Bilder und interaktive Übungen.

1. Erstellen Sie eine Audioübersicht
Klicken Sie auf „Audioübersicht“.
Wenn Sie dies tun, wird diese Benachrichtigung unter „Studio“ angezeigt und Ihre Audioübersicht ist in wenigen Minuten fertig.

NotebookLM verwandelt Ihre hochgeladenen Inhalte in ein Gespräch im Podcast-Stil. Zwei KI-Stimmen besprechen Ihr Downside, als würden Sie einer Present zur Vorbereitung auf ein technisches Vorstellungsgespräch zuhören. Sie schlüsseln das Empfehlungssystem von Meta auf, erläutern die Logik und heben Grenzfälle hervor.

Sie können dieses Gespräch herunterladen und interessanterweise auch daran teilnehmen, indem Sie auf „Interaktiv“ klicken. Anschließend öffnet sich der folgende Bildschirm.

Und wenn Sie auf „Teilnehmen“ klicken, lautet die Nachricht „Hallo, jemand möchte mitmachen“, sodass Sie an der Unterhaltung teilnehmen können. (Ja, Sie können wirklich an der Konversation teilnehmen; sie wird in Echtzeit über eine Textual content-to-Speech-API aktualisiert. Eine wirklich futuristische Funktion!)

2. Erstellen Sie die Videoaufschlüsselung
Gehen Sie zurück zum Bereich „Studio“ und klicken Sie auf „Videoübersicht“. NotebookLM erstellt ein Video, das Ihre Daten visualisiert und die Lösung erklärt. In unserem Fall ist das Video 6 Minuten und 21 Sekunden lang.

Im generierten Video erklärt NotebookLM zunächst das umfassendere Konzept: Wie Social-Media-Plattformen entscheiden, was empfohlen wird, bevor wir uns unserem spezifischen Downside zuwenden.

Als nächstes wird im generierten Video das Interviewproblem besprochen, indem es in Teile zerlegt wird, beginnend mit dem unten gezeigten Schlüsselschritt.

Als nächstes beginnt es mit der Erläuterung der Lösung. Es wiederholt nicht einfach, was auf dem Bildschirm angezeigt wird; Die Erläuterungen gehen tief in das Konzept ein.

Und schließlich wird die Lösung in Schritte unterteilt und anhand dieser Schritte erläutert.

3. Ordnen Sie die Logik visuell zu
Kehren Sie zum Bedienfeld „Studio“ zurück und klicken Sie auf „Thoughts Map“.
NotebookLM generiert einen visuellen Baum des Issues. Schauen wir uns eins an.

Sie sehen die gesamte Problemstruktur in einer Ansicht: Empfehlungsziel oben, erforderliche Datensätze in der Mitte und Lösungsschritte unten. Klicken wir auf eine davon, zum Beispiel „Schritt 1: Seiten von Freunden identifizieren (Zusammenführen 1).“

Wie Sie sehen, wird die Mindmap durch die Erläuterung von Schritt 1 erweitert. Sie können sie auch herunterladen.

4. Erstellen Sie Berichte
Kehren Sie zum Studio-Bedienfeld zurück und klicken Sie auf „Berichte“. NotebookLM fordert Sie auf, auszuwählen, welche Artwork von Bericht Sie erstellen möchten.

Wählen wir eine Problemlösung aus. Es wird mit der Erstellung eines Berichts begonnen.

Hier ist die Schritt-für-Schritt-Anleitung, die erklärt, wie Sie diese Interviewfrage lösen können.

5. Karteikarten erstellen
Gehen Sie zurück zum Bereich „Studio“ und klicken Sie auf „Lernkarten“. NotebookLM generiert automatisch Frage-und-Antwort-Karten. Schauen wir uns einen davon an.

Und wenn Sie auf die Antwort klicken, finden Sie hier das Ergebnis.

Klicken wir auf „Erklären“. Es verwendet eine Eingabeaufforderung, um diese Frage mit Gemini-Modellen zu beantworten.

Schauen wir uns nun die Ergebnisse an.

6. Erstellen Sie ein Quiz
Kehren Sie zum Studio-Bedienfeld zurück und klicken Sie auf das Quiz. NotebookLM generiert einen Übungstest. Machen wir es und schauen wir uns das erste Quiz an.

Klicken wir auf „Hinweis“.

Die Antwort liegt nun auf der Hand. Additionally wählen wir es aus und sehen, was passiert.

Wenn Sie noch eine Frage haben, klicken Sie auf „Erklären“. Sie gelangen zum mittleren Abschnitt, wo der an unserer Lösung geschulte LLM die Antwort liefert. Hier ist es.

# Abschluss

Die Vorbereitung auf technische Vorstellungsgespräche bedeutet nicht, dass man die Probleme im Vorstellungsgespräch isoliert lösen muss. Es bedeutet, tiefgreifend zu verstehen, klar zu visualisieren und selbstbewusst zu erklären. NotebookLM verwandelt eine einzelne Interviewfrage in ein multisensorisches Lernerlebnis, einschließlich Audio, Video, visuellen Karten, schriftlichen Berichten und aktiver Erinnerung.
Sie verfügen bereits über die Fähigkeiten zur Problemlösung. Jetzt haben Sie ein System, um sie zu organisieren, zu verstärken und unter Druck zu präsentieren. Wenn Sie das nächste Mal eine schwierige SQL- oder Python-Frage sehen, geraten Sie nicht in Panik. Laden Sie es hoch, erkunden Sie es und meistern Sie es.

Nate Rosidi ist Datenwissenschaftler und in der Produktstrategie tätig. Er ist außerdem außerordentlicher Professor für Analytik und Gründer von StrataScratch, einer Plattform, die Datenwissenschaftlern hilft, sich mit echten Interviewfragen von High-Unternehmen auf ihre Interviews vorzubereiten. Nate schreibt über die neuesten Traits auf dem Karrieremarkt, gibt Ratschläge zu Vorstellungsgesprächen, stellt Knowledge-Science-Projekte vor und behandelt alles rund um SQL.

Die Besorgnis über die Umweltauswirkungen von Giant Language Fashions (LLMs) nimmt zu. Obwohl es schwierig sein kann, detaillierte Informationen über die tatsächlichen Kosten von LLMs zu finden, versuchen wir, einige Fakten zu sammeln, um das Ausmaß zu verstehen.

Da umfassende Daten zu ChatGPT-4 nicht ohne weiteres verfügbar sind, können wir Llama 3.1 405B als Beispiel betrachten. Dieses Open-Supply-Modell von Meta ist wohl das bisher „transparenteste“ LLM. Basierend auf verschiedenen MaßstäbeLlama 3.1 405B ist mit ChatGPT-4 vergleichbar und bietet eine vernünftige Grundlage für das Verständnis von LLMs in diesem Bereich.

Die Hardwareanforderungen für die Ausführung der 32-Bit-Model dieses Modells liegen je nach Quelle zwischen 1.620 und 1.944 GB GPU-Speicher (Substrat, Umarmendes Gesicht). Für eine konservative Schätzung verwenden wir den niedrigeren Wert von 1.620 GB. Um dies ins rechte Licht zu rücken – unter Berücksichtigung der Tatsache, dass es sich hierbei um eine vereinfachte Analogie handelt – entsprechen 1.620 GB GPU-Speicher in etwa dem kombinierten Speicher von 100 Normal-MacBook Execs (jeweils 16 GB). Wenn Sie additionally einen dieser LLMs nach einem Tiramisu-Rezept im Shakespeare-Stil fragen, ist die Leistung von 100 MacBook Execs erforderlich, um Ihnen eine Antwort zu geben.

Ich versuche, diese Zahlen in etwas Greifbareres zu übersetzen … obwohl dies nicht einschließt Schulungskostendie schätzungsweise rund 16.000 GPUs umfassen und etwa 60 Millionen US-Greenback (ohne Hardwarekosten) kosten werden – eine erhebliche Investition von Meta – in einem Prozess, der etwa 80 Tage dauerte. Was den Stromverbrauch betrifft, Schulungsbedarf 11 GWh.

Der Jährlicher Stromverbrauch professional Particular person in einem Land wie Frankreich etwa 2.300 kWh. Somit entsprechen 11 GWh dem jährlichen Stromverbrauch von rund 4.782 Menschen. Durch diesen Verbrauch wurden etwa 5.000 Tonnen CO₂-äquivalente Treibhausgase freigesetzt (basierend auf dem europäischen Durchschnitt), obwohl sich diese Zahl je nach Land, in dem das Modell trainiert wurde, leicht verdoppeln kann.

Zum Vergleich: Bei der Verbrennung von 1 Liter Diesel entstehen 2,54 kg CO₂. Daher entspricht das Coaching von Llama 3.1 405B – in einem Land wie Frankreich – ungefähr den Emissionen, die bei der Verbrennung von rund 2 Millionen Litern Diesel entstehen. Das entspricht etwa 28 Millionen Kilometern Autofahrt. Ich denke, das bietet genug Perspektive … und ich habe noch nicht einmal das Wasser erwähnt, das zum Kühlen der GPUs benötigt wird!

Offensichtlich steckt die KI noch in den Kinderschuhen und wir können davon ausgehen, dass im Laufe der Zeit optimalere und nachhaltigere Lösungen entstehen werden. In diesem intensiven Wettlauf weist die Finanzlandschaft von OpenAI jedoch eine erhebliche Diskrepanz zwischen seinen Einnahmen und Betriebsausgaben auf, insbesondere in Bezug auf die Inferenzkosten. Im Jahr 2024 wird das Unternehmen voraussichtlich etwa 4 Milliarden US-Greenback für die von Microsoft bereitgestellte Rechenleistung für Inferenz-Workloads ausgeben, während sein Jahresumsatz auf 3,5 bis 4,5 Milliarden US-Greenback geschätzt wird. Dies bedeutet, dass allein die Inferenzkosten quick den Gesamteinnahmen von OpenAI entsprechen oder diese sogar übertreffen (deeplearning.ai).

All dies geschieht in einem Kontext, in dem Experten ein Leistungsplateau für KI-Modelle ankündigen (Skalierungsparadigma). Die zunehmende Modellgröße und GPUs führen im Vergleich zu früheren Sprüngen, wie etwa den Fortschritten, die GPT-4 gegenüber GPT-3 erzielte, zu deutlich geringeren Erträgen. „Das Streben nach AGI warfare schon immer unrealistisch, und der ‚Größer ist besser‘-Ansatz für KI musste irgendwann an seine Grenzen stoßen – und ich denke, das ist es, was wir hier sehen“, sagte er Sasha LuccioniForscher und KI-Leiter beim Startup Hugging Face.

Aber verstehen Sie mich nicht falsch – ich stelle KI nicht auf die Probe, weil ich sie liebe! Diese Forschungsphase ist eine absolut normale Part in der Entwicklung von KI. Allerdings glaube ich, dass wir beim Einsatz von KI gesunden Menschenverstand walten lassen müssen: Wir können nicht jedes Mal eine Panzerfaust einsetzen, um eine Mücke zu töten. KI muss nachhaltig gemacht werden – nicht nur, um unsere Umwelt zu schützen, sondern auch, um soziale Spaltungen zu beseitigen. Tatsächlich wäre das Risiko, dass der globale Süden im KI-Wettlauf aufgrund hoher Kosten und Ressourcenanforderungen zurückbleibt, ein erheblicher Misserfolg dieser neuen Geheimdienstrevolution.

Benötigen Sie additionally wirklich die volle Leistung von ChatGPT, um die einfachsten Aufgaben in Ihrer RAG-Pipeline zu bewältigen? Möchten Sie Ihre Betriebskosten kontrollieren? Möchten Sie eine vollständige Finish-to-Finish-Kontrolle über Ihre Pipeline? Befürchten Sie, dass Ihre privaten Daten im Web verbreitet werden? Oder sind Sie sich einfach nur der Auswirkungen von KI bewusst und setzen sich für deren bewussten Einsatz ein?

Kleine Sprachmodelle (SLMs) bieten eine hervorragende Various, die es wert ist, erkundet zu werden. Sie können auf Ihrer lokalen Infrastruktur laufen und in Kombination mit menschlicher Intelligenz einen erheblichen Mehrwert liefern. Obwohl es keine allgemein anerkannte Definition eines SLM gibt – im Jahr 2019 galt beispielsweise GPT-2 mit seinen 1,5 Milliarden Parametern als LLM, was nicht mehr der Fall ist – beziehe ich mich auf Modelle wie Mistral 7B, Llama-3.2 3B oder Phi3.5, um nur einige zu nennen. Diese Modelle können auf einem „guten“ Pc betrieben werden, was zu einem deutlich geringeren CO2-Fußabdruck führt und gleichzeitig die Vertraulichkeit Ihrer Daten gewährleistet, wenn sie vor Ort installiert werden. Obwohl sie weniger vielseitig sind, können sie bei sinnvollem Einsatz für bestimmte Aufgaben dennoch einen erheblichen Mehrwert bieten – und sind gleichzeitig umweltfreundlicher.

Ideale generative KI vs. Realität

Grundlegende LLMs haben jedes Byte Textual content gelesen, das sie finden konnten, und ihre Chatbot-Gegenstücke können zu intelligenten Gesprächen angeregt und gebeten werden, bestimmte Aufgaben auszuführen. Der Zugang zu umfassenden Informationen ist demokratisiert; Sie müssen nicht mehr die richtigen Schlüsselwörter für die Suche herausfinden oder Web sites zum Lesen auswählen. LLMs neigen jedoch dazu, zu schwafeln und reagieren im Allgemeinen mit der statistisch wahrscheinlichsten Antwort, die Sie hören möchten (Speichelleckerei) ein inhärentes Ergebnis des Transformer-Modells. Das Extrahieren von 100 % genauen Informationen aus der Wissensbasis eines LLM führt nicht immer zu vertrauenswürdigen Ergebnissen.

Chat-LLMs sind dafür berüchtigt, Zitate aus wissenschaftlichen Arbeiten oder Gerichtsverfahren zu erfinden, die es gar nicht gibt. Anwälte reichen Klage gegen eine Fluggesellschaft ein enthielt Zitate aus Gerichtsverfahren, die nie stattgefunden haben. Eine Studie aus dem Jahr 2023 berichtetedass ChatGPT, wenn es aufgefordert wird, Zitate einzufügen, nur in 14 % der Fälle Referenzen liefert, die tatsächlich existieren. Quellen zu fälschen, zu schwafeln und Ungenauigkeiten zu liefern, um der Aufforderung nachzukommen, wird als Halluzination bezeichnet, ein riesiges Hindernis, das überwunden werden muss, bevor KI vollständig angenommen und von der Masse als vertrauenswürdig angesehen wird.

Ein Gegenmittel gegen das Erfinden falscher Quellen oder das Auftauchen von Ungenauigkeiten durch LLMs ist die Retrieval-Augmented Technology oder RAG. RAG kann nicht nur die Halluzinationstendenz von LLMs verringern, sondern bietet auch mehrere andere Vorteile.

Zu diesen Vorteilen gehören der Zugriff auf eine aktuelle Wissensbasis, Spezialisierung (z.B durch die Bereitstellung privater Datenquellen), wodurch Modelle mit Informationen ausgestattet werden, die über das hinausgehen, was im parametrischen Speicher abgelegt ist (was kleinere Modelle ermöglicht), und die Möglichkeit besteht, weitere Daten aus legitimen Referenzen heranzuziehen.

Was ist RAG (Retrieval Augmented Technology)?

Retrieval-Augmented Technology (RAG) ist eine Deep-Studying-Architektur, die in LLMs und Transformer-Netzwerken implementiert ist. Sie ruft relevante Dokumente oder andere Snippets ab und fügt sie dem Kontextfenster hinzu, um zusätzliche Informationen bereitzustellen und einem LLM dabei zu helfen, nützliche Antworten zu generieren. Ein typisches RAG-System hätte zwei Hauptmodule: Abruf und Generierung.

Die wichtigste Referenz für RAG ist ein Artikel von Lewis et al. von Fb. In dem Artikel verwenden die Autoren ein Paar BERT-basierter Dokument-Encoder, um Abfragen und Dokumente zu transformieren, indem sie den Textual content in ein Vektorformat einbetten. Diese Einbettungen werden dann verwendet, um die Prime-okay (normalerweise 5 oder 10) Dokumente über eine Suche mit maximalem inneren Produkt (MIPS). Wie der Identify schon sagt, basiert MIPS auf dem inneren (oder Skalar-)Produkt der codierten Vektordarstellungen der Abfrage und denen in einer Vektordatenbank, die für die Dokumente vorab berechnet wurde und als externer, nichtparametrischer Speicher verwendet wird.

Wie im Stück von Lewis beschrieben et al.RAG wurde entwickelt, um LLMs bei wissensintensiven Aufgaben zu unterstützen, die „von Menschen ohne Zugang zu einer externen Wissensquelle nicht vernünftigerweise ausgeführt werden können“. Wenn Sie eine Open-Ebook- und eine Non-Open-Ebook-Prüfung ablegen, erhalten Sie einen guten Eindruck davon, wie RAG LLM-basierte Systeme ergänzen kann.

RAG mit dem Umarmungsgesicht Bibliothek

Lewis et al. haben ihre RAG-Modelle auf dem Hugging Face Hub als Open Supply veröffentlicht, sodass wir mit denselben Modellen experimentieren können, die im Artikel verwendet werden. Eine neue virtuelle Python 3.8-Umgebung mit virtualenv wird empfohlen.

virtualenv my_env --python=python3.8
supply my_env/bin/activate

Nachdem wir die Umgebung aktiviert haben, können wir mit pip Abhängigkeiten installieren: Transformatoren und Datasets von Hugging Face, die FAISS-Bibliothek von Fb, die RAG für die Vektorsuche verwendet, und PyTorch zur Verwendung als Backend.

pip set up transformers
pip set up datasets
pip set up faiss-cpu==1.8.0
#https://pytorch.org/get-started/regionally/ to 
#match the pytorch model to your system
pip set up torch

Lewis et al. hat zwei verschiedene Versionen von RAG implementiert: rag-sequence und rag-token. Rag-sequence verwendet dasselbe abgerufene Dokument, um die Generierung einer gesamten Sequenz zu erweitern, während rag-token für jedes Token unterschiedliche Snippets verwenden kann. Beide Versionen verwenden dieselben Hugging Face-Klassen für die Tokenisierung und den Abruf, und die API ist weitgehend gleich, aber jede Model hat eine einzigartige Klasse für die Generierung. Diese Klassen werden aus der Transformers-Bibliothek importiert.

from transformers import RagTokenizer, RagRetriever
from transformers import RagTokenForGeneration
from transformers import RagSequenceForGeneration

Wenn das RagRetriever-Modell mit dem Standarddatensatz „wiki_dpr“ zum ersten Mal instanziiert wird, wird ein umfangreicher Obtain (ca. 300 GB) eingeleitet. Wenn Sie über ein großes Datenlaufwerk verfügen und möchten, dass Hugging Face dieses verwendet (anstelle des Customary-Cache-Ordners auf Ihrem Dwelling-Laufwerk), können Sie eine Shell-Variable festlegen: HF_DATASETS_CACHE.

# within the shell:
export HF_DATASETS_CACHE="/path/to/knowledge/drive"
# ^^ add to your ~/.bashrc file if you wish to set the variable

Stellen Sie sicher, dass der Code funktioniert, bevor Sie den vollständigen wiki_dpr-Datensatz herunterladen. Um den großen Obtain zu vermeiden, bis Sie bereit sind, können Sie beim Instanziieren des Retrievers use_dummy_dataset=True übergeben. Sie werden auch einen Tokenizer instanziieren, um Zeichenfolgen in ganzzahlige Indizes (entsprechend Token in einem Vokabular) und umgekehrt umzuwandeln. Sequenz- und Tokenversionen von RAG verwenden denselben Tokenizer. RAG-Sequenz (rag-sequence) und RAG-Token (rag-token) haben jeweils fein abgestimmte (z.B rag-token-nq) und Basisversionen (z.B Rag-Token-Foundation).

tokenizer = RagTokenizer.from_pretrained(
"fb/rag-token-nq")

token_retriever = RagRetriever.from_pretrained(
"fb/rag-token-nq", 
     index_name="compressed", 
use_dummy_dataset=False)
sequence_retriever = RagRetriever.from_pretrained(
"fb/rag-sequence-nq", 
     index_name="compressed", 
use_dummy_dataset=False)

dummy_retriever = RagRetriever.from_pretrained(
"fb/rag-sequence-nq", 
   index_name="precise", 
use_dummy_dataset=True)

token_model = RagTokenForGeneration.from_pretrained(
"fb/rag-token-nq", 
     retriever=token_retriever)
seq_model = RagTokenForGeneration.from_pretrained(
"fb/rag-sequence-nq", 
     retriever=seq_retriever)
dummy_model = RagTokenForGeneration.from_pretrained(
"fb/rag-sequence-nq", 
   retriever=dummy_retriever)

Sobald Ihre Modelle instanziiert sind, können Sie eine Abfrage bereitstellen, sie tokenisieren und an die Funktion „Generieren“ des Modells übergeben. Wir vergleichen die Ergebnisse von Rag-Sequence, Rag-Token und RAG mithilfe eines Retrievers mit der Dummy-Model des Wiki_Dpr-Datensatzes. Beachten Sie, dass diese Rag-Modelle nicht zwischen Groß- und Kleinschreibung unterscheiden.

question = "what's the identify of the oldest tree on Earth?"
input_dict = tokenizer.prepare_seq2seq_batch(
question, return_tensors="pt")

token_generated = token_model.generate(**input_dict)  token_decoded = token_tokenizer.batch_decode(
token_generated, skip_special_tokens=True)

seq_generated = seq_model.generate(**input_dict)
seq_decoded = seq_tokenizer.batch_decode(
seq_generated, skip_special_tokens=True)

dummy_generated = dummy_model.generate(**input_dict)
dummy_decoded = seq_tokenizer.batch_decode(
dummy_generated, skip_special_tokens=True)

print(f"solutions to question '{question}': ")
print(f"t rag-sequence-nq: {seq_decoded(0)},"
f" rag-token-nq: {token_decoded(0)},"
f" rag (dummy): {dummy_decoded(0)}")

>> solutions to question 'What's the identify of the oldest tree on Earth?': Prometheus was the oldest tree found till 2012, with its innermost, extant rings exceeding 4862 years of age.

>> rag-sequence-nq:  prometheus, rag-token-nq:  prometheus, rag (dummy):  4862

Im Allgemeinen ist Rag-Token häufiger richtig als Rag-Sequence (obwohl beide oft richtig sind) und Rag-Sequence ist bei Verwendung eines Retrievers mit einem Dummy-Datensatz häufiger richtig als RAG.

„Welche Artwork von Kontext liefert der Retriever?“, fragen Sie sich vielleicht. Um das herauszufinden, können wir den Generierungsprozess dekonstruieren. Mit dem wie oben instanziierten seq_retriever und seq_model fragen wir ab: „Wie heißt der älteste Baum der Erde?“

question = "what's the identify of the oldest tree on Earth?"
inputs = tokenizer(question, return_tensors="pt")
input_ids = inputs("input_ids")

question_hidden_states = seq_model.question_encoder(input_ids)(0)

docs_dict = seq_retriever(input_ids.numpy(),
question_hidden_states.detach().numpy(),
return_tensors="pt")
doc_scores = torch.bmm(
question_hidden_states.unsqueeze(1),
docs_dict("retrieved_doc_embeds")
.float().transpose(1, 2)).squeeze(1)

generated = mannequin.generate(
context_input_ids=docs_dict("context_input_ids"),
context_attention_mask=
docs_dict("context_attention_mask"),
doc_scores=doc_scores)

generated_string = tokenizer.batch_decode(
generated,
skip_special_tokens=True)

contexts = tokenizer.batch_decode(
docs_dict("context_input_ids"),
attention_mask=docs_dict("context_attention_mask"),
skip_special_tokens=True)

best_context = contexts(doc_scores.argmax())

Wir können unser Modell so codieren, dass die Variable „bester Kontext“ gedruckt wird, um zu sehen, was erfasst wurde

print(f" based mostly on the retrieved context"
f":nnt {best_context}: n")

basierend auf dem abgerufenen Kontext:

Prometheus (tree) / In a clonal organism, nonetheless, the person clonal stems should not practically so previous, and no a part of the organism is especially previous at any given time. Till 2012, Prometheus was thus the oldest "non-clonal" organism but found, with its innermost, extant rings exceeding 4862 years of age. Within the Fifties dendrochronologists had been making lively efforts to search out the oldest residing tree species as a way to use the evaluation of the rings for numerous analysis functions, such because the analysis of former climates, the courting of archaeological ruins, and addressing the essential scientific query of most potential lifespan. Bristlecone pines // what's the identify of the oldest tree on earth?

print(f" rag-sequence-nq solutions '{question}'"
f" with '{generated_string(0)}'")

Wir können die Antwort auch ausdrucken, indem wir den generated_string Variable. Die Rag-Sequenz-NQ antwortet auf „Wie heißt der älteste Baum der Erde?“ mit „Prometheus“.

Was können Sie mit RAG tun?

In den letzten anderthalb Jahren gab es eine wahre Explosion an LLMs und LLM-Instruments. Das in Lewis verwendete BART-Basismodell et al. betrug nur 400 Millionen Parameter, weit entfernt von der aktuellen Technology von LLMs, die bei „Lite“-Varianten normalerweise im Milliardenparameterbereich beginnen. Außerdem sind viele Modelle, die heute trainiert, zusammengeführt und optimiert werden, multimodal und kombinieren Texteingaben und -ausgaben mit Bildern oder anderen tokenisierten Datenquellen. Die Kombination von RAG mit anderen Instruments kann komplexe Funktionen aufbauen, aber die zugrunde liegenden Modelle sind nicht immun gegen die üblichen LLM-Mängel. Die Probleme der Speichelleckerei, Halluzination und Zuverlässigkeit bei LLMs bleiben alle bestehen und laufen Gefahr, mit der zunehmenden Nutzung von LLMs zuzunehmen.

Die offensichtlichsten Anwendungen für RAG sind Variationen der konversationellen semantischen Suche, aber vielleicht umfassen sie auch die Einbindung multimodaler Eingaben oder die Generierung von Bildern als Teil der Ausgabe. Beispielsweise kann RAG in LLMs mit Fachwissen Softwaredokumentation erstellen, mit der man chatten kann. Oder RAG könnte verwendet werden, um interaktive Notizen in einer Literaturübersicht für ein Forschungsprojekt oder eine Abschlussarbeit zu machen.

Durch die Einbindung der Funktion zum „Denkketten-Argumentieren“ könnten Sie einen eher agentenorientierten Ansatz wählen, um Ihren Modellen die Möglichkeit zu geben, das RAG-System abzufragen und komplexere Frage- und Argumentationsstränge zusammenzustellen.

Es ist auch sehr wichtig, sich bewusst zu machen, dass RAG die üblichen LLM-Fallen (Halluzination, Speichelleckerei usw.) nicht löst und nur als Mittel dient, um Ihr LLM zu lindern oder zu einer nischenspezifischeren Antwort zu führen. Die Endpunkte, die letztendlich wichtig sind, sind spezifisch für Ihren Anwendungsfall, die Informationen, die Sie Ihrem Modell zuführen, und wie das Modell fein abgestimmt wird.

Kevin Vu verwaltet Weblog von Exxact Corp und arbeitet mit vielen seiner talentierten Autoren zusammen, die über verschiedene Aspekte des Deep Studying schreiben.

Handschriftliche Notizen haben auch in unserer digitalen Welt einen besonderen Charme. Clever Character Recognition (ICR) hilft, die analoge und digitale Kluft zu überbrücken, indem handgeschriebener Textual content in ein digitales Format umgewandelt wird. Diese Technologie ist Teil der KI-gesteuerten Erkennungsfamilie, die Folgendes umfasst: optische Zeichenerkennung (OCR), Gesichtserkennung und Emotionserkennung.

ICR macht handschriftliche Notizen zu einem Teil unseres digitalen Lebens und hebt sie hervor. In diesem Artikel erkunden wir ICR, seine Funktionsweise, Vorteile und Anwendungen im Alltag.

Was ist intelligente Zeichenerkennung (ICR)

Clever Character Recognition (ICR) ist eine erweiterte Kind der optischen Zeichenerkennung (OCR). Es liest nicht nur handgeschriebenen Textual content, sondern interpretiert ihn auch.

Im Gegensatz zu OCR, das hauptsächlich gedruckten Textual content verarbeitet, zeichnet sich ICR durch die Erkennung und Digitalisierung unterschiedlicher Handschriftstile aus. Es verwendet künstliche Intelligenz und Algorithmen für maschinelles Lernen. Diese lernen mit der Zeit verschiedene Handschriftmuster und passen sich ihnen an. Durch diesen Lernprozess kann ICR die Feinheiten einzelner Schreibstile genauer verstehen.

ICR findet Anwendung in verschiedenen Bereichen. Es digitalisiert Formulare, automatisiert die Dateneingabe und verarbeitet handschriftliche Dokumente. Es ist eine Schlüsseltechnologie, um digitale Systeme zugänglicher und effizienter bei der Verarbeitung handschriftlicher Eingaben zu machen.

Unterschied zwischen ICR und OCR

Der Unterschied zwischen Clever Character Recognition (ICR) und Optische Zeichenerkennung (OCR) ist von Bedeutung, insbesondere bei der Artwork und Weise, wie Unternehmen verschiedene Dokumenttypen verarbeiten. Obwohl beide Technologien die Datenextraktion automatisieren, unterscheiden sich ihre Ansätze und Fähigkeiten.

Vorteile von ICR in verschiedenen Branchen

Clever Character Recognition (ICR) hat in vielen Branchen einen transformativen Einfluss. Es kann die Effizienz, Genauigkeit und Zugänglichkeit verbessern. Jeder Sektor profitiert von der Fähigkeit von ICR, handschriftliche Dokumente zu digitalisieren.