Überprüfen – chatgpz.de – KI-Tools & Praxiswissen

So überprüfen Sie die Claude-Code-Ausgabe effektiv

admin — Wed, 18 Mar 2026 04:48:59 +0000

[ad_1]

kann in kurzer Zeit eine unglaubliche Menge an Inhalten produzieren. Dies kann das Erstellen neuer Funktionen, das Überprüfen von Produktionsprotokollen oder das Beheben eines Fehlerberichts sein.

Der Engpass in der Softwareentwicklung und Datenwissenschaft hat sich von der Codeentwicklung auf die Überprüfung dessen verlagert, was die Codierungsagenten erstellen. In diesem Artikel diskutiere ich, wie ich die Claude-Ausgabe effektiv überprüfe, um mithilfe von Claude Code ein noch effizienterer Ingenieur zu sein.

Diese Infografik hebt den Hauptinhalt dieses Artikels hervor, der Ihnen zeigen soll, wie Sie die Ausgabe von Codierungsagenten effizienter überprüfen können, um ein noch effizienterer Ingenieur zu werden. Bild von ChatGPT.

Warum die Ausgabeprüfung optimieren?

Sie fragen sich vielleicht, warum Sie die Überprüfung von Code und Ausgabe optimieren müssen. Noch vor wenigen Jahren bestand der (bei weitem) größte Engpass darin, Code zu schreiben, um Ergebnisse zu erzielen. Jetzt können wir jedoch Code erstellen, indem wir einfach einen Codierungsagenten wie Claude Code dazu auffordern.

Das Produzieren von Code ist einfach nicht mehr der Flaschenhals

Da Ingenieure stets bestrebt sind, Engpässe zu identifizieren und zu minimieren, gehen wir zum nächsten Engpass über, nämlich der Überprüfung der Ausgabe von Claude Code.

Natürlich müssen wir den durch Pull-Requests erzeugten Code überprüfen. Allerdings gibt es noch viel mehr Ergebnisse zu überprüfen, wenn Sie Claude Code zur Lösung aller möglichen Aufgaben verwenden (was Sie auf jeden Fall tun sollten). Sie müssen Folgendes überprüfen:

Der von Claude Code erstellte Bericht
Die Fehler, die Claude Code in Ihren Produktionsprotokollen gefunden hat
Die E-Mails, die Claude Code für Ihre Kontaktaufnahme erstellt hat

Sie sollten versuchen, Codierungsagenten für absolut jede Aufgabe zu verwenden, nicht nur für Programmieraufgaben, sondern für alle Ihre kommerziellen Arbeiten, das Erstellen von Präsentationen, das Überprüfen von Protokollen und alles dazwischen. Daher müssen wir spezielle Techniken anwenden, um diesen Inhalt schneller zu überprüfen.

In meinem nächsten Abschnitt werde ich einige der Techniken behandeln, die ich verwende, um die Ausgabe von Claude Code zu überprüfen.

Techniken zur Überprüfung der Ausgabe

Die von mir verwendete Überprüfungstechnik variiert je nach Aufgabe, ich werde jedoch in den folgenden Unterabschnitten spezifische Beispiele behandeln. Ich werde es so spezifisch wie möglich auf meine genauen Anwendungsfälle beschränken, und dann können Sie versuchen, es auf Ihre eigenen Aufgaben zu übertragen.

Code überprüfen

Offensichtlich ist die Überprüfung von Code eine der häufigsten Aufgaben, die Sie als Ingenieur erledigen, insbesondere jetzt, da Codierungsagenten bei der Codeerstellung so schnell und effizient geworden sind.

Um Codeüberprüfungen effektiver durchzuführen, habe ich vor allem zwei Dinge getan:

Richten Sie einen benutzerdefinierten Code-Overview-Ability ein, der einen vollständigen Überblick darüber bietet, wie Sie eine Code-Overview effizient durchführen, worauf Sie achten müssen usw.
Lassen Sie diesen Ability automatisch von einem OpenClaw-Agenten ausführen, wenn ich in einer Pull-Anfrage markiert werde.

Wenn mich additionally jemand in einer Umfrageanfrage markiert, sendet mir mein Agent automatisch eine Nachricht mit der Codeüberprüfung, die ich durchgeführt habe, und schlägt vor, diese Codeüberprüfungsnachricht an GitHub zu senden. Dann muss ich mir nur noch die Zusammenfassung der Umfrageanfrage ansehen und, wenn ich möchte, bei der vorgeschlagenen Überprüfung der Umfrageanfrage einfach auf „Senden“ klicken. Dadurch werden viele Probleme aufgedeckt, die möglicherweise in die Produktion gelangt wären, wenn sie nicht erkannt worden wären.

Dies ist wahrscheinlich die wertvollste oder zeitkritischste Überprüfungstechnik, die ich verwende, und ich würde behaupten, dass effiziente Codeüberprüfungen wahrscheinlich eines der wichtigsten Dinge sind, auf die sich Unternehmen jetzt konzentrieren können, um die Geschwindigkeit zu erhöhen, wenn man die erhöhte Codeausgabe mit Codierungsagenten bedenkt.

Überprüfung generierter E-Mails

Dieses Bild zeigt einige Beispiel-E-Mails (keine echten Daten), die ich in HTML in der Vorschau ansehe, um die Analyse der von meinem anrufenden Agenten erstellten Ausgabe sehr effizient zu gestalten und dem Agenten schnell Suggestions zu geben. Um den Suggestions-Prozess noch effizienter zu gestalten, transkribiere ich Suggestions, während ich E-Mails lese, indem ich Superwhisper verwende, um meine Stimme aufzuzeichnen, das Suggestions zu geben, während ich die E-Mails durchsehe, und mein Suggestions dann schnell direkt in Claude Code zu transkribieren. Bild vom Autor.

Eine weitere häufige Aufgabe, die ich erledige, ist das Generieren von E-Mails, die ich über ein Chilly-Outreach-Software versende, oder E-Mails, um anderen zu antworten. Oft möchte ich diese E-Mails auch mit Formatierung überprüfen. Zum Beispiel, wenn sie Hyperlinks oder fette Schrift usw. enthalten.

Dies in einer Nur-Textual content-Schnittstelle wie Slack zu überprüfen, ist kein ideales Szenario. Erstens verursacht es eine Menge Chaos im Slack-Kanal und Slack ist auch nicht in der Lage, ihn immer richtig zu formatieren.

Daher besteht eine der effizientesten Möglichkeiten, generierte E-Mails und allgemein formatierten Textual content zu überprüfen, die ich gefunden habe, darin, Claude Code zu bitten, eine HTML-Datei zu generieren und diese in Ihrem Browser zu öffnen.

Dadurch kann Claude Code unglaublich schnell formatierte Inhalte generieren, sodass Sie diese ganz einfach überprüfen können. Claude kann nicht nur die formatierten E-Mails anzeigen, sondern auch auf sehr schöne Weise anzeigen, welche Individual welche E-Mail erhält, und auch wenn Sie E-Mail-Sequenzen senden, ist die Formatierung tremendous einfach.

Die Verwendung von HTML zum Überprüfen von Ausgaben ist einer der geheimen Hacks, die mir geholfen haben, und die mir jede Woche Stunden Zeit sparen.

Überprüfung von Produktionsprotokollberichten

Eine weitere sehr häufige Aufgabe, für die ich Cloud Code verwende, ist die Überprüfung von Produktionsprotokollberichten. Normalerweise führe ich eine tägliche Abfrage durch, bei der ich Produktionsprotokolle analysiere, nach Fehlern und Dingen suche, die ich beachten sollte, oder einfach nur Warnungen im Code protokolliere.

Dies ist unglaublich nützlich, da Berichtsdienste, die Warnungen bei Fehlern senden, oft sehr laut sind und Sie am Ende viele falsche Warnungen erhalten.

Daher bevorzuge ich es, mir täglich einen Bericht zusenden zu lassen, den ich dann analysieren kann. Dieser Bericht wird mit einem OpenClaw-Agenten gesendet, aber die Artwork und Weise, wie ich die Ergebnisse in der Vorschau anschaue, ist unglaublich wichtig, und hier kommt wieder die HTML-Dateiformatierung ins Spiel.

Bei der Durchsicht dieser Produktionsprotokolle gibt es viele Informationen. Zunächst einmal haben Sie die verschiedenen Fehlermeldungen, die Sie sehen können. Zweitens erfahren Sie, wie oft jede Fehlermeldung aufgetreten ist. Möglicherweise verfügen Sie über unterschiedliche IDs, die sich auf die einzelnen Fehlermeldungen beziehen, die Sie ebenfalls auf einfache Weise anzeigen möchten. Es ist sehr schwierig, all diese Informationen in einer TXT-Formatierung, wie zum Beispiel Slack, auf schöne Weise bereitzustellen, aber die Vorschau in einer HTML-Datei ist unglaublich schön

Nachdem mein Agent die Produktionsprotokolle überprüft hat, bitte ich ihn daher, einen Bericht bereitzustellen und ihn in einer HTML-Datei darzustellen. Dadurch kann ich ganz einfach die gesamte Ausgabe überprüfen und schnell einen Überblick darüber gewinnen, was wichtig ist, was übersprungen werden kann usw.

Ein weiterer Profi-Tipp hier ist, nicht nur die HTML-Datei zu generieren, sondern Claude Code auch zu bitten, sie in Ihrem speziellen Browser zu öffnen, was automatisch geschieht, und Sie erhalten schnell einen Überblick. Und im Grunde werden Sie benachrichtigt, wenn der Agent fertig ist, weil der Browser auf Ihrem Pc mit einem neuen Tab erscheint, der die generierte HTML-Datei enthält.

Abschluss

In diesem Artikel habe ich einige der spezifischen Techniken behandelt, die ich zur Überprüfung der Claude-Code-Ausgabe verwende. Ich habe besprochen, warum es so wichtig ist, die Prüfergebnisse zu optimieren, und hervorgehoben, wie sich der Engpass in der Softwareentwicklung von der Codeerstellung hin zur Analyse der Codeergebnisse verlagert hat. Da der Engpass jetzt der Überprüfungsteil ist, möchten wir diesen so effizient wie möglich gestalten, was das Thema ist, über das ich heute hier gesprochen habe. Ich habe über die verschiedenen Anwendungsfälle gesprochen, für die ich Cloud Code verwendet habe, und darüber, wie ich Ergebnisse effizient analysiere. Eine weitere Verbesserung der Artwork und Weise, wie Sie die Ausgabe Ihrer Codierungsagenten analysieren, wird in Zukunft unglaublich wichtig sein, und ich empfehle Ihnen dringend, sich Zeit für die Optimierung dieses Prozesses zu nehmen und darüber nachzudenken, wie Sie die Überprüfung der Ausgabe von Codierungsagenten effizienter gestalten können. Ich habe einige Techniken behandelt, die ich täglich verwende, aber natürlich gibt es noch viele andere Techniken, die Sie verwenden können, sowie die Tatsache, dass Sie Ihre eigenen Exams haben, für deren Verwendung eigene Techniken erforderlich sind, die sich von meinen unterscheiden.

Mein kostenloses E-E book und Webinar:

Verzehnfachen Sie Ihr Engineering mit LLMs (kostenloser 3-tägiger E-Mail-Kurs)

Holen Sie sich mein kostenloses E-E book „Imaginative and prescient Language Fashions“.

Mein Webinar zu Imaginative and prescient Language Fashions

Finden Sie mich in den sozialen Netzwerken:

Unterstapel

X / Twitter

[ad_2]

Simulieren und Überprüfen eines Modells in Stan: Mit Stan Playground ist das so einfach – es läuft einfach in Ihrem Browser!

admin — Tue, 16 Dec 2025 10:49:06 +0000

[ad_1]

Beim Erstellen von Modellen ist es hilfreich, unser Verständnis zu überprüfen, indem wir gefälschte Daten simulieren und prüfen, ob das angepasste Modell die wahren zugrunde liegenden Parameter wiederherstellen kann. Und das geht in Stan so einfach!

Siehe oben – ich habe gerade ein einfaches Beispiel gemacht Stan-Spielplatz. (Danke, Brian!) Der Code ist irgendwie hässlich, weil ich die wahren Parameterwerte im Stan-Code des transformierten Datenblocks angegeben habe, anstatt sie als Daten aufzurufen; Auf der anderen Seite ist das Ganze dann in einem Programm.

Das ist nicht dasselbe wie voll Simulationsbasierte Kalibrierungsprüfung (SBC). In SBC ziehen Sie die wahren Parameterwerte aus dem Prior, wiederholen den gesamten Prozess viele Male parallel und überprüfen dann die durchschnittliche Abdeckung der Posterior-Inferenzen in Bezug auf die wahren Parameterwerte, indem Sie über den Prior mitteln. Hier führe ich nur eine Simulation durch und stelle die wahren Parameterwerte nur einmal ein. Es ist eine Artwork schnell und schmutzig SBC, das immer noch nützlich sein kann, um Probleme wie nicht identifizierte Modelle oder schlechte Mischung zu erkennen.

Und es ist so einfach! Wann immer Sie ein Modell anpassen, sollten Sie es anhand gefälschter Daten überprüfen.

Ich habe das obige Beispiel gemacht, weil ich schnell nach einer der Übungen suchen wollte, die ich für das kommende Buch „Bayesian Workflow“ schreibe.

PS Hier ist der Code für das obige Beispiel, falls Sie es selbst ausprobieren möchten:

reworked knowledge {
  int N = 100;
  actual a_true = 0.2;
  actual b_true = 0.3;
  actual sigma_true = 0.2;
  vector(N) x;
  vector(N) y;
   for (n in 1:N) {
    x(n) = uniform_rng(0, 10);
    y(n) = normal_rng(1 / (a_true + b_true * x(n)), sigma_true);
  }
}
parameters {
  actual a, b, sigma;
}
mannequin {
  a ~ regular(0, 1);
  b ~ regular(0, 1);
  for (n in 1:N) {
    y(n) ~ regular(1 / (a + b * x(n)), sigma);
  }
}

[ad_2]

Aber verifizieren: Überprüfen Sie: Einkischen des Evidenz -Nutzens von Chatbots in vielen Umgebungen mit Chatbots ‚offensichtlicher Mangel an Verständnis

admin — Fri, 05 Sep 2025 13:26:36 +0000

[ad_1]

In Eine unserer jüngsten Diskussionen Von Chatbots machte Bob Carpenter eine interessante Auszeichnung.

Der Ökonom Gary Smith hatte geschrieben: „Wenn Sie die Antwort kennen, müssen Sie kein LLM (großes Sprachmodell) fragen. Wenn Sie die Antwort nicht kennen, können Sie keinem vertrauen.“

Bob antwortete:

Das ist falsch. Es verstößt die Asymmetrie falsch zwischen der Erzeugung einer korrekten Antwort und der Überprüfung einer korrekten Antwort. Ich benutze ständig LLMs, um zu generieren. . . ständig codieren. In gewisser Weise kenne ich diese Werkzeuge, aber ich kann mich nie an die genaue Beschwörung erinnern. . . Wenn ich dem Chatbot sage, was ich will, und es generiert Pandas und Ploting -Code, kann ich überprüfen, ob es korrekt ist.

Die Asymmetrie zwischen Überprüfung und Erzeugung ist der Schlüssel zum Verständnis des Unterschieds zwischen Polynomzeit (P) und nicht deterministischer Polynomzeitalgorithmen (NP). Ein NP -Algorithmus kann als Erraten mit einem P -Algorithmus formuliert werden und mit einem P -Algorithmus überprüft werden. Wenn das LLM ein viel besserer Raten als ich ist, spart ich eine große Menge an Suche.

Ich denke, dass viele der Probleme, die wir mit Chatbots sehen (wie der berüchtigte Bericht mit gefälschten Referenzen, die von der US -Gesundheits- und menschlichen Dienste erstellt wurden), von Menschen stammten, die den Chatbot generieren, aber nicht Menschen verwenden, um dies zu überprüfen.

Dies ist auch mit einer Kernidee in der Bayesian -Datenanalyse und der statistischen Workflow im Allgemeinen verbunden, dass das Anpassung und Überprüfen von Modellen zwei verschiedene Dinge sind. Wir diskutieren diese Idee auch in Abschnitt 6.2.1 von diesem Artikelwas zurück auf Ein Weblog -Beitrag von 2011 über die wesentliche „Zweiheit“ der Statistik.

In der Tat denke ich, dass verschiedene versuchte Totalisierungsphilosophien von Statistiken fehlerhaft sind, indem versucht wird, die Schritte der Erzeugung und Überprüfung zu verschmelzen. Zwei solcher Totalisierungsphilosophien, die ich nicht magazine, sind die Idee, Unsicherheitserklärungen („Vertrauensregionen“) durch Inverting von Hypothesentests zu konstruieren (siehe Diskussion aus ein anderer Beitrag 2011) und der Versuch, Bayes -Faktoren zu verwenden, um die Unsicherheit über Modelle hinweg zusammenzufassen (siehe Kapitel 7 von BDA3Zum Beispiel).

Aber kehren wir zu Chatbots zurück.

Gary Smith ist ein häufiger Kritiker des LLM -Hype – wir haben in den letzten Jahren mehrmals mit seinen Beiträgen verbunden – und ich denke, seine Kritik ist sinnvoll, aber ich versuche immer, sie mit Bob Carpenters Erfahrung in Einklang zu bringen, die LLMs für viele Menschen bei der Arbeit, einschließlich Bob, sehr nützlich waren.

Meine Lösung ist, dass Chatbots intestine erzeugen und schlecht überprüft werden können.

Dies steht auch im Einklang mit dem, was Smith immer wieder sagt, was das eigentliche Downside mit Chatbots und KI ist, nicht ihre Ausgabe, von denen einige nützlich sind und von denen einige nicht sind, sondern eher die Tendenz, dass viele Menschen annehmen müssen, dass die Chatbot -Ausgabe korrekt ist, oder dass der Chatbot die Artwork und Weise durch die Artwork und Weise, wie eine menschliche Macht ist, „nachdenkt“.

Ich magazine weiterhin die Analogie von Chatbot als Bullshitter. Die Chatbot-Ausgabe ist so etwas wie das, was von einem intestine ausgebildeten Schüler produziert werden könnte, dem eine Frage gestellt wird und dann ohne Reflexion zu antworten beginnt. Oder die Artwork von Vamping, die ich bei einem Assembly durchführen könnte, wenn ich nicht aufpasse und jemand mich plötzlich fragt, was ich denke. Ich könnte in einer solchen Umgebung etwas Nützliches ausspucken – eigentlich mache ich es die ganze Zeit! -, aber das liegt daran, dass ich einen guten Laden allgemeiner Weisheit habe. Meine unüberlegten Antworten sind so etwas wie das, was Sie erhalten würden, indem Sie nach allem, was ich geschrieben habe, durchführen würden – alle meine Bücher, Artikel und Weblog -Beiträge. Es wird niemals eine kreative Lösung für ein neues Downside sein – das würde tatsächlich darüber nachdenken! -, aber ja, es kann immer noch nützlich sein. Ihr Fehler wäre, diese gedankenlose Antwort von mir als mehr als es zu nehmen.

Hier ist ein weiteres Beispiel von Smith, ein Beitrag mit dem Titel “ GPT 5.0 versteht es nicht, ist aber bestrebt zu gefallen:

Die wirkliche Gefahr ist heute nicht, dass Laptop schlauer sind als wir, sondern dass wir glauben, dass sie schlauer sind als wir und ihnen vertrauen, dass sie Entscheidungen treffen, denen sie nicht vertrauen sollten.

Smith teilt ein amüsantes Beispiel für ein unheimliches Valley-Bild, das vom Chatbot generiert wurde. Als Antwort auf seine Frage „Bitte zeichnen Sie ein Bild einer Posse mit 5 beschrifteten Körperteilen“ (er hatte beabsichtigt, „Opossum“ einzugeben, aber einige Tippfehler führten zu „Posse“):

Smith weist auf einige offensichtliche Probleme mit dem Bild hin und durchläuft einen Dialog mit dem Chatbot, in dem es quick alles angenehm aussagt:

LLMs wissen nicht, was Wörter bedeuten oder wie sie sich auf die reale Welt beziehen. Sie haben folglich keine Möglichkeit zu erkennen, ob der Inhalt, den sie eingeben und ausgeben, wahr oder falsch ist.

Ich denke, Bob würde antworten, dass zukünftige Versionen des Chatbots mehr Verbindungen zur realen Welt haben könnten, einige visuelle/audio-/taktile Eingaben, genau wie wir als Menschen bekommen. Und das könnte so sein, aber im Second vermute ich, dass der erste Schritt der Chatbot -Programmierer darin besteht, herauszufinden, wie die offensichtlichen Probleme wie Rechtschreibfehler behoben werden können, was den resultierenden Textual content und die Bilder unmittelbarer nützlicher macht, aber auch irreführender im Sinne, nicht die Informationen zu enthalten, die ihre Grenzen deutlich anzeigen.

Um zu Bobs Thema „der Asymmetrie zwischen der korrekten Antwort und der Überprüfung einer korrekten Antwort“ zurückzukehren: Wenn Ihr Ziel darin besteht, ein Bild einer hypothetischen Posse zu erstellen, macht der Chatbot ziemlich intestine, dass Google eigentlich noch besser ist, aber der Chatbot gewinnt, wenn Sie ein Mashup wie „eine Posse von Superhelden in Robin -Hauben kosteten, wie einboot, oder so etwas wie ein Boot. Sie können dann Ihre menschlichen Überprüfungsfähigkeiten nutzen, um Probleme mit dem Bild zu erkennen und dann in Photoshop oder was auch immer zu gehen und es zu beheben. Oder lassen Sie sich den Chatbot helfen, ihn in Photoshop zu reparieren. Ich denke, das Ziel ist es, dass die Überprüfung auch vom Laptop durchgeführt wird, aber wir sind noch nicht da.

Im Second sehe ich Gary Smiths Besorgnis, dass Menschen, die Chatbot -Ausgabe vertrauen, als im Einklang mit der Abteilung von Bob Carpenter über die beiden Aufgaben der Erzeugung und Überprüfung übereinstimmen.

[ad_2]

Erstellen und Überprüfen stabiler KI-gesteuerter Systeme auf strenge und versatile Weise | MIT Information

admin — Thu, 18 Jul 2024 18:56:37 +0000

[ad_1]

Neuronale Netzwerke haben die Artwork und Weise, wie Ingenieure Robotersteuerungen entwickeln, grundlegend verändert und anpassungsfähigere und effizientere Maschinen hervorgebracht. Dennoch sind diese gehirnähnlichen maschinellen Lernsysteme ein zweischneidiges Schwert: Ihre Komplexität macht sie leistungsstark, aber sie macht es auch schwierig zu garantieren, dass ein Roboter, der von einem neuronalen Netzwerk angetrieben wird, seine Aufgabe sicher erfüllt.

Die traditionelle Methode zur Überprüfung von Sicherheit und Stabilität sind Techniken, die als Ljapunow-Funktionen bezeichnet werden. Wenn Sie eine Ljapunow-Funktion finden, deren Wert kontinuierlich abnimmt, können Sie sicher sein, dass unsichere oder instabile Situationen, die mit höheren Werten verbunden sind, niemals eintreten werden. Bei Robotern, die von neuronalen Netzwerken gesteuert werden, ließen sich frühere Ansätze zur Überprüfung von Ljapunow-Bedingungen jedoch nicht intestine auf komplexe Maschinen skalieren.

Forscher des Laptop Science and Synthetic Intelligence Laboratory (CSAIL) des MIT und anderer Institute haben nun neue Techniken entwickelt, die Ljapunow-Berechnungen in komplexeren Systemen streng zertifizieren. Ihr Algorithmus sucht und verifiziert effizient eine Ljapunow-Funktion und bietet damit eine Stabilitätsgarantie für das System. Dieser Ansatz könnte möglicherweise einen sichereren Einsatz von Robotern und autonomen Fahrzeugen, einschließlich Flugzeugen und Raumfahrzeugen, ermöglichen.

Um frühere Algorithmen zu übertreffen, fanden die Forscher eine kostengünstige Abkürzung für den Trainings- und Verifizierungsprozess. Sie generierten kostengünstigere Gegenbeispiele – beispielsweise widersprüchliche Daten von Sensoren, die den Controller hätten verwirren können – und optimierten dann das Robotersystem, um diese zu berücksichtigen. Das Verständnis dieser Randfälle half den Maschinen, den Umgang mit schwierigen Umständen zu erlernen, wodurch sie unter einer größeren Bandbreite von Bedingungen sicher arbeiten konnten als bisher möglich. Dann entwickelten sie eine neuartige Verifizierungsformulierung, die die Verwendung eines skalierbaren neuronalen Netzwerkverifizierers, α,β-CROWN, ermöglicht, um strenge Worst-Case-Szenario-Garantien über die Gegenbeispiele hinaus zu bieten.

„Wir haben einige beeindruckende empirische Leistungen bei KI-gesteuerten Maschinen wie Humanoiden und Roboterhunden gesehen, aber diesen KI-Controllern fehlen die formalen Garantien, die für sicherheitskritische Systeme entscheidend sind“, sagt Lujie Yang, Doktorand für Elektrotechnik und Informatik (EECS) am MIT und CSAIL-Mitarbeiter, der zusammen mit dem Forscher Hongkai Dai SM ’12, PhD ’16 am Toyota Analysis Institute, Co-Leiter eines neuen Papiers über das Projekt ist. „Unsere Arbeit schließt die Lücke zwischen diesem Leistungsniveau von neuronalen Netzwerkcontrollern und den Sicherheitsgarantien, die für den Einsatz komplexerer neuronaler Netzwerkcontroller in der realen Welt erforderlich sind“, bemerkt Yang.

Für eine digitale Demonstration simulierte das Group, wie sich eine Quadrotor-Drohne mit Lidar-Sensoren in einer zweidimensionalen Umgebung stabilisieren würde. Ihr Algorithmus führte die Drohne erfolgreich in eine stabile Schwebeposition, wobei er nur die begrenzten Umgebungsinformationen nutzte, die die Lidar-Sensoren lieferten. In zwei weiteren Experimenten ermöglichte ihr Ansatz den stabilen Betrieb zweier simulierter Robotersysteme unter einem größeren Spektrum von Bedingungen: ein umgekehrtes Pendel und ein pfadverfolgendes Fahrzeug. Diese Experimente sind zwar bescheiden, aber relativ komplexer als das, was die Neighborhood für die Verifizierung neuronaler Netze zuvor hätte tun können, insbesondere weil sie Sensormodelle beinhalteten.

„Anders als bei üblichen Problemen des maschinellen Lernens erfordert die rigorose Verwendung neuronaler Netze als Ljapunow-Funktionen die Lösung schwieriger globaler Optimierungsprobleme, und daher ist die Skalierbarkeit der entscheidende Engpass“, sagt Sicun Gao, außerordentlicher Professor für Informatik und Ingenieurwissenschaften an der College of California in San Diego, der an dieser Arbeit nicht beteiligt conflict. „Die aktuelle Arbeit leistet einen wichtigen Beitrag, indem sie algorithmische Ansätze entwickelt, die viel besser auf die besondere Verwendung neuronaler Netze als Ljapunow-Funktionen in Steuerungsproblemen zugeschnitten sind. Sie erreicht eine beeindruckende Verbesserung der Skalierbarkeit und der Qualität der Lösungen gegenüber bestehenden Ansätzen. Die Arbeit eröffnet spannende Richtungen für die weitere Entwicklung von Optimierungsalgorithmen für neuronale Ljapunow-Methoden und die rigorose Verwendung von Deep Studying in der Steuerung und Robotik im Allgemeinen.“

Der Stabilitätsansatz von Yang und ihren Kollegen hat potenziell weitreichende Anwendungsmöglichkeiten, bei denen die Gewährleistung der Sicherheit von entscheidender Bedeutung ist. Er könnte dazu beitragen, eine ruhigere Fahrt für autonome Fahrzeuge wie Flugzeuge und Raumfahrzeuge zu gewährleisten. Ebenso könnten Drohnen, die Waren ausliefern oder verschiedene Gelände kartieren, von solchen Sicherheitsgarantien profitieren.

Die hier entwickelten Techniken sind sehr allgemein gehalten und nicht nur auf die Robotik beschränkt. Dieselben Techniken könnten in Zukunft möglicherweise auch bei anderen Anwendungen hilfreich sein, etwa in der Biomedizin und der industriellen Verarbeitung.

Während die Technik in Bezug auf die Skalierbarkeit eine Verbesserung gegenüber früheren Arbeiten darstellt, untersuchen die Forscher, wie sie in Systemen mit höheren Dimensionen besser funktionieren kann. Sie möchten auch Daten berücksichtigen, die über Lidar-Messwerte hinausgehen, wie Bilder und Punktwolken.

In der zukünftigen Forschungsrichtung möchte das Group die gleichen Stabilitätsgarantien für Systeme bieten, die sich in unsicheren Umgebungen befinden und Störungen ausgesetzt sind. Wenn eine Drohne beispielsweise einer starken Windböe ausgesetzt ist, möchten Yang und ihre Kollegen sicherstellen, dass sie trotzdem stabil fliegt und die gewünschte Aufgabe erfüllt.

Außerdem wollen sie ihre Methode auf Optimierungsprobleme anwenden, bei denen das Ziel darin besteht, die Zeit und Distanz zu minimieren, die ein Roboter braucht, um eine Aufgabe zu erledigen und dabei stabil zu bleiben. Sie planen, ihre Technik auf Humanoide und andere reale Maschinen auszudehnen, bei denen ein Roboter stabil bleiben muss, während er Kontakt mit seiner Umgebung hält.

Russ Tedrake, Toyota-Professor für EECS, Luft- und Raumfahrt und Maschinenbau am MIT, Vizepräsident für Robotikforschung am TRI und CSAIL-Mitglied, ist leitender Autor dieser Forschungsarbeit. Der Beitrag wird auch dem Doktoranden Zhouxing Shi von der College of California in Los Angeles und dem außerordentlichen Professor Cho-Jui Hsieh sowie dem Assistenzprofessor Huan Zhang von der College of Illinois Urbana-Champaign zugeschrieben. Ihre Arbeit wurde teilweise von Amazon, der Nationwide Science Basis, dem Workplace of Naval Analysis und dem AI2050-Programm von Schmidt Sciences unterstützt. Der Beitrag der Forscher wird auf der Worldwide Convention on Machine Studying 2024 vorgestellt.

[ad_2]