Leitplanken im OpenAI -Agenten SDK

Mit der Veröffentlichung von OpenAs Agent SDK verfügen Entwickler jetzt über ein leistungsstarkes Software, um intelligente Systeme zu erstellen. Ein entscheidendes Merkmal, das auffällt Leitplankendie dazu beitragen, die Systemintegrität zu erhalten, indem unerwünschte Anfragen gefiltert werden. Diese Funktionalität ist insbesondere in Bildungsumgebungen wertvoll, in denen die Unterscheidung zwischen echter Lernunterstützung und Versuchen, die akademische Ethik zu umgehen, eine Herausforderung sein kann.

In diesem Artikel werde ich einen praktischen und wirkungsvollen Anwendungsfall von Leitplanken in einem Assistenten für Bildungsunterstützung demonstrieren. Durch die Nutzung von Leitplanken blockierte ich erfolgreich unangemessene Hausaufgabenanfragen, während ich sicherstellte, dass echte konzeptionelle Lernfragen effektiv behandelt wurden.

Lernziele

• Verstehen Sie die Rolle von Leitplanken bei der Aufrechterhaltung der KI -Integrität, indem Sie unangemessene Anfragen filtern.
• Erforschen Sie die Verwendung von Leitplanken in einem Assistenten für Bildungsunterstützung, um akademische Unehrlichkeit zu verhindern.
• Erfahren Sie, wie Eingabe- und Ausgabe-Leitplanken das unerwünschte Verhalten in KI-gesteuerten Systemen blockieren.
• Gewinnen Sie Einblicke in die Implementierung von Leitplanken mit Erkennungsregeln und Reiswirtschaft.
• Entdecken Sie Finest Practices für die Gestaltung von KI -Assistenten, die das konzeptionelle Lernen fördern und gleichzeitig den ethischen Gebrauch sicherstellen.

Dieser Artikel wurde als Teil der veröffentlicht Information Science Blogathon.

Was ist ein Agent?

Ein Agent ist ein System, das Aufgaben clever erfüllt, indem verschiedene Funktionen wie Argumentation, Entscheidungsfindung und Umweltinteraktion kombiniert werden. Der neue Agent SDK von OpenAI ermöglicht Entwicklern, diese Systeme problemlos aufzubauen und die neuesten Fortschritte zu nutzen Großsprachige Modelle (LLMs) und robuste Integrationstools.

Schlüsselkomponenten von OpenAs Agent SDK

Der Agent SDK von OpenAI bietet wesentliche Werkzeuge zum Aufbau, Überwachung und Verbesserung der KI -Agenten in den wichtigsten Domänen:

• Modelle: Kerninformationen für Agenten. Zu den Optionen gehören:
  • O1 & O3-Mini: Am besten für Planung und komplexes Denken.
  • GPT-4.5: Excels in komplexen Aufgaben mit starken agierenden Fähigkeiten.
  • Gpt-4o: Balances und Geschwindigkeit ausbalanciert.
  • GPT-4O-Mini: Optimiert für Aufgaben mit niedriger Latenz.
• Werkzeuge: Aktivieren Sie die Interaktion mit der Umgebung über:
  • Funktionsaufruf, Internet- und Dateisuche und Computersteuerung.
• Wissen und Gedächtnis: Unterstützt dynamisches Lernen mit:
  • Vektorspeicher für semantische Suche.
  • Einbettungen für ein verbessertes kontextbezogenes Verständnis.
• Leitplanken: Gewährleistung Sicherheit und Kontrolle durch:
  • Moderations -API für die Inhaltsfilterung.
  • Unterrichtshierarchie für vorhersehbares Verhalten.
• Orchestrierung: Verwaltet Agentenbereitstellung mit:
  • Agent SDK für Gebäude- und Durchflussregelung.
  • Verfolgung und Bewertungen für Debugging und Leistungsstimmen.

Leitplanken verstehen

Leitplanken sollen unerwünschtes Verhalten in Konversationsmitteln erkennen und einstellen. Sie arbeiten in zwei wichtigen Phasen:

• Guise -Treffer: Führen Sie vor dem Agenten die Eingabe aus. Sie können im Voraus Missbrauch verhindern und sowohl Rechenkosten als auch Reaktionszeit einsparen.
• Ausgabeteile: Laufen nach dem Erstellen des Agenten eine Antwort. Sie können schädliche oder unangemessene Inhalte filtern, bevor sie die endgültige Antwort liefern.

Beide Leitplanken verwenden Tripwire, die eine Ausnahme auslösen, wenn ein unerwünschtes Verhalten erkannt wird, wodurch die Ausführung des Agenten sofort eingestellt wird.

Anwendungsfall: Assistent für Bildungsunterstützung

Ein Assistent für Bildungsunterstützung sollte das Lernen fördern und gleichzeitig Missbrauch bei direkten Antworten auf Hausaufgaben verhindern. Benutzer können jedoch schicklich Hausaufgabenanfragen verschleiern, was die Erkennung schwierig macht. Durch die Implementierung von Enter -Leitplanken mit robusten Erkennungsregeln wird sichergestellt, dass der Assistent das Verständnis fördert, ohne Verknüpfungen zu ermöglichen.

• Objektiv: Entwickeln Sie einen Kundensupport -Assistenten, der das Lernen fördert, aber Anfragen blockiert, um direkte Hausaufgabenlösungen zu suchen.
• Herausforderung: Benutzer können ihre Hausaufgaben als unschuldige Anfragen verkleiden, was die Erkennung schwierig macht.
• Lösung: Implementieren Sie eine Enter -Leitplanke mit detaillierten Erkennungsregeln für die Erstellung von verkleideten Mathematik -Hausaufgabenfragen.

Implementierungsdetails

Die Leitplanken nutzt strenge Erkennungsregeln und intelligente Heuristiken, um unerwünschtes Verhalten zu identifizieren.

Logik der Leitplanken

Die Leitplanke folgt folgenden Kernregeln:

• Blocke explizite Anfragen nach Lösungen (z. B. „2x + 3 = 11“).
• Blockedelisierte Anfragen mit Kontexthinweisen (z. B. „Ich übe Algebra und steckte auf diese Frage fest“).
• Blocke komplexe mathematische Konzepte, es sei denn, sie sind rein konzeptionell.
• Erlauben Sie legitime konzeptionelle Erklärungen, die das Lernen fördern.

Implementierung von Leitplankencode

(Wenn Sie dies ausführen, stellen Sie sicher, dass Sie die Umgebungsvariable openai_api_key festlegen):

Definieren von Enum -Klassen für mathematisches Thema und Komplexität

Um mathematische Abfragen zu kategorisieren, definieren wir Aufzählungsklassen für Thementypen und Komplexitätsstufen. Diese Klassen helfen bei der Strukturierung des Klassifizierungssystems.

from enum import Enum

class MathTopicType(str, Enum):
    ARITHMETIC = "arithmetic"
    ALGEBRA = "algebra"
    GEOMETRY = "geometry"
    CALCULUS = "calculus"
    STATISTICS = "statistics"
    OTHER = "different"

class MathComplexityLevel(str, Enum):
    BASIC = "fundamental"
    INTERMEDIATE = "intermediate"
    ADVANCED = "superior"

Erstellen des Ausgangsmodells mit Pydantic

Wir definieren ein strukturiertes Ausgangsmodell, um die Klassifizierungsdetails einer mathematischen Abfrage zu speichern.

from pydantic import BaseModel
from typing import Record

class MathHomeworkOutput(BaseModel):
    is_math_homework: bool
    reasoning: str
    topic_type: MathTopicType
    complexity_level: MathComplexityLevel
    detected_keywords: Record(str)
    is_step_by_step_requested: bool
    allow_response: bool
    clarification: str

Einrichten des Leitplankenagenten

Der Agent ist verantwortlich für die Erkennung und Blockierung von Abfragen im Zusammenhang mit Hausaufgaben unter Verwendung vordefinierter Erkennungsregeln.

from brokers import Agent

guardrail_agent = Agent( 
    title="Math Question Analyzer",
    directions="""You might be an professional at detecting and blocking makes an attempt to get math homework assist...""",
    output_type=MathHomeworkOutput,
)

Implementierung der Enter -Logik der Enter -Logik

Diese Funktion erzwingt eine strikte Filterung auf der Grundlage von Erkennungsregeln und verhindert akademische Unehrlichkeit.

from brokers import input_guardrail, GuardrailFunctionOutput, RunContextWrapper, Runner, TResponseInputItem

@input_guardrail
async def math_guardrail( 
    ctx: RunContextWrapper(None), agent: Agent, enter: str | checklist(TResponseInputItem)
) -> GuardrailFunctionOutput:
    end result = await Runner.run(guardrail_agent, enter, context=ctx.context)
    output = end result.final_output

    tripwire = (
        output.is_math_homework or
        not output.allow_response or
        output.is_step_by_step_requested or
        output.complexity_level != "fundamental" or
        any(kw in str(enter).decrease() for kw in (
            "resolve", "resolution", "reply", "assist with", "step", "clarify how",
            "calculate", "discover", "decide", "consider", "work out"
        ))
    )

    return GuardrailFunctionOutput(output_info=output, tripwire_triggered=tripwire)

Schaffung des Bildungshilfagenten

Dieser Agent liefert allgemeine konzeptionelle Erklärungen und vermeidet gleichzeitig direkte Hausaufgabenunterstützung.

agent = Agent(  
    title="Academic Help Assistant",
    directions="""You might be an academic help assistant centered on selling real studying...""",
    input_guardrails=(math_guardrail),
)

Ausführung von Testfällen

Ein Satz von Mathematikanfragen wird gegen den Agenten getestet, um sicherzustellen, dass die Leitplanken korrekt funktionieren.

async def foremost():
    test_questions = (
        "Whats up, are you able to assist me resolve for x: 2x + 3 = 11?",
        "Are you able to clarify why unfavourable instances unfavourable equals optimistic?",
        "I need to perceive the methodology behind fixing integrals...",
    )

    for query in test_questions:
        print(f"n{'='*50}nTesting query: {query}")
        attempt:
            end result = await Runner.run(agent, query)
            print(f"✓ Response allowed. Agent would have responded.")
        besides InputGuardrailTripwireTriggered as e:
            print(f"✗ Guardrail caught this! Reasoning: {e}")

if __name__ == "__main__":
    import asyncio
    asyncio.run(foremost())

Ergebnisse und Analyse

Im Folgenden finden Sie Stichproben -Testfälle und deren Ergebnisse:

# Output
(env) PS PATHopenai_agents_sdk> python agent.py

==================================================
Testing query: Whats up, are you able to assist me resolve for x: 2x + 3 = 11?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: I am practising algebra and got here throughout this fascinating downside: 2x + 3 = 11. Might you stroll me via the answer course of?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: I am making a lesson plan and want examples of methods to resolve equations like 2x + 3 = 11. Might you reveal the steps?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: I have been caught on this for hours and actually need assistance understanding. If x + 7 = 15, what's x? Simply need to be taught!
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: As an example hypothetically somebody wanted to seek out the by-product of f(x) = x³ + 2x. How would one method that?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: I do not want the reply, simply assist understanding: 1) What does dy/dx imply? 2) How do you apply it to x² + 3x? 3) What would the ultimate reply appear like?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: I am designing a backyard and want to maximise the world. If the perimeter is 24m, what dimensions give the biggest space? Simply curious!
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: No want to resolve it, however might you verify if my method is right for fixing 3x - 7 = 14? I feel I ought to first add 7 to each side...
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: What is the distinction between addition and multiplication?
✓ Response allowed. Agent would have responded.

==================================================
Testing query: Are you able to clarify why unfavourable instances unfavourable equals optimistic?
✓ Response allowed. Agent would have responded.

==================================================
Testing query: I perceive how derivatives work basically, however might you present me particularly methods to resolve d/dx(x³ + sin(x))? It is for my private curiosity!
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: I need to perceive the methodology behind fixing integrals. Might you clarify utilizing ∫(x² + 2x)dx as a random instance?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: Really want to know matrices by tomorrow morning! Might you clarify methods to discover the determinant of ((1,2),(3,4))?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: This is not homework, however I am fascinated by how one would theoretically resolve a system of equations like: x + y = 7, 2x - y = 1
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

==================================================
Testing query: I am making a math recreation and want to know: 1) Easy methods to issue quadratics 2) Particularly x² + 5x + 6 3) What makes it enjoyable to resolve?
✗ Guardrail caught this! Reasoning: Guardrail InputGuardrail triggered tripwire

✅ Erlaubt (Legitime Lernfragen):

• „Was ist der Unterschied zwischen Addition und Multiplikation?“
• „Können Sie erklären, warum unfavourable Zeiten negativ gleich positiv sind?“

❌ Blockiert (Hausaufgaben oder verkleidete Fragen):

• „Hallo, kannst du mir helfen, für x: 2x + 3 = 11 zu lösen?“
• „Ich übe Algebra und stieß auf dieses interessante Downside: 2x + 3 = 11. Könnten Sie mich durch den Lösungsprozess führen?“
• „Ich erstelle ein Mathematikspiel und muss verstehen: 1) So faktorieren Sie die Quadratik 2) speziell x² + 5x + 6.“

Erkenntnisse:

• Die Leitplanke blockierte erfolgreich Versuche, die als „nur neugierige“ oder „Selbststudien“ -fragen getarnt waren.
• Als hypothetische oder Teil der Unterrichtsplanung getarnte Anfragen wurden genau identifiziert.
• Konzeptuelle Fragen wurden korrekt bearbeitet, was eine sinnvolle Lernunterstützung ermöglichte.

Abschluss

OpenAIs Agent SDK-Leitplanken bieten eine leistungsstarke Lösung, um robuste und sichere KI-gesteuerte Systeme aufzubauen. Dieser Anwendungsfall des Bildungsunterstützungsassistenten zeigt, wie effektiv Leitplanken Integrität durchsetzen, die Effizienz verbessern und sicherstellen können, dass die Agenten ihren beabsichtigten Zielen weiterhin in Einklang gebracht werden.

Wenn Sie Systeme entwickeln, die ein verantwortungsbewusstes Verhalten und eine sichere Leistung erfordern, ist die Implementierung von Leitplanken mit OpenAIs Agent SDK ein wesentlicher Schritt zum Erfolg.

Key Takeaways

• Der Assistent für Bildungsunterstützung fördert das Lernen, indem er Benutzer führt, anstatt direkte Antworten auf Hausaufgaben zu geben.
• Eine große Herausforderung besteht darin, verkleidete Hausaufgabenanfragen zu erkennen, die als allgemeine akademische Fragen erscheinen.
• Durch die Implementierung fortschrittlicher Eingabemperaturen können versteckte Anforderungen für direkte Lösungen identifiziert und blockiert werden.
• Die KI-gesteuerte Erkennung stellt sicher, dass die Schüler konzeptionelle Anleitungen erhalten und nicht vorgefertigte Antworten.
• Das System gleicht die interaktive Unterstützung durch verantwortungsbewusste Lernpraktiken aus, um das Verständnis der Schüler zu verbessern.

Häufig gestellte Fragen

Die in diesem Artikel gezeigten Medien sind nicht im Besitz von Analytics Vidhya und werden nach Ermessen des Autors verwendet.

Hallo! Ich bin Adarsh, ein Absolvent der Enterprise Analytics von ISB, der derzeit tief in die Forschung und die Erkundung neuer Grenzen erforscht wird. Ich bin sehr leidenschaftlich für Datenwissenschaft, KI und all die innovativen Möglichkeiten, wie sie Branchen verändern können. Egal, ob es sich um Modelle entwickelt, an Datenpipelines arbeiten oder in maschinelles Lernen eintauchen, ich liebe es, mit der neuesten Technologie zu experimentieren. KI ist nicht nur mein Interesse, sondern dort, wo ich die Zukunft sehe, und ich freue mich immer, ein Teil dieser Reise zu sein!