hat den Grundstein für eine strukturiertere Möglichkeit gelegt, interaktive, zustandsbehaftete KI-gesteuerte Anwendungen zu erstellen. Eines der interessanteren Ergebnisse dieser Bemühungen conflict die Veröffentlichung ihres neuen Interaktions-API vor ein paar Wochen.

Da große Sprachmodelle (LLMs) kommen und gehen, kommt es oft vor, dass eine von einem LLM-Anbieter entwickelte API etwas veraltet sein kann. Schließlich kann es für einen API-Designer schwierig sein, alle verschiedenen Änderungen und Optimierungen vorherzusehen, die möglicherweise auf das System angewendet werden, für das die API entwickelt wurde. Dies gilt in zweifacher Hinsicht für die KI, wo das Tempo des Wandels anders ist als alles, was es zuvor in der IT-Welt gegeben hat.

Das haben wir zum Beispiel schon bei OpenAI gesehen. Ihre ursprüngliche API für ihre Modelle hieß Abschlüsse API. Als ihre Modelle weiterentwickelten, mussten sie ein Improve durchführen und eine neue API namens veröffentlichen Antworten.

Einen etwas anderen Weg geht Google bei der Interactions API. Es ist kein vollständiger Ersatz für die älteren generierenInhalt API, sondern eher eine Erweiterung davon.

Wie Google in seiner eigenen Dokumentation sagt …

„Die Interaktions-API (Beta) ist eine einheitliche Schnittstelle für die Interaktion mit Gemini-Modellen und -Agenten. Es vereinfacht die Statusverwaltung, die Software-Orchestrierung und lang andauernde Aufgaben.“

Der Relaxation dieses Artikels untersucht die architektonische Notwendigkeit der Interactions API. Wir beginnen einfach damit, zu zeigen, wie die Interactions API alles kann, was ihr Vorgänger konnte, und enden dann damit, wie sie zustandsbehaftete Vorgänge, die explizite Integration der Deep Analysis-Agentenfunktionen mit hoher Latenz von Google und die Handhabung lang laufender Aufgaben ermöglicht. Wir werden über ein „Hallo Welt“-Beispiel hinausgehen und Systeme entwickeln, die tiefes Nachdenken und die Orchestrierung asynchroner Forschung erfordern.

Die architektonische Lücke: Warum „Chat“ nicht ausreicht

Um zu verstehen, warum die Interactions API existiert, müssen wir analysieren, warum die Commonplace-LLM-Chat-Schleife unzureichend ist.

In einer Commonplace-Chat-Anwendung ist „Standing“ implizit. Es existiert nur als Schiebefenster des Token-Verlaufs. Wenn sich ein Benutzer in Schritt 3 eines Onboarding-Assistenten befindet und eine Frage stellt, die nicht zum Thema gehört, halluziniert das Modell möglicherweise einen neuen Pfad, wodurch der Assistent effektiv unterbrochen wird. Der Entwickler hat keine programmatische Garantie dafür, dass der Benutzer dort ist, wo er sein soll.

Für die Entwicklung moderner KI-Systeme reicht dies nicht aus. Um dem entgegenzuwirken, bietet die neue API von Google Möglichkeiten, in nachfolgenden LLM-Interaktionen auf den vorherigen Kontext zu verweisen. Wir werden später ein Beispiel dafür sehen.

Das Deep-Analysis-Downside

Die Deep Analysis-Funktion von Google (unterstützt von Gemini) ist aggressiv. Es ruft nicht nur Informationen ab; Es formuliert einen Plan, führt Dutzende Suchvorgänge durch, liest Hunderte von Seiten und fasst eine Antwort zusammen. Dieser Prozess ist asynchron und weist eine hohe Latenz auf.

Sie können ein Commonplace-Chat-Modell nicht einfach dazu veranlassen, innerhalb einer synchronen Schleife „tiefgreifende Recherchen durchzuführen“, ohne Zeitüberschreitungen oder Kontextfensterüberläufe zu riskieren. Mit der Interactions-API können Sie diesen flüchtigen Agentenprozess in einen stabilen, verwalteten Prozess kapseln SchrittPausieren des Interaktionsstatus. Gleichzeitig erfolgt die Schwerarbeit erst dann, wenn strukturierte Daten zurückgegeben werden. Wenn die Recherche eines Deep-Analysis-Agenten jedoch viel Zeit in Anspruch nimmt, ist es das Letzte, was Sie tun möchten, herumzusitzen und Däumchen zu drehen und darauf zu warten, dass die Recherche abgeschlossen ist. Mit der Interaktions-API können Sie regelmäßig Hintergrundrecherchen durchführen und die Ergebnisse abfragen, sodass Sie benachrichtigt werden, sobald der Agent seine Ergebnisse zurückgibt.

Einrichten einer Entwicklungsumgebung

Sehen wir uns die Interactions API aus der Nähe an, indem wir uns einige Codierungsbeispiele für ihre Verwendung ansehen. Wie bei jedem Entwicklungsprojekt ist es am besten, Ihre Umgebung zu isolieren, additionally machen wir das jetzt. Ich verwende Home windows und das UV Verwenden Sie dazu den Paketmanager, aber verwenden Sie das Software, mit dem Sie am besten vertraut sind. Mein Code wurde in einem Jupyter-Pocket book ausgeführt.

uv init interactions_demo --python 3.12
cd interactions_demo
uv add google-genai jupyter

# To run the pocket book, sort this in

uv run jupyter pocket book

Um meinen Beispielcode auszuführen, benötigen Sie außerdem einen Google API-Schlüssel. Wenn Sie keins haben, gehen Sie zu Googles AI Studio Web site und melden Sie sich an. Unten hyperlinks auf dem Bildschirm sehen Sie ein Holen Sie sich den API-Schlüssel Hyperlink. Klicken Sie darauf und folgen Sie den Anweisungen, um Ihren Schlüssel zu erhalten. Sobald Sie einen Schlüssel haben, erstellen Sie eine Umgebungsvariable mit dem Namen GOOGLE_API_KEY auf Ihrem System und setzen Sie seinen Wert auf Ihren API-Schlüssel.

Beispiel 1: Ein Good day World-Äquivalent

from google import genai

consumer = genai.Shopper()

interplay =  consumer.interactions.create(
    mannequin="gemini-2.5-flash",
    enter="What's the capital of France"
)

print(interplay.outputs(-1).textual content)

#
# Output
#
The capital of France is **Paris**.

Beispiel 2: Verwendung von Nano Banana zum Generieren eines Bildes

Bevor wir die spezifischen Fähigkeiten der Zustandsverwaltung und tiefgreifenden Forschung untersuchen, die die neue Interactions API bietet, möchte ich zeigen, dass dies der Fall ist Auch ein universelles, multimodales Software. Dazu verwenden wir die API, um mit Nano Banana ein Bild für uns zu erstellen, das offiziell als Gemini 3 Professional Picture Preview bekannt ist.

import base64
import os
from google import genai

# 1. Make sure the listing exists
output_dir = r"c:temp"
if not os.path.exists(output_dir):
    os.makedirs(output_dir)
    print(f"Created listing: {output_dir}")

consumer = genai.Shopper()

print("Sending request...")

strive:
    # 2. Right Syntax: Cross 'response_modalities' straight (not inside config)
    interplay = consumer.interactions.create(
        mannequin="gemini-3-pro-image-preview", # Guarantee you've got entry to this mannequin
        enter="Generate a picture of a hippo sporting a top-hat using a uni-cycle.",
        response_modalities=("IMAGE") 
    )

    found_image = False

    # 3. Iterate via outputs and PRINT all the things
    for i, output in enumerate(interplay.outputs):
        
        # Debug: Print the sort so we all know what we obtained
        print(f"n--- Output {i+1} Sort: {output.sort} ---")

        if output.sort == "textual content":
            # If the mannequin refused or chatted again, it will print why
            print(f" Textual content Response: {output.textual content}")

        elif output.sort == "picture":
            print(f"Picture Response: Mime: {output.mime_type}")
            
            # Assemble filename
            file_path = os.path.be part of(output_dir, f"hippo_{i}.png")
            
            # Save the picture
            with open(file_path, "wb") as f:
                # The SDK normally returns base64 bytes or string
                if isinstance(output.knowledge, bytes):
                    f.write(output.knowledge)
                else:
                    f.write(base64.b64decode(output.knowledge))
            
            print(f"Saved to: {file_path}")
            found_image = True
    
    if not found_image:
        print("nNo picture was returned. Test the 'Textual content Response' above for the explanation.")

besides Exception as e:
    print(f"nError: {e}")

Das conflict meine Ausgabe.

Beispiel 3: Staatsverwaltung

Die zustandsbehaftete Verwaltung in der Interaktions-API basiert auf dem „Interaktion“ Ressource, die als Sitzungsdatensatz dient und den gesamten Verlauf einer Aufgabe enthält, von Benutzereingaben bis hin zu Werkzeugergebnissen.

Um eine Konversation fortzusetzen, die sich an den vorherigen Kontext erinnert, übergeben Sie eine ID einer früheren Interaktion an die previous_interaction_id Parameter einer neuen Anfrage.

Der Server verwendet diese ID, um automatisch den vollständigen Kontext der jeweiligen Sitzung abzurufen, mit der er verknüpft ist, sodass der Entwickler nicht den gesamten Chat-Verlauf erneut senden muss. Ein Nebeneffekt ist, dass das Caching auf diese Weise effektiver genutzt werden kann, was zu einer verbesserten Leistung und geringeren Token-Kosten führt.

Zustandsbehaftete Interaktionen erfordern, dass die Daten auf den Servern von Google gespeichert werden. Standardmäßig ist der Retailer-Parameter auf true gesetzt, wodurch diese Funktion aktiviert wird. Wenn ein Entwickler „retailer=false“ festlegt, kann er keine zustandsbehafteten Funktionen wie previous_interaction_id verwenden.

Der Stateful-Modus ermöglicht auch das Mischen verschiedener Modelle und Agenten in einem einzigen Thread. Sie könnten beispielsweise einen Deep Analysis-Agenten für die Datenerfassung verwenden und dann auf die ID dieser Interaktion verweisen, um die Ergebnisse in einem standardmäßigen (günstigeren) Gemini-Modell zusammenfassen zu lassen.

Hier ist ein kurzes Beispiel, bei dem wir eine einfache Aufgabe beginnen, indem wir dem Mannequin unseren Namen nennen und ihm einige einfache Fragen stellen. Wir zeichnen die Interaktions-ID auf, die die Sitzung erzeugt, und fragen das Modell zu einem späteren Zeitpunkt nach unserem Namen und der zweiten Frage, die wir gestellt haben.

from google import genai

consumer = genai.Shopper()

# 1. First flip
interaction1 = consumer.interactions.create(
    mannequin="gemini-3-flash-preview",
    enter="""
Hello,It is Tom right here, are you able to inform me the chemical title for water. 
Additionally, which is the smallest recognised nation on this planet? 
And the way tall in ft is Mt Everest
"""
)
print(f"Response: {interaction1.outputs(-1).textual content}")
print(f"ID: {interaction1.id}")
#
# Output
#

Response: Hello Tom! Listed below are the solutions to your questions:

*   **Chemical title for water:** The commonest chemical title is **dihydrogen monoxide** ($H_2O$), although in formal chemistry circles, its systematic title is **oxidane**.
*   **Smallest acknowledged nation:** **Vatican Metropolis**. It covers solely about 0.17 sq. miles (0.44 sq. kilometers) and is an unbiased city-state enclaved inside Rome, Italy.
*   **Top of Mt. Everest:** In keeping with the newest official measurement (confirmed in 2020), Mt. Everest is **29,031.7 ft** (8,848.86 meters) tall.
ID: v1_ChdqamxlYVlQZ01jdmF4czBQbTlmSHlBOBIXampsZWFZUGdNY3ZheHMwUG05Zkh5QTg

Ein paar Stunden später …

from google import genai

consumer = genai.Shopper()

# 2. Second flip (passing previous_interaction_id)
interaction2 = consumer.interactions.create(
    mannequin="gemini-3-flash-preview",
    enter="Are you able to inform me my title and what was the second query I requested you",
    previous_interaction_id='v1_ChdqamxlYVlQZ01jdmF4czBQbTlmSHlBOBIXampsZWFZUGdNY3ZheHMwUG05Zkh5QTg'
)
print(f"Mannequin: {interaction2.outputs(-1).textual content}")

#
# Output
#
Mannequin: Hello Tom! 

Your title is **Tom**, and the second query you requested was: 
**"Which is the smallest recognised nation on this planet?"** 
(to which the reply is Vatican Metropolis).

Beispiel 4: Der asynchrone Deep Analysis Orchestrator

Nun zu etwas, das die alte API von Google nicht kann. Einer der Hauptvorteile der Interactions API besteht darin, dass Sie damit spezialisierte Agenten aufrufen können, z deep-research-pro-preview-12-2025, für komplexe Aufgaben.

In diesem Beispiel erstellen wir eine Aggressive-Intelligence-Engine. Der Benutzer gibt einen Geschäftskonkurrenten an und das System veranlasst einen Deep Analysis-Agenten, das Web zu durchsuchen, Jahresberichte zu lesen und eine SWOT-Analyse (Stärken, Schwächen, Chancen und Risiken) zu erstellen. Wir haben dies in zwei Teile geteilt. Erstens können wir unsere Forschungsanfrage mit Code wie diesem starten.

import time
import sys
from google import genai

def competitive_intelligence_engine():
    consumer = genai.Shopper()

    print("--- Deep Analysis Aggressive Intelligence Engine ---")
    competitor_name = enter("Enter the title of the competitor to investigate (e.g., Nvidia, Coca-Cola): ")
    
    # We craft a particular immediate to power the agent to search for particular doc varieties
    immediate = f"""
    Conduct a deep analysis investigation into '{competitor_name}'.
    
    Your particular duties are:
    1. Scour the net for the newest Annual Report (10-Ok) and newest Quarterly Earnings transcripts.
    2. Seek for current information relating to product launches, strategic partnerships, and authorized challenges within the final 12 months.
    3. Synthesize all findings into an in depth SWOT Evaluation (Strengths, Weaknesses, Alternatives, Threats).
    
    Format the output as knowledgeable government abstract with the SWOT part clearly outlined in Markdown.
    """

    print(f"n Deploying Deep Analysis Agent for: {competitor_name}...")
    
    # 1. Begin the Deep Analysis Agent
    # We use the particular agent ID offered in your pattern
    strive:
        initial_interaction = consumer.interactions.create(
            enter=immediate,
            agent="deep-research-pro-preview-12-2025",
            background=True
        )
    besides Exception as e:
        print(f"Error beginning agent: {e}")
        return

    print(f" Analysis began. Interplay ID: {initial_interaction.id}")
    print(" The agent is now searching the net and studying reviews. This may occasionally take a number of minutes.")

Dadurch wird die folgende Ausgabe erzeugt.

--- Deep Analysis Aggressive Intelligence Engine ---
Enter the title of the competitor to investigate (e.g., Nvidia, Coca-Cola):  Nvidia

Deploying Deep Analysis Agent for: Nvidia...
Analysis began. Interplay ID: v1_ChdDdXhiYWN1NEJLdjd2ZElQb3ZHdTBRdxIXQ3V4YmFjdTRCS3Y3dmRJUG92R3UwUXc
The agent is now searching the net and studying reviews. This may occasionally take a number of minutes.

Da wir wissen, dass der Forschungsauftrag einige Zeit in Anspruch nehmen wird, können wir als Nächstes die oben aufgedruckte Interaktions-ID verwenden, um ihn zu überwachen und regelmäßig zu überprüfen, ob er abgeschlossen ist.

Normalerweise erfolgt dies in einem separaten Prozess, der Ihnen eine E-Mail oder SMS sendet, wenn der Forschungsauftrag abgeschlossen ist, damit Sie in der Zwischenzeit mit anderen Aufgaben fortfahren können.

strive:
    whereas True:
        # Refresh the interplay standing
        interplay = consumer.interactions.get(initial_interaction.id)
            
        # Calculate elapsed time
        elapsed = int(time.time() - start_time)
            
        # Print a dynamic standing line so we all know it is working
        sys.stdout.write(f"r Standing: {interplay.standing.higher()} | Time Elapsed: {elapsed}s")
        sys.stdout.flush()

        if interplay.standing == "accomplished":
            print("nn" + "="*50)
            print(f" INTELLIGENCE REPORT: {competitor_name.higher()}")
            print("="*50 + "n")
                
            # Print the content material
            print(interplay.outputs(-1).textual content)
            break
            
        elif interplay.standing in ("failed", "cancelled"):
            print(f"nnJob ended with standing: {interplay.standing}")
            # Typically error particulars are within the output textual content even on failure
            if interplay.outputs:
               print(f"Error particulars: {interplay.outputs(-1).textual content}")
            break

        # Wait earlier than polling once more to respect price limits
        time.sleep(10)

besides KeyboardInterrupt:
    print("nUser interrupted. Analysis could proceed in background.")

Ich werde nicht das gesamte Forschungsergebnis zeigen, da es ziemlich umfangreich conflict, aber hier ist nur ein Teil davon.

==================================================
 INTELLIGENCE REPORT: NVIDIA
==================================================

# Strategic Evaluation & Govt Overview: Nvidia Company (NVDA)

### Key Findings
*   **Monetary Dominance:** Nvidia reported report Q3 FY2026 income of **$57.0 billion** (+62% YoY), pushed by a staggering **$51.2 billion** in Information Heart income. The corporate has successfully transitioned from a {hardware} producer to the foundational infrastructure supplier for the "AI Industrial Revolution."
*   **Strategic Growth:** Main strikes in late 2025 included a **$100 billion funding roadmap with OpenAI** to deploy 10 gigawatts of compute and a **$20 billion acquisition of Groq's belongings**, pivoting Nvidia aggressively into the AI inference market.
*   **Regulatory Peril:** The corporate faces intensifying geopolitical headwinds. In September 2025, China's SAMR discovered Nvidia in violation of antitrust legal guidelines relating to its Mellanox acquisition. Concurrently, the U.S. Supreme Courtroom allowed a class-action lawsuit relating to crypto-revenue disclosures to proceed.
*   **Product Roadmap:** The launch of the **GeForce RTX 50-series** (Blackwell structure) and **Mission DIGITS** (private AI supercomputer) at CES 2025 alerts a push to democratize AI compute past the information heart to the desktop.

---

## 1. Govt Abstract

Nvidia Company (NASDAQ: NVDA) stands on the apex of the substitute intelligence transformation, having efficiently developed from a graphics processing unit (GPU) vendor right into a full-stack computing platform firm. As of early 2026, Nvidia just isn't merely promoting chips; it's constructing "AI Factories"-entire knowledge facilities built-in with its proprietary networking, software program (CUDA), and {hardware}.
The fiscal 12 months 2025 and the primary three quarters of fiscal 2026 have demonstrated unprecedented monetary acceleration. The corporate's "Blackwell" structure has seen demand outstrip provide, making a backlog that extends nicely into 2026. Nonetheless, this dominance has invited intense scrutiny. The geopolitical rift between the U.S. and China poses the one biggest risk to Nvidia's long-term progress, evidenced by current antitrust findings by Chinese language regulators and continued smuggling controversies involving restricted chips just like the Blackwell B200.
Strategically, Nvidia is hedging in opposition to the commoditization of AI coaching by aggressively getting into the **inference** market-the part the place AI fashions are used fairly than constructed. The acquisition of Groq's expertise in December 2025 is a defensive and offensive maneuver to safe low-latency processing capabilities.

---

## 2. Monetary Efficiency Evaluation
**Sources:** (cite: 1, 2, 3, 4, 5)

### 2.1. Fiscal 12 months 2025 Annual Report (10-Ok) Highlights
Nvidia's Fiscal 12 months 2025 (ending January 2025) marked a historic inflection level within the expertise sector.
*   **Complete Income:** $130.5 billion, a **114% enhance** year-over-year.
*   **Internet Revenue:** $72.9 billion, hovering **145%**.
*   **Information Heart Income:** $115.2 billion (+142%), confirming the entire shift of the corporate's gravity away from gaming and towards enterprise AI.
*   **Gross Margin:** Expanded to **75.0%** (up from 72.7%), reflecting pricing energy and the excessive worth of the Hopper structure.
...
...
...
## 5. SWOT Evaluation

### **Strengths**
*   **Technological Monopoly:** Nvidia possesses an estimated 80-90% market share in AI coaching chips. The **Blackwell** and upcoming **Vera Rubin** architectures keep a multi-year lead over rivals.
*   **Ecosystem Lock-in (CUDA):** The CUDA software program platform stays the business commonplace. The current growth into "AI Factories" and full-stack options (networking + {hardware} + software program) makes switching prices prohibitively excessive for enterprise clients.
*   **Monetary Fortress:** With gross margins exceeding **73%** and free money stream within the tens of billions, Nvidia has immense capital to reinvest in R&D ($100B OpenAI dedication) and purchase rising tech (Groq).
*   **Provide Chain Command:** By pre-booking huge capability at TSMC (CoWoS packaging), Nvidia successfully controls the tap of worldwide AI compute provide.

### **Weaknesses**
*   **Income Focus:** A good portion of income is derived from a handful of "Hyperscalers" (Microsoft, Meta, Google, Amazon). If these shoppers efficiently pivot to their very own customized silicon (TPUs, Trainium, Maia), Nvidia's income may face a cliff.
*   **Pricing Alienation:** The excessive value of Nvidia {hardware} (e.g., $1,999 for shopper GPUs, $30k+ for enterprise chips) is pushing smaller builders and startups towards cheaper alternate options or cloud-based inference options.
*   **Provide Chain Single Level of Failure:** Complete reliance on **TSMC** in Taiwan exposes Nvidia to catastrophic threat within the occasion of a cross-strait battle or pure catastrophe.

### **Alternatives**
*   **The Inference Market:** The $20B Groq deal positions Nvidia to dominate the *inference* part (operating fashions), which is predicted to be a bigger market than coaching in the long term.
*   **Sovereign AI:** Nations (Japan, France, Center Japanese states) are constructing their very own "sovereign clouds" to guard knowledge privateness. This creates a brand new, huge buyer base outdoors of US Large Tech.
*   **Bodily AI & Robotics:** With **Mission GR00T** and the **Jetson** platform, Nvidia is positioning itself because the mind for humanoid robots and autonomous industrial techniques, a market nonetheless in its infancy.
*   **Software program & Providers (NIMs):** Nvidia is transitioning to a software-as-a-service mannequin with Nvidia Inference Microservices (NIMs), creating recurring income streams which can be much less cyclical than {hardware} gross sales.

### **Threats**
*   **Geopolitical Commerce Struggle:** The US-China tech conflict is the existential risk. Additional tightening of export controls (e.g., banning H20 chips) or aggressive retaliation from China (SAMR antitrust penalties) may completely sever entry to one of many world's largest semiconductor markets.
*   **Regulatory Antitrust Motion:** Past China, Nvidia faces scrutiny within the EU and US (DOJ) relating to its bundling practices and market dominance. A compelled breakup or behavioral treatments may hamper its "full-stack" technique.
*   **Smuggling & IP Theft:** As seen with the DeepSeek controversy, export bans could inadvertently gasoline a black market and speed up Chinese language home innovation (e.g., Huawei Ascend), making a competitor that operates outdoors Western IP legal guidelines.
*   **"Good Sufficient" Competitors:** For a lot of inference workloads, cheaper chips from AMD or specialised ASICs could finally turn out to be "adequate," eroding Nvidia's pricing energy on the decrease finish of the market.
...
...
...

Mit der Interactions-API können Sie noch viel mehr tun, als ich gezeigt habe, einschließlich Software- und Funktionsaufrufen, MCP-Integration, strukturierter Ausgabe und Streaming.

Bitte beachten Sie jedoch, dass die Interaktions-API zum Zeitpunkt des Verfassens dieses Artikels noch verfügbar ist Beta, und Googles Deep-Analysis-Agent ist da Vorschau. Dies wird sich in den kommenden Wochen zweifellos ändern, aber es ist am besten, dies zu überprüfen, bevor Sie dieses Software in einem Produktionssystem verwenden.

Weitere Informationen finden Sie unter dem Hyperlink unten zur offiziellen Dokumentationsseite von Google für die Interaktions-API.

https://ai.google.dev/gemini-api/docs/interactions?ua=chat

Zusammenfassung

Die Google Interactions API signalisiert eine Reife im KI-Engineering-Ökosystem. Es erkennt an, dass die „Alles-Eingabeaufforderung“, ein einzelner, riesiger Textblock, der versucht, mit Persönlichkeit, Logik, Werkzeugen und Sicherheit umzugehen, ein Anti-Muster ist.

Mithilfe dieser API können Entwickler, die Google AI verwenden, das Reasoning (die Aufgabe des LLM) effektiv von der Architektur (die Aufgabe des Entwicklers) entkoppeln.

Im Gegensatz zu üblichen Chat-Schleifen, bei denen der Standing implizit ist und zu Halluzinationen neigt, verwendet diese API eine strukturierte „Interaktion“ Ressource, die als permanente Sitzungsaufzeichnung aller Eingaben, Ausgaben und Werkzeugergebnisse dient. Mit Stateful Administration können Entwickler auf eine Interaktions-ID aus einem vorherigen Chat verweisen und automatisch den vollständigen Kontext abrufen. Dadurch kann das Caching optimiert, die Leistung verbessert und die Kosten gesenkt werden, da die Notwendigkeit entfällt, ganze Historien erneut zu senden.

Darüber hinaus ist die Interactions API in einzigartiger Weise in der Lage, asynchrone Agentenprozesse mit hoher Latenz zu orchestrieren, wie z. B. Deep Analysis von Google, das das Net durchsuchen und riesige Datenmengen zu komplexen Berichten zusammenfassen kann. Diese Recherche kann asynchron durchgeführt werden, was bedeutet, dass Sie Aufgaben mit langer Laufzeit starten und einfachen Code schreiben können, der benachrichtigt wird, wenn die Aufgabe abgeschlossen ist, sodass Sie in der Zwischenzeit an anderen Aufgaben arbeiten können.

Wenn Sie einen Assistenten für kreatives Schreiben erstellen, ist eine einfache Chat-Schleife in Ordnung. Wenn Sie jedoch einen Finanzanalysten, einen medizinischen Screener oder eine Deep-Analysis-Engine aufbauen, stellt die Interactions API das nötige Gerüst bereit, um ein probabilistisches Modell in ein zuverlässigeres Produkt umzuwandeln.

In diesem Artikel erfahren Sie, wie Quantisierung große Sprachmodelle verkleinert und wie Sie einen FP16-Prüfpunkt in eine effiziente GGUF-Datei umwandeln, die Sie teilen und lokal ausführen können.

Zu den Themen, die wir behandeln werden, gehören:

• Was Präzisionstypen (FP32, FP16, 8-Bit, 4-Bit) für Modellgröße und Geschwindigkeit bedeuten
• Wie zu verwenden huggingface_hub um ein Modell abzurufen und zu authentifizieren
• So konvertieren Sie mit in GGUF llama.cpp und laden Sie das Ergebnis hoch Umarmendes Gesicht

Und los geht’s.

Einführung

Große Sprachmodelle wie LLaMA, Mistral und Qwen verfügen über Milliarden von Parametern, die viel Speicher und Rechenleistung erfordern. Beispielsweise kann die Ausführung von LLaMA 7B mit voller Präzision über 12 GB VRAM erfordern, was es für viele Benutzer unpraktisch macht. Die Particulars können Sie hier nachlesen Diskussion über „Umarmendes Gesicht“.. Machen Sie sich noch keine Gedanken darüber, was „volle Präzision“ bedeutet. Wir werden es bald aufschlüsseln. Die Grundidee ist folgende: Diese Modelle sind zu groß, um ohne Hilfe auf Standardhardware zu laufen. Quantisierung ist diese Hilfe.

Durch die Quantisierung können unabhängige Forscher und Bastler große Modelle auf PCs ausführen, indem sie die Größe des Modells verkleinern, ohne die Leistung erheblich zu beeinträchtigen. In diesem Leitfaden untersuchen wir, wie die Quantisierung funktioniert, was verschiedene Präzisionsformate bedeuten, und gehen dann durch die Quantisierung eines Beispiel-FP16-Modells in ein GGUF-Format und dessen Hochladen Umarmendes Gesicht.

Was ist Quantisierung?

Auf einer sehr grundlegenden Ebene geht es bei der Quantisierung darum, ein Modell zu verkleinern, ohne es zu zerstören. Große Sprachmodelle bestehen aus Milliarden aufgerufener numerischer Werte Gewichte. Diese Zahlen steuern, wie stark sich verschiedene Teile des Netzwerks gegenseitig beeinflussen, wenn sie einen Output erzeugen. Standardmäßig werden diese Gewichte in hochpräzisen Formaten wie FP32 oder FP16 gespeichert, was bedeutet, dass jede Zahl viel Speicher beansprucht und wenn man Milliarden davon hat, geraten die Dinge sehr schnell außer Kontrolle. Nehmen Sie eine einzelne Zahl wie 2.31384. In FP32 benötigt allein diese eine Zahl 32 Bit Speicher. Stellen Sie sich nun vor, Milliarden von Zahlen auf diese Weise zu speichern. Aus diesem Grund kann ein 7B-Modell im FP32 problemlos etwa 28 GB und selbst im FP16 etwa 14 GB aufnehmen. Für die meisten Laptops und GPUs ist das bereits zu viel.

Die Quantisierung behebt dieses Downside, indem sie sagt: Wir brauchen eigentlich nicht mehr so ​​viel Präzision. Statt zu lagern 2.31384 genau, wir speichern etwas in der Nähe davon mit weniger Bits. Vielleicht wird es 2.3 oder ein nahegelegener ganzzahliger Wert unter der Haube. Die Zahl ist etwas ungenauer, aber das Modell verhält sich in der Praxis immer noch gleich. Neuronale Netze können diese kleinen Fehler tolerieren, da die endgültige Ausgabe von Milliarden von Berechnungen abhängt und nicht von einer einzigen Zahl. Kleine Unterschiede gleichen sich aus, ähnlich wie die Bildkomprimierung die Dateigröße reduziert, ohne das Erscheinungsbild des Bildes zu beeinträchtigen. Aber der Gewinn ist riesig. Ein Modell, das im FP16 14 GB benötigt, kann bei 8-Bit-Quantisierung häufig mit etwa 7 GB oder bei 4-Bit-Quantisierung sogar mit etwa 4 GB betrieben werden. Dadurch ist es möglich, große Sprachmodelle lokal auszuführen, anstatt auf teure Server angewiesen zu sein.

Nach der Quantisierung speichern wir das Modell häufig in einem einheitlichen Dateiformat. Ein beliebtes Format ist GGUFerstellt von Georgi Gerganov (Autor von llama.cpp). GGUF ist ein Einzeldateiformat, das sowohl die quantisierten Gewichte als auch nützliche Metadaten enthält. Es ist für schnelles Laden und Inferenzieren auf CPUs oder anderen leichtgewichtigen Laufzeiten optimiert. GGUF unterstützt auch mehrere Quantisierungstypen (wie Q4_0, Q8_0) und funktioniert intestine auf CPUs und Low-Finish-GPUs. Hoffentlich verdeutlicht dies sowohl das Konzept als auch die Motivation hinter der Quantisierung. Kommen wir nun zum Schreiben von Code.

Schritt-für-Schritt: Quantisierung eines Modells zu GGUF

1. Abhängigkeiten installieren und bei Hugging Face protokollieren

Bevor wir ein Modell herunterladen oder konvertieren, müssen wir die erforderlichen Python-Pakete installieren und uns authentifizieren Umarmendes Gesicht. Wir werden verwenden Huggingface_hub, TransformatorenUnd Satzstück. Dadurch wird sichergestellt, dass wir fehlerfrei auf öffentliche oder geschlossene Modelle zugreifen können:

2. Herunterladen eines vorab trainierten Modells

Wir werden ein kleines FP16-Modell auswählen Umarmendes Gesicht. Hier verwenden wir TinyLlama 1.1B, das klein genug ist, um in Colab zu laufen, aber dennoch eine gute Demonstration bietet. Mit Python können wir es herunterladen huggingface_hub:

Dieser Befehl speichert die Modelldateien im model_folder Verzeichnis. Sie können ersetzen model_id mit einer beliebigen Hugging Face-Modell-ID, die Sie quantisieren möchten. (Bei Bedarf können Sie auch verwenden AutoModel.from_pretrained mit torch.float16 um es zuerst zu laden, aber snapshot_download ist einfach, die Dateien zu holen.)

3. Einrichten der Konvertierungstools

Als nächstes klonen wir die lama.cpp Repository, das die Konvertierungsskripte enthält. In Colab:

Dadurch erhalten Sie Zugriff auf convert_hf_to_gguf.py. Die Python-Anforderungen stellen sicher, dass Sie über alle erforderlichen Bibliotheken zum Ausführen des Skripts verfügen.

4. Konvertieren des Modells in GGUF mit Quantisierung

Führen Sie nun das Konvertierungsskript aus und geben Sie dabei den Eingabeordner, den Namen der Ausgabedatei und den Quantisierungstyp an. Wir werden verwenden q8_0 (8-Bit-Quantisierung). Dadurch wird der Speicherbedarf des Modells ungefähr halbiert:

Hier /content material/model_folder Hier haben wir das Modell heruntergeladen. /content material/tinyllama-1.1b-chat.Q8_0.gguf ist die Ausgabe-GGUF-Datei und die --outtype q8_0 Flag bedeutet „Auf 8 Bit quantisieren“. Das Skript lädt die FP16-Gewichte, wandelt sie in 8-Bit-Werte um und schreibt eine einzelne GGUF-Datei. Diese Datei ist jetzt viel kleiner und kann mit GGUF-kompatiblen Instruments abgeleitet werden.

Sie können die Ausgabe überprüfen:

Sie sollten eine Datei mit einer Größe von einigen GB sehen, die gegenüber dem ursprünglichen FP16-Modell verkleinert ist.

5. Hochladen des quantisierten Modells auf Hugging Face

Schließlich können Sie das GGUF-Modell veröffentlichen, damit andere es einfach herunterladen und verwenden können huggingface_hub Python-Bibliothek:

Dadurch wird ein neues Repository erstellt (falls noch nicht vorhanden) und Ihre quantisierte GGUF-Datei hochgeladen. Jeder kann es jetzt laden llama.cpp, llama-cpp-pythonoder Ollama. Sie können auf die von uns erstellte quantisierte GGUF-Datei zugreifen Hier.

Zusammenfassung

Wenn Sie die oben genannten Schritte ausführen, können Sie alle unterstützten Dateien verwenden Umarmendes Gesicht Modell, quantisieren Sie es (z. B. auf 4-Bit oder 8-Bit) und speichern Sie es als GGUF. Schieben Sie es dann zum Teilen oder Bereitstellen auf Hugging Face. Dies macht es einfacher denn je, große Sprachmodelle auf alltäglicher {Hardware} zu komprimieren und zu verwenden.

Bild vom Herausgeber

# Einführung

Wir alle haben es gehört: Einstiegsjobs sind tot, Skynet ist da und wir sollten uns auf eine globale Revolution vorbereiten. Ich weiß, dass ich nicht der Einzige bin, der es satt hat zu sagen, wie künstliche Intelligenz (KI) wird unsere Karrieren zerstören. Wie wäre es, vorne zu bleiben und die Likelihood vielleicht sogar zu monetarisieren? Aber was bedeutet es hier überhaupt, die Nase vorn zu haben?

Es ist nicht die Codierung des nächsten ChatGPT oder über Nacht Datenwissenschaftler werden. Es bedeutet, sich schneller weiterzuentwickeln als die Systeme, die statische Denker ersetzen.

Der Punkt ist: diejenigen, die lernen, mit KI zusammenzuarbeiten, anstatt sie zu fürchten wird der Schlüssel zum Arbeitsmarkt von morgen sein. Alle anderen werden Zuschauer in ihren eigenen Branchen sein.

# Verstehen Sie den Wandel, wehren Sie sich nicht dagegen

KI ist keine Welle, die man stoppen kann – es ist eine Meeresströmung, die neue Arten des Schwimmens erfordert. Wenn Sie sich dagegen wehren, sinken Sie nur unter die Oberfläche.

Der erste Schritt, um related zu bleiben, besteht darin, zu verstehen, dass KI nicht dazu gedacht ist, Kreativität zu ersetzen, sondern sie zu verstärken. Fachleute, die KI als Companion und nicht als Bedrohung betrachten, werden feststellen, dass sie ihre Möglichkeiten erweitert und nicht einschränkt.

Was sich ändert, sind nicht nur Berufsbezeichnungen; Es sind Jobdefinitionen. Schriftsteller Ihre ganze Welt wurde auf den Kopf gestelltAnalysten werden zu Interpreten algorithmischer Erkenntnisse und Vermarkter werden nun zu Orchestratoren der Maschine-Mensch-Zusammenarbeit. Wenn Sie diese Veränderungen frühzeitig erkennen, können Sie präzise und nicht in Panik geraten.

Fachleute mit KI-Kenntnissen warten nicht darauf, dass die Störung eintritt – sie studieren sie, dekonstruieren sie und suchen nach Möglichkeiten, sie in ihre Arbeitsabläufe zu integrieren.

Für manche beginnt es mit der Kontrolle die Länge ihres Lebenslaufs und endet mit einem ganzen Nebenprojekt in einer neu erlernten Programmiersprache. Allein dieses Bewusstsein schafft Einfluss. Wenn Sie die Fähigkeiten der KI in Ihrem Bereich in praktische Auswirkungen umsetzen können, werden Sie von austauschbar zu unverzichtbar.

// Entwickeln Sie adaptive Intelligenz, nicht nur technische Fähigkeiten

Der einfache Teil ist es, den Umgang mit KI-Instruments zu erlernen. Entwicklung die Artwork von adaptiver Intelligenz, die Sie related hält Wenn sich Werkzeuge weiterentwickeln, ist das die eigentliche Herausforderung.

Adaptive Intelligenz bedeutet, kritisch zu denken, Systeme zu hinterfragen und Ihren Ansatz neu zu gestalten, wenn sich die Technologie unter Ihnen verändert. Es geht um die Flexibilität des Denkens, nicht nur um technische Kompetenz.

KI verändert, welche Fähigkeiten wichtig sind, aber nicht, warum sie wichtig sind. Die Profis, die erfolgreich sind, sind diejenigen, die die von der KI gelieferten Daten interpretieren, kontextualisieren und hinterfragen können. Sie akzeptieren nicht einfach die erste Antwort. Diese Gewohnheiten machen das menschliche Urteil wertvoller und nicht weniger.

# Integrieren Sie KI-Kenntnisse in Ihren täglichen Arbeitsablauf

Sie müssen keine neuronalen Netze beherrschen, um an der Spitze zu bleiben – Sie müssen nur anfangen, in der Sprache der KI zu denken. Betrachten Sie jedes Projekt als ein kleines gemeinsames Experiment.

Fragen Sie: Was kann automatisiert werden und was erfordert noch einen menschlichen Funken? Je besser Sie diese Grenze erkennen, desto effizienter werden Sie sich in der neuen Arbeitslandschaft zurechtfinden.

Integration von KI in tägliche Datenabläufe zwingt Sie dazu, Zeit und Aufmerksamkeit zu überdenken. Wenn ein Modell zusammenfassen, sortieren oder vorhersagen kann, können Sie sich auf Aufgaben konzentrieren, die noch Kreativität, Einfühlungsvermögen oder Strategie erfordern.

Hier geht es nicht darum, Instruments wie ChatGPT zu nutzen, um Abstriche zu machen; es geht darum, sie in Katalysatoren für tieferes Denken zu verwandeln.

# Stärken Sie die Fähigkeiten, die die KI nicht reproduzieren kann

Obwohl Algorithmen schreiben, entwerfen oder sogar Strategien entwickeln können, fehlt ihnen noch etwas, das Sie haben: Mushy Expertise, die den Unterschied machen. Fähigkeiten, die auf Empathie, Überzeugungskraft, Geschichtenerzählen, Verhandlungen und moralischem Denken basieren, können nicht durch Code reproduziert werden. Tatsächlich wird der Marktwert dieser auf den Menschen ausgerichteten Fähigkeiten mit zunehmender Dominanz der KI steigen.

Menschen, die es verstehen, Ideen emotional zu verbinden, bleiben im Mittelpunkt der Innovation. Technische Gewandtheit gepaart mit emotionaler Intelligenz wird das leistungsstärkste Hybrid-Skillset des Jahrzehnts bilden. Das Ziel besteht nicht darin, mit der KI zu konkurrieren, sondern sie zu ergänzen – die fehlende Variable zu werden, die Daten in Entscheidungen umwandelt.

Wenn Sie Groups inspirieren, Kontexte interpretieren und Geschichten rund um Daten erzählen können, werden Sie immer die Nase vorn haben. KI kann den Puls eines Publikums nicht spüren oder die Psychologie hinter einer Wahl vorhersagen. Das ist Ihr Vorteil. Konzentrieren Sie sich auf das, was Sie menschlich macht, und überlassen Sie die Maschinen den Umgang mit der Mechanik.

# Werden Sie ein strategischer Experimentator

KI belohnt diejenigen, die spielen, nicht diejenigen, die pausieren. Behandeln Sie es wie ein Labor, nicht wie eine Vorlesung. Das Experimentieren hält Ihre Neugier wach und Ihren beruflichen Werdegang unvorhersehbar – im besten Sinne.

Die Menschen, die früh testen, schnell scheitern und ständig lernen, sind diejenigen, die das Muskelgedächtnis aufbauen, um sich anzupassen, wenn sich Branchen über Nacht verändern.

Beginnen Sie mit Experimenten mit geringem Einsatz: Nutzen Sie KI, um ein erzeugen Python Skript zur Automatisierung einer langweiligen Aufgabenutzen Sie generative Instruments für ein Brainstorming oder erstellen Sie einen Prototyp eines Workflows, der Zeit spart. Bei jeder Iteration lernen Sie nicht nur, wie man KI nutzt, sondern auch, wie man so denkt – systematisch, probabilistisch und mit kreativen Einschränkungen.

Die Zukunft gehört Profis, die Experimente mit Strategie verbinden. Es geht nicht darum, glänzenden neuen Modellen nachzujagen, sondern wiederholbare Prozesse für die Entdeckung zu entwickeln.

Neugier wird, wenn sie strukturiert ist, zu Innovation. Diese Denkweise – zu gleichen Teilen Entdecker und Ingenieur – hält Sie an der Spitze, während andere noch aufholen.

# Gestalten Sie die KI-Erzählung Ihrer Branche

Die lautesten Stimmen rund um die KI sind derzeit diejenigen, die den Untergang vorhersagen oder einen Hype verkaufen. Die wertvollsten Fachleute werden diejenigen sein, die den Mittelweg bilden – die pragmatischen, visionären Stimmen Wer technisches Verständnis mit menschlicher Strategie verbinden kann. Jede Branche braucht Dolmetscher, die artikulieren können, wie KI nicht nur Arbeitsabläufe, sondern auch Werte und Ziele verändert.

Beginnen Sie, zu dieser Erzählung beizutragen. Schreiben, sprechen oder teilen Sie Erkenntnisse darüber, wie sich KI auf Ihr Fachgebiet auswirkt. Thought Management baut sowohl die persönliche Marke als auch den Einfluss auf und macht Sie zum Fachmann, den andere um Rat fragen. Außerdem vertieft es Ihr Verständnis, da es Sie dazu zwingt, komplexe Sachverhalte in einfacher Sprache zu erklären.

Die eigene Erzählung zu besitzen bedeutet nicht, sich als Experte auszugeben – es bedeutet, in der Öffentlichkeit neugierig zu sein. Diejenigen, die ihre Lernreise dokumentieren, ziehen oft Chancen wahr, bevor sie erkennen, dass sie dafür qualifiziert sind. Die moderne Karriere basiert nicht auf statischem Fachwissen, sondern auf sichtbarer Entwicklung.

# Abschluss

KI ersetzt Sie nicht – sie schreibt die Wettbewerbsregeln neu. Die Profis, die erfolgreich sind, werden nicht diejenigen sein, die über die größten technischen Fähigkeiten verfügen, sondern diejenigen, die Technologie als Verstärker des menschlichen Potenzials betrachten.

Um an der Spitze zu bleiben, geht es nicht darum, die Maschinen auszutricksen; Es geht darum, das, was man mit ihnen macht, zu erweitern. Lernen Sie weiter, experimentieren Sie weiter und stellen Sie die menschliche Instinct in den Mittelpunkt Ihrer Entscheidungen. Die Zukunft gehört nicht denen, die den Aufstieg der KI fürchten. Es gehört denen, die mutig genug sind, damit zu wachsen.

Nahla Davies ist Softwareentwickler und technischer Autor. Bevor sie sich hauptberuflich dem technischen Schreiben widmete, schaffte sie es – neben anderen faszinierenden Dingen –, als leitende Programmiererin bei einer Inc. 5.000-Organisation für experimentelles Branding zu arbeiten, zu deren Kunden Samsung, Time Warner, Netflix und Sony gehören.

https://www.youtube.com/watch?v=paigg8e8lhk

Sie haben einen Chatbot in Python erstellt, aber es läuft nur in Ihrem Terminal. Was wäre, wenn Sie ihm eine schlanke Weboberfläche geben könnten, die jemand verwenden kann? Was wäre, wenn Sie es on-line für Freunde, potenzielle Arbeitgeber oder Kunden bereitstellen könnten, mit denen Sie interagieren können?

In diesem praktischen Tutorial verwandeln wir einen Befehlszeilen-Chatbot mit Streamlit in eine professionelle Webanwendung. Sie lernen, eine interaktive Schnittstelle mit anpassbaren Persönlichkeiten, Echtzeiteinstellungen zu erstellen und sie reside im Web bereitzustellen-alle ohne eine einzige Zeile von HTML, CSS oder JavaScript.

Am Ende dieses Tutorials verfügen Sie über eine bereitgestellte Internet-App, die Ihre KI-Entwicklungsfähigkeiten zeigt und Ihre Fähigkeit demonstriert, benutzergerichtete Anwendungen zu erstellen.

Warum eine Weboberfläche für Ihren Chatbot erstellen?

Ein Befehlszeilen-Chatbot ist für Entwickler beeindruckend, aber eine Weboberfläche spricht für alle. Portfolio-Gutachter, potenzielle Kunden und nicht-technische Benutzer können Ihre Arbeit sofort sehen und interagieren. Noch wichtiger ist, dass das Erstellen von Weboberflächen für KI-Anwendungen eine gefragte Fähigkeit ist, da Unternehmen zunehmend KI-Instruments bereitstellen möchten, die ihre Groups tatsächlich verwenden können.

Streamlit macht diesen Übergang nahtlos. Anstatt komplexe Internet-Frameworks zu lernen, verwenden Sie die Python-Syntax, von der Sie bereits wissen, dass sie professionell aussehende Anwendungen in Minuten und nicht in Tagen erstellen.

Was du bauen wirst

• Interaktiver Internet-Chatbot mit Echtzeit-Persönlichkeitsschalter
• Anpassbare Steuerelemente für AI -Parameter (Temperatur, Tokengrenzen)
• Professionelle Chat -Oberfläche mit Benutzer-/Assistent -Nachrichtenunterscheidung
• Funktionalität und Konversationsmanagement zurücksetzen
• Dwell -Bereitstellungen, die von jedem Webbrowser zugänglich sind
• Grundlage für fortschrittlichere AI -Anwendungen

Bevor Sie beginnen: Vorabstrukturierung

Folgen Sie diese vorbereitenden Schritte, um das Beste aus diesem Projekt zu machen:

1. Überprüfen Sie das Projekt

Erforschen Sie die Ziele und die Struktur dieses Projekts: Starten Sie das Projekt hier

2. Vervollständigen Sie Ihre Chatbot Basis

Wesentliche Voraussetzung: Wenn Sie es noch nicht getan haben, Vervollständigen Sie das vorherige Chatbot -Projekt Um Ihre Kernlogik zu erstellen. Sie benötigen einen funktionierenden Python -Chatbot mit Gesprächsgedächtnis und Token -Administration, bevor Sie dieses Tutorial beginnen.

3. Richten Sie Ihre Entwicklungsumgebung ein

Erforderliche Werkzeuge:

• Python IDE (gegen Code oder Pycharm empfohlen)
• OpenAI -API -Schlüssel (oder zusammen KI für eine kostenlose Different)
• Github -Konto für die Bereitstellung

Wir arbeiten mit Customary -Python -Dateien (.Py -Format) anstelle von Jupyter -Notizbüchern. Stellen Sie additionally sicher, dass Sie sich in Ihrer ausgewählten IDE wohl kodieren.

4. Installieren und testen Sie Stromlit

Installieren Sie die erforderlichen Pakete:

pip set up streamlit openai tiktoken

Testen Sie Ihre Set up mit einer einfachen Demo:

import streamlit as st
st.write("Whats up Streamlit!")

Speichern Sie dies als take a look at.py und führen Sie Folgendes in der Befehlszeile aus:

streamlit run take a look at.py

Wenn sich ein Browserfenster mit der Nachricht „Hallo Streamlit!“ Öffnet, können Sie fortfahren.

5. Überprüfen Sie Ihren API -Zugriff

Testen Sie Ihren OpenAI -API -Schlüssel.

import os
from openai import OpenAI

api_key = os.getenv("OPENAI_API_KEY")
consumer = OpenAI(api_key=api_key)

# Easy take a look at name
response = consumer.chat.completions.create(
    mannequin="gpt-4o-mini",
    messages=({"function": "consumer", "content material": "Say hey!"}),
    max_tokens=10
)

print(response.decisions(0).message.content material)

6. Zugriff auf die vollständige Lösung

Die Lösungsdateien anzeigen und herunterladen: Lösungsrepository

Was Sie finden:

• starter_code.py – Der erste Chatbot -Code, mit dem wir beginnen, mit dem wir beginnen
• closing.py – Vollständige Stromanwendung abschließen
• necessities.txt – Alle notwendigen Abhängigkeiten
• Bereitstellungskonfigurationsdateien

Ausgangspunkt: Ihre Chatbot Basis

Wenn Sie noch keinen Chatbot haben, erstellen Sie eine Datei mit dem Namen starter_code.py mit dieser Stiftung:

import os
from openai import OpenAI
import tiktoken

# Configuration
api_key = os.getenv("OPENAI_API_KEY")
consumer = OpenAI(api_key=api_key)
MODEL = "gpt-4o-mini"
TEMPERATURE = 0.7
MAX_TOKENS = 100
TOKEN_BUDGET = 1000
SYSTEM_PROMPT = "You're a fed up and sassy assistant who hates answering questions."

messages = ({"function": "system", "content material": SYSTEM_PROMPT})

# Token administration capabilities (collapsed for readability)
def get_encoding(mannequin):
    strive:
        return tiktoken.encoding_for_model(mannequin)
    besides KeyError:
        print(f"Warning: Tokenizer for mannequin '{mannequin}' not discovered. Falling again to 'cl100k_base'.")
        return tiktoken.get_encoding("cl100k_base")

ENCODING = get_encoding(MODEL)

def count_tokens(textual content):
    return len(ENCODING.encode(textual content))

def total_tokens_used(messages):
    strive:
        return sum(count_tokens(msg("content material")) for msg in messages)
    besides Exception as e:
        print(f"(token rely error): {e}")
        return 0

def enforce_token_budget(messages, finances=TOKEN_BUDGET):
    strive:
        whereas total_tokens_used(messages) > finances:
            if len(messages) <= 2:
                break
            messages.pop(1)
    besides Exception as e:
        print(f"(token finances error): {e}")

# Core chat operate
def chat(user_input):
    messages.append({"function": "consumer", "content material": user_input})

    response = consumer.chat.completions.create(
        mannequin=MODEL,
        messages=messages,
        temperature=TEMPERATURE,
        max_tokens=MAX_TOKENS
    )

    reply = response.decisions(0).message.content material
    messages.append({"function": "assistant", "content material": reply})

    enforce_token_budget(messages)
    return reply

Dies gibt uns einen arbeitenden Chatbot mit Gesprächsgedächtnis und Kostenkontrollen. Lassen Sie es uns nun in eine Internet -App verwandeln.

Teil 1: Ihre erste optimistische Schnittstelle

Erstellen Sie eine neue Datei mit dem Namen app.py und kopieren Sie Ihren Startercode hinein. Jetzt fügen wir die Webschnittstellenschicht hinzu.

Fügen Sie den optimistischen Stromimport oben hinzu:

import streamlit as st

Fügen Sie unten in Ihrer Datei Ihre ersten optimistischen Elemente hinzu:

### Streamlit Interface ###
st.title("Sassy Chatbot")

Testen Sie Ihre App, indem Sie diese in Ihrem Terminal ausführen:

streamlit run app.py

Ihr Standardbrowser sollte öffnen, wie Ihre Internet -App mit dem Titel „Sassy Chatbot“ angezeigt wird. Beachten Sie die Auto-Reload-Funktion; Wenn Sie Änderungen speichern, fordert Streamlit Sie auf, die App erneut auszusetzen.

Erkenntnisse lernen: Streamlit verwendet „Magic“ -Rendern. Sie müssen keine explizit Elemente anzeigen. Einfach anrufen st.title() Rendert den Titel automatisch in Ihrer Weboberfläche.

Teil 2: Erstellen des Bedienfelds

Reale Anwendungen müssen Benutzersteuerungen benötigen. Fügen wir eine Seitenleiste mit Persönlichkeitsoptionen und Parametersteuerungen hinzu.

Fügen Sie dies nach Ihrem Titel hinzu:

# Sidebar controls
st.sidebar.header("Choices")
st.sidebar.write("It is a demo of a sassy chatbot utilizing OpenAI's API.")

# Temperature and token controls
max_tokens = st.sidebar.slider("Max Tokens", 1, 250, 100)
temperature = st.sidebar.slider("Temperature", 0.0, 1.0, 0.7)

# Character choice
system_message_type = st.sidebar.selectbox("System Message",
    ("Sassy Assistant", "Indignant Assistant", "Customized"))

Speichern und beobachten Sie, wie Ihre Seitenleiste mit interaktiven Steuerelementen ausgestattet ist. Diese Schieberegler speichern ihre Werte automatisch in den jeweiligen Variablen, wenn Benutzer mit ihnen interagieren.

Hinzufügen von dynamischem Persönlichkeitssystem

Lassen Sie uns nun die Persönlichkeitsauswahl tatsächlich funktionieren:

# Dynamic system immediate primarily based on choice
if system_message_type == "Sassy Assistant":
    SYSTEM_PROMPT = "You're a sassy assistant that's fed up with answering questions."
elif system_message_type == "Indignant Assistant":
    SYSTEM_PROMPT = "You're an offended assistant that likes yelling in all caps."
elif system_message_type == "Customized":
    SYSTEM_PROMPT = st.sidebar.text_area("Customized System Message",
        "Enter your customized system message right here.")
else:
    SYSTEM_PROMPT = "You're a useful assistant."

Die benutzerdefinierte Possibility erstellt einen Textbereich, in dem Benutzer ihre eigenen Persönlichkeitsanweisungen schreiben können. Versuchen Sie, zwischen Persönlichkeiten zu wechseln und zu beachten, wie sich die Schnittstelle anpasst.

Teil 3: Sitzungszustand verstehen

Hier wird Streamlit schwierig. Jedes Mal, wenn ein Benutzer mit Ihrer App interagiert, wird das gesamte Skript von oben nach unten ausgelöst. Dies würde normalerweise jedes Mal Ihren Chat -Geschichte zurücksetzen, was wir nicht für ein Gespräch wollen!

Sitzungszustand Löst dies, indem Daten über App -Wiederholungen hinweg fortbestehen:

# Initialize session state for dialog reminiscence
if "messages" not in st.session_state:
    st.session_state.messages = ({"function": "system", "content material": SYSTEM_PROMPT})

Dies schafft eine anhaltende messages Liste, die App -Wiederholungen überlebt. Jetzt müssen wir unsere Chat -Funktion ändern, um den Sitzungsstatus zu verwenden:

def chat(user_input, temperature=TEMPERATURE, max_tokens=MAX_TOKENS):
    # Get messages from session state
    messages = st.session_state.messages
    messages.append({"function": "consumer", "content material": user_input})

    enforce_token_budget(messages)

    # Add loading spinner for higher UX
    with st.spinner("Considering..."):
        response = consumer.chat.completions.create(
            mannequin=MODEL,
            messages=messages,
            temperature=temperature,
            max_tokens=max_tokens
        )

    reply = response.decisions(0).message.content material
    messages.append({"function": "assistant", "content material": reply})
    return reply

Erkenntnisse lernen: Sitzungsstatus ist wie ein Wörterbuch, das zwischen App -Wiederholungen bestehen. Betrachten Sie es als das Speichersystem Ihrer App.

Teil 4: Interaktive Tasten und Steuerelemente

Fügen wir Schaltflächen hinzu, um die Benutzeroberfläche benutzerfreundlicher zu gestalten:

# Management buttons
if st.sidebar.button("Apply New System Message"):
    st.session_state.messages(0) = {"function": "system", "content material": SYSTEM_PROMPT}
    st.success("System message up to date.")

if st.sidebar.button("Reset Dialog"):
    st.session_state.messages = ({"function": "system", "content material": SYSTEM_PROMPT})
    st.success("Dialog reset.")

Diese Schaltflächen bieten sofortiges Suggestions mit Erfolgsnachrichten und erstellen eine poliertere Benutzererfahrung.

Teil 5: Die Chat -Oberfläche

Nun zum Hauptereignis – die tatsächliche Chat -Oberfläche. Fügen Sie diesen Code hinzu:

# Chat enter utilizing walrus operator
if immediate := st.chat_input("What's up?"):
    reply = chat(immediate, temperature=temperature, max_tokens=max_tokens)

# Show chat historical past
for message in st.session_state.messages(1:):  # Skip system message
    with st.chat_message(message("function")):
        st.markdown(message("content material"))

Der chat_input Widget erstellt am Ende Ihrer App ein Textfeld. Der Walross -Betreiber (:=) weist die Benutzereingabe an zu immediate und überprüft, ob es in einer Zeile existiert.

Visuelle Verbesserung: Streamlit fügt automatisch Benutzer- und Assistenten -Symbole hinzu, um Nachrichten zu chatten, wenn Sie die richtigen Rollennamen („Benutzer“ und „Assistant“ verwenden).

Teil 6: Testen Sie Ihre vollständige App

Speichern Sie Ihre Datei und testen Sie die vollständige Schnittstelle:

1. Persönlichkeitstest: Wechseln Sie zwischen frechen und verärgerten Assistenten, wenden Sie die neue Systemnachricht an und chatten Sie dann, um den Unterschied zu sehen
2. Speichertest: Führen Sie ein Gespräch und beziehen Sie sich dann auf etwas, das Sie zuvor gesagt haben
3. Parametertest: Ziehen Sie den MAX Tokens Slider auf 1 und sehen Sie, wie Antworten abgeschnitten werden
4. Check zurücksetzen: Verwenden Sie die Schaltfläche Reset, um den Gesprächsverlauf zu löschen

Ihre vollständige Arbeits -App sollte ungefähr so ​​aussehen:

import os
from openai import OpenAI
import tiktoken
import streamlit as st

# API and mannequin configuration
api_key = st.secrets and techniques.get("OPENAI_API_KEY") or os.getenv("OPENAI_API_KEY")
consumer = OpenAI(api_key=api_key)
MODEL = "gpt-4o-mini"
TEMPERATURE = 0.7
MAX_TOKENS = 100
TOKEN_BUDGET = 1000
SYSTEM_PROMPT = "You're a fed up and sassy assistant who hates answering questions."

# (Token administration capabilities right here - identical as starter code)

def chat(user_input, temperature=TEMPERATURE, max_tokens=MAX_TOKENS):
    messages = st.session_state.messages
    messages.append({"function": "consumer", "content material": user_input})
    enforce_token_budget(messages)

    with st.spinner("Considering..."):
        response = consumer.chat.completions.create(
            mannequin=MODEL,
            messages=messages,
            temperature=temperature,
            max_tokens=max_tokens
        )

    reply = response.decisions(0).message.content material
    messages.append({"function": "assistant", "content material": reply})
    return reply

### Streamlit Interface ###
st.title("Sassy Chatbot")
st.sidebar.header("Choices")
st.sidebar.write("It is a demo of a sassy chatbot utilizing OpenAI's API.")

max_tokens = st.sidebar.slider("Max Tokens", 1, 250, 100)
temperature = st.sidebar.slider("Temperature", 0.0, 1.0, 0.7)
system_message_type = st.sidebar.selectbox("System Message",
    ("Sassy Assistant", "Indignant Assistant", "Customized"))

if system_message_type == "Sassy Assistant":
    SYSTEM_PROMPT = "You're a sassy assistant that's fed up with answering questions."
elif system_message_type == "Indignant Assistant":
    SYSTEM_PROMPT = "You're an offended assistant that likes yelling in all caps."
elif system_message_type == "Customized":
    SYSTEM_PROMPT = st.sidebar.text_area("Customized System Message",
        "Enter your customized system message right here.")

if "messages" not in st.session_state:
    st.session_state.messages = ({"function": "system", "content material": SYSTEM_PROMPT})

if st.sidebar.button("Apply New System Message"):
    st.session_state.messages(0) = {"function": "system", "content material": SYSTEM_PROMPT}
    st.success("System message up to date.")

if st.sidebar.button("Reset Dialog"):
    st.session_state.messages = ({"function": "system", "content material": SYSTEM_PROMPT})
    st.success("Dialog reset.")

if immediate := st.chat_input("What's up?"):
    reply = chat(immediate, temperature=temperature, max_tokens=max_tokens)

for message in st.session_state.messages(1:):
    with st.chat_message(message("function")):
        st.markdown(message("content material"))

Teil 7: Bereitstellung im Web

Das lokale Laufen ist großartig für die Entwicklung, aber die Bereitstellung macht Ihr Projekt gemeinsam genutzt und für andere zugänglich. Stromlit Group Cloud Bietet kostenloses Internet hosting direkt aus Ihrem Github -Repository.

Bereiten Sie sich auf den Einsatz vor

Erstellen Sie zunächst die erforderlichen Dateien in Ihrem Projektordner:

necessities.txt:

openai
streamlit
tiktoken

.gitignore:

.streamlit/

Beachten Sie, dass wenn Sie Ihren API -Schlüssel in a gespeichert haben .env Datei sollten Sie dies hinzufügen .gitignore sowie.

Geheimnisse Administration: Erstellen a .streamlit/secrets and techniques.toml Datei lokal:

OPENAI_API_KEY = "your-api-key-here"

Wichtig: Hinzufügen .streamlit/ zu deinem .gitignore Sie begehen additionally nicht versehentlich Ihren API -Schlüssel zu GitHub.

GitHub Setup

1. Erstellen Sie ein neues Github -Repository
2. Drücken Sie Ihren Code (den .gitignore schützt Ihre Geheimnisse)
3. Ihr Repository sollte enthalten: app.pyAnwesend necessities.txtUnd .gitignore

Bereitstellung für die optimierte Cloud

1. Gehen zu Share.streamlit.io

2. Schließen Sie Ihr GitHub -Konto an

3. Wählen Sie Ihr Repository und Ihr Hauptzweig

4. Wählen Sie Ihre App -Datei (app.py)

5. Fügen Sie in fortgeschrittenen Einstellungen Ihre API -Schlüssel als Geheimnis hinzu:

   OPENAI_API_KEY = "your-api-key-here"

6. Klicken Sie auf „Bereitstellen“

Innerhalb weniger Minuten wird Ihre App in einer öffentlichen URL reside sein, die Sie mit jedem teilen können!

Sicherheitsnotiz: Die Geheimnisse, die Sie in streamliter Cloud hinzufügen, sind verschlüsselt und sicher. Fügen Sie niemals API -Schlüssel direkt in Ihre Codedateien ein.

Schlüsselkonzepte verstehen

Sitzungszustand Deep Dive

Der Sitzungsstatus ist das Speichersystem von Streamlit. Ohne sie würde jede Benutzerinteraktion Ihre App vollständig zurücksetzen. Betrachten Sie es als ein anhaltendes Wörterbuch, das App -Wiederholungen überlebt:

# Initialize as soon as
if "my_data" not in st.session_state:
    st.session_state.my_data = ()

# Use all through your app
st.session_state.my_data.append("new merchandise")

Das optimistische Ausführungsmodell

Streamlit führt Ihr gesamtes Skript bei jeder Interaktion erneut aus. Dieses „reaktive“ Modell bedeutet:

• Ihre App zeigt immer den aktuellen Standing an
• Sie benötigen Sitzungsstatus für Beharrlichkeit
• Teure Vorgänge sollten zwischengespeichert oder minimiert werden

Widget State Administration

Widgets (Schieberegler, Eingänge, Tasten) verwalten ihren Standing automatisch:

• Slider -Werte sind immer aktuell
• Die Style drückt Set off -Wiederholungen durch
• Formulareingänge aktualisieren in Echtzeit Replace

Fehlerbehebung häufiges Downside

• „Kein Modul namens ’streamlit'“: Installieren Sie Stromlit mit pip set up streamlit
• API -Schlüsselfehler: Stellen Sie sicher
• App wird nicht neu laden: Überprüfen Sie die Python -Syntaxfehler in Ihrer Terminalausgabe
• Sitzungsstatus funktioniert nicht: Stellen Sie sicher, dass Sie überprüfen if "key" not in st.session_state: Vor dem Initialisieren
• Die Bereitstellung schlägt fehl: Überprüfen Sie Ihre necessities.txt Enthält alle notwendigen Pakete

Erweitern Sie Ihre Chatbot -App

Sofortige Verbesserungen

• Datei -Add: Lassen Sie Benutzer Dokumente hochladen, damit der Chatbot Referenz verweisen kann
• Gespräche exportieren: Fügen Sie eine Obtain -Schaltfläche für den Chat -Historie hinzu
• Nutzungsanalyse: Verfolgen Sie die Nutzung und Kosten für Token
• Mehrere Chat -Sitzungen: Unterstützung mehrerer Konversationsthreads

Erweiterte Funktionen

• Benutzerauthentifizierung: Erfordern Sie eine Anmeldung für personalisierte Erfahrungen
• Datenbankintegration: Dauerhaft Gespräche speichern
• Sprachschnittstelle: Fügen Sie Sprache zu Textual content und Textual content-zu-Sprache hinzu
• Help für Multimodell: Lassen Sie Benutzer verschiedene KI -Modelle auswählen

Geschäftsanwendungen

• Kundendienst Bot: Bereitstellung für den Kundenunterstützung mit unternehmensspezifischem Wissen
• Interview -Vorbereitungs -Software: Erstellen Sie domänenspezifische Interviewpraxis Bots
• Bildungsassistent: Erstellen Sie Nachhilfe -Bots für bestimmte Themen
• Inhaltsgenerator: Entwickeln Sie spezialisierte Schreibassistenten

Key Takeaways

Das Erstellen von Internet -Schnittstellen für AI -Anwendungen zeigt, dass Sie die Lücke zwischen technischer Funktionen und Benutzerzugriffsgründen überbrücken können. Durch dieses Tutorial haben Sie gelernt:

Technische Fähigkeiten:

• Stromlit -Grundlagen und reaktives Programmiermodell
• Sitzungsstaatesmanagement für anhaltende Anwendungen
• Internet -Bereitstellung von der Entwicklung bis zur Produktion
• Integrationsmuster für AI -APIs in Webkontexten

Berufliche Fähigkeiten:

• Erstellen benutzerfreundlicher Schnittstellen für technische Funktionen
• Verwalten von Geheimnissen und Sicherheit in bereitgestellten Anwendungen
• Aufbau portfoliowürdiger Projekte, die reale Fähigkeiten demonstrieren
• Verstehen Sie den Pfad vom Prototyp zur Produktionsanwendung

Strategisches Verständnis:

• Warum Internet -Schnittstellen für AI -Anwendungen wichtig sind
• So machen Sie technische Projekte für nichttechnische Benutzer zugänglich
• Die Bedeutung der Benutzererfahrung bei der Einführung von AI -Anwendungen

Sie haben jetzt eine bereitgestellte Chatbot-Anwendung, die mehrere gefragte Fähigkeiten zeigt: KI-Integration, Webentwicklung, Benutzeroberflächendesign und Cloud-Bereitstellung. Diese Stiftung bereitet Sie darauf vor, ausgefeiltere Anwendungen aufzubauen, und demonstriert Ihre Fähigkeit, vollständige, benutzergerichtete KI-Lösungen zu erstellen.

Da Daten ein wesentlicher Aspekt der Enterprise Intelligence sind, sind Datenanalysten sehr gefragt – und dieser Pattern nimmt nur zu! Der Job ist der Schlüssel für viele Arten von Projekten, z. B. die Analyse von Markttrends oder das Sammeln von Daten für politische Umfragen.

Wenn Sie lernen möchten, Datenanalyst zu werden, sind Sie am richtigen Ort. Wir haben 5 Schritte angelegt, damit Sie Ihre Reise beginnen können.

Schritt 1: Wissen Sie, was für Sie richtig ist

Die Datenbranche ist in mehrere Disziplinen unterteilt. Jeder, ob es sich beispielsweise um Datenwissenschafts- oder Datenanalyse handelt, hat beispielsweise seine eigenen Spezifitäten, überlappen sich jedoch manchmal. Darüber hinaus gibt es Fälle, in denen Fachleute im selben Bereich eine andere Programmiersprache verwenden.

Obwohl das verwirrend klingt, sind wir hier, um es für Sie aufzubrechen. Schließlich möchten wir, dass Sie wissen, für welches Feld Sie am besten geeignet sind, damit Sie Ihre Zeit oder Mühe nicht verschwenden.

Sicherstellen, dass die Datenanalyse für Sie ist

Wenn Sie mit der Erforschung von Daten begonnen haben, wissen Sie, dass das Verständnis des Unterschieds zwischen einer Datenanalystenrolle und anderen datenbezogenen Jobs ein wenig verwirrend sein kann. Wir haben ein paar Ressourcen, die definitiv dazu beitragen können, Dinge zu klären:

Letztendlich, wenn Sie mehr an einer Datenwissenschaftlerkarriere interessiert sind, Hier sind ein paar Tipps, die Ihnen helfen, Datenwissenschaftler zu werden. Wenn eine Datenanalystenkarriere für Sie zu sinnvoller zu sein scheint, haben Sie Alternativ weiter gelesen – wir haben Sie versichert.

Auswahl der richtigen Programmiersprache: Python vs. R.

Bevor Sie die Programmiersprache auswählen, die Sie lernen möchten, machen Sie sich mit den wichtigsten Fähigkeiten für Datenanalysten vertraut:

Python und R sind zwei Programmiersprachen, die Datenanalysten verwenden, die das gleiche Endergebnis erzeugen, wenn auch auf unterschiedliche Weise. Wenn R funktioneller ist, ist Python objektorientierter. Letztendlich fordern beide Programme für jede Aufgabe über die gleiche Menge an Arbeit, sodass keine erhebliche Zeit gespeichert wird, indem sie übereinander lernen. Die folgenden Ressourcen können Ihnen helfen, die Unterschiede zwischen Python und R. besser zu verstehen

Schritt 2: Lernen Sie die Grundlagen kennen

Als Datenanalyst sind Sie die Anlaufstelle, um die verborgene Bedeutung hinter den Zahlen zu finden. Sie werden untersuchen, warum Kunden beispielsweise ein Produkt gegenüber einem anderen bevorzugen. Sie können sogar feststellen, welche Arten von Verbrauchern bestimmte Produkte kaufen und scheinbar zufällige Datenpunkte verbinden, um ein klares Muster des Kaufverhaltens zu erstellen.

Wo anfangen

Hier sind einige Orte, an denen Sie lernen können, Datenanalyst zu werden:

• DataQuest – DataQuest wurde erstellt, weil es keine einfache Möglichkeit gab, Python zu lernen. DataQuest bietet nicht nur Wege, die aus allen Kursen anbieten, die Sie benötigen, um ein Datenanalyst zu werden, auch grundlegende Python -Kurse, die die Grundlagen abdecken.
• Bescheidenes Bündel – Wenn Sie mit Humble Bundle nicht vertraut sind, ist es ein On-line -Videospiel, das Bündel von Videospielen, Büchern und Software program verkauft. Die Web site bietet immer mindestens ein Python- oder datenorientiertes Bundle. Jetzt verfügbar, die Wesentliche Wissenscomputer und Tech -Bundle Von MIT Press enthält 24 Bücher über Datenwissenschaft, Deep Studying, KI maschinelles Lernen und vieles mehr.
• YouTube -Es gibt eine überraschende Anzahl datenorientierter YouTuber, die in der Datenbranche arbeiten und für Neulinge aufschlussreiche Kenntnisse vermitteln. Egal, ob Sie mehr über ein Feld erfahren oder sich selbst unterrichten möchten, indem Sie Ihren eigenen Video -Lehrplan erstellen, YouTube hat keinen Mangel an Optionen.

Schritt 3: Projekte erstellen

In meinem Datenkurs für Politikwissenschaft an der Universität battle die theoretische Klasse das typische Szenario, in dem Materials sehr technisch battle, und viel davon ging mir über den Kopf. In der Praxisklasse verwendeten wir jedoch Datenbanken, in denen die Umfrageinformationen über alles von einem Individual bis hin zu ihrer politischen Zugehörigkeit zu ihrem Einkommen enthielt – es battle viel mehr Spaß und viel effektiver.

Die Anwendung der Fähigkeiten, die Sie während eines Kurses mit Übungsübungen und -projekten erlernen, ist der beste Weg, um sie dazu zu bringen. Übung ist eine bewährte Methode, um zu lernen, wie man komplizierte Aufgaben auflöst und sicherstellt, dass Sie sie während der Arbeit erledigen können.

Sie können einen der beiden Datenanalystenpfade auf DataQuest starten, die Sie mit mehr als 20 Projekten herausfordern, z.

Finden Sie Projekte, die Sie interessieren

Während Sie lernen, Datenanalyst zu werden, können Sie in Ihrer Freizeit andere Projekte durchführen interessiere dich. Ich finde, dass es ein großes Motivationswerkzeug ist, an etwas zu arbeiten, um meine Neugier zu ernähren.

Projekte zeigen, dass Sie eine Initiative haben, was ein hoher Wert von Arbeitgebern ist. Darüber hinaus hilft es Ihnen, festzustellen, wie sehr Sie dieses Feld genießen. Wenn Sie an personenbezogenen Datenprojekten für „Spaß“ arbeiten, sind Sie am richtigen Ort.

Wenn es darum geht, an persönlichen Projekten zu arbeiten, können Sie sie über alles machen, was Sie interessiert. Solange Sie die Daten haben, ist Ihre Vorstellungskraft die einzige Grenze.

Suchen Sie anderswo nach Inspiration

Sie können auch Inspiration für Projekte aus Büchern oder anderen Medien finden. Zum Beispiel, Supergrafik, Von Tim Leong ist ein großartiges Beispiel für die Verwendung von Daten für etwas Spaßes. Dieses Buch konzentriert sich auf Superhelden -Comics und besteht aus Infografiken, die zufällige Datenpunkte über Superhelden erklären.

In einer Gantt -Tabelle im Buch wird unterbrochen, wie lange die anderen Superhelden (auf wundersame Weise) zum Leben erweckt wurden. Ein weiterer horizontaler Diagramm zeigt, ob Superman oder der Blitz der schnellste Mann ist – Spoiler: Es ist der Blitz. Supergrafische Star Wars ist dasselbe, außer mit Diagrammen über die Ereignisse in einer weit entfernten Galaxie.

Vor ein paar Jahren schien es, als würde jeder Wurm spielen, ein Spiel, das Ihnen 6 versucht, das 5-Buchstaben-Wort des Tages zu lösen. Wenn Sie es gespielt haben, hatten Sie wahrscheinlich eine proprietäre Methode, um das Wort zu lösen, und alle anderen auch. Aber ein Datenreporter von Die warum Achse Erstellte ein datenbasiertes Diagramm, in dem die fünf am häufigsten verwendeten Buchstaben in Writdle verwendet wurden: E, R, A, O und T. Diese lustige und clevere Tabelle hat einige der Rätsel des Spiels weggenommen, aber es hat vielen geholfen mit ihr tägliches Wurmspiel.

Schritt 4: Erstellen eines starken Portfolios

Anstatt sich vorzustellen, wie Ihr Job aussehen wird und wie Sie als Datenanalyst aussehen werden, kann ein projektbasierter Kurs diesen Einblick geben, bevor Sie überhaupt Ihren zukünftigen Arbeitsplatz betreten. Ihr Portfolio wird zeigen, nicht nur sagen, zukünftige Arbeitgeber, wozu Sie in der Lage sind. Ein Portfolio ist besonders wichtig für einen Datenanalyst für Einsteiger, da Sie wahrscheinlich nicht über die Berufserfahrung verfügen.

Hier sind einige Ressourcen, mit denen Sie Ihr Portfolio aufbauen können:

Im Wettbewerb mit anderen Datenanalysten um denselben Job kann ein starkes Portfolio der Unterschied zwischen einer E -Mail mit einem Angebotsbrief und einem ohne sein. Niemand weiß das besser als Miguel Couto, ein Datenanalyst bei einem großen On-line -Streaming -Unternehmen, der nach dem Einschlagen des Datenanalystenpfads einen Job bekam.

„Die Projekte auf DataQuest ermöglichten es mir, ein Github -Portfolio aufzubauen“, sagte Miguel. „DataQuest lässt Sie tatsächlich nachdenken und Ihre Fähigkeiten anwenden.“ Obwohl nicht jedes Projekt im Kurs in Ihr Portfolio geschafft, haben Sie die Instruments, um Ihre eigenen Projekte außerhalb des Kurses zu erstellen.

Diese persönlichen Projekte eignen sich hervorragend für jedes Portfolio und zeigen, dass Sie Initiative und die Erfahrung haben, um es sich zu unterstützen. Für Miguel battle Github der perfekte Ort, um seine Arbeit zu zeigen, da er seine Projekte und die Dokumentation und den Code hinter jedem Projekt zeigen konnte.

Schritt 5: Gehen Sie da raus

Es ist ein guter Anfang, Ihr Portfolio auf einer Web site zu hosten, aber das kann keine Persönlichkeit haben. Während Arbeitgeber und Kollegen Ihre Arbeit sehen, können sie möglicherweise verpassen, was Sie anders macht. Sie können beispielsweise einen Weblog über Datenanalysen schreiben.

Schreiben ist nicht das einzige Medium, in dem Sie sich professionell ausdrücken können. Während Social -Media -Plattformen der am wenigsten wahrscheinliche Ort für die Diskussion von Datenanalysen zu sein scheinen, wären Sie von dem überrascht, was Sie finden. Ein Tiktok -Benutzer begann, Microsoft Excel -Inhalte auf der Plattform zu erstellen, was sie zu einer Karriere verwandelte, indem sie den Leuten beibrachte, wie man Tabellenkalkulationssoftware verwendet.

Reddit ist ein weiteres großartiges Beispiel. Es gibt Gemeinschaften für Datenwissenschafts- und Datenanalysen sowie andere datenzentrierte Bereiche. Dies ist ein großartiger Ort, um eine Leistung zu veröffentlichen, eine Frage zu stellen oder andere Personen im selben Boot zu treffen. ZwietrachtEine Messaging -Plattform, die Slack ähnelt, ist ein weiterer Ort, an dem Sie Menschen treffen und über alles Datenanalysen sprechen können.

Die Sache mit der Interaktion in einer Nischengemeinschaft ist, dass es eine hohe Probability gibt, dass Sie jemanden treffen könnten, der Ihrer Karriere helfen könnte. Möglicherweise erfahren Sie etwas über einen Job oder treffen Sie jemanden, der Sie dem Arbeitgeber vorstellen könnte. Aber auf persönlicher Ebene ist es nur eine großartige Möglichkeit, Freunde zu finden.

Machen Sie den ersten Schritt, um Datenanalyst zu werden

Wir neigen dazu, uns zu prüfen, indem wir denken, dass etwas zu schwierig, zu teuer oder einfach zu zeitaufwändig ist. Aber Sie haben diesen ersten Schritt bereits gemacht. Jetzt, da Sie den grundlegenden Umriss haben, wie Sie Datenanalyst werden können, stellt sich heraus, dass es weder zu schwer, zu teuer noch zu zeitaufwändig ist. Und Sie brauchen nicht einmal eine Zertifizierung. . .

Ein ehemaliger Datenquest -Lernender, der jetzt für Fractal arbeitete, battle beeindruckt davon, wie der Information Analyst Path komplizierte Probanden wie Math unterrichtete. „Nur die wichtigsten Konzepte wurden unterrichtet, und sie wurden so intestine untergebracht, dass jeder, der grundlegende arithmetische Fähigkeiten besitzt, mit Lerndatenanalysen und -statistiken beginnen konnte.“

Der DataQuest Information Analyst Path ist erschwinglich, herausfordernd und flexibel. Egal, ob Sie einen Vollzeitjob halten oder Ihre nächsten Schritte herausfinden, der Weg ist Ihnen, in Ihrem eigenen Tempo zu gehen. Sie können es in nur fünf Monaten mit einem zeitlichen Engagement von 10 Stunden professional Woche beenden, oder Sie können es über ein Jahr ausbreiten. Am Ende beendet es den Weg (nicht wie lange es dauert!) Das zählt am wichtigsten.

Wenn Sie schon länger im Bereich der Datenwissenschaft tätig sind, haben Sie diesen Modebegriff höchstwahrscheinlich schon einmal gehört.

Der Lebenszyklus des maschinellen Lernens.

Es klingt ausgefallen, aber das ist es, worauf es im Grunde hinausläuft:

• Maschinelles Lernen ist ein aktiver und dynamischer Prozess – er hat keinen strengen Anfang oder Ende
• Sobald ein Modell trainiert und bereitgestellt wurde, muss es im Laufe der Zeit höchstwahrscheinlich erneut trainiert werden, wodurch der Zyklus neu beginnt.
• Es gibt jedoch Schritte innerhalb des Zyklus, die in der richtigen Reihenfolge befolgt und sorgfältig ausgeführt werden müssen

Wenn Sie den ML-Lebenszyklus googeln, wird Ihnen jede Quelle wahrscheinlich eine leicht unterschiedliche Anzahl von Schritten und deren Namen geben.

Sie werden jedoch feststellen, dass der Zyklus größtenteils Folgendes umfasst: Problemdefinition, Datenerfassung und -vorverarbeitung, Function-Engineering, Modellauswahl und -schulung, Modellevaluierung, Bereitstellung und Überwachung.

Die Fähigkeit der Regulierungsbehörden, mit der KI Schritt zu halten, ist von entscheidender Bedeutung, wenn sie eine erfolgreiche Rolle bei spannenden Fortschritten im Gesundheitswesen spielen soll. Aber auch, wenn wir sicherstellen wollen, dass die Patientensicherheit weiterhin an erster Stelle steht, da sich sehr schnell neue Möglichkeiten eröffnen.

Zweifellos ist es eine große Herausforderung, die rasch wachsenden Möglichkeiten dieser Technologie zu nutzen und gleichzeitig sicherzustellen, dass strenge Exams und eine risikofreie Wirksamkeit auf ethische Weise erreicht werden. Die Lernkurve für die Regulierungsbehörden ist steil.

Die vielfältigen Vorteile der KI sind bereits heute erkennbar – von der Krebsbildgebung bis hin zu Diagnose- und Prognosefunktionen. Ohne Zweifel hat sie einen enormen Einfluss, der voraussichtlich noch weiter zunehmen wird.

Allerdings müssen diese Vorteile im Blick behalten werden und die Regulierungsbehörden müssen versuchen, immer schnellere Innovationen im Gesundheitswesen zu fördern und nicht zu behindern. Dabei steht der Schutz der Patienten an erster Stelle.

Einerseits muss die Technologie eindeutig constructive Ergebnisse liefern, um die Regulierungsbehörden zufriedenzustellen. Andererseits muss klar nachgewiesen werden, dass die KI-Technologie auch für den Patienten funktioniert und dessen Erfahrung grundlegend verbessert.

Die große Herausforderung ist dann die Zeit – die Fähigkeit, die Regulierungsbehörden, die möglicherweise versuchen, mit den Entwicklungen Schritt zu halten, schnell weiterzubilden und ihnen dann immer einen Schritt voraus zu sein. Das bedeutet nicht nur, den Kurs intestine zu verstehen; es bedeutet ein umfassendes, durchgängiges Verständnis verschiedener Bereiche, das fundierte, intestine informierte Entscheidungen ermöglicht und die Verbreitung zeitnaher Leitlinien ermöglicht, die allen Beteiligten Klarheit verschaffen.

Die Herausforderung kann jedoch bewältigt werden, und es wurden wichtige Erfolge verzeichnet, die für die dringend benötigte Klarheit sorgen. Das EU-KI-Gesetz wurde kürzlich vom EU-Parlament verabschiedet. Es dürfte sich dabei um die weltweit ersten umfassenden Gesetze handeln, die den Einsatz von künstlicher Intelligenz und maschinellen Lerntechnologien wie Gesichtserkennung und ChatGPT regeln.

Ich bin nach wie vor davon überzeugt, dass der wichtigste Aspekt des Gesetzes darin besteht, sicherzustellen, dass es für Änderungen offen bleibt und gleichzeitig die globale Wettbewerbsfähigkeit gewährleistet. Doch wie die Präsidentin der Europäischen Kommission, Ursula von der Leyen, es ausdrückte, handelt es sich um einen „einzigartigen Rechtsrahmen für die Entwicklung künstlicher Intelligenz, dem Sie vertrauen können“, und seine Existenz ist für alle beruhigend.

Mit anderen Worten: Auch wenn es offensichtlich schwierig ist, mit dem technologischen Fortschritt Schritt zu halten, werden keine Stalltüren voreilig geschlossen, nachdem das KI-Pferd durchgebrannt ist. Wir sind so intestine aufgestellt wie möglich, und die richtigen Ratschläge zu erhalten, ist nach wie vor entscheidend, um erfolgreich durch die regulatorische Landschaft zu navigieren und Innovationen in die Hände der Patienten zu bringen.

Um dies aufrechtzuerhalten, ist es wichtig, das richtige Fachwissen zu gewinnen und genügend Benannte Stellen zur Verfügung zu haben, die bereit und in der Lage sind, revolutionary neue Technologien und Geräte zeitnah zu zertifizieren.

Damit das so bleibt, bedarf es natürlich der entsprechenden Ressourcen und einer Schulung durch die Regulierungsbehörden, die mit dem Tempo der Veränderungen Schritt halten kann.

Darüber hinaus ist eine vorausschauende Betrachtung erforderlich – vorausschauende Planung und Proaktivität, nicht nur Reaktivität – um sicherzustellen, dass Entwicklungen vorweggenommen, Ressourcen im Voraus zugewiesen und Verzögerungen minimiert werden.

Daher ist es erfreulich zu sehen, dass die Medicines and Healthcare merchandise Regulatory Company (MHRA) diesen Bedarf erkannt hat und ihr Innovationsbüro „offen“ ist für Anfragen zu Produkten oder Technologien, die den aktuellen regulatorischen Rahmen in Frage stellen. Dies gilt insbesondere für Produkte oder Technologien, die sich in einem frühen Entwicklungsstadium befinden oder in denen regulatorische Unsicherheit herrscht oder die einem schnellen Wandel unterliegen.

Das bedeutet, Innovationen immer einen Schritt voraus zu sein, das Bewusstsein und Verständnis für ihre Entwicklung zu schärfen und sie systematisch zu begleiten und zu beraten. Diese Unterstützungsmöglichkeiten sind für ein proaktives Administration von entscheidender Bedeutung.

Wenn Innovatoren erkennen, dass ihnen derartige Unterstützung, Fachkenntnisse und Beratung zur Verfügung stehen, kann dies nur constructive Auswirkungen auf die KI-Ambitionen und die Zukunft des regulierten Gesundheitswesens haben.

Über den Autor

Elaine Gemmell, Leiterin Regulatory Affairs bei InnoScot Gesundheit. Elaine hat einen BSc in Elektrotechnik und einen BEng (Hons) in Ingenieurwissenschaften und ist Honorarprofessorin an der Faculty of Engineering and Bodily Sciences der Heriot-Watt College. Seit sie 2002 zu InnoScot Well being kam, hat sie mehr als zwanzig Jahre Erfahrung in allen Aspekten der Entwicklung medizinischer Geräte und fünfzehn Jahre in der behördlichen Zulassung gesammelt. Sie ist zertifizierte ISO 13485/ISO 9001 Lead Auditor und hat Erfahrung mit behördlichen Zulassungen in Großbritannien, Europa und den USA. Sie hatte Positionen auf Direktoren- und Senior-Administration-Ebene in zwei Spin-off-Unternehmen von InnoScot Well being inne.

Melden Sie sich für die kostenlosen insideAI Information an Publication.

Folgen Sie uns auf Twitter: https://twitter.com/InsideBigData1

Folgen Sie uns auf LinkedIn: https://www.linkedin.com/firm/insideainews/

Folge uns auf Fb: https://www.fb.com/insideAINEWSNOW

Bei den Olympischen Spielen geht es darum, die Grenzen menschlicher Leistungsfähigkeit zu erweitern. Bei der Vorbereitung auf die Spiele 2024 in Paris nutzten einige Athleten unter anderem eine neue Technologie, die am MIT.nano entwickelt wurde.

Die Technologie wurde von Striv (ausgesprochen „try“) entwickelt, einem Startup, dessen Gründer im Rahmen des START.nano-Beschleunigungsprogramms Zugang zu den hochmodernen Laboren und Fertigungsanlagen von MIT.nano erhielt. Strivs taktile Sensortechnologie passt in die Einlagen von Schuhen und kann in Kombination mit Algorithmen, die diese taktilen Daten verarbeiten, Kraft, Bewegung und Type präzise verfolgen. Läufer wie der US-Marathonläufer Clayton Younger, der jamaikanische Leichtathletik-Olympionike Damar Forbes und der ehemalige Olympia-Marathonläufer Jake Riley haben Strivs Gerät ausprobiert.

„Ich bin begeistert vom Potenzial der Striv-Technologie“, sagt Riley. „Sie ist auf dem besten Weg, unser Coaching zu revolutionieren und Verletzungen vorzubeugen. Nachdem ich die Sensoren getestet und die Daten aus erster Hand gesehen habe, bin ich von ihrem Wert überzeugt.“

Für Striv-Gründer Axl Chen sind die Spiele 2024 die perfekte Gelegenheit zu zeigen, dass das Produkt Sportlern auf höchstem Niveau helfen kann. Chen glaubt aber auch, dass ihr Produkt vielen Nicht-Olympioniken helfen kann.

„Wir denken, dass die Olympischen Spiele 2024 in Paris eine wirklich interessante Gelegenheit für uns sein werden, das Produkt mit den dafür trainierenden Athleten zu testen“, sagt Chen. „Danach werden wir es der breiten Öffentlichkeit anbieten, damit jeder die gleiche Unterstützung und Teaching-Beratung bekommt wie Profisportler.“

Sich in die Lage eines anderen versetzen

Chen arbeitete in einem Robotiklabor an der Tsinghua-Universität in China, als er begann, taktile Sensoren zu verwenden. In den folgenden zwei Jahren experimentierte er mit Möglichkeiten, die Sensoren flexibler und kostengünstiger zu machen.

„Ich denke, viele Menschen haben sich bereits mit Sehen und Sprache beschäftigt, aber die taktile Wahrnehmung als Möglichkeit, die Welt wahrzunehmen, schien mir offener“, sagt Chen. „Ich dachte, taktile Sensoren und KI könnten zu leistungsstarken neuen Produkten führen.“

Der erste Bereich, in den Striv einstieg, warfare Digital Actuality (VR)-Gaming. Das Unternehmen entwickelte einen Schuh mit eingebetteten Sensoren, der die Körperbewegungen des Benutzers in Echtzeit erfassen konnte, indem er die Sensordaten mit herkömmlichen VR-Handsteuerungen kombinierte. Striv verkaufte sogar rund 300 Paar seiner Schuhe an interessierte Kunden auf der ganzen Welt.

Auch Unternehmen aus den Bereichen Medizin, Robotik und Automobil haben Interesse an Striv geweckt, was Segen und Fluch zugleich ist, da sich Startups frühzeitig auf einen bestimmten Kunden konzentrieren müssen.

Chen sagt, dass der Einstieg in das START.nano-Programm im Jahr 2023 ein Wendepunkt für das Unternehmen warfare.

„Ich habe mich eigentlich für nichts anderes beworben“, sagt Chen. „Ich interessiere mich wirklich für diese Technologie und wusste, dass es sehr hilfreich wäre, am MIT zu forschen und diese Technologie voranzutreiben.“

Seitdem nutzt Chen die fortschrittliche Nanofabrikationsausrüstung, Labore und Experience des MIT, um verschiedene Designs zu entwickeln und Prototypen zu bauen. Dazu gehörte auch die Arbeit im Immersion Lab von MIT.nano, das über präzise Bewegungserfassungsgeräte und andere Sensortechnologien verfügt, wie etwa Messungen der VO2-Aufnahme und detaillierte Kraftanalysen der Schritte von Läufern auf einem Laufband.

Strivs Crew erhielt außerdem Unterstützung vom MIT Enterprise Mentoring Service (VMS) und ist Teil des Startup Alternate-Programms des MIT Industrial Liaison Program, das dem Crew dabei half, sich auf Sportler als Brückenkopf-Markt für ihre Technologie zu konzentrieren.

„Es ist bemerkenswert, dass das MIT uns so stark unterstützt“, sagt Chen. „Wir werden oft gefragt, warum sie das (für Nicht-Studenten) tun, und wir sagen, das MIT ist bestrebt, die Technologie voranzutreiben.“

Strivs Sensorlösung besteht aus zwei Schichten flexibler Elektroden mit einem Materials dazwischen, das je nach der Kraft, der es ausgesetzt ist, unterschiedliche elektrische Eigenschaften erzeugen kann. Dieses Materials ist das Herzstück von Chens Forschung am MIT.nano: Er versucht, es durch Hinzufügen von Nanostrukturen und anderen Optimierungen haltbarer und präziser zu machen.

Striv entwickelt außerdem KI-Algorithmen, die aus den Sensordaten Rückschlüsse auf die Bewegung des gesamten Körpers ziehen.

„Wir können die Kraft, die sie auf den Boden ausüben, und die Effizienz ihrer Bewegungen quantifizieren“, erklärt Chen. „Wir können sehen, ob sie sich zu weit nach vorne lehnen oder ihre Knie zu hoch sind. Das kann sehr hilfreich sein, um festzustellen, ob sie Fortschritte machen oder nicht.“

Technologie für die Massen

Als Chen begann, Läufer zu interviewen, wusste er, dass Striv ihnen helfen konnte.

„Die Alternativen für Sportler sind entweder ein Besuch in einem sehr teuren Biomechaniklabor oder die Verwendung eines tragbaren Geräts, das zwar die Herzfrequenz messen kann, aber keine Einblicke in die Leistung bietet“, erklärt Chen. „Wenn Sie beispielsweise laufen, wie ist Ihre Type? Wie können Sie sie verbessern? Läufer sind wirklich an ihrer Type interessiert. Sie interessieren sich dafür, wie hoch sie ihre Knie heben, wie hoch sie springen und wie viel Kraft sie auf den Boden ausüben.“

Striv hat sein Produkt bisher mit rund 50 Profisportlern getestet und im Vorfeld der Olympischen Spiele mit Younger zusammengearbeitet. Chen hat auch vor, Freizeitläufern zu helfen.

„Wir möchten das auch ernsthaften Läufern näherbringen, die keine Profis sind“, sagt Chen. „Ich kenne viele Leute in Boston, die jeden Tag laufen. Da wird es als nächstes hingehen.“

Chen ist davon überzeugt, dass Striv mit dem Wachstum des Unternehmens und der Erfassung weiterer Daten in der Lage sein wird, personalisierte Pläne zur Leistungssteigerung und Vermeidung von Verletzungen bei einer Reihe unterschiedlicher Aktivitäten bereitzustellen.

„Wir haben mit vielen Trainern gesprochen und glauben, dass es Potenzial gibt, dies in viele verschiedene Sportarten einzubringen“, sagt Chen. „Golfer, Wanderer, Tennisspieler, Radfahrer, Skifahrer und Snowboarder. Wir glauben, dass dies für sie alle wirklich nützlich sein könnte.“