Die Raspberry Pi Basis wurde präzise veröffentlicht KI-HUT+ 2Es ist wichtig, dass Sie Ihren Pi 5 für eine generative KI-Maske für nur 130 Greenback kaufen können. Es handelt sich um eine vollständige Aktualisierung der ursprünglichen AI-HAT-Karte.

Mit AI HAT+ 2 können Sie einen generierten AI-Standort auf Ihrem Raspberry Pi 5 erstellen. Er bietet Chat-, Bildgenerierungs- und Navigationsassistenten während der Internetverbindung. Ich habe mehrere Beispiele auf GitHub veröffentlicht, damit Sie alles von der Objekterkennung bis zum Sprachmodell implementieren können.

Bis die Fähigkeiten von AI HAT+ den Fokus auf die Bildbearbeitung gelegt haben, kann AI HAT+ 2 auf der Grundlage visionärer Verbesserungen und generativer AI-Modellierung eingesetzt werden. Wir haben die Modelle DeepSeek-R1-Distill, Llama 3.2, Qwen2.5-Coder und Qwen2.5-Instruct getestet – mit einem 1,5-Millionen-Greenback-Parametermodellierer, der viele Modelle herstellt und aktualisiert.

Pris und Tillgänglighet

AI HAT+ 2 kostet 130 US-Greenback und kostet bis zu 100 US-Greenback. Der Raspberry Pi verfügt über ein Produkt, das seit langem in Betrieb ist, sodass Sie schon lange nach dem Kauf suchen müssen.

Für die Leute, die billige Finnen kaufen müssen, ist der Authentic-AI-HAT+ für 70 Greenback erhältlich, aber die zusätzliche Minnet-Belohnung ist mit den meisten AI-Modellierern verbunden, die Sie kaufen können.

Weitere Informationen:

Raspberry Pi-Produkte – AI HAT+ 2

Bild basierend auf Künstliche Analyse

# Einführung

Wir sprechen oft von kleinen KI-Modellen. Aber was ist mit winzigen Modellen, die tatsächlich auf einem Raspberry Pi mit begrenzter CPU-Leistung und sehr wenig RAM laufen können?

Dank moderner Architekturen und aggressiver Quantisierung können Modelle mit etwa 1 bis 2 Milliarden Parametern jetzt auf extrem kleinen Geräten ausgeführt werden. Wenn sie quantisiert sind, können diese Modelle quick überall laufen, sogar auf Ihrem intelligenten Kühlschrank. Sie benötigen lediglich llama.cpp, ein quantisiertes Modell aus dem Hugging Face Hub, und einen einfachen Befehl, um loszulegen.

Das Spannende an diesen winzigen Modellen ist, dass sie weder schwach noch veraltet sind. Viele von ihnen übertreffen viel ältere große Modelle bei der Textgenerierung in der realen Welt. Einige unterstützen auch Software-Aufrufe, Imaginative and prescient-Verstehen und strukturierte Ausgaben. Das sind keine kleinen und dummen Modelle. Sie sind klein, schnell und überraschend clever und können auf Geräten ausgeführt werden, die in Ihre Handfläche passen.

In diesem Artikel werden wir 7 winzige KI-Modelle untersuchen, die mit llama.cpp intestine auf einem Raspberry Pi und anderen Maschinen mit geringem Stromverbrauch laufen. Wenn Sie mit lokaler KI ohne GPUs, Cloud-Kosten oder umfangreiche Infrastruktur experimentieren möchten, ist diese Liste ein guter Ausgangspunkt.

# 1. Qwen3 4B 2507

Qwen3-4B-Instruct-2507 ist ein kompaktes und dennoch äußerst leistungsfähiges, nicht denkendes Sprachmodell, das für seine Größe einen großen Leistungssprung bietet. Mit nur 4 Milliarden Parametern zeigt es starke Fortschritte in den Bereichen Unterrichtsfolge, logisches Denken, Mathematik, Naturwissenschaften, Codierung und Werkzeugnutzung und erweitert gleichzeitig die Abdeckung von Lengthy-Tail-Wissen über viele Sprachen hinweg.

Das Modell zeigt eine deutlich verbesserte Anpassung an Benutzerpräferenzen bei subjektiven und offenen Aufgaben, was zu einer klareren, hilfreicheren und qualitativ hochwertigeren Textgenerierung führt. Durch die Unterstützung einer beeindruckenden nativen Kontextlänge von 256 KB kann es extrem lange Dokumente und Konversationen effizient verarbeiten, was es zu einer praktischen Wahl für reale Anwendungen macht, die sowohl Tiefe als auch Geschwindigkeit erfordern, ohne den Overhead größerer Modelle.

# 2. Qwen3 VL 4B

Qwen3-VL-4B-Instruct ist das bislang fortschrittlichste Imaginative and prescient-Language-Modell der Qwen-Familie und vereint modernste multimodale Intelligenz in einem hocheffizienten 4B-Parameter-Formfaktor. Es bietet ein hervorragendes Textverständnis und eine bessere Textgenerierung, kombiniert mit einer tieferen visuellen Wahrnehmung, Argumentation und einem räumlichen Bewusstsein, und ermöglicht so eine starke Leistung bei Bildern, Movies und langen Dokumenten.

Das Modell unterstützt nativen 256K-Kontext (erweiterbar auf 1 MB) und ermöglicht so die Verarbeitung ganzer Bücher oder stundenlanger Movies mit präzisem Abruf und feinkörniger zeitlicher Indizierung. Architektur-Upgrades wie Interleaved-MRoPE, DeepStack-Visible-Fusion und präzise Textual content-Zeitstempel-Ausrichtung verbessern die Argumentation von Movies über lange Zeithorizonte, die Erkennung feiner Particulars und die Bild-Textual content-Erdung erheblich

Über die Wahrnehmung hinaus fungiert Qwen3-VL-4B-Instruct als visueller Agent, der PC- und cell GUIs bedienen, Instruments aufrufen, visuellen Code (HTML/CSS/JS, Draw.io) generieren und komplexe multimodale Arbeitsabläufe mit einer sowohl auf Textual content als auch auf Imaginative and prescient basierenden Argumentation abwickeln kann.

# 3. Exaone 4.0 1.2B

EXAONE 4.0 1.2B ist ein kompaktes, gerätefreundliches Sprachmodell, das entwickelt wurde, um agentische KI und hybrides Denken in äußerst ressourceneffiziente Bereitstellungen zu integrieren. Es integriert sowohl den Nicht-Begründungsmodus für schnelle, praktische Antworten als auch einen optionalen Begründungsmodus für die Lösung komplexer Probleme, sodass Entwickler innerhalb eines einzigen Modells dynamisch zwischen Geschwindigkeit und Tiefe wechseln können.

Trotz ihrer geringen Größe unterstützt die 1.2B-Variante die Verwendung von Agententools, ermöglicht Funktionsaufrufe und autonome Aufgabenausführung und bietet mehrsprachige Funktionen in Englisch, Koreanisch und Spanisch, wodurch ihr Nutzen über einsprachige Edge-Anwendungen hinaus erweitert wird.

Architektonisch übernimmt es die Fortschritte von EXAONE 4.0 wie hybride Aufmerksamkeit und verbesserte Normalisierungsschemata und unterstützt gleichzeitig eine 64-KByte-Token-Kontextlänge, was es ungewöhnlich stark für das Verständnis langer Kontexte in dieser Größenordnung macht

Es ist auf Effizienz optimiert und speziell für geräteinterne und kostengünstige Inferenzszenarien konzipiert, bei denen Speicherbedarf und Latenz ebenso wichtig sind wie die Modellqualität.

# 4. Ministerial 3B

Ministerl-3-3B-Instruct-2512 ist das kleinste Mitglied der Ministral 3-Familie und ein hocheffizientes kleines multimodales Sprachmodell, das speziell für den Edge- und ressourcenarmen Einsatz entwickelt wurde. Es handelt sich um ein fein abgestimmtes FP8-Unterweisungsmodell, das speziell für Arbeitsbelastungen im Chat und bei der Befolgung von Anweisungen optimiert ist und gleichzeitig eine starke Einhaltung von Systemaufforderungen und strukturierten Ausgaben gewährleistet

Architektonisch kombiniert es ein 3,4-B-Parameter-Sprachmodell mit einem 0,4-B-Imaginative and prescient-Encoder und ermöglicht so das native Bildverständnis neben der Textbegründung.

Trotz seiner kompakten Größe unterstützt das Modell ein großes 256K-Kontextfenster, eine robuste mehrsprachige Abdeckung über Dutzende Sprachen sowie native Agentenfunktionen wie Funktionsaufrufe und JSON-Ausgabe, wodurch es sich intestine für Echtzeit-, eingebettete und verteilte KI-Systeme eignet.

Ministral 3 3B Instruct ist so konzipiert, dass es in FP8 innerhalb von 8 GB VRAM passt (und sogar noch weniger, wenn es quantisiert ist) und bietet eine starke Leistung professional Watt und professional Greenback für Produktionsanwendungsfälle, die Effizienz ohne Einbußen bei der Leistungsfähigkeit erfordern

# 5. Jamba-Argumentation 3B

Jamba-Reasoning-3B ist ein kompaktes und dennoch außergewöhnlich leistungsfähiges Argumentationsmodell mit 3 Milliarden Parametern, das starke Intelligenz, Verarbeitung langer Kontexte und hohe Effizienz auf kleinem Raum bietet.

Seine entscheidende Innovation ist eine hybride Transformer-Mamba-Architektur, bei der eine kleine Anzahl von Aufmerksamkeitsschichten komplexe Abhängigkeiten erfasst, während die meisten Schichten Mamba-Zustandsraummodelle für eine hocheffiziente Sequenzverarbeitung verwenden.

Dieses Design reduziert den Speicheraufwand erheblich und verbessert den Durchsatz, sodass das Modell reibungslos auf Laptops, GPUs und sogar Geräten der Mobilklasse läuft, ohne dass die Qualität darunter leidet.

Trotz seiner Größe unterstützt Jamba Reasoning 3B 256K-Token-Kontexte und lässt sich auf sehr lange Dokumente skalieren, ohne auf large Aufmerksamkeits-Caches angewiesen zu sein, was die Inferenz langer Kontexte praktisch und kostengünstig macht

Bei Intelligenz-Benchmarks übertrifft es vergleichbare kleine Modelle wie Gemma 3 4B und Llama 3.2 3B bei einem kombinierten Ergebnis aus mehreren Bewertungen und zeigt eine für seine Klasse ungewöhnlich starke Denkfähigkeit.

# 6. Granit 4.0 Micro

Granit-4.0-Mikro ist ein 3B-Parameter-Langkontext-Anweisungsmodell, das vom Granite-Staff von IBM entwickelt und speziell für Assistenten und Agenten-Workflows der Unternehmensklasse entwickelt wurde.

Feinabgestimmt von Granite-4.0-Micro-Base unter Verwendung einer Mischung aus freizügig lizenzierten offenen Datensätzen und hochwertigen synthetischen Daten, legt es Wert auf zuverlässige Befolgung von Anweisungen, professionellen Ton und sichere Antworten, verstärkt durch eine standardmäßige Systemaufforderung, die in seinem Replace vom Oktober 2025 hinzugefügt wurde.

Das Modell unterstützt ein sehr großes 128K-Kontextfenster, starke Werkzeugaufruf- und Funktionsausführungsfunktionen sowie eine umfassende mehrsprachige Unterstützung, die die wichtigsten europäischen, nahöstlichen und ostasiatischen Sprachen abdeckt.

Granite-4.0-Micro basiert auf einer dichten, reinen Decoder-Transformator-Architektur mit modernen Komponenten wie GQA, RoPE, SwiGLU MLPs und RMSNorm. Granite-4.0-Micro vereint Robustheit und Effizienz und eignet sich daher intestine als Basismodell für Geschäftsanwendungen, RAG-Pipelines, Codierungsaufgaben und LLM-Agenten, die unter einer Apache 2.0-Open-Supply-Lizenz sauber in externe Systeme integriert werden müssen.

# 7. Phi-4 Mini

Phi-4-Mini-Anweisung ist ein leichtes, offenes 3,8-B-Parameter-Sprachmodell von Microsoft, das eine starke Leistung beim Denken und Befolgen von Anweisungen unter engen Speicher- und Rechenbeschränkungen bietet.

Es basiert auf einer dichten, reinen Decoder-Transformer-Architektur und wird in erster Linie auf hochwertigen synthetischen „Lehrbuch-ähnlichen“ Daten und sorgfältig gefilterten öffentlichen Quellen trainiert, wobei der Schwerpunkt bewusst auf begründungsintensiven Inhalten statt auf rohem Auswendiglernen von Fakten liegt.

Das Modell unterstützt ein 128-KByte-Token-Kontextfenster und ermöglicht so das Verständnis langer Dokumente und ausführlicher Gespräche, was in dieser Größenordnung ungewöhnlich ist.

Put up-Coaching kombiniert überwachte Feinabstimmung und direkte Präferenzoptimierung, was zu einer präzisen Einhaltung von Anweisungen, robustem Sicherheitsverhalten und effektivem Funktionsaufruf führt.

Mit einem großen 200K-Token-Vokabular und einer breiten mehrsprachigen Abdeckung positioniert sich Phi-4-mini-instruct als praktischer Baustein für Forschungs- und Produktionssysteme, die Latenz, Kosten und Argumentationsqualität in Einklang bringen müssen, insbesondere in Umgebungen mit eingeschränktem Speicher oder Rechenleistung.

# Letzte Gedanken

Winzige Modelle haben einen Punkt erreicht, an dem die Größe keine Einschränkung mehr für die Leistungsfähigkeit darstellt. Die Qwen 3-Serie sticht in dieser Liste heraus und bietet eine Leistung, die mit viel größeren Sprachmodellen mithalten kann und sogar einige proprietäre Systeme in Frage stellt. Wenn Sie Anwendungen für einen Raspberry Pi oder andere Geräte mit geringem Stromverbrauch erstellen, ist Qwen 3 ein ausgezeichneter Ausgangspunkt und es lohnt sich, ihn in Ihr Setup zu integrieren.

Über Qwen hinaus sind die EXAONE 4.0 1.2B-Modelle besonders stark in der Argumentation und nicht-trivialen Problemlösung, bleiben aber deutlich kleiner als die meisten Alternativen. Der Ministral 3B verdient auch Aufmerksamkeit als neueste Model seiner Serie, die einen aktualisierten Wissensgrenzwert und eine solide Allzweckleistung bietet.

Insgesamt sind viele dieser Modelle beeindruckend, aber wenn Ihre Prioritäten auf Geschwindigkeit, Genauigkeit und Software-Calling liegen, sind die LLM- und VLM-Varianten von Qwen 3 kaum zu übertreffen. Sie zeigen deutlich, wie weit die winzige On-Machine-KI fortgeschritten ist und warum lokale Inferenz auf kleiner {Hardware} kein Kompromiss mehr ist.

Abid Ali Awan (@1abidaliawan) ist ein zertifizierter Datenwissenschaftler, der gerne Modelle für maschinelles Lernen erstellt. Derzeit konzentriert er sich auf die Erstellung von Inhalten und das Schreiben technischer Blogs zu maschinellem Lernen und Datenwissenschaftstechnologien. Abid verfügt über einen Grasp-Abschluss in Technologiemanagement und einen Bachelor-Abschluss in Telekommunikationstechnik. Seine Imaginative and prescient ist es, ein KI-Produkt mithilfe eines graphischen neuronalen Netzwerks für Schüler mit psychischen Erkrankungen zu entwickeln.

Die Raspberry Pi Basis hat in Zusammenarbeit mit Sony ein neues KI-Kameramodul für 70 US-Greenback angekündigt. Als neueste Ergänzung der Raspberry Pi-Plattform soll diese neue KI-Kamera Entwickler bei KI-Bildverarbeitungsaufgaben unterstützen mit Leichtigkeit. Diese neue KI-Kamera ist mit dem IMX500-Bildsensor von Sony und dem von Raspberry finanzierten RP2040-Mikrocontroller ausgestattet und führt die gesamte Verarbeitung an Bord durch und benötigt nicht einmal GPUs

Auflösung der Kamera beträgt 12,3 MP, mit der Fähigkeit dazu mit einer Price von 10 aufzeichnen rahmen professional Sekunde in einer Auflösung von 4056 x 3040 oder 40 rahmen professional Sekunde bei einer Auflösung von 2028 x 1520. Die KI-Kamera ist in ihrer Größe dem Kameramodul 3 ziemlich ähnlich in einer Größe von 25 x 24 x 11,9 mm.

So sehr die KI-Kamera des Raspberry Pi für den Bastler konzipiert ist, so dient sie auch dem gesamten Tast- und {Hardware}-Freak, der über den Heimwerker hinausgeht. Die Organisation hat festgestellt, dass es sich bei den beliebten Branchen, die Raspberry Pi verwenden, um Habe das schon bemerkt 72 % des Umsatzes wurden in Organisationen erzielt das waren Integration von Raspberry Pi-Produkten in ihren Betrieb. Mit der KI-Kamera soll dies durch den Einsatz von Good noch gesteigert werden.

Raspberry Pi hat versprochen, dass die KI-Kamera mindestens bis Januar 2028 in Produktion bleiben wird, um den Entwicklern und Unternehmen, die darauf angewiesen sind, angemessene Kontinuität zu bieten. Das befasst sich mit geeigneten Versorgungsproblemen, die durch die Pandemie stark beeinträchtigt wurden und seitdem hauptsächlich im Zusammenhang mit den Produkten von Raspberry angegangen wurden, und ermöglicht es dem Unternehmen so, seinen zunehmend expandierenden industriellen Verbrauchern stets zuverlässige Marktangebote anzubieten.

Anwendungsfälle für die KI-Kamera des Raspberry Pi

Wenn Sie diese Kamera beispielsweise mit einem Algorithmus für künstliche Intelligenz verbinden, können Sie sie in eine intelligente Türklingel umwandeln. Die KI-Kamera ist in der Lage erkennen, ob eine Individual im Türrahmen steht oder ob Gegenstände wie Pakete vorhanden sind. Das würde es Ihnen ermöglichen, Alarme einzurichten, die intelligenter sind als die einfache Bewegungserkennung, oder wie einige von Ihnen bereits erwähnt haben, könnte sich ein Alarmsystem, das hoch genug entwickelt ist, einfach in eine Stimmungsanalyse-Engine verwandeln. Anstatt Benachrichtigungen zu erhalten Beliebig Wenn eine Filiale umzieht, werden Sie nur bei Ereignissen wie einer Lieferung benachrichtigt.

Wenn Sie die Sicherheit Ihres Zuhauses lieber selbst erledigen möchten, ist die Kamera genau das Richtige für Sie helfen Ihnen dabei Behalten Sie bestimmte Tätigkeitsbereiche im Auge und weil Die Bildverarbeitung erfolgt auf der Kamera und überlastet den Relaxation des Raspberry Pi-Methods nicht. Daher können Sie auch andere Good-Dwelling-Funktionen gleichzeitig ausführen, z. B. die Steuerung der Beleuchtung oder die Verwaltung Ihrer Sensoren, ohne große Probleme.

---

Raspberry Robin-Malware Ist die Gefahr, die in Ihrem USB-Stick lauert?

---

Für Industrie- oder Geschäftsprojekte ist die Kamera kann in Qualitätskontrollsystemen eingesetzt werden. Angenommen, Sie beaufsichtigen eine kleine Produktionslinie und könnten die Kamera platzieren derart dass es prüft, ob die Produkte korrekt zusammengebaut sind und warnen wenn etwas nicht stimmt. Da die aktuelle Kamera kompakt ist und sich leicht auf bestehende Raspberry Pi-Systeme zusammenbauen lässt, ist diese Lösung auf Punkte in der Produktionslinie skalierbar.

Ein weiterer möglicher Anwendungsfall lässt sich beispielsweise in Good-Metropolis-Initiativen umsetzen. im Fall von Verkehrsanalyse mit Hilfe von KI Kamera. Es könnte freie Parkzonen ermitteln oder Verkehrsmuster an einigen Kreuzungen untersuchen. Da das Design von Natur aus auf Leistung und Modularität optimiert ist, ist es möglich, das System mit einer Kamera einzuführen und es auf mehrere Kameras in verschiedenen Bereichen, beispielsweise einem Stadtblock, zu erweitern neu gestalten müssen den größten Teil des Methods.

Raspberry Pi AI Equipment vs. die AI-Kamera

Sie sollten je nach Bedarf zwischen dem Raspberry Pi AI Equipment und der AI Digital camera wählen. Das AI Equipment bietet im Allgemeinen mehr Leistung mit 13 Billionen Operationen professional Sekunde, ist jedoch nur mit Raspberry Pi 5 kompatibel und Sie müssen ein Kameramodul integrieren. Moderne KI-Kameras sind kleiner, günstiger und mit allen Raspberry Pi-Reihen kompatibel, weshalb sie für vielfältige Zwecke eingesetzt werden können. Was Bildverarbeitung und Rechenaufgaben angeht, ist die KI-Kamera mit einem neuronalen Netzwerk verbunden, wegen der Verwendung des Sony IMX500führt diese direkt am Fahrzeug durch.

Sie können den typischen Einsatz von Modellen der künstlichen Intelligenz unterstützen, die wir heute verwenden, wie TensorFlow oder PyTorch, und können durch das AITRIOS-System von Sony erweitert werden. Diese Kamera fügt sich nahtlos in die von Raspberry Pi unterstützte libcamera-Pipeline ein. Selbst wenn Sie Movies mit KI verarbeiten, können Sie die Bildverarbeitung jederzeit mit Modellergebnissen synchronisieren, um Aufgaben wie Objekterkennung und Posenschätzung in Echtzeit zu erledigen. Wie bei den meisten Raspberry Pi-Geräten haben Benutzer direkten Zugriff auf den Modellzoo sowie auf die Entwicklerressourcen von Sony, sodass sie Modelle direkt bereitstellen oder andere für bestimmte Anwendungsfälle optimieren können. Die KI-Kamera ist perfekt für diejenigen, die experimentieren (und Spaß haben) möchten, sowie für Unternehmen, die reale Probleme lösen müssen.

Raspberry Pi AI-Kamera: Vollständige Spezifikationen

Besonderheit	Einzelheiten
Sensor	12,3 MP Sony IMX500 Clever Imaginative and prescient Sensor mit neuronalem Netzwerkbeschleuniger
Frameraten	– 2×2-Binning: 2028×1520 10-Bit 30fps
	– Volle Auflösung: 4056×3040 10-Bit 10fps
Sensorgröße	7,857 mm
Pixelgröße	1,55 μm × 1,55 μm
Sichtfeld (FoV)	78,3 (±3) Grad mit manuell/mechanisch einstellbarem Fokus
Brennweitenverhältnis	F1.79
Modulabmessungen	25 × 24 × 11,9 mm
Neuronales Netzwerkmanagement	Integrierter RP2040-Mikrocontroller für die Firmware-Verwaltung
Kompatibilität	Funktioniert mit allen Raspberry Pi-Modellen über ein Normal-Kameraanschlusskabel
Einhaltung	Umfangreiche Exams abgeschlossen; konform mit regionalen und internationalen Requirements
Veralten	Produktion bis mindestens Januar 2028 garantiert

---

Hervorgehobener Bildnachweis: Raspberry Pi

Pc Imaginative and prescient kann ein wichtiger Bestandteil von ML-Apps unterschiedlicher Größenordnung sein, von 20.000-Greenback-Tesla-Bots oder selbstfahrenden Autos bis hin zu intelligenten Türklingeln und Staubsaugern. Es ist auch eine anspruchsvolle Aufgabe, da die Hardwarespezifikationen auf „echten“ Edge-Geräten im Vergleich zu einer Cloud-Infrastruktur oft viel eingeschränkter sind.

YOLO (You Solely Look As soon as) ist eine beliebte Objekterkennungsbibliothek. Die erste Model wurde 2015 erstellt. YOLO ist besonders für eingebettete Geräte interessant, da es quick überall ausgeführt werden kann. Es sind nicht nur Python-, sondern auch C++- (ONNX und OpenVINO) und Rust-Versionen verfügbar. Vor einem Jahr habe ich YOLO v8 getestet auf einem Raspberry Pi 4. Inzwischen hat sich vieles geändert – ein neuer Raspberry Pi 5 ist verfügbar und eine neuere YOLO v10 wurde veröffentlicht. Ich erwarte additionally, dass ein neues Modell auf neuer {Hardware} schneller und präziser funktioniert.

Der in diesem Artikel vorgestellte Code ist plattformübergreifend, sodass Leser, die keinen Raspberry Pi haben, ihn auch auf einem Home windows-, Linux- oder OS X-Pc ausführen können.

Lassen Sie uns ohne weitere Umschweife sehen, wie es funktioniert!

Himbeer-Pi

Für jemanden, der vielleicht noch nie vom Raspberry Pi gehört hat, machen wir eine kurze …