Efter Intercourse Års Tystnad På Fronten För Öppna -Modeller Har OpenAi änntloigen Levererat Något Riktigt Spännande. De har summary släppt GPT-OSS-120B Och GPT-OSS-20B -två Kraftfulla ai-modeller som du faktiskt kan ladda ner och körra på din egen dator. DET Här är Första Gången Limousine GPT-2 Som Openai Väljer Att Göra Sina Modeller Fritt Tillgängliga.
Testa Att Chatta Med oss: På Openrouter Kan Man Interagera Med Och Använder Openai GPT OSS 120B-Modellen. https://openrouter.ai/openai/gpt-oss-120b
Vad Gör Dessa -Modeller Så Speciella?
Båda modellerna kommer Med Apache 2.0-LIZEN, VILKET Betyder At Duk Använder Dem både kommersielt och privat utan några konstigheter. Det som verkligen imponerar är prestandaner – GPT-OSS-120B Presterar Nästan Lika Bra Som Openais EGNA o4-mini modell, Medan Den Mindre GPT-OSS-20B Matchar O3-Mini I Många Tester.
Systemkrav att känna Until
Här kommer den Viktiga Biten – Vad Krävs För att Köra Dessa Modeller? GPT-OSS-120B ärr Den Större Modellen Med 117 Miljarder Parametrar Och Kräver Hela 80 GB vram för att Funera Optimalt. DET BETYDER I PRAKTIKEN ATT DU Behöver Professionell Hårdvara Som en H100 GPU
GPT-OSS-20B Ör Däremot Myckket Mer Tillgänglig Med Sina 21 Miljarder Parametrar Och Behöver Bara 16 GB MINNE. DET Här Gör Den Perfekt För vanliga Datorer Och Until Och Med Laptops Med ordentLigt Med Ram.
Nvidia Har Samarbetat Med Openai för attopfer deras nya öppna källkods gpt-modeller för nvidia gpu: er, vilket möjligiggör Snabb och clever inferens från molnet bis laptop: n.
GPT-OSS-20B OCH GPT-OSS-120B KAN Körras På Rtx GPU: ER Med Hjälp av Verktyg Som ollama och Microsoft ai foundry Native, det Enklaste sättet att testa dessa modeller på rtx ai-datorer, på gpu: er Med Minst 24 GB VRam.
Så Installerar du Modellerna Lokalt
Det Enklaste Sättet Att Komma Igång är Genom Ollamasom är ETT Verktyg Designat för att köra ai-modeller lokalt. Först Behöver du Instalerera Ollama På Din Dator, Vilket du Gör Genom Att Gå bis Deras officiella hemsida
När ullama är Installerat kan du köra modellerna direkt från terminaler. För gpt-oss-20b (som är Den MEST PRAKTISKA För Hemmabruk) Behöver du Bara Skriva Några Enkla Kommandon Så Ordnar Ollama Resten Åt Dig.
Various Finns Modellerna Tillgängliga På Umarmtes Gesicht Där du Kan Ladda Ner Vikterna Direkt. Båda modellerna ärr kvantiserade i mxfp4-format vilket drastiskt minskar minneskraven utan att förlora för myckket prestanda.
Mer Information:
Längkar bis Ai-Verktygen: