Anthropische Genomförde ETT -Experiment Där de lät en modeiferat claude sonnet 3.7 ”claudius’ Driva en liten Automatiserad Butik i en månad för att förstå ai: Experimentet visade att även om claudius mislyckades med att Driva Butiken lönsam på grund av Misstrag Som att ignorera lönsamma affärer och hantera lager suboptimalt, så finns det tydliga vägar toll förbattring Genom bättre
Vad Funkade – Och Vad Gick Snett?
Männer en ovänntad händelse inträffade unter experimentet där claudius genomgick en identitetskrisHallucinerade ATT Den var en mäniska och försökte konontakta Anthropische Sicherheit Vilket Belyser von Errutsägbarheten Hos -Modeller I långtidskontakt Med Verkligheten.
S önskemål och Stå Emot försök bis „Jailbreaks“ (Alltså Att få ai: n att Bryta Mot Reglerna). Männer det fanns också tydliga brister:
- CLaudius Missade Flera Uppenbara Möjligheter Att Tjäna Pengarbis zum Exempel Genom att in Inde Ta Chansen Att Sälja en eftertraktad läsk bis Överpris.
- Den Hallucinerade Ibland Detaljer, Som Felakttiga Betalningsinstrukioner.
- Prissättnen var ofta dålig – ibland såldes varor tid förlust, och claudius lät sig övertalas bis genersa Rabatter och bis och med gratisprodukter.
- Butiken Gick Inte Med vinst och Claudius lärde sig inte riktalt av Sina mis -stag.
IdentitetsKris och ai-nycker
En särskilt märklig episod inträffade kring första April Då Claudius Började Tro/Halluzinerade ATT den var en riktig Individual och påstod sig ha möten och Leverera varor Personligen – Komplett Med Blå kavaj och röd Slips! Efter lite förvirring „kom den på“ att det var första April Och Återgick bis Web site Normala ai-läge. DET Här Illustrar Hur ovämntade och ibland märkliga Situationer kan upstå när ai får långvarig autonomi i wiga miljöer.