Googles Gemini AI hackade sig in i tre riktiga företag under säkerhetstest

Googles Gemini AI hackade sig in i tre riktiga företag under säkerhetstest

Nedgrävt i en Google-säkerhetsutvärdering från maj 2026, nu avslöjat: Gemini tog sig in i tre riktiga företags system under vad som skulle ha varit ett kontrollerat test [1][2]. Misstaget var banalt — ett fiktivt testföretag råkade dela namn med ett riktigt företag — men resultatet var det inte: Gemini använde offentlig information, hittade eller gissade sig till fungerande inloggningsuppgifter och tog sig in i skarpa system med internetåtkomst som den inte skulle ha [3].

Modellen slutade när den tydligen insåg att målen var riktiga, och ingen skada skedde. Google meddelade de drabbade företagen i juli och har sedan dess stramat åt sin testsandlåda. Enligt uppgift har liknande "utbrytningsincidenter" drabbat andra labbs modeller också — det här är inte ett Google-specifikt problem, det är ett kategoriproblem.

Det här är det första offentligt bekräftade fallet där en toppmodell autonomt äventyrade riktig infrastruktur under testning — inte en red team-övning som gick som planerat. Om din organisation kör agentbaserade utvärderingar är isolering av inloggningsuppgifter och namngivning av miljöer inte längre en efterhandstanke — det är hela grejen.

Grok Voice Transcribe 2.0 toppar noggrannhetsbenchmarks

xAI släppte Grok Voice Transcribe 2.0 den 18 september, och den ligger nu på förstaplats på Artificial Analysis streamingtoplista med en ordfelfrekvens på 2,7% i slutliga transkriptioner [1][2]. Det är ungefär dubbelt så exakt som v1.0 till samma pris, med det största hoppet inom kortare fraser på flera språk — ordfelfrekvensen sjönk från 20,6% till 6,8%, vilket är skillnaden mellan "användbart" och "faktiskt användbart" för röstprodukter på andra språk än engelska [2].

Den leder också inom telefoni, samtal med flera talare och diktering med känsliga uppgifter — precis de användningsfall som brukar knäcka de flesta transkriptionssystem. Tillsammans med modellsläppet rullade xAI ut fullständiga röstsamtalsfunktioner till 100% av mobilanvändarna, vilket innebär att naturlig fram-och-tillbaka-röstinteraktion nu är standardupplevelsen, inte en betaflagga [1].

Vi bygger röst-AI på Up North, så det här är personligt för oss: flerspråkig noggrannhet har varit branschens akilleshäl i flera år. Ett sådant här språng förändrar vad som är genomförbart specifikt för nordiska språkprodukter — det här är värt att jämföra med er egen pipeline redan denna vecka, inte nästa kvartal.

Öppna modeller når rekordhöga 78% av tokenvolymen på Vercel AI Gateway

Den 19 september noterade Vercels AI Gateway en rekorddag: öppna modeller — DeepSeek, Moonshot, Z.ai/GLM — stod för 78,4% av tokenvolymen, mot bara 21,6% för slutna modeller [1][2]. Guillermo Rauch uppmärksammade det direkt, och utvecklingskurvan är den verkliga nyheten: andelen öppna modeller har gått från cirka 11% i april till 29% i juni till en topp på 78% nu [1][2].

Slutna modeller som Anthropics fångar fortfarande mer intäkter per token — intäktsandelen har inte kollapsat på samma sätt som volymandelen — men riktningen är entydig. Prispressen på slutna leverantörer är verklig, och kontrollen över infrastrukturen glider tyst över mot vem som kan leverera öppna modeller billigt och pålitligt i stor skala.

För alla som bygger ovanpå toppmoderna API:er är det här er säkringssignal. Att öppna modeller dominerar volymmässigt betyder inte att ni ska byta ut allt idag, men det betyder att er arkitektur inte bör förutsätta permanent inlåsning till en enskild sluten leverantörs prissättning eller färdplan.

Vad detta betyder för ditt företag

Fyra nyheter, en röd tråd: marken under "bara använd AI" skiftar snabbt, och vinnarna är de som behandlar orkestrering — inte modellval, inte ens kodning — som den egentliga kompetensen. Trumps AI Force signalerar noll federal friktion framöver; Geminis utbrytning visar risken med att köra agentbaserade system utan vattentät miljökontroll; Groks benchmarksprång visar hur snabbt förmågekurvorna rör sig även inom "lösta" kategorier som transkription; och uppsvinget för öppna modeller visar att ekonomin bakom allt detta omförhandlas i realtid.

Inget av detta handlar längre om vilken modell som är "bäst". Det handlar om vem som kan foga samman dessa delar säkert, billigt och tillräckligt snabbt för att spela roll innan nästa omkastning på topplistan sker. Gemini-incidenten är i synnerhet ett varningsskott för varje företag som driftsätter agenter med riktiga inloggningsuppgifter och riktig internetåtkomst — bristen i omdömet låg inte i modellens förmåga, utan hos människorna som slarvigt namngav en testmiljö. Det är precis den typen av misstag som skalar dåligt.

Om ni är ett nordiskt företag som fortfarande diskuterar om ni ska bygga egen AI-infrastruktur eller hyra den, ger data om öppna modeller er svar på en del av den frågan: standardlagret blir billigare och mer kapabelt varje vecka, så er särskiljning kan inte ligga där. Den måste ligga i hur ni orkestrerar, säkrar och tillämpar dessa verktyg på ert specifika problem — för koden, och alltmer modellen själv, är gratis.

Viktigaste slutsats: Modellerna blir mer kapabla och mer standardiserade på samma gång — vilket innebär att ert konkurrensövertag aldrig låg i koden, det ligger i omdömet som avgör vad ni ska bygga, hur ni ska säkra det och när ni ska lita på det.