Två nya reglage för samma agent

GitHub presenterade den 7 oktober två förändringar som är praktiskt intressanta för lokal AI: Copilot CLI kan upptäcka modeller i en redan startad Ollama-instans, och lokal sandboxning har nått generell tillgänglighet. Modellvalet påverkar var instruktioner och kod bearbetas. Sandboxningen påverkar vad agentens verktyg får göra. Det är två separata beslut, inte ett gemensamt säkerhetsläge.

Nyheten skiljer sig från den datorstyrning och de dynamiska arbetsflöden som LabOps IT tidigare har behandlat. Här ligger förändringen i modellanslutning och exekveringsgränser. Den som utvärderar kodagenter i ett homelab eller ett driftteam får därför anledning att kontrollera konfigurationen, även om själva arbetsuppgiften är oförändrad.

Utgångspunkten bör vara den faktiska informationsvägen. En agent kan använda en lokal modell men fortfarande kontakta externa tjänster. Den kan också använda en molnmodell samtidigt som lokala kommandon är begränsade. Inget av fallen kan beskrivas korrekt bara genom att kalla lösningen lokal.

Ollama upptäcks i modellväljaren

Från Copilot CLI-version 1.0.94-0 kan kommandot /model visa stödda modeller från en körande lokal Ollama-instans tillsammans med konfigurerade modeller och Copilots molnmodeller. Upptäckten lägger inte automatiskt till modeller. Användaren granskar leverantör och endpoint och väljer därefter om modellen ska läggas till och användas i sessionen eller bara läggas till.

Det kräver att både Ollama och modellen redan finns installerade. Flödet installerar ingen runtime och hämtar inga modellvikter. Modellen måste stödja verktygsanrop och strömmande svar. Den kan användas utan att CLI-sessionen startas om, och anslutningsfel visas i modellväljaren.

För LabOps IT:s läsare är den praktiska förbättringen framför allt mindre friktion vid utvärdering. Modellupptäckt är däremot inte ett kvalitetsintyg. En modell som går att ansluta behöver fortfarande testas mot repositoryts språk, tester och vanliga verktygsuppgifter. Varken kompatibilitet eller ett stort kontextfönster bevisar att agenten lämnar korrekta ändringar.

Lokal inferens betyder inte offline

GitHub varnar uttryckligen för att ett lokalt modellval varken aktiverar offline-läge eller stänger av GitHub-telemetri. I CLI är COPILOT_OFFLINE=true ett separat val. Även då kan en fjärrleverantör ta emot instruktioner och kodkontext om den konfigurerade endpointen ligger utanför den isolerade miljön.

LabOps IT rekommenderar därför att en pilot dokumenterar modellnamn, runtime, endpoint och tillåtna externa förbindelser. Använd inte ordet offline i interna beslut förrän nätverksvägarna faktiskt har kontrollerats. Ett värdnamn som ser internt ut är inte i sig ett bevis för att all bearbetning stannar på arbetsstationen.

Samma försiktighet gäller externa verktyg. Modellens adress säger inget om vilka tjänster ett separat arbetsflöde kontaktar. För känslig kod bör dataflödet granskas som en helhet: modellförfrågningar, verktygsanslutningar, autentisering och eventuell rapportering. Det är en rekommenderad kontrollmetod, inte något LabOps IT har verifierat genom egna nätverksmätningar av denna release.

Sandboxning är tillgänglig, men måste aktiveras

GitHub anger generell tillgänglighet för lokal sandboxning i Copilot CLI, Copilot-appen och VS Code-sessioner som använder Agent Host. Funktionen ingår utan extra kostnad och bygger på Microsoft eXecution Container, MXC. Policy kan begränsa filer, nätverk och åtkomst till autentiseringsuppgifter.

Dokumentationen beskriver viktiga gränser: lokal sandboxning är avstängd som standard, CLI och app har separata inställningar, och kommandona körs inte i en separat virtuell maskin. CLI aktiveras med /sandbox enable. Lokala MCP- och språkservrar omfattas normalt av processisoleringen, medan inbyggda filverktyg kontrollerar policy i själva CLI-processen. Fjärr-MCP-servrar ligger utanför den lokala processandboxen.

Stödet och nätverksbegränsningarna skiljer sig mellan operativsystem. Windows kräver en stödd Windows 11-uppdatering, och proxyregler ger inte samma skydd mot direkta anslutningar som på macOS och Linux. Utgå därför från dokumentationens krav för den aktuella klienten, inte från att en identisk policy ger identisk isolering överallt.

Rekommenderad lokal pilot. Cyan visar modellförfrågan och svar, violett verktygsbegäran genom policy. Lokal inferens aktiverar inte offline-läge eller sandboxning.

Illustrationen skiljer modellförfrågan från verktygskörning. Den visar en rekommenderad lokal pilot med en redan installerad Ollama-modell. Modellsvaret går tillbaka till agenten; först agentens verktygsbegäran passerar sandboxpolicyn innan tillåtna kommandon körs. Diagrammet innebär inte att CLI-processen eller modellservern automatiskt är OS-isolerad.

Automatisk lokal–moln-routing är ännu annonserad

Microsoft beskriver även en kommande funktion där Copilot automatiskt ska välja lokal eller molnbaserad inferens efter uppgiften. Företaget anger tillgänglighet före månadens slut. Det ska hållas isär från den modellupptäckt som redan finns i CLI och från sandboxningens generella tillgänglighet.

Microsoft presenterar samtidigt en lokal variant av MAI Code 1.1 Flash. Uppgifterna om modellstorlek, kvantisering och prestanda kommer från leverantörens egna tester. Den här artikeln gör ingen oberoende prestandajämförelse och betraktar inte presentationen som bevis för att alla läsare kan hämta samma modellartefakt eller använda samma hårdvarukonfiguration nu.

Den praktiska följden är att planera utvärderingen kring det som går att kontrollera i dag. En kommande automatisk placering av inferens kan ändra både nätverksvägar och kostnadsbild, men ska inte ligga till grund för ett löfte om lokal behandling. Licens, modellpaket och faktisk åtkomst behöver verifieras för varje modell som väljs.

Prioritering och nästa steg

Börja med ett ofarligt testrepository och en tydligt avgränsad uppgift. Kontrollera klientversionen, modellens verktygsstöd och den faktiska endpointen. Aktivera sedan sandboxning separat och ge bara arbetskopian den skrivåtkomst som uppgiften kräver.

Testa att en tillåten operation fungerar och att en nekad operation faktiskt stoppas. Kontrollera även beteendet på en värd som inte kan uppfylla policyn. För företagskrav bör ansvarig administratör granska hanterade inställningar och fail-closed-beteende, så att avsaknad av stöd inte tyst blir bredare åtkomst.

Lämna produktionsnycklar och administrationsåtkomst utanför första piloten. Granska diffar, kör tester och dokumentera eventuella undantag innan agenten får mer omfattande uppgifter. Modellen bör bedömas på korrekt genomförda arbeten och begripliga fel, inte bara svarshastighet. Dessa steg är LabOps IT:s rekommendationer och inte egna genomförda produkttester.

LabOps IT:s bedömning

Det viktigaste är inte att Copilot nu har ännu ett modellval, utan att organisationen kan fatta separata beslut om bearbetningsplats och verktygsbehörighet. Kombinationen är värd att utvärdera för kodnära automation och lokala AI-miljöer.

Vi rekommenderar en begränsad pilot, inte ett omedelbart byte av alla arbetsflöden. Modellupptäckt, offline-inställning och sandboxpolicy ska granskas var för sig. Den annonserade automatiska routingen får bedömas när dess faktiska tillgänglighet och styrning kan verifieras. Lokal AI minskar inte behovet av mänsklig granskning av agentens resultat.

Källor