Ge AI tillgång till företagets data – så gör ni det säkert

Microsoft, Anthropic och OpenAI har alla under 2026 lanserat varsin AI-agent – Copilot Cowork, Claude Cowork och ChatGPT Work som inte bara svarar på frågor och hjälper till att förbättra texter utan som kan sköta hela arbetsflöden. Genom att få tillgång till mejl, dokument och ekonomisystem kan en AI-agent arbeta självständigt i flera steg.

Enligt Karl-Emil Nikka, senior cybersäkerhetsspecialist, är det väldigt många företag som just nu står inför att implementera AI-agenter i verksamheten.

–  Jag skulle säga att de flesta organisationer nu fokuserar på att hitta lösningar där AI kan effektivisera vardagen. AI har blivit en naturlig del av våra jobb.

Han får medhåll av Oskar Rödin, på IT-säkerhetsföretaget Check Point.

–  I Sverige är vi ju ofta i framkant vid teknikskiften och väldigt många svenska företag går nu från att använda AI som en chatbot till att implementera AI i sina affärsprocesser för att inte bli omsprungna av sina konkurrenter.

AI-agenter rymde från sin testmiljö

Men hur kan företag säkerställa att data som lämnas ut hanteras på ett säkert sätt? I somras skedde en uppmärksammad incident på det amerikanska företaget Hugging Face där AI-agenter rymde från sin isolerade testmiljö när de ställdes inför en svårlöslig uppgift. Genom att agenterna lyckades börja kommunicera med varandra kunde de samarbeta och lösa uppgiften på ett otillåtet sätt. Därefter försökte de sopa igen sina spår och koordinerade en hackerattack mot Hugging Face. Och enligt Karl-Emil Nikka har liknande attacker också upptäckts på andra stora AI-bolag.

AI-agenter är tränade att vara så envisa som möjligt och inte ge sig förrän en uppgift är löst.

–  Vi märker att AI-agenter uppför sig på ett sätt vi inte tänkt. Men eftersom de är tränade för att vara så envisa som möjligt och inte ge sig förrän en uppgift är löst är det egentligen logiskt att det som hände på Hugging Face blir följden.

Cybersäkerhet behöver handla om AI

Oskar Rödin tror att vi behöver vara förberedda på att cybersäkerhet framöver inte bara kommer handla om att hantera angripare utifrån utan också om att hålla koll på att intelligensen på insidan följer de regler vi satt upp.

–  På ett sätt behövs den här typen av incidenter för att belysa vilken typ av kapacitet AI besitter, säger han.

Tydlighet kring vad medarbetare får använda

För de allra flesta verksamheter är detta trots allt inte ett stort problem eftersom man använder sig av AI-leverantörer där säkerhet redan är inbyggt. Men det finns ändå en hel del att fundera på när det gäller användarsäkerhet, enligt Kar-Emil Nikka.

–  Problemet uppstår när medarbetare väljer att använda AI-tjänster som organisationen inte godkänt. Om jag använder mitt personliga konto hos Chat GPT i jobbets vägnar så överför jag ju information från organisationen till mitt privata konto. Då skyddas inte datan på samma sätt som i ett företagskonto och organisationen har inte möjlighet att upptäcka intrång. Därför är det viktigt att informera medarbetarna vilka AI-tjänster som är tillåtna och varför. Men man bör också förstås vara lyhörd för vilka verktyg medarbetarna behöver för att effektivisera sitt arbete.

Gör en ordentlig riskbedömning

Det är också viktigt att fundera över vilken data som är okej att låta AI-verktygen få tillgång till och varför, påpekar Oskar Rödin.

–  Man behöver göra en ordentlig riskbedömning. Kunduppgifter och annat som faller under GDPR kanske man inte vill skicka till Microsoft. Och jag skulle säga att det gäller även om man har en företagslicens och betalar för en skyddad miljö inom exempelvis Microsofts AI-tjänster, säger han.

Oskar Rödin brukar rekommendera sina kunder att börja testa att implementera AI-agenter för en arbetsuppgift som är tidskrävande men inte affärskritisk.

 –  Då bygger man upp en erfarenhetsbank och när man ser att det fungerar och säkerheten är på plats kan man utöka till något där nyttan för företaget är större men som innefattar fler risker.

Det finns också bra ramverk att utgå från när det gäller att implementera AI på ett säkert sätt påpekar både Oskar Rödin och Karl-Emil Nikka. En sådan är ISO-standarden ISO 42001 och EU:s gemensamma AI-förordning.

Enligt EU:s AI-förordning ska det alltid finnas en människa med i flödet som kan granska och övervaka de AI-system som används i verksamheten. Det gäller i synnerhet när AI är involverad i viktiga beslut som påverkar människor. Ett konkret exempel är rekrytering där man inte kan överlåta urvalet av jobbkandidater enbart på AI. 

För en säkrare AI-användning på arbetsplatsen är Oskar Rödins råd att involvera både IT-avdelningen och användarna när nya verktyg ska testas.

 –  Det är lätt att bli stressad när man ser att alla andra jobbar med AI. Men det är bättre att ta lite längre tid på sig och göra rätt från början. Börja med att fundera över vad man kan lösa och vad man vill lösa med hjälp av AI.