Nu finns riktlinjer för myndigheters AI-användning

Att använda generativ AI rätt är en balansgång. Risken finns att tekniken överskattas, men det är lika lätt att underskatta AI och hålla fast vid gamla rutiner där tekniken skulle kunna förenkla.

Nya riktlinjer från Myndigheten för digital förvaltning, Digg, och Integritetsskydddsmyndigheten, IMY, ska hjälpa myndigheter att hantera just den balansgången. De ska ge stöd för att använda AI tryggt och klokt – oavsett om man kommit långt eller precis börjat utforska tekniken.

– Riktlinjerna kan både öka kompetensen och minska gapet mellan mogna organisationer och de som ännu inte påbörjat sin AI-resa, säger Mats Snäll, senior rådgivare på Digg och uppdragsledare för arbetet.

En viktig del i riktlinjerna är att alltid behålla mänsklig kontroll genom hela AI-processen. Det kan innebära allt från att träna AI-modeller till att följa upp beslutsunderlag och skapa system för att ta emot och hantera synpunkter

– Det gäller att alltid ha en människa i en kontrollerande och ansvarig roll. Mänskliga AI-tränare ska vara med och anpassa modellerna, och det är viktigt att besluten som fattas med hjälp av AI granskas och följs upp, säger Mats Snäll.

Kan delvis användas i privat sektor också

Riktlinjerna är skrivna för offentlig sektor, men vissa delar kan vara användbara även för privata företag.

– De kan säkert läsas med behållning i privat sektor. Men delar som lagen om offentlig upphandling och de statliga värdegrundernas betydelse är förstås specifika för offentlig verksamhet, säger Mats Snäll.

Arbetet med att ta fram riktlinjerna har präglats av tidspress och en teknik i snabb utveckling.

– Den korta tiden och att flera områden är nästan helt oprövade har varit den största utmaningen. Det har gjort det svårt att ge vägledning som verkligen håller.

Hur snabbt riktlinjerna behöver uppdateras är fortfarande osäkert, men mycket talar för att det kommer ske löpande.

– De kan behöva justeras två till fyra gånger bara i år, men det får användningen och den feedback vi får visa, avslutar Mats Snäll.

Läs mer: Här kan du ladda ner riktlinjerna