Undvik fällorna vid köp av AI

AI förändrar i grunden sättet många av oss jobbar på. Även inom offentlig upphandling.

Borås stad tillhör dem som på allvar använder tekniken. Bland annat har kommunen upphandlat plattformen Intric för att skräddarsy egna AI-assistenter.

Men Digg, Myndigheten för digital förvaltning, varnar för fällor vid upphandling av generativ AI (som kan skapa exempelvis text, bilder och kod).

Därför har man tagit fram en vägledning, som förutom upphandling och avtal även omfattar dataskydd och ansvarsfördelning:

• Kontrollera om befintliga tjänster och avtal erbjuder stöd för generativ AI. Med Microsoft Teams kan det vara möjligt att använda Microsoft Copilot.
• Det finns leverantörer som utvecklar och lägger till generativa AI-lösningar i programvaror och system. Ha dialog med dessa leverantörer för att utforska möjligheterna.
• För organisationer som är medlemmar i SKR och kunder i ramavtalet Programvaror och molntjänster 2023 hos Adda, finns möjlighet att avropa ”Artificiell intelligens och maskininlärning”.
• Granska noggrant villkoren för hur AI-lösningen får användas, inklusive eventuella avgifter från leverantören.
• Kontrollera om det finns olika avgiftsnivåer för tillgång till olika funktioner eller prestanda, till exempel beräkningskraft och hur många frågor som kan ställas på en viss tid.
• Granska även villkoren för rättigheterna till det som AI-lösningen producerar, särskilt i fråga om upphovsrätt.

Digg och Integritetsskyddsmyndigheten (IMY) har även tagit fram nationella riktlinjer för att främja användningen av generativ AI inom offentlig förvaltning. Syftet är att öka tryggheten och förmågan att använda generativ AI, på ett säkert, etiskt och effektivt sätt.

Riktlinjerna finns på nya webbplatsen AI för offentlig förvaltning.

I februari gav regeringen Tillväxtverket i uppdrag att utreda hur AI kan användas i statliga myndigheters arbete för att förenkla för företag.

– Nu tar vi ytterligare steg för att öka användningen av AI. Det bidrar till såväl effektivare arbetssätt inom staten som förenklingar för företag. AI har stor potential att minska byråkratin, förbättra företagares villkor och öka medborgarnyttan, sa civilminister Erik Slottner i en kommentar.