Redovisning av uppdrag att utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad

Kommunfullmäktige Handling 2025 nr 22 Redovisning av uppdrag att utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad Till Göteborgs kommunfullmäktige Kommunstyrelsens förslag Yrkande från S, V och MP med förslag till beslut av kommunstyrelsen för egen del har bifallits. Kommunstyrelsen tillstyrker stadsledningskontorets förslag i tjänsteutlåtande den 1 november 2024 och föreslår att kommunfullmäktige beslutar: Redovisning av kommunfullmäktiges uppdrag, givet i budget 2024, till kommunstyrelsen att i samverkan med nämnden för Intraservice utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad, i enlighet med bilagan till stadsledningskontorets tjänsteutlåtande, antecknas och förklaras fullgjort. ---- Vid behandling av ärendet i kommunstyrelsen förekom skiljaktiga meningar: Viktoria Tryggvadottir Rolka (S) yrkade bifall till stadsledningskontorets förslag och tilläggsyrkande från S, V och MP den 20 januari 2025. Axel Josefson (M) och Jörgen Fogelklou (SD) yrkade bifall till stadsledningskontorets förslag och tilläggsyrkande från M, D, L och KD den 6 december 2024 och avslag på tilläggsyrkande från S, V och MP den 20 januari 2025. Kommunstyrelsen beslutade först att bifalla stadsledningskontorets förslag. Kommunstyrelsen beslutade härefter utan omröstning att bifalla tilläggsyrkandet från S, V och MP. Kommunstyrelsen beslutade därefter utan omröstning att avslå tilläggsyrkandet från M, D, L och KD. Göteborg den 5 februari 2025 Göteborgs kommunstyrelse Jonas Attenius Mathias Sköld Kommunstyrelsen Socialdemokraterna, Vänsterpartiet, Miljöpartiet Tilläggsyrkande Nr 18 2025-01-17 Rev 2025-01-20 Yrkande angående – Redovisning av uppdrag att utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad Förslag till beslut I kommunstyrelsen: 1. Stadsledningskontoret får i uppdrag att inrätta en styrgrupp för AI-funktioner och innovationer där tjänstepersoner och fackliga representanter ingår. Uppföljning av styrgruppensarbete sker genom ordinarie delårsrapporter. 2. Stadsledningskontoret får i uppdrag att återkomma till delårsrapport 1 med förslag på fördelning av de medel (5 mnkr) som avsatts i budget år 2025 för AI- effektiviseringar. Medlen ska allokeras på ett sådant sätt att AI-effektiviseringar kan ge ekonomisk eller verksamhetsmässig effekt under år 2026. 3. I övrigt bifalles stadsledningskontorets förslag till beslut. Yrkandet I redovisningen ligger fokus på hur AI-funktioner kan användas för att automatisera och effektivisera arbete samt vilka förutsättningar som behöver finnas på plats för att kunna dra nytta av fördelarna med AI. Hur och vilka funktioner som kan implementeras framgår av redovisningen och många förvaltningar och bolag arbetar redan med olika AI- funktioner eller står i begrepp att inleda projekt med AI. Det rödgröna styret välkomnar de olika initiativ som har tagits på nämnds- och styrelsenivå. Att ligga i teknisk framkant är av stor vikt men för att implementeringen av högteknologiska verktyg och nya digitala tjänster ska bli ändamålsenlig krävs rätt förutsättningar. Just gällande förutsättningarna ser vi att det saknas en sammanhållen styrning som säkerställer att AI-utvecklingen i stadens olika delar leder rätt och ger önskat resultat. Vi föreslår därför inrättandet av en styrgrupp med uppdrag att samordna stadens AI-funktioner. Styrgruppens roll är att säkerställa nyttorealisering och motverka suboptimering. Gruppen bör bestå av representation från förvaltningar och fackliga organisationer. Stadsledningskontoret får i uppdrag att sätta samman styrgruppen så den speglar berörda intressen. Till skillnad från högeroppositionen anser vi att AI-funktioner i stadens verksamheter måste underställas reglering och demokratisk kontroll. I redovisningen lyfts att stadens gemensamma ledarskap ska präglas av nytänkande, mod och uthållighet. Men man lyfter också områden där införande av AI innebär större risker. Hit hör exempelvis kritisk infrastruktur, utbildning och sjukvård. Mot bakgrund av de risker som är förknippade med införande av nya tekniska styrmiljöer menar vi att stadens arbete med att införa AI-funktioner måste präglas av kritiskt tänkande och försiktighet. Som ett led i detta bör AI-funktioner prioriteras som ger stor nytta men små risker. Inom några av de områden som lyfts i redovisningen; exempelvis energiförbrukning, optimering av transporter samt medborgarkommunikation bör AI-funktioner kunna påbörjas att implementeras ganska så omgående. Kommunstyrelsen Tilläggsyrkande M, D, L, KD 2024-12-06 27 Tilläggsyrkande angående – Redovisning av uppdrag att utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad. Förslag till beslut I kommunstyrelsen och kommunfullmäktige: 1. Inköps- och upphandlingsnämnden och nämnden för intraservice får i uppdrag att, inom ramen för gällande lagar och regler, upphandla och implementera AI-verktyg som kan effektivisera fakturahantering samt förbättra granskningen av bolag som säljer tjänster till Göteborgs Stad för att motverka osund konkurrens och identifiera eventuella tecken på kriminell verksamhet eller bedrägeri. 2. Kommunstyrelsen får i uppdrag att undersöka, upphandla och testa AI-verktyg för att effektivisera rekryteringsprocesser och andra HR-relaterade funktioner. AI- lösningarna ska utformas för att säkerställa att känsliga och personliga uppgifter inte exponeras. 3. Samtliga nämnder och bolag i Göteborgs Stad får i uppdrag att återkomma till kommunfullmäktige med en redovisning under Q2 2025 av hur de avser att använda AI-verktyg för att förbättra och effektivisera sina verksamheter. Redovisningen ska omfatta en kartläggning av möjligheterna, med särskilt fokus på användningsområden som inte involverar känslig data, samt eventuella pågående initiativ. 4. Nämnden för intraservice i samverkan med inköps- och upphandlingsnämnden får i uppdrag att ta fram stödmaterial för AI-implementering som kan användas av stadens nämnder och bolag, i syfte att skapa samordning och sprida bästa praxis inom Göteborgs Stad. Yrkandet Göteborgs Stad befinner sig i ett avgörande teknikskifte där artificiell intelligens (AI) erbjuder stora möjligheter att effektivisera verksamheter och stärka stadens konkurrenskraft. AI-kommissionens färdplan för Sverige understryker vikten av att börja använda AI proaktivt istället för att invänta ytterligare regleringar. Därför bör staden börja utnyttja AI:s potential på områden där riskerna för integritetsproblem är minimala, exempelvis där personliga och känsliga uppgifter inte hanteras. Automatisering av administrativa processer som fakturahantering och granskning av bolag är ett område där AI kan göra stor nytta. AI-kommissionen lyfter fram hur detta kan leda till både tids- och kostnadsbesparingar samt stärka transparensen. Genom att använda AI för att förbättra stadens interna processer skapas också en robust plattform för att motverka osund konkurrens. AI kan även effektivisera HR-processer, där exempelvis rekrytering kan bli snabbare och mer rättvis. AI-kommissionen framhåller att AI inom HR kan bidra till mer objektiva bedömningar och öka precisionen i urvalet. Att utforska och testa sådana verktyg i stadens verksamheter ligger helt i linje med ambitionen att modernisera Göteborgs Stads arbetsprocesser. För att säkerställa att AI-integrationen sker på ett samordnat och långsiktigt hållbart sätt är det avgörande att alla nämnder och bolag i staden redovisar hur de planerar att använda AI. För att underlätta övergången är det nödvändigt med stödmaterial för AI-implementering. Genom att ge nämnden för intraservice samt inköps- och upphandlingsnämnden detta uppdrag kan Göteborgs Stad säkerställa att implementeringen blir välkoordinerad och bygger på beprövade metoder. Med detta yrkande tar Göteborgs Stad ett viktigt steg mot att realisera AI:s möjligheter och stärker samtidigt förutsättningarna för innovation, transparens och effektivisering i stadens verksamheter. Stadsledningskontoret Tjänsteutlåtande Handläggare Utfärdat 2024-11-01 Jan Olausson Ärendenummer SLK-2023-01038 Telefon: 031-368 03 20 E-post: jan.olausson@stadshuset.goteborg.se Redovisning av uppdrag att utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad Förslag till beslut I kommunstyrelsen och kommunfullmäktige: Redovisning av kommunfullmäktiges uppdrag, givet i budget 2024, till kommunstyrelsen att i samverkan med nämnden för Intraservice utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad, i enlighet med bilagan till stadsledningskontorets tjänsteutlåtande, antecknas och förklaras fullgjort. Sammanfattning I kommunfullmäktiges budget för 2024 fick kommunstyrelsen i uppdrag att i samverkan med nämnden för Intraservice utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad. Utredningen ska samordnas med pågående arbete med Göteborgsregionens kommunalförbund. Genomförandet av uppdraget inleddes med att skapa en nulägesbild som presenterades i en delrapport som behandlades i kommunstyrelsen 2024-05-29 § 513. Delrapporten syftade till att ge en bred översikt av området våren 2024, med fokus på juridik, etik och den aktuella situationen i Sverige och Göteborg. AI är ett område i snabb utveckling, vilket gör att en nulägesbild har begränsad relevans över tid, och delrapporten bör ses i ljuset av detta. Samordningen med det arbete som pågår i Göteborgsregionen (GR) har skett på flera sätt. Dels har Göteborgs Stad haft representanter i den referens- och arbetsgrupp som GR hade vid framtagandet av förstudien AI och kompetensförsörjning inom välfärden i Göteborgsregionen som presenterades i maj 2024. Dels har resultaten från förstudien använts som en viktig källa under utredningen, dels har samverkan skett genom möten, dialog och avstämningar med representanter från GR. I bifogad rapport är fokus riktat mot hur AI:s förmågor kan användas för att automatisera och effektivisera arbete som utförs i Göteborgs Stad samt vilka förutsättningar som behöver finnas på plats för att kunna dra nytta av AI. Bedömning ur ekonomisk dimension Rapportens övergripande slutsats är att det finns en enorm potential till effektivisering och automatisering med hjälp av AI. Utvecklingen går fort och redan idag är tekniken så pass utvecklad att den går att använda inom nästan alla områden. Men det kräver att Göteborgs Stad investerar i både kompetens och teknik och i form av både arbetstid och pengar. Investeringsvolymen är beroende av ambitionsnivån. Bedömning ur ekologisk dimension Inom uppdraget att automatisera och effektivisera arbete med hjälp av AI ser stadsledningskontoret inte att det har några större negativa effekter på den ekologiska dimensionen. Det finns dock indirekta utmaningar och risker: • Stora AI-modeller, som används för maskininlärning och dataanalys, kräver betydande datorkraft och energiresurser, vilket kan leda till ökade koldioxidutsläpp (beroende på om datacenter drivs av fossilfri el eller inte). Det är särskilt påtagligt för träning av stora språkmodeller och bildigenkänningssystem. • AI-utrustning innebär ofta specialiserad hårdvara som snabbt blir föråldrad. Detta leder till ökad mängd elektronikavfall, vilket skapar miljöproblem om material som sällsynta jordmetaller och tungmetaller inte återvinns effektivt Det finns även möjliga fördelar att använda AI: • AI kan exempelvis användas för att optimera resursanvändning genom att minska energiförbrukning i fastigheter och för transporter. Det kan bidra till minskade utsläpp och en mer hållbar användning av naturresurser. • AI-drivna verktyg kan användas för att analysera stora datamängder från sensorer, satellitbilder och väderdata för att övervaka klimatförändringar, förutse naturkatastrofer och spåra biologisk mångfald. Stadsledningskontoret ser att det finns potential att använda AI för att hantera ekologiska utmaningar, men det kräver en medveten balans för att inte skapa nya problem. Det är viktigt att utvärdera och minska de direkta och indirekta ekologiska fotavtryck som AI medför genom hela dess livscykel. Bedömning ur social dimension AI har en transformerande förmåga och kan, förutom att automatisera och effektivisera arbetet i Göteborgs Stad, påverka samhällen, individer och sociala strukturer. Några centrala utmaningar och risker är: • Automatisering av arbetsuppgifter kan leda till att vissa yrken försvinner, särskilt inom repetitiva eller rutinbaserade arbeten. Detta kan resultera i arbetslöshet och osäkerhet för grupper som redan är sårbara, vilket skapar sociala spänningar och ökad ojämlikhet. • AI-teknologier kan äventyra människors integritet. Om AI används för övervakning kan det leda till utbredd kontroll över medborgarnas rörelser och kommunikation, något som påverkar friheten i samhället. • AI-system tenderar att spegla de data de tränas på. Om dessa data innehåller fördomar riskerar AI-system att förstärka och reproducera diskriminering. Detta kan påverka tillgång till jobb, bostäder och ekonomiska tjänster. • AI kan användas för att skapa och sprida falsk information, exempelvis via text- och bildgenereringssystem. Detta kan påverka val, samhällsförtroende och destabilisering, och göra det svårt för människor att skilja på vilken information som är trovärdig och inte. AI kan även ha positiva effekter på samhället i stort: • AI kan skapa mer jämlik tillgång till viktiga samhällstjänster som sjukvård och utbildning, särskilt i områden där resurserna är begränsade. • Med AI kan tjänster anpassas för att möta individuella behov, bättre tillgänglighet och kulturella skillnader. Exempelvis kan språkteknologier minska språkbarriärer, medan maskinöversättning och röstigenkänning kan göra digitala tjänster tillgängliga för fler. • AI kan skapa nya yrken inom teknikutveckling, etik och datahantering samt inom utbildning och forskning för att hantera och förstå AI. För att kunna nå de positiva effekterna och hantera de negativa är det viktigt att utgå från EU:s etiska riktlinjer vid utveckling och användande av AI-system för att effektivisera och automatisera arbete som utför i Göteborgs Stad. Den 13 juni 2024 antog Europaparlamentet och Europeiska unionens råd förordningen om artificiell intelligens. Förordningen träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. AI-förordningen ska göra AI säker att använda och se till att grundläggande rättigheter respekteras. Syftet med en EU-gemensam lagstiftning om AI är att säkerställa att användning av AI-system på EU:s inre marknad är säkra, respekterar mänskliga rättigheter och underlättar för innovation och investering inom AI. Effektivisering och automatisering av verksamhetens processer skapar ett behov av kompetensutveckling och kompetensväxling. Ju större potential för effektivisering desto större behov av kompetensutveckling. Rapporten lyfter fram behovet av grundläggande AI-kompetens för alla, specifik kompetens för att hantera de system som används samt spetskompetens och expertis för att stötta i verksamheternas förändring. Samverkan Information och tidig dialog i särskild samverkansgrupp för digitalisering har skett 2024-03-18 och 2024-10-30. Informationspunkt i den centrala samverkansgruppen (CSG) 2024-11-14. Bilaga Slutrapport Automatisering och effektivisering med hjälp av AI Ärendet Redovisning av kommunfullmäktiges uppdrag givet i budget 2024 till kommunstyrelsen att i samverkan med nämnden för Intraservice utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad. Beskrivning av ärendet Kommunstyrelsen fick i uppdrag av kommunfullmäktige i budget 2024 att i samverkan med nämnden för Intraservice utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad. Utredningen ska samordnas med pågående arbete i Göteborgsregionens kommunalförbund. I samband med ärendet redovisning av uppdrag att utreda hur Göteborgs Stads kommunikationsarbete kan effektiviseras beslutade kommunstyrelsen 2024-02-21 § 154 i enlighet med yrkande från V, S och MP. I yrkandet lyfts att AI har stor potential inom kommunikationsområdet och att användning av AI bör analyseras inom ramen för budgetuppdraget. En av piloterna i arbetet med budgetuppdraget var inriktad mot kommunikationsarbete. Motion av Elisabet Lann (KD), Kalle Bäck (KD), Johanna Holmdahl (KD) och Jörgen Knudtzon (KD) om hur Göteborgs Stad ska förhålla sig AI behandlades av kommunstyrelsen 2024-03-20 § 246. I tjänsteutlåtandet lyfts det att stadsledningskontoret kommer att återkomma med en bedömning av behovet av styrande dokument. Bedömningen är att även om nuvarande styrmiljö är mer anpassad för en stabil och trögrörlig miljö finns inte behov av separata styrdokument rörande AI. Men vid revidering av styrdokument ska AI så väl som andra digitala tekniker vägas in för att ha en heltäckande styrmiljö kring digitalisering. Genomförandet inleddes med en nulägesbild som presenterades i en delrapport som behandlades i kommunstyrelsen 2024-05-29 § 513. Delrapporten syftade till att ge en bred översikt av området våren 2024, med fokus på juridik, etik och den aktuella situationen i Sverige och Göteborg. AI är ett område i snabb utveckling, vilket gör att en nulägesbild har begränsad relevans över tid, och delrapporten bör ses i ljuset av detta. Samordningen med det arbete som pågår i Göteborgsregionen (GR) har skett på flera sätt. Dels har Göteborgs Stad haft representanter i den referens- och arbetsgrupp som GR hade vid framtagandet av förstudien ”AI och kompetensförsörjning inom välfärden i Göteborgsregionen” som presenterades i maj 2024. Dels har resultaten använts resultatet från förstudien som en viktig källa under arbetet med slutrapporten, dels har samverkan skett genom möten, dialog och avstämningar med representanter från GR. I utredningen har det undersökts hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborg. Genom att analysera vad som händer i omvärlden, juridiska ramverk, tekniska möjligheter samt pågående initiativ inom staden ger rapporten en bild av potentialen med AI. Här följer de viktigaste insikterna och slutsatserna kring vilka förutsättningar som behöver vara på plats för att Göteborgs Stad ska kunna dra full nytta av AI-teknologier. Övergripande slutsats Det finns en enorm potential till effektivisering och automatisering med hjälp av AI. Utvecklingen går fort och redan idag är tekniken så pass utvecklad att den går att använda inom nästan alla områden. Men det kräver investeringar i både kompetens och teknik och i form av både arbetstid och pengar. Samtidigt behövs en medvetenhet om att det kan ta tid innan investeringen ger effekt. Nämnders och bolags ansvar Alla nämnder har utifrån sitt reglemente att ”fullgöra sina uppgifter med fokus på kvalitet för dem verksamheten riktar sig till och effektiva arbetsformer för att utföra uppdragen. Till detta hör att aktivt följa och agera på förändring och utveckling kopplat till ansvarsområdet, i syfte att förbättra verksamhet och arbetsformer.” En liknande beskrivning finns i bolagens ägardirektiv. ”…aktivt följa och agera på förändring och utveckling kopplat till uppdraget, i syfte att förbättra verksamhet och arbetsformer” Det innebär att om det finns möjlighet att utnyttja AI för att effektivisera och automatisera verksamheten med en positiv nyttorealisering ska nämnder och bolag göra det. I samband med att nämnd och bolagsstyrelse planerar organisationens digitala utveckling bör de även se över vilka nya möjligheter till effektivisering och automatisering som AI erbjuder. Framgångsrik implementering För att kunna utnyttja potentialen måste förutsättningar finnas på plats. Här lyfter Göteborgsregionen fram fem förutsättningar för att framgångsrikt kunna implementera AI-lösningar: • Tillgång till relevant data och datakvalitet • Interoperabilitet – när systemen inte är isolerade företeelser utan en del av något större • Kompetens att arbeta med AI • Ramverk kring juridik, policy och säkerhet • Styrning och ledning Tillgång till data och interoperabilitet När det gäller tillgången till relevant data pågår det initiativ på flera nivåer från EU-nivå till lokalt i Göteborgs Stad. En insats i Göteborgs Stads plan för digitalisering 2023-2026 är att ”Säkerställa att ändamålsenliga arbetssätt, modeller och metoder för data som strategisk resurs införs för att skapa för utsättningar för ökad tillgång och vidareutnyttjande av data.” För att säkerställa tillgången och vidareutnyttjandet inkluderas även arbetet med interoperabilitet i insatsen. Göteborgs Stad behöver därför fortsätta och accelerera arbetet med data som strategisk resurs. Kompetens att arbeta med AI Göteborgs Stads plan för kompetensförsörjning 2024-2026 ser digitalisering, AI och ny teknik som en av vår tids viktigaste samhällsförändrande krafter och har flera aktivitetsområden som möter detta behov. AI-förordningen ställer också krav på att leverantörer och användare, i den mån det är möjligt, säkerställer en tillräcklig nivå av AI-kunskap hos personalen och andra personer som hanterar eller använder AI-system på deras vägnar. Göteborgsregionen skriver också i sin förstudie för att effektivt nyttja AI inom kommunal verksamhet krävs inte bara en generell förståelse för tekniken bland all personal, utan även spetskompetens inom nyckelområden. Spetskompetens inom AI-området är svårrekryterad och det finns därför stora fördelar att bygga upp en gemensam förmåga inom staden. Resultatet från piloterna betonade behovet av robusta stödstrukturer, som tillgång till teknik, juridiskt stöd och systemuppdateringar, för att kunna genomföras framgångsrikt utan att riskera individers eller organisationens säkerhet. Göteborgs Stad behöver säkerställa att relevant kompetens finns för att effektivisera och automatisera arbete som utförs i Göteborgs Stad med hjälp av AI-funktioner. Det gäller allt från grundläggande och specifik kompetens till spetskompetenser och expertis. Juridik och riskanalyser Samtidigt som det finns en enorm potential i AI-system måste införandet ske i enlighet med gällande lagstiftning. Möjligheterna till effektivisering och automatisering behöver balanseras mot nödvändigheten att skydda individens rättigheter. Göteborgs Stad behöver säkerställa integritet, transparens och ansvarsskyldighet inom alla verksamhetsområden. Vid inköp, utveckling och användande av AI-system finns det flera dimensioner att ta hänsyn till och det gäller att riskanalyser genomförs innan inköp eller utveckling. Förutom riskanalys gällande IT-säkerhet och personlig integritet måste det göras en analys utifrån AI-förordningen för att veta vilken typ av AI-system det är och vilka krav som förordningen ställer på Göteborgs Stad. Riskanalyser genomförs idag innan införande av nya IT-system (eller nya funktioner som Microsoft Co-Pilot), men eftersom utvecklingen går väldigt snabbt är det viktigt att de riskanalyser som behöver genomföras, genomförs snabbt och effektivt. Annars är sannolikheten stor att det kommit ut nya produkter eller nya versioner med bättre förmåga till och med innan riskanalysen är klar. För att främja innovation och nytänkande behöver utgångspunkten för verksamhetsutveckling med hjälp av AI vara: Vad kan vi göra inom de ramar som juridiken förser oss med? Styrning och ledning Utvecklingen inom AI-området går extremt fort. Det som var omöjligt att göra för en månad sedan är möjligt idag. Nuvarande styrmiljö för digitalisering är anpassad för en mer stabil och trögrörlig omgivning, vilket är utmanande för mer snabba utvecklingsprojekt. Initiativ som behöver finansiering behöver identifieras minst ett år i förväg (innan årsskiftet 2024 för att komma med i budget för 2026). Inga av Göteborgs Stads styrdokument kring digitalisering och informationssäkerhet tar uttryckligen upp AI, men är lika giltiga för utveckling av AI som av andra digitala system. Även om nuvarande styrmiljö är mer anpassad för en stabil och trögrörlig miljö finns inte behov av separata styrdokument rörande AI. Men vid revidering av styrdokument ska AI så väl som andra digitala tekniker vägas in för att ha en heltäckande styrmiljö kring digitalisering. En avgörande faktor som Göteborgsregionen pekar på i sin förstudie är finansiering. Den lyfter fram att det är sannolikt att betydande investeringar på kompetens, teknik och infrastruktur kommer att krävas för att inte tappa förutsättningarna att långsiktigt kunna tillhandahålla en välfärd av hög kvalitet. Göteborgsregionen lyfter också fram som ett vägledande perspektiv att införandet av AI kräver verksamhetsutveckling. Anledningen till att man vill införa AI i en verksamhet är ofta ambitionen att höja kvaliteten i servicen till samma eller lägre kostnad. Det innebär att verksamheten inte kan arbeta på samma sätt som tidigare, vilket kräver en omställningsförmåga i organisationen. Det är också viktigt att implementationen sker i nära dialog med de som ska nyttja lösningen. Införandet av olika AI-system kan innebära både kvalitetshöjning i de tjänster som levereras och effektivisering, det vill säga att mindre arbetstid behöver läggas på att utföra uppgifterna. Ofta kan både effektiviseringspotentialen och kvalitetshöjningen erhållas samtidigt. Kvalitetshöjningen märks oftast direkt, men effektiviseringen kan realiseras först när arbetsrutiner, scheman eller liknande har förändrats. Det krävs ofta att verksamheten anpassas för att man ska kunna tillgodogöra sig effektiviseringspotentialen. Att införa nya AI-system innebär investeringar i både arbetstid och pengar och det kan ta tid innan investeringen ger effekt. För att lyckas med det förändringsarbete som krävs vid effektivisering och automatisering med hjälp av AI-funktioner så krävs det ett bra ledarskap. Göteborgs Stads målsättning med att utveckla det gemensamma ledarskapet är att: • Vi tillsammans blir mera nytänkande, modiga och uthålliga chefer som upplever en ökad trygghet och förmåga att se nya möjligheter i organisationen. • Vi i vardagen kan skapa förutsättningar för våra medarbetare att växa och ta sig an svåra utmaningar. • Vi är chefer som kan finna ett hållbart sätt att leda oss själva och andra. Stadens gemensamma ledarskap lägger en grund för nytänkande, mod och uthållighet vilket tillsammans med en bred kunskap om AI bland alla medarbetare stärker stadens förmåga till digital omställning. Eftersom AI-området är snabbrörligt används en stadenövergripande AI-gruppering för att diskutera och hålla den strategiska riktningen aktuell. Det är viktigt att arbeta med forum för samverkan både inom staden och med externa aktörer för vara uppdaterad på vad som händer i omvärlden och samarbeta kring lösningar på de utmaningar som finns. Hybridlösning av digital infrastruktur Staden hanterar stora mängder av personuppgifter och känsliga data. Det är därför avgörande att balansera mellan molnbaserade lösningar och lokala system. Molntjänster erbjuder flexibla lösningar och möjliggör snabb innovation utan stora initiala investeringar i infrastruktur. Samtidigt behöver staden utforska och bygga upp lokala lösningar för att kunna hantera känsligare uppgifter som kräver högre nivåer av informationssäkerhet och dataskydd. Stadsledningskontorets bedömning Stadsledningskontoret bedömer att de slutsatser som presenteras i rapporten väl beskriver hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad samt beskriver de förutsättningar som behöver finnas på plats. Tina Eide Eva Hessman Direktör Utveckling och hållbarhet Stadsdirektör Stadsledningskontoret Automatisering och effektivisering med hjälp av AI - slutrapport 2024-11-01 Innehåll 1 Uppdraget...................................................................................... 4 2 Bakgrund ....................................................................................... 5 2.1 Vad är AI? ............................................................................... 5 3 Omvärld ......................................................................................... 7 3.1 Hur mycket används AI?.......................................................... 7 3.1.1 Svenskarna och AI 2024 från Internetstiftelsen ................. 7 3.1.2 Hur mogen är generativ AI? .............................................. 8 3.2 Vad händer i Göteborgsregionen? ........................................... 9 3.3 Vad händer nationellt? ........................................................... 12 3.4 Vad händer globalt? .............................................................. 13 4 Styrning och reglering av AI ...................................................... 15 4.1 Juridik .................................................................................... 15 4.2 Fördjupning AI-förordningen .................................................. 16 4.3 Göteborgs Stads styrdokument ............................................. 17 5 Effektivisering och automatisering ........................................... 18 5.1 Effektivisering och automatisering genom AI – vad är möjligt? 18 5.2 Piloter - Vad lärde vi oss? ...................................................... 19 5.3 En samlad AI-utveckling ........................................................ 20 5.3.1 Prioriterade områden för AI-implementering ................... 21 5.3.2 AI-Speed: En metod för innovativ AI-utveckling .............. 22 5.4 Kompetens ............................................................................ 22 5.4.1 Kompetensförsörjning ..................................................... 22 5.4.2 Grundläggande och specifik kompetens för användare .. 23 5.4.3 Befintliga lärstrukturer för att omsätta ny kunskap .......... 24 5.4.4 Ledarskap som främjar lärande och innovation............... 25 5.4.5 Behov av spetskompetens och expertis .......................... 26 5.4.6 Mötesplatser för lärande och erfarenhetsutbyte .............. 27 5.5 Samarbeten ........................................................................... 27 6 Slutsatser .................................................................................... 29 6.1 Övergripande slutsats ............................................................ 29 6.2 Nämnders och bolags ansvar ................................................ 29 6.3 Framgångsrik implementering ............................................... 29 6.3.1 Tillgång till data och interoperabilitet ............................... 30 Stadsledningskontoret 2024-11-01 6.3.2 Kompetens att arbeta med AI ......................................... 30 6.3.3 Juridik och riskanalyser .................................................. 30 6.3.4 Styrning och ledning ....................................................... 31 6.4 Hybridlösning av digital infrastruktur ...................................... 32 Stadsledningskontoret 2024-11-01 1 Uppdraget I kommunfullmäktiges budget för 2024 fick kommunstyrelsen i uppdrag ”att i samverkan med nämnden för Intraservice utreda hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborgs Stad. Utredningen ska samordnas med pågående arbete med Göteborgsregionens kommunalförbund.” Genomförandet inleddes med en nulägesbild som presenterades i en delrapport som behandlades i kommunstyrelsen 2024-05-29 § 513. Delrapporten syftade till att ge en bred översikt av området våren 2024, med fokus på juridik, etik och den aktuella situationen i Sverige och Göteborg. AI är ett område i snabb utveckling, vilket gör att en nulägesbild har begränsad relevans över tid, och delrapporten bör ses i ljuset av detta. Samordningen med det arbete som pågår i Göteborgsregionen (GR) har skett på flera sätt. Dels har Göteborgs Stad haft representanter i den referens- och arbetsgrupp som GR hade vid framtagandet av förstudien ”AI och kompetensförsörjning inom välfärden i Göteborgsregionen” som presenterades i maj 2024. Dels har resultaten från förstudien använts som en viktig källa under arbetet med slutrapporten, dels har samverkan skett genom möten, dialog och avstämningar med representanter från GR. I denna slutrapport är fokus riktat mot hur AI:s förmågor kan användas för att automatisera och effektivisera arbete som utförs i Göteborgs Stad samt vilka förutsättningar som behöver finnas på plats för att kunna dra nytta av AI. Efter detta inledande kapitel om uppdraget kommer följande kapitel: • Kapitel 2 Bakgrund Detta kapitel ger en introduktion till var artificiell intelligens är, dess definitioner och hur tekniken påverkar samhället i stort. • Kapitel 3 Omvärld Här analyseras AI på global, nationell och regional nivå. Kapitlet belyser trender, initiativ och strategier som påverkar Göteborgs Stad • Kapitel 4 Styrning och reglering av AI I detta avsnitt diskuteras de juridiska ramar och styrdokument som reglerar användningen av AI • Kapitel 5 Effektivisering och automatisering Kapitlet fokuserar på hur AI kan användas för att effektivisera och automatisera verksamheterna i Göteborgs Stad. Här presenteras lärdomar från pilotprojekt, en samlad AI-utveckling och behovet av kompetens • Kapitel 6 Slutsatser I det avslutande kapitlet sammanfattas rapportens viktigaste insikter. Här dras slutsatser kring förutsättningar för framgångsrik AI- implementering inom Göteborgs Stad Stadsledningskontoret 2024-11-01 2 Bakgrund Digitalisering definieras i staden som verksamhetsutveckling med stöd av digitala teknologier, detta innefattar även AI teknologier som är digitala och som i stor utsträckning påverkar Göteborgs Stads aktiviteter. AI kan förstås som en samling sociotekniska teknologier vilket innebär att de påverkar oss som människor, de organisationer som använder dem, samhället och även den teknologiska utvecklingen. Samhället står idag vid en teknologisk skiljeväg där AI snabbt omformar såväl ekonomiska som sociala landskap över hela världen. Denna framväxt drivs av betydande teknologiska framsteg, särskilt inom djupinlärning och neurala nätverk, vilket möjliggör revolutionerande tillämpningar från hälsovård till utbildning och säkerhet. Samtidigt har tillgången på data och framsteg inom hårdvaruteknik, såsom grafikprocessorer, accelererat utvecklingen och implementeringen av AI-system. Den snabba AI-utvecklingen stöds av omfattande investeringar från både privat och offentlig sektor, vilket understryker behovet av politisk vägledning och reglering för att säkerställa att dessa innovationer bidrar positivt till vårt samhälle, samtidigt som de respekterar tillgänglighet, etik och integritet. Göteborgs Stad har en viktig roll att spela i att forma både framtidens AI och samhälle, för att främja innovation samtidigt som medborgares rättigheter och välfärd skyddas. 2.1 Vad är AI? Artificiell intelligens förser oss med nya verktyg som kan utföra uppgifter som traditionellt kräver mänsklig intelligens, och som inte varit möjliga med äldre tekniker. Dessa verktyg automatiserar processer som tidigare krävde mänskligt engagemang, vilket leder till innovationer i applikationer som både stödjer och förbättrar våra medarbetares arbete. AI liknar mänsklig intelligens, vilket gör det lättare för oss att förstå och relatera till tekniken, men dess potential sträcker sig långt bortom att enbart efterlikna mänskliga förmågor. AI omfattar ett brett spektrum av tekniker och algoritmer, vilka kan kategoriseras i olika förmågor som liknar människans egna. Genom att förstå dessa förmågor blir det lättare att identifiera hur AI kan tillämpas, utan djupgående teknisk kunskap. Förmågorna hos AI kan delas in i fyra huvudkategorier: 1. Känna av världen: • Seende: AI kan bearbeta visuell data för att klassificera, identifiera och analysera objekt och scener. Detta används till exempel i självkörande bilar, medicinsk bildanalys, och för att identifiera känslor genom ansiktsuttryck. Stadsledningskontoret 2024-11-01 • Hörsel: AI kan transkribera tal, känna igen ljud och analysera audiella signaler, vilket är användbart i röststyrda enheter och för samtalsanalys. 2. Förstå och kommunicera: • Språk: AI kan översätta språk, förstå naturligt språk, och interagera i konversationer, vilket gör tekniken värdefull i chatbots och virtuella assistenter. 3. Analysera och förutsäga: • Upptäcka och prediktera: Genom att analysera data kan AI identifiera mönster och förutsäga framtida händelser, vilket är kritiskt inom områden som väderprognoser och riskhantering. • Optimera: AI kan hitta optimala lösningar på komplexa problem, vilket effektiviserar processer inom logistik, schemaläggning och produktion. 4. Interagera med och kontrollera den fysiska världen: • Robotik: AI styr autonoma robotar som utför uppgifter självständigt, tillämpbart i industriell automation, avancerad drönarteknik och humanoida robotar. • Skapa (generativ): AI kan generera nya innehåll som texter, bilder och musik baserat på enkla användarinstruktioner. Genom att kombinera dessa förmågor kan innovativa lösningar skapar som adresserar komplexa utmaningar och förbättrar kvaliteten i många aspekter av det moderna livet. Lösningarna erbjuder också möjligheter att på ett meningsfullt sätt engagera och främja mänsklig kreativitet och produktivitet. Stadsledningskontoret 2024-11-01 3 Omvärld AI har en generell förmåga som kan påverka hela samhället. Förmågan hos generativ AI och de stora språkmodellerna har utvecklats enormt. Kvalitén på svaren är betydligt bättre än de modeller som fanns när Open AI släppte Chat- GPT i slutet av 2022. Det går nu att interagera med modellerna med både röst och bild utöver med text som det var initialt. 3.1 Hur mycket används AI? 3.1.1 Svenskarna och AI 2024 från Internetstiftelsen Den 30 september släppte Internetstiftelsen i sin årliga rapport Svenskarna och internet 2024. En del i rapporten har fokus på Svenskarna och AI 2024. En tredjedel av svenskarna har använt något AI-verktyg, det mest använda är ChatGPT. Internetstiftelsen lyfter fram att AI-verktyg kan vara väldigt användbara i både jobb, skola och privat och att kunna använda AI-verktyg kan bli allt viktigare framtiden. Det är ungdomarna som går i täten för AI-användningen där 69% i åldern 12-19 år använt något AI-verktyg i jämförelse med en tredjedel av den vuxna befolkningen mellan 18 och 84 år. Rapporten kan ses som ett stöd för stadens verksamheter för att förstå de olika målgrupper staden har i samhället och hur de förhåller sig till digitalisering och AI. I undersökningen ställdes frågan vilka AI-verktyg de har använt. Svaret blev enligt nedanstående bild. Stadsledningskontoret 2024-11-01 3.1.2 Hur mogen är generativ AI? Den generella utvecklingen inom AI fortsätter i samma höga tempo som när Göteborgs Stads budget för 2024 antogs. Utveckling skapar kontinuerligt nya möjligheter men också risker som behöver hanteras. I omvärldsbevakningen inom området används bland annat Gartner, som är ett av världens största analytikerföretag när det kommer till digitalisering och AI. De använder en metod som kallas ”Hype cycle” för att beskriva nya teknikers utveckling där första fasen är när en innovation uppstår, den andra fasen beskriver när det finns en övertro på tekniken och kallas ”höjden av uppblåsta förväntningar”. Den tredje indikerar när en teknik faller på förväntningskurvan, ofta beroende på att verksamheter ska implementera tekniken fullskaligt och då stöter på utmaningar som t.ex. kostnader, informationssäkerhet, samt lagar och förordningar. De sista två visar på när en teknik kommit genom den tredje fasen och kan börja användas i större skala och verkligen skapa nytta. Gartner har under en tid haft Generativ AI på toppen av uppblåsta förväntningar, men i deras senaste rapport från augusti 2024, är Generativ AI på väg ner i förväntningar och är placerad i fas tre, se figur nedan. Enligt Arun Chandrasekaran, på Gartner har generativ AI har passerat toppen av överdrivna förväntningar då företagsfokus fortsätter att skifta från entusiasm kring grundmodeller till användningsfall som driver avkastning på investeringar. Detta accelererar autonom AI. Även om den nuvarande generationen av AI-modeller saknar egen handlingskraft, släpper AI- forskningslaboratorier snabbt agenter som kan interagera dynamiskt med sin miljö för att uppnå mål, även om denna utveckling kommer att ske stegvis. Stadsledningskontoret 2024-11-01 I de innovationsprojekt som genomförts och pågår i Göteborgs Stad har de utmaningar som Gartner säger känneteckna den tredje fasen framkommit och det pågår ett arbete att hantera dem. Framför allt så framkommer detta inom området med digitala assistenter som bygger på AI. 3.2 Vad händer i Göteborgsregionen? Under hösten 2024 har Göteborgsregionen startat två nätverk för tjänstepersoner där Göteborgs Stad är representerade; nätverk för digital transformation och Göteborgsregionens innovationsarena. Syftet med nätverket för digital transformation är att främja samarbete kring digital utveckling på delregional nivå. Målet är att skapa långsiktiga lösningar och strukturer där samarbetet leder till verkliga resultat, med digital transformation som skapar påtagliga värden och förbättringar för både kommunerna och deras invånare. Syftet med Göteborgsregionens innovationsarena är att förvandla slutsatserna från förstudien, som presenteras nedan, till konkreta åtgärder. Under senare delen av hösten 2023 initierade Göteborgsregionens nätverk för kommundirektörer ett arbete som hade sin utgångspunkt i de kompetensförsörjningsutmaningar som råder, och hur AI skulle kunna bidra till att lösa utmaningarna. Göteborgsregionen fick uppdraget att ta fram en förstudie med den övergripande frågan ”Hur kan AI konkret bidra till att lösa de kompetensförsörjningsutmaningar som kommunerna inom Göteborgsregionen står inför?”. Rapporten heter ”AI och kompetensförsörjning inom välfärden i Göteborgsregionen” och släpptes i maj 2024. Till sin hjälp har GR haft en referens- och arbetsgrupp med representanter från kommunerna som bidrog utifrån olika förvaltningar och funktioner, med en god spridning mellan mindre och större kommun och fördelat på välfärdens olika områden. Från Göteborg Stad fanns två personer med för att kunna bidra in med stadens perspektiv, och samtidigt synka det pågående stadenövergripande arbetet avseende AI. Fokus i förstudien var förskola, skola, socialtjänsten (äldreomsorg, funktionsstöd, individ- och familjeomsorg), kommunal hälso- och sjukvård och central administration, då detta är sektorer som är hårt ansatta i sin kompetensförsörjning. Däremot blev det tidigt tydligt i arbetet att den potential som kunde hittas, och nycklar, snarare gick på tvären och kunde vara möjligheter inom flera sektorer varför det inte heller finns någon sådan uppdelning i förstudiens resultat. Förstudien baseras på data från litteraturöversikter, expertintervjuer och analyser av relevanta fallstudier i kommuner och andra offentliga organisationer. För att säkerställa en hög relevans har frågeställningar, metoder, slutsatser och analys utvecklats i samarbete med representanter från kommunerna i ovan nämnda referens- och arbetsgrupp. Stadsledningskontoret 2024-11-01 Förstudien visar att AI kan bidra som en mycket kraftfull resurs för att förbättra arbetsprocesser genom att automatisera och effektivisera uppgifter, vilket skulle kunna frigöra personal för mer kvalitativa arbetsuppgifter. Specifikt identifieras yrken som arbetar med olika former av administration, handläggning, planering, kvalitetssäkring med mera. Rätt använt, bedöms AI kunna både öka effektiviteten och spara resurser och samtidigt höja kvaliteten i arbetet. Detta i sin tur kan skapa större värde för de vi är till för. Med hjälp av AI blir det också enklare att genomföra vissa arbetsuppgifter/yrken där det idag saknas personal. Det skulle kunna innebära att personal med lägre kompetens kan utföra mer kvalificerade arbetsuppgifter. För att framgångsrikt kunna implementera AI-lösningar i kommunerna behöver fem viktiga förutsättningar komma på plats. Dessa beskrivs mer utförligt i förstudien. • Tillgång till relevant data och datakvalitet • Interoperabilitet – när systemen inte är isolerade företeelser utan del av något större • Kompetens att arbeta med AI • Ramverk kring juridik, policy och säkerhet • Styrning och ledning Vidare presenterar förstudien tre vägledande perspektiv som behöver styra kommunerna i sitt arbeta med att införa AI. De avser fungera som stöd i att upprätthålla konsistens och kvalitet i processer trots den mycket snabba utvecklingen inom AI-tekniken. Genom att anamma dessa vägledande perspektiv kan kommuner manövrera genom osäkerhet och fatta informerade beslut som främjar deras grundläggande syften och ambitioner. De är: • AI som assistent, inte som beslutsfattare – kommunerna behöver se AI- tekniken som ett stöd och hjälp till medarbetarna och inte som ett sätt att fullt ut ersätta dem, inte minst när det gäller beslutsfattande. • Införandet av AI kräver verksamhetsutveckling – för att framgångsrikt implementera AI-lösningar behöver kommunerna samtidigt arbeta med att utveckla verksamheternas metoder och processer, något som det finns stark evidens för. • AI har begränsningar som måste beaktas – det krävs en förståelse för tekniken och de brister som den har, och att hänsyn tas till detta vid införande. Utifrån de exempel som identifieras där AI nyttjas för att stärka kompetensförsörjningen presenteras sedan åtta specifika områden, benämnda potential, där olika AI-lösningar och tekniker skulle kunna användas av kommunerna. I förstudien finns dessa beskrivna mer i detalj samt att det hänvisas till olika befintligt och pågående case nationellt för att exemplifiera. • Predicera utfall och behov på organisatorisk och individnivå • AI-assistenter till personal • Stöd med anteckningar och dokumentation • Visualisering och datadriven analys • Lösningar som levereras färdiga och implementeras i befintliga system Stadsledningskontoret 2024-11-01 • Resursallokering och planering • Språkassistans och tolkning • Information och kommunikation för medborgarna Utöver dessa åtta specifika potentialer har en tvärgående nionde potential identifierats som innebär att det, genom AI, blir möjligt att tillhandahålla högre grad av individanpassad välfärd, exempelvis individanpassat stöd inom skolan. Införandet av AI-lösningar för dock med sig såväl operativa som strategiska risker som kommer att behöva hanteras. Förstudien identifierar tre mer framträdande strategiska risker: • Partiska eller vinklade data som ger felaktiga utfall • Ökad sårbarhet och beroende • Juridiska risker För att komma vidare i kommunerna bedöms det finnas stor potential att samverka kring lösningar och förutsättningar inom den regionala samverkansstrukturen som GR utgör där man gemensamt kan arbeta med nätverkande, omvärldsbevakning, lärande och inte minst att utveckla och testa konkreta lösningar i samverkan med kommunerna. I förstudien presenteras sex rekommendationer till de enskilda kommunerna och fem rekommendationer till GR om hur arbetet bör fortsätta och vad som behöver göras för att framgångsrikt nyttja AI som en viktig pusselbit att långsiktigt säkra kompetensförsörjningen i regionens 13 kommuner. Rekommendationer till GR:s medlemskommuner (förkortade): 1. Säkerställ förankring och skapa gemensamt synsätt - Skapa stark förankring och enhetlig förståelse för AI:s möjligheter och begränsningar. 2. Påbörja arbetet med de nödvändiga förutsättningarna - Utveckla grundläggande förutsättningar såsom datatillgång, kompetens och ledning. 3. Identifiera och prioritera behov - Analysera och prioritera var AI kan tillföra mest värde inom kommunens verksamhet. 4. Implementera lösningar! - Starta med enkla, beprövade AI-lösningar för snabba förbättringar i effektivitet och service. 5. Hantera de strategiska riskerna - Adressera risker relaterade till dataintegritet, säkerhet, etik, och externa leverantörer. 6. Påbörja arbetet med förankring ut mot medborgarna - Engagera och informera medborgarna om AI:s roll och inverkan på kommunala tjänster. Rekommendationer som berör GR (förkortade): 7. Förankra och säkerställ fortsatt arbete och inriktning. - Definiera och förankra GR:s roll och inriktning för fortsatt arbete med AI. 8. Säkerställa ett regionalt nätverksarbete - Skapa ett strategiskt nätverk för att främja AI och välfärdsteknik samt stärka samverkan. Stadsledningskontoret 2024-11-01 9. Arbeta operativt med lösningar i samverkan med kommunerna - Samarbeta med kommunerna för att testa och implementera effektiva AI-lösningar. 10. Stötta kommunerna i deras arbete med förutsättningar - Hjälp kommunerna med kompetensutveckling, juridik och säkerhetsfrågor. 11. Säkerställ finansiering - Säkra nödvändig finansiering för att stödja och utveckla AI-lösningar regionalt. Dessa rekommendationer ger en tydlig vägledning för både kommunerna och GR i arbetet med att integrera och optimera användningen av AI i den kommunala verksamheten. 3.3 Vad händer nationellt? Inom staden följer vi det nationella arbetet noggrant och kan konstatera att regeringen har gett flera olika uppdrag inom AI-området till flertalet myndigheter, där följande är av extra intresse: • Nationell satsning för stärkt medie- och informationskunnighet inom AI-driven desinformation Regeringen har gett Mediemyndigheten i uppdrag att under 2024 och 2025 genomföra en bred och långsiktigt hållbar nationell satsning för att stärka befolkningens medie-och informationskunnighet (MIK). Uppdraget ska genomföras i samverkan med nätverket MIK Sverige. • Vägledande riktlinjer för användning av generativ artificiell intelligens (AI) inom den offentliga förvaltningen. Regeringen har gett Myndigheten för digital förvaltning (Digg) och Integritetsskyddsmyndigheten (IMY) i uppdrag att ta fram vägledande riktlinjer för användning av generativ artificiell intelligens (AI) inom den offentliga förvaltningen. Syftet är att främja att generativ AI används inom den offentliga förvaltningen på ett effektivt, säkert och etiskt sätt. Riktlinjerna ska fungera som en vägledning och ett stöd vid användning av generativ AI. • Trygg och tillförlitlig användning av AI Regeringen har beslutat att tillsätta en utredning för att se över behovet av nationella anpassningar till följd av EU:s nya förordning om AI (AI- förordningen). Utredningen är en del av regeringens arbete med att göra Sverige till en ledande nation inom användning av säker och tillförlitlig AI. • Förstärkt AI-förmåga i Sverige En kommitté – en AI-kommission – ska identifiera behov av och lämna förslag på åtgärder som kan bidra till att stärka utveckling och användning av artificiell intelligens (AI) i Sverige på ett hållbart och säkert sätt. AI har stor potential att bidra till ökad innovationsförmåga, högre effektivitet och bättre konkurrenskraft, men även till en effektivare offentlig förvaltning. Syftet med uppdraget är att säkerställa att Sverige som ledande forskningsnation, avancerad industrination och ambitiös välfärdsnation bättre ska tillvarata möjligheterna och hantera Stadsledningskontoret 2024-11-01 riskerna med AI, inklusive att bidra till att identifiera en nisch inom AI där Sverige kan blir en viktig partner för andra. AI Sweden presenterade i mars 2024 en AI-strategi för Sverige. AI Sweden är det nationella centret för tillämpad AI och samlar mer än 120 partners från offentlig och privat sektor samt akademi. AI Sweden finansieras av den svenska staten och deras partners, varav Göteborgs Stad är en. Strategin som AI Sweden presenterade har sex bärande principer: 1. Möjliggöra för de bästa att prestera och skapa incitament för dem att dela med sig. 2. Samarbeta med och lära av de bästa. 3. Göra omfattande investeringar i kompetens och talang i hela ekosystemet. 4. Investera i strategisk kunskap, teknik och gemensamma lösningar. 5. Säkerställa ansvarsfull användning och styrning. 6. Säkerställa att nyttan med AI kommer alla sektorer och hela landet till gagn genom samarbeten. Sammanfattningsvis betonar det nationella arbetet behovet av kompetens, både generell kompetens och expertkompetens på forskningsnivå. En säker och tillförlitlig användning av AI är också av högsta vikt. 3.4 Vad händer globalt? Utvecklingen inom AI drivs till stor del av bolag baserade i USA och Kina. Nya modeller lanserar i snabb takt och Hugging Face som en internetsida där utvecklare delar AI-modeller har i skrivande stund över 1 000 000 olika modeller som går att ladda ner. FN:s högnivåråd för artificiell intelligens presenterade i september 2024 sin rapport Governing AI for Humanity. I rapporten föreslår de åtgärder för att förbättra den globala styrningen gällande AI och betonar vikten av ett inkluderande, nätverksbaserat och adaptivt tillvägagångssätt för styrning av AI som omfattar gemensam förståelse, gemensam grund och gemensamma fördelar. De rekommendationer som finns i rapporten är: • Inrätta en internationell vetenskaplig panel för AI. Panelen ska producera kvartalsvisa tematiska forskningsöversikter om områden där AI kan bidra till att uppnå FN:s hållbarhetsmål • Policydialog om AI-styrning. Dialogen ska främja gemensam förståelse för genomförandet av AI-styrningsåtgärder av privata och offentliga aktörer. • Utbyte av AI-standarder. Ett forum bör skapas för att sammanföra representanter från nationella och internationella Stadsledningskontoret 2024-11-01 standardiseringsorganisationer, teknikföretag, civilsamhället och representanter från den internationella vetenskapliga panelen. • Nätverk för kapacitetsutveckling. Nätverket ska bygga upp AI- styrningskapacitet hos offentliga tjänstemän och göra utbildare, beräkningskraft och AI-träningsdata tillgängliga för forskare och sociala entreprenörer. • Global fond för AI. Fonden ska ge ekonomiskt stöd till AI-projekt som främjar hållbar utveckling och gemensam global styrning av AI. • Globalt ramverk för AI-data. Ramverket ska fastställa principer för global styrning av AI-träningsdata och främja kulturell och språklig mångfald. • AI-kontor inom FN:s sekretariat. Kontoret ska ge råd till FN:s generalsekreterare i AI-frågor och främja en sammanhållen röst inom FN-systemet. Utvecklingen globalt kommer att påverka utvecklingen i Sverige och Göteborg. Till exempel har redan AI-förordningen påverkat tillgången till vissa AI-tjänster där en del leverantörer väljer att inte lansera den senaste tekniken på grund av osäkerhet i hur den kommer att tolkas. Stadsledningskontoret 2024-11-01 4 Styrning och reglering av AI Samtidigt som det finns en enorm potential i AI-system måste införandet ske i enlighet med gällande lagstiftning. Möjligheterna till effektivisering och automatisering behöver balanseras mot nödvändigheten att skydda individens rättigheter. Göteborgs Stad behöver säkerställa integritet, transparens och ansvarsskyldighet inom alla verksamhetsområden. 4.1 Juridik I delrapporten (som behandlades i kommunstyrelsen 2024-05-29 § 513) redogjordes översiktligt för vilka regelverk som aktualiseras vid användandet av AI. EU:s AI-förordning, som nyligen trädde i kraft, är ett särskilt regelverk som kommer gälla sådan AI som omfattas av förordningens definition av begreppet AI-system. Det är bra att tänka på att utöver den kommande AI-förordningen ska i princip samma lagstiftning som annars gäller för hantering av information i offentlig förvaltning beaktas vid användandet av AI. Exempelvis kan nämnas regler om offentlighet och sekretess, säkerhetsskyddslagen, arkivlagstiftningen, kommunallagen, bestämmelser om allmänna handlingar och regelverket om dataskydd. Den nationella lagstiftningen är inte alltid helt anpassad till den digitala utvecklingen, vilket kan utgöra en svårighet när det gäller tillämpningen av ny lagstiftning på EU-nivå till exempel på områdena för dataskydd samt informations- och cybersäkerhet. Det innebär också att det ibland kan komma att bli problematiskt att få regelverken att samspela med varandra, särskilt som vissa bestämmelser aldrig tillämpats beträffande AI. Viss lagstiftning är helt ny och det finns därför än så länge lite eller ingen vägledning för tillämpningen. Likväl är det en förutsättning för ett säkert, riskmedvetet och integritetsskyddande användande av AI att regelverken följs. Det är därför viktigt att identifiera vilka regelverk som påverkar hur en AI-tjänst ska användas i det enskilda fallet så att de rättsliga ramarna blir tydliga innan tjänsten tas i bruk. På så sätt ställs förutsättningarna för hur och när AI kan vara mest effektivt och ändamålsenligt utefter den information som ska hanteras och det syfte som önskas uppnås. Eftersom rättsläget i vissa fall kommer att vara osäkert beträffande tillämpningen av regelverk visavi AI är det angeläget att, i oklara situationer, utföra och nogsamt dokumentera en bedömning kring eventuell risk kontra verksamhetsnytta. Lagstiftningen kan komplicera utvecklingen och användandet av AI men bör inte innebära ett hinder mot verksamhetsutveckling och innovation. Utmaningen är att anpassa lagstiftning och utveckling till varandra. Ibland kan detta innebära att våga skapa ny praxis, med goda grunder och väl genomarbetad motivering till åtgärder som stöd. I detta ligger någon form av risktagande då ingen än med säkerhet vet hur vissa bestämmelser kommer att tolkas. Det är därför, som tidigare nämnts, viktigt att man sätter de juridiska ramarna tidigt i processen och tar ställning till hur man utifrån gällande lagstiftning kan uppnå det man önskar med en viss tjänst eller funktion. Stadsledningskontoret 2024-11-01 4.2 Fördjupning AI-förordningen Den 13 juni 2024 antog Europaparlamentet och Europeiska unionens råd förordningen om artificiell intelligens. Förordningen träder i kraft den tjugonde dagen efter det att den har offentliggjorts i Europeiska unionens officiella tidning. Förordningen ska tillämpas från och med den 2 augusti 2026. Undantagen är förbud att använda förbjudna tillämpningar (som kommer att gälla från och med den 2 februari 2025), regler för AI-system för allmänna ändamål (från och med 2 augusti 2025) och skyldigheter för högrisksystem (2 augusti 2027). AI-förordningen ska göra AI säker att använda och se till att grundläggande rättigheter respekteras. Syftet med en EU-gemensam lagstiftning om AI är att säkerställa att användning av AI-system på EU:s inre marknad är säkra, respekterar mänskliga rättigheter och underlättar för innovation och investering inom AI. Förslaget till AI-förordning innehåller följande definition av begreppet system med artificiell intelligens (AI-system): ”programvara som utvecklats med en eller flera av de tekniker och metoder som förtecknas i bilaga I1 och som, för en viss uppsättning människodefinierade mål, kan generera utdata såsom innehåll, förutsägelser, rekommendationer eller beslut som påverkar de miljöer som de samverkar med.” Det är endast de system som inryms i definitionen som omfattas av förordningen. Förordningen följer en riskbaserad metod där man skiljer mellan användning av AI som skapar oacceptabel risk, hög risk och låg eller minimal risk. Förordningen är tänkt att kunna följa den tekniska utvecklingen genom en konstruktion där tillägg kan ske i bilagorna där olika definitioner finns, till exempel vad som kategoriserar ett högrisksystem. Förbjudna tillämpningar De nya reglerna förbjuder vissa AI-tillämpningar som hotar medborgarnas rättigheter, däribland biometrisk kategorisering baserad på känsliga uppgifter och oriktad skrapning av ansiktsbilder från internet eller övervakningskameror för att skapa databaser för ansiktsigenkänning. Känsloigenkänning på arbetsplatsen och skolan, social poängsättning, prognostiserat polisarbete (när det enbart baseras på profilering av en person eller bedömning av personliga egenskaper) och AI som manipulerar mänskligt beteende eller utnyttjar människors sårbarheter ska också förbjudas. Krav för högrisksystem AI-system som kategoriseras som högrisksystem kommer omfattas av högre krav på grund av deras betydande potentiella skada på bland annat hälsa, säkerhet, grundläggande rättigheter, miljö och demokrati. Det finns två 1 AI-förordning med dess bilagor hittas på följande länk: https://eur-lex.europa.eu/legal- content/SV/TXT/?uri=CELEX:32024R1689 Stadsledningskontoret 2024-11-01 huvudkategorier av AI-system med hög risk. Den ena kategorin är AI-system som används som säkerhetskomponenter i produkter och den andra kategorin är fristående AI-system med konsekvenser för framför allt de grundläggande rättigheterna. I båda dessa fall finns de aktuella områdena beskrivna i bilagor till förordningen. AI-användning anses ha hög risk till exempel i kritisk infrastruktur, utbildning, sysselsättning, viktiga privata och offentliga tjänster (såsom hälso- och sjukvård, banktjänster), vissa AI-tillämpningar inom brottsbekämpning, migration och gränsförvaltning, domstolsväsendet och demokratiska processer (till exempel valpåverkan). De här AI-systemen måste bedöma och minska riskerna, föra användningsloggar, vara transparenta och korrekta, samt säkerställa mänsklig tillsyn. Som medborgare ska man ha rätt att lämna in klagomål om AI-systemen och få förklaringar om beslut baserade på AI-system med hög risk som påverkar ens rättigheter. Krav på insyn AI-system för allmänna ändamål och de modeller de bygger på måste uppfylla vissa insynskrav, följa EU:s upphovsrättslagstiftning och tillhandahålla detaljerad information om hur de lär upp sina modeller. De kraftfullare modellerna som skulle kunna utgöra systemrisker kommer att ställas inför fler krav, bland annat att utföra modellutvärderingar, bedöma och minska systemrisker och rapportera incidenter. Dessutom måste fabricerat eller manipulerat bild-, ljud- eller videoinnehåll (”deepfakes”) tydligt märkas som sådant. 4.3 Göteborgs Stads styrdokument Inga av Göteborgs Stads styrdokument kring digitalisering och informationssäkerhet tar uttryckligen upp AI, men är lika giltiga för utveckling av AI som av andra digitala system. Några områden som är speciellt viktiga vid utveckling av AI-system är vilken kvalitet det data som systemet tränas på har. I Göteborgs Stads plan för digitalisering 2023-2026 finns till exempel insatsen att säkerställa att ändamålsenliga arbetssätt, modeller och metoder för data som strategisk resurs införs för att skapa förutsättningar för ökad tillgång och vidareutnyttjande av data. Där finns även insatsen att definitioner och ägarskap av data tydliggörs. Båda dessa är förutsättningar för att staden ska ha data av god kvalitet och för att AI-system ska kunna ge rättvisande svar. Stadsledningskontoret 2024-11-01 5 Effektivisering och automatisering 5.1 Effektivisering och automatisering genom AI – vad är möjligt? Artificiell intelligens erbjuder omfattande möjligheter att effektivisera och automatisera arbetet inom Göteborgs Stad. Genom att implementera AI- lösningar kan staden både höja kvaliteten på sina tjänster och öka effektiviteten i verksamheten. På det administrativa området kan AI automatisera många rutinuppgifter som tidigare krävt manuellt arbete. Detta inkluderar dokumenthantering, registreringar och fakturering, men även mer avancerade uppgifter som transkribering och sammanfattning av möten. AI-assistenter kan hantera kalenderbokningar och påminnelser, vilket förenklar den dagliga planeringen. Genom att minska den administrativa bördan frigörs tid för medarbetare att fokusera på mer komplexa och värdeskapande arbetsuppgifter. Inom resursplanering och schemaläggning kan AI-algoritmer optimera användningen av stadens resurser. Genom analys av historiska data och realtidsinformation kan systemen förutsäga behov och säkerställa att rätt resurser finns tillgängliga vid rätt tidpunkt. Detta är särskilt värdefullt inom vård och omsorg, utbildning och teknisk förvaltning. Systemen kan även hantera oförutsedda förändringar som sjukfrånvaro genom att snabbt föreslå omplaneringar som minimerar störningar i verksamheten. Medborgarkommunikationen kan förbättras avsevärt genom AI-drivna chatbotar och virtuella assistenter som tillhandahåller service dygnet runt. Dessa verktyg kan hantera enklare ärenden som bokningar och ansökningar, samtidigt som de avlastar kundtjänstpersonal. Genom att analysera tidigare interaktioner kan kommunikationen personaliseras, och med AI-baserade översättningstjänster kan information göras tillgänglig för invånare oavsett språkbakgrund. För strategiskt beslutsfattande erbjuder AI kraftfulla analysverktyg som kan bearbeta stora datamängder för att identifiera och visualisera mönster och trender. Inom exempelvis trafikplanering kan AI analysera flöden för att optimera infrastrukturen, medan socialtjänsten kan få stöd i att förutse framtida resursbehov. Maskininlärningsmodeller kan upptäcka avvikelser och riskfaktorer tidigt, vilket möjliggör proaktiva åtgärder innan problem eskalerar. Kvalitetskontrollen i staden kan stärkas genom AI-baserad granskning av teknisk dokumentation och automatisk validering mot standarder och regelverk. Detta är särskilt värdefullt inom bygg- och infrastrukturprojekt, där tidig upptäckt av avvikelser kan spara betydande resurser. För underhåll och drift kan AI analysera sensordata för att identifiera underhållsbehov i infrastruktur som Stadsledningskontoret 2024-11-01 vägar, vattenledningar och byggnader, vilket möjliggör ett mer proaktivt arbetssätt. Inom personalområdet kan AI stödja både strategisk kompetensförsörjning och daglig personalplanering. Genom att analysera data om kompetenser, intressen och arbetsuppgifter kan systemet bidra till optimal bemanning och stödja medarbetares professionella utveckling. I rekryteringsprocesser kan AI effektivisera kandidatscreening och matchning mot verksamhetens behov, vilket sparar tid och ökar objektiviteten. Den digitala arbetsmiljön kan förbättras genom AI-driven personalisering av innehåll på stadens webb och intranät. Detta gör det enklare för både medborgare och medarbetare att hitta relevant information genom att innehållet anpassas efter individuella behov och roller. Sammantaget erbjuder AI möjligheter att transformera stadens arbetssätt. Genom att systematiskt implementera AI-funktioner kan Göteborgs Stad både effektivisera sina processer och höja kvaliteten i sina tjänster till medborgarna. 5.2 Piloter - Vad lärde vi oss? För att utforska AI:s potential och samla praktiska erfarenheter följdes och utvärderades ett antal piloter inom ramen för uppdraget. I samband med ärendet redovisning av uppdrag att utreda hur Göteborgs Stads kommunikationsarbete kan effektiviseras beslutade kommunstyrelsen 2024-02- 21 § 154 i enlighet med yrkande från V, S och MP. I yrkandet lyfts att AI har stor potential inom kommunikationsområdet och att användning av AI bör analyseras inom ramen för budgetuppdraget. En av piloterna var därför inriktad mot kommunikationsarbete. Piloterna som har följts är: • En gemensam digital assistent för offentlig sektor (hemtjänstassistent som utvecklas inom ett samarbetsprojekt) • Studenter från Chalmers utvecklar en chatbot för turister som ska testas i verklig kontext • Co-pilot (Microsoft): Ett antal licenser kommer att anskaffas för att under kontrollerade former kunna experimentera med tekniken och se vilka möjligheter och utmaningar den medför • Transkribering av pensionärsrådsmöten. Test av teknik och processer för att utvärdera hur Göteborgs Stads pensionärsråd kan använda sig av transkriberingsfunktionen i Office 365. • Kommunstyrelsens notiser – effektivisera sammanfattningar av kommunstyrelsens möten Syftet med dessa piloter har varit att testa AI-lösningar i verkliga situationer för att se vilka resultat och lärdomar som kan dras inför en bredare implementering. De aktuella piloterna omfattade både större externa samarbetsprojekt och mindre interna initiativ inom stadsledningskontoret. Som nämnts i delrapporten Stadsledningskontoret 2024-11-01 rör sig AI-området snabbt, och utöver piloterna har flera initiativ startats inom både förvaltningar och bolag. Uppföljningen inom ramen för slutrapporten är på en övergripande nivå. Respektive pilot följs upp mer djupgående inom ramen för respektive projektplan. Några erfarenheter och lärdomar: • Ökad förståelse och beställarkompetens: Genom de externa samarbetsprojekten har förvaltningar och bolag ökat sin förståelse för hur AI-tjänster byggs upp och vilken kompetens staden behöver ha för att bli bra beställare av AI-tjänster. • AI som kunskapsstöd: Försöken med att använda AI och generativ AI som kunskapsstöd har visat sig vara värdefulla i det dagliga arbetet. Det har bidragit till en ökad effektivitet och en förbättrad förståelse för AI möjligheter. • Språkmodeller och innehållsanpassning: Att bygga språkmodeller som tar hänsyn till nationella eller lokala förutsättningar har visat på värdet av att involvera de som faktiskt ska använda modellerna i arbetet med att fylla dem med relevant innehåll. Det är också viktigt att upprätthålla en löpande uppdatering för att säkerställa att modellerna fortsätter att vara användbara och aktuella. • Vikten av stödstrukturer: Piloterna har betonat behovet av robusta stödstrukturer, som tillgång till teknik, juridiskt stöd och systemuppdateringar, för att kunna genomföras framgångsrikt utan att riskera individers eller organisationens säkerhet. 5.3 En samlad AI-utveckling För att systematiskt arbeta med AI och genomföra en mognadsförflyttning krävs ett samlat grepp över stadens AI-initiativ. Det är viktigt att undvika en spretig och ineffektiv utveckling som kan bli både kostsam och svår att hantera. Fokus bör i stället ligga på att samordna och koordinera insatserna för att maximera nyttan av AI och säkerställa att lösningarna kommer hela staden till godo. Detta inkluderar att etablera tydliga processer för upphandling, utveckling och kvalitetssäkring av AI-system. Göteborgs Stad befinner sig i de tidiga faserna av sin AI-resa. För att ta nästa steg behöver staden etablera arbetssätt och processer som stödjer en kontrollerad och hållbar utveckling. Detta innebär att sprida kunskap om AI, identifiera relevanta användarfall och öka förståelsen för hur AI kan bidra i stadens verksamheter. En central del i detta är att samordna inköp av AI-tjänster och produkter, dela kunskap, stötta i upphandlingar samt utveckla och förvalta AI-lösningar i mindre skala över hela staden. När AI-lösningar skalas upp blir det nödvändigt att säkerställa hög datakvalitet och att robusta plattformar finns på plats. Balansen mellan molnbaserade lösningar och lokala system är avgörande för att kunna hantera känsliga uppgifter som kräver hög informationssäkerhet och dataskydd. Molntjänster erbjuder flexibilitet och möjliggör snabb innovation, medan lokala lösningar kan vara mer kostnadseffektiva och hållbara på lång sikt. En hybridstrategi Stadsledningskontoret 2024-11-01 rekommenderas därför, där båda dessa möjligheter utnyttjas optimalt utifrån olika användningsfall. För att effektivt möta stadens samlade behov av AI och säkerställa att alla förvaltningar och bolag kan dra nytta av AI-lösningarna är det avgörande att samarbeta. Implementationen bör ske stegvis, från etablering av grundläggande processer och pilotprojekt till uppskalning av framgångsrika lösningar. För att lyckas med denna transformation behöver specifika roller och förmågor utvecklas inom staden. Dessa inkluderar ledarskap, förändringsledning, datasamordning, tekniska specialister inom AI och maskininlärning, samt domänexperter som förstår verksamheternas specifika behov. Genom att arbeta tvärfunktionellt och etablera strukturer för kunskapsdelning och erfarenhetsutbyte säkerställs att AI-lösningarna blir relevanta, effektiva och anpassade efter de specifika behoven inom olika delar av verksamheten. Ett aktivt ägarskap krävs från både central nivå och enskilda verksamheter, och utvecklingen behöver kopplas till stadens övergripande digitaliseringsstrategi genom en tydlig genomförandeplan. 5.3.1 Prioriterade områden för AI-implementering Baserat på dialogmöten med Grundskoleförvaltningen, Förskoleförvaltningen, Utbildningsförvaltningen, Äldre samt vård- och omsorgsförvaltningen, Förvaltningen för funktionsstöd samt socialförvaltningarna har två områden identifierats som särskilt lovande för AI-implementering under de kommande 1- 2 åren: Digitala assistenter samt optimering av scheman och resursplanering. 5.3.1.1 Digitala assistenter baserade på generativ AI för enklare informationshantering En av de mest efterfrågade tillämpningarna är digitala assistenter som kan underlätta det dagliga arbetet. AI-assistenter kan ge enklare tillgång till information genom att snabbt och effektivt besvara frågor om aktuella styrdokument och riktlinjer som personal, såsom rektorer, lärare eller hemtjänstpersonal, behöver förhålla sig till i sina arbetsuppgifter. Dessa AI-assistenter kan även användas för att hjälpa medborgare och personal via flera plattformar: • goteborg.se • goteborg.com • IT-support • kundsupport Dessutom kommer AI-assistenter att integreras i EU-projektet Citiverses Uniting (CU), där en AI-avatar utvecklas som del av Göteborgs digitala tvilling. Detta projekt syftar till att göra staden mer tillgänglig genom att erbjuda digitala verktyg som hjälper invånare och besökare att planera och uppleva staden på sina egna villkor. Stadsledningskontoret 2024-11-01 5.3.1.2 Förbättring av scheman och planering baserat på optimering Optimering av scheman och resursplanering utgör ett annat viktigt tillämpningsområde för AI-teknologi. Inom både skola och vård kan AI användas för att automatisera och optimera: • Schemaläggning • Ruttplanering • Lokalplanering • Fordonsunderhåll Genom att implementera AI-algoritmer kan resurser användas mer effektivt, vilket leder till både tids- och kostnadsbesparingar. Detta resulterar i ökad effektivitet, minskad manuell arbetsbörda och bättre resursanvändning för stadens förvaltningar. 5.3.2 AI-Speed: En metod för innovativ AI-utveckling För att systematiskt driva utvecklingen av AI-lösningar i staden har Göteborgs Stad etablerat en särskild innovationsprocess kallad AI-Speed. Denna sexmånaders process engagerar 10-15 team från olika verksamhetsområden, inklusive: • Skolor • Vård och omsorg • Kundsupport • Göteborg.se • Styrande dokument • Det digitala navet Processen består av flera steg: 1. Behovsanalys: Team får stöd i att identifiera och förstå sina utmaningar samt relevanta användningsområden för AI. 2. Expertstöd: Specialister inom IT-säkerhet, arkitektur, DSO och juridik kopplas in för att säkerställa robusta och hållbara lösningar. 3. Utvärdering: Genomförande av nyttoanalyser och utveckling av prototyper för praktisk utvärdering. 4. Implementeringsvägar: Efter innovationsprocessen fastställs lämplig väg framåt genom antingen: o Utveckling av tjänster inom Intraservice o Framtagande av upphandlingsunderlag för externa leverantörer 5.4 Kompetens 5.4.1 Kompetensförsörjning I Göteborg Stads plan för kompetensförsörjning 2024-2026 lyfts, i det första fokusområdet som heter ”Utveckling av verksamheten”, att digitalisering, AI och ny teknik är en av vår tids viktigaste samhällsförändrande krafter. Den ska Stadsledningskontoret 2024-11-01 användas för att möta utmaningen kring kompetensförsörjningen, effektivisera verksamheten och dess administrativa processer samt förbättra stadens service och kvalitet. För att klara detta krävs att Göteborgs Stads verksamheter tar tillvara medarbetarnas kompetens, innovationsförmåga och engagemang, samt att organisationskulturen behöver vara innovationsfrämjande och göra det tillåtet att utmana nuvarande arbetssätt. Det innebär att det måste finnas utrymme att utforska nya idéer och arbetssätt, även om de inte omedelbart ger effekt eller önskvärt resultat uteblir. Det ställer särskilda krav på stadens chefer att agera förebilder för innovation genom att uppmuntra och stödja medarbetarnas initiativ, vara beredda på att tillsammans ta risker och gemensamt stå bakom nya idéer för att lösa problem. I sin förstudie nämner Göteborgsregionen att det finns minst tre tänkbara effekter och möjligheter avseende kompetensförsörjning med att nyttja AI: • Genom automatisering och AI minskas tidsåtgången och/eller mängden för vissa arbetsuppgifter och därmed effektiviseras arbetet, vilket frigör resurser. • Med hjälp av AI uppnås högre kvalitet i arbetet, den tjänst/service som levereras skapar ett större värde för brukaren/klienten/eleven. • Med hjälp av AI blir det lättare att genomföra arbetsuppgifter, vilket är en möjlighet inte minst i grupper där det saknas personal. Det innebär att personal med lägre kompetens kan utföra arbetsuppgifterna till samma kvalitet trots lägre kompetens. Det refereras ofta till som att yrkesroller dekvalificeras. 5.4.2 Grundläggande och specifik kompetens för användare Myndigheten för digital förvaltning (DIGG) skriver i sin rapport ”Digital kompetens”, som släpptes i december 2023, att grundläggande digital kompetens blir allt viktigare, inte bara för arbetslivet utan även för att individer ska kunna delta fullt ut i privat- och samhällsliv. Detta behov av digital kompetens har blivit särskilt tydligt i samband med ökad digitalisering i olika sektorer och samhällsfunktioner. Även om Sverige, enligt internationella jämförelser, ligger relativt bra till vad gäller digital kompetens, pekar flera Stadsledningskontoret 2024-11-01 studier på att det finns ett stort och växande behov av ytterligare kompetensutveckling, särskilt inom arbetslivet. Här kommer några exempel på vad som kan ingå i en grundläggande AI- kompetens, utifrån erfarenheter i möte med verksamheterna. • Viss förståelse för hur tekniken fungerar • Datahantering och informationssäkerhet • Etiska och juridiska avvägningar • Källkritik och källtillit • Hållbar användning (ekonomisk, ekologisk och social) • Aktuella råd och regler Utöver en grundläggande digital kompetens behövs specifik kompetens kopplat till de verktyg som chefer och medarbetare ska använda i sin specifika roll och verksamhet. Enligt AI-förordningen (artikel 4) ska leverantörer och användare av AI-system i den mån det är möjligt, vidta åtgärder för att säkerställa en tillräcklig nivå av AI-kunnighet hos sin personal och andra personer som hanterar eller använder AI-system. Detta ska ske med hänsyn till deras tidigare tekniska kunskap, erfarenhet, utbildning och träning, samt i vilken kontext användningen sker, samt beakta de personer eller grupper som inkluderas i användningen. 5.4.3 Befintliga lärstrukturer för att omsätta ny kunskap Enligt Göteborgs Stads plan för kompetensförsörjning 2024-2026 effektiviserar en verksamhetsnära lärmiljö inhämtningen av kunskap och möjliggör för den enskilde medarbetaren/arbetsgruppen att omsätta nya kunskaper i sitt dagliga arbete. Förvaltningarna inom vård, omsorg och utbildning har liknande tillvägagångssätt med olika sorters handledare som fortbildas och för processen framåt. • Vård och omsorg: GO-DigIT arbetar med kompetensutveckling inom digitala arbetssätt och digitalisering genom kollegialt lärande och train- the-trainer metoden. Utbildningsledare stödjer och utbildar lokala IT- ambassadörer som i sin tur stödjer och utbildar sina kollegor. IT- ambassadörsnätverket består av över 500 IT-ambassadörer främst fördelat inom äldre samt vård- och omsorgsförvaltningen och förvaltningen för funktionsstöd. • Utbildning (förskola-vuxenutbildning): Utbildning (förskola- vuxenutbildning): Center för skolutveckling och dess utvecklingsledare har utbildat över 500 lärledare. Det övergripande syftet är att stärka det kollegiala samtalet som fokuserar på gemensamt lärande för undervisningsutveckling, samt att stödja det kollegiala lärandet och skolutveckling i ett lärande organisationsperspektiv. Centrala utvecklingsledare arbetar med kompetensutveckling för mellanledare i olika roller såsom förstelärare, arbetslagsledare, elevhälsans professioner, samt för biträdande rektorer. Sådan kompetensutveckling fokuserar på att kunna leda och organisera utvecklings- och Stadsledningskontoret 2024-11-01 förändringsprocesser för att systematiskt öka utbildningens kvalitetet i förskola och skola, samt bidrar till att öka förståelsen för förutsättningar och genomförande av förändrings- och utvecklingsarbete mot uppsatta mål. Kollegialt lärande främjar dialog och erfarenhetsutbyte, vilket ökar förutsättningarna för att gemensamt uppbyggande av kunskap sedan ska kunna ge konkret förbättring i vardagen. Kollegialt lärande är bärare av verksamhets- /domänkunskap som behöver sammanföras med expertis inom data, arkitektur och AI, samt stöd inom etik och juridik. Dessa förmågor behöver förstå och samspela med varandra för att skapa värde i verksamheterna. (Modell tagen från Starta din AI-resa, AI Sweden) 5.4.4 Ledarskap som främjar lärande och innovation Göteborgs Stads plan för kompetensförsörjning tar upp att för att klara den digitala omställningen behöver Göteborgs Stads verksamheter ta tillvara medarbetarnas kompetens, innovationsförmåga och engagemang. Organisationskulturen behöver vara innovationsfrämjande och göra det tillåtet att utmana nuvarande arbetssätt. AI-lösningar kräver en parallell utveckling av verksamhetens processer och rutiner för att bli framgångsrika. Att införa en AI-lösning innebär mer än att bara fortsätta arbeta som tidigare, det kräver en omfattande verksamhetsutveckling som berör flera områden. För att lyckas med AI- implementering är det viktigt att verksamhetens rutiner är väl förankrade och följs på ett konsekvent sätt. En engagerad och förändringsbenägen ledning spelar en central roll i denna process. För att driva AI-arbetet framåt krävs en Stadsledningskontoret 2024-11-01 tydlig strategi och vision som sätter riktningen för hur AI kan bidra till att uppnå stadens långsiktiga ambitioner och möta framtida kompetensbehov. Strategin bör inkludera konkreta mål och vägleda resursallokeringen så att insatserna gör störst nytta, särskilt inom de verksamheter och yrkesgrupper som påverkas mest av förändringarna. I linje med detta lyfter Myndigheten För digital Förvaltning (DIGG) fram att god styrning och ledning är avgörande för att framgångsrikt implementera AI i offentlig förvaltning. Vikten av förändringsledning betonas, särskilt när AI- initiativ följer digitaliseringsstrategier eller beslut fattas längre ner i organisationen. En tydlig ledningsstruktur bidrar till att skapa förutsättningar för att AI-teknik ska kunna användas effektivt och säkerställa att förändringarna genomförs på ett organiserat och hållbart sätt. 5.4.5 Behov av spetskompetens och expertis För att kunna utveckla och införa AI-lösningar i Göteborgs Stad, behövs ett antal spetskompetenser och expertis som bidrar till hela processen – från datahantering till användning av färdiga AI-lösningar. Följande behov av spetskompetens och expertis har identifierats, bland annat i Intraservices förstudie. • Dataanalys och modellutveckling: Förmåga att analysera data och utveckla AI-modeller baserade på verksamheternas behov. Detta inkluderar att identifiera mönster i data och skapa insikter som kan användas för beslutsfattande och verksamhetsutveckling. • Implementering och integration av AI-lösningar: Kompetens att implementera och integrera AI-lösningar i stadens system, säkerställa att modellerna är effektiva och skalbara samt övervaka deras prestanda. • Datainfrastruktur och kvalitetssäkring: Förmåga att bygga och underhålla den datainfrastruktur som AI-lösningar behöver, samt samla in, bearbeta och kvalitetssäkra data för att säkerställa att AI-modeller har tillgång till rätt information. • Automatisering och produktionssättning: Kunskap om att skapa och underhålla system för att automatisera och effektivisera utvecklings- och produktionssättningen av AI-lösningar, samt ansvara för infrastrukturen och se till att systemen är tillgängliga och presterar väl. • Datasäkerhet och integritet: Kompetens att säkerställa att all data hanteras säkert och i enlighet med lagar och regler inom informationssäkerhet, till exempel skydda personuppgifter och hantera risker relaterade till datasäkerhet. • Teknisk infrastruktur och arkitektur: Förmåga att designa och implementera den tekniska infrastrukturen som krävs för att stödja AI- utveckling, utvärdera tekniska krav och säkerställa att infrastrukturlösningarna är långsiktigt hållbara och möter stadens behov. • Innovations- och förändringsledning: Förmåga att främja en innovationsdrivande organisationskultur där medarbetare uppmuntras att utforska nya idéer och arbetssätt. Detta inkluderar att ledare fungerar Stadsledningskontoret 2024-11-01 som förebilder för innovation och att det skapas utrymme för medarbetare att experimentera och delta i utvecklingen av AI-lösningar. • Grundläggande digital kompetens och AI-kunnighet: Förståelse för hur AI-teknik fungerar, inklusive datahantering, informationssäkerhet, etiska och juridiska avvägningar, samt källkritik. Denna grundkompetens behövs på alla nivåer för att möjliggöra effektiv användning av AI-teknik i vardagen. • Verksamhetsnära lärande och kunskapsdelning: Kompetens att skapa och underhålla lärstrukturer som möjliggör för medarbetare att omsätta ny kunskap i det dagliga arbetet. Detta innefattar utbildning för lärledare för att säkerställa att kunskap om AI sprids och omhändertas i verksamheten. Dessa kompetenser är av betydelse för hur Göteborgs Stad ska kunna bygga en stabil grund för AI och dra nytta av dess möjligheter för att effektivisera verksamheter och leverera bättre tjänster till medborgarna. Att satsa på rätt kompetenser är en viktig förutsättning för att AI ska bli en naturlig del av stadens utvecklingsarbete. 5.4.6 Mötesplatser för lärande och erfarenhetsutbyte Lärande behöver ske både individuellt, kollegialt samt kollektivt. Det vill säga att skapa, dela och utveckla kunskap tillsammans inom en organisation vilket kan hjälpa till att uppnå gemensamma mål eller lösa komplexa problem. För det behövs plattformar, så väl digitala som fysiska mötesplatser för att underlätta utbyte av kunskap och erfarenheter. Här kommer några exempel på befintliga mötesplatser där olika verksamheter och roller möts: • DIN Kunskapsarena (Göteborgs Stad) • Mötesplats Digitalisering (Göteborgs Stad) • AI-forum: Olika sorters träffar för att ta utvecklingen vidare (Göteborgs Stad) • MyAI (AI Sweden) • Dela digitalt (Sveriges Kommuner och Regioner, Göteborgsregionen) • Lärlabb (Göteborgs Stad) • Göteborgsregionens Innovationsarena (Göteborgsregionen) Det finns en hel del stöd att få kring erfarenhetsutbyte och samarbete, men upplevs som utspritt och inte alltid sammanhängande. Det krävs en del arbete för att hänga med i vad som är vad för verksamheterna. 5.5 Samarbeten Det finns flera frågor där Göteborgs Stad inte ensamt kan fatta beslut. Göteborgs Stad arbetar på en övergripande nivå med partners och andra kommuner för att effektivt hitta gemensamma lösningar på nya möjligheter samt besvara obesvarade frågor och utmaningar som AI för med sig. Till exempel är Göteborgs Stad aktiva deltagare i det nationella AI-rådet som drivs av Sveriges Kommuner och Regioner (SKR) och AI Sweden för att driva frågor inom SKR. Stadsledningskontoret 2024-11-01 För att dra nytta av innovationskraften i Göteborgsregionen samarbetar Göteborgs Stad med näringslivet och akademin i flera projekt med stor potential. Ett nationellt projekt genom vår partner AI Sweden, där Göteborgs Stad tillsammans med andra västsvenska kommuner och regioner, utvecklar gemensamma digitala assistenter för den offentliga sektorn, är ett exempel Ny teknik skapar ofta både säkerhetsmässiga och juridiska utmaningar eftersom nya möjligheter uppstår och påverkar befintliga tjänster och service. AI är inget undantag, och tekniken är till stor del oreglerad. På stadens nivå följs utvecklingen och arbetar med att bedöma dess påverkan på Göteborgs Stad. Göteborgs Stad samarbetar även med andra aktörer, såsom Research Institutes of Sweden (RISE). Stadsledningskontoret 2024-11-01 6 Slutsatser I utredningen har det undersökts hur AI-funktioner kan automatisera och effektivisera arbete som utförs i Göteborg. Genom att analysera vad som händer i omvärlden, juridiska ramverk, tekniska möjligheter samt pågående initiativ inom staden ger rapporten en bild av potentialen med AI. Detta avslutande kapitel sammanfattar de viktigaste insikterna och presenterar slutsatser kring vilka förutsättningar som behöver vara på plats för att Göteborgs Stad ska kunna dra full nytta av AI-teknologier. 6.1 Övergripande slutsats Det finns en enorm potential till effektivisering och automatisering med hjälp av AI. Utvecklingen går fort och redan idag är tekniken så pass utvecklad att den går att använda inom nästan alla områden. Men det kräver investeringar i både kompetens och teknik och i form av både arbetstid och pengar. Samtidigt behövs en medvetenhet om att det kan ta tid innan investeringen ger effekt. 6.2 Nämnders och bolags ansvar Alla nämnder har utifrån sitt reglemente att ”fullgöra sina uppgifter med fokus på kvalitet för dem verksamheten riktar sig till och effektiva arbetsformer för att utföra uppdragen. Till detta hör att aktivt följa och agera på förändring och utveckling kopplat till ansvarsområdet, i syfte att förbättra verksamhet och arbetsformer.” En liknande beskrivning finns i bolagens ägardirektiv. ”…aktivt följa och agera på förändring och utveckling kopplat till uppdraget, i syfte att förbättra verksamhet och arbetsformer” Slutsats: Finns det möjlighet att utnyttja AI för att effektivisera och automatisera verksamheten med en positiv nyttorealisering ska nämnder och bolag göra det. Slutsats: I samband med att nämnd och bolagsstyrelse planerar organisationens digitala utveckling bör de även se över vilka nya möjligheter till effektivisering och automatisering som AI erbjuder. 6.3 Framgångsrik implementering För att kunna utnyttja potentialen måste förutsättningar finnas på plats. Här lyfter Göteborgsregionen fram fem förutsättningar för att framgångsrikt kunna implementera AI-lösningar: - Tillgång till relevant data och datakvalitet - Interoperabilitet – när systemen inte är isolerade företeelser utan en del av något större - Kompetens att arbeta med AI - Ramverk kring juridik, policy och säkerhet - Styrning och ledning Stadsledningskontoret 2024-11-01 6.3.1 Tillgång till data och interoperabilitet När det gäller tillgången till relevant data pågår det initiativ på flera nivåer från EU-nivå till lokalt i Göteborgs Stad. En insats i Göteborgs Stads plan för digitalisering 2023 – 2026 är att ”Säkerställa att ändamålsenliga arbetssätt, modeller och metoder för data som strategisk resurs införs för att skapa för utsättningar för ökad tillgång och vidareutnyttjande av data.” För att säkerställa tillgången och vidareutnyttjandet inkluderas även arbetet med interoperabilitet i insatsen. Slutsats: Göteborgs Stad ska fortsätta och accelerera arbetet med data som strategisk resurs. 6.3.2 Kompetens att arbeta med AI Göteborgs Stads plan för kompetensförsörjning 2024-2026 ser digitalisering, AI och ny teknik som en av vår tids viktigaste samhällsförändrande krafter och har flera aktivitetsområden som möter detta behov. AI-förordningen ställer också krav på att leverantörer och användare, i den mån det är möjligt, säkerställa en tillräcklig nivå av AI-kunskap hos personalen och andra personer som hanterar eller använder AI-system på deras vägnar. Göteborgsregionen skriver också i sin förstudie för att effektivt nyttja AI inom kommunal verksamhet krävs inte bara en generell förståelse för tekniken bland all personal, utan även spetskompetens inom nyckelområden. Spetskompetens inom AI-området är svårrekryterad och det finns därför stora fördelar att bygga upp en gemensam förmåga inom staden. Piloterna har betonat behovet av robusta stödstrukturer, som tillgång till teknik, juridiskt stöd och systemuppdateringar, för att kunna genomföras framgångsrikt utan att riskera individers eller organisationens säkerhet. Slutsats: Göteborgs Stad behöver säkerställa att relevant teknik och kompetens finns för att effektivisera och automatisera arbete som utförs i Göteborgs Stad med hjälp av AI-funktioner. Det gäller allt från grundläggande och specifik kompetens till spetskompetenser och expertis. 6.3.3 Juridik och riskanalyser Samtidigt som det finns en enorm potential i AI-system måste införandet ske i enlighet med gällande lagstiftning. Möjligheterna till effektivisering och automatisering behöver balanseras mot nödvändigheten att skydda individens rättigheter. Göteborgs Stad behöver säkerställa integritet, transparens och ansvarsskyldighet inom alla verksamhetsområden. Vid inköp, utveckling och användande av AI-system finns det flera dimensioner att ta hänsyn till och det gäller att riskanalyser genomförs innan inköp eller utveckling. Förutom riskanalys gällande IT-säkerhet och personlig integritet måste det göras en analys utifrån AI-förordningen för att veta vilken typ av AI- system det är och vilka krav som förordningen ställer på Göteborgs Stad. Stadsledningskontoret 2024-11-01 Riskanalyser genomförs idag innan införande av nya IT-system (eller nya funktioner som Microsoft Co-Pilot), men eftersom utvecklingen går väldigt snabbt är det viktigt att de riskanalyser som behöver genomföras, genomförs snabbt och effektivt. Annars är sannolikheten stor att det kommit ut nya produkter eller nya versioner med bättre förmåga till och med innan riskanalysen är klar. Slutsats: För att främja innovation och nytänkande behöver utgångspunkten för verksamhetsutveckling med hjälp av AI vara vad vi kan göra inom de ramar som juridiken förser oss med. Slutsats: Det krävs effektiva arbetsprocesser vid riskbedömningar och konsekvensanalyser av AI-system. 6.3.4 Styrning och ledning Utvecklingen inom AI-området går extremt fort. Det som var omöjligt att göra för en månad sedan är möjligt idag. Nuvarande styrmiljö för digitalisering är mer anpassad för en stabil och trögrörlig omgivning, vilket är utmanande för mer snabba utvecklingsprojekt. Initiativ som behöver finansiering behöver identifieras ett år i förväg (helst innan årsskiftet 2024 för att komma med i budget för 2026). Inga av Göteborgs Stads styrdokument kring digitalisering och informationssäkerhet tar uttryckligen upp AI, men är lika giltiga för utveckling av AI som av andra digitala system. Även om nuvarande styrmiljö är mer anpassad för en stabil och trögrörlig miljö finns inte behov av separata styrdokument rörande AI. Men vid revidering av styrdokument ska AI så väl som andra digitala tekniker vägas in för att ha en heltäckande styrmiljö kring digitalisering. En avgörande faktor som Göteborgsregionen pekar på i sin förstudie är finansiering. Den lyfter fram att det är sannolikt att betydande investeringar på kompetens, teknik och infrastruktur kommer att krävas för att inte tappa förutsättningarna att långsiktigt kunna tillhandahålla en välfärd av hög kvalitet. Göteborgsregionen lyfter också fram som ett vägledande perspektiv att införandet av AI kräver verksamhetsutveckling. Anledningen till att man vill införa AI i en verksamhet är ofta ambitionen att höja kvaliteten i servicen till samma eller lägre kostnad. Det innebär att verksamheten inte kan arbeta på samma sätt som tidigare, vilket kräver en omställningsförmåga i organisationen. Det är också viktigt att implementationen sker i nära dialog med de som ska nyttja lösningen. Införandet av olika AI-system kan innebära både kvalitetshöjning i de tjänster som levereras och effektivisering, det vill säga att mindre arbetstid behöver läggas på att utföra uppgifterna. Ofta kan både effektiviseringspotentialen och kvalitetshöjningen erhållas samtidigt. Kvalitetshöjningen märks oftast direkt, men effektiviseringen kan realiseras först när arbetsrutiner, scheman eller liknande har förändrats. Det krävs ofta att verksamheten anpassas för att man Stadsledningskontoret 2024-11-01 ska kunna tillgodogöra sig effektiviseringspotentialen. Att införa nya AI-system innebär investeringar i både arbetstid och pengar och det kan ta tid innan investeringen ger effekt. För att lyckas med det förändringsarbete som krävs vid effektivisering och automatisering med hjälp av AI-funktioner så krävs det ett bra ledarskap. Göteborgs Stads målsättning med att utveckla det gemensamma ledarskapet är att: • vi tillsammans blir mera nytänkande, modiga och uthålliga chefer som upplever en ökad trygghet och förmåga att se nya möjligheter i organisationen • vi i vardagen kan skapa förutsättningar för våra medarbetare att växa och ta sig an svåra utmaningar • vi är chefer som kan finna ett hållbart sätt att leda oss själva och andra Slutsats: Det är viktigt att arbeta med forum för samverkan både inom staden och med externa aktörer. Slutsats: Eftersom AI-området är snabbrörligt används en stadenövergripande AI-gruppering för att diskutera och hålla den strategiska riktningen aktuell. Slutsats: Vid revidering av styrdokument ska AI så väl som andra digitala tekniker vägas in för att ha en heltäckande styrmiljö kring digitalisering. Slutsats: Implementering av AI kräver verksamhetsutveckling, och den behöver ske i nära dialog med de som ska nyttja lösningen. Slutsats: Stadens gemensamma ledarskap lägger en grund för nytänkande, mod och uthållighet vilket tillsammans med en bred kunskap om AI bland alla medarbetare stärker stadens förmåga till digital omställning. 6.4 Hybridlösning av digital infrastruktur Staden hanterar stora mängder av personuppgifter och känslig data. Det är därför avgörande att balansera mellan molnbaserade lösningar och lokala system. Molntjänster erbjuder flexibla lösningar och möjliggör snabb innovation utan stora initiala investeringar i infrastruktur. Samtidigt behöver staden utforska och bygga upp lokala lösningar för att kunna hantera känsligare uppgifter som kräver högre nivåer av informationssäkerhet och dataskydd. Slutsats: Genom att kombinera molnbaserade lösningar med att bygga egen infrastruktur säkerställs att stadens data hanteras på ett säkert och kontrollerat sätt. Stadsledningskontoret 2024-11-01