Kommittémotion SD133 Motion till riksdagen 2023/24:497 av Rashid Farivar m.fl. (SD) En tillförlitlig, konkurrenskraftig och hållbar svensk AI-politik Förslag till riksdagsbeslut 1. Riksdagen ställer sig bakom det som anförs i motionen om att inrätta en nationell AI-nämnd och tillkännager detta för regeringen. 2. Riksdagen ställer sig bakom det som anförs i motionen om att Sverige bör agera för att utarbeta en nationell AI-plan och tillkännager detta för regeringen. 3. Riksdagen ställer sig bakom det som anförs i motionen om att myndigheter ska verka främjande vad avser artificiell intelligens och tillkännager detta för regeringen. 4. Riksdagen ställer sig bakom det som anförs i motionen om att myndigheter ska hantera risker med artificiell intelligens och tillkännager detta för regeringen. 5. Riksdagen ställer sig bakom det som anförs i motionen om ambitionen att öronmärka forskningsmedel för risker kopplade till artificiell intelligens och tillkännager detta för regeringen. 6. Riksdagen ställer sig bakom det som anförs i motionen om att införa en nationell AI-infrastruktur för den offentliga förvaltningen och tillkännager detta för regeringen. 7. Riksdagen ställer sig bakom det som anförs i motionen om att Sverige bör arbeta för en konkurrenskraftig och teknikneutral AI-politik inom Europeiska unionen och tillkännager detta för regeringen. 8. Riksdagen ställer sig bakom det som anförs i motionen om att främja internationellt samarbete inom normgivning och brottsbekämpning för att möta hot förknippade med AI och tillkännager detta för regeringen. 9. Riksdagen ställer sig bakom det som anförs i motionen om att motverka tillämpning av AI för brottsliga ändamål och tillkännager detta för regeringen. 10. Riksdagen ställer sig bakom det som anförs i motionen om att det ska regleras i lag i vilken utsträckning AI får kommunicera med människor utan att informera mottagaren att det är AI, och detta tillkännager riksdagen för regeringen. 11. Riksdagen ställer sig bakom det som anförs i motionen om att tillsätta en utredning för att fastställa vem som bär ansvaret när AI orsakar skada för individer eller juridiska personer, och detta tillkännager riksdagen för regeringen. 12. Riksdagen ställer sig bakom det som anförs i motionen om att stärka allmänhetens medvetande om AI och cyberresiliens och tillkännager detta för regeringen. 13. Riksdagen ställer sig bakom det som anförs i motionen om tidiga utbildningsinsatser i skolan gällande AI och cybersäkerhet och tillkännager detta för regeringen. 14. Riksdagen ställer sig bakom det som anförs i motionen om att utreda lagstiftning som berör tjänster där automatiserat beslutsfattande ingår och tillkännager detta för regeringen. Motivering Artificiell intelligens (AI) är ett område inom datavetenskap och teknik där strävan är att utveckla datorer och program som kan analysera data, dra slutsatser och fatta beslut på liknande sätt som människor. Istället för att ge en dator exakta instruktioner för varje enskild uppgift, försöker man skapa algoritmer och modeller som kan lära sig av data för att förbättra sin prestanda och precision över tid. AI möjliggör automatisering av komplexa uppgifter, förutsägelser och beslutsfattande baserat på stora datamängder. Tekniken har enorm potential inom olika branscher, inklusive forskning, medicin, transport, jordbruk, finanssektorn, rättsväsendet, samhällsvetenskap, juridik, ingenjörsvetenskap och mycket mer. Teknikutvecklingen inom AI går otroligt snabbt just nu, till den grad att vissa anser att det går för snabbt. Detta gäller särskilt inom områden som modellernas språkförståelse, läsförståelse samt förmågan att identifiera och analysera bilder (bildigenkänning). Dessa områden har genomgått en betydande förbättring de senaste åren. Ett välkänt exempel är Open AI:s chattrobot ”Chat GPT” (Chat Generative Pre-trained Transformer), som representerar generativ AI. Modellen som har ungefär 100 biljoner (1014) parametrar har förmågan att generera autentiskt material och föra mänskliga konversationer på flera språk. Precis som med många andra av människans tekniska uppfinningar, såsom förbränningsmotorn, transistorn och dynamiten, följer betydande nytta med AIutvecklingen. Trots alla dessa möjligheter finns det även risker och baksidor med AIutvecklingen, vilket har lett till en omfattande debatt om AI:s potentiella dominans över samhället och mänskligheten, samt de relaterade säkerhetsåtgärderna. Internationellt har ett offentligt upprop initierats för att pausa alla storskaliga AIexperiment under sex månader, för att ge berörda aktörer tid att implementera nödvändiga säkerhetsåtgärder innan utvecklingen blir omöjlig att hantera. Det är självklart att samhällets och mänsklighetens intresse alltid bör väga tyngre än teknikens utveckling i sig. Samtidigt pågår ett intensivt arbete på EU-nivå sedan år 2017 med världens första förordning som kommer att reglera AI-utvecklingen i Europa, den så kallade AI-akten. Förordningen förväntas träda i kraft först år 2026. Sverigedemokraterna anser inte att Sverige bör vänta till år 2026 utan istället försöka vidta nödvändiga åtgärder så snart som möjligt. Hänsyn bör tas till det svenska samhället, medborgarnas rättigheter, näringslivets konkurrenskraft och politikens 2 teknikneutralitet. Många regelverk inom exempelvis fordons- och flygindustrin har införts eller uppdaterats efter tragiska olyckor, men när det kommer till AI kan det i värsta fall bli ”för sent”. Sverigedemokraternas utgångspunkt angående reglering av AI är en tillförlitlig, konkurrenskraftig och hållbar svensk AI-politik. Med ”tillförlitlig” menar vi att risknivån i teknikens tillämpning inte får vara så hög att grundläggande värderingar, rättigheter och friheter hotas. Detta ska gälla för både privata och offentliga aktörer. Samtidigt bör en genomtänkt AI-politik inte försämra näringslivets konkurrenskraft gentemot andra länder där AI-utvecklingen ligger i framkant, exempelvis USA och Kina. Hänsyn bör tas till små och medelstora företag, som saknar ekonomiska resurser och arbetskraftsresurser för att uppfylla krav ställda av byråkratiska regelverk. Som redan har framgått är vi försiktigt positiva till AI-akten, men vi är inte nöjda med AI-aktens alltför strikta skrivningar när det gäller högrisk-AI, eftersom detta riskerar att kväva svensk innovation och stå i vägen för de potentiella fördelar som AI kan medföra för olika privata och offentliga sektorer. Den ”hållbara” aspekten av Sverigedemokraternas AI-politik innebär att mänskligheten ska styra AI, inte tvärtom. Det finns en befogad risk för att utvecklingen kan ta en ohållbar och skadlig riktning. Öppenhet, transparens och ansvarstagande bör därför vara ledstjärnor för alla aktörer. Vi förespråkar insatser inom utbildning och forskning på detta område. Sverige bör ligga i framkant när det gäller AI-teknik och relaterad vetenskap. Nationell AI-nämnd För att maximera chanserna att utvecklingen inom AI blir något positivt för både Sverige och i förlängningen hela mänskligheten, menar Sverigedemokraterna att politiken bör inta en framskjuten position när det kommer till att förstå både potentialen och riskerna med denna teknologi. Med tanke på den accelererande utvecklingen inom AI anser vi att en nationell AI-nämnd behöver inrättas. Denna instans skulle ha ansvar för både ledning och styrning inom detta område. Den nationella AI-nämnden skulle kunna sammansättas av företrädare från samtliga partier i Sveriges riksdag tillsammans med experter från akademiska institutioner, näringslivet och myndigheter. Syftet skulle vara att kontinuerligt hålla den politiska sfären informerad om de senaste framstegen och att tidigt och tydligt uppmärksamma viktiga frågeställningar samt lägga fram förslag på lagstiftning för att styra utvecklingen på ett balanserat sätt. En jämförelse kan göras med den redan inrättade Gentekniknämnden. Även om AI står i centrum för dess arbete, skulle nämnden även ha en överblick över exponentiella teknologier generellt och riskförknippade högteknologiska fält, där AI kan förväntas accelerera utvecklingen. Det är en lågt hängande frukt för att snabbt öka kunskapen om AI inom politiken och säkerställa att Sverige är rustat för den framtid som teknologin medför. Ambitiös nationell AI-plan Svenskt näringsliv satsar idag stort på forskning och utveckling inom området AI. Stora företag och koncerner investerar årligen miljarder kronor inom detta område. En 3 gemensam nämnare för dessa aktörer är närvaron av en teknisk roadmap eller produktportfölj, ibland kallad cykelplan. Denna cykelplan fungerar som en vägledande ram för all utveckling och forskning inom företaget, riktad mot dagens och framtidens produkter och tjänster. Det är viktigt att notera att en sådan cykelplan kan anpassas och förändras över tid, men det avgörande är att den skapar en långsiktig riktning. Svensk offentlig förvaltning har redan en stark teknisk digital grund. Men jämförbara långsiktiga satsningar, ambitioner och visioner som vi ser inom näringslivet saknas inom den offentliga sektorn. AI har stor potential att förbättra samhället och öka effektiviteten i den offentliga förvaltningen, oavsett om det rör sig om små eller stora organisationer. Utredningar utförda av Myndigheten för digital förvaltning (Digg) har visat att AI kan medföra en årlig nytta på upp till 140 miljarder kronor för den offentliga förvaltningen. Det blir allt viktigare att regeringen och relevanta myndigheter ser långsiktigt på frågan och sätter ambitiösa mål. Sverige bör sålunda agera kraftfullt och snabbt för att utarbeta en ambitiös och omfattande nationell AI-plan. Tydliga myndighetsuppdrag Det är viktigt att säkerställa svenska myndigheters kompetens vad gäller AI. Det handlar om att Sverige som nation ska ligga i framkant vad gäller användning av tekniken. Det bör utifrån detta resonemang åläggas myndigheter att främja utvecklingen inom AI till gagn för samhällets utveckling. Parallellt med detta måste myndigheter utveckla kompetens och medvetenhet kring de risker som kan koppas till AI och aktivt arbeta för att hantera och motverka dessa genom exempelvis informationsspridning och relevanta regleringar. Forskning och utveckling inom AI Vetenskapsrådet och andra aktörer som fördelar forskningsmedel bör prioritera forskning för att främja AI. Det är dock av största vikt att pengar också används för forskning kring teknikens risker. Därför menar Sverigedemokraterna att medel bör öronmärkas för att forska om riskerna med AI. Detta bör ges som ett särskilt direktiv till Vetenskapsrådet. Nationell AI-infrastruktur År 2021 fick Arbetsförmedlingen, Bolagsverket, Myndigheten för digital förvaltning (Digg) och Skatteverket i uppdrag av den dåvarande regeringen att tillsammans genomföra en insats för att främja den offentliga förvaltningens kapacitet att integrera AI, med målet att stärka Sveriges välfärd och konkurrenskraft. I den slutgiltiga rapporten ”Uppdrag att främja offentlig förvaltnings förmåga att använda artificiell intelligens” som presenterades av Digg i början av 2023 framkommer: Vi ser att det saknas en övergripande samordning vilket gör att mycket dubbelarbete sker, att goda resultat inte sprids och att möjliga nyttor, skaldriftsfördelar med mera inte uppnås. I arbetet med uppdraget har det framkommit att det inom offentlig förvaltning finns en stor efterfrågan på allomfattande och konkret stöd i att ta fram AI-lösningar, säkra tekniska miljöer, att utveckla AI-tjänster i samt guidning och vägledningsmaterial. Detta gäller särskilt för mindre aktörer inom offentlig 4 förvaltning som riskerar att helt eller delvis stå utan möjligheter att bidra till att uppnå nyttorna. Utan åtgärder är det vår uppfattning att skillnader mellan aktörer inom offentlig förvaltning kommer att öka eftersom AI ger stora fördelar för de som kan använda och utveckla AI. Detta tyder på ett behov av en samordnad nationell AI-infrastruktur, både gällande den fysiska AI-infrastrukturen för lagring, delning och bearbetning av data (inom ramen för gällande lagstiftning) och gällande den mjuka AI-infrastrukturen som omfattar utveckling av nödvändiga och relevanta AI-tjänster. Sverigedemokraterna anser att Sverige bör utarbeta planer för en sammanhängande nationell AI-infrastruktur avsedd för gemensamma AI-lösningar inom den offentliga förvaltningen. Naturligtvis krävs omfattande ekonomiska insatser för att uppnå en sådan effektiv och fungerande AI-infrastruktur. Men med tanke på de potentiellt enorma ekonomiska fördelar som AI kan medföra inom den offentliga sektorn, bör detta arbete dock påbörjas så snart som möjligt. Arbete inom EU för en konkurrenskraftig och teknikneutral AIpolitik Politiken i Sverige har under lång tid främjat innovation, forskning, teknologi och rättvis konkurrens och handel. Överdriven EU-reglering riskerar dock att kväva vår innovationsförmåga och hindra de möjliga fördelarna av ny teknik för näringslivet. Sverigedemokraterna anser att den nya europeiska AI-akten, ”förordning om harmoniserade regler för artificiell intelligens”, innehåller många lovvärda initiativ, men menar att Sverige för den skull inte kan luta sig tillbaka och förlita sig till byråkratin i Bryssel. Risken är överhängande att många av dessa regler kan placera Sverige och övriga europeiska nationer i baksätet gentemot de länder som leder utvecklingen inom AI. Det är viktigt att man hanterar risker med AI på ett adekvat sätt, men vi måste samtidigt försöka att undvika teknologisk eftersläpning på grund av ogenomtänkt byråkrati. Sverige bör engagera sig mer inom Europeiska unionen för en konkurrenskraftig och teknikneutral AI-politik. Internationellt samarbete Riskerna med AI är i allt väsentligt gränsöverskridande. Utifrån detta är det helt centralt att vi arbetar internationellt med frågor kring AI och de risker som kommer med teknologiutvecklingen. Vi måste främja internationellt samarbete inom normgivning och brottsbekämpning för att möta de växande hoten och Sverige bör i sammanhanget vara en proaktiv part. Motverka tillämpning av AI för brottsliga ändamål Sverigedemokraterna anser att regleringen av AI bör fokusera på tillämpningen av tekniken snarare än på hur tekniken i sig utvecklas. Riskerna med AI är många och det ligger i sakens natur att det är svårt att förutse hur teknologin kan komma att missbrukas. Vissa saker kan dock redan nu förutses och det ligger i tangentens riktning att AI-bottar kan bygga relationer med människor utan att man ens vet att det handlar om AI. Detta kommer man i sin tur hinna nyttja för diverse kriminell verksamhet eller för 5 att förleda oss att köpa vissa produkter och tjänster, inta en viss åsikt, rösta på ett visst parti och så vidare. En enkel reglering för att till exempel kunna lagföra vissa bedrägerier vore att i lag reglera i vilken utsträckning AI får kommunicera med en människa utan att informera om att det rör sig om ett dataprogram. Givet att AI kan komma att missbrukas enligt ovan, är det rimligt att redan nu börja bena ut vem som bär ansvar för vad. Möjligen är det så att den som tillhandahåller AIverktyg behöver få bära åtminstone en del av ansvaret om teknologin missbrukas och företaget skulle kunna ha förhindrat detta. Redan nu bör man initiera en utredning för att på sikt kunna arbeta fram svar på dessa frågor. Utökat allmänt medvetande om AI och cyberresiliens I dagens digitala värld har AI och teknikens snabba framsteg gett upphov till ett förändrat landskap av möjligheter och utmaningar. För att utnyttja AI:s fördelar fullt ut och samtidigt skydda samhället från de potentiella risker som medföljer är det av yttersta vikt att utöka det allmänna medvetandet om AI och cyberresiliens. En väsentlig anledning till att öka medvetandet om AI är att teknologin integreras i många aspekter av medborgarnas liv, från hälsovård och transport till finans och underhållning. Att förstå hur AI fungerar och vilka möjligheter och utmaningar den medför ger människor förutsättningar att fatta informerade beslut och använda tekniken ansvarsfullt. Samtidigt kan kunskaper och färdigheter inom AI motverka missuppfattningar och främja en mer realistisk och faktabaserad syn på tekniken. Cyberresiliens innebär förmågan att förebygga cyberattacker och hot. I en tid då cyberbrott och attacker blir allt vanligare och mer sofistikerade är det avgörande att medborgarna har kunskap om bästa praxis för cybersäkerhet. Att vara medveten om hur man skyddar sina digitala identiteter, privata data och nätverk mot hot som skadlig kod och phishing är kritiskt för att upprätthålla personlig integritet och säkerhet. För samhället som helhet är ett ökat medvetande om AI och cyberresiliens viktigt för att bygga och upprätthålla en stark digital grund. Det bidrar till att skapa en kultur av säkerhet och ansvarstagande, både på individnivå och på samhällsnivå. Det bidrar också till att främja innovation genom att människor är medvetna om både potentialen och riskerna med tekniken. Regeringen bör med anledning av detta ta initiativ till att stärka allmänhetens medvetenhet om AI och cyberresiliens. Tidiga utbildningsinsatser i skolan gällande AI och cybersäkerhet Nyligen rapporterades att Hongkong blir det första landet att inkludera AI i skolornas läroplan från grundskolan. Elever kommer att studera grundläggande aspekter av teknologin, inklusive användningen av Chat GPT och andra språkmodeller, samt dess etiska och samhälleliga påverkan. Sverigedemokraterna välkomnar en liknande satsning på att inkludera AI och cybersäkerhet i skolundervisningen som en positiv och framtidsinriktad åtgärd. Att från tidig ålder undervisa elever om AI, i de ämnen där detta är relevant, ger dem en konkurrensfördel och förbereder dem för en framtid där teknologin kommer att spela en allt större roll. Det ger också eleverna en djupare förståelse för teknologins grundläggande principer och koncept, inklusive dess möjligheter och begränsningar, vilket kommer att vara värdefullt på den framtida arbetsmarknaden. 6 Inkluderingen av AI i läroplanen främjar också elevernas kritiska tänkande kring teknologins påverkan. Det ger dem möjlighet att delta i diskussioner om etik, risker och fördelar med AI-användning. Kunskap om cybersäkerhet hjälper elever att förstå farorna med internetanvändning och digitala plattformar samt ökar medvetenheten om hot som virus, skadlig kod, phishing och andra bedrägerier. Automatiserat beslutsfattande Idag är det vanligt att konsumtionsmönster, vanor, beteenden och konsumenters köp kartläggs. Det ska vara transparent och tydligt vad som kartläggs och konsumenten ska kunna säga nej till kartläggning, om man så önskar. Det måste i minst lika hög grad vara möjligt för konsumenter att få kunskap och kartläggning om regler, alternativa valmöjligheter, avtal och om företagstjänster och produkter. Det finns ett behov av utökad konsumentsäkerhet och trygghet kring automatiserat beslutsfattande i de tjänster där sådant ingår. Det gäller inte minst de tjänster som oskyddade konsumenter, exempelvis barn, använder. AI används i stor utsträckning inom detta område, en utveckling som kan beskrivas som exponentiell. Detta skapar stora möjligheter vad gäller smart marknadsföring, men det ställer också krav på kompetens och ställer nya krav kring hantering av data och säkerhet. Automatiserat beslutsfattande används sedan en längre tid tillbaka i stor utsträckning inom svenska myndigheter och tjänster som privatpersoner använder. Detta sker exempelvis inom Arbetsförmedlingen, Transportstyrelsen, Försäkringskassan och vissa kommuner. Även företag använder det i upphandlingsprocesser och inom ekonomiadministration. Det förekommer också i andra former av tjänster och produkter som kommersiella företag levererar. I en vidare bemärkelse är teknikens användning i tjänsterna ändå relativt ny och regelverket har inte utvecklats i samma takt som övrig teknik- och tjänsteutveckling. En rad faktorer aktualiserar mer anpassad reglering. Det gäller bland annat åtgärder kring säkerställande av konsumenternas förtroende om säkerhet och funktion, etiska frågor och möjlighet till mänsklig kontroll. Fler faktorer att ta hänsyn till är ansvarsfördelning, korrigeringsmöjlighet samt möjlighet att pröva och häva beslut. Ytterligare aspekter som behöver beaktas är säkring av hantering och skydd av personuppgifter, åtgärder för eventuella luckor i lagstiftningen samt anpassning av risk- och säkerhetsbestämmelser för olika produkter. Dessa viktiga aspekter har även Europaparlamentet lyft, vilket framgår av resolutionen om automatiserat beslutsfattande: Att säkerställa konsumentskydd och fri rörlighet för varor och tjänster 2019/2915(RSP). Den europeiska kommissionen har därför tillsatt en expertgrupp för AI-frågor. Sverige behöver tillse att svenska konsumenter och andra intressenter skyddas av lagstiftningen. En eventuell harmonisering med kommande EU-lagstiftning får inte innebära att svenska konsumenters trygghet och säkerhet får stå tillbaka. Som konsument kan det i flera olika fall vara nödvändigt att ha möjlighet att ändra beslut och köp. Det behövs därför tydliga regleringar och moderniserade tillsynsmöjligheter då konsekvenserna av AI-teknikerna kan bli stora. Nackdelen med AI-system är svårighet att förklara beslut i efterhand, att åtgärda problem och att felaktigheter kan förekomma i systemen. Det förekommer tillförlitlighetsbrister och att systemens transparens är 7 otillräcklig. Konsumenter behöver ha rätten att motsätta sig beslut som fattats automatiskt och att få veta vilka data som används, i vilket syfte och vem som har tillgång till dessa data. Lagstiftning behöver baseras på risken för allvarliga konsekvenser. Leverantörer av tjänster där AI-system används ska kunna demonstrera att systemen följer relevant lagstiftning, exempelvis genom insyn från tillsynsmyndighet. Rashid Farivar (SD) Josef Fransson (SD) Thomas Morell (SD) Patrik Jönsson (SD) Jimmy Ståhl (SD) Martin Westmont (SD) 8