Enskild motion M1076 Motion till riksdagen 2024/25:2289 av Ulrik Nilsson (M) AI och rättssäkerheten Förslag till riksdagsbeslut Riksdagen ställer sig bakom det som anförs i motionen om att överväga att utreda frågan om AI och rättssäkerheten och tillkännager detta för regeringen. Motivering Artificiell intelligens (AI) används i allt högre grad och i många tillämpningar. I en vid tolkning skulle AI kunna beskrivas som datorbaserad samkörning av dels datamängder dels algoritmer och där resultatet av samkörningen ger ett resultat som kan användas vidare. I några fall används en bestämd algoritm under det att det i andra fall används föränderliga algoritmer och där den använda algoritmen beror av information från tidigare körningar och andra källor, den informationen kallas ofta för träningsdata. I princip finns därför tre delar: indata (de data som skall behandlas), träningsdata och algoritm. AI används både kommersiellt och i offentlig sektor och kan då användas både för beslutsfattande och som (besluts-)stöd och naturligtvis för en hel rad andra funktioner. I en del dystopiska beskrivningar förutskickas att om AI används för autonomt beslutsfattande kan situationer uppkomma där AI ”springer iväg” och skapar situationer som är okontrollerbara. Mot bakgrund av denna allmänt hållna beskrivning finns det anledning att fundera över vad AI kan medföra, allt ifrån effektivisering av processer till mer eller mindre systemhotande funktioner och vad som kan/bör regleras för att hantera risker och möjligheter. Föreliggande motion är ett försök att något presentera tankar i det syftet. AI är ingen människa Det kan sägas vara uppenbart att AI inte är någon människa samtidigt kan man fundera över om AI kan agera som en juridisk person. Får AI självständigt ingå juridiska åtaganden och omfattas texter genererade av AI av yttrandefrihet, har AI åsiktsfrihet och så vidare. Ur en mer filosofisk synvinkel är det enkelt att svara nekande på ovanstående, mänskliga rättigheter tillkommer endast individer (fysiska personer) även om det i vissa fall går att ge juridiska personer vissa mänskliga rättigheter (exv tillerkänns ett aktiebolag äganderätt). Här behövs ett ställningstagande där det tydligt sägs att AI inte har några särskilda rättigheter utan att för att ingå juridiska avtal måste AI:s resultat bekräftas och stödjas av en fysisk person. Först när ansvaret tas av en identifierbar människa bör AI-genererat material ha jurisdiktion betydelse och juridiskt skydd. Beslut fattade med AI kräver insyn AI används i allt större utsträckning av offentliga organ för att effektivisera handläggningen av ärenden, ärenden som ibland direkt påverkar enskilda personers vardag. Exempel kan vara bedömning av rätt till bistånd eller kontroll av självdeklarationer. När AI-system används antingen som beslutsstöd eller för beslutsfattande i offentlig sektor så kräver rättskänslan att systemen är transparenta och att de kan granskas av en intresserad medborgare. Detta kan åstadkommas genom att det beslutas att själva algoritmen samt eventuella träningsdata hålls tillgängliga, personliga indata är ofta underkastade sekretess. Görs så kan dels den som känner sig förfördelad använda ”sina” data för att bekräfta systemet, dels kan den som tvekar skapa en uppsättning typ-data och köra systemet samt genomföra beräkningen manuellt. I likhet med vad som argumenterats för ovan bör själva beslutet bekräftas av en identifierbar person. Myndighetsbeslut kan alltid i det enskilda fallet överklagas och prövas så att felaktiga beslut kan undanröjas. I fallet med att beslut fattas av eller med stöd av algoritmer bör det även övervägas att införa en juridisk klagoväg för algoritmen som sådan. Exempelvis skulle det kunna tänkas att en algoritm missgynnar personer men så lite så att ingen för egen del ids överklaga, då bör den som finner en sådan situation kunna rikta klagomål på algoritmen och därmed få rättelse. Domstolar och AI Området är tvåfaldigt dels använder domstolar AI som ett hjälpmedel i sitt dagliga arbete dels kommer det med all sannolikhet att behövas specialistkompetens inom AI vid dömandet av mål kopplade till AI. Det finns därför anledning att fundera över om inte någon eller några domstolar (exv HFD och kammarrätterna) uppdras att säkerställa kompetens inom AI/databehandlingsområdet. Detta för att öka sannolikheterna till korrekta och välmotiverade domslut där AI är inblandat. Förslag Det bör utarbetas en lagstiftning som säkerställer rättssäkerhet kopplat till den ökande användningen av artificiell intelligens, reglerna kan exempelvis innehålla: 1. En tydlig deklaration att AI inte åtnjuter rättigheter och skydd som person, utan för att AI material skall har juridisk verkan och skydd krävs det att en identifierbar individ lämnar uppgifterna. 2 2. För AI som används inom offentlig sektor skall algoritmer och eventuella träningsdata finnas tillgängliga på samma sätt som gäller för allmän handling. 3. I förvaltningslagen införs en bestämmelse som innebär att en använd algoritm och dess träningsdata kan prövas juridiskt. 4. Några domstolar åläggs att säkerställa kompetens inom området för AI och databehandling för att öka rättssäkerheten. Ulrik Nilsson (M) 3