Enskild motion S796 Motion till riksdagen 2025/26:1815 av Aylin Nouri och Eva Lindh (båda S) Märkning av AI-genererat material för att motverka desinformation och deepfakes Förslag till riksdagsbeslut Riksdagen ställer sig bakom det som anförs i motionen om att utreda lagstiftning som säkerställer att bilder och rörligt material som produceras med hjälp av artificiell intelligens alltid innehåller en vattenstämpel eller motsvarande spårbar märkning och tillkännager detta för regeringen. Motivering Den tekniska utvecklingen inom artificiell intelligens har skapat helt nya möjligheter att manipulera bilder, filmer och ljud. Resultatet kan vara så naturtroget att det för en enskild individ är omöjligt att avgöra vad som är äkta och vad som är manipulerat. Detta fenomen, ofta kallat deepfakes, används redan i dag på sätt som allvarligt hotar både individers integritet och vårt demokratiska samhälle. Ett av de mest utsatta områdena är den växande spridningen av så kallad deepfake-porr. Det handlar om att en persons ansikte eller kropp digitalt placeras i pornografiskt material utan samtycke. Särskilt kvinnor drabbas och konsekvenserna kan bli förödande – med förnedring, psykisk ohälsa och ett långvarigt digitalt eftermäle som följd. När tekniken är lättillgänglig och i princip oreglerad riskerar fler att utsättas. Samtidigt ser vi hur deepfakes används som redskap i desinformationskampanjer och för att påverka politiska processer. Manipulerade filmer och bilder sprids i syfte att tillskriva politiska företrädare uttalanden eller handlingar som aldrig ägt rum. Syftet är att skapa misstro, splittring och påverka opinionen. Internationella exempel visar redan hur sådana metoder utnyttjats för att försöka påverka valresultat och underminera förtroendet för demokratiska institutioner. Ett annat problem är att i reklam och på sociala medier är retuscherade och manipulerade bilder vanligt förekommande, vilket bidrar till att unga människor möter orealistiska kroppsideal. Kroppshets och pressen på unga att leva upp till orealistiska ideal är ett välkänt problem. I Norge, Frankrike och Danmark finns redan lagar om att motverka kroppshets i sociala medier eller så är arbetet med att ta fram en sådan lagstiftning igång. I en tid då både individer och samhällen hotas av AI-manipulerat material måste lagstiftningen utvecklas för att skapa spårbarhet. Genom att införa krav på att AI-genererat bild- och filmmaterial förses med en tydlig vattenstämpel eller liknande märkning kan vi stärka skyddet för enskilda personer mot integritetskränkande övergrepp och samtidigt ge allmänheten bättre verktyg att genomskåda försök till manipulation och desinformation. Sverige bör ta initiativ för att säkerställa att den tekniska utvecklingen inte sker på bekostnad av människors trygghet och demokratins stabilitet. En spårbarhet genom märkning är en rimlig och nödvändig åtgärd för att värna både individens rättigheter och samhällets gemensamma tillit. Aylin Nouri (S) Eva Lindh (S) 2