UNICEFPress och media
Nästan en elev i varje skolklass utsatt för AI-genererade nakenbilder

Pressmeddelande ·

Nästan en elev i varje skolklass utsatt för AI-genererade nakenbilder

Tre procent av svenska ungdomar uppger att någon har skapat en nakenbild eller film av dem med hjälp av AI. Det motsvarar nästan en elev i varje skolklass. Samtidigt oroar sig nästan hälften för att AI ska användas för att skapa nakenbilder eller filmer av andra. Det visar en ny rapport från UNICEF Sverige.

Kvinna i beige tröja håller i och använder en smartphone.

Resultaten kommer från UNICEF Sveriges nya rapport Jag frågade AI, om barn och ungas erfarenheter av generativ AI. Rapporten bygger på en riksrepresentativ Novusundersökning med 551 ungdomar i åldern 14–17 år samt fokusgrupper med unga från olika delar av Sverige. 

AI-utvecklingen går snabbt och påverkar redan barn och ungas vardag. Med hjälp av vanliga bilder från sociala medier kan AI användas för att skapa nakenbilder som ser verkliga ut. I rapporten och fokusgrupperna beskriver unga hur risken påverkar deras vardag. Vissa begränsar vilka bilder de delar, medan andra upplever att det är deras eget ansvar att bevisa att en bild är falsk eller hantera konsekvenserna om den sprids.  

– Barn ska inte behöva leva med rädslan att deras bilder kan manipuleras eller spridas utan deras samtycke. De ska inte heller behöva välja bort den digitala världen för att slippa utsättas. Här måste samhället och framför allt techbolagen ta ett större ansvar för att skydda barn från den här typen av övergrepp, säger Lulu Li, barnrättsexpert hos UNICEF Sverige.  

"AI-genererade nakenbilder kan skapas på några sekunder"

Rapporten visar att AI-genererade nakenbilder är ett område som väcker oro hos många unga och där de efterfrågar bättre skydd. I fokusgrupperna beskriver unga hur enkelt det är att få tag på verktyg för att skapa realistiska nakenbilder utifrån vanliga bilder och hur det påverkar deras trygghet och delaktighet på nätet. Flera uttrycker även en oro över att utsatta barn och unga själva förväntas hantera konsekvenserna när bilder sprids. De efterfrågar ett fungerande skydd som sätts in tidigare, bland annat genom tekniska begränsningar för att förhindra att AI-genererade nakenbilder skapas och sprids.  

"Vissa vågar inte publicera [bilder] för att de tror att de kommer ta bilderna", berättar en tjej i gymnasiet i rapporten.  

Samtidigt vittnar unga om att de inte vet vart de ska vända sig om de drabbas och flera tjejer beskriver också sina strategier för att hantera situationen och bevisa att bilden inte är äkta.  

"AI, till exempel om jag har ett födelsemärke här, vet inte att jag har ett födelsemärke här. Då kan man bevisa att det inte är jag", säger tjej i gymnasiet i rapporten.  

– AI-genererade nakenbilder kan skapas på några sekunder med hjälp av helt vanliga bilder från sociala medier. Även om bilden är fejkad så är skadan den orsakar barnet allra högsta grad verklig, säger Lulu Li. 

En del av en större rapport om ungas liv med AI 

Resultaten om AI-genererade nakenbilder är en del av UNICEF Sveriges större rapport Jag frågade AI – barn och ungas tankar och erfarenheter i en digital tid. Rapporten undersöker hur unga använder generativ AI i skolan och i personliga frågor, men också hur de ser på risker som kränkningar, bedrägerier och desinformation. Det är den första svenska rapporten om generativ AI som helt utgår från ungas egna erfarenheter och perspektiv.  

Rapportens övergripande slutsats är att barn och unga i stor utsträckning har lämnats ensamma med att förstå och hantera både möjligheterna och riskerna med AI. UNICEF Sverige efterlyser att techbolagen tar ett större ansvar för att förhindra AI-relaterade kränkningar, att en nationell handlingsplan för barn och AI tas fram och att barn får större delaktighet i beslut som påverkar deras digitala liv.  

Om rapporten 

Rapporten bygger på: 

  • Fokusgrupper med sammanlagt 51 ungdomar i åldern 14–17 år från fyra skolor. 

  • En analysgrupp med nio ungdomar som har diskuterat resultaten och tagit fram egna förslag. 

  • En Novusundersökning med 551 ungdomar i åldern 14–17 år från hela Sverige. Undersökningen genomfördes med ett riksrepresentativt urval och resultaten har viktats för att spegla befolkningen i åldersgruppen. 

Siffror i korthet från Novusundersökningen

  • Tre procent uppger att någon har skapat fejkade nakenbilder/video av dem med hjälp av AI. Det är nästan en elev i varje skolklass.  

  • 56 procent känner sig oroliga för att människor använder AI-tjänster för att sprida falsk information.  

  • 49 procent oroar sig för att AI ska användas för att skapa nakenbilder eller filmer av andra. Oron är större bland tjejer, 54 procent, än bland killar, 44 procent. 

  • 50 procent är oroliga eller mycket oroliga för att själva bli utsatta för AI-genererade nakenbilder. 

Bilder

1X4A6072_tonaring-mobil_fotograf-emelie-werklund_2000px

Kontakt

Om UNICEF Sverige

UNICEF har medarbetare och experter över hela världen. Vi hjälper gärna journalister med fakta, intervjuer och kommentarer om barns rättigheter och barns situation i Sverige och globalt. 

Tillbaka till pressrummet

SÖK
STÖD OSS