Transparens och märkning av AI-genererad kommunikation
På denna sida hittar du som arbetar med kommunikation stöd kring vilka krav som gäller när AI-genererat eller AI-manipulerat innehåll ska märkas ut, i enlighet med EU:s AI-förordning. Du får också rekommendationer om hur och var innehållet bör märkas när Lunds universitet är avsändare, i interna och externa kanaler.
Genvägar till sidans innehåll:
Grundprinciper och ansvar
- Grundprinciper för märkning av AI-genererat innehåll
- Vad innebär mänsklig granskning och redaktionellt ansvar?
Innehållstyper och märkning
Grundprinciper för märkning av AI-genererad kommunikation
Lunds universitet har som statlig myndighet ett redaktionellt ansvar för allt innehåll som publiceras i universitetets namn. När universitetet står som avsändare ska mottagaren kunna lita på att innehållet är korrekt, granskat och tydligt. Därför ska du som arbetar med kommunikation vara öppen med när generativ AI har använts, om användningen kan påverka hur innehållet uppfattas – till exempel om det kan misstas för verkligt eller helt mänskligt skapat.
Rekommendationerna på sidan utgår från följande grundprinciper:
- Märkning ska ske balanserat. Märkning av AI-genererat innehåll ska ske när det krävs enligt gällande lagstiftning. Däremot ska överdriven märkning undvikas då det kan riskera att minska förtroendet för universitetet.
- Mottagaren ska aldrig riskera att bli vilseledd kring innehållets autenticitet. Innehåll som riskerar att misstas för autentiskt (så kallade deep fakes) eller helt mänskligt skapat ska alltid märkas ut.
- AI-baserade verktyg ska betraktas som ett stöd i kommunikationsarbetet, och ska inte ersätta mänskligt ansvar, omdöme och kvalitetssäkring. Märkning ska aldrig användas för att frånsäga sig detta ansvar.
- Märkningen ska vara kortfattad och saklig. Följ de rekommenderade formuleringarna för respektive innehållstyp så långt det är möjligt.
- Märkning ska ske i direkt anslutning till innehållet. Den ska vara tydligt särskiljbar och lätt för mottagaren att omedelbart uppfatta i den aktuella kontexten (se eller höra), utan extra klick. Detta gäller även för AI-genererat innehåll i trycksaker och de exempel på placeringar som ges under varje innehållstyp ska anpassas och appliceras även i tryckt material.
Dessa grundprinciper har tagits fram med styrdokumentet Policy med principer för användning av generativ AI inom Lunds universitet som grund och ligger i linje med EU:s AI-förordning (i synnerhet artikel 50). Kraven kring transparens i förordningen är som starkast när innehåll kan uppfattas som autentiskt, dokumentärt eller mänskligt skapat, medan en meningsfull mänsklig granskning och ett tydligt redaktionellt ansvar i vissa fall kan innebära att märkning inte behövs.
Ansvaret för innehållet som publiceras finns på olika nivåer.
Du som tar fram och publicerar innehållet ansvarar för att den mänskliga granskningen av innehållet genomförs och på rätt sätt. Mänsklig granskning innebär att en fysisk person granskar och bearbetar innehållet språkligt och att en fysisk person med relevant sakkunskap godkänner innehållet innan det publiceras. Vad dessa moment innebär specifikt skiljer sig mellan de olika innehållstyperna, vilka du kan läsa om på den här sidan.
Redaktionellt ansvar innebär att en juridisk person, eller i Lunds universitets fall en myndighet, har det yttersta och övergripande ansvaret för att informationen i innehållet är korrekt.
Det finns fall då innehåll publiceras utan att ha genomgått fullständig mänsklig granskning eller där den saknas helt. Även om det alltid rekommenderas att granska innehåll, kan det förekomma vid till exempel automatiserade sammanfattningar etc. Däremot finns det några undantag där mänsklig granskning alltid ska genomföras.
Mänsklig granskning ska alltid göras innan publicering av innehåll som kan påverka en persons rättigheter, skyldigheter eller förväntningar på universitetet. Det gäller särskilt information där fel kan få mottagaren att agera på felaktiga grunder. Om innehållet beskriver villkor, ger besked eller kan uppfattas som ett löfte från universitetet, ska det granskas och godkännas av en person med rätt sakkunskap innan det publiceras, till exempel när information ges om:
- studenters rättigheter och skyldigheter
- behörighetskrav
- ansökningsprocesser
- tillgodoräknanden
- stödinsatser.
Innehållstyper och märkning
Text
När generativ AI används för att ta fram utkast, bearbeta formuleringar, sammanfatta innehåll eller språkligt förbättra texter behöver dessa i regel inte märkas ut. Detta gäller under förutsättningar att texterna granskas, redigeras och godkänns av en eller flera fysiska personer med relevant sakkunskap.
Rekommendation och lagkrav
Undvik att publicera texter som producerats med stöd av generativ AI och där mänsklig granskning saknas helt eller delvis. Om du ändå publicerar en sådan text, till exempel vid en automatiskt genererad sammanfattning av en informationssida ska, enligt lagkrav, AI-användningen märkas ut.
- [Delar av] Texten har tagits fram med stöd av AI och har inte genomgått full mänsklig granskning.
- [Parts of] This text was created using AI and has not undergone full human review.
- Kontrollera sakuppgifter, namn, titlar, datum, siffror, hänvisningar, beslut och kontaktuppgifter mot tillförlitliga källor.
- Säkerställ att AI-verktyget inte har lagt till, utelämnat eller dragit egna slutsatser.
- Anpassa textens innehåll, ton och begrepp efter målgrupp, kanal och sammanhang, enligt Lunds universitets språkpolicy.
- Granska språket utifrån klarspråk och tillgänglighet, till exempel rubriker, länktexter, förkortningar och konsekvent terminologi.
- Kontrollera engelska namn, titlar och begrepp mot LU-ordlistan.
- Säkerställ att texten inte innehåller stereotyper, exkluderande språk, otillåtna personuppgifter eller annan känslig information.
- Låt en person med relevant sakkunskap läsa och godkänna innehållet samt säkerställa källornas tillförlitlighet före publicering.
Märkningen ska placeras i direkt anslutning till texten. Kravet är att mottagaren ska ta del av märkningen vid direkt exponering av innehållet, utan extra klick. Använd kursiv formatering så att märkningen särskiljs från övrig text.
Rekommenderade placeringar
- På webbsidor eller i artiklar där stora delar av texten är AI-genererad bör du placera märkningen direkt under ingressen.
- På webbsidor eller i artiklar där endast en begränsad del (ett stycke, en faktaruta eller liknande) av texten är AI-genererad bör du placera märkningen direkt före texten, exempelvis under rubriken för stycket ifråga eller precis före stycket om rubrik saknas.
- I Powerpoint-presentationer där hela eller stora delar av presentationens text är AI-genererad bör du placera märkningen som en synlig fotnot på samtliga slides/bilder.
- I Powerpoint-presentationer där endast vissa slides/bilder är AI-genererade räcker det att du märker ut endast dessa.
Dessa exempel kan appliceras även i andra sammanhang och format där AI-genererade texter publiceras med Lunds universitet som avsändare. Använd sunt förnuft och anpassa märkningens placering utifrån kontext.
Översättning
När generativ AI eller AI-baserade översättningsverktyg används för att översätta texter behöver detta som regel inte märkas ut. Detta gäller under förutsättning att de översatta texterna granskas, redigeras och godkänns av en eller flera fysiska personer med relevant sakkunskap.
Rekommendation och lagkrav
Använd i första hand AI-verktyg framtagna för specifikt översättningar när du ska översätta texter. Undvik att publicera översatta texter där mänsklig granskning saknas helt eller delvis. Om du ändå måste publicera en sådan text, till exempel vid en automatiserad översättning, likställs detta med en AI-genererad text som ska märkas ut.
- [Delar av] Denna text är översatt med stöd av ett AI-baserat översättningsverktyg och har inte genomgått full mänsklig granskning.
- [Parts of] This text has been translated using an AI-based translation tool and has not undergone full human review.
- Jämför med originaltexten och säkerställ att betydelse, nyanser och syfte har bevarats.
- Kontrollera att inget har lagts till, utelämnats, förvanskats eller blivit missvisande i översättningen.
- Granska sakuppgifter, namn, titlar, organisationsbenämningar, datum, siffror och kontaktuppgifter.
- Kontrollera att facktermer, LU-begrepp och engelska benämningar följer LU:s ordlista och rekommenderad LU-stil.
- Bearbeta språk, ton och idiomatik så att texten fungerar naturligt på målspråket och för målgruppen.
- Låt en person med relevant sakkunskap och språklig kompetens godkänna översättningen före publicering.
När du placerar märkning av AI-översatta texter kan du utgå ifrån samma princip och exempel som för texter.
Se "Så placerar du märkning av texter" under stycket Text.
Visuellt innehåll
När generativ AI används för att helt eller delvis skapa eller bearbeta visuellt innehåll såsom bilder, video, animationer, illustrationer eller annat grafiskt material, kan detta påverka hur mottagaren uppfattar innehållets autenticitet. Transparens är därför särskilt viktig i visuella sammanhang.
Deep fakes och lagkrav
Enligt AI-förordningen är en bild eller video som liknar befintliga personer, föremål, platser eller händelser och som felaktigt skulle kunna uppfattas som autentiskt eller sanningsenligt, en så kallad deep fake. Dessa ska alltid, enligt lagkrav, märkas ut oavsett om mänsklig granskning genomförts eller inte.
Rekommendation
När AI-genererat visuellt innehåll kommuniceras med Lunds universitet som avsändare bör det som regel alltid märkas ut. Detta eftersom det kan vara svårt för dig som enskild medarbetare att förutspå huruvida mottagaren uppfattar innehållet som verkligt (deep fake) eller inte.
Använd inte deep fakes i ett meningsbärande syfte, till exempel när du kommunicerar om verkliga platser, personer eller händelser. Du kan däremot använda AI för till exempel dekorativa inslag eller för att generera genrebilder eller videoklipp, samt för att effektivisera sedvanlig efterbehandling – förutsatt att innehållet inte förvrängs eller riskerar att tolkas som en dokumentation av verkligheten.
Exempel: Om ett filmat inslag handlar specifikt om Skrylle naturreservat ska bilder/videoklipp visa det riktiga Skrylle – inte AI-genererat innehåll som liknar Skrylle. Om inslaget däremot handlar mer generellt om skog kan AI-genererat innehåll användas, under förutsättning att innehållets budskap inte förändras.
Redigering och efterbehandling
Om en bild eller video/motsvarande har redigerats eller efterbehandlats med hjälp av generativ AI på ett sådant sätt att originalbildens innehåll manipulerats eller förändrats, ska detta märkas ut. Exempel kan vara utfyllnad för att göra en bild bredare eller när något tas bort eller läggs till i din bild eller video.
Undantag gäller när AI använts för sedvanlig redigering, till exempel vid förbättring av bildkvalitet eller ljusstyrka. I sådana fall krävs ingen märkning förutsatt att full mänsklig granskning genomförts.
Bilder från upphandlade fotografer
Om bilder från universitetets upphandlade fotografer behandlas med AI ska fotografen alltid ges möjlighet att godkänna materialet innan publicering. Detta framgår i universitetets avtal med fotograferna.
- [Delar av] Bild/video/illustration skapad med stöd av AI.
- [Parts of] Image/video/illustration created using AI.
I sammanhang där utrymmet är begränsat:
- AI-genererad bild/video/illustration.
- AI‑generated image/video/illustration.
Vid redigering av visuellt innehåll:
- Bild/video/illustration efterbehandlad med stöd av AI.
- Image/video/illustration edited using AI.
- Grafisk profil: Allt visuellt innehåll där Lunds universitet är avsändare ska följa universitetets grafiska profil och bildmanér.
- Autenticitet: Använd inte AI-genererat visuellt innehåll som får bärande mening i kommunikation om verkliga personer, platser eller händelser. Mottagaren ska inte riskera att bli vilseledd och tolka innehållet som dokumentation av verkligheten.
- Fotografbilder: Om bilder från universitetets upphandlade fotografer bearbetas med hjälp av AI ska fotografen ges möjlighet att godkänna materialet innan publicering.
- Upphovsrätt och villkor: Säkerställ att du har rätt att använda och publicera materialet och följ villkoren för det AI-verktyg som har använts.
Mer om AI vid skapande av visuellt innehåll i förhållande till juridiska aspekter samt universitetets grafiska profil:
Lagkrav
Märkning av visuellt innehåll ska vara synlig för mottagaren vid första exponering av innehållet och utan att kräva interaktion (klick). Om märkningen placeras i en närliggande text måste denna vara synlig direkt när innehållet visas.
Rekommendation
Då visuellt innehåll kan uppfattas som realistiskt eller som dokumentation av verkliga personer, händelser eller miljöer bör märkningen också placeras i själva bilden eller videon, till exempel genom särskilda ikoner eller tekniska lösningar. Detta gäller också i sammanhang där innehållet kan konsumeras eller delas utan tillhörande märkning. Eftersom universitetet i dagsläget saknar sådana lösningar rekommenderas nedanstående placeringar.
Rekommenderade placeringar
- Bilder på webbsidor/i artiklar: AI-genererade bilder bör i första hand märkas upp i bildtexten där sådan finns. Där möjligheten att lägga till en bildtext saknas kan istället märkningen placeras i ett textstycke som är direkt synligt under bilden. Märkning placerad i bildens alternativtext räknas inte som tillräcklig.
Tips: Om du arbetar i Drupal kan du med fördel välja en infobox framför en imagebox eller image, eftersom du där kan lägga in text i direkt anslutning till bilden. - Video på webbsidor/i artiklar: När AI-genererade videor bäddas in på en webbsida bör märkningen läggas i bildtext eller i annan synlig information i direkt anslutning till videon.
- Sociala medier: När AI-genererat visuellt innehåll publiceras i universitetets kanaler på sociala medier ska märkningen ske i inläggstexten. Märkningen bör placeras så att användaren inte behöver klicka på "visa mer" eller liknande. Om plattformen erbjuder funktioner för att märka AI‑genererat eller AI‑bearbetat innehåll ska dessa användas i enlighet med plattformens riktlinjer. Sådana funktioner ersätter dock inte egen märkning.
- Powerpoint: Visuellt AI-genererat innehåll i Powerpoint-presentationer bör märkas upp i synlig bildtext eller i fotnot på de sidor där det förekommer. Att lägga märkning i anteckningar eller talarmanus räknas inte som tillräcklig märkning.
Undertexter i video
När undertexter i video skapas med hjälp av generativ AI gäller samma princip för märkning som för text och översättningar.
Rekommendation
När AI används som stöd och de genererade undertexterna granskas, korrigeras och kvalitetssäkras av en fysisk person med relevant sakkunskap behöver AI-användningen som regel inte märkas ut.
Detta gäller även när undertexter har översatts med hjälp av AI, förutsatt att språk och terminologi har genomgått mänsklig granskning av en person och att inget innehåll har lagts till, utelämnats eller förvanskats.
Om undertexter däremot genererats på ett mer automatiserat sätt, till exempel vid livesändningar eller konferenser, där den mänskliga granskningen är begränsad eller i praktiken saknas, kan det förekomma risk för att innehållet uppfattas på ett sätt som kan vara vilseledande eller felaktigt. Därför likställs dessa med AI-generad och översatt text och ska märkas ut för mottagaren.
- Undertexterna har skapats med stöd av AI och har inte genomgått full mänsklig granskning.
- The subtitles have been created using AI and have not undergone full human review.
För undertexter gäller samma rekommendationer för mänsklig granskning av språk och terminologi som för innehållstyperna text samt översättning.
Rekommenderade placeringar
- Placera märkningen av undertexter i direkt anslutning till videospelaren, exempelvis i videons beskrivningstext, förutsatt att denna är direkt synlig för mottagaren vid första exponering av innehållet och utan att kräva interaktion (klick).
- Om beskrivningstexten inte är direkt synlig vid exponering bör märkningen även placeras som en undertext i början av videon, så att mottagaren uppfattar informationen i samband med att videon spelas.
Ljud
När generativ AI används för att skapa och bearbeta ljud så som musik, ljudeffekter eller syntetiska röster, finns en risk för att mottagaren vilseleds. Det kan handla om att rösten kommer från en verklig person, att inspelningen skildrar en verklig händelse eller att människor har skapat musiken.
Rekommendation och lagkrav
Enligt AI-förordningen är AI-genererat eller manipulerat ljud som låter som verkliga eller befintliga personer, ljud som uppstår på platser eller vid händelser och som felaktigt skulle kunna uppfattas som autentiskt eller sanningsenligt, en så kallad deep fake. Dessa ska alltid, enligt lagkrav, märkas ut oavsett om mänsklig granskning genomförts eller inte.
Undvik att använda AI-genererade röster som kan förväxlas med en verklig person, om du inte har tydligt samtycke från personen och det är motiverat i sammanhanget.
Bearbeta ljud med AI
När ljud istället bearbetas med hjälp av AI för att förbättra kvalitet behöver innehållet inte märkas ut, förutsatt att en fysisk person med relevant sakkunskap granskat och kvalitetssäkrat redigering och slutresultat. Detta gäller förbättringar som brusreducering, justering av nivåer eller andra standardiserade efterbearbetningar.
Om bearbetningen däremot kan påverka hur mottagaren uppfattar innehållets autenticitet, om exempelvis formuleringar eller röster ändras, ska innehållet alltid märkas ut. Samma sak gäller vid syntetiska rekonstruktioner, till exempel om ljudupptagning försvunnit från ett klipp och AI används för att återskapa ljudet.
- [Musik/bakgrundsljud/ljudeffekter/språktolkning/berättarröst/röster] skapat/skapad med stöd av AI.
- [Music/background sounds/sound effects/voice-over/narration/voices] created using AI.
Säkerställ att:
- du har rättigheter/licenser för musik och ljud, även när AI används.
- manus och faktainnehåll har granskats samt att en fysisk person med relevant sakkunskap har lyssnat på slutresultatet.
- du har samtycken och följer lagkrav när du använder AI-genererade röster som låter som befintliga personer.
För ljud gäller att märkningen ska vara både hörbar och visuellt synlig. Märkningen ska placeras direkt där mottagaren möter ljudet, utan extra interaktion (klick).
Rekommenderade placeringar
- I början av en ljud- eller videouppspelning (som röst och/eller undertext) om hela eller stora delar av ljudet är AI-genererat.
- I undertext vid specifika scener eller delar där ljudet är AI-genererat (ljudeffekt, röst etcetera.)
Kontakt
Sektionen Kommunikation
Anna Johnsson
Kommunikatör
anna_v [dot] johnsson [at] kommunikation [dot] lu [dot] se (anna_v[dot]johnsson[at]kommunikation[dot]lu[dot]se)
+46 46 222 70 21
Edina Voloder
Kommunikatör
edina [dot] voloder [at] kommunikation [dot] lu [dot] se (edina[dot]voloder[at]kommunikation[dot]lu[dot]se)
+46 46 222 67 42
Relaterad information
Rekommendationerna och kraven bygger på EU:s AI-förordning (artikel 50) samt Lunds universitets policy för användning av generativ AI.