Teknologien har overhalet lovgivningen.
Mulighederne for at skade både demokratiet, den offentlige samtale og enkeltpersoners egen identitet med deepfake-videoer kan ikke imødekommes inden for den nuværende lovgivning.
Det er opdraget for regeringen, der nu vil forsøge at forbyde spredning af deepfake-indhold, fortæller kulturminister Jakob Engel-Schmidt.
- Derfor vil vi bruge ophavsretsloven til at indføre en bestemmelse, hvor man har ret til egen krop, stemme, ansigtstræk og billede, siger han.
Regeringen vil indkalde til forhandlinger om ændringer i ophavsretsloven, således at man kan forbyde spredning af manipuleret indhold som deepfake-videoer og AI-generet indhold, hvis de portrætterer en person, der ikke har givet samtykke til det.
Loven skal dermed moderniseres, så den tager højde for de nyankomne, falske videoer, der på kort tid har spredt sig over internettet, og som kan udgøre identitetstyveri.
Deepfake-videoer er et begreb for videoer, der er fremstillet med kunstig intelligens. På kort tid er teknologien blevet så moden, at de falske videoer kan være svære at skelne fra rigtige.
Dermed kan man få kendte personer som eventuelt politikere til at sige ting, de ikke mener. Det kan destabilisere demokratier, frygter Jakob Engel Schmidt.
Kulturministeren ser for sig, at teknologien bliver så god, at der hurtigt kan spredes videoer af eksempelvis statsministeren, der melder Danmark ud af Nato.
- Lovgivningen her handler i første omgang om at beskytte demokratiet og sørge for, at det ikke er muligt at sprede deepfake-videoer, hvor mennesker siger noget, de ikke kunne drømme om at sige i virkeligheden, siger han.
Også civile borgere skal beskyttes bedre af det nye forslag.
Konkret vil lovforslaget lægge sig under EU’s rammelovgivning og give Danmark mulighed for at pålægge tech-giganterne at fjerne deepfake-indhold.
- Hvis man oplever som menneske, at nogen laver en deepfake-video af en, og man ikke har givet lov til det, kan loven sikre, at tech-giganterne skal pille videoerne ned igen, siger Jakob Engel-Schmidt.
Når det kommer til satirisk brug af deepfake og AI, vil kulturministeren stadig holde det lovligt – på betingelse af, at det er tydeligt.
Spørgsmål: Men hvordan skal det vurderes, hvad der er tydelig og god satire?
- Det er altid et spørgsmål for domstolene, hvis man er i tvivl, men det er kendetegnet ved, at alle kan se, at det er for sjov.
Jakob Engel-Schmidt afviser samtidig, at forbuddet kan være en knægtelse af ytringsfriheden.
- Det er at beskytte den offentlige samtale, siger han og påpeger, at det aldrig har været lovligt at stjæle andres identitet.