AI // Lag & Rätt
EU-regler spikade: AI-genererade bilder måste märkas
Idag röstade EU för förslaget på "AI Act" som är tänkt att reglera användningen av artificiell intelligens. En av flera regler är att AI-genererade bilder måste märkas när de skapas.
EU:s förslag från 2021 för en reglering av användningen av AI och tjänster inom generativ AI, kallad "EU AI Act" – har röstats igenom av EU-parlamentet med 523 röster för, 46 mot, och 49 nedlagda.
Det genomröstade förslaget som nu tros bli lag i maj i år, är uppdelad i olika undergrupper beroende på hur farliga de anses vara. När det gäller bilder, övervakning och AI lutar sig förslaget på de civila rättigheternas upprätthållande, som berör bland annat ansiktsigenkänning och AI, där man inte får använda biometri från övervakning eller filmning, eller från bilder på internet, för att skapa databaser.
De tjänster som använder AI måste också vara transparent och meddela användaren om att det är just en AI-tjänst. För tjänster som använder generativ AI för att generera eller manipulera bild-, ljud- eller videomaterial som kan likna riktiga personer, platser eller händelser som skulle kunna uppfattas av en person som autentiskt – exempelvis så kallade "deep fakes" som bland annat nakenbilderna på sångaren Taylor Swift – måste materialet tydligt anges att innehållet har skapats eller manipulerats av AI av den genererande modellen eller programmet.
Vidare står det att "efterlevnaden av denna transparensförpliktelse ska inte tolkas som att användningen av systemet eller dess utgång hindrar rätten till yttrandefrihet och rätten till konstnärlig frihet och vetenskap som garanteras i EU:s stadga om de grundläggande rättigheterna, särskilt när innehållet utgör en uppenbart kreativ, satirisk, konstnärlig eller fiktivt arbete eller program, med lämpliga skyddsåtgärder för tredje parts rättigheter och friheter".
Uttrycket "deep fake" beskrivs så här i förslaget: "Deep fake betyder AI-genererat eller manipulerat bild-, ljud- eller videomaterial som liknar befintliga personer, föremål, platser eller andra enheter eller händelser och skulle falskt framstå för en person som autentiskt eller sanningsenligt". AI-program som däremot använder AI för att bistå exempelvis vid bildbehandling (AI och inte generativ AI), behöver inte markera sina resultat som "genererade med AI".
Också användningen av upphovsrättsskyddat material som används vid träning av AI-modellerna kräver tillstånd från upphovsrättsinnehavarna, med vissa undantag som exempelvis vetenskapligt producerat och öppet material.
Generativ AI för text, som exempelvis ChatGPT, kommer att behöva följa viss transparens, bland annat att berätta att innehållet har genererats av AI i sina resultat, designa modellen för att motverka genererandet av illegalt material samt krav på publicering av en sammanfattning av upphovsrättsskyddat material som använts för träning av modellen.
Genomröstningen av EU AI Act innebär att de nya reglerna kan börja gälla redan i maj/juni 2024. Överträdelser kan ge böter på upp till 35 miljoner euro för företag.
Dessutom finns även "US AI Safety Institute Consortium", AISIC, som är en samling med över 200 företag som Adobe, Apple, Microsoft, OpenAI, Nvidia och Meta, som nu ska samtala kring utvecklingen av AI, något som du kan läsa mer om här.
LÄS ÄVEN
-
AI hittar över 300 nya figurer på satellitfoto över Nascalinjerna
-
OpenAI, Adobe & Microsoft vill kräva märkning av AI-material
-
Tävling: "AI-bild eller fotografi?" – här är de rätta svaren
-
Fotograf tacklades av polis – får 100 000 dollar i ersättning
-
Tävling: "AI-bild eller fotografi?" – kolla om du kan se skillnaden
-
AI, Facebook & Instagram: Meta skjuter upp släpp av AI-modell i EU