Podd #365: Osynlig märkning avslöjar ai-slask

PubliceringsdatumFörfattare

Den andra augusti trädde en ny del av EU:s ai-akt i kraft. Nu måste ai-verktyg som genererar bilder, videofilmer, ljudklipp och texter infoga en maskinläsbar ai-märkning. Utöver den redan etablerade Content Crendentials-taggningen (podd #343) har många ai-tjänster börjat väva in en osynlig vattenstämpel som inte kan plockas bort på något enkelt vis.

Ett exempel på sådan vattenstämpel är Synth ID, vilken används av bland annat Google, Open AI, Anthropic och Elevenlabs. För människor lämnar Synth ID-vattenstämpeln inga spår. Den gör bara att dedikerade skanningsverktyg kan identifiera vattenstämpeln och avslöja att materialet är ai-genererat.

Veckans poddavsnitt är en uppföljning till förra veckans avslöjande om Tiktoks oförmåga att efterleva den egna ai-policyn. Peter och Nikka pratar om hur de nya ai-märkningarna kan hjälpa de stora plattformarna att enklare upptäcka ai-genererat material.

Podduon pratar också om att flera plattformar (äntligen) har bestämt sig för att ta itu med ai-slaskproblemet. Under sommaren har bland annat Youtube, Linkedin och Snap meddelat att de vill minska mängden ai-slask som användarna ser. Youtube tar bort möjligheten att tjäna pengar på ai-slaskvideor. Linkedin prioriterar ner ai-genererat material och ger användare en ny knapp för att rapportera det som Linkedin kallar ”ai-skräp”. Snap tar ytterligare ett steg och slutar visa fullständigt ai-genererade videoklipp i sin så kallade Spotlight-vy.

I veckans podd pratar Peter och Nikka också om ett välgjort e-handelsbedrägeri, en sårbarhet i Copilot och en synnerligen beklaglig upptäckt hos Amazon.

Kapitel i avsnittet

Detektionsverktyg för osynliga vattenstämplar

Omtalat i avsnittet

Detta poddavsnitt och dess tillhörande artikel är publicerade under CC BY 4.0-licens, med undantag för citat och bilder där en annan fotograf är angiven.

Kommentar