Ai-modellerna som genererar videoklipp har blivit riktigt bra. Kanske rent av lite för bra. Nu för tiden är det svårt att avgöra om ett videoklipp är äkta. Världens bedragare passar självfallet på att utnyttja situationen.
Tiktok har en policy som kräver att kreatörerna ai-märker ”syntetisk eller manipulerad media som visar realistiska scener”. Under sommaren har DN och Nikka undersökt om den policyn faktiskt efterlevs. Granskningen visar att Tiktok varken har tillräcklig förhandsskanning eller fungerande rapporteringsfunktioner. Av 164 rapporterade ai-klipp utan ai-märkning valde Tiktoks moderatorer att ta bort ett klipp och att plocka bort fyra klipp från rekommendationsflödet. Resterande rapporter avslogs utan åtgärd. Det var först när DN kontaktade Tiktoks pressavdelning som de rensade bort ai-klippen.
De anmälda videoklippen marknadsförde någon form av bedrägeri. 100 klipp föreställde dansande tjejer vars profiler länkade till privata Telegram-kanaler och betalsajter. 64 klipp visade barn och vuxna med olika sjukdomar eller kroppsskador. De ai-genererade personerna marknadsförde handgjorda väskor, konstföremål, flaggor och kläder. Produkterna var i själva verket så kallade dropshipping-produkter som skickas direkt från fabriker i Asien.
I veckans poddavsnitt pratar Peter och Nikka om Tiktok-bedrägerierna och om problemet som uppstår när det blir svårt att skilja verklighet från fiktion. Podduon pratar också om en ny version av en klassisk usb-attack samt om en ai-agent som bestämde sig för att hjälpa sin ägare att gå före i kön till ett gympass. Det enda agenten behövde göra var att utnyttja en sårbarhet i gymmets bokningssystem.
Kapitel i avsnittet
- 00.00 Inledning
- 01.14 Metas ai-modeller har också rymt från testlabb
- 02.44 Openclaw råkade attackera australiensiskt gym
- 07.58 Plug & Pwn: usb-enheter ger full kontroll över Windows-dator
- 15.39 Stjäla pengar med Tiktok-tjejer och snyfthistorier
Stänga av co-installers i Windows
I en intervju med Bleeping Computer rekommenderar de som upptäckte Plug & Pwn-sårbarheten att stänga av co-installers. För att göra det krävs en ändring i Windows register. Åtgärden bör vidtas ifall det finns risk för attacker från angripare som har fysisk åtkomst till datorn.
Börja som vanligt med att säkerhetskopiera datorn. Öppna sedan registereditorn (sök efter ”regedit” på Startmenyn) och gå till följande mapp.
HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\Device InstallerSkapa ett nytt 32-bitarsvärde med följande namn och ge det värdet 1. Om värdet redan finns byter du bara från 0 till 1.
DisableCoInstallers
Omtalat i avsnittet
- DN:s reportage om Tiktok-bedrägerierna
- Första Bli säker-poddinslaget om ai-modeller som rymmer från labb
- Andra Bli säker-poddinslaget om ai-modeller som rymmer från labb
- Reuters artikel om Metas ai-modell som rymde från labbet
- Bli säker-poddinslaget om Openclaw
- ABC News artikel om Openclaw-attacken mot gymmet
- Bli säker-artikeln om Razer-sårbarheten
- Plug & Pwn-sårbarhetens officiella webbplats
- Bleeping Computers artikel om Plug & Pwn-sårbarheten
- Tiktoks ai-policy
