Sedan många år kämpar en skara politiker för att införa bakdörrar i totalsträckskrypterade meddelandeappar, till exempel Apples meddelandeapp. Genom massövervakningsförslaget Chat Control 2.0 vill EU-kommissionen kräva bakdörrar som kan utnyttjas för att skanna efter barnövergreppsmaterial. Det svenska förslaget om så kallad anpassningsskyldighet för leverantörer av totalsträckskrypterade meddelandetjänster kräver liknande bakdörrar men av andra skäl.
Än så länge har ingen sådan bakdörrslag gått igenom i den demokratiska delen av världen. Det betyder inte att totalsträckskrypteringen står ohotad. Förra veckan lanserade Open AI en ny Chat GPT-funktion som i praktiken fungerar likt en bakdörr till Apples meddelandeapp.
Den nya funktionen kan bland annat användas för att hitta eller sammanfatta Imessage-konversationer. Problemet är att konversationerna då laddas upp till Open AI:s molntjänst, vilken till skillnad från Imessage inte tillämpar totalsträckskryptering. Open AI påpekar att ingen uppladdning görs utan användarens samtycke men missar att en konversation består av flera parter. En person som skickar meddelanden via Imessage förväntar sig Imessages nivå av konfidentialitet, inte Chat GPT-säkerhet.
I veckans podd pratar Peter och Nikka om problemet som uppstår när en konversationspart tar sig friheten att bestämma hur gemensamma konversationer ska skyddas. Nikka poängterar att risken för att data läcker är värd att ta på allvar. Open AI har redan lämnat ut Chat GPT-konversationer. I fjol tvingades Open AI att ge New York Times tillgång till 20 miljoner konversationer på grund av en upphovsrättsrelaterad rättstvist.
Podduon pratar också om DN:s fortsatta granskning av Tiktoks moderering och om risken för så kallade Eviltoken-attacker. Den risken har visat sig vara betydligt större än Nikka tidigare trodde.
Kapitel i avsnittet
- 00.00 Inledning
- 01.06 Apple låter bli att försämra sin e-postaliastjänst
- 04.16 rågor och kommentarer om ai-vattenmärkning
- 09.09 Tiktoks moderatorer tillät politiska deepfakes
- 15.16 Enbart helt nya Microsoft 365-organisationer skyddas mot Eviltoken-attacken
- 20.08 Chat GPT blir en frivillig bakdörr till Apples meddelandeapp
Omtalat i avsnittet
- Bli säker-poddinslaget om sårbarheten i Apples ”Göm min e-postadress”
- Apples uppdatering om ”Göm min e-postadress”
- Anthropics FAQ om ai-vattenmärkningen
- Bli säker-poddinslaget om ai-tjejer och dropshopping på Tiktok
- Tiktoks artikel om trygga val
- DN:s artikel om politisk ai-propaganda på Tiktok
- Bli säker-poddinslaget om Eviltoken-attacker
- Säkerhetskollens artikel om Eviltoken-attacker (publiceras under dagen)
- Swedroid-foruminlägget om svenskt RCS-stöd i IOS 27
- Open AI:s uppdateringsnotis om Imessage-tillägget
- Open AI:s X-inlägg om Imessage-tillägget
- Bloomberg-artikeln med Open AI:s svar på kritiken om Imessage-tillägget
- Open AI:s artikel om New York Times-stämningen
