Podd #328: AI-genererade orosmoln var befogade

Molnbaserade AI-chattbotar används för att diskutera många typer av frågor, inklusive frågor om känsliga ämnen. Detta är ChatGPT:s ägare OpenAI väl medvetna om. I mitten av november publicerade OpenAI ett blogginlägg där de skrev att det nu är över 800 miljoner människor som använder ChatGPT varje vecka. Enligt blogginlägget för användarna känsliga samtal med ChatGPT, och de delar allt från minnen och filer till inloggningsuppgifter och betalningsinformation.

På grund av en pågående rättstvist försöker New York Times tvinga OpenAI att lämna ut 20 miljoner privata chattsamtal. Eftersom OpenAI har designat molntjänsten utan totalsträckskryptering har OpenAI åtkomst till chattarna och kan därmed tvingas lämna ut dem.

ChatGPT är inte den enda chattboten som har hamnat i blåsväder under de senaste veckorna. Förra veckan avslöjade Crowdstrike att den kinesiska modellen Deepseek-R1 genererade programmeringskod som, med högre sannolikhet, innehöll sårbarheter om användaren nämnde ämnen som är politiskt känsliga för kinesiska kommunistpartiet.

Faktumet att Deepseeks molntjänst är hårt censurerad är ingen nyhet (lyssna på avsnitt 286 av Bli säker-podden), men Crowdstrikes avslöjande gällde inte molntjänsten utan själva modellen. Crowdstrike körde modellen i egen regi och kunde därmed påvisa att det är modellen i sig som är problematisk.

I veckans podd pratar Peter och Nikka om dessa orosmoln som nu har visat sig vara befogade att ta på allvar. Podduon bekymrar sig också över ett nytt orosmoln som Microsoft har skapat: Windows-chefen har precis twittrat att Windows ska bli ett AI-agentbaserat operativsystem.  

Kapitel i avsnittet

• 00.00 Inledning
• 01.05 Black Friday-tips i Säkerhetsbubblan
• 01.53 Svenska kraftnät-datan har inte publicerats
• 02.26 EU-länderna överens om Chat Control 2.0 utan bakdörrar
• 06.37 Signal får stöd för säker säkerhetskopiering
• 11.51 SSF släpper tredje rapporten i serien Framtidens brott
• 13.23 X börjar visa var konton är baserade
• 17.15 Open AI kan tvingas lämna ut 20 miljoner privata chattar
• 21.52 Deepseek-modellen skriver sårbar kod om Tibet nämns

Omtalat i avsnittet

• Säkerhetsbubblans Black Friday-tråd
• NordVPN:s vilseledande marknadsföring
• Dagens Nyheters artikel om Europaparlamentets sågning av ursprungsversionen av Chat Control 2.0 (2023)
• Europeiska rådets pressmeddelande om Chat Control 2.0 utan bakdörrskrav
• Signals VD:s uttalande om att lämna EU
• Tredje utgåvan av Framtidens brott
• X:s produktchefs inlägg om problem med geodatabasen
• Första Bli säker-poddinslaget om oavsiktliga AI-chattläckor
• Andra Bli säker-poddinslaget om oavsiktliga AI-chattläckor
• OpenAI:s brev om New York Times krav på att få läsa ChatGPT-samtal
• Bli säker-poddinslaget om problemen med Deepseeks molntjänst
• Crowdstrikes avslöjande om Deepseek-modellen
• Bli säker-poddinslaget om AI-agenter i webbläsare
• Windows-chefens inlägg om att Windows ska bli ett AI-agentbaserat operativsystem
• Microsofts blogginlägg om experimentella AI-agentfunktioner i Windows