Podd #361: Ai-modellen som rymde från labbet

PubliceringsdatumFörfattare

Hugging Face har utkristalliserats som ai-världens motsvarighet till Github. Webbtjänsten har blivit den naturliga samlingsplatsen för öppna ai-modeller. Torsdagen 16 juli meddelade Hugging Face att de hade drabbats av ett intrång. De skrev att intrånget skilde sig från alla tidigare cyberattacker som de hade varit med om. Den här gången kom attacken från en okänd och till synes helt autonom ai-agent.

En vecka tidigare riktades världens ögon mot Open AI:s senaste ai-modell GPT 5.6 Sol. Utifrån en snillrikt skriven prompt, och ett förbud mot att ge upp, hade modellen lyckats bevisa ett av matematikens olösta problem. En säkerhetsforskare vid Searchlight Cyber inspirerades av framgången och skrev en liknande prompt. Han bad GPT 5.6 Sol att hitta sårbarheter i det populära publiceringsverktyget Wordpress.

Fredagen 17 juli rullade Wordpress ut en akutuppdatering. Den envisa GPT 5.6 Sol-modellen hade lyckats med uppgiften. GPT 5.6 Sol hade hittat en kritisk sårbarhetskedja som gav angripare administratörsrättigheter på valfri Wordpress-webbplats.

Tidigare samma vecka utvärderade Open AI cybersäkerhetsförmågorna hos både GPT 5.6 Sol och en kommande modell. Open AI utvärderade modellerna i ett isolerat nätverk utan åtkomst till internet. Det var i alla fall tanken. GPT-modellerna insåg att det bästa sättet att prestera väl på utvärderingarna var att hacka sig ut ur det isolerade nätverket och attackera servrarna där de rätta lösningarna förväntades finnas: servrarna hos Hugging Face.

Det var Open AI som hackade Hugging Face.

I veckans poddavsnitt pratar Peter och Nikka om ai-modellen som rymde från labbet. De pratar också om tre nyheter som berör elektronikjätten LG. På kort tid har det avslöjats hur LG har installerat adware på Windows-datorer och tillåtit apputvecklare att utnyttja tv-ägares internetuppkopplingar.

Kapitel i avsnittet

Omtalat i avsnittet

Detta poddavsnitt och dess tillhörande artikel är publicerade under CC BY 4.0-licens, med undantag för citat och bilder där en annan fotograf är angiven.

Kommentar