Podd #347: AI-modellen Mythos skrämmer världen

PubliceringsdatumFörfattare

Förra veckan presenterade AI-företaget Anthropic sin senaste AI-modell ”Mythos”. Anthropic valde att inte släppa den direkt till allmänheten. De meddelade i stället att enbart en utvald skara företag får förhandsåtkomst till modellen. Det hade nämligen visat sig att Mythos var oroväckande bra på att hitta sårbarheter.

Tilltaget hade kunnat avvisas som en marknadsföringsinsats. Anthropic gör sig redo för en börsnotering och Mythos-lanseringen har gett företaget enorm publicitet. Tyvärr visar Anthropics egna upptäckter att påståendena är mer än bara hype. KTH-professorn Pontus Johnson säger rent av att han ”inte har sett ett cyberhot som har varit så akut någonsin”.

I veckans podd pratar Peter och Nikka om den allvarliga situationen. Nikka förklarar att allt hänger på hur stort framsteg som Mythos har gjort för AI-modellers förmåga att upptäcka och utnyttja sårbarheter. Om framsteget är för stort kan det rent av bli samhällsfarligt. Sårbarheter kan då börja upptäckas och utnyttjas i ett tempo som vida överstiger världens förmåga att åtgärda sårbarheterna.

Podduon tipsar också om konkreta åtgärder som Cloud Security Alliance har låtit namnkunniga cybersäkerhetsspecialister sammanställa.

Peter och Nikka avslutar med att diskutera varför Anthropics nya uppfinning inte bara utgör ett hot utan också kan ha blivit räddaren i nöden.

Kapitel i avsnittet

Omtalat i avsnittet

Detta poddavsnitt och dess tillhörande artikel är publicerade under CC BY 4.0-licens, med undantag för citat och bilder där en annan fotograf är angiven.

Kommentar