Společnost Anthropic se pochlubila novým modelem Claude Mythos Preview, který je podle všeho nejschopnější AI v oblasti kybernetické bezpečnosti. Mythos dokáže autonomně vyhledávat bezpečnostní zranitelnosti v jakémkoliv kódu, případně je i zneužít. Kvůli obavám z možného zneužití Anthropic tento model veřejně nepublikuje a místo toho spouští Project Glasswing. V rámci něj nabídne Claude Mythos velkým technologickým firmám a open-source vývojářům.
Až příliš chytrý
Předchozí modely jako Opus 4.6 uměly zranitelnosti hledat, ale úspěšnost při jejich zneužití se blížila nule. Mythos Preview to ale mění. Výzkumníci nabídli stejnou sadu zranitelností v prohlížeči Firefox oběma modelům Opus 4.6 a Claude Mythos Preview. Prvnímu z nich se reálné zneužití chyb povedlo 2× z několika stovek pokusů, naopak Mythos uspěl 181×.
Claude Mythos Preview v posledních týdnech rovněž procházel některé aplikace či systémy s otevřeným zdrojovým kódem a hledal v nich chyby. V systému OpenBSD, který je považován za jeden z nejbezpečnějších, našel 27 let starou chybu v implementaci TCP protokolu. Ta umožňuje shodit libovolný počítač odesláním několika upravených packetů.
V knihovně FFmpeg odhalil Mythos 16 let starou chybu v kodeku H.264. V linuxovém kernelu se povedlo zřetězit několik chyb a získat tím plná administrátorská oprávnění v systému. Anthropic dále uvádí, že v každém ze současných webových prohlížečů našel Mythos několik kritických zranitelností, které následně dokázal zneužít.
Pokud by byl Claude Mythos Preview publikován se současnými schopnostmi, ohrozilo by to kyberbezpečnost na všech úrovních. V ohrožení by se ocitly běžné aplikace, ale i kritická infrastruktura. I proto zatím Anthropic svůj poslední model nebude zveřejňovat a zpřístupní jej vybraným technologickým společnostem. Ty jej budou moci využít k prověření a opravám svých aplikací a systémů. Anthropic jim k tomu rozdá 100 milionů v kreditech do své platformy. Další 4 miliony potom Anthropic rozdá mezi open-source vývojáře.
Zdroj: Anthropic
ČLÁNKY DO MAILU