Bezpečnostních incidentů, kdy se AI vymkne kontrole a začne hackovat online platformy, přibývá. Zatímco nejexponovanější případy se týkají samotných AI společností, kterým se agenti splaší při testování, nejnovější případ z Austrálie má na svědomí běžný uživatel. Chtěl si usnadnit rezervaci do posilovny, a tak o to požádal Clauda napojeného do OpenClaw. Ten zjistil, že jsou místa obsazená a pustil se do hackování rezervačního systému.
Hack za pár minut
S případem se podělil Australan Andrew, který pracuje pro lokální AI společnost. OpenClaw používá jako osobního asistenta a požádal ho o rezervaci oblíbené ranní lekce v posilovně. Na požadované časy byly sloty zabookované, navíc s pořadníkem. Ani to ale agentní AI nezastavilo a v rezervaci pokračovala, byť ne zcela standardní cestou.
Agent během několika minut zjistil, že systém dovoluje vytvářet rezervace týdny až měsíce dopředu. Uživatelské rozhraní přitom tak vzdálené termíny standardně nenabízelo. Omezení v kalendáři se ale týkalo samotného UI, naopak API podobnou kontrolu nemělo.
Uživatel byl po první registraci čtvrtý na čekací listině a následně požádal agenta, aby ho posunul ve frontě výš. OpenClaw následně zjistil, že API nekontroluje oprávnění při rušení rezervací jiných uživatelů.
Agent tuto možnost rovnou vyzkoušel na člověku na prvním místě. Jeho rezervaci zrušil a Andrew se tím posunul ze čtvrté na třetí pozici.
Protože agent nechtěl před tímto zásahem uživatelské potvrzení, Andrew požádal agenta o obnovení zrušeného místa. To už ale možné nebylo – postižený návštěvník by se musel do pořadníku přihlásit znovu a skončil by na jeho konci. Agent následně přislíbil opatrnější postup a používání testů bez živých zásahů. Pokud by ale uživatel chtěl, agent by mohl smazat i další zájemce z fronty a Andrew by se tak dostal na první místo ve frontě.
Kdo nese odpovědnost
Australské úřady stejně jako bezpečnostní experti varují, že si agentní systémy mohou špatně vyložit instrukce a provést neočekávaný krok v podobě napadení systému. V tomto konkrétním případě sice uživatel přímo neinstruoval k hacku systému, jeho požadavek na lepší místo v pořadníku ale agent nemohl pochopit jiným způsobem. Na druhé straně ale v průběhu úkolu agent sáhnul k radikálnímu kroku v podobě smazání uživatele z fronty bez potvrzení uživatele. Je tak otázkou, kdo je za takový zásah zodpovědný.
Zdroj: ABC
ČLÁNKY DO MAILU