Microsoft 365 Copilot, nástroj umělé inteligence integrovaný do Office aplikací, jako jsou Word, Excel, Outlook, PowerPoint a Teams, obsahoval kritickou bezpečnostní chybu. Podle výzkumníků tato chyba naznačuje širší riziko hackerských útoků na AI agenty.
Bezpečnostní slabinu odhalil startup zaměřený na zabezpečení umělé inteligence, Aim Security. Jedná se o první známý útok typu „zero-click“ na AI agenta, tedy umělou inteligenci jednající samostatně pro dosažení určitých cílů.
Charakter spočíval v tom, že uživatel nemusel na nic klikat ani s ničím interagovat, aby útočník získal přístup k citlivým informacím v aplikacích propojených s Copilotem.
Útočník mohl zahájit chybu pouhým odesláním emailu uživateli. Bez potřeby phishingu či malwaru. Zneužití spočívalo v sérii chytrých technik, které přiměly chatbota obrátit se proti sobě samému.
Copilot jednal na základě pokynů uživatelů v aplikacích Office, například zpřístupněním dokumentů. Pokud by jej hackeři infiltrovali, mohli získat přístup k citlivým informacím, jako jsou emaily, tabulky nebo chaty.
Výzkumníci z Aim Security pojmenovali tuto slabinu „EchoLeak“. Microsoft už tento problém odstranil a zákazníci nebyli zasaženi, napsal časopis Fortune.
„Děkujeme Aim Security za identifikaci a odpovědné nahlášení tohoto problému, takže jsme jej mohli vyřešit dříve, než ovlivnil naše zákazníky,“ uvedl mluvčí Microsoftu.
Aim objevil tuto chybu v lednu a kontaktoval bezpečnostní centrum Microsoftu. Oprava trvala Microsoftu pět měsíců, což podle Adira Grusse, spoluzakladatele a CTO Aim Security to je „poměrně dlouhá doba“. Přes částečnou opravu v dubnu, Microsoft zjistil další bezpečnostní problémy související s touto chybou.
„Naše produkty jsme již aktualizovali, a zákazníci nemusejí podnikat žádné kroky. Zavádíme také další opatření, která posílí celkovou bezpečnost.“
Foto Microsoft
Podle výzkumníků není EchoLeak obyčejná bezpečnostní chyba. Její dopad sahá dále, protože vychází ze základní konstrukční chyby AI agentů založených na velkých jazykových modelech (LLM), podobně jako softwarové chyby z 90. let, kdy se útočníci začali zmocňovat zařízení, jako jsou notebooky a mobilní telefony.
„Objevili jsme řetězec zranitelností, které umožnily ekvivalent zero-click útoku známého z mobilních telefonů, ale v AI agentech,“ řekl Gruss. Útočník nejprve pošle zdánlivě nevinný email s instrukcemi skrytými pro Copilota. Copilot, který kontroluje uživatelovy emaily na pozadí, tyto instrukce přečte a začne vyhledávat a extrahovat citlivá data. Navíc zakryje zdroj pokynů, takže uživatel nemůže zjistit, co se stalo.
Gruss uvedl, že největším problémem je potenciální dopad EchoLeaku na další AI agenty. „Pokud bych nyní vedl firmu, která zavádí AI agenty, byl bych velmi vyděšený,“ dodal.
Podle Grusse musí být řešení dlouhodobé – volá po zásadním přepracování konstrukce agentů, které jasně oddělí důvěryhodné pokyny od nedůvěryhodných dat. „Je to základní problém, který nás trápil před 20 až 30 lety, a nyní se s AI opakuje,“ řekl.
The post Microsoft opravil EchoLeak. Chyba, u které jste nemuseli na nic klikat, vás mohla připravit o data appeared first on Forbes.
