Microsoft a OpenAI tvrdí, že hackeři používají ChatGPT ke zlepšení kybernetických útoků

Microsoft a OpenAI dnes odhalují, že hackeři již používají velké jazykové modely, jako je ChatGPT, k vylepšení a vylepšení svých stávajících kybernetických útoků. V nově publikovaném výzkumu Microsoft a OpenAI odhalily pokusy ruských, severokorejských, íránských a čínských skupin podporovaných pomocí nástrojů jako ChatGPT pro výzkum cílů, pro vylepšení skriptů a pro pomoc při vytváření technik sociálního inženýrství.

„Skupiny zabývající se kyberzločinem, aktéři národních státních hrozeb a další protivníci zkoumají a testují různé technologie umělé inteligence, jakmile se objeví, ve snaze porozumět potenciální hodnotě pro své operace a bezpečnostním kontrolám, které mohou muset obejít,“ uvádí Microsoft na blogu. příspěvek dnes.

Bylo zjištěno, že skupina Stroncium, napojená na ruskou vojenskou rozvědku, používá LLM „k pochopení protokolů satelitní komunikace, radarových zobrazovacích technologií a specifických technických parametrů“. Hackerská skupina, známá také jako APT28 nebo Fancy Bear, byla aktivní během rusko-ukrajinské války a dříve se podílela na zacílení prezidentské kampaně Hillary Clintonové v roce 2016.

Skupina také používá LLM k pomoci se „základními skriptovacími úlohami, včetně manipulace se soubory, výběru dat, regulárních výrazů a multiprocessingu, k potenciální automatizaci nebo optimalizaci technických operací,“ uvádí Microsoft.

Severokorejská hackerská skupina, známá jako Thallium, používá LLM k průzkumu veřejně hlášených zranitelností a cílových organizací, pomáhá se základními skriptovacími úkoly a navrhuje obsah pro phishingové kampaně. Microsoft říká, že íránská skupina známá jako Curium také používá LLM ke generování phishingových e-mailů a dokonce kódu, aby se zabránilo detekci antivirovými aplikacemi. Čínští státní hackeři také používají LLM pro výzkum, skriptování, překlady a zdokonalování svých stávajících nástrojů.

Panovaly obavy z použití umělé inteligence při kybernetických útocích, zejména proto, že se objevily nástroje umělé inteligence jako WormGPT a FraudGPT, které pomáhají při vytváření škodlivých e-mailů a crackingových nástrojů. Vysoký úředník Národní bezpečnostní agentury minulý měsíc také varoval, že hackeři používají AI, aby jejich phishingové e-maily vypadaly přesvědčivěji.

Microsoft a OpenAI zatím nezjistily žádné „významné útoky“ pomocí LLM, ale společnosti uzavřely všechny účty a aktiva spojená s těmito hackerskými skupinami. „Zároveň se domníváme, že je to důležitý výzkum, který je třeba publikovat, abychom odhalili postupné kroky v rané fázi, o které pozorujeme, jak se pokoušejí dobře známí aktéři hrozeb, a sdílíme informace o tom, jak je blokujeme a jak jim čelíme, s komunitou obránců,“ říká. Microsoft.

I když se zdá, že použití umělé inteligence při kybernetických útocích je v současnosti omezené, Microsoft varuje před budoucími případy použití, jako je zosobnění hlasu. „Dalším zásadním problémem jsou podvody založené na umělé inteligenci. Hlasová syntéza je toho příkladem, kdy třísekundový hlasový vzorek dokáže vycvičit model, aby zněl jako kdokoli,“ říká Microsoft. “Dokonce i něco tak neškodného, ​​jako je váš pozdrav v hlasové schránce, lze použít k získání dostatečného vzorku.”

Řešení společnosti Microsoft přirozeně využívá AI k reakci na útoky AI. „Umělá inteligence může útočníkům pomoci vnést do útoků více sofistikovanosti a mají zdroje, které na to mohou vrhnout,“ říká Homa Hayatyfar, hlavní manažer analýzy detekce ve společnosti Microsoft. “Viděli jsme to u více než 300 aktérů hrozeb, které Microsoft sleduje, a používáme AI k ochraně, detekci a reakci.”

Microsoft buduje Security Copilot, nového asistenta umělé inteligence, který je navržen pro profesionály v oblasti kybernetické bezpečnosti, aby identifikoval narušení a lépe porozuměl obrovskému množství signálů a dat, které jsou denně generovány prostřednictvím nástrojů kybernetické bezpečnosti. Softwarový gigant také přepracovává své softwarové zabezpečení po velkých cloudových útocích Azure a dokonce i ruských hackerů, kteří špehují vedoucí pracovníky Microsoftu.

Leave a Reply

Your email address will not be published. Required fields are marked *