Microsoft a OpenAI upozorňují na zneužívání AI pro kybernetické útoky

Ve zprávě publikované Microsoftem ve spolupráci s OpenAI se uvádí, že útočníci spojení s Ruskem, Severní Koreou, Íránem a Čínou experimentují s umělou inteligencí (AI) a rozsáhlými jazykovými modely (LLM) k posílení svých kybernetických útoků.

Tyto snahy zahrnují využívání služeb AI pro činnosti, jako je vyhledávání informací z otevřených zdrojů, překlady, identifikace chyb v kódu a základní programovací úkoly, s cílem podporovat sociální inženýrství, vývoj malwaru a další kybernetické operace.

Mezi významné skupiny, které byly identifikovány jako uživatelé LLM pro různé škodlivé účely, patří ruská skupina Forest Blizzard (APT28), severokorejský Emerald Sleet (Kimusky), íránský Crimson Sandstorm (Imperial Kitten) a čínské Charcoal Typhoon (Aquatic Panda) a Salmon Typhoon (Maverick Panda).

Tyto skupiny využívaly LLM pro výzkum v oblasti satelitních komunikací, otázek obrany v asijsko-pacifickém regionu, vývoje aplikací a webových stránek, tvorby obsahu pro phishingové kampaně a výzkumu technik úniku.

Jako reakci Microsoft zmařil snahy těchto aktérů ukončením jejich aktiv a účtů a vyvíjí principy pro zmírnění rizik spojených se zneužíváním AI.

Tyto principy se zaměřují na identifikaci a opatření proti hrozbám ze strany škodlivých aktérů, oznámení dalším poskytovatelům služeb AI, spolupráci se zúčastněnými stranami a zajištění transparentnosti za účelem vytvoření bezpečnostních opatření a mechanismů kolem jejich modelů.

Zdroj ilustračního obrázku: Mojahid Mottakin on Unsplash

Zdroj: The Hacker News