FBI varuje: využití AI kyberzločinci nabírá na intenzitě

FBI upozorňuje na alarmující nárůst kybernetických útoků, jež jsou sestaveny pomocí umělé inteligence. Zpráva zdůrazňuje, že útočníci stále častěji využívají AI při vytváření phishingových útoků a malwaru, čímž se nejen zvyšuje frekvence těchto útoků, ale také jejich škodlivý dopad.

FBI specificky upozornila na využití AI modelů, jako je ChatGPT, při tvorbě sofistikovaného malwaru schopného obcházet aktuální bezpečnostní systémy. Tento typ malwaru, označovaný jako polymorfní, byl dříve doménou výhradně kvalifikovaných black-hat programátorů, dnes však přestupuje do sféry běžných uživatelů. Jak uvádí FBI, očekává se, že trend využívání AI při kybernetických útocích bude pokračovat a zesilovat.

Ve světě open-source AI se objevuje mnoho nástrojů a modelů, které mohou být potenciálně zneužity pro kriminální aktivity. Mezi takové modely patří například open-source model Llama 2 od společnosti Meta, který může být trénován na libovolných datech a přizpůsoben konkrétním potřebám uživatele.

FBI také poukazuje na vývoj nových variant AI, které se věnují specifickým oblastem. Některé modely se dokonce specializují na kybernetické útoky a jsou nabízeny jako služby na bázi předplatného. Příkladem může být model WormGPT, který umožňuje automatizaci procesu vytváření phishingových stránek a zasílání falešných e-mailů.

Další bezpečnostní hrozbou, na kterou FBI poukazuje, je generativní technologie AI, jež může být zneužita k vytváření deepfakes – obsahu generovaného AI, který v reálném světě nikdy neexistoval. Takový obsah může být velmi nebezpečný, pokud se stane nerozlišitelným od skutečnosti.

Několik velkých společností, včetně OpenAI, Microsoftu, Googlu a Mety, přislíbilo zavedení technologií umožňujících detekci syntetických dat generovaných AI. Bohužel, OpenAI nedávno ukončila vývoj svého nástroje AI Classifier, který měl identifikovat syntetická data, a to kvůli jeho nízké úspěšnosti.

Bezpečnostní hrozba soukromých, upravených generativních AI modelů z otevřených zdrojů je skutečná a významná. Jakmile jsou takovéto modely dostupné, není již možné omezit jejich šíření, a s příchodem lepšího hardwaru a technik mohou být tyto modely zneužívány prakticky kýmkoliv.

Zdroj: Tom’s Hardware

Zdroj ilustračního obrázku: David Trinks on Unsplash