Dezinformace generované umělou inteligencí jsou přesvědčivější, varuje studie

Nový výzkum odhalil, že tweety generované umělou inteligencí jsou pro lidi přesvědčivější než ty, které napsal člověk, a to i v případě, že obsahují informace, které nejsou pravdivé. Studie zkoumala reakce téměř 700 lidí na řadu tweetů týkajících se kontroverzních témat. Zjištění ukazují, že dezinformace generované umělou inteligencí umí být velice přesvědčivé.

Výzkumníci analyzovali téměř 220 tweetů – některé byly založené na faktech, jiné obsahovaly dezinformace. Použili k tomu jazykový model (LLM) GPT-3 od společnosti OpenAI. Výsledky naznačují, že GPT-3 je „dvousečnou zbraní“ – tweety byly lépe čitelné a atraktivnější, když prezentovaly správné informace, ale také stejně dobře fungovaly, když prezentovaly dezinformace.

Studie zahrnovala 697 respondentů s vysokoškolským vzděláním v různých oblastech. Výsledky ukázaly, že většina respondentů nedokázala rozlišit tweety generované umělou inteligencí od těch, které napsali lidé, bez ohledu na jejich pravdivost. Testovaná skupina pocházela z anglicky mluvících zemí, včetně USA, Kanady, Velké Británie, Irska a Austrálie.

Generativní umělá inteligence, jako je ChatGPT, se stále častěji využívá v obchodním prostředí. Tato technologie má mnoho výhod, například zvyšování produktivity a usnadňování řady úkonů. Nicméně je důležité si uvědomit, že tyto nástroje mají své nedostatky a mohou představovat bezpečnostní riziko. Například, všechna data, která vložíte do ChatuGPT, mohou být prohlížena třetí stranou a využívána (v lepším případě) ke trénování modelu. Tento fakt by měl být zohledněn při jejich používání.

Existuje stále více studií, které upozorňují na temnou stránku generativní umělé inteligence. Jednou z těchto studií je například výzkum společnosti Bloomberg, který odhaluje, že některé nástroje AI, jako je Google Bard, mohou být využity k šíření dezinformací.

Je důležité si uvědomit, že generativní umělá inteligence je jen technologie a její dopad závisí na způsobu, jakým ji lidé používají. Smysluplné regulace, předpisy a odpovědné používání AI jsou klíčové předpoklady pro minimalizaci bezpečnostních rizik AI.

Zdroj: tech.co

Zdroj ilustračního obrázku: Joshua Hoehne on Unsplash