Itálie zakázala ChatGPT, důvodem jsou i obavy o data uživatelů

Itálie se na konci března stala první západní zemí, která zakázala populárního AI chatbota od společnosti OpenAI, jenž svými schopnostmi nadchl uživatele, ohromil výzkumníky a znepokojil regulační orgány.

Tento krok poukázal na absenci konkrétních předpisů, přičemž Evropská unie a Čína patří mezi několik málo jurisdikcí, které pro AI vyvíjejí pravidla na míru. Různé vlády zkoumají, jak regulovat AI, a některé přemýšlejí, jak se vypořádat se systémy, jako je ChatGPT.

Italský úřad pro ochranu osobních údajů nařídil společnosti OpenAI, aby dočasně přestala zpracovávat údaje italských uživatelů v rámci vyšetřování podezření z porušení přísných evropských předpisů o ochraně osobních údajů. Regulační orgán, který je známý také jako Garante, se odvolával na porušení ochrany údajů u společnosti OpenAI, které umožnilo uživatelům zobrazit názvy konverzací, které s chatbotem vedli jiní uživatelé.

Zdá se, že „neexistuje žádný právní základ, na němž by bylo založeno masivní shromažďování a zpracovávání osobních údajů za účelem trénování algoritmů, na něž se platforma spoléhá,“ uvedl Garante v prohlášení. Garante také upozornil na obavy z nedostatečného věkového omezení ChatGPT a na to, že chatbot může ve svých odpovědích podávat věcně nesprávné informace. OpenAI hrozí pokuta ve výši 20 milionů eur, tedy 4 % jejích celosvětových ročních příjmů, pokud do 20 dnů nepřijde s nápravou situace.

Itálie není jedinou zemí, která reaguje na rychlé tempo vývoje umělé inteligence a jeho důsledky pro společnost. Vlády dalších zemí přicházejí s vlastními pravidly pro AI, které se nepochybně dotknou oblíbené generativní AI. Generativní AI označuje soubor technologií AI, které generují nový obsah na základě podnětů od uživatelů. Je pokročilejší než předchozí iterace AI, a to zejména díky velkým jazykovým modelům, které jsou trénovány na obrovském množství dat.

Již dlouho se ozývají hlasy, že je třeba AI regulovat. Tempo, jakým se tato technologie rozvíjí, je však pro vlády neudržitelné. Počítače dnes dokáží během několika sekund vytvořit realistické umělecké dílo, napsat celou esej nebo dokonce vygenerovat řádky kódu. Různé regulační orgány jsou znepokojeny výzvami, které umělá inteligence představuje pro bezpečnost práce, ochranu osobních údajů a zajištění rovnoprávnosti. Existují také obavy z manipulace pokročilé AI s politickým diskurzem prostřednictvím generování falešných informací.

Mnoho vlád také začíná přemýšlet o tom, jak se vypořádat se systémy pro všeobecné použití, jako je ChatGPT, přičemž některé dokonce zvažují, že se připojí k Itálii a tuto technologii zakážou, a to aspoň dokud nevznikne potřebný regulační a právní rámec.

Zdroj: CBNC