Chyba v ChatGPT zpřístupnila historii chatu ostatním uživatelům

Pokud používáte službu ChatGPT, možná jste 20. března zaznamenali, že postranní panel, kde se nachází historie vašich konverzací, nefunguje. Historie chatu byla znepřístupněna poté, co chyba v systému způsobila, že se některým uživatelům ukázala názvy konverzací neznámých lidí.

Na Redditu se objevily fotografie, na níž jsou vidět popisy několika konverzací ChatGPT, které podle uživatele, který je nahrál, nebyly jeho vlastní. Další uživatel zveřejnil na Twitteru snímek obrazovky se stejnou chybou. Mluvčí společnosti OpenAI potvrdil incident agentuře Bloomberg s tím, že chyba nesdílela úplné přepisy konverzací, ale pouze stručné popisné názvy.

ChatGPT a další AI nástroje berou svět útokem, ale jde přitom o ještě nevychytané verze, které mohou obsahovat chyby. Pomineme-li pak fakt, že ChatGPT, přestože je velice schopný, umí také velice přesvědčivě podat nepravdivé informace a kybezločinci si nemohou vynachválit jeho jazykové schopnosti při tvorbě phishingových e-mailů, je tady další varování: dávejte si dobrý pozor na to, co to ChatGPT zadáváte. Ostatně i v sekci nejčastějších otázek na webových stránkách OpenAI vývojáři varují: „Prosím, nesdílejte ve svých konverzacích žádné citlivé informace.“ Dále se zde mimo jiné uvádí, že společnost nemůže z historie osoby odstranit konkrétní výzvy a že konverzace mohou být použity pro školení. Ale je jasné, že se řada jednotlivců i organizací nenechá odradit a budou vesele sdílet důvěrné informace, protože budou zkrátka experimentovat a pokoušet se využít nový nástroj na maximum.

Agentura Bloomberg uvedla, že společnost OpenAI v pondělí 20. dubna ChatGPT v reakci na chybu dočasně odstavila, ale později v noci byl opět zprovozněn. Následně se v levém panelu objevila zpráva, že „Historie je dočasně nedostupná“ a že společnost „pracuje na co nejrychlejším obnovení této funkce“.

Bloomberg uvádí, že příčinou problému je pravděpodobně chyba v nejmenovaném softwaru s otevřeným zdrojovým kódem, i když vyšetřování přesné příčiny stále probíhá.

Zdroj: The Verge