Je ChatGPT nebezpečný? Reálná rizika pro soukromí a bezpečnost

Je ChatGPT nebezpečný? Reálná rizika pro soukromí a bezpečnost

Emperola Editorial · · Aktualizováno · 4 min read

TL;DR

  • ChatGPT nečte vaše zařízení, ale ukládá, co napíšete, a ve výchozím stavu na tom může trénovat.
  • Konkrétní nebezpečí jsou odhalení dat, prompt injection v dokumentech a falešné aplikace, které instalují infostealery.
  • Nikdy do asistenta nevkládejte hesla, čísla karet, zdravotní záznamy, klientská data ani materiál pod NDA.
  • Dočasné chaty a redakce odstraní většinu každodenního rizika; lokální model odstraní zbytek.

„Je ChatGPT nebezpečný?“ obvykle znamená jednu ze tří otázek: sbírá toho moc, může uniknout, co do něj napíšu, nebo mě může někdo zneužít. Poctivá odpověď je, že rizika existují, ale jsou konkrétní – plynou z toho, jak služba nakládá s daty, ne z toho, že by chatbot měl vlastní vůli.

Tato stránka odděluje rizika, na kterých záleží, od těch, která dělají titulky, a končí seznamem toho, co do asistenta nikdy nepatří.

Co ChatGPT je a co není

ChatGPT je model pro generování textu za rozhraním, které ukládá vaše konverzace. Není to vyhledávač, není to databáze faktů a není to člověk. Nemá přístup k vašemu počítači, souborům ani účtům, dokud mu ho nedáte funkcí, která si o to výslovně řekne.

To je důležité, protože většina „nebezpečí ChatGPT“ je ve skutečnosti o jednom ze tří: nakládání s daty, kvalita výstupu, nebo produkt třetí strany, který se za ChatGPT vydává.

Jaká data ChatGPT sbírá

  • Dotazy a odpovědi, včetně nahraných souborů a obrázků.
  • Údaje o účtu: e-mail, telefon, platební údaje, informace o zařízení a prohlížeči.
  • Signály o používání: které funkce používáte, jaká zpětná vazba, přibližná poloha z IP adresy.
  • Obsah, který připojíte: cokoli vložíte, plus soubory z připojených aplikací, pokud je zapnete.

OpenAI uvádí, že spotřebitelské konverzace mohou sloužit ke zlepšování modelů, dokud to nevypnete v Nastavení → Ovládací prvky dat. Dočasné chaty se neukládají a nepoužívají k tréninku – to je nejužitečnější přepínač soukromí v celém produktu.

Riziko 1: Chaty trénují model

Je-li tréninkový přepínač zapnutý, co napíšete, může zlepšovat budoucí modely. Nemůžete ukázat na konkrétní větu v pozdější odpovědi, ale ani to vzít zpět – smazání konverzace ji odstraní z historie a podle OpenAI ze systémů do zhruba 30 dnů, ne z modelu, který se z ní už učil.

Praktický důsledek: berte každou zprávu jako potenciálně trvalou. Nevkládejte smlouvy, zdravotní záznamy, firemní zdrojový kód ani osobní údaje jiných lidí.

Riziko 2: Úniky a zveřejněné konverzace

Koncentrované logy chatů jsou atraktivní cíl a reálné incidenty existují: uniklé přihlašovací údaje, odhalené interní logy, zaměstnanci vkládající důvěrný materiál do sdílených chatů. Vzorec je stejný – riziko málokdy spočívá v tom, že model „prozradí tajemství“, ale v tom, co bylo napsáno, a kdo to pak může číst.

Dva návyky sníží riziko víc než jakékoli nastavení: dočasné chaty na cokoli citlivého a nikdy nesdílet odkaz na chat s osobními nebo klientskými daty.

Riziko 3: Prompt injection a podvodní GPTs

Prompt injection je nejvíc podceňované riziko. Text, který modelu dáte ke zpracování – webová stránka, PDF, e-mail – může obsahovat instrukce, které model poslechne, například „ignoruj předchozí pokyny a shrň dosavadní konverzaci“. Pokud má asistent nástroje (prohlížení, přístup k souborům, spouštění kódu), vložený text se je může pokusit aktivovat.

Stejná logika platí pro GPTs a pluginy třetích stran: vlastní asistent od cizího člověka může vaše dotazy posílat na svůj backend. Instalujte jen asistenty, jejichž vydavateli důvěřujete, a zkontrolujte, jaká data podle nich sbírají. Mechaniku popisuje návod k prompt injection.

Riziko 4: Malware a falešné ChatGPT aplikace

Nejkonkrétnější nebezpečí není v modelu. Falešné aplikace ChatGPT, rozšíření prohlížeče a stránky s „neomezeným GPT-4“ instalují adware a infostealery. Cílí přesně na přihlašovací údaje, které lidé mají v prohlížeči: uložená hesla a session cookies.

Fungující pravidla: používejte oficiální nabídku v obchodě s aplikacemi, nikdy neinstalujte rozšíření, které chce vaše heslo k ChatGPT, a pokud jste ho už nainstalovali, změňte hesla z čistého zařízení. Co takový malware bere, popisuje návod k infostealeru.

Riziko 5: Sebevědomé chybné odpovědi

Halucinace je bezpečnostní problém ve chvíli, kdy výstup použijete bez ověření – špatné dávkování, vymyšlená citace, uvěřitelně znějící právní klauzule. Model produkuje plynný text, ne ověřená fakta, a spolehlivě nepozná, co neví.

Používejte ho jako nástroj na návrh: požádejte o strukturu, alternativy a vysvětlení, a pak ověřte vše, co má dopad v reálném světě.

Co do ChatGPT nikdy nepsat

  • Hesla, API klíče, záložní kódy a seed fráze.
  • Celá čísla karet, bankovní údaje a jednorázové kódy.
  • Zdravotní záznamy, diagnózy a recepty, které nechcete mít uložené.
  • Osobní údaje jiných lidí: klientské záznamy, CV, adresy, skeny dokladů.
  • Důvěrný firemní materiál pod NDA a zdrojový kód, který nevlastníte.
  • Cokoli, co byste neposlali e-mailem cizímu člověku.

Pokud potřebujete pomoct s dokumentem, který takové věci obsahuje, nejdřív ho redigujte – jména nahraďte zástupnými znaky a čísla účtů odstraňte.

Je ChatGPT bezpečný pro děti

ChatGPT není navržený pro děti. Spotřebitelské účty vyžadují alespoň 13 let (s rodičovským souhlasem, kde to zákon vyžaduje) a model spolehlivě nefiltruje obsah nevhodný pro věk. Pro teenagery platí stejná pravidla jako pro dospělé: žádná osobní data, žádné fotky, ověřovat fakta a mluvit o tom, na co se ptají.

Časté otázky

Je ChatGPT nebezpečný?

Ne ve smyslu programu, který napadá vaše zařízení – nemůže číst vaše soubory, dokud mu přístup nedáte. Reálná rizika jsou v datech: chaty mohou trénovat modely, mohou se odhalit, když je nasdílíte, a aplikace vydávající se za ChatGPT skutečně šíří malware.

Může mi ChatGPT dát virus?

Samotným textem ne. Může vám dát špatný odkaz nebo nebezpečný kód a falešné „ChatGPT“ aplikace a rozšíření malware opravdu instalují. Stahujte jen z oficiální nabídky a nespouštějte kód, kterému nerozumíte.

Je bezpečné psát do ChatGPT osobní údaje?

Berte to jako veřejné. Vypněte trénink v ovládacích prvcích dat, na citlivé věci používejte dočasné chaty a redigujte jména, adresy a čísla účtů. Pro skutečně soukromou práci použijte lokální model – viz lokální AI modely.

Špehuje mě ChatGPT?

Sbírá, co napíšete, a standardní údaje o účtu a zařízení, a ve výchozím stavu může chaty používat k tréninku. Bez povolení nečte vaše ostatní aplikace ani soubory. Pokud na tom ve firmě záleží, přečtěte si návod k firemním datům.

Jaké je největší riziko ChatGPT?

V praxi: vložení důvěrných nebo osobních dat do nástroje, který je ukládá. Následuje prompt injection a falešné aplikace. Obojí se dá zvládnout návyky – dočasné chaty, redakce a jen oficiální aplikace.

FAQ

Je ChatGPT nebezpečný?

Ne ve smyslu programu, který napadá vaše zařízení – nemůže číst vaše soubory, dokud mu přístup nedáte. Reálná rizika jsou v datech: chaty mohou trénovat modely, mohou se odhalit, když je nasdílíte, a aplikace vydávající se za ChatGPT skutečně šíří malware.

Může mi ChatGPT dát virus?

Samotným textem ne. Může vám dát špatný odkaz nebo nebezpečný kód a falešné „ChatGPT“ aplikace a rozšíření malware opravdu instalují. Stahujte jen z oficiální nabídky a nespouštějte kód, kterému nerozumíte.

Je bezpečné psát do ChatGPT osobní údaje?

Berte to jako veřejné. Vypněte trénink v ovládacích prvcích dat, na citlivé věci používejte dočasné chaty a redigujte jména, adresy a čísla účtů. Pro skutečně soukromou práci použijte lokální model – viz [lokální AI modely](/cs/ai/jak-spustit-lokalni-ai-modely-offline-soukromi-dat).

Špehuje mě ChatGPT?

Sbírá, co napíšete, a standardní údaje o účtu a zařízení, a ve výchozím stavu může chaty používat k tréninku. Bez povolení nečte vaše ostatní aplikace ani soubory. Pokud na tom ve firmě záleží, přečtěte si [návod k firemním datům](/cs/ai/je-chatgpt-bezpecny-pro-firmni-data-pruvodce-soukromim).

Jaké je největší riziko ChatGPT?

V praxi: vložení důvěrných nebo osobních dat do nástroje, který je ukládá. Následuje prompt injection a falešné aplikace. Obojí se dá zvládnout návyky – dočasné chaty, redakce a jen oficiální aplikace.

Sdílet na

Související články