Národný bezpečnostný úrad (NBÚ) ) znovu varuje pred rizikami spojenými s používaním čínskeho jazykového modelu DeepSeek. Podľa úradníkov tento nástroj zbiera od používateľov neporovnateľne viac dát ako jeho západné alternatívy, čím môže predstavovať hrozbu pre súkromie aj bezpečnosť používateľov.
DeepSeek si neukladá len bežné používateľské vstupy, ako sú textové pokyny či vložené dokumenty. Zaznamenáva aj presné časovanie stlačení kláves, IP adresu zariadenia, typ operačného systému, jazykové nastavenie či dokonca obrázky a zvukové súbory. Všetky tieto dáta následne putujú na servery umiestnené v Číne, čo predstavuje ďalšie bezpečnostné riziko.
Veľkým problémom je aj absencia kontroly zo strany používateľov. Na rozdiel od iných modelov, ktoré ponúkajú napríklad možnosť vymazať konverzáciu alebo používať dočasný chat bez uchovávania údajov, DeepSeek podobné funkcie neposkytuje. Navyše je transparentnosť ohľadom zaobchádzania s dátami na minimálnej úrovni. V Číne totiž neexistuje obdobný systém ochrany údajov, ako je napríklad GDPR v Európskej únii. Práve naopak – súkromné dáta sú tam neraz sprístupňované štátnym orgánom, čo je štandardná prax čínskeho režimu.
Toto nie je prvý prípad, keď je čínska technológia podozrivá zo zneužívania dát. Podobné obavy vyvolával aj TikTok. Aj v prípade DeepSeek obsahujú podmienky používania klauzulu, že dáta môžu byť použité na dodržiavanie zákonov alebo „v záujme verejnosti“, čo je v čínskej praxi veľmi vágnym a zneužiteľným pojmom.
Nebezpečenstvo spočíva aj v tom, že zo zhromaždených dát sa dajú vytvoriť detailné profily používateľov. Informácie ako typ zariadenia, operačný systém či jazykové prostredie môžu útočníkom pomôcť pri identifikácii zraniteľností konkrétneho systému. Takéto údaje môžu byť následne využité v kybernetických útokoch.
NBÚ preto odporúča, ak je to možné, používať tzv. lokálny model – teda jazykový model, ktorý beží priamo na zariadení používateľa a neodosiela žiadne dáta na externé servery. Tým sa minimalizuje riziko úniku alebo zneužitia citlivých údajov.
Ďalším znepokojujúcim aspektom DeepSeek je cenzúra. Podobne ako čínsky internet, aj tento model blokuje alebo upravuje odpovede na témy citlivé pre tamojší režim. Napríklad, ak sa používateľ pokúsi získať informácie o masakri na Námestí Tchien-an-men z roku 1989, model odpoveď jednoducho odmietne. Takéto správanie ukazuje, že DeepSeek nie je len nástroj umelej inteligencie, ale aj súčasť čínskeho systému informačnej kontroly.
Západné modely majú síce tiež svoje obmedzenia, no tie sú spravidla zamerané na ochranu pred ilegálnym či škodlivým obsahom, ako sú návody na výrobu výbušnín, detská pornografia alebo obchod s drogami. Čínske modely však idú omnoho ďalej a cenzurujú aj historické fakty alebo politicky citlivé témy.
Na záver možno povedať, že DeepSeek síce môže byť technicky pokročilým nástrojom, no jeho spôsob zberu dát a miera štátnej kontroly predstavujú významné bezpečnostné riziko. Používatelia by mali byť pri jeho využívaní mimoriadne obozretní a uvedomiť si, že ich údaje môžu byť nielen zhromažďované, ale aj politicky zneužité.
Zdroj: https://www.nbu.gov.sk/upozornenie-na-ai-model/, https://zive.aktuality.sk/clanok/uSGxTyT/nbu-varuje-pred-touto-sluzbou-umelej-inteligencie-je-nebezpecna-co-je-problem/, https://www.startitup.sk/cinska-ai-sleduje-kazdy-tvoj-klik-zbiera-data-a-posiela-ich-do-ciny-varuje-nbu/
Foto: https://www.nbu.gov.sk/upozornenie-na-ai-model/
Editorka: Klaudia Jusková
Moderátor: Juraj Holéczy