Čína použila ChatGPT na útok proti japonskej premiérke, odhaľuje OpenAI

Okno do čínskej informačnej vojny

Najnovšia správa OpenAI o spravodajských informáciách o hrozbách, ktorá bola zverejnená tento týždeň, odhalila predtým nezverejnenú operáciu spojenú s čínskym štátom, ktorá sa pokúsila zneužiť chatbota ChatGPT proti prvej japonskej premiérke. Zverejnenie ponúka nezvyčajne podrobný pohľad na to, ako autoritárske vlády experimentujú – niekedy nešikovne – s komerčnými nástrojmi AI na vedenie zámorských vplyvových operácií.

Cieľ: Nová japonská premiérka

Podľa zistení OpenAI analytici identifikovali znepokojujúce plánovacie stretnutie v polovici októbra 2025, keď účet ChatGPT spojený s čínskou agentúrou pre presadzovanie práva požiadal model o pomoc pri navrhovaní skrytej propagandistickej kampane proti Sanae Takaichi. Takaichi, ktorá sa odvtedy stala prvou japonskou premiérkou, verejne kritizovala Čínsku komunistickú stranu za porušovanie ľudských práv vo Vnútornom Mongolsku – vyhlásenie, ktoré zjavne spustilo operáciu.

Účet požadoval, aby ChatGPT vytvoril negatívny obsah pre sociálne médiá, generoval falošné sťažnosti od údajných zahraničných obyvateľov a smeroval tieto sťažnosti k iným japonským politikom – všetko s cieľom diskreditovať Takaichi predtým, ako by mohla upevniť moc.

ChatGPT odmietol. Kampaň aj tak pokračovala.

OpenAI tvrdí, že jej ochranné opatrenia fungovali: ChatGPT odmietol pomôcť s propagandistickými požiadavkami. Tým sa však príbeh nekončí. O niekoľko týždňov neskôr sa ten istý účet vrátil – tentoraz, aby nahral správu, ktorá naznačuje, že očierňovacia operácia pokračovala bez ohľadu na to, takmer určite pomocou domácich čínskych modelov AI, ktoré majú menej obmedzení obsahu.

"Táto operácia odhalila veľa o čínskej stratégii pre skryté vplyvové operácie a nadnárodnú represiu," povedal Ben Nimmo, hlavný vyšetrovateľ v tíme spravodajských informácií a vyšetrovania OpenAI.

Presun k domácej AI po odmietnutí ChatGPT zdôrazňuje obmedzenia politík obsahu akejkoľvek jednotlivej platformy ako hrádze proti štátom sponzorovanej dezinformácii.

Priemyselný rozsah: Stovky operátorov, tisíce účtov

Zatiaľ čo s ChatGPT interagoval iba jeden účet, širšie vyšetrovanie OpenAI zistilo, že základná čínska sieť je rozsiahla, náročná na zdroje a trvalá. Operácia údajne nasadzuje stovky ľudských zamestnancov, ktorí spravujú tisíce neautentických účtov rozmiestnených na viacerých platformách sociálnych médií. Taktiky zahŕňajú hromadné uverejňovanie príspevkov, generovanie falošných sťažností proti disidentským účtom, falšovanie dokumentov a vydávanie sa za amerických úradníkov s cieľom zastrašovať zámorských čínskych kritikov.

Súčasť širšieho obrazu zneužívania

Úplná správa o hrozbách dokumentuje celý rad zneužití ChatGPT nad rámec štátnych aktérov. Podvodníci v juhovýchodnej Ázii použili platformu na prevádzkovanie podvodných schém s romantickými vzťahmi zameraných na indonézskych mužov prostredníctvom falošnej zoznamovacej služby. Iní sa vydávali za právnické firmy a americké orgány činné v trestnom konaní, aby oklamali obete podvodov. Niekoľko účtov sa pokúsilo zhromaždiť spravodajské informácie o americkej infraštruktúre, zatiaľ čo niektorí aktéri hľadali usmernenie o softvéri na výmenu tvárí pre klamlivé kampane.

Čo to znamená pre správu AI

Incident kryštalizuje zásadné napätie v odvetví AI: výkonné nástroje, ktoré odmietajú škodlivé požiadavky na západných platformách, môžu byť replikované štátnymi aktérmi pomocou domácich alternatív fungujúcich podľa odlišných pravidiel. Keďže sa generatívna AI stáva ústrednou pre geopolitickú konkurenciu, analytici tvrdia, že epizóda posilňuje argument pre medzinárodné rámce stanovujúce základné štandardy pre správanie modelov AI.

Zatiaľ rozhodnutie OpenAI zverejniť svoje zistenia podrobne predstavuje jeden z mála mechanizmov verejnej zodpovednosti v inak do značnej miery neviditeľnej oblasti – oblasti, ktorá sa rýchlo stáva jednou z určujúcich arén štátneho umenia 21. storočia.