Čína zneužila ChatGPT k útoku na japonskou premiérku, odhalila OpenAI

Okénko do čínské informační války

Nejnovější zpráva OpenAI o hrozbách, zveřejněná tento týden, odhalila dosud nezveřejněnou operaci spojenou s čínským státem, která se pokusila zneužít chatbota ChatGPT proti první japonské premiérce. Toto odhalení nabízí neobvykle podrobný pohled na to, jak autoritářské vlády experimentují – někdy neohrabaně – s komerčními nástroji AI k provádění zámořských vlivových operací.

Cíl: Nová japonská premiérka

Podle zjištění OpenAI analytici identifikovali znepokojivé plánovací zasedání v polovině října 2025, kdy účet ChatGPT spojený s čínskou agenturou pro vymáhání práva požádal model o pomoc s návrhem skryté propagandistické kampaně proti Sanae Takaiči. Takaiči, která se mezitím stala první japonskou premiérkou, veřejně kritizovala čínskou komunistickou stranu za porušování lidských práv ve Vnitřním Mongolsku – což zjevně spustilo tuto operaci.

Účet požadoval, aby ChatGPT vytvořil negativní obsah pro sociální média, generoval falešné stížnosti od údajných zahraničních rezidentů a směroval tyto stížnosti k dalším japonským politikům – vše s cílem zdiskreditovat Takaiči dříve, než se jí podaří upevnit moc.

ChatGPT odmítl. Kampaň přesto pokračovala.

OpenAI uvádí, že její bezpečnostní opatření fungovala: ChatGPT odmítl s propagandistickými požadavky pomoci. Tím ale příběh nekončí. O několik týdnů později se stejný účet vrátil – tentokrát nahrál zprávu, která naznačovala, že pomlouvačná operace přesto pokračovala, téměř jistě s využitím domácích čínských modelů AI, které mají méně omezení obsahu.

"Tato operace odhalila mnoho o čínské strategii pro skryté vlivové operace a nadnárodní represe," řekl Ben Nimmo, hlavní vyšetřovatel zpravodajského a vyšetřovacího týmu OpenAI.

Přechod na domácí AI po odmítnutí ChatGPT podtrhuje omezení obsahových zásad jakékoli jednotlivé platformy jako hráze proti státem sponzorovaným dezinformacím.

Průmyslový rozsah: Stovky operátorů, tisíce účtů

Zatímco s ChatGPT interagoval pouze jeden účet, širší vyšetřování OpenAI zjistilo, že základní čínská síť je rozsáhlá, náročná na zdroje a trvalá. Operace údajně nasazuje stovky lidských pracovníků, kteří spravují tisíce neautentických účtů rozmístěných na různých platformách sociálních médií. Taktiky zahrnují hromadné zveřejňování příspěvků, generování falešných stížností na disidentské účty, padělání dokumentů a vydávání se za americké úředníky s cílem zastrašit zámořské čínské kritiky.

Součást širšího obrazu zneužívání

Kompletní zpráva o hrozbách dokumentuje řadu případů zneužití ChatGPT i mimo státní aktéry. Podvodníci v jihovýchodní Asii používali platformu k provozování podvodných romantických schémat zaměřených na indonéské muže prostřednictvím falešné seznamovací služby. Jiní se vydávali za právnické firmy a americké orgány činné v trestním řízení, aby oklamali oběti podvodů. Několik účtů se pokusilo shromáždit informace o americké infrastruktuře, zatímco někteří aktéři hledali pokyny ohledně softwaru pro výměnu obličejů pro dezinformační kampaně.

Co to znamená pro správu AI

Incident krystalizuje zásadní napětí v odvětví AI: výkonné nástroje, které odmítají škodlivé požadavky na západních platformách, mohou být replikovány státními aktéry pomocí domácích alternativ fungujících podle odlišných pravidel. Vzhledem k tomu, že se generativní AI stává ústředním prvkem geopolitické soutěže, analytici tvrdí, že tato epizoda posiluje argument pro mezinárodní rámce stanovující základní standardy pro chování modelů AI.

Prozatím rozhodnutí OpenAI zveřejnit svá zjištění podrobně představuje jeden z mála mechanismů pro veřejnou odpovědnost v jinak do značné míry neviditelné oblasti – oblasti, která se rychle stává jednou z určujících arén státnictví 21. století.