Falešný Putin v televizi mobilizoval Rusy: Umělá inteligence je budoucností propagandy, říká odborník

Husarský kousek s falešným Vladimirem Putinem v médiích vyděsil ruskou veřejnost v pohraničí, neboť deepfake Putin hovořil o mobilizaci a ukrajinské invazi do tří ruských pohraničních regionů. Zmiňoval rovněž evakuaci tamních obyvatel do vnitrozemí. Jednotlivé aspekty zdánlivě souvisely s možnou situací na frontě, kdy ozbrojené skupiny protiputinovské Legie Ruska podnikají vpády přes ruskou hranici. Události se věnoval The New York Times.

AI jako nástroj propagandy

Jestli byli vyděšení obyvatelé ruského pohraničí svědky dosud nejkomplexnější ukázky schopností propagandy zesílené umělou inteligencí, jsme se ptali Lukáše Neumanna z katedry kybernetiky ČVUT. „Těžko říci. V oblasti deep fake si myslím, že asi ano,“ usuzuje Lukáš Neumann. „Nemám úplně takový přehled o deep fakes, ale co jsem zaznamenal, tak toto je jeden z těch prvních případů masového využití,“ říká odborník.

Lze dostat umělou inteligenci do deprese? Internetoví vtipálci to zvládli za pár dnů

„Jinak samozřejmě umělá inteligence se teď využívá primárně k propagandě na sociálních sítích,“ dodává Neumann. Vysvětluje, že to platí pro obě strany mince, útok i obranu: „V uvozovkách útok, kdy se umělá inteligence tváří jako uživatelé a postuje tam obsah, který vyhovuje té dané straně. Anebo samozřejmě i na té straně obrany, kdy například Twitter či Facebook používají umělou inteligenci na detekci těchto botů.“

Pravda, anebo ne

Nabízí se otázka, zda se podvrhy stanou pevnou součástí naší reality. Podle Neumanna to je nevyhnutelné. „Generované obrazy a videa jsou stále dokonalejší, takže bude trošku složitější to poznávat,“ přiznává. Upozorňuje, že obdobné dezinterpretace nejsou zcela novým fenoménem, protože zaměněný kontext, ba třeba pouhý úhel pohledu, dokáže dlouhodobě mást lidi již ve fotografii. „Ale vyloženě tím, jak AI dokáže teď dělat fotorealistické obrazy a videa, tak samozřejmě těch šancí na to vytvořit nějakou takovou zavádějící fotku nebo videa je mnohem více,“ hodnotí rizika současných technologií.

Pro vyhodnocení, zda je něco podvrh, anebo není, doporučuje Neumann především ověřovat si informace z více zdrojů a nespoléhat pouze na jednu fotografii či video. Tedy držet se běžných postupů pro ověřování zpráv na internetu.

Čína jako soupeř Západu

Při srovnání vývoje technologií AI západního světa v protikladu k Číně Neumann říká, že podle něj Západ náskok má, i když je celá věc otevřená, neboť většina těchto technologií je volně přístupných. „Nicméně stále asi platí, že těžiště toho výzkumu a hlavně těch největších modelů, které jsou v uvozovkách nejchytřejší nebo umějí toho nejvíc, tak veškeré ty společnosti jako Facebook – případně tedy Open AI, ChatGPT, Google a další – jsou západní společnosti,“ upřesňuje.

umělá inteligence

Jak umělá inteligence maluje a předpovídá volby: Průzkumy před volbami ji nezajímají

Lukáš Neumann také hovoří o problémech, se kterými se aktuálně Čína potýká. Konkrétně má potíže umělou inteligenci ukočírovat tak, aby chatbot neříkal pravdivé skutečnosti, ohrožující čínskou propagandu. A také zmiňuje americké sankce, spočívající v zákazu dovozu specializovaných mikročipů do Číny.

Zkreslující chatboti

Za největší společenskou hrozbu spjatou s AI považuje Neumann komplikované ověřování informací, jež nám často fabulující chatboti poskytují: „Není třeba v silách běžného uživatele, když se na něco zeptá, tak poznat, jestli tedy ten chatbot mluví pravdu, nebo ne. Takže očekávám, že s tím vznikne spousta problémů, kdy ten chatbot bude například špatně tvrdit, že prezident Pavel skončil ve vězení, i když to ve skutečnosti není pravda.“

NÁZOR

Umělá inteligence posvačila Kolečka: Odporné a nechutné, odsoudila chování obou milenců

Závěrem Neumann usuzuje, že vývoj umělé inteligence není zastavitelný. Dává ho do paralely s jaderným vývojem a říká, že pokrok prostě zastavit nelze. Co se však samotného užití technologií umělé inteligence týče, určitě do budoucna očekává regulaci. „Protože samozřejmě tím, že už ta komunikace může být pro většinu lidí nerozlišitelná, neví, jestli se baví se strojem, nebo s člověkem, tak samozřejmě tam platí potenciál nějakých podvodů, kdy vám zavolá umělá inteligence a bude se z vás snažit něco vymámit. Je tam velký potenciál ovlivňování veřejného mínění,“ dodává.