eXtra vyvrací fake news: Falešný princ z Dubaje. Pozor na AI internetové podvodníky

Když si s někým voláme přes internet, už si skoro nemůžeme být jistí, že na druhé straně je skutečně ten člověk, kterého vidíme na displeji telefonu nebo monitoru počítače.

Internet je plný nejrůznějších nástrojů k vytváření deepfake videí a fotografií. Díky tomu je snadné vytvořit velmi realistické video a vydávat se tak za někoho jiného. Technologie se zdokonaluje tak rychle, že podle profesora Davida Randa brzy nebude možné poznat, jestli jakýkoliv videohovor, který probíhá přes displej, je skutečný.

vyvracíme fake news

eXtra vyvrací fake news: Pozor, tato sekta šíří dezinformace o klimatu

Naletěla falešnému princi

Na to doplatila i žena z Filipín, která kvůli podvodníkovi přišla o stovky dolarů. S někým, kdo se vydával za prince Hamdána bin Muhammada Ál Maktúma, se seznámila na online seznamce. Falešný princ jí neustále psal a lichotil, a ona mu uvěřila, i když jí začal vyznávat lásku. Dokonce si s ním i volala přes WhatsApp.

Agentura AFP popisuje, že na nahrávce tohoto videohovoru byl podvodník, který díky AI skutečně vypadal jako zmíněný princ, ale jeho hlas byl jiný.

Falešný princ ženu zmanipuloval k tomu, aby mu poslala celkem přes 1600 dolarů (přes 30 tisíc korun) za dokumenty, které jí měly pomoci zajistit si práci v Dubaji. Následně navrhl schůzku, ale požadoval dalších víc než 900 dolarů (asi 19 tisíc korun) za rezervaci hotelu, kde se měli setkat.

Podvodníci využívající AI a deepfake nejdříve s obětí navážou vztah přes internet a potom z ní lákají peníze. Podfuk s „falešným dubajským princem“ se objevuje opakovaně. Podfukáři zneužívají podobu člena emirátské královské rodiny i proto, že na internetu je obrovské množství jeho fotografií a videí, díky čemuž se umělá inteligence dobře dokáže naučit vyrábět deepfake právě s jeho obličejem.

Podfuky využívající AI a deepfaky s tvářemi slavných osobností se opakují. Minulý rok francouzské úřady vyšetřovaly podvod, v němž se někdo vydával za herce Brada Pitta, a z jedné z obětí vylákal přes 940 tisíc dolarů.

Organizace Global Anti-Scam Alliance upozorňuje, že spotřebitelé po celém světě jen za rok 2025 přišli v důsledku takovýchto podvodů o víc než 400 miliard dolarů.

A je to problém i v Česku. Společnost Visa zjistila, že oběti online podvodů v Česku přicházejí o peníze v řádech miliard. 45 % poškozených uvádí ztrátu vyšší než 5 910 korun.

Zneužívají Babiše i Pavla

Server Page Not Found upozornil na to, že v Česku se objevují deepfake podvodná videa, v nichž „známé osobnosti“ lákají lidi k výhodným investicím. Ve videích se takto objevila třeba tvář českého premiéra Andreje Babiše, prezidenta Petra Pavla nebo ministryně Aleny Schillerové. Podvodníci pomocí falešných účtů na sítích přemlouvají lidi, aby u nich „investovali“, a tak z nich lákají peníze.

vyvracíme fake news

eXtra vyvrací fake news: Pozor na "necenzurovanou AI"! Chatbot šíří lži a konspirační teorie

Umělá inteligence už dokonce dokáže napodobit hlas vaší blízké osoby a oslovit vás s prosbou o pomoc nebo o citlivé informace. Podvodníci umí pomocí AI vytvořit kopii hlasu konkrétního člověka a použít ji k tomu, aby od lidí získali finance nebo citlivá data.

„Aktuální technologie jsou natolik kvalitní, že i trénovaný člověk má obrovské problémy to rozpoznat,“ vysvětluje Kamil Malinka z Fakulty informačních technologií VUT v Brně pro iROZHLAS.cz. Podle výzkumu je úspěšnost odhalení deepfaku zkušeným člověkem už méně než 30 %. Proto je dobré se v takové situaci zaměřit na kontext a styl, jakým daná osoba mluví.

Trnitá cesta Kristiny Kloubkové: Nesplněné sny, vztah s kolegou či život před kamerou