Facebook plánuje mazat manipulativní videa. Parodií se nové pravidlo nedotkne

ČTK ČTK
7. 1. 2020 14:35
Facebook plánuje odstraňovat sofistikovaná podvodná videa, jejichž cílem je zmanipulovat diváky. Zákaz se podle sdělení firmy týká zejména obsahu vytvářeného prostřednictvím metod strojového učení, který se označuje termínem "deepfake". Povoleny naopak zůstávají jednodušší formy manipulace, které v poslední době opakovaně vyvolávají rozruch na americké politické scéně.
Ilustrační foto.
Ilustrační foto. | Foto: Shutterstock

Deepfakes podle Facebooku představují pro digitální platformy a společnost obecně vážný problém. Na internetu jsou stále relativní vzácností, jejich užívání ale sílí, uvedla viceprezidentka Monika Bickertová.

Objektem takovéhoto falešného videa se nedávno stal i samotný šéf Facebooku Mark Zuckerberg, když jeden britský umělec upravil úryvek z jeho televizního interview. Zuckerberg se pak ve věrohodně vyhlížejícím klipu mimo jiné chlubil tím, že má absolutní moc nad "ukradenými daty miliard lidí".

Příspěvek ze sociální sítě Instagram, která pod Facebook spadá, dodneška nebyl stažen. Na největší sociální síti světa už by ale zřejmě byl zakázán.

"Budeme odstraňovat zavádějící upravený obsah,… půjde-li o produkt umělé inteligence či strojového učení vytvořený spojením, nahrazením či překrytím obsahu ve videu, čímž je navozen dojem, že je (to video) autentické," vysvětluje Bickertová.

Jednodušší formy manipulace smazány nebudou

Zákaz se vztahuje i na jinak upravená videa, která by mohla uživatele přesvědčit, že osoba na obrazovce "pronesla slova, která ve skutečnosti neřekla". Editace obsahu přitom musí být za hranicí pouhého vylepšení kvality a musela by být provedena tak, že pro "průměrného člověka" by nebyla zjevná.

Mnozí analytici nicméně mají za to, že alespoň v nejbližší době mohou větší hrozbu než "deepfakes" představovat mnohem jednodušší formy manipulace.

Média v souvislosti s novým opatřením Facebooku připomínají zejména loňskou kauzu s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou. Na sociálních sítích se loni šířily zpomalené záběry z jejího projevu, které byly prezentovány jako důkaz, že Pelosiová je opilá nebo trpí nějakými zdravotními potížemi.

"Upravené video předsedkyně Pelosiové nesplňuje měřítka tohoto opatření a nebylo by smazáno. Blokována budou jen videa vytvořená umělou inteligencí, která ukazují lidi, jak říkají fiktivní výroky," sdělili zástupci Facebooku.

Satirám smazání nehrozí

Bickertová v blogovém příspěvku doplňuje, že ohlášený zákaz se netýká ani parodií a satiry či videí, v nichž chybějí části vyjádření mluvčího, nebo v nichž je změněno pořadí výroků. Sítem by tak prošel i hojně sdílený klip z minulého týdne, v němž byla vytržena z kontextu slova bývalého amerického viceprezidenta Joea Bidena ve snaze zobrazit ho jako rasistu.

Výjimka pro parodie a satiru by podle deníku The Washington Post mohla vést k ošemetným polemikám při posuzování manipulativního obsahu. Mezery v novém opatření Facebooku vzbuzují obavy také u profesora Kalifornské univerzity Hanyho Farida, který se specializuje na analýzu digitálních záběrů. Zákaz je podle něj příliš "úzce vymezen".

"Tato zavádějící videa (s Pelosiovou a Bidenem) byla vytvořena jednoduchými technologiemi a neopírala se o metody založené na umělé inteligenci, přesto byla přinejmenším tak zavádějící jako deepfake," řekl Farid. "Proč se zaměřovat pouze na deepfakes a ne na širší problém s úmyslně manipulativními videi?" tázal se.

Facebook se hájí tím, že v případech, kdy daný příspěvek neporušuje pravidla platformy, může být stále video po analýze označeno za "falešné nebo částečně falešné".

Provozovatel této sociální sítě následně omezí distribuci takového příspěvku a připojí k němu upozornění nezávislých kontrolorů. Podle Bickertové je uvedený postup lepší, než kdyby se videa mazala, protože "by stále byla dostupná jinde na internetu".

Podívejte se, jak vypadá "deepfake" video:

Povedené deep fake video: Jennifer Lawrence s tváří Steva Buscemiho | Video: VillainGuy
 

Právě se děje

před 3 hodinami

Počítačovou síť radnice Prahy 3 napadl virus, úřad bude uzavřený

Počítačovou síť radnice Prahy 3 napadl virus. Lidé se tak nemohli s úřadem elektronicky spojit. Technici městské části stále pracují na nápravě, radnice bude kvůli tomu bude ve středu uzavřena. Vyplývá to z informací na facebooku Prahy 3, na které upozornil server Computerworld. Radnice vyzvala občany, aby místo e-mailů zatím raději s úřadem komunikovali po telefonu.

před 4 hodinami

Hokejista Edmontonu je kvůli krvácení do mozku v kómatu

Hokejista Edmontonu Colby Cave skončil kvůli krvácení do mozku na jednotce intenzivní péče. Lékaři v nemocnici v Torontu museli pětadvacetiletého útočníka uvést do umělého spánku. Informovali o tom zástupci klubu na sociálních sítích.

Před přerušením sezony odehrál Cave v NHL jedenáct zápasů za Oilers, na farmě v AHL nastoupil ke 44 duelům. Celkem má v NHL v dresu Bostonu, který ho v roce 2015 angažoval jako nedraftovaného hráče, a Edmontonu na kontě 67 utkání. Do statistik si zapsal devět bodů za čtyři góly a pět asistencí.

Zdroj: ČTK
Další zprávy