Specialista na sociální sítě Aviv Ovadia již v roce 2016 varoval IT společnosti před problémem falešných zpráv a příchodem éry post-pravdy. Expertovy předpovědi se staly skutečností a teď předpovídá ještě větší hrozbu – úplnou informační apokalypsu.
Technologie strojového učení definitivně rozostří hranice mezi fakty a fikcí. Časem u lidí vznikne apatie k realitě a zcela ztratí schopnost rozlišovat pravdu od fikce.
V polovině roku 2016 vystoupil absolvent MIT, odborník na výpočetní techniku a vynálezce emodži zobrazující brokolice Aviv Ovadia na konferenci Technology v San Francisku. USA se připravovaly na prezidentské volby a již tehdy upozornil na šíření nepravdivých informací. Ovadia varoval, že Facebook, Twitter a Google dávají přednost prioritním kliknutím, lajkům, přeposílkám, přechodům reklam a samozřejmě penězům. Kvalita informací se přitom na tomto seznamu nachází až na poslední příčce. Varování před blížící se informační apokalypsou však zůstalo bez povšimnutí.
Nyní Ovadia předpovídá úplné zhroucení institutu pravdy, ba dokonce likvidace samotného pojetí „skutečnosti“. Hlavním důvodem infokalypsy bude šíření levných a cenově dostupných nástrojů narušujících realitu: „Za těchto okolností může někdo napodobit událost bez ohledu na to, zda se skutečně stala,“ vysvětlil Ovadia v rozhovoru pro BuzzFeed News.
Ukázka manipulace s realitou:
První příklady technologií schopných věrohodně narušovat realitu jsou již známy. Generické neuronové sítě již vytvářejí nový multimediální svět, kterému však nelze důvěřovat. S jejich pomocí můžete vytvářet videa, na kterých lidé dělají to, co nedělali, a říkají věci, které nikdy neřekli. Tvůrce technologie, Jan Goodfellow, si uvědomuje rizika, která s ní souvisejí, a předpovídá, že YouTube za deset let naplní falešné videa, které se jen stěží odliší od skutečných.
Algoritmus Nvidia se nedávno naučil vytvářet děsivě přesvědčivá videa. Na síti již existuje software, který vám umožní vkládat tváře známých osobností nebo jiných lidí do videa v pornofilmech. Zároveň pak vědci z celého světa pracují na systémech napodobování řeči, výrazů obličeje a gest. Dnes nic nebrání vytvoření videa, ve kterém známý politický lídr přesvědčivě mluví o něčem, co nikdy neřekl. Zároveň se jeho hlas a výrazy obličeje téměř neodlišují od skutečných.
Takové programy mohou vést k diplomatickým manipulacím. Stačí natočit video, na kterém Donald Trump nebo Kim Čong-un vyhlásí jadernou válku – a důsledky budou nepředvídatelné.
Další forma manipulace umožňuje imitovat demokracii, nebo spíše vůli lidu. Lid totiž budou zastupovat roboti. Budou hlasovat v on-line referendech, posílat dopisy administrativě a účastnit se rozsáhlých státních průzkumů. Letošní léto boti napadli stránky Federální komise pro komunikaci ve Spojených státech – více než milion virtuálních „občanů“ zanechalo komentáře, které požadují, aby byla zrušena síťová neutralita.
Ovadia připouští, že časem nahradí boty skuteční lidé. Jejich účty v sociálních sítích, a s nimi i činnost držitelů účtů, bude možné koupit na černém trhu. „Továrny trollů“ existují i nyní, ale v budoucnu se daleko více rozšíří a dále porostou.
Jiný scénář, před nímž expert varuje, je spojen s „přesným phishingem“ (point phishing). Pokud dřívější tvůrci spamů a kybernetičtí podvodníci rozesílali všem stejné dopisy a zprávy v naději, že zareagují, nyní hackeři mohou vytvořit klíč pro každého uživatele. Mohou například napodobit řeš přítele a požádejte o peníze – a to s maximální přesvědčivostí, třeba i s pomocí charakteristického slangu.
„Pro lidi bude časem jednodušší, když v zásadě přestanou kontrolovat poštu,“ řekla Ovadia. V důsledku toho uživatelé internetu propadnou „apatii k realitě“ – uznají, že sami nejsou schopni rozlišit skutečnost od fikce. „Lidé přestanou věnovat pozornost zprávám a existence určité úrovně informovanosti, která je nezbytná pro demokracii, bude ohrožena“.
Řešení těchto problémů Ovadia zatím nevidí:
„Hrozba je reálná. Nejhorší však je, že zatím nevidím způsob, jak s ní bojovat. Aby mohla být apokalypsa odvrácena, muselo by dojít k vynálezu speciálního nástroje srovnatelného svými parametry s internetem“.
(překlad vlastní, upraveno)
Originál: Юлия Красильникова - «Информационный апокалипсис неизбежен» vyšel 13. února 2018 na hightech.fm.
Zdroj: hightech.fm
Krasilniková Julie