Uprostred digitálneho veku obavy z falošných správ čoraz viac zamestnávali pozornosť verejných organizácií, médií a osobností všetkého druhu. Nie nadarmo mali Fake News určitú váhu v dôležitých volebných procesoch, ako sú prezidentské voľby v USA v roku 2016, referendum o vystúpení Spojeného kráľovstva z Európskej únie alebo generáli Brazílie, ktorí viedli Bolsonaro.
Bez toho, aby sme museli ísť tak ďaleko, musel v našej krajine Facebook nedávno uzavrieť tri veľké krajne pravicové siete, ktoré na 30 stránkach, skupinách a duplicitných účtoch nazhromaždili viac ako jeden a pol milióna sledovateľov a viac ako 7 miliónov interakcií . Tieto skupiny sa venovali šíreniu hoaxov a falošných obrazov.
Teraz však čelíme ďalšiemu typu digitálnej hrozby, ktorá generuje nové bolesti hlavy. Hovoríme o takzvanom Deepfake, pojme, ktorý vzniká kombináciou výrazov „Deep Learning“ a „Fake“. V zásade ide o formu umelej inteligencie, ktorá umožňuje každému používateľovi upravovať falošné videá a zvuky ľudí, ktoré sa zdajú skutočné. Na tento účel sa používajú antagonistické generatívne siete (AGR) , druh algoritmu, ktorý umožňuje vytvárať nové typy údajov z iných už existujúcich množín.
„Hlboké podvody“ sú v konečnom dôsledku ďalšou formou digitálnej manipulácie a v najlepších prípadoch jednou z najpravdepodobnejších metód na „trollovanie“. Ako ich však môžeme zistiť? A predovšetkým, čo robia súkromné inštitúcie a spoločnosti na zabránenie jej katastrofálnym následkom? V tomto špeciále preskúmame úsilie, ktoré sa vynakladá na zastavenie tejto novej digitálnej pohromy.
Prečo sú falzifikáty také nebezpečné?
Technológia „deepfake“ nám umožňuje ľahko nahradiť tvár jednej osoby tvárou druhej, akoby to bola akási maska alebo digitálna maska, aby sme uverili tomu , že povedal určité veci, ktoré sa v skutočnosti nikdy nestali . Ako môžete hádať, tieto techniky majú sériu pomerne významných dôsledkov na určenie legitimity informácií šírených po internete.
Aj keď sa často používajú na vytváranie vtipných videí, pravdou je, že „falzifikáty“ majú temný potenciál zničiť verejný obraz človeka alebo ovplyvňovať verejnú mienku pomocou dezinformácií. Musíme vám, bohužiaľ, povedať, že toto zneužívanie je rozšírenejšie, ako by sme chceli, a s obrovským úspechom by sme mali dodať.
Jasným príkladom je aplikácia DeepNude, ktorá umožňovala nahrať obrázok osoby s oblečením a vytvoriť nový z tej istej nahej osoby . Našťastie je už uzavretý, ale musíme zdôrazniť jednoduchosť použitia tohto typu nástrojov, pre ktoré nie sú potrebné žiadne znalosti úprav, pretože všetku prácu robí samotný algoritmus.
V prípade DeepNude ponúkala platforma neuveriteľne realistické výsledky a bola plne prístupná prostredníctvom svojej webovej stránky pre Windows a Linux . A ako sa dalo očakávať, montáže so známymi osobnosťami ako Katy Perry alebo Gal Gadot na seba nenechali dlho čakať, kým sa v sieti neobjavili, takže tlak zo strany právnikov týchto herečiek neprestal, kým videá neodstránili dôležité webové stránky s obsahom pre dospelých. .
Toto je iba vrchol ľadovca manipulačnej kapacity, ktorú tieto typy aplikácií môžu mať. Teraz si predstavte dôsledky kampane tohto typu zameranej proti určitej politickej osobnosti s cieľom zmanipulovať volebný proces v krajine alebo regióne. Zlo nepozná hranice.
Ako sa bojuje proti falzifikátom?
Jednou z prvých spoločností, ktorá sa ozvala, nebol nikto iný ako Google, ktorý oznámil svoju pevnú vôľu bojovať proti falzifikátom a ako sa v týchto prípadoch hovorí, oheň hasí. Technologický gigant potvrdil spustenie celej databázy až 3 000 videí manipulovaných s umelou inteligenciou (falzifikáty), ktoré boli vytvorené špeciálne s cieľom zdokonaliť detekčné nástroje výskumníkov.
K tomu, Google najal skutočných hercov pre záznam ich tváre a použiť ich ako referenčný bod pre určenie, či bola umelo zmenená video. Pomocou metód generovania hlbokých falošných správ, ktoré sú k dispozícii všetkým, sa z týchto nahrávok vytvárajú tisíce hlbokých falzifikátov.
Výsledné videá, skutočné aj falošné, sa nahrávajú na platformu spoločného vývoja GitHub, aby vedci plne pochopili, čo tento systém produkuje. Táto databáza, ako hovoríme, je plne prístupná, aj keď najskôr vám bude musieť dať povolenie .
Facebook tiež plánuje vytvoriť podobnú databázu do konca tohto roka. Podľa jeho výkonného riaditeľa Marka Zuckerberga je hlavným problémom to, že priemysel nemá štandardizovaný systém na ich detekciu . Preto sa spojilo s Asociáciou AI, Microsoftu a akademickými pracovníkmi z Cornell Tech, MIT, Oxfordu, UC Berkeley, University of Maryland, College Park a University of Albany-SUNY, aby vytvorili výzvu Deepfake Detection Challenge. (DFDC pre skratku v angličtine).
Tento makroprojekt bude obsahovať rozsiahlu databázu a podrobnú klasifikáciu , ako aj finančnú pomoc a dary na povzbudenie čo najväčšieho počtu spolupracovníkov. Cieľom je vytvoriť druh komunity, ktorá pomôže odhaliť a vyhnúť sa manipulovaným videám prostredníctvom umelej inteligencie.
Niet pochýb o tom, že šírenie „falzifikátov“ sa stalo veľmi vážnym problémom s vážnymi následkami, ktoré nemožno ignorovať. Aj keď sa opatrenia navrhované hlavnými činiteľmi spáchanými v tejto veci môžu z dlhodobého hľadiska javiť ako nepraktické alebo dokonca kontraproduktívne, môžu byť jediným spôsobom odstránenia tohto trestného činu. Aj keď sa to môže zdať rozporuplné, boj proti „hlbokým falzifikátom“ s viacerými „hlbokými falzifikátmi“ pomôže detekčným nástrojom absorbovať viac údajov, ktoré im pomôžu ľahšie lokalizovať tieto typy montáží .