Výskumníci prehĺbili možnosti technológie „deepfakes“, ktorá generuje automatické články. Ich snahou je poukázať na to, ako ľahko možno generovať falošné články.

„Deepfakes“ je nový počítačový program vytvorený v OpenAI San Francisco. Program dokáže úplne jednoducho vytvoriť pozoruhodne ľudsky znejúci článok. Je to niečo, čo otvára možnosť tvorby falošných správ v priemyselnom meradle. Informáciu zverejnil portál Axios.

Technológia „deepfakes“ dokáže vytvoriť falošné video, audio aj obrázky, čo môže výrazne podporiť dezinformačný priemysel.

Nový program od OpenAI je podobný systému, ktorý používa Google na odhadnutie ďalších slov vo vyhľadávaní. Stačí napísať prvú vetu vymysleného príbehu a počítač urobí zvyšok.

Len jedná začiatočná veta stačí programu na vytvorenie celého spravodajského článku. Program „píše“ článok, tak že vyberá najlepšie ďalšie slovo založené na ľudskom písomnom zadaní a obrovskej databáze textu, ktorý si prečítal na internete.

Cieľom OpenAI je vytvoriť všeobecný model jazyka, teda program, ktorý dokáže robiť to, čo ľudia. OpenAI kvôli možnému zneužitiu svoju technológiu nehodlá zverejniť. Ukážku z toho, ako program funguje zverejnil Axios.

Stačilo napísať prvé dve vety a program vygeneroval text, ktorý je po menších úpravách na nerozoznanie od iných textov publikovaných na portáli Axios. Vygenerovaný obsah textu Axios nemenil, iba zvýraznil niektoré slová, pridal nadpis, kurzívu.

Program „deepfakes dokáže v priebehu niekoľkých minút vytvoriť množstvo článkov, bez výraznejšej námahy človeka.

Vygenerovaný text, ale nemusí byť pravdivý. Program nedokáže identifikovať rozdiel medzi pravdou a klamstvom, čo ho robí nespoľahlivým.

Naučiť program rozlíšiť pravdu od klamstva zatiaľ zostáva pre veľkou a v podstate najväčšou výzvou.

Ilustračná foto: pixabay.com

- REKLAMA - adv.: