Mnoho ľudí po celom svete v poslednom období nachádza potešenie v používaní inteligentných zariadení. Prostredníctvom príkazu môžu tieto zariadenia čítať text, prehrávať hudbu, nastaviť alarm. Príkazy inteligentným asistentom môže ale dávať aj niekto iný, bez nášho vedomia.

V posledných dvoch rokoch výskumníci v Číne a USA začali demonštrovať, že môžu posielať skryté príkazy na zariadenia Apple Siri, Amazon Alexa a Asistent Google.

Tieto príkazy nie sú detekovateľné pre ľudské ucho. V rámci univerzitných laboratórií vedci dokázali tajne aktivovať inteligentné systémy telefónov a reproduktorov tak, že im dali telefónne čísla alebo otvorené webové stránky.

V nesprávnych rukách môže byť technológia použitá na odomknutie dverí alebo nakupovanie na internete či iné zneužitia a to všetko počas prehrávania hudby v rádiu. Informáciu zverejnil The New York Times.

V roku 2016 skupina študentov z University of California, Berkeley a Georgetown University ukázala, že dokážu skryť príkazy v tzv. bielom šume prehrávanom cez reproduktory.

Následne prostredníctvom videí na YouTube mohli cez inteligentné zariadenie zapnúť režim lietadla alebo otvárať webové stránky.

Minulý mesiac študenti publikovali výskumný materiál, v ktorom hovoria, že môžu vkladať príkazy priamo do nahrávok hudby alebo hovoreného textu.

Znamená to, že kým ľudský poslucháč počuje hudbu, hovorené slovo alebo spev, tak napríklad reproduktor Amazonu môže počuť inštrukciu na pridanie nejakej položky do nákupného zoznamu používateľa.

Technológia zatiaľ nebola použitá mimo laboratória, ale nie je vylúčené, že ju niekto už môže využívať.

Tieto podvodné triky ilustrujú ako môže byť umelá inteligencia zneužívaná.

Pri týchto zvukových útokoch výskumníci využívajú priepasť medzi rozpoznávaním človeka a stroja. Systém rozpoznávania reči zväčša prekladá každý zvuk na písmeno, prípadne ho kompiluje do slov a fráz.

Pri zmenách zvukových súborov boli vedci schopní zrušiť zvuk, ktorý by mal systém na rozpoznávanie reči počuť a nahradiť ho zvukom, ktorý stroj v podstate prijal ako inštrukciu. A to všetko bez toho, aby to ľudské ucho zaznamenalo.

Spoločnosti, ktoré ponúkajú ľuďom inteligentné služby tvrdia, že ich majú zabezpečené. Apple uviedol pre The New York Times, že jeho inteligentný reproduktor HomePod je navrhnutý tak, aby zabránil takým príkazom ako je odomknutie dverí. Aj Amazon údajne podnikol kroky, ktoré zabránia reproduktoru asistenta prijímať takéto zvuky.

V minulom roku výskumníci na Princeton University and China Zhejiang University demonštrovali, že systémy na rozpoznávanie hlasu môžu byť aktivované použitím frekvencií, ktoré nie sú počuteľné pre ľudské ucho.

Technika, ktorú čínski vedci nazvali DolphinAttack, môže prikazovať inteligentným zariadeniam, aby navštívili vírusové webové stránky, iniciovali telefonické hovory, fotografovali alebo posielali textové správy.

DolphinAttack má, ale svoje obmedzenia. Vysielač musí byť blízko prijímajúceho zariadenia, no odborníci varujú, že pri využití výkonnejších ultrazvukových systémoch sa toto obmedzenie stráca.

Výskumníci z univerzít veria, že ich zistenia pomôžu zabrániť zneužívaniu inteligentných zariadení. Pre spoločnosti, ktoré poskytujú služby inteligentných asistentov je to veľmi dôležité, pretože od bezpečnosti závisí predajnosť týchto služieb.

Ilustračná foto na titulke: pixabay.com

REKLAMAadv.:

ZANECHAŤ KOMENTÁR

Zadajte svoj komentár!
Zadajte svoje meno tu