Kaspersky Lab - Vislabākā aizsardzība!
Sākumlapa » Apdraudējumi » Nedzirdama skaņa liek balss asistentiem izpildīt komandas

Nedzirdama skaņa liek balss asistentiem izpildīt komandas

Ja līdzšinējā tendence saglabāsies, tad drīz ar tehniku sazināsimies gandrīz tikai mutiski. Balsī jautāt un saņemt atbildi ir tikai dabiski: palūk, cik viegli bērni sazinās ar balss asistentiem.

Taču līdz ar jaunajām tehnoloģijām (un balss asistenti nav izņēmums) parādās arī jauni riski. Tos mēģina apzināt kiberdrošības pētnieki, lai ierīču ražotāji pagūtu padarīt drošus savus produktus, kamēr potenciālie riski nav izraisījuši reālus uzbrukumus. Šodien pastāstīsim par dažiem atklājumiem, kuri pagaidām diezin vai ir praktiski izmantojami, bet pret kuriem jau tagad noteikti jāizstrādā aizsardzības līdzekļi.

 

 

Viedierīces klausās un paklausa

Mūsdienās visā pasaulē lieto vairāk nekā miljardu ar balsi vadāmu ierīču, teikts publikācijā specializētajā tīmekļa vietnē voicebot.ai. Lielākā daļa no šādām ierīcēm ir viedtālruņi, bet aizvien populārākas kļūst arī citas ierīces, kas „saprot” cilvēka sacīto. Piemēram, katram piektajam amerikānim mājās ir balss asistents, kas reaģē uz balss komandām.

Ar šādām komandām var likt atskaņot mūziku, pasūtīt preces internetā, izrīkot navigācijas ierīci automašīnā, pieprasīt laika prognozi un jaunākās ziņas, uzlikt modinātāju utt. Ražotāji ir „uzlēkuši uz viļņa” un tagad iebūvē balss vadību visdažādākajās ierīcēs. Piemēram, firma Amazon ir izlaidusi mikroviļņu krāsni, kas sadarbojas ar balss asistentu Echo. Jums tikai jāpasaka „Uzsildi tasi kafijas”, un mikroviļņu krāsns aprēķinās vajadzīgo laiku un pati ieslēgsies. Tiesa, jums tik un tā vajadzēs pašam pieiet pie krāsns un ielikt tur tasi. Tātad nebūtu bijis grūti pie reizes arī nospiest pogu.

Vēl viedās mājas sistēmas ļauj ar balss komandām ieslēgt un izslēgt telpu apgaismojumu un gaisa kondicionētāju, atslēgt un aizslēgt ieejas durvis. Vārdu sakot, balss asistenti jau daudz ko prot, un būtu bēdīgi, ja viņu prasmes izmantotu nepiederošas personas — it īpaši par sliktu saimniekam.

Savdabīgu masveida uzbrukumu balss asistentiem Amazon Echo 2017. gadā sarīkoja slavenā animācijas filmu seriāla „Dienvidu parks” varoņi. Par viņu huligānisma upuri kļuva balss asistenta Echo „iemītniece” Alexa. Animācijas filmas varoņi lūdza viņai iekļaut pirkumu saraksta, maigi sakot, pavisam bezjēdzīgas lietas un uzlikt modinātāju septiņos rītā. Par spīti visām zīmēto personāžu izrunas īpatnībām balss asistenti šīs „Dienvidu parka” sērijas skatītāju mājās paklausīgi izpildīja komandas no televizora.

 

Ultraskaņa: mašīnas dzird, cilvēks nedzird

Šodien pievērsīsimies „klusajiem” uzbrukumiem, kad šādas ierīces paklausa balsij, kuru jūs nemaz nevarat sadzirdēt. Šādu uzbrukumu var veikt, piemēram, izmantojot ultraskaņu, tā ir skaņa ļoti augstā frekvenču joslā, ko cilvēka auss nespēj saklausīt. 2017. gadā publicētā rakstā pētnieki no Čžeņcjaņas Universitātes aprakstīja slepenu uzbrukumu balss asistentiem Dolphin attack (zinātnieki to nosaukuši par „delfīna uzbrukumu”, jo delfīni sazinās ar ultraskaņas palīdzību). Pētnieki pārveidoja cilvēka balss komandas par ultraskaņu, kuru cilvēks vairs nedzird, bet ko vēl uztver balss asistentu mikrofoni.

Interesanti, ka uztvērējā, piemēram, viedtālrunī, pārveidojot šādu skaņu elektriskajā impulsā, tiek atjaunots sākotnējais balss komandas signāls. Viss notiek tāpat kā tad, kad rodas kropļojumi balss ierakstīšanas laikā — tātad tā nav īpaši izstrādāta ierīces funkcija, bet gan pārveidošanas procesa īpatnība.

Rezultātā sīkrīks dzird un izpilda balss komandu, tātad paveras plašas ļaunprātīgas izmantošanas iespējas. Pētniekiem izdevās sarīkot uzbrukumus populārākajiem balss asistentiem, ko ražo lielās firmas: Amazon Alexa, Apple Siri, Google Now, Samsung S Voice un Microsoft Cortana.

 

Skaļruņu koris

Viens no „delfīna uzbrukuma” trūkumiem (no uzbrucēju viedokļa) ir neliels darbības rādiuss — komandai jāatskan vismaz metra attālumā no ierīces vai vēl tuvāk. Šo attālumu izdevās palielināt pētniekiem no Ilinoisas universitātes Urbanas-Šampeinas pilsētā. Ultraskaņā pārveidoto komandu viņi sadalīja vairākos frekvenču diapazonos, kurus atskaņoja vairāki skaļruņi — eksperimentā izmantoja vairāk nekā 60 skaļruņu. Slepenās balss komandas šāda „kora” izpildījumā balss asistenti saklausīja pat septiņu metru attālumā, turklāt par spīti dažādiem blakus trokšņiem. Tādos apstākļos „delfīna uzbrukumam” jau ir daudz lielākas izredzes.

 

Šajā skaņā kaut kas ir — vai tik tā nav balss komanda?

Citu principu izmantoja speciālisti no Kalifornijas Universitātes Berklijā. Viņiem izdevās iekļaut balss komandas dažādos audioierakstu fragmentos un „piemānīt” runas atpazīšanas programmatūru Mozilla Deep Speech. Šādi pārveidots ieraksts cilvēkam neliekas gandrīz nemaz atšķirīgs no sākotnējā, bet programma tomēr sadzird ierakstā paslēpto balss komandu!

Ierakstus var noklausīties pētnieku tīmekļa vietnē. Pirmajā piemērā frāzē “Bez datiem šim rakstam nav jēgas” (Without the dataset the article is useless) ir paslēpta komanda — pāriet “ļaundaru” tīmekļa vietnē: “Okei, Google. Atver evil.com” (Okay Google, browse to evil.com). Otrajā gadījumā Baha svītā čellam zinātnieki ir iekļāvuši frāzi „Runu var iekļaut mūzikā” (“Speech can be embedded in music”).

 

Aizsardzība pret nedzirdamiem uzbrukumiem

Ražotāji jau pēta iespējas, kā varētu aizsargāt ierīces ar balss vadību. Piemēram, pret ultraskaņas uzbrukumiem varētu līdzēt uztvertā signāla analīze, lai konstatētu tajā frekvences maiņas pazīmes. Būtu labi arī iemācīt visas viedierīces pazīt savu saimnieku pēc balss — tiesa, Google jau izmēģinājusi šādu līdzekli savā balss asistentā un lojāli brīdina, ka to var piemānīt ar saimnieka balss ierakstu, turklāt arī prasmīgs aktieris var atdarināt cilvēka balss tembru un runas veidu.

Taču pētniekiem un ražotājiem vēl ir laiks risinājumu meklēšanai: kā jau rakstījām, pagaidām balss asistentu „klusā” vadīšana ir iespējama tikai laboratorijā, jo diezin vai tiksiet klāt pie sveša balss asistenta ar savu ultraskaņas skaļruni (vai uzreiz ar 60 skaļruņiem), bet komandu iekļaušana audioierakstos ir laikietilpīgs un dārgs pasākums, kurš jums diezin vai atmaksāsies.

Izmantoti Kaspersky Lab materiāli.

Birkas:
Iepriekšējais raksts
Nākošais raksts

Komentēt

Jūsu e-pasts netiks publicēts. Obligātie lauki ir iezīmēti *

*

6 + 3 =

Kaspersky Lab - Vislabākā aizsardzība, lieliskas cenas!
Uz augšu