Негізгі ұсыныстар
- Зерттеушілер біздің әңгімелерді түсіріп алатын жалған микрофондарды жеңу үшін әңгімелерді шиеленістіру әдісін ойлап тапты.
- Әдіс маңызды, себебі ол нақты уақыттағы аудио ағынында және ең аз дайындықпен жұмыс істейді.
- Сарапшылар зерттеуді құптайды, бірақ оның қарапайым смартфон пайдаланушысы үшін пайдасы жоқ деп санайды.
Бізді микрофоны бар смарт құрылғылар қоршап жатыр, бірақ олар бізді тыңдауға рұқсат етілсе ше?
Сөйлесулерімізді аңдулардан қорғау мақсатында Колумбия университетінің зерттеушілері адамдарға қолайсыздық туғызбай, нақты уақытта автоматты түрде сөйлеуді тану жүйелерін бұзатын нейрондық дауысты камуфляж әдісін әзірледі.
"[Дауыспен белсендірілетін ақылды құрылғылардың] өмірімізге енуімен құпиялылық идеясы жойыла бастайды, өйткені бұл тыңдау құрылғылары үнемі қосулы және айтылғандарды бақылайды," Чарльз Эверетт, Кибер-адвокаси директоры, Deep Instinct, бұл туралы Lifewire электрондық поштасы арқылы хабарлады. "Бұл зерттеу белгілі бір аймақта белгілі немесе беймәлім электрондық тыңдаушылардан адамның дауысы мен сөйлесулерін жасыру немесе жасыру қажеттілігіне тікелей жауап болып табылады."
Әңгімелесу
Зерттеуші сыбырлы-тыныш дыбыстарды шығаратын жүйені ойлап тапты, оны кез келген бөлмеде ойнауға болады, бұл жалған микрофондардың сөйлесулеріңізді тыңдауын болдырмайды.
Тыңдауға қарсы технологияның бұл түрі Everette шуды басатын құлаққаптарды еске салады. Фондық шуды болдырмау үшін сыбырлаған тыныш дыбыстарды шығарудың орнына, зерттеушілер дыбыс толқындарын түсінікті дыбысқа түсіндіретін Жасанды интеллект (AI) алгоритмдерін бұзатын фондық дыбыстарды таратады.
Адамның даусын жасырудың мұндай механизмдері бірегей емес, бірақ Neural Voice камуфляжының басқа әдістерден ерекшелігі оның аудио ағынында нақты уақытта жұмыс істеуінде.
"Тікелей сөйлеуде жұмыс істеу үшін біздің әдіс болашақта [дұрыс шифрланған дыбысты] болжау керек, осылайша олар нақты уақытта ойнатылады", - дейді зерттеушілер өз мақалаларында. Қазіргі уақытта әдіс ағылшын тілінің көпшілігінде жұмыс істейді.
Brand3D компаниясының бас директоры Ханс Хансен Lifewire-ке бұл зерттеудің өте маңызды екенін айтты, өйткені ол қазіргі AI жүйелеріндегі үлкен әлсіздікке шабуыл жасайды.
Электрондық пошта арқылы сөйлескен кезде Хансен қазіргі терең оқыту AI жүйелері жалпы және атап айтқанда табиғи сөйлеуді тану мыңдаған спикерлерден жиналған миллиондаған сөйлеу деректерінің жазбаларын өңдегеннен кейін жұмыс істейтінін түсіндірді. Керісінше, нейрондық дауыс камуфляжы екі секундтық кіріс сөзінде өзін кондициялағаннан кейін жұмыс істейді.
Жеке мені құрылғылардың тыңдап жатқанына алаңдайтын болсам, менің шешімім фондық шу шығаруға тырысатын басқа тыңдау құрылғысын қосу емес.
Қате ағаш?
Брайан Чаппелл, BeyondTrust компаниясының бас қауіпсіздік стратегі бұл зерттеу құнды ақпараттың айтылып жатқанын көрсететін кілт сөздерді тыңдап отырған, бұзылған құрылғылардың ортасында болуы мүмкін деп қорқатын бизнес пайдаланушылар үшін тиімдірек деп санайды.
"Бұл технология авторитарлық бақылау жағдайында болуы мүмкін, ол жерде AI бейне және дауысты басып шығару талдауы азаматтарға қарсы қолданылады", - деді Джеймс Мод, BeyondTrust компаниясының киберқауіпсіздік жөніндегі жетекші зерттеушісі Lifewire-ге электрондық пошта арқылы.
Мод бұл құрылғыларда деректерді түсіру, сақтау және пайдалану жолына қатысты құпиялылықты басқару элементтерін енгізу жақсы балама болатынын айтты. Оның үстіне Чаппелл зерттеуші әдісінің пайдалылығы шектеулі деп санайды, өйткені ол адамның тыңдауын тоқтатуға арналмаған.
"Үй үшін, кем дегенде, теориялық тұрғыдан мұндай құралды пайдалану Siri, Alexa, Google Home және ауызша триггер сөзімен белсендірілген кез келген басқа жүйенің сізді елемейтінін есте сақтаңыз", - деді. Чаппелл.
Бірақ сарапшылардың пайымдауынша, смарт құрылғыларымызға AI/ML спецификалық технологиясының көбеюіне байланысты бұл технология жақын болашақта телефондарымызға енуі әбден мүмкін.
Мод алаңдатады, өйткені AI технологиялары шуды және нақты дыбысты ажыратуды тез үйренеді. Оның ойынша, жүйе бастапқыда сәтті болғанымен, ол тез мысық пен тышқан ойынына айналуы мүмкін, өйткені тыңдау құрылғысы кептелістерді сүзуді үйренеді.
Мауде оны пайдаланатын кез келген адам шын мәнінде өзіне назар аудара алатынын атап өтті, өйткені дауыс тану функциясының бұзылуы әдеттен тыс болып көрінуі мүмкін және бір нәрсені жасыруға тырысып жатқаныңызды білдіруі мүмкін.
"Жеке мені құрылғылардың тыңдап жатқанына алаңдайтын болсам, менің шешімім фондық шу шығаруға тырысатын басқа тыңдау құрылғысын қосу болмас еді", - деп бөлісті Мод. "Әсіресе бұл құрылғының немесе қолданбаның бұзылу және мені тыңдау қаупін арттырады."
