Негізгі ұсыныстар
- Amazon-тың Alexa дауыстық көмекшісі дауысты бір минуттық дыбыспен көшіре алады.
- Алексаға қайтыс болған ата-ананың дауысымен әңгіме оқуын сұрауға болады.
- Бұл терең жалған ойлармен бірдей, тек жақсылық күштері үшін қолданылады.
Amazon Alexa-ның соңғы айласы - қайтыс болған жақын адамыңыздың дауысына еліктеуді үйрену, олар сізбен қабірдің арғы жағында сөйлесе алады.
Alexa дауысты нанымды еліктеу үшін бір минут ауызша дыбысты қажет етеді. Amazon оны жақын адамдарыңызбен байланыста болатын жайлы мүмкіндік ретінде есептейді, бірақ бұл өте қорқынышты тәжірибе болуы мүмкін. Сондай-ақ ол бізді алдауға жеткілікті терең жалған аудио жасаудың қаншалықты оңай екенін көрсетеді, тіпті біз жақсы білетін дауыс болса да.
"Amazon, әрине, Alexa жақын арада өлген туыстарының дауысын үйреніп, содан кейін қолдана алатындығы туралы мәлімдемесімен өте ерекше және таңқаларлық аумаққа кірді », - деді Билл Манн, Құпиялықты қалпына келтірудің құпиялылық жөніндегі сарапшысы. Электрондық пошта арқылы Lifewire. "Кейбір адамдар үшін бұл қорқынышты емес. Шындығында, бұл өте әсерлі болуы мүмкін."
Машинадағы елес
Жыл сайынғы re:MARS конференциясының бөлігі ретінде Amazon қысқа бейнеде бұл мүмкіндікті көрсетеді. Онда бала Alexa-дан әжесі оны оқуды жалғастыра ала ма деп сұрайды «Оз сиқыршысы», әр баланың сүйікті қоғамдық домен жұмысы. Және бұл өте әсерлі сәт. Әже кітап оқи бастағанда адами сезімдерді сезінбеу қиын.
"Адамдар, әсіресе Батыс мәдениетінде өліммен күреседі. Біз ғасырлар бойы өлгендерді еске алудың жолдарын табуға тырыстық: өлім маскаларынан бастап, шаштаразға дейін, ескі фотосуреттерге дейін, ескі фильмдерді көруге дейін, " Эндрю Селепак, Флорида университетінің әлеуметтік медиа профессоры Lifewire-ге электрондық пошта арқылы айтты. "Deepfakes қайтыс болған жақын адамының жаңа өлім маскасын жасау үшін ең соңғы технологияны пайдаланады. Бірақ, адамның көзқарасына байланысты, бұл қорқынышты ма, әлде сүйікті адамыңыз қайтыс болғаннан кейін оны еске алу және оны ұстау тәсілі ме?"
Бірақ естелік мори жұбаныш және қорқынышты болуы мүмкін. Отбасы мүшесінің досы қайтыс болды, бірақ олардың сөйлегенін әлі де естисіз. Alexa-ның біртүрлі, кейде қорқынышты мінез-құлық тарихы бар екендігі көмектеспейді. 2018 жылы NYT шолушысы Фархад Манджу төсекке жатып жатқанда, оның Amazon жаңғырығы "қорқынышты фильмдегі түсінде айқайлаған бала сияқты жылай бастады"
Көп ұзамай Amazon Alexa кейде қатты күлетінін мойындады, бұл жасөспірімдер мен жертөлелермен бірге 101 қорқынышты фильмі.
Алекса әжесінің даусымен дәл осындай трюктарды орындаса, сіз қалай сезінесіз деп ойлайсыз.
Тұңғиық жалған
Алексаның дауысқа еліктеуді үйренуінің айқын оңайлығы бізді дауысты клондаудың келеңсіз әрекеттеріне әкеледі: терең жалған.
"Deepfake аудиосы аз түсінікті және аз белгілі болса да, жаңалық емес. Технология жасанды интеллект арқылы адамның даусын қайта жасау және адамның салыстырмалы түрде аз нақты дыбысын қолдана отырып терең үйрену үшін бірнеше жылдар бойы қол жетімді, " дейді Селепак. "Мұндай технология қауіпті және жойқын болуы мүмкін. Мазалаған адам қайтыс болған бұрынғы жігіттің немесе қыздың дауысын қайта жасап, жаңа дыбысты жек көретін және ренжітетін сөздер айту үшін пайдалана алады."
Бұл тек Alexa контекстінде. Терең жалған аудио, мысалы, көрнекті саясаткерлер өздері сенбейтін нәрселерге сенетініне адамдарды сендіру, бұдан әлдеқайда асып кетуі мүмкін. Бірақ екінші жағынан, біз осы терең жалғандарға үйренген сайын - мүмкін осы Alexa дауыстары түрінде - біз соғұрлым жағымсыз жалғандарға күмәнмен қарайтын боламыз. Тағы да, Facebook-те өтірік тарату қаншалықты оңай екенін ескерсек, мүмкін емес.
Amazon бұл мүмкіндіктің Alexa-ға келетінін немесе тек технологиялық демонстрация екенін айтқан жоқ. Мен бұл болады деп үміттенемін. Технология оны гуманистік тұрғыдан қолданғанда жақсы болады және оны қорқынышты деп атауға оңай болса да, Селепак айтқандай, бұл ескі бейнелерді қараудан немесе сақталған дауыстық хабарларды тыңдаудан онша ерекшеленбейді. жалқау сценарийдегі телешоудың кейіпкері сияқты.
Ал егер терең фейктерге арналған технология оңай қол жетімді болса, неге оны өзімізді жұбату үшін қолданбасқа?
