Негізгі ұсыныстар
- Жаңа зерттеу адамдардың AI жасаған кескіндерді шынайы суреттерден ажырата алмайтынын көрсетті.
- Қатысушылар AI арқылы жасалған кескіндерді сенімдірек деп бағалады.
- Сарапшылар адамдар интернетте көрген нәрсеге сенуді доғаруы керек деп санайды.
«Көрген – сенген» деген нақыл сөз интернетке келгенде өзекті емес және сарапшылар оның жақын арада жақсармайтынын айтады.
Жақында жүргізілген зерттеу жасанды интеллект (AI) арқылы жасалған беттердің суреттері жоғары фотореалистік болып қана қоймай, сонымен қатар олар шынайы беттерге қарағанда жақсырақ болып көрінетінін көрсетті.
"Біздің AI-синтезделген беттердің фотореализмін бағалауымыз синтездік қозғалтқыштардың таңғаларлық аңғардан өткенін және шынайы беттерге қарағанда ерекшеленбейтін және сенімдірек беттерді жасауға қабілетті екенін көрсетеді", - деп атап өтті зерттеушілер.
Ол адам жоқ
Зерттеуші Ланкастер университетінен доктор Софи Найтингейл және Калифорния университетінің профессоры Хани Фарид эксперименттерді онлайн-алаяқтықтың барлық түрлерінен бастап белсендіруге дейінгі терең фейктердің жақсы жарияланған қауіптерін мойындағаннан кейін жүргізді. жалған ақпарат тарату науқаны.
"Бәлкім, ең қауіптісі - кез келген сурет немесе бейне жалған болуы мүмкін цифрлық әлемде кез келген ыңғайсыз немесе жағымсыз жазбаның шынайылығына күмән тудыруы мүмкін", - дейді зерттеушілер.
Олар терең жалған мазмұнды анықтаудың автоматты әдістерін жасауда ілгерілеушілік болғанымен, қазіргі әдістер желіде жүктеп салынып жатқан жаңа мазмұнның тұрақты ағынына ілесу үшін жеткілікті тиімді және дәл емес екенін айтты. Бұл шынайы мен жалғанды ажырату желідегі мазмұнды тұтынушылардың қолында екенін білдіреді, дейді дуэт.
Jelle Wieringa, KnowBe4-тің қауіпсіздік туралы хабардар болуын қорғаушы, келіседі. Ол Lifewire-ке электрондық пошта арқылы нақты терең жалған деректермен күресудің арнайы технологиясыз өте қиын екенін айтты. "[Жеңілдететін технологиялар] қымбат және нақты уақыттағы процестерге енгізу қиын болуы мүмкін, көбінесе фейкті фактіден кейін ғана анықтайды."
Осы болжамды ескере отырып, зерттеушілер адам қатысушыларының заманауи синтезделген беттерді шынайы беттерден ажырата алатынын анықтау үшін бірқатар эксперименттер жүргізді. Тестілерінде олар жалғанды тануға көмектесетін жаттығуларға қарамастан, дәлдік деңгейі жаттығусыз 48%-дан 59%-ға ғана жақсарғанын анықтады.
Бұл зерттеушілерді сенімділікті қабылдау адамдарға жасанды кескіндерді анықтауға көмектесе алатынын тексеруге әкелді. Үшінші зерттеуде олар қатысушылардан беттердің сенімділігін бағалауды сұрады, тек синтетикалық беттердің орташа рейтингі 7 екенін анықтау үшін. Нақты беттердің орташа рейтингінен 7% сенімдірек. Бұл сан көп көрінбеуі мүмкін, бірақ зерттеушілер оның статистикалық маңызды екенін айтады.
Тереңірек жалғандар
Тұңғиық фейктер қазірдің өзінде үлкен алаңдаушылық туғызды, енді бұл зерттеу суды одан әрі ластады, бұл мұндай жоғары сапалы жалған кескіндер, мысалы, көбірек жасауға көмектесу арқылы онлайн алаяқтыққа мүлдем жаңа өлшем қосуы мүмкін екенін көрсетеді. сенімді желідегі жалған профильдер.
"Киберқауіпсіздікті басқаратын бір нәрсе - адамдардың технологияларға, процестерге және оларды қауіпсіз сақтауға тырысатын адамдарға сенімі", - деп бөлісті Wieringa. "Тұңғиық фейктер, әсіресе олар фотореалистік болған кезде, бұл сенімге, демек, киберқауіпсіздікті қабылдауға және қабылдауға нұқсан келтіреді. Бұл адамдардың өздері қабылдаған барлық нәрсеге сенімсіздікпен қарауына әкелуі мүмкін."
Крис Хаук, Pixel Privacy тұтынушыларының құпиялылығы жөніндегі чемпионы келісті. Қысқаша электрондық пошта алмасуында ол Lifewire-ке фотореалистикалық терең жалғандық желіде «бүліну» тудыруы мүмкін екенін айтты, әсіресе қазіргі уақытта фото идентификатор технологиясы арқылы есептік жазбалардың барлық түрлеріне қол жеткізуге болады.
Түзету әрекеті
Бақытымызға орай, Грег Кун, IoT, Prosegur Security директоры, мұндай алаяқтық аутентификацияны болдырмайтын процестер бар екенін айтады. Ол Lifewire-ке электрондық пошта арқылы AI негізіндегі тіркелгі деректері жүйесі тексерілген адаммен тізімге сәйкес келетінін айтты, бірақ олардың көпшілігінде «өмір сүруді» тексеру үшін қауіпсіздік шаралары орнатылған.
"Жүйелердің бұл түрлері пайдаланушыдан күлімсіреу немесе басыңызды солға, содан кейін оңға бұру сияқты белгілі бір тапсырмаларды орындауды талап етуі және бағыттауы мүмкін. Бұл статикалық түрде жасалған беттер орындай алмайтын нәрселер ", - деп бөлісті Кун.
Зерттеушілер жұртшылықты синтетикалық кескіндерден қорғау үшін оларды жасау мен таратуды реттеуге арналған нұсқауларды ұсынды. Жаңадан бастағандар үшін олар барлық синтетикалық тасымалдағыштарды сенімді түрде анықтауға мүмкіндік беру үшін кескін және бейне синтез желілерінің өзіне терең енген су белгілерін қосуды ұсынады.
Сол уақытқа дейін Comparitech компаниясының құпиялылық қорғаушысы және infosec зерттеулерінің редакторы Пол Бишофф адамдардың өз бетімен жүретінін айтады.«Адамдар желідегі беттерге сенбеуді үйренуі керек, сол сияқты біз де электрондық хаттардағы көрсетілетін есімдерге сенбеуді үйрендік», - деді Бишофф Lifewire-ге электрондық пошта арқылы.
