Негізгі ұсыныстар
- Зерттеушілер жалған жаңалықтарды анықтауға және анықтауға арналған AI жүйесін әзірледі.
- Модель жалған жаңалықтардың жалпыға ортақ деректер жинағын тексереді, пайдаланушыларды ескертеді және оларды расталған ақпарат көздеріне бағыттайды.
-
Желідегі жалған жаңалықтарға қарсы тұрудың AI әдістерінің саны өсіп келеді.
Жасанды интеллект (AI) желіде жалған ақпараттың жылдам таралуын тежеуге көмектеседі, дейді сарапшылар.
Зерттеушілер жалған жаңалықтарды анықтауға және анықтауға арналған AI жүйесін әзірледі. Модель жалған жаңалықтардың жалпы деректер жинағын тексереді, пайдаланушыларды ескертеді және оларды тексерілген ақпарат көздеріне қайта бағыттайды. Бұл жалған жаңалықтарға қарсы тұру үшін өсіп келе жатқан AI әдістерінің бөлігі.
"Интернеттегі, әсіресе әлеуметтік желілердегі ақпараттың көлемі өте үлкен және оны қолмен өңдеу мүмкін емес, әсіресе жоғары дәлдікпен", - деп әзірлеген Оңтүстік Калифорния университетінің компьютерлік инженерия профессоры Уэль АбдАлмагеед Көрнекі жалған ақпаратты анықтауға арналған AI алгоритмдері туралы Lifewire электрондық пошта сұхбатында айтты.
"Дезинформацияны нақты уақыт режимінде бақылап, белгілеу маңызды, өйткені жалған ақпарат тарай бастағанда, адамдарды ақпараттың жалған екеніне сендіру қиын, әсіресе жалған ақпарат біздің біржақтылығымызды растайтын болса," деп қосты ол.
Оны шынайы сақтау
Австралиялық Маккуари университетінің тобы әзірлеген AI әдісі жалған жаңалықтардың таралуын азайтуға көмектесуі мүмкін. Модель қолданбаға немесе веб-бағдарламаға біріктірілуі мүмкін және әр пайдаланушының мүдделеріне сәйкес келетін сәйкес «шын» ақпаратқа сілтемелер ұсынады.
"Желіде жаңалықтарды оқығанда немесе көргенде, сізге жиі ұсыныс үлгісін пайдаланып ұқсас оқиғалар немесе тақырыптар туралы жаңалықтар ұсынылады", - дейді зерттеумен жұмыс істеген Маккуари университетінің деректер ғалымы Шоужин Ванг. жаңалықтар шығарылымы.
Ванг бір оқиғаға қатысты нақты жаңалықтар мен жалған жаңалықтар жиі әртүрлі мазмұн мәнерлерін қолданып, компьютер үлгілерін әртүрлі оқиғаларға арналған жаңалық ретінде қабылдау үшін шатастыратынын айтады.
Macquarie университетінің моделі әрбір жаңалық туралы ақпаратты екі бөлікке «ажыратады»: жаңалықтың жалған екенін көрсететін белгілер және жаңалық туралы тақырыпты немесе оқиғаны көрсететін оқиғаға қатысты ақпарат. Содан кейін модель пайдаланушының келесі оқығысы келетін жаңалық оқиғасын болжау үшін әртүрлі жаңалықтар арасында ауысу үлгілерін іздейді.
Зерттеу тобы модельді GitHub сайтында жарияланған FakeNewsNet деп аталатын, PolitiFact және GossipCop жалған жаңалықтары, сонымен қатар жаңалықтар мазмұны, әлеуметтік контекст және пайдаланушының оқу тарихы сияқты деректер сақтайтын жалпыға ортақ деректер жинағы бойынша оқытты.
Жалған жаңалықтардың өсуі
Жалған жаңалықтар өсіп келе жатқан мәселе, дейді зерттеулер. NewsGuard әлеуметтік медиадағы өсімнің маңызды бөлігі сенімсіз веб-сайттардан келгенін анықтады.2020 жылы үздік 100 жаңалық көзінің 17 пайызы қызыл рейтингті (әдетте сенімсіз) сайттардан келді, 2019 жылғы шамамен 8 пайыз.
Санта-Клара университетінің Марккула қолданбалы этика орталығының журналистика және медиа этикасының директоры Субраманиам Винсент Lifewire электрондық поштасына берген сұхбатында AI жалған ақпаратқа қарсы тұруға көмектесетінін айтты.
Технологияны «өшпенділік сөздерімен немесе қазірдің өзінде жоққа шығарылған шағымдармен байланысты немесе факт-тексерушілер немесе белгілі үгіт-насихатшы мемлекеттік құрылымдар немесе мүшелік саны тез өсетін жаңадан пайда болған топтар жоққа шығаратын ұйымдастырылған бөлісу үшін тіркелгі әрекетін бақылау» үшін пайдаланылуы мүмкін», - деп түсіндірді Винсент. "Жалпы жасанды жасанды дизайнмен бірге белгілі бір түрдегі мазмұнды бөлісуден бұрын үйкеліс қосу үшін белгілеу үшін де пайдалануға болады."
AbdAlmageed әлеуметтік желілер жалған жаңалықтарды анықтау алгоритмдерін ұсыну алгоритмдерінің бөлігі ретінде біріктіруі керек екенін айтты. Оның айтуынша, мақсат «жалған жаңалықтарды бөлісуді толық болдырғысы келмесе, жалған жаңалықтарды жалған немесе дәл емес деп белгілеу».
Бұл AI жалған жаңалықтарға қарсы тұру үшін пайдалы болуы мүмкін болғанымен, бұл әдістің кемшіліктері бар, деді Винсент. Мәселе мынада: AI жүйелері адамның сөйлеуі мен жазуының мағынасын түсінбейді, сондықтан олар әрқашан қисық сызықтың артында болады.
"Ашық өшпенділік сөздері мен жалған ақпараттың кейбір түрлерімен неғұрлым дәлірек AI алынса, соғұрлым адамзат мәдениеті жаңа кодқа және ұйымдастыру үшін жер асты мағынасын таратуға көшеді ", - деді Винсент.
Восим Халед, Blackbird. AI дезинформация мониторингі компаниясының бас директоры Lifewire электрондық поштасында онлайн жалған ақпараттың дамып келе жатқан қауіп екенін айтты. Жаңа AI жүйелері жалған жаңалықтардың қай жерде пайда болатынын болжай алуы керек.
"Көп жағдайда сіз AI өнімін жасап, оны дайын деп атай алмайсыз", - деді Халед. "Мінез-құлық үлгілері уақыт өте өзгереді және сіздің AI үлгілері осы өзгерістерге сай болуы маңызды."
