Негізгі ұсыныстар
- AI және машиналық оқыту алгоритмдері адамның мінез-құлқын бақылайды және оны басқаруды үйренеді, дейді сарапшылар.
- Зерттеушілер жақында AI көмегімен адамдардың таңдау жасау тәсілдеріндегі осалдықтарды табу және пайдалану жолын жасады.
- Қазіргі уақытта ең күрделі әлеуметтік медиа алгоритмі – ТикТок, дейді бір бақылаушы.
Жасанды интеллект (AI) және машиналық оқыту алгоритмдері пайдаланушылардың мінез-құлқына әсер етуді үйренеді, дейді сарапшылар.
Жақында Австралияның ұлттық ғылым агенттігінің зерттеушілері AI көмегімен адамдардың таңдау жасау тәсілдеріндегі осалдықтарды табу және пайдалану әдісін жасады. Соңғы зерттеулер адамның шешім қабылдауын манипуляциялауға арналған AI басқаратын жүйелер толқынының бірі ғана.
"AI қазірдің өзінде мінез-құлыққа әсер ететін көптеген әдістердің шегі жоқ", - Кентаро Тояма, Мичиган университетінің ақпарат мектебінің профессоры және Geek Heresy: әлеуметтік өзгерістерді технология культінен құтқару, деді электрондық поштаға берген сұхбатында.
"Шынында, Google іздеуін жасап, сілтемені бақылаған болсаңыз, сізге AI жүйесі әсер етті, ол сіздің қызығушылықтарыңызды анықтады және ол сізге ең сәйкес келетін нәтижелерді берді."
AI және адамдарға
Жақында жарияланған австралиялық зерттеуде адам қатысушылар әртүрлі эксперименттерде компьютерге қарсы ойындар ойнады. Бірінші экспериментте қатысушылар ақша ұтып алу үшін қызыл немесе көк түсті жәшіктерді басуға мүмкіндік берді.
AI қатысушының таңдау үлгілерін біліп, оларды белгілі бір таңдауға бағыттай отырып, шамамен 70% сәтті болды.
Басқа экспериментте қатысушылар экранды көріп, белгілі бір таңба көрсетілген кезде түймені басқан немесе басқасы ұсынылғанда оны баспаған. Жасанды интеллект таңбаларды қайта реттеуді үйренді, сондықтан қатысушылар көбірек қателіктер жіберді.
Тәжірибелердің нәтижесі, зерттеушілер AI қатысушылардың жауаптарынан үйренді деген қорытындыға келді. Содан кейін құрылғы адамдардың шешім қабылдауындағы осалдықтарды анықтап, оларға бағытталған. Іс жүзінде, AI қатысушыларды белгілі бір әрекеттерді жасау үшін манипуляциялай алады.
Жалпы жасанды интеллект немесе машиналық оқыту адамдарды манипуляциялай алатыны таң қалмауы керек, дейді бақылаушылар.
«AI күн сайын біздің мінез-құлқымызға әсер етеді», - деді Тамара Шварц, Пенсильваниядағы Йорк колледжінің киберқауіпсіздік және бизнесті басқару профессоры ассистенті электрондық поштаға берген сұхбатында.
"Біз Facebook немесе Twitter сияқты әлеуметтік медиа қолданбаларындағы алгоритмдер туралы үнемі естиміз. Бұл алгоритмдер біздің назарымызды қатысты мазмұнға бағыттайды және "жаңғырық камерасы" әсерін жасайды, бұл өз кезегінде мінез-құлқымызға әсер етеді."
ТикТок көруде
Қазіргі уақытта әлеуметтік медианың ең күрделі алгоритмі - ТикТок, деді Шварц. Қолданба сізді қызықтыратын нәрсені, бірдеңені қанша уақыт көретініңізді және бір нәрсені қаншалықты жылдам өткізіп жіберетініңізді талдайды, содан кейін көруіңізді жалғастыру үшін оның ұсыныстарын нақтылайды.
"ТикТок басқа платформаларға қарағанда әлдеқайда тәуелді, себебі бұл AI алгоритмі, ол сізге не ұнайтынын, қалай үйренетініңізді және ақпаратты қалай таңдайтыныңызды түсінеді", - деп қосты ол. "Біз мұны білеміз, өйткені пайдаланушылардың TikTok-та өткізетін орташа уақыты 52 минутты құрайды."
Адам мінез-құлқын жасанды интеллект арқылы манипуляциялау оң нәтижелерге ие болуы мүмкін, деп дәлелдеді Крис Николсон, Pathmind AI компаниясының бас директоры электрондық поштаға берген сұхбатында. Қоғамдық денсаулық сақтау агенттіктері, мысалы, адамдарды жақсырақ шешім қабылдауға ынталандыру үшін AI-ды пайдалана алады.
"Алайда әлеуметтік желілер, бейне ойын жасаушылар, жарнама берушілер және авторитарлық режимдер адамдарды өздерінің мүдделеріне сай келмейтін шешімдер қабылдауға итермелеу жолдарын іздейді және бұл оларға бұл үшін жаңа құралдар береді," ол қосты.
AI мінез-құлқына әсер ететін этикалық мәселелер көбінесе дәрежелі мәселелер болып табылады, деді Тояма. AI жеке қалаулар мен әлсіздіктерді пайдалануға болатын бағытталған жарнамаға мүмкіндік береді.
"Мысалы, AI жүйесі темекіні тастағысы келетін адамдарды анықтап, оларды темекінің қызықты жарнамаларымен безендіре алады", - деп қосты ол.
Адам мінез-құлқын AI манипуляциясы проблемалы екендігімен бәрі келіспейді. Стивенс жасанды интеллект институтының директоры Джейсон Дж. Корсо электрондық поштаға берген сұхбатында классикалық психология мен AI деректерді бақылайды.
"Адам ғалымдары бақылауларды жалпылауда және кеңірек қолдануға болатын адам мінез-құлқының теорияларын анықтауда жақсырақ болуы мүмкін, ал AI үлгілері проблемаға тән нюанстарды анықтауға қолайлырақ болар еді", - деді Корсо.
"Этикалық тұрғыдан алғанда, мен бұлардың арасындағы айырмашылықты көрмеймін."
