Негізгі ұсыныстар
- Алгоритмдік ауытқу интернетте көп уақыт өткізетін жасөспірімдерге зиянды дейді мамандар.
- Твиттер пайдаланушылары жақында қара беттердің ақ түстілердің пайдасына жойылуына байланысты мәселеге тап болды.
- Жасөспірімдердің дамып келе жатқан миы алгоритмдік ауытқудың зиянды әсеріне әсіресе сезімтал болуы мүмкін дейді зерттеушілер.
Алгоритмдік бұрмалау деп аталатын кейбір технологияда пайда болған теріс пікір көптеген топтар үшін зиянды болуы мүмкін, бірақ сарапшылар бұл әсіресе жасөспірімдерге зиянын тигізетінін айтады.
Алгоритмдік ауытқу, компьютерлік жүйелер алдын ала болжамды нәтижелерді көрсеткенде, өсіп келе жатқан мәселе. Жақында Twitter пайдаланушылары платформада фотосуреттерді қиюға арналған кескінді анықтау алгоритмі қара беттерді ақ түстердің пайдасына кесіп тастаған кезде біржақтылықтың мысалын тапты. Компания бұл мәселе үшін кешірім сұрады, бірақ түзетуді әлі жариялаған жоқ. Бұл жасөспірімдердің интернетке кірген кезде бетпе-бет келетінінің мысалы, бұл басқа жас топтарына қарағанда көбірек, дейді мамандар.
"Жасөспірімдердің көпшілігі әлеуметтік медиа компанияларының платформада мүмкіндігінше ұзақ тұруы үшін [үшін] пайдаланушыларға ұнайды деп ойлайтын нақты мазмұнды жарнамалау үшін бар екенін білмейді", - деді Доктор Май- Жасөспірімдер/колледж студенттері арасында әлеуметтік желіні пайдалануды зерттейтін Дуке университетінің мейірбике ісі мектебінің ассистенті Ли Нгуен Стерс электрондық поштаға берген сұхбатында айтты.
"Алгоритмге қатысты сананың белгілі бір деңгейі болса да, жеткілікті ұнатулар мен пікірлердің болмауының әсері әлі де күшті және жасөспірімдердің өзін-өзі бағалауына әсер етуі мүмкін", - деп қосты Steers.
Миды дамыту
Алгоритмдік бейімділік жасөспірімдерге күтпеген жолмен әсер етуі мүмкін, өйткені олардың префронтальды қыртысы әлі дамып жатыр, деп түсіндірді Rootstrap компаниясының бас деректер ғалымы Микаэла Писани электрондық поштаға берген сұхбатында.
Ұнатулар мен пікірлердің жеткіліксіздігі әлі де күшті және жасөспірімдердің өзін-өзі бағалауына әсер етуі мүмкін.
«Жасөспірімдер «Әлеуметтік фабрика» құбылысына әсіресе осал, мұнда алгоритмдер онлайн платформаларда әлеуметтік кластерлер жасайды, егер жасөспірімнің әлеуметтік мақұлдау қажеттіліктері қанағаттандырылмаса, алаңдаушылық пен депрессияға әкеледі », - деді Писани. Алгоритмдер бұрынғы жетілмеген деректер негізінде жеңілдетіледі, бұл сәйкестікті қалыптастыруға неғұрлым нюанстық тәсілдер есебінен стереотиптердің шамадан тыс көрсетілуіне әкеледі.
"Кеңірек көзқарасты алсақ, біз қоғам ретінде жасөспірімдердің ересек өмірге саяхатын қалыптастыратын алгоритмдерді қалаймыз ба және бұл жүйе жеке тұлғаның өсуін тежеудің орнына қолдау көрсете ме?"
Осы мәселелерге байланысты алгоритмдерді құрастыру кезінде жасөспірімдерді есте ұстау қажеттілігі артып келеді, дейді мамандар.
"Дамытушы мамандардың, деректер ғалымдарының және жастарды қорғаушылардың пікіріне сүйене отырып, деректердің құпиялылығы мен алгоритмдік дизайнға қатысты 21 ғасыр саясатын жасөспірімдердің ерекше қажеттіліктерін ескере отырып құруға болады", - деп Авриэл Эппс-Дарлинг, докторантура Гарвардтың студенті, деп жазды жақында. «Егер біз оның орнына жасөспірімдердің алгоритмдік нәсілшілдікке осал болатын жолдарын елемей немесе елемейтін болсақ, зиян ұрпақтар бойына қайталануы мүмкін.»
Біржақтылықпен күресу
Шешім табылмайынша, кейбір зерттеушілер біржақты алгоритмдердің жастарға тигізетін зиянын азайту жолдарын іздеуде.
Интервенциялар жасөспірімдердің әлеуметтік медиа үлгілері олардың психикалық денсаулығына кері әсер ететінін тануға бағытталған және оны азайтудың стратегияларын ойлап табуға тырысты (мысалы, әлеуметтік медианы пайдалануды азайту), - деді Стерс.
"Біз сұхбаттасқан колледж студенттерінің кейбірі сыртқа шыққысы келмесе де немесе жариялағысы келмесе де, "маңызды" болып қалу үшін мазмұн жасауға мәжбүр екенін айтты", - деп жалғастырды ол. "Алайда олар ізбасарларымен немесе достарымен байланысын сақтау үшін мазмұн жасау керек деп санайды."
Түпкілікті жауап компьютерлерден адамның көзқарасын жою болуы мүмкін. Бірақ бағдарламашылар тек адам болғандықтан, бұл қиын сынақ, дейді мамандар.
Мүмкін шешімдердің бірі орталықсыздандырылған және үйренген нәрселерін ұмыту үшін бағдарламаланған компьютерлерді жасау болып табылады, дейді KODA робототехника фирмасының технология бойынша бас директоры Джон Суит.
"Орталықтандырылмаған желі арқылы деректер және сол деректердің аналитикасы бірнеше нүктеден жинақталып, талдануда", - деді Суит электрондық поштаға берген сұхбатында. «Деректер оның алгоритмі шегінде бір AI өңдеуінен емес, жүздеген, тіпті мыңдаған жиналады және өңделеді.
"Бұл деректер жиналып, талданған сайын ескі "қорытындылар" немесе артық деректер ұмытылады. Бұл жүйе арқылы бұрмалаумен басталған алгоритм ақырында түзетіп, қате екені дәлелденсе, сол бұрмалауды ауыстырады."
Біржақтылық ежелден келе жатқан мәселе болғанымен, онымен күресудің жолдары болуы мүмкін, кем дегенде онлайн. Алдын ала пікірлерімізді жоққа шығаратын компьютерлерді жобалау - бұл бірінші қадам.
