Негізгі ұсыныстар
- YouTube-тың автоматты жасты шектейтін бағдарламалық құралы платформадағы LGBTQ+ мазмұнына алаңдаушылық тудырады.
- Компания LGBTQ+ контент жасаушыларына қатысты дау-дамайға ұласты.
- Машиналық оқытудағы бейтараптық оның сүзгілердің жетілдірілмеген іске асырылуы қолжетімділікті әділетсіз шектейді деген идеяға сенімділік береді.
Модерация процесінде LGBTQ+ мазмұнын жасаушыларға әділетсіз түрде бағытталған YouTube-тің жаңа AI технологиясы технологиялық алпауыт үшін келесі қиын қадам ретінде қарастырылады.
Өткен аптада YouTube-тің ресми блогында бейне бөлісу платформасы жас көрермендер үшін жарамсыз деп танылған бейнелерге «жас шектеулерін тұрақтырақ қолдану» үшін жаңа автоматты бағдарламалық құралды шығаруды жоспарлап отыр.
Қолданбадағы балаларға қатысты соңғы алаңдаушылықтардан туындаған жаңа жүйе автоматтандырылған процесс үшін адам модераторларынан бас тарту мүмкіндігі бар машиналық оқыту жасанды интеллект бағдарламалық құралына негізделген. Мәселе? YouTube-тің автоматтандырылған жүйелері LGBTQ+ мазмұнын және жасаушыларды бар болғаны үшін ғана бөліп алды деп айыпталды.
Бұл зиянды болмаса да, мен ойламаймын, бұл әртүрлі дауыстардың болмауы немесе кем дегенде құрметтің болмауы.
"Машинаны оқытуды адамдар жасайды және жасайды және оған тән немесе машинаның өзі үйренуі мүмкін", - деді YouTuber Роуэн Эллис Lifewire-ке телефон арқылы берген сұхбатында. «Оның [LGBTQ+] мазмұнына қатысты біржақтылығы [LGBTQ+] ютуберлерінің алдыңғы тәжірибесінде анық байқалды және мен оның болуын тоқтату үшін ештеңе жасалғанын көрген жоқпын."
Балам, енді қанымыз нашар
Эллис – феминистік және бейтаныс көзқараспен білім беру мазмұнын жасайтын YouTube пайдаланушы және 2017 жылы компанияның шектеулі режимі туралы бейне жариялады. Мазмұнды автоматты түрде модерациялаудың алғашқы қадамы ретінде бұл режим пайдаланушыларға іздеу ұсыныстары мен ұсыныстарынан "әлеуетті ересек мазмұнды" алдын ала қарауға мүмкіндік берді.
100 000-нан астам қаралым жинаған ол YouTube-тің модерацияға деген жаңа қадамының шектен шығуына қарсылық білдіріп, арнасын шектеуге жол бермеуге саналы түрде әрекет жасады деп санайды. Платформадағы басқа пайдаланушылардың жолы болмады және олар YouTube-ті хабардар етті.
YouTube-қа қарсы топтық сот ісін 2019 жылдың тамыз айында сегіз LGBTQ+ авторы берді, олар Силикон алқабындағы компанияны квир және транс бейне жасаушылар мен мазмұнды шектеді деп айыптады. Сотта бұл сайт «ЛГБТ талап қоюшыларын және үлкен ЛГБТ қауымдастығын стигматизациялайтын, шектейтін, бұғаттайтын, демонетизациялайтын және қаржылық зиян келтіретін заңсыз мазмұнды реттеуді, таратуды және монетизациялауды қолданады» деп мәлімдейді. Ол әлі Калифорния соттарынан өтіп жатыр.
Машинаны оқытуды адамдар айтады және жасайды және оған тән ауытқулар болуы немесе құрылғының өзі үйренуі мүмкін.
Сол жылдың маусым айында платформа танымал консервативті комментатор Стивен Кроудерге Vox журналисі мен жүргізушісі Карлос Мазаға қарсы айға созылған гомофобиялық қудалау науқаны үшін тез сөгіс беруден бас тартқаннан кейін бұқаралық ақпарат құралдарының назарын аударды. Бұл Эллистің айтуы бойынша, queer жасаушылар кездесетін ерекше қиындықтарды елемеу онлайн платформасының үлгісі болып табылады. LGBTQ+ авторларының YouTube-тің өздеріне көріну қабілетіне сенімсіздігі бекер емес.
«Менің ойымша, олар әлеуметтік мәселелер мен теңдікті қамтамасыз етуде ашықтық қажет екенін түсінбеді», - деді ол. «Бүкіл әлемде әлі күнге дейін гей болу дұрыс емес деген идеямен өскен балалар бар және олар бұл сенімге күмән келтіре бастағанда, бірақ оны қауіпсіз іздеу немесе шектеу арқылы өшірген кезде, бұл бұл идеяны нығайтады. қате, орынсыз, ересек, бұзық және лас."
Автоматты үйрену орындалмады
Платформасындағы LGBTQ+ мазмұнын жасаушыларға қатысты қайғылы тарихы бар, машиналық оқыту бағдарламалық құралының үлкен нормаларды ажырата алу қабілетін енгізу туралы алаңдаушылық әлі де бар. Марккула қолданбалы этика орталығының атқарушы директоры Дон Хайдер құмар ойнау үшін ақымақтық тым үлкен қауіп екенін айтады.
«AI әртүрлі мәдени нормалары мен стандарттары бар көптеген елдердің мазмұнын тиімді басқара алатынына сену қиын», - деп жазды ол электрондық поштаға берген сұхбатында. "AI тым жиі күрделі сұрақтарға жауап ретінде қарастырылады. Қазіргі уақытта AI және оны жасау тәсілі кез келген күрделілік деңгейіндегі кез келген мазмұнды модерациялауды былай қойғанда, тіпті қарапайым тапсырмаларды шешуге де қиналады."
YouTube өзінің блогында модераторлардың тұрақты модерациясының болмауына байланысты AI технологиясын пайдалану туралы шешім қабылдады. Жарамсыз деп танылған бейнелерді өшіру үшін компьютерленген сүзгілерді пайдалануды ұлғайту қалыпты жағдайға айналды және оның жас шектеуі саясаты үшін бірдей процедураларды енгізу келесі логикалық қадам ретінде қарастырылады.
Бала тұтынушылармен қарым-қатынасына қатысты ұзақ уақыт сыннан кейін өз процестерін біртіндеп жақсартуға ұмтылатын компания ретінде бұл шешім таң қалдырмайды.
Менің ойымша, олар әлеуметтік мәселелер мен теңдікті қамтамасыз етуде ашықтық қажет екенін түсінбеді.
Балалар бейне бөлісу сайтының негізгі демографиясына айналды. Тамыз айында Tubular сандық бейне-сараптамалық фирмасы YouTube сайтында ең көп қаралған бейнелер бойынша айдың соңында музыкалық бейнелерден бөлек балаларға арналған мазмұн бірінші орында тұрғанын анықтады.
Компанияның платформадағы осы пайда әкелетін, дамып келе жатқан күш-қуатын қорғауға мүдделі болуы орынды. Дегенмен, бұл қорғанысты қолдану үшін қолданылатын құралдар компанияның модерация процедураларының төменгі ағынында жүргендер үшін ыңғайсыз болып қала береді.
"Мені алаңдататыным, бұл көптеген [LGBTQ+] ютуберлері ұсынуы мүмкін ақпараттық, ашық және шынайы мазмұнды қажет ететін [LGBTQ+] жастарын қорғамайды және көп зиян тигізеді, бірақ оның жүйесінде белгіленеді. орынсыз », - деді Эллис."Бұл зиянды болмаса да, мен ойламаймын, бұл әр түрлі дауыстардың болмауы немесе кем дегенде құрметтің болмауы.
"Біз мұны технологияда үнемі көреміз. Бет-әлпетті тану мүмкіндігін қараған кезде, әр түрлі қара беттерді ажырата алмасаңыз немесе медицинаға қараған кезде дәрі тек белгілі бір жыныста сыналғанын көргенде. Олар үлкенірек сөйлесулер болып табылады және YouTube одан босатылмайды."