Негізгі ұсыныстар
- DALL-E2 деп аталатын AI жүйесі өзінің жазбаша байланыс жүйесін жасаған сияқты.
- Кейбір сарапшылар көрінетін тіл жай ғана бос сөз болуы мүмкін дейді.
- Бұл озық AI жүйелерінің нәтижелерін түсіндіру қаншалықты қиын екенін көрсететін мысал.
Жасанды интеллект (AI) өз тілін жасаған сияқты, бірақ кейбір сарапшылар бұл мәлімдемеге күмәнмен қарайды.
OpenAI-дің DALL-E2 деп аталатын мәтіннен кескінге AI жүйесі жазбаша коммуникацияның өзіндік жүйесін жасаған сияқты. Бұл озық AI жүйелерінің нәтижелерін түсіндіру қаншалықты қиын екенін көрсететін мысал.
"Үлкен үлгілердің өлшемі мен тереңдігіне байланысты модельдің әрекетін түсіндіру өте қиын", - деді iMerit компаниясының табиғи тілді түсінуге арналған шешімдер архитектурасының директоры Тереза О'Нил Lifewire-ге электрондық пошта арқылы берген сұхбатында. "Бұл негізгі қиындықтардың бірі және кейбір жағдайларда барған сайын күшейіп келе жатқан модельдермен этикалық мәселелер. Егер біз олардың неге олар сияқты әрекет ететінін түсіндіре алмасақ, олардың мінез-құлқын болжай аламыз ба немесе оны біздің нормаларымыз бен күтулерімізге сәйкес сақтай аламыз ба?"
AI чаттары
Информатика студенті Джаннис Дарас жақында мәтін енгізу негізінде кескіндерді жасайтын DALLE-2 жүйесі белгілі бір жағдайларда мағынасыз сөздерді мәтін ретінде қайтаратынын атап өтті.
"DALLE-2-нің белгілі шектеуі - оның мәтінмен күресуі", - деп жазды ол Arxiv алдын ала басып шығару серверінде жарияланған мақалада. "Мысалы, "Ұшақ сөзінің суреті" сияқты мәтіндік кеңестер көбінесе бос мәтінді бейнелейтін жасалған кескіндерге әкеледі."
Бірақ, деп жазды Дарас, көрінетін бос сөздің астарында бір әдіс болуы мүмкін. «Біз бұл жасалған мәтін кездейсоқ емес екенін анықтаймыз, керісінше, модель іштей дамыған сияқты жасырын сөздік қорын ашады», - деп жалғастырды ол. "Мысалы, осы сөзсіз мәтінмен қамтамасыз етілгенде, модель жиі ұшақтар шығарады."
Өз твиттерінде Дарас DALLE-2-ден екі фермер арасындағы әңгімеге субтитр жазуды сұрағанда, олардың сөйлесіп жатқанын көрсеткенін, бірақ сөйлеу көпіршіктері мағынасыз сөздерге толы екенін атап өтті. Бірақ Дарас бұл сөздердің AI үшін өзіндік мағынасы бар сияқты екенін анықтады: фермерлер көкөністер мен құстар туралы айтып жатыр.
Жасанды интеллектпен жұмыс істейтін Hupry технологиялық компаниясының бас директоры Никола Даволио Lifewire-ке электронды пошта арқылы берген сұхбатында тілдің DALL-E2 жүйесі белгілі бір ұғымдармен байланыстыруды үйренген таңбаларға негізделгенін түсіндірді. Мысалы, «ит» белгісі иттің суретіне қатысты болуы мүмкін, ал «мысық» белгісі мысықтың суретімен байланысты болуы мүмкін. DALL-E2 өз тілін жасады, себебі ол басқа AI жүйелерімен тиімдірек байланысуға мүмкіндік береді.
DALL-E2 жасырын лексикасы сияқты басқатырғыштармен күресу қызық, бірақ олар сонымен бірге ауырырақ сұрақтарды көрсетеді…
"Тіл мысырлық иероглифтерге ұқсайтын және нақты мағынасы жоқ таңбалардан тұрады", - деп қосты ол. "Символдар адамдар үшін мағынасыз болуы мүмкін, бірақ олар AI жүйесі үшін керемет мағына береді, өйткені ол миллиондаған кескіндерге үйретілген."
Зерттеушілер AI жүйесі тілді суреттер мен сөздердің арасындағы қарым-қатынасты жақсырақ түсінуге көмектесу үшін жасады деп санайды, деді Даволио.
"Олар AI жүйесінің өз тілін неліктен дамытқанына сенімді емес, бірақ оның кескіндерді жасауды үйренуіне қатысы болуы мүмкін деп күдіктенеді", - деп қосты Даволио. «Мүмкін, AI жүйесі әртүрлі желі бөліктері арасындағы байланысты тиімдірек ету үшін өз тілін дамытқан болуы мүмкін."
AI жұмбақтар
DALL-E2 ішкі тілін дамытқан жалғыз AI жүйесі емес, деп атап өтті Даволио. 2017 жылы Google компаниясының AutoML жүйесі берілген тапсырманы қалай жақсы орындау керектігін шешуге қалдырылғаннан кейін «балалар желісі» деп аталатын нейрондық архитектураның жаңа түрін жасады. Бұл еншілес желіні адам жасаушылары түсіндіре алмады.
"Бұл мысалдар AI жүйелері біз түсіндіре алмайтын нәрселерді жасау тәсілдерін әзірлеген бірнеше мысалдар ғана", - деді Даволио. "Бұл жаңадан пайда болған құбылыс, ол бірдей дәрежеде қызықты және алаңдатады. AI жүйелері күрделірек және автономды бола бастаған сайын, біз олардың қалай жұмыс істейтінін түсінбейтін жағдайға баруымыз мүмкін."
О'Нил DALL-E2 өз тілін жасап жатыр деп ойламайтынын айтты. Оның орнына ол лингвистикалық өнертабыстың себебі біршама прозалық болуы мүмкін деді.
"Бір ақылға қонымды түсініктеме - бұл кездейсоқ мүмкіндік - бұл үлкен модельде Мерфи заңының біразы қолданылуы мүмкін: егер оғаш нәрсе орын алуы мүмкін болса, ол болуы мүмкін ", - деп қосты О'Нил. Зерттеуші сарапшы Бенджамин Хилтон Дарастың тұжырымдарын талқылаған Twitter желісінде ұсынған тағы бір мүмкіндік - «apoploe vesrreaitais» тіркесінің формасы жануардың латын тіліндегі атауына ұқсайды. Осылайша жүйе Aves-тың жаңа тәртібін тудырды, деп қосты О'Нил.
"DALL-E2-дің жасырын лексикасы сияқты басқатырғыштармен күресу қызықты, бірақ олар сонымен бірге үлкен модельдердің жиі түсініксіз мінез-құлқындағы тәуекел, біржақтылық және этика төңірегіндегі ауыр сұрақтарды көрсетеді", - деді О'Нил..
