Негізгі ұсыныстар
- Жаңа зерттеулер өте ақылды жасанды интеллектті басқарудың ешқандай жолы жоқ екенін көрсетеді.
- Журналдағы мақалада AI-ны басқару қазіргі кездегіден әлдеқайда озық технологияны қажет ететіні айтылған.
- Кейбір сарапшылар нағыз интеллектуалды жасанды интеллект біз ойлағаннан да ертерек пайда болуы мүмкін дейді.
Егер адамдар бір кездері өте ақылды жасанды интеллектті дамытатын болса, оны басқарудың ешқандай жолы қалмауы мүмкін дейді ғалымдар.
AI ұзақ уақыт бойы адамзаттың барлық мәселелерін емдейтін дәрі немесе Терминатор стиліндегі апокалипсис ретінде танымал болды. Осы уақытқа дейін AI тіпті адам деңгейіндегі интеллектке жақындаған жоқ. Жасанды интеллект зерттеулері журналында жақында жарияланған мақалаға сәйкес, жетілдірілген жасанды интеллектке тәуелді болу адамдар үшін тым күрделі мәселе болуы мүмкін, егер ол дамыған болса.
"Әлемді басқаратын өте интеллектуалды машина ғылыми фантастикаға ұқсайды", - деді газеттің бірлескен авторларының бірі Мануэль Себриан пресс-релизінде.
"Бірақ бағдарламашылар оны қалай үйренгенін толық түсінбей-ақ белгілі бір маңызды тапсырмаларды өз бетінше орындайтын машиналар қазірдің өзінде бар. Сондықтан бұл бір сәтте басқарылмайтын және адамзат үшін қауіпті бола ма деген сұрақ туындайды."
Жақында сізге жақын суперкомпьютер шығады
Журналда AI-ны басқару қазіргі кездегіден әлдеқайда озық технологияны қажет ететінін айтады.
Зерттеуінде топ алдымен АИ мінез-құлқын имитациялау және зиянды деп есептелсе, оны тоқтату арқылы аса интеллектуалды AI кез келген жағдайда адамдарға зиян тигізбеуін қамтамасыз ететін теориялық оқшаулау алгоритмін ойлап тапты. Бірақ авторлар мұндай алгоритмді құру мүмкін емес екенін анықтады.
"Егер мәселені теориялық информатикадан негізгі ережелерге дейін бөлшектесеңіз, AI-ға әлемді жоймауды бұйыратын алгоритм өз жұмысын байқаусызда тоқтата алатыны белгілі болды." Ияд Рахван, Германиядағы Макс Планк атындағы адам дамуы институтының Адамдар мен машиналар орталығының директоры, бұл туралы баспасөз хабарламасында айтты.
"Егер бұл орын алса, шектеу алгоритмі қатерді әлі де талдап жатқанын немесе зиянды AI қамтуын тоқтатқанын білмейсіз. Іс жүзінде бұл оқшаулау алгоритмін жарамсыз етеді."
Нағыз интеллектуалды AI осында біз ойлағаннан да ертерек болуы мүмкін, дейді Франциядағы École Polytechnique университетінің информатика профессоры Михалис Вазиргианнис. "AI - бұл адамның артефакті, бірақ ол тез автономды нысанға айналуда", - деді ол Lifewire электрондық поштасында.
"Сигулярлық орын алған кезде/қашан (яғни, AI агенттері субъект ретінде санаға ие болған кезде) маңызды нүкте болады және сондықтан олар тәуелсіздікке, өзін-өзі бақылауға және ақырында үстемдікке үміткер болады."
Ерекшелік келеді
Вазиргианнис супер AI-ның жақын арада келуін болжауда жалғыз емес. Жасанды интеллект қаупіне шынайы сенушілер «ерекшелік» туралы айтқанды ұнатады, Вазирджианнис мұны AI адам интеллектінің орнын басатыны және «AI алгоритмдері өзінің бар екенін түсініп, өзімшілдік пен ынтымақтастық жасай бастайды»деп түсіндіреді.
Google компаниясының инженерлік директоры Рэй Курцвейлдің айтуынша, ерекшелік 21 ғасырдың ортасына дейін жетеді. Курцвейл Futurism басылымына берген сұхбатында: "2029 - AI жарамды Тьюринг сынағынан өтіп, адамның интеллект деңгейіне қол жеткізетін мен болжаған тұрақты күн", - деді.
Егер өз үйімізді тазалай алмасақ, AI-дан қандай кодты орындауды сұрауымыз керек?
"Мен 'Singularity' үшін 2045 күнін белгіледім, ол кезде біз өзіміз жасаған интеллектпен біріктіру арқылы тиімді интеллектімізді миллиард есе көбейтеміз."
Бірақ барлық AI сарапшылары интеллектуалды машиналар қауіп деп санамайды. Жасалу үстіндегі AI дәрі-дәрмек жасау үшін пайдалы болуы мүмкін және ешқандай нақты интеллект көрсетпейді, деді AI кеңесшісі Эммануэль Мадгиори электрондық поштаға берген сұхбатында. «AI айналасында үлкен хайп бар, бұл оны шынымен революциялық сияқты етеді», - деп қосты ол. "Қазіргі AI жүйелері жария етілгендей дәл емес және адам ешқашан жасамайтын қателіктер жібереді."
AI-ны басқарыңыз, енді
Жасанды интеллект біздің бақылауымыздан тыс қалмас үшін оны реттеу қиын болуы мүмкін, дейді Вазиргианнис. AI қуат беретін ресурстарды үкіметтер емес, компаниялар басқарады. «Тіпті алгоритмдердің өзі әдетте осы үлкен және қуатты, әдетте көп ұлтты ұйымдардың зерттеу зертханаларында жасалады және орналастырылады», - деді ол.
"Сондықтан штат үкіметтері AI-ны басқаруға қажетті ресурстарды азырақ және азырақ бақылайтыны анық."
Кейбір сарапшылар өте интеллектуалды AI-ны басқару үшін адамдарға есептеу ресурстары мен электр қуатын басқару қажет болады дейді. «Матрица» сияқты ғылыми фантастикалық фильмдер адамдарды AI биоқуат көзі ретінде пайдаланатын дистопиялық болашақ туралы пайғамбарлық жасайды», - деді Вазирджианнис.
"Қашықтағы мүмкіншіліктерге қарамастан, адамзат есептеу ресурстарын (яғни, компьютерлік кластерлер, графикалық процессорлар, суперкомпьютерлер, желілер/коммуникациялар) және, әрине, электр қуатымен қамтамасыз ететін электр станцияларына жеткілікті бақылау бар екеніне көз жеткізуі керек. AI функциясына зиян келтіреді."
Жасанды интеллектіні басқару мәселесі зерттеушілердің мұндай жүйелердің өз шешімдерін қалай қабылдайтынын әрқашан түсінбейді, дейді KNIME деректер ғылымының бағдарламалық қамтамасыз ету фирмасының негізін қалаушы және бас директоры Майкл Бертольд электрондық поштаға берген сұхбатында. "Егер біз мұны жасамасақ, оны қалай "басқара аламыз"?"
Ол былай деп қосты: "Біз үшін маңызды емес мәліметтер негізінде мүлдем басқа шешім қабылданғанын түсінбейміз."
AI пайдалану қаупін бақылаудың жалғыз жолы - оны тек тәуекелді басқаруға болатын кезде ғана пайдалануды қамтамасыз ету, деді Бертольд. "Басқаша айтсақ, екі төтенше мысал: Кішкентай қате апатты жанама әсерлері болуы мүмкін AI-ны атом электр станциясына басқаруға қоймаңыз", - деп қосты ол.
"Екінші жағынан, жасанды интеллект бөлме температурасын жоғарылату немесе азайту керек екенін болжайды, өмір сүру жайлылығы үшін аздап тәуекелге баруға тұрарлық."
Егер біз AI-ны басқара алмасақ, оны әдептілікке үйреткеніміз жөн, деді NASA-ның бұрынғы компьютер инженері Питер Скотт электрондық поштаға берген сұхбатында. "Біз, сайып келгенде, AI-ның басқарылуын балаларымыздың бақылауын қамтамасыз ете алмаймыз", - деді ол.
"Біз оларды дұрыс тәрбиелейміз және жақсылыққа үміттенеміз; әзірге олар әлемді жойған жоқ. Оларды жақсы тәрбиелеу үшін бізге этиканы жақсы түсіну керек; өз үйімізді тазалай алмасақ, не істеу керек? кодты AI-дан орындауды сұрауымыз керек пе?"
Бірақ адамзат баласы үшін барлық үміт жоғалған жоқ, дейді AI зерттеушісі Йонатан Векслер, OrCam ҒЗТКЖ атқарушы вице-президенті. «Жетістіктер шынымен де әсерлі болғанымен, менің жеке пікірім - адамның интеллектісін бағаламау керек», - деді ол электрондық поштаға берген сұхбатында. "Біз түр ретінде өте таңғажайып нәрселерді, соның ішінде AI-ны да жасадық."
Әрдайым ақылды AI іздеу жалғасуда. Бірақ тым кеш болмай тұрып, туындыларымызды қалай басқаратынымызды қарастырған дұрыс.
