Робот жасау ілімінің үш заңы сақталып жүр ме?
сурет: avatars.dzeninfra.ru
Жазушы-фантаст Айзек Азимов робототехниканың үш заңын ұсынған:
1. Робот адамға зиян келтірмеуге және әрекетсіздігі салдарынан адамның зардап шегуіне жол бермеуге тиіс.
2. Робот адамның барлық бұйрығын орындауы керек, бірақ ол бұйрық Бірінші заңға қайшы келмеуі тиіс.
3. Робот өзінің қауіпсіздігін Бірінші және Екінші заңдарға қайшы келмейтін деңгейде қорғауға міндетті.
Ұзақ уақыт бойы бұл заңдылықтар тек көркем ғылыми фантастиканың бір бөлігі болып келді. Алайда технологияның қарқынды дамуы, роботтар мен жасанды интеллектінің күнделікті өмірге енуі бұл қағидалардың қажеттігін көрсетіп келеді.
«Темір көмекшілердің» де кейде тәспісінен жаңылатын сәттері болады. Тарихта роботтар немесе автоматтандырылған жүйелер түрлі себептермен адамдарға зиян келтірген нақты оқиғалар тіркелген. Кейде «ақылды көмекшілер» қызыққа батырып, күлкіге көмген жағдайлар желіде тарап кетеді.
Өндірістік робот-манипулятордың өкініші
Оқиға 1979 жылы АҚШ-тың Мичиган штатындағы Флэт-Рок қаласында орналасқан Ford зауытында болды. Роберт Уильямс өндірістік цехтағы бес тонналық манипулятордың соққысынан қаза тапты. Бұл құрылғы автомобиль бөлшектерін бір орыннан екінші орынға тасымалдауға арналған болатын. Бағдарламалық қамтамасыз етудегі қателік салдарынан робот жоғарғы сөрелердегі бөлшектердің саны туралы жаңсақ мәлімет берген. Соның нәтижесінде Роберт Уильямстан қажетті бөлшекті қолмен тексеріп, алып келу сұралған. Ол сөреде бөлшектерді санап тұрған кезде манипулятор күтпеген жерден іске қосылып кетіп, басынан соққы жасаған. Бұл оқиға роботтың әрекетінен адам қаза тапқан алғашқы белгілі жағдай ретінде Гиннестің рекордтар кітабына енгізілді.
Кейінгі тергеу өндірістегі қауіпсіздік талаптарының жеткіліксіз болғанын анықтады. Атап айтқанда, адамның қауіпті аймақта жүргенін ескертетін дыбыстық дабыл жүйесі болмаған. Компания марқұмның отбасына 10 миллион доллар өтемақы төледі.
Жапониядағы қайғылы жағдай
1981 жылы жапон инженері Кэндзи Урада өндірістік жабдықты толық өшірмей жөндеуге кіріскен. Күтпеген жерден робот қайта іске қосылып, гидравликалық иінтірек арқылы инженерді өндірістік ұсақтағыш құрылғының ішіне итеріп жіберген. Өкінішке қарай, ол алған жарақаттарынан көз жұмды.
Әскери роботпен байланысты трагедия
2007 жылы Оңтүстік Африка Республикасында өткен әскери жаттығулар кезінде автоматты басқару жүйесімен жабдықталған Oerlikon GDF-005 зениттік кешені кенеттен бақылаудан шығып кеткен. Қару жүйесі өздігінен оқ жаудырып, салдарынан тоғыз әскери қызметкер қаза тауып, тағы 14 адам жараланған. Мамандардың болжамынша, оқиғаға бағдарламалық ақау немесе механикалық істен шығу себеп болуы мүмкін.
Volkswagen зауытындағы келеңсіз жайт
2015 жылы Volkswagen зауытында өндірістік робот жұмысшыны кенеттен ұстап алып, металл панельге қысып қалған. Алған ауыр жарақаттар салдарынан жұмысшы оқиға орнында қаза болды.
Бұл оқиға туралы журналист Сара О'Коннор әлеуметтік желіде жариялағаннан кейін, интернетте «машиналардың көтерілісі басталды» деген сарындағы зілді әзілдер кеңінен тарады.
Автопилот кесірінен орын алған апат
2016 жылы АҚШ-тың Уиллистон қаласында Tesla автокөлігінің жүргізушісі жүк көлігімен соқтығысып, жол апатынан Джошуа Браун атты азамат қаза тапты. Оқиға кезінде көлік автопилот режимінде қозғалып келе жатқан. Автопилотпен жабдықталған «Tesla Model S» көлігі алдындағы 18 доңғалақты жүк көлігінің оңға бұрылғанын анықтай алмай қалған. Бұл оқиға автономды көліктердің қоршаған ортаны тану алгоритмдерінде әлі де кемшіліктер бар екенін көрсетті. Алайда Tesla компаниясы бағдарламалық қамтамасыз етуден ешқандай ақау табылмағанын мәлімдеп, апат үшін жауапкершілікті мойындамады. Сондай-ақ сол кездегі автопилот жүйесі толық автономды болмағанын атап өтті. Сондықтан жүргізуші үнемі жолды бақылап, қолын рөлден алмауы тиіс еді. Апатқа дейінгі 37 минуттық сапар барысында Джошуа Браун рөлден қолын небәрі 25 секундқа ғана алған. Өкінішке қарай, дәл сол секундтар оның өміріндегі соңғы сәттерге айналды. Ол автономды басқару жүйесі бар автокөліктің жол-көлік оқиғасынан қаза тапқан алғашқы адам ретінде тарихта қалды.
Шахматшы робот балаға шабуыл жасады
2022 жылдың жазында Мәскеуде өткен шахмат турнирінде Chesska атты шахматшы робот қарсыласының шахмат тасын алып, орнына өз фигурасын қойған. Сол сәтте жүріс кезегін жеті жасар Кристофер алып, қолын тақтаға созады. Робот бұл әрекетті дұрыс қабылдамай, баланың сұқ саусағын қысып ұстап алған. Жанындағылар бірден көмекке келіп, баланың қолын босатқанымен, өкінішке қарай, оның саусағы сынып кеткен.
Зауытта болған қайғылы жағдай
2023 жылы Оңтүстік Кореядағы көкөніс қораптарын көтеріп, сұрыптауға арналған өндірістік робот кенеттен істен шыққан. Оны жөндеу үшін техник шақырылған. Маман роботты тексеріп жатқан кезде құрылғы күтпеген жерден конвейер лентасын іске қосып жіберген. Соның салдарынан техник ауыр жарақат алып, қайтыс болған.
Жоғарыда келтірілген оқиғаларды «роботтың адамды әдейі өлтіруі» деп айту қиын. Өйткені олардың ешқайсысында еркін таңдау немесе саналы шешім қабылдау қабілеті болмаған.тБірақ оларды жай ғана жазатайым оқиға деу де оңай емес.
Көп жағдайда мұндай қайғылы оқиғалар инженерлік жобалаудағы кемшіліктерден, бағдарламалық ақаулардан, қауіпсіздік талаптарының жеткіліксіз сақталуынан немесе адам мен машинаның өзара әрекеттесу ерекшеліктерінің толық ескерілмеуінен туындаған.
Сондай-ақ, роботтар тек қайғылы жағдайға душар етпейді. «Ессіз көшірмелердің» басынан кейде қызықты, езуге күлкі үйіретін оқиғалар да өтіп тұрады.
Уилл Смиттің сәтсіз кездесуі
Әлемге кеңінен танылған Sophia андроиды мен белгілі актер Уилл Смиттің кездесуінде болған қызықты оқиға тарады. Кездесу кезінде Уилл Смит Софияны сүймек болған. Бірақ робот оған: «Меніңше, біз жай ғана дос болып қалғанымыз дұрыс» деп жауап берген.
Бұл жағдай БАҚ-та бірден қызу талқыланып, көпшілік оны технологиялық сәтсіздік деп атады. Өйткені көпшілік Голливудтың атақты актерінен ешкім бас тартпайды деп ойлаған.
Кейін Уилл Смит әзілдеп:«Ол мені сүйген жоқ. Демек, оның бағдарламасында әлі де жетілдіруді қажет ететін кемшіліктер бар. Бірақ біз әлі кездесеміз, София» деген болатын.
Әдепсіз әрі дөрекі роботтар
Бүгінде дауыс тану технологиялары смартфондардан бастап тұрмыстық техникаға дейін көптеген құрылғыларға енгізілгенімен, олардың жұмысы әлі де мінсіз емес. Бірде блогер Әлия Мари Шелеш дауыстық көмекшіден: «Мен туралы не ойлайсың?» деп сұрайды. Көмекші мүлде күтпеген жауап айтқан: «Сен – түкке тұрғысыз дәретхана қағазының бір бөлігісің»
Мұндай жауаптар кей адамдарға күлкілі көрінгенімен, кейде техника мүлде команданы орындамай қойғанда жағдай онша күлкілі болмайды. Роботқа қарапайым тапсырманы түсіндіре алмау кез келген адамның жүйкесіне тиюі мүмкін.
Неліктен жоғары технологиялар бір-бірімен «тіл табыса» алмайды?
Уақыт өте келе алгоритмдерді адамдардың әртүрлі сөйлеу мәнерін дұрыс тануға үйретуге болады. Алайда мәселе кейде басқа жерде туындайды: ақылды құрылғылардың өзара байланысында бастарының бір қазанға сыймауы. Мысалы, Даниядағы тұрғын үй кешендерінің бірінде күзет жүйесі қозғалыс датчиктерінен күмәнді белгі алып, бірден полицияға дабыл жіберген. Оқиға орнына келген тәртіп сақшылары үйге ұры кірді деп ойлаған. Бірақ тексеру барысында «қылмыскердің» кәдімгі робот-шаңсорғыш екені анықталған. Үй иелері жоқ кезде құрылғының бағдарламасында ақау пайда болып, ол өздігінен жұмысын бастап кеткен. Ал «ақылды үй» жүйесі оны бөтен адам деп қабылдап, автоматты түрде полиция шақырған.
Технология саласындағы блогер Крейг Поулсеннің айтуынша, мұндай ақаулар жиі кездеседі. Оның сөзінше, ақылды үйдегі барлық құрылғылар бір жүйеге біріктіріліп, ол өз кезегінде смартфонмен және компьютермен байланысады. Сондықтан жүйенің кез келген бөлігіндегі бағдарламалық қате бүкіл кешеннің жұмысын тоқтатуы немесе оның күтпеген әрекеттер жасауына себеп болуы мүмкін.
Футбол добын төрешінің басымен шатастырды
Жоғары технологияның күтпеген жерден адамдарды әбігерге салған тағы бір мысалы. Қазіргі «ақылды» бейнебақылау камералары белгілі бір нысанды автоматты түрде бақылап отыра алады. Шотландияда осы мүмкіндікті футбол матчтарын онлайн көрсету үшін пайдалануды шешкен. Алайда бәрі жоспардағыдай болмады. Матчтың тікелей эфирі кезінде жасанды интеллект төрешінің жалтыраған таз басын футбол добымен шатастырып алған. Соның салдарынан камера ойынның орнына төрешінің желкесін бақылап, көрермендер матчтың жартысына жуығында ойынды емес, төрешінің қозғалысын тамашалауға мәжбүр болған. Қуанышқа қарай, бұл техникалық қателік жанкүйерлердің ашуын емес, күлкісін тудырды.
Ақша талап еткен робот
Ал Австралияда болған оқиға мүлде күлкілі болған жоқ. Бағдарламалық қателік салдарынан жасанды интеллект төрт жыл бойы жүздеген мың адамнан негізсіз ақша талап еткен.
Мәселе мемлекеттік органдар қолданған компьютерлік бағдарламада орын алған. Ол азаматтарға төленетін әлеуметтік жәрдемақылардың заңдылығын тексеруге арналған еді.Алайда жүйеде ақау пайда болып, алгоритм мемлекет қазынасын «жалған қарыздар» арқылы толықтыруға кіріскен.
Нәтижесінде жарты миллионға жуық австралиялық күтпеген жерден мемлекетке қарыз болып шыққан. Егер адамдар бұл соманы төлеуден бас тартса, бағдарлама қарызды коллекторлық компанияларға жіберіп, банк шоттары мен жылжымайтын мүлікке шектеу қою рәсімін автоматты түрде бастаған. Ақыр соңында қателік анықталып, билік барлық жалған қарыздарды жойып, азаматтардың ақшасын қайтаруға мәжбүр болды.
Мамандардың пікірінше, қазіргі роботтардың мүмкіндігі қанша жерден дамыса да, олар әлі адам деңгейіне жете қойған жоқ. Кейде алгоритмдер ең қарапайым тапсырмалардың өзін орындай алмай қалады. Мысалы, бірнеше жылдан бері жүргізушісіз автокөліктер полиция қызметкерлерінің жолдағы белгілерін дұрыс тануды әлі толық меңгере алмай келеді. Бұл жай ғана қолайсыздық емес. Өйткені көлік полиция қызметкерінің нұсқауын орындамаса, жол апатына себеп болуы мүмкін. Ал мұндай жағдайда жауапкершілікті кімнің көтеретіні – күрделі мәселе.
Дайындаған: Б. ЕРМАН,
ТАҒЫ ДА ОҚЫҢЫЗ:
«Kaspi Alaqan» туралы не білесіз? Жаңа технология ҚАНШАЛЫҚТЫ ҚАУІПСІЗ?
АБАЙ БОЛЫҢЫЗ: Телефонның тез бұзылуына әсер ететін аксессуарлар
