Этыка штучнага інтэлекту і вядомая AI Uncanny Valley, у якой таксама бразгаюць аўтамабілі на аснове AI

Часам бываюць трохі дзіўныя рэчы, якія прыцягваюць вашу ўвагу і выклікаюць у вас інтуітыўнае разуменне таго, што нешта не так. Дзівацтва не відавочнае, зусім не абуральнае ў вашым твары. Магчыма, вы нават не зможаце адразу зразумець, у чым неадпаведнасць або чаму ваша праславутае павуцінне пачуццё паколвае.

Магчыма, адчуваюцца тонкія прыкметныя падказкі. Можа быць, вы ўнутры сябе разумееце, што існуе дысананс. Мяркую, вы маглі б сказаць, што ёсць толькі найменшы намёк на стрыманую жудаснасць, і ваш далікатны чалавечы радар улоўлівае схаваныя сігналы.

Сардэчна запрашаем у жудасную даліну.

Калі вы ніколі не чулі пра жудасную даліну, тэму, адносна папулярызаваную ў галіне штучнага інтэлекту і асабліва робататэхнікі, вас чакае крыху задавальнення, бо гэта тэма, якую я збіраюся ўважліва абмеркаваць і прааналізаваць.

Агульная канцэпцыя можа прымяняцца да многіх рэчаў, з якімі мы сутыкаемся ў жыцці, хаця асноўныя прынцыпы і першапачатковае вызначэнне прадугледжваюць сістэмы штучнага інтэлекту і робатаў. Спачатку мы даследуем паходжанне і першапачатковае значэнне жудаснай даліны, а потым пяройдзем да пашырэння, каб убачыць, як гэтыя з'явы могуць прымяняцца ў больш шырокім кантэксце.

Я мог бы таксама дадаць, што мы падумаем, ці існуе ўвогуле гэтая жудасная даліна.

Разумееце, некаторыя скептыкі і цынікі сцвярджаюць, што ўся справа з'яўляецца нейкай хітрасцю і не вытрымлівае крытыкі. Будзьце асцярожныя, падымаючы тэму да тых, хто ў курсе. Некаторыя будуць радасна ўсміхацца і пляскаць вас па спіне, што вы добра знаёмыя з жудаснай далінай, у той час як іншыя будуць пранізліва чытаць вам лекцыі, што гэта шведскі стол свінні і што вам трэба адразу ачысціць свой розум кавалачкам мыла для ачышчэння розуму. .

Добрай навіной тут з'яўляецца тое, што вы самі вырашаеце, рэальная гэтая жудасная даліна ці не, а таксама тое, ці мае яна вартасці для ўважлівага прымянення, ці замест гэтага яе трэба бесцырымонна выкінуць на смецце тэхна-ідэй. У гэтым сэнсе вы знаходзіцеся на месцы кіроўцы.

Усё гэта таксама мае дачыненне да развіваецца вобласці этычнага штучнага інтэлекту і ўзрастаючага ўсведамлення таго, што грамадства павінна сур'ёзна і цвяроза звяртаць увагу на этыку штучнага інтэлекту. Мы зробім гэты гальштук імгненна.

Лепш за ўсё пачаць з прамога цытавання прафесара, які прыдумаў канцэпцыю дзіўнай даліны і адкрыта назваў гэтую абвешчаную з'яву. У 1970 годзе прафесар Масахіра Моры з Такійскага тэхналагічнага інстытута апублікаваў даволі дробны артыкул у крыху менш вядомым часопісе пад назвай энергія (не асабліва рассаднік штучнага інтэлекту і робататэхнікі як такой), і сказаў наступнае:

«Я заўважыў, што, падымаючыся да мэты зрабіць робатаў падобнымі на людзей, наша блізкасць да іх павялічваецца, пакуль мы не прыйдзем да даліны, якую я называю жудаснай далінай».

Звярніце ўвагу, што прыведзеная вышэй фраза паказана на англійскай мове, хоць арыгінальны дакумент быў на японскай мове. Версія ў перакладзе на англійскую мову была пад наглядам аўтара і пазней апублікаваная ў IEEE Spectrum у 2012 годзе і аўтарам названы Масахіра Моры. Вы можаце самастойна прачытаць артыкул, паколькі ён знаходзіцца ў адкрытым доступе ў Інтэрнэце. Гэта вельмі хуткае чытанне, магчыма, дзесяць хвілін або каля таго, і не ўтрымлівае ніякай тэхнічнай тэрміналогіі.

З улікам сказанага, цікава і ў некаторай ступені дзіўна, што такі яркі артыкул, апублікаваны ў 1970 годзе, у канчатковым выніку распачаў цэлую арэну даследаванняў і запусціў мноства звязаных даследаванняў, праектаў, даследаванняў, а часам і буру спрэчак аб тым, ці ўведзены Канцэпцыя жудаснай даліны сапраўды існуе. Я мяркую, што гэта дэманструе, што інтрыгуючыя ідэі, якія часам мяняюць пункты гледжання, не павінны быць моцна заблытанымі або перапоўненымі жаргонам і ўзвышанасцю. Сціслая ідэя можа быць нават больш магутнай, чым можа здацца на першы погляд.

Я спадзяюся, што гэта заахвоціць вас спрабаваць развіваць свае новыя ідэі, робячы гэта з усведамленнем таго, што салодкае і простае можа быць такім жа цудоўным, а часам і больш, чым заблытаным і складаным.

Давайце вернемся ў жудаснае выяўленне даліны.

Вы сутыкнецеся з рабатызаванай сістэмай, твар якой нагадвае твар чалавека. Уявіце сабе, што гэты рабатызаваны твар быў створаны праз мноства ітэрацый. Распрацоўшчыкі штучнага інтэлекту, якія сабралі галаву робата, паступова імкнуліся зрабіць так, каб рабатызаваная частка твару ўсё больш і больш была падобная на сапраўдны чалавечы твар.

Іх першая спроба была надзвычай прымітыўнай. Твар робата меў той самы выгляд, які вы бачылі ў навукова-фантастычных фільмах, калі ён быў цалкам металічны і дэманстраваў шасцярні і драты. Гледзячы на ​​прыстасаванне, вы адразу разумееце, што гэта робат. Ніякіх сумневаў наконт гэтага.

Наступная спроба распрацоўшчыкаў штучнага інтэлекту ўключала абгортванне некаторых пластыкавых матэрыялаў вакол металічных частак. Хоць гэта выглядае больш прыязна, вы ўсё роўна адразу разумееце, што гэта галава робата і твар робата. Зноў жа, лёгка выявіць.

Гэтыя распрацоўшчыкі штучнага інтэлекту поўныя рашучасці працягваць гэта. Яны лепяць пластык і надаюць яму адценне скуры. Яны дадаюць рысы, якія здаюцца вельмі падобнымі на чалавечы твар, такія як радзімкі, валасы, плямы і да т.п.

На першы погляд вы можаце паверыць, што гэта чалавечы твар. Калі быў зроблены здымак твару робата і вас папрасілі вызначыць, ці намаляваны на фотаздымку чалавек супраць твару робата, вы маглі б не мець магчымасці адразу сказаць, што гэта было. З іншага боку, калі б вы стаялі побач з прыладай, вы, хутчэй за ўсё, пры ўважлівым разглядзе змаглі б зразумець, што гэта не чалавек, а робат.

Справа ў тым, што да таго, як у вас з'явілася магчымасць разгледзець твар буйным планам, было нешта, што, здавалася, не зусім спалучалася. Гэта, безумоўна, было падобна на чалавечы твар. Але нешта было не так. Вы павінны былі працягваць пільна глядзець зноў і зноў, каб паказаць пальцам тое, што выглядае не зусім правільна. Магчыма, гэта сапраўдны твар. Зноў жа, магчыма, гэта не так. Ваш розум бурліць адпаведна.

Нейкае падабенства жудаснасці ўваходзіць у ваш розум.

У вас не было такога ж падабенства жудаснасці, калі вы бачылі дзве папярэднія версіі. Вы маглі без паўзы і ваганняў вызначыць, што робат быў робатам. Толькі дзіця можа падмануцца, паверыўшы, што любая з гэтых версій была рэальнай асобай.

Але гэтая апошняя версія была іншай. Ён яшчэ не быў удасканалены, каб выглядаць як чалавечы твар. Ён таксама не быў настолькі далёкі ад рэальнага, каб было відавочна, што гэта павінен быць робат. Была дасягнута нейкая блытаніна.

Выкажам здагадку, што распрацоўшчыкі прасунулі свае даследчыя намаганні і зрабілі ўсё так, каб твар робата амаль не адрозніваўся ад твару чалавека. Колькі б вы ні глядзелі на гэтую рэч, вы не ўпэўненыя, чалавек гэта ці не чалавек. Калі вам паведамляюць, што гэта рабатызаваны твар, вы здзіўляецеся. Божа, яны выдатна папрацавалі, каб зрабіць гэта сапраўдным.

Звярніце ўвагу, што дагэтуль вы разглядалі толькі робатызаваныя аспекты, заснаваныя толькі на знешнім выглядзе.

Мы маглі б дадаць да ўраўнення рух. Гэта дадае вам дадатковае вымярэнне, каб адрозніць, ці з'яўляецца робат робатам, а не чалавекам. Я не хачу цалкам разглядаць гэта як шматмерную праблему ў гэтай дыскусіі, бо гэта робіць высвятленне гэтай тэмы больш заблытаным (хоць шматмернасць непазбежна пераплятаецца). У любым выпадку, уявіце сабе, што вы не толькі бачыце твар робата, але і можаце назіраць, як робат рухае рысамі твару, такімі як рот, вочы, нос і г.д. Відавочна, што гэта таксама могуць быць падарункі аб тым, ці з'яўляецца гэта робат або чалавек.

Важным аспектам, які трэба трымаць у авангардзе жудаснай даліны, з'яўляецца тое, што першапачатковая канцэпцыя падкрэслівае акт чалавечай блізкасці. Заяўлены феномен заключаецца ў тым, што ваша блізкасць павялічваецца па меры таго, як вы бачыце, як паступова паляпшаюцца твары робатаў, да моманту, калі ўзнікае дзіўны варыянт. Кажуць, што ў гэты момант ваша пачуццё блізкасці рэзка падае, рэзка абрынаючыся ў прорву або даліну блізкасці.

Да канкрэтнай версіі, якая прымусіла вас падазраваць, што нешта не так, ваша блізкасць нібыта моцна ўпала. Акрамя таго, згодна з тэорыяй, ваша блізкасць можа рэзка ўзрасці, як толькі вы сутыкнецеся з больш прасунутай версіяй, якая амаль ідэнтычная сапраўднай чалавечай форме.

Вось больш пра тое, што аўтар заявіў пра нашу звычайную схільнасць меркаваць, што аспекты жыцця плаўна растуць: «Матэматычны тэрмін манатонна ўзрастаючая функцыя апісвае адносіны, у якіх функцыя y = ƒ(x) пастаянна павялічваецца з пераменнай x. Напрыклад, як высілак x расце, даход y павялічваецца, або пры націсканні на педаль газу аўтамабіль рухаецца хутчэй. Такія адносіны паўсюдныя і вельмі лёгка зразумелыя. Фактычна, паколькі такія манатонна ўзрастаючыя функцыі ахопліваюць большасць з'яў паўсядзённага жыцця, людзі могуць упадаць у ілюзію, што яны прадстаўляюць усе адносіны. Таксама пацвярджэннем гэтага ілжывага ўражання з'яўляецца той факт, што многія людзі змагаюцца на працягу жыцця, настойліва націскаючы, не разумеючы эфектыўнасці адступлення. Таму людзі звычайна здзіўляюцца, сутыкаючыся з нейкай з'явай, якую гэтая функцыя не можа адлюстраваць». Гэта цытуецца па IEEE Spectrum перакладная папера.

Гэта практычна ўніверсальнае меркаванне пра тое, што яно заўсёды расце, можа быць адменена, калі мы сутыкаемся з чымсьці не так. Тэорыя абвяшчае, што жудаснасць і падазронасць выклікаюць адносна рэзкае і рэзкае падзенне блізкасці, напрыклад, рабатызаваная рука, якую вы вырашылі паціснуць і не маглі адчуць касцяныя характарыстыкі чалавечай рукі: «Калі гэта адбываецца, мы губляем пачуццё блізкасці, і рука становіцца жудаснай. У матэматычных тэрмінах гэта можа быць прадстаўлена адмоўным значэннем».

Калі вы прымаеце перадумову, што існуе гэты феномен жудаснай даліны, я ўпэўнены, што вы задаецеся пытаннем, якая карысць вам ад таго, што жудасная даліна, відаць, існуе.

Гэта класіка ўсіх часоў "ну і што?" тэст на практычнасць.

Аказалася, што многія людзі прыдумалі мноства інтэрпрэтацый таго, што мы павінны або можам зрабіць з гэтай жудаснай далінай. Ёсць мноства меркаванняў. Неўзабаве я раскажу пра некаторыя з іх.

Між тым, вось што прапанаваў Масахіра Моры: «Мы спадзяемся распрацаваць і стварыць робатаў і пратэзы рук, якія не ўпадуць у жудасную даліну. Такім чынам, з-за рызыкі, уласцівай спробе павялічыць ступень іх падабенства з чалавекам для дасягнення другой вяршыні, я рэкамендую дызайнерам узяць за мэту першую вяршыню, што прыводзіць да ўмеранай ступені чалавечага падабенства і значнага пачуцця блізкасці . Фактычна, я прагназую, што можна стварыць бяспечны ўзровень блізкасці, наўмысна выконваючы нечалавечы дызайн. Прашу дызайнераў задумацца над гэтым».

Кароткая кандэнсацыя з майго боку дванаццаці зручных правіл аб тым, што рабіць з дзіўнай далінай, у прыватнасці для распрацоўшчыкаў штучнага інтэлекту выглядае так:

1) Будзьце ў курсе жудаснай даліны і будзьце на нагах адпаведна

2) Верагодна, вы жадаеце дасягнуць чалавечай блізкасці да свайго ІІ, наколькі гэта магчыма

3) Будзьце гатовыя да страты чалавечай блізкасці, калі ваш штучны інтэлект трапіць у жудасную даліну

4) Імкніцеся пазбегнуць жудаснай даліны, распрацаваўшы свой штучны інтэлект такім чынам

5) Прыстойна мець мэту, якая недалёкая ад жудаснай даліны

6) Падыдзіце бокам да краю жудаснай даліны, але не зваліцеся са скалы

7) Не будзьце апантаныя выхадам за межы жудаснай даліны

8) Ёсць шанец, што вы хоць і пераскочыце міма жудаснай даліны

9) Не захапляйцеся скачком, так як вы ўсё роўна можаце зваліцца ў даліну

10) Максімальная блізкасць да чалавека можа быць дасягнута, прайшоўшы міма дзіўнай даліны

11) Тым не менш, ёсць дастатковая і падыходная блізкасць, выяўленая да дзіўнай даліны

12) Пастаянна памятайце пра жудасную даліну і не дазваляйце ёй выслізнуць з розуму

Усе гэтыя дзясяткі з'яўляюцца агульнымі запаведзямі, якія можна разглядаць як краевугольныя або апорныя пункты ведаў аб жудаснай даліне. Я адразу ж прызнаю, што ёсць і іншыя моманты, не пералічаныя ў гэтым мізэрным дзясятку, якія можна назваць аднолькава важнымі. Я таксама ахвотна прызнаю, што па кожным з выяўленых пунктаў несумненна будуць рознагалоссі, і па кожным пастаўленым пункце могуць узнікнуць працяглыя гарачыя дэбаты.

Больш за тое, некаторыя сказалі б, што дванаццаць пунктаў - поўная лухта, таму што яны, па-першае, заснаваныя на хлусні. Не існуе такога паняцця, як дзіўная даліна, сцвярджаюць яны. Усё гэта проста хітрасць і выдуманая выдумка, якая заклікае выключна і сумна звярнуцца да слабых розумаў (ой, гэта шчыра балюча!). Любая ўвага да жудаснай даліны - гэта пусты глыток паветра, і нехта павінен прыйсці і ўставіць востры драўляны тэарэтычны кол у сутнасць справы (некаторыя даследчыкі спрабавалі зрабіць гэта).

Дзеля дыскусіі, давайце паплывем па плыні і выкажам здагадку, што існуе нейкая жудасная даліна і што яна нібыта супадае з тым, што я пазначыў да гэтага часу. Тыя, хто не згодны з канцэптуалізацыяй жудаснай даліны, могуць адысці ад зоны або працягваць чытаць са скрыгатам зубоў і нарастаючым і кіпячым інтэлектуальным гневам (прабачце за гэта).

Вось як дзейнічаюць этычны штучны інтэлект і мэта распрацоўкі і ўкаранення этычнага штучнага інтэлекту. Дарэчы, для маіх пастаянных і глыбокіх даследаванняў этыкі штучнага інтэлекту глядзіце маё абмеркаванне на гэтая спасылка тут і гэтая спасылка тут, Проста назваць некалькі.

Дзіўная даліна - гэта адназначна каханне-нянавісць для тых, хто захапляецца этычным штучным інтэлектам.

Па-першае, неабходны фон. Адно з самых ашаламляльных этычных пытанняў, звязаных са штучным інтэлектам, заключаецца ў тым, што людзей можна падмануць і паверыць, што сістэма штучнага інтэлекту разумная. Майце на ўвазе, што на сённяшні дзень няма штучнага інтэлекту, які хоць бы наблізіўся б да таго, каб быць разумным. Гэта проста не адбываецца ў гэты час. Маё нібыта «нахабнае» сцвярджэнне зроблена, нягледзячы на ​​тыя бесперапынныя і шумныя загалоўкі, якія абвяшчаюць, што гэты штучны інтэлект альбо што штучны інтэлект альбо разумны, альбо дастаткова блізкі да таго, каб яго можна было лічыць такім. Маларкей. Мы не ў разуменні штучнага інтэлекту.

Мы не ведаем, як туды дабрацца. Мы не ведаем, ці адбудзецца гэта. Разуменне штучнага інтэлекту - гэта вартая мара і імкненне, але не варта кідацца на зброю і думаць, што мы на парозе яе дасягнення.

Безумоўна, многія горача папярэджваюць, што калі нам нейкім чынам удасца вывесці разуменне штучнага інтэлекту, робім мы гэта спецыяльна ці выпадкова, мы сутыкнемся з экзістэнцыяльнай рызыкай. У такой манеры мыслення, магчыма, шукаць разуменне штучнага інтэлекту не так ужо і варта. Рызыка заключаецца ў тым, што гэты разумны штучны інтэлект можа вызначыць, што людзі не вартыя прысутнасці. Нас могуць раздушыць, як жука. Або стаць рабом ІІ. Гэта можа адбыцца з-за таго, што штучны інтэлект адкрыта захоча гэта зрабіць, або штучны інтэлект можа апынуцца нашай уласнай машынай канца дня, якая знішчае нас з-за нашай уласнай бяздарнасці. Для майго асвятлення гэтых трывожных вынікаў адчувальнасці або сінгулярнасці AI гл спасылка тут.

Важным пытаннем этычнага штучнага інтэлекту з'яўляецца тое, што распрацоўшчыкі штучнага інтэлекту і тыя, хто займаецца штучным інтэлектам, часам прымушаюць людзей думаць, што штучны інтэлект разумны. Тое, як штучны інтэлект праяўляе сябе, напрыклад, праз робатызаваную фармулёўку або інтэрактыўнасць у размове, можа падступна падштурхнуць людзей да здагадкі, што штучны інтэлект разумны. Гэта, у сваю чаргу, вядзе вас па патэнцыйна непрыемным шляху прымулы.

Калі вы трапіце ў разумовую пастку, думаючы, што сістэма штучнага інтэлекту разумная, вы, хутчэй за ўсё, будзеце спадзявацца на яе, каб рабіць тое, што рабілі б разумныя істоты. Але пакуль што ні ў адным з сучасных штучных інтэлектаў няма здаровага сэнсу чалавечага якасці. ШІ, з якім мы зараз сутыкаемся, надзвычай далікатны і неглыбокі, калі гаворка ідзе пра чалавечыя здольнасці. Вы можаце патрапіць у непрыемныя і небяспечныя воды, мяркуючы, што сістэма штучнага інтэлекту разумная.

Як гэта звязана з жудаснай далінай?

Вось здзелка.

Нагадаем, што жудасная даліна, здаецца, кажа нам, што блізкасць да чалавека будзе паступова расці па меры таго, як сістэма штучнага інтэлекту або робат будуць усё бліжэй і бліжэй да чалавечай фармулёўкі. У той момант, калі сістэма штучнага інтэлекту набліжаецца да таго, каб быць даволі блізка, але ўсё яшчэ не зусім там, у нас узнікае жудаснае адчуванне, што нешта не так. Да таго часу мы ведалі, што ІІ не з'яўляецца чалавекам. Цяпер мы не ўпэўненыя. Наша чалавечая блізкасць падае. Толькі калі штучны інтэлект або робат становяцца цалкам пераканаўчымі адносна чалавечых здольнасцей, мы аднаўляем падабенства блізкасці да прылады.

Верагодна, распрацоўшчыкі штучнага інтэлекту, якія прымаюць гэтае сэрца наўмысна імкнуцца не дапусціць іх ІІ у жудасную даліну, імкнучыся спыніцца з пункту гледжання функцый ІІ, непасрэдна перад падзеннем у жудасную бездань (нагадаем, гэта таксама падкрэсліваў Масахіра Моры). Распрацоўшчыкі, відаць, зрабілі б гэта, пераканаўшыся, што ўсё яшчэ існуе мноства доказных падказак, каб было даволі ясна, што штучны інтэлект з'яўляецца менш чым разумным штучным інтэлектам і, такім чынам, не чалавекам або ў роўнай ступені.

Этыкі штучнага інтэлекту ў цэлым віталі б гэтыя шчырыя намаганні.

Аргументацыя простая. Тыя, хто так інфармаваны і прымаюць распрацоўшчыкі штучнага інтэлекту, спрабуюць пераканацца, што сістэма штучнага інтэлекту не ўводзіць людзей у зман і не прыпісвае штучнаму інтэлекту падобныя на чалавека аб'екты. Гэта, безумоўна, добрая навіна. Распрацоўшчыкі наўмысна створаць ІІ, каб прадухіліць апусканне ў жудасную даліну. Людзі лёгка зразумеюць, што ІІ не разумны.

Спрабаваць прымусіць распрацоўшчыкаў штучнага інтэлекту прыняць такі падыход няпроста. Сапраўды, гэта можа супярэчыць іх звычайным інстынктам і амбіцыям.

Шмат хто сцвярджае, што распрацоўшчыкі штучнага інтэлекту і тэхнічныя спецыялісты ў цэлым захапляюцца мэтамі. Яны бачаць мэту і часта слепа ідуць да яе з вялікім задавальненнем. Няма часу спыніцца і панюхаць ружы. Да гонак, мы адпраўляемся. У вобласці штучнага інтэлекту нарматыўнай мэтай будзе ідэалізаваны штучны інтэлект, неадрозны ад чалавечага ў тым, што ІІ можа быць разумна роўным па парытэце. Але мы яшчэ не там. Такім чынам, жудасная даліна забяспечвае другасную мэту, прызямляючыся перад жудаснай далінай, якая ў адваротным выпадку загароджвае, і становіцца мэтай, якая, тым не менш, прымальная. Вядома, гэта не залаты пярсцёнак, але ідэя ў тым, што гэты «другасны» прыз добры, вялікі дзякуй, і вы можаце ім ганарыцца.

Мы змянілі найвышэйшыя разбуральныя амбіцыі, накіраваныя на пошук мэты, і аб'ядналі іх у лагічна абгрунтаваную аснову, каб, так бы мовіць, рабіць правільныя рэчы.

Ура!

Атрымайце перамогу за этыку штучнага інтэлекту.

Але пачакайце секунду, спойлер, ёсць яшчэ сёе-тое, што нам таксама трэба ўлічваць.

Цяпер, калі гэтыя дасведчаныя распрацоўшчыкі штучнага інтэлекту ведаюць пра жудасную даліну, яны могуць накіраваць сваю кемлівасць і тэхнічнае майстэрства, каб наўмысна пераскочыць праз бездань, і пры гэтым зрабіць гэта, маючы на ​​ўвазе падабенства падману. Зрабіце так, каб штучны інтэлект выглядаў і выглядаў цалкам падобным на чалавека, нават калі распрацоўшчыкі ведаюць, што гэта няпраўда.

Ашуканскае мысленне гучыць так. Не дазваляйце вашай сістэме штучнага інтэлекту схіліць капялюш і прымусіць людзей адчуваць гэтую няўлоўную плынь жудаснасці. Вылучыце грані, якія могуць даць нейкі намёк або падказку аб тым, што штучны інтэлект не ўласцівы чалавеку. Рабіце гэта, таемна ўсведамляючы і недаравальна ведаючы, што штучны інтэлект не мае чалавечых магчымасцей, і ўсё гэта заключаецца ў тым, каб схаваць гэтую праўду ад тых, хто ўзаемадзейнічае з штучным інтэлектам або залежыць ад яго.

Якія д'ябальскія планы.

Як ні дзіўна, жудасная даліна можа стаць своеасаблівым сігналам для распрацоўнікаў штучнага інтэлекту: калі яны хочуць сапраўды падмануць людзей, яны павінны быць дастаткова разумнымі, каб пазбегнуць бездані. Яны не робяць гэта, дасягнуўшы поўнага штучнага інтэлекту, а замест гэтага, узводзячы дым і люстэрка, каб зрабіць штучны інтэлект, які ўводзіць у зман, як чалавека. Калі б распрацоўшчыкі штучнага інтэлекту не зразумелі, што існуе гэтая жудасная даліна, яны б у яе ўпалі б. Гэта добра для чалавецтва, таму што людзі, такім чынам, страцяць сваю прыхільнасць да штучнага інтэлекту, калі б не спадзяваліся празмерна на сённяшнюю якасць штучнага інтэлекту.

На жаль, ведаючы, што пастка існуе, распрацоўшчыкі штучнага інтэлекту, якія жадаюць яе абыйсці, знойдуць згубна разумныя спосабы зрабіць гэта.

Забіце ўдар супраць правілаў Этычнага штучнага інтэлекту.

Вы бачыце, як гэта стварае адносіны любові і нянавісці для этыкаў штучнага інтэлекту адносна дзіўнай даліны?

Пракляты, калі робіш, пракляты, калі не.

Я разумею, што гэта было даволі высокае вывучэнне жудаснай даліны, і вы, магчыма, прагнеце штодзённых прыкладаў. Ёсць асаблівы і, несумненна, папулярны набор прыкладаў, якія мне блізкія. Разумееце, у маёй якасці эксперта па ІІ, уключаючы этычныя і юрыдычныя наступствы, мяне часта просяць вызначыць рэалістычныя прыклады, якія дэманструюць дылемы этыкі ІІ, каб можна было лягчэй зразумець тэарэтычны характар ​​тэмы. Адна з самых цікавых абласцей, якая яскрава прадстаўляе гэтую этычную праблему штучнага інтэлекту, - гэта з'яўленне сапраўдных беспілотных аўтамабіляў на аснове штучнага інтэлекту. Гэта паслужыць зручным варыянтам выкарыстання або ўзорам для шырокага абмеркавання тэмы.

Вось тады вартае ўвагі пытанне, якое варта паразважаць: Ці з'яўленне сапраўдных беспілотных аўтамабіляў на аснове штучнага інтэлекту асвятляе што-небудзь пра жудасную даліну, і калі так, што гэта інфармуе нас рабіць?

Дазвольце мне крыху разабрацца з пытаннем.

Па-першае, звярніце ўвагу, што ў сапраўдным самакіраваным аўтамабілі няма чалавека-кіроўцы. Майце на ўвазе, што сапраўдныя аўтамабілі кіруюцца праз сістэму кіравання AI. За рулём не патрэбны кіроўца-чалавек, а таксама не прадугледжана, каб чалавек кіраваў транспартным сродкам. Для майго шырокага і пастаяннага ахопу аўтаномных транспартных сродкаў (АВ) і асабліва аўтамабіляў гл. спасылка тут.

Я хацеў бы дадаткова ўдакладніць, што маецца на ўвазе, калі я маю на ўвазе сапраўдныя аўтамабілі.

Разуменне ўзроўню самакіравання аўтамабіляў

Як удакладненне: сапраўдныя самакіравальныя машыны - гэта тое, што ШІ кіруе аўтамабілем цалкам самастойна, і падчас кіравання аўтамабілем няма дапамогі чалавека.

Гэтыя аўтамабілі без кіроўцы лічацца ўзроўнямі 4 і 5 (гл. маё тлумачэнне на гэтая спасылка тут), у той час як аўтамабіль, які патрабуе, каб вадзіцель-чалавек сумесна падзяляў намаганні за рулём, звычайна разглядаецца на ўзроўні 2 або ўзроўню 3. Аўтамабілі, якія сумесна выконваюць задачы кіравання, апісваюцца як паўаўтаномныя і звычайна ўтрымліваюць розныя аўтаматызаваныя дапаўненні, якія называюць ADAS (Advanced Driver-Asistance Systems).

Яшчэ няма сапраўднага самакіравання аўтамабіля ўзроўню 5, пра які мы нават не ведаем, ці ўдасца гэтага дасягнуць і колькі часу спатрэбіцца, каб дабрацца.

Між тым намаганні 4-га ўзроўню паступова спрабуюць атрымаць некаторую цягу, праходзячы вельмі вузкія і выбарачныя выпрабаванні на дарозе, хоць існуюць спрэчкі наконт таго, ці варта дапускаць гэтае тэставанне як такое (усе мы - марскія свінкі на жыццё або смерць у эксперыменце якія адбываюцца на нашых шашэйных і праезных дарогах, некаторыя сцвярджаюць, глядзіце мой рэпартаж на гэтая спасылка тут).

Паколькі паўаўтамабільныя машыны патрабуюць чалавека-вадзіцеля, прыняцце такіх тыпаў аўтамабіляў не будзе прыкметна адрознівацца ад кіравання звычайнымі транспартнымі сродкамі, таму няма нічога новага, каб асвятляць іх на гэтай тэме (праўда, як вы ўбачыце у адно імгненне, наступныя пункты, як правіла, дастасавальныя).

Для паўаўтамабільных машын вельмі важна, каб грамадскасць папярэджвала аб трывожным аспекце, які ўзнікае ў апошні час, а менавіта тым, што, нягледзячы на ​​тых людзей, якія кіроўцы размяшчаюць, засынаюць за рулём аўтамабіля 2-га або 3-га ўзроўню. Усім нам трэба пазбягаць увядзення ў зман веры ў тое, што вадзіцель можа адабраць іх увагу ад кіравання задачай падчас кіравання паўаўтамабільным аўтамабілем.

Вы нясеце адказнасць за кіраванне транспартным сродкам, незалежна ад таго, якая аўтаматызацыя можа быць перакінута на ўзровень 2 або 3.

Аўтамабілі і жудасная даліна

Для сапраўднага самакіравання аўтамабіляў узроўню 4 і ўзроўню 5 не будзе ўдзельнічаць у кіраванні аўтамабілем чалавека.

Усе пасажыры будуць пасажырамі.

AI робіць кіраванне.

Адзін з аспектаў, які трэба неадкладна абмеркаваць, цягне за сабой той факт, што ШІ, які ўдзельнічае ў сучасных сістэмах кіравання ШІ, не з'яўляецца разумным. Іншымі словамі, ШІ ў цэлым з'яўляецца сукупнасцю камп'ютэрнага праграмавання і алгарытмаў, і, напэўна, не ў стане разважаць гэтак жа, як і людзі.

Чаму гэты дадатковы акцэнт на AI не з'яўляецца разумным?

Таму што я хачу падкрэсліць, што, абмяркоўваючы ролю сістэмы кіравання ІІ, я не прыпісваю чалавечым якасцям ІІ. Звярніце ўвагу, што ў нашы дні існуе пастаянная і небяспечная тэндэнцыя да антрапамарфізацыі ІІ. Па сутнасці, людзі прызначаюць чалавечаму разуменню сённяшні ШІ, нягледзячы на ​​бясспрэчны і бясспрэчны факт, што такога ШІ пакуль няма.

З гэтым удакладненнем вы можаце сабе ўявіць, што сістэма кіравання аўтамабілем AI ніяк не можа "ведаць" пра грані кіравання. Ваджэнне і ўсё, што з гэтым звязана, трэба будзе запраграмаваць як частка апаратнага і праграмнага забеспячэння самакіравальнага аўтамабіля.

Давайце акунемся ў мноства аспектаў, якія ўзнікаюць у гэтай тэме.

Па-першае, важна ўсведамляць, што не ўсе аўтамабілі з ІІ аднолькавыя. Кожны вытворца аўтамабіляў і тэхналагічная фірма, якая займаецца самакіраваннем, прытрымліваецца свайго падыходу да распрацоўкі самакіраваных аўтамабіляў. Такім чынам, цяжка рабіць разгорнутыя заявы аб тым, што будуць рабіць або не рабіць сістэмы кіравання AI.

Акрамя таго, кожны раз, калі заяўляецца, што сістэма кіравання штучным інтэлектам не робіць якой -небудзь канкрэтнай справы, пазней гэта могуць абагнаць распрацоўшчыкі, якія фактычна запраграмавалі кампутар на такую ​​ж працу. Крок за крокам сістэмы кіравання AI штучна паступова ўдасканальваюцца і пашыраюцца. Існуючае сёння абмежаванне можа больш не існаваць у будучай ітэрацыі або версіі сістэмы.

Я спадзяюся, што гэта дае дастатковую колькасць засцярог, каб пакласці ў аснову таго, што я збіраюся расказаць.

Зараз мы падрыхтаваныя да глыбокага вывучэння беспілотных аўтамабіляў і этычных пытанняў штучнага інтэлекту, якія цягнуць за сабой жудасную даліну.

Ёсць чатыры аспекты, якія адносяцца да гэтага пытання, якія будуць разгледжаны тут:

1. Агульны выгляд беспілотных аўтамабіляў

2. Пытанне аб тым, куды «глядзяць» беспілотныя аўтамабілі

3. ІІ кіраванне аўтамабілем

4. Робаты, якія кіруюць аўтамабілем, як сродак для стварэння самакіравальных аўтамабіляў

Дадатковыя аспекты таксама ахоплены жыццяздольна, але з-за абмежаванасці прасторы гэтых чатырох тэм будзе дастаткова, каб асвятліць апору жудаснай даліны ў дачыненні да беспілотных аўтамабіляў на базе штучнага інтэлекту.

1. Агульны выгляд беспілотных аўтамабіляў

Б'юся аб заклад, што вы бачылі фатаграфіі або відэа сённяшніх выпрабаванняў беспілотных аўтамабіляў. Такім чынам, вы маглі заўважыць, што большасць транспартных сродкаў - гэта аўтамабілі звычайнага выгляду, якія абсталяваны дадатковым спецыялізаваным абсталяваннем. Напрыклад, можа быць стойка на даху, якая змяшчае мноства электронных датчыкаў. Да датчыкаў часам адносяцца відэакамеры, радарныя прылады, прылады LIDAR, ультрагукавыя датчыкі і да т.п.

Футурыстычны дызайн, як правіла, сведчыць аб тым, што мы можам адысці ад звычайнага выгляду аўтамабіля і замест гэтага перарабіць як салон, так і экстэр'ер, каб зрабіць іх больш гладкімі аўтаномнымі транспартнымі сродкамі. Зараз агульнае меркаванне такое, што прасцей выкарыстоўваць звычайныя аўтамабілі і не марнаваць энергію, спрабуючы расцягнуць намаганні, адначасна майструючы машыны нетрадыцыйнага выгляду (ёсць некаторыя выключэнні з гэтага агульнага пункту гледжання, глядзіце мой матэрыял на спасылка тут).

Сутнасць прама зараз у тым, што калі вы едзеце па праезнай частцы і сутыкнецеся з беспілотным аўтамабілем, вы амаль заўсёды можаце адразу зразумець, што гэта, верагодна, беспілотны аўтамабіль, проста заўважыўшы рыскі датчыкаў, усталяваных на аўтаномным аўтамабілі. Гэта хуткая візуальная раздача. Вядома, вы не ведаеце напэўна, што гэта само па сабе кіраванне, бо на гэтым этапе элементы кіравання звычайна ўсё яшчэ не пашкоджаныя, і за рулём можа быць чалавечы рэзервовы кіроўца.

З аднаго боку, можна выказаць здагадку, што асабліва зручна тое, што беспілотныя аўтамабілі сапраўды вылучаюцца фізічна і іх лёгка заўважаюць вадзіцелі ў машынах, кіраваных людзьмі, а таксама пешаходы паблізу. Усведамленне таго, што паблізу блукае беспілотны аўтамабіль, можа быць зручнай падказкай, каб быць напагатове, падахвочваючы вас быць уважлівымі і памятаць, што ІІ кіруе або можа кіраваць транспартным сродкам.

Выкажам здагадку, што беспілотныя аўтамабілі выглядаюць ідэнтычна звычайным аўтамабілям, якімі кіруе чалавек. Гэта рэальна выканальна як мінімум двума спосабамі. Па-першае, датчыкі патэнцыйна могуць быць схаванымі або мець такую ​​форму, каб не быць такімі відавочнымі для выпадковага візуальнага агляду. Па-другое, можа быць так, што ўсе аўтамабілі, у тым ліку звычайныя аўтамабілі, кіраваныя людзьмі, паступова аснашчаюцца падобнымі датчыкамі, нават калі транспартны сродак, тым не менш, будзе заставацца пераважна аўтамабілем, якім кіруюць людзі. Глядзіце маё далейшае асвятленне на гэтая спасылка тут.

Калі вы ўважліва задумаецеся аб тым, ці могуць ці павінны быць беспілотныя аўтамабілі ідэнтычнымі па вонкавым выглядзе звычайным аўтамабілям, якія кіруюцца чалавекам, вы можаце прыйсці да думкі, што ў гэтым рагу можа хавацца дзіўная даліна.

Разумееце, машыны, якія відавочна выглядаюць як беспілотныя машыны, можна ахарактарызаваць як тыя, што знаходзяцца на стыку, недалёка ад жудаснай даліны. Па сутнасці, вы "ведаеце", што гэта робат або рабатызаваная сістэма. Гэта меркаванне, да якога вы можаце прыйсці амаль адразу.

Калі беспілотныя аўтамабілі выглядаюць аднолькава з аўтамабілямі, кіраванымі людзьмі, магчыма, гэта сведчыць аб тым, што аўтаномныя транспартныя сродкі пераскочылі міма жудаснай даліны ў плане іх рабатызаванага выгляду. Ці ёсць сярэдзіна паміж гэтымі двума фізічнымі абліччамі, якая прывядзе нас у жудасную даліну?

Магчыма, вы заўважыце беспілотны аўтамабіль, які едзе па вуліцы, і вам здаецца, што гэта, верагодна, беспілотны аўтамабіль, з іншага боку, знешні выгляд не выглядае ні выключна аўтаномным, ні выключна кіраваным чалавекам. Вы можаце запярэчыць, што беспілотны аўтамабіль цяпер выглядае жудасна ці трывожна.

Самакіравальная машына нібыта пагрузілася ў жудасную даліну.

З улікам сказанага, не кожны пагодзіцца з такой катэгарызацыі. Некаторыя сцвярджаюць, што знешні выгляд не мае нічога агульнага з жудаснай далінай. Некаторыя, вядома, таксама сцвярджаюць, што не існуе нічога рэальна вядомага як жудасная даліна.

Як ужо гаварылася раней, вы можаце прыняць рашэнне па гэтым пытанні самастойна.

2. Пытанне аб тым, куды глядзяць беспілотныя аўтамабілі

Наспелая занепакоенасць, якую многія выклікаюць у сувязі з беспілотнымі аўтамабілямі, заключаецца ў тым, што ў іх звычайна адсутнічае чалавек-кіроўца на сядзенні кіроўцы, і таму цяжка зразумець, куды глядзіць «кіроўца» падчас кіравання аўтамабілем.

Звычайна вы кідаеце позірк на людзей-кіроўцаў, каб падгледзець, куды яны глядзяць. Напрыклад, вы можаце быць пешаходам на пешаходным пераходзе, а да пераходу набліжаецца аўтамабіль. Вы ўважліва глядзіце на чалавека, які сядзіць на сядзенні кіроўцы, і спрабуеце адрозніць, куды павернута яго галава і куды глядзяць вочы. Калі вы лічыце, што кіроўца вас убачыў, вам можа быць зручней перайсці вуліцу. У адрозненне ад гэтага, калі кіроўца-чалавек вас не ўбачыў, вы справядліва турбуецеся аб пераходзе.

У некаторых гарадах па гэтых аспектах адбываецца своеасаблівы гамбіт кошкі-мышкі. Асаблівай культурнай нормай у пэўным горадзе можа быць тое, што калі вы ўстанаўліваеце кіроўцу вачыма, кіроўца «выйграе», і ён мае відавочнае права ехаць далей, незалежна ад законнасці дарожнага руху. У іншых гарадах можа быць цалкам супрацьлеглае, а менавіта культурная норма заключаецца ў тым, што пры глядзельнай кантакце пешаход «перамагае», а кіроўца павінен падпарадкоўвацца дзеянням пешахода.

Здаецца, мы перанялі гэты звычай на працягу адносна доўгага часу, калі аўтамабілі былі ў нашых гарадах і населеных пунктах. Праблема са з'яўленнем беспілотных аўтамабіляў заключаецца ў тым, што на сядзенні кіроўцы няма кіроўцы-чалавека, і, такім чынам, любы пешаход ці кіроўца-чалавек, які звычайна выкарыстоўвае галаву і вочы кіроўцы ў якасці культурнага індыкатара намеру кіравання, цяпер не пашанцавала.

Аўтавытворцы і распрацоўшчыкі беспілотных аўтамабіляў добра ўсведамляюць гэтую нарастаючую праблему. Адно з прапанаваных рашэнняў заключаецца ў тым, што беспілотны аўтамабіль міргае фарамі аўтаномнага транспартнага сродку або, магчыма, сігналіць. Іншая думка заключаецца ў тым, што самакіравальны аўтамабіль можа мець варыянт гучнагаварыцеля і паведамляць навакольным, якія «намеры» сістэмы кіравання AI. Кожная з гэтых ідэй мае істотныя недахопы.

Тым не менш іншая прапанова цягне за сабой тое, што вы спачатку лічыце смешным. Прапанова заключаецца ў размяшчэнні шароў, падобных на вочныя яблыкі, на знешняй частцы аўтаномнага аўтамабіля. Гэтыя шары будуць выглядаць як чалавечыя вочы, быццам яны могуць паварочвацца наперад і назад, што дасць вам неадкладны сігнал аб тым, што штучны інтэлект «бачыў вас» (гэта можна зразумець, калі вочныя яблыкі глядзяць у вашым кірунку). Я прааналізаваў гэты падыход у спасылка тут.

Як бы вы адрэагавалі на тое, каб убачыць беспілотны аўтамабіль, які едзе па праезнай частцы, а на капот або дах усталяваны гэтыя дзіўныя вочныя шары?

Я мяркую, што вы маглі б падумаць, што гэта жудасна, магчыма, жудасна.

Некаторыя могуць выказаць здагадку, што жудаснасць узнікае з-за таго, што беспілотны аўтамабіль знаходзіцца ў жудаснай даліне. Іншыя будуць рашуча сцвярджаць, што гэта не мае ніякага дачынення да жудаснай даліны. Сярод такіх экспертаў некаторыя сказалі б, што ёсць жудаснасць, якая можа быць жудаснасцю, не замацаваўшыся ў жудаснай даліне (г.зн. жудасная даліна, здавалася б, заўсёды спараджае жудаснасць, але не ўся жудаснасць ствараецца выключна праз жудасную даліну). Іншы пункт гледжання заключаецца ў тым, што шары могуць быць, як мяркуецца, распрацаваны такім чынам, каб яны выглядалі менш вочнымі яблыкамі і выглядалі больш рабатызаванымі, або што мы ўсе непазбежна прымем з'яўленне гэтых шароў, і першапачатковая ашаламляльная рэакцыя сціхне.

3. Дзеянні штучнага інтэлекту пры кіраванні беспілотнымі аўтамабілямі

Многія з сённяшніх выпрабаванняў беспілотных аўтамабіляў паказалі, што існуючыя сістэмы ваджэння AI, як правіла, запраграмаваны на даволі прахалодныя і збольшага строга падпарадкаваныя закону спосабы кіравання. Сістэма ваджэння штучнага інтэлекту звычайна цалкам спыняе беспілотны аўтамабіль на знаках "Стоп". Сістэма ваджэння штучнага інтэлекту не робіць смелых прабежак праз скрыжаванні, калі сігнал святлафора непазбежна гарыць чырвоным. Гэтыя наравістыя метады ваджэння з'яўляюцца ўладай людзей.

У пэўным сэнсе вы маглі здагадацца, што беспілотны аўтамабіль - гэта беспілотны аўтамабіль па стылі кіравання, які ён дэманструе. Нават калі аўтаномны транспартны сродак візуальна здаецца звычайным аўтамабілем, якім кіруе чалавек, вы можаце паназіраць за рухом і, магчыма, зрабіць лагічную выснову, што ён, верагодна, кіруецца сістэмай штучнага інтэлекту.

Некаторыя лічаць, што нам трэба будзе зрабіць сістэмы ваджэння AI больш падобнымі да выхадак кіроўцаў-людзей, каб яны эфектыўна ўпісваліся ў нарматыўныя падыходы да кіравання. Я мяркую, вы маглі б вытлумачыць гэта як барацьбу з агнём агнём.

Ці ёсць сэнс гэта рабіць?

Майце на ўвазе, што адкрытыя скептыкі і крытыкі ненавідзяць гэтую ідэю. Яны будуць настойліва сцвярджаць, што мы хочам, каб сістэмы кіравання AI кіравалі належным чынам і асцярожна. Даданне патэнцыйна мільёнаў беспілотных аўтамабіляў на дарогі, якія запраграмаваны на тое, каб быць падобнымі на бязлюдных кіроўцаў, падалося б каласальным кашмарам. Я абмяркоўваў гэтую спрэчную прапанову ў спасылка тут.

Давайце пераробім дылему, выкарыстоўваючы жудасную даліну.

Калі сістэма кіравання штучным інтэлектам з'яўляецца строга законнай па сваіх дзеяннях, гэта, магчыма, сведчыць аб тым, што гэта, хутчэй за ўсё, рабатызаваная сістэма (нягледзячы на ​​людзей-кіроўцаў, якія сапраўды робяць гэта, хаця ў сучасным свеце іх здаецца вельмі мала). Калі сістэмы ваджэння штучнага інтэлекту будуць кіраваць такімі ж мудрагелістымі, як кіроўцы-людзі, гэта скача праз жудасную даліну ці ўпадае ў жудасную даліну?

Абдумайце гэта.

4. Робаты, якія кіруюць аўтамабілем, як сродак стварэння самакіравальных аўтамабіляў

Гэты апошні пункт для асвятлення з'яўляецца самым дзіўным з гэтых чатырох.

Магчыма, вы зусім не ведаеце, што некаторыя распрацоўшчыкі штучнага інтэлекту спрабуюць стварыць робатаў, якія б кіравалі аўтамабілямі. Робат будзе выглядаць як чалавек у розных аспектах, маючы рабатызаваныя ногі і рабатызаваныя рукі ў якасці канечнасцяў. Калі вы хочаце, каб любая звычайная машына, кіраваная чалавекам, была самакіравальнай машынай, вы проста пасадзіце гэтага спецыялізаванага робата для кіравання AI на вадзіцельскае сядзенне вашага аўтамабіля. Глядзіце мой аналіз гэтага паняцця на спасылка тут.

Чаму мы хочам кіраваць робатамі?

Прыгажосць такога робата заключаецца ў тым, што ўсе сучасныя аўтамабілі, якімі кіруюць людзі, могуць у нейкай інтэрпрэтацыі стаць самакіравальнымі аўтамабілямі амаль за адну ноч. Вы проста купляеце, бярэце ў арэнду або неяк набываеце сабе робата-кіроўцы. Вы саджаеце робата на вадзіцельскае сядзенне, адпраўляючыся ў падарожжа. Робат давязе вас да месца прызначэння. Калі вы хочаце пераключыцца на кіраванне аўтамабілем чалавекам, вы зніміце робата з аўтамабіля, магчыма, пакладзеце яго ў багажнік для наступнага выкарыстання.

Сёння ў Злучаных Штатах налічваецца каля 250 мільёнаў звычайных аўтамабіляў. Некаторыя мяркуюць, што яны ў канчатковым выніку будуць выкінутыя, калі з'явяцца беспілотныя аўтамабілі. Замест таго, каб выкідваць гэтыя звычайныя аўтамабілі, магчыма, мы паспрабуем пераабсталяваць іх у беспілотныя аўтамабілі, хоць гэта, магчыма, даволі дарагая ідэя. Здавалася б, больш разумным падыходам было б зрабіць даступнымі робатаў-вадзіцеляў.

Як бы вы адрэагавалі, калі б вы ўбачылі звычайны на выгляд аўтамабіль, які едзе па вашай суседняй вуліцы, а за яго рулём сядзіць робат?

Верагодна, жудаснасць.

Адно з спрэчных сцвярджэнняў заключаецца ў тым, што гэтая жудаснасць звязана з тым, што робат, які кіруе звычайным аўтамабілем, апускаецца ў знакамітую або сумна вядомую жудасную даліну.

заключэнне

З пункту гледжання этычнага штучнага інтэлекту, дзіўная даліна ўяўляе сабой інтрыгуючую галаваломку.

Ёсць некаторыя ў ІІ, якія цалкам вераць у жудасную даліну, і некаторыя, хто не. Але, незалежна ад таго, верыце вы ў жудасную даліну ці не робіце гэтага, тым не менш, сама тэма аб'яднана. Вы не можаце схаваць галаву і зрабіць выгляд, што самой канструкцыі не існуе. Канструкт як ідэя жыве і ў нейкім падабенстве з'яўляецца вірусна магутным. Ненавідзець гэта ці любіць гэта, праклятая ці, магчыма, узнёслая тэма захоўваецца.

Згодна з маім папярэднім разважаннем аб вартасцях жудаснай даліны з пункту гледжання этыкі штучнага інтэлекту, у ёй ёсць адносіны паміж любоўю і нянавісцю. Ці павінны тыя, хто займаецца этычнай сферай штучнага інтэлекту, прыняць жудасную даліну, або адразу адхіліць жудасную даліну, ці заставацца збольшага нейтральным адносна праўдзівасці і замест гэтага засяродзіцца на ўплыве, які нарастае з-за працяглых разыходжанняў у перакананнях пра гэта.

Гэтая праблема выклікае ўзнікненне выбітнага эканаміста Адама Сміта, які аднойчы сказаў (перафразуючы), што па дарозе з Горада Скептыцызму трэба прайсці праз Даліну Двухсэнсоўнасці.