Этыка ІІ і амаль разумнае пытанне, ці перажывуць людзі ІІ

У мяне ёсць да вас пытанне, якое, здаецца, выклікае ў гэтыя дні шмат непрыстойных і гарачых спрэчак.

Ці гатовыя вы?

Ці перажывуць людзі штучны інтэлект?

Абдумайце гэта.

Я збіраюся распакаваць пытанне і ўважліва вывучыць адказы і тое, як яны былі высветлены. Мая галоўная мэта - падкрэсліць, як само пытанне і навакольны дыскурс непазбежна і няўмольна ўкараніліся ў Этыка ІІ.

Для тых, хто грэбліва думае, што гэта пытанне па сваёй сутнасці немагчыма адказаць або гэта пустая трата часу і дыхання, я б ветліва параіў, што спроба адказаць на гэтае пытанне выклікае некаторыя жыццёва важныя меркаванні этыкі штучнага інтэлекту. Такім чынам, нават калі вы хочаце адразу адхіліць гэтае пытанне як, магчыма, недарэчнае або нерэалістычнае, я кажу, што яно ўсё роўна выклікае пэўную каштоўнасць у якасці сродку або механізму, які падкрэслівае этычныя запаведзі ІІ. Пра тое, што я працягваю і шырока асвятляю этыку штучнага інтэлекту і этычны штучны інтэлект, гл спасылка тут і спасылка тут, Проста назваць некалькі.

Зыходзячы з вышэйзгаданай перадумовы, дазвольце мне яшчэ раз паўтарыць спрэчнае пытанне і дазвольце нашым розумам пабадзяцца па значнасці пытання.

Ці перажывуць людзі штучны інтэлект?

Калі вам нязручна гэтая канкрэтная фраза, вы можаце перафармуляваць пытанне, каб спытаць, ці перажыве штучны інтэлект людзей. Я не ўпэўнены, ці палягчае гэта адказ на пытанне, але, магчыма, гэта здаецца менш бянтэжным. Я кажу гэта таму, што ідэя аб тым, што штучны інтэлект перажыве людзей, можа здацца больш бяскрыўднай. Гэта было б амаль як калі б я спытаў вас, ці могуць вялікія будынкі і створаныя людзьмі помнікі перажыць чалавецтва.

Вядома, гэта здаецца магчымым і не асабліва пагрозлівым. Мы робім гэтыя вялікія рэчы на ​​працягу нашага жыцця, і падобныя на піраміды, гэтыя магутныя збудаванні перажывуць тых, хто іх стварыў. Вядома, гэта не зусім роўна захаванню пасля канца чалавецтва, бо людзі ўсё яшчэ тут. Тым не менш, здаецца цалкам лагічным і магчымым, што структуры, якія мы ствараем, могуць перажыць наша існаванне ў цэлым.

Аднак прыкметнае адрозненне ў тым, што розныя збудаванні, такія як высокія хмарачосы і слаўныя статуі, не жывыя. Яны інэртныя. У адрозненне ад гэтага, калі пытацца пра штучны інтэлект, мяркуецца, што штучны інтэлект, па сутнасці, «жывы» ў тым сэнсе, што валодае нейкай формай інтэлекту і можа дзейнічаць так, як гэта робяць людзі. Вось чаму пытанне пра тое, як жыць даўжэй, больш складанае, галаваломнае і ўвогуле загадка, над якой варта паразважаць.

На працягу сваіх заўваг я буду прытрымлівацца пытання, якое сфармулявана так, ці перажывуць людзі ІІ. Гэта проста дзеля абмеркавання і зручнасці сузірання. Я не маю на ўвазе непавагі да альтэрнатыўнага пытання аб тым, ці перажыве ІІ людзей. Увогуле, гэты аналіз ахоплівае абедзве фармулёўкі, і я проста лічу, што пытанне аб тым, што людзі перажывуць штучны інтэлект, здаецца больш мілым у гэтых складаных пытаннях.

Добра, я спытаю яшчэ раз:

Падобна на тое, што ў вас ёсць два патэнцыйныя адказы: альбо жалезнае "так", людзі перажывуць ІІ, альбо вы можаце быць па той бок медаля і горача настойваць на тым, што не, людзі не перажывуць ІІ. Такім чынам, гэта высокае і пакутлівае пытанне зводзіцца да прамога выказвання альбо так, альбо не.

Зрабіце свой выбар.

Я разумею, што крыўдны адказ заключаецца ў тым, што ні так, ні не непрыдатныя.

Чую цябе.

У той час як на пытанне, безумоўна, здаецца, што можна адказаць толькі выразна бінарным спосабам, а менавіта так ці не, я прызнаю, што контраргумент можа быць разумным, што адказ заключаецца ў чымсьці іншым.

Давайце коратка вывучым некаторыя асновы адмовы ад простага адказу "так" ці "не" на гэтае пытанне.

Па-першае, можна адмовіцца ад слова «перажыць» у кантэксце пастаўленага пытання.

Гэтая канкрэтная фармулёўка, магчыма, азначае, што ІІ жывы. Пытанне не гаварыла «перажыве», а пыталася, ці перажывуць людзі ІІ. Outlive прымяняецца толькі да чалавечай часткі пытання, ці таксама да AI часткі пытання? Некаторыя паспрабуюць сцвярджаць, што аджытая аўра адносіцца і да часткі штучнага інтэлекту. У такім выпадку ў іх была б пякотка, кажучы, што ІІ - гэта жывая істота. Для іх ІІ будзе падобны да высокіх будынкаў і іншых збудаванняў. Ён не жывы так, як жывыя людзі.

Такім чынам, з пункту гледжання гэтага заўзятага супярэчніка, пытанне сфармулявана памылкова.

Вы можаце быць цьмяна знаёмыя з пытаннямі, якія маюць ілжывыя або памылковыя пасылкі. Адзін з самых вядомых прыкладаў - ці збіраецца хтосьці перастаць біць сваю жонку (старая прымаўка, якую, відавочна, трэба пакінуць у баку). У гэтым сумна вядомым прыкладзе, калі дадзены адказ "так", гэта азначае, што чалавек ужо рабіў гэта. Калі яны кажуць "не", гэта азначае, што яны былі і будуць працягваць гэта рабіць.

У выпадку пытання, ці перажывуць людзі ІІ, мы можам апынуцца пахаванымі ў балоце аб тым, ці лічыцца ІІ чымсьці накшталт жывой грані. Як я адразу растлумачу, у нас сёння няма разумнага ІІ. Я думаю, што большасць разумных людзей пагодзяцца з тым, што неразумны штучны інтэлект - гэта не жывая істота (ну, не ўсе згодныя, але пакуль я абумоўлю гэта - глядзіце маё асвятленне юрыдычнай асобы для штучнага інтэлекту на спасылка тут).

Сутнасць гэтай першай асновы адмовы ад адказу на пытанне, ці перажывуць людзі штучны інтэлект, заключаецца ў тым, што слова «перажыць» можа быць вытлумачана як тое, што штучны інтэлект жывы. Пакуль у нас няма такога ІІ. Калі мы сапраўды ствараем або нейкім чынам маем разумны штучны інтэлект, які ўзнікае, вам будзе цяжка сцвярджаць, што ён не жывы (хаця некаторыя паспрабуюць прывесці такі аргумент). Такім чынам, галоўнае тут заключаецца ў тым, што пытанне ставіць нешта, чаго не існуе, і мы проста разважаем пра невядомую і туманную будучыню.

Мы можам узяць гэты беспарадак і паспрабаваць пашырыць яго ў больш выразны выраз. Выкажам здагадку, што мы просім гэта замест гэтага:

• Ці перажывуць людзі як жывыя істоты ІІ, які з'яўляецца (1) нежывым або (2) жывым істотай, калі гэта аднойчы адбудзецца?

Майце на ўвазе пашыраную фармулёўку, і мы хутка да яе вернемся.

Другая прычына адмовы ад адказу на першапачатковае пытанне аб тым, ці перажывуць людзі штучны інтэлект, заключаецца ў тым, што гэта прадугледжвае, што адна з рэчаў перажыве іншую. Выкажам здагадку, што яны абодва па сутнасці жывуць вечна? Або выкажам здагадку, што яны абодва мінаюць або знікаюць адначасова?

Я ўпэўнены, што вы лёгка зразумееце, як гэта прымушае фармулёўку "так-не" развальвацца.

Падобна на тое, што нам патрэбны магчымы трэці адказ, які складаецца з "ні" ці падобнага адказу.

Існуе мноства перастановак, звязаных з "ні". Напрыклад, калі хтосьці цвёрда верыць, што людзі знішчаць сябе з дапамогай штучнага інтэлекту, і адначасова людзям удаецца знішчыць штучны інтэлект, гэты вернік не можа шчыра адказаць на пытанне аб тым, што перажыве іншае, няўхільным адказам "так" ці "не". Адказ, у гэтым даволі паскудным і сумным выпадку, быў бы больш такім, што ні адно не перажыве іншага.

Тое ж самае будзе, калі вялізны метэор ударыць аб Зямлю і знішчыць усё на планеце, у тым ліку людзей і любы штучны інтэлект, які апынецца побач (пры ўмове, што мы ўсе абмежаваныя Зямлёй і не жывем дадаткова на Марсе). Зноў жа, адказ «ні адзін» здаецца больш слушным, чым выказаць здагадку, што людзі перажылі штучны інтэлект або што штучны інтэлект перажыў людзей (бо яны абодва былі знішчаны адначасова).

Я не хачу заходзіць занадта далёка тут, але мы таксама можам захацець усталяваць некаторыя параметры адносна часу выжывання. Выкажам здагадку, што метэор трапляе на Зямлю і людзі амаль імгненна гінуць. Між тым, выкажам здагадку, што штучны інтэлект працягвае працаваць некаторы час. Думайце пра гэта так, як быццам у нас на заводах можа быць ужо запушчанае абсталяванне, якое працягвае гудзець, пакуль у рэшце рэшт машыны не спыняюцца, таму што няма людзей, якія падтрымліваюць машыны ў працоўным стане.

Вы павінны сказаць, што людзі перажылі або перажылі гэтыя машыны. Такім чынам, адказ «не» адносна таго, ці выжылі людзі даўжэй. Гэты адказ здаецца схематычным. Машыны паступова і няўмольна спыняліся, як мяркуецца, з-за адсутнасці чалавецтва вакол іх. Ці падаецца справядлівым сцвярджаць, што машыны здольныя праіснаваць даўжэй, чым людзі?

Напэўна, толькі для тых, хто пераборлівы і заўсёды хоча быць раздражняльна дакладным.

Затым мы маглі б дадаць да пытання нейкі элемент, звязаны з часам. Ці перажывуць людзі ІІ больш чым на суткі? Больш за месяц? Больш за год? Больш за стагоддзе? Я разумею, што гэта, на жаль, адкрывае скрыню Пандоры.

Які прымальны прамежак часу, пасля якога мы былі б гатовыя прызнаць, што штучны інтэлект сапраўды перажыў або перажыў людзей? Дакладны адказ, здаецца, заключаецца ў тым, што нават калі гэта адбываецца на працягу нанасекунды (мільярднай долі секунды) або карацей, ІІ у выніку выйграе, а людзі прайграюць у гэтым пытанні. Магчыма, улік шыраты з выкарыстаннем дня, тыдня або месяца можа здацца больш справядлівым. Дазволіць гэтаму працягвацца гадамі ці стагоддзямі здаецца магчымым расцяжэннем. З улікам сказанага, калі вы паглядзіце на свет у маштабе мільёнаў гадоў, ідэя аб тым, што штучны інтэлект перажыве або перажыве людзей не больш чым на некалькі стагоддзяў, здаецца не вельмі ўражлівай, і мы можам заявіць, што абодва яны зніклі прыблізна ў той жа час (з акругленнем).

Ва ўсякім разе, давайце прызнаем, што па шэрагу разумна разумных прычын на пастаўленае пытанне дазволена мець тры магчымыя адказы:

• Так, людзі перажывуць штучны інтэлект
• Не, і такім чынам сцвярджаюць, што людзі будуць ня перажыць ІІ
• Ні так, ні не не прымяняюцца (патрабуецца тлумачэнне, калі ласка)

Я згадваю, што калі вы выбіраеце "ні", вы таксама павінны патлумачыць свой адказ. Гэта робіцца для таго, каб мы маглі ведаць, чаму вы лічыце, што «ні тое, ні другое» непрыдатна, а таксама чаму вы адмаўляецеся ад выкарыстання «так» або «не». Каб зрабіць жыццё больш справядлівым для ўсіх, я мяркую, што мы павінны ў пэўнай ступені настойваць або, па меншай меры, заахвочваць, што нават калі вы адказваеце так ці не, вы ўсё роўна павінны прапанаваць тлумачэнне. Просты адказ «так» ці «не» не раскрывае вашу логіку таго, чаму вы адказваеце менавіта так. Не даючы таксама тлумачэнняў, мы маглі б падкінуць манету. Манета не ведае, чаму яна апынулася на арэлах або рэшках (калі вы не верыце, што манета мае душу або ўвасабляе нейкую ўсёведную руку лёсу, але пакуль мы не будзем разважаць пра гэта).

Мы чакаем, што людзі, якія адказваюць на пытанні, дадуць нейкія тлумачэнні сваім рашэнням. Звярніце ўвагу, што я не кажу, што тлумачэнні абавязкова будуць мець лагічны або разумны характар, і сапраўды, тлумачэнне можа быць цалкам пустым і не дадаваць асаблівай каштоўнасці. Тым не менш, мы можам шчыра спадзявацца, што тлумачэнне будзе паказальным.

Падчас гэтай дыскусіі было невыказанае здагадка, што па той ці іншай прычыне адна з гэтых рэчаў сапраўды перажыве іншую.

Чаму мы павінны верыць такой няяўнай умове?

Адказ на гэта другараднае пытанне амаль відавочны.

Вось здзелка.

Мы ведаем, што некаторыя вядомыя вяшчуны і інтэлектуалы рабілі даволі смелыя і адкрытыя прагнозы аб тым, як з'яўленне або з'яўленне разумнага штучнага інтэлекту радыкальна зменіць свет, якім мы яго ведаем сёння (нагадаем, сёння ў нас няма разумнага штучнага інтэлекту) .

Вось некалькі вядомых цытат, якія падкрэсліваюць уздзеянне разумнага ІІ на жыццё:

• Стывен Хокінг: «Поспех у стварэнні штучнага інтэлекту быў бы самай вялікай падзеяй у гісторыі чалавецтва».
• Рэй Курцвейл: «Праз некалькі дзесяцігоддзяў машынны інтэлект перасягне чалавечы інтэлект, што прывядзе да сінгулярнасці — тэхналагічныя змены настолькі хуткія і глыбокія, што ўяўляюць сабой разрыў у тканіне чалавечай гісторыі».
• Нік Бостром: «Машынны інтэлект - гэта апошняе вынаходніцтва, якое калі-небудзь спатрэбіцца чалавецтву».

Гэтыя сцвярджэнні празрыста аптымістычныя.

Справа ў тым, што мы таксама павінны ўлічваць пачварнае падбрушша, калі справа даходзіць да працы з разумным штучным інтэлектам:

• Стывен Хокінг: «Развіццё поўнага штучнага інтэлекту можа азначаць канец чалавечай расы».
• Ілон Маск: «Я ўсё больш схіляюся да думкі, што павінен быць нейкі нарматыўны кантроль, магчыма, на нацыянальным і міжнародным узроўні, проста каб пераканацца, што мы не робім чагосьці вельмі глупства. Я маю на ўвазе, што са штучным інтэлектам мы выклікаем дэмана».

Мяркуецца, што разумны штучны інтэлект стане славутым тыграм, якога мы схапілі за хвост. Ці рушым мы наперад чалавецтва з дапамогай разумнага штучнага інтэлекту? Ці мы па-дурному спрычынім сваю ўласную гібель разумным ІІ, які вырашыў знішчыць або заняволіць нас? Мой аналіз гэтай галаваломкі штучнага інтэлекту падвойнага прызначэння гл спасылка тут.

Асноўнае сумненне наконт таго, ці перажывуць людзі штучны інтэлект, заключаецца ў тым, што мы, магчыма, ствараем Франкенштэйна, які хоча знішчыць чалавецтва. ІІ становіцца пераможцам. Ёсць шмат магчымых прычын, чаму штучны інтэлект зрабіў бы гэта з намі. Магчыма, ІІ злы і дзейнічае адпаведна. Магчыма, штучнаму інтэлекту надакучылі людзі і ён зразумеў, што ў яго ёсць сіла пазбавіцца ад чалавецтва. Можна меркаваць, што гэта можа адбыцца і памылкова. ШІ спрабуе выратаваць чалавецтва і ў працэсе, ой, забівае ўсіх нас наповал. Прынамсі, матыў быў чысты.

Вас можа зацікавіць вядомая галаваломка штучнага інтэлекту, вядомая як праблема сашчэпкі, якую я разглядаў спасылка тут.

Карацей кажучы, калі-небудзь разумнага ІІ просяць зрабіць сашчэпкі. ШІ зацыклены на гэтым. Каб пераканацца, што выраб сашчэпак поўнасцю выкананы ў поўнай меры, штучны інтэлект пачынае паглынаць для гэтага ўсе іншыя планетарныя рэсурсы. Гэта вядзе да гібелі чалавецтва, паколькі штучны інтэлект спажывае ўсе даступныя рэсурсы для дасягнення адзінай мэты, пастаўленай яму людзьмі. Калі хочаце, сашчэпкі прычыняюць нам знішчэнне. ШІ, які вузка распрацаваны і пазбаўлены падабенства здаровага сэнсу, - гэта той тып штучнага інтэлекту, да якога нам трэба асабліва насцярожыцца.

Перш чым перайсці далей да пытання аб тым, ці перажывуць людзі ІІ, заўважце, што я працягваю падымаць пытанне аб разумным ІІ супраць неразумнага ІІ. Я раблю гэта па важных прычынах.

Мы можам дзіка разважаць пра разумны ІІ. Ніхто дакладна не ведае, што гэта будзе. Ніхто не можа з упэўненасцю сказаць, ці атрымаем мы калі-небудзь разумны ІІ. У выніку гэтай невядомай і яшчэ неспазнанай акалічнасці можна вывесці практычна любы сцэнар. Хтосьці можа сказаць, што разумны ІІ будзе злом. Хтосьці можа сказаць, што разумны ІІ будзе добрым і добразычлівым. Вы можаце працягваць і працягваць, пры гэтым нельга даць ніякіх «доказаў», каб пацвердзіць дадзенае сцвярджэнне якой-небудзь упэўненасцю або ўпэўненасцю.

Гэта прыводзіць нас да сферы этыкі штучнага інтэлекту.

Усё гэта таксама звязана з цвярозай занепакоенасцю сучасным ІІ і асабліва выкарыстаннем машыннага навучання (ML) і глыбокага навучання (DL). Разумееце, ёсць спосабы выкарыстання ML/DL, якія, як правіла, прадугледжваюць антрапамарфізм AI шырокай грамадскасцю, мяркуючы або выбіраючы меркаванне, што ML/DL з'яўляецца разумным AI або блізкім (гэта не так).

Магчыма, было б карысна спачатку растлумачыць, што я маю на ўвазе, кажучы пра штучны інтэлект у цэлым, а таксама даць кароткі агляд машыннага і глыбокага навучання. Існуе вялікая блытаніна адносна таго, што азначае штучны інтэлект. Я таксама хацеў бы пазнаёміць вас з прынцыпамі этыкі штучнага інтэлекту, якія будуць асабліва важнай часткай астатняй часткі гэтага дыскурсу.

Запіс аб ІІ

Давайце пераканаемся, што мы знаходзімся на адной старонцы адносна прыроды сучаснага ІІ.

Сёння няма разумнага ІІ.

У нас гэтага няма.

Мы не ведаем, ці будзе магчымы разумны штучны інтэлект. Ніхто не можа дакладна прадказаць, ці атрымаецца ў нас разумны штучны інтэлект, і ці ўзнікне разумны штучны інтэлект нейкім цудоўным чынам спантанна ў выглядзе вылічальнай кагнітыўнай звышновай (звычайна яе называюць сінгулярнасцю, гл. мой матэрыял на спасылка тут).

Зразумейце, што сучасны штучны інтэлект не здольны «думаць» ні ў якім разе, як мысленне чалавека. Калі вы ўзаемадзейнічаеце з Alexa або Siri, магчымасці размовы могуць здацца падобнымі да чалавечых магчымасцей, але на самой справе гэта вылічальныя магчымасці і не маюць чалавечага пазнання. Апошняя эра штучнага інтэлекту шырока выкарыстоўвае машыннае навучанне і глыбокае навучанне, якія выкарыстоўваюць супастаўленне вылічальных шаблонаў. Гэта прывяло да стварэння сістэм штучнага інтэлекту, якія маюць выгляд чалавечых схільнасцей. Між тым, сёння няма ніводнага штучнага інтэлекту, які б меў падабенства здаровага сэнсу, а таксама кагнітыўнага цуду трывалага чалавечага мыслення.

Часткова праблема заключаецца ў нашай тэндэнцыі антрапамарфізаваць кампутары і асабліва штучны інтэлект. Калі здаецца, што камп'ютэрная сістэма або штучны інтэлект дзейнічаюць такім чынам, што мы звязваем з паводзінамі чалавека, узнікае амаль непераадольнае жаданне прыпісаць сістэме чалавечыя якасці. Гэта звычайная ментальная пастка, якая можа захапіць нават самага непахіснага скептыка адносна шанцаў дасягнуць разумення. Мой падрабязны аналіз такіх пытанняў гл спасылка тут.

У пэўнай ступені менавіта таму этыка штучнага інтэлекту і этычны штучны інтэлект з'яўляюцца такой важнай тэмай.

Правілы этыкі штучнага інтэлекту прымушаюць нас заставацца пільнымі. Тэхнолагі штучнага інтэлекту часам могуць быць заклапочаныя тэхналогіямі, асабліва аптымізацыяй высокіх тэхналогій. Яны не абавязкова ўлічваюць больш шырокія грамадскія наступствы. Наяўнасць мыслення ў галіне этыкі штучнага інтэлекту і ўключэнне яго ў распрацоўку і ўкараненне штучнага інтэлекту мае жыццёва важнае значэнне для стварэння належнага штучнага інтэлекту, у тым ліку для ацэнкі таго, як этыка штучнага інтэлекту прымаецца кампаніямі.

Акрамя прымянення прынцыпаў этыкі штучнага інтэлекту ў цэлым, існуе адпаведнае пытанне аб тым, ці павінны мы мець законы, якія б рэгулявалі розныя віды выкарыстання штучнага інтэлекту. На федэральным, дзяржаўным і мясцовым узроўнях прымаюцца новыя законы, якія тычацца дыяпазону і характару таго, як трэба распрацоўваць ІІ. Намаганні распрацаваць і прыняць такія законы паступова. Этыка штучнага інтэлекту служыць, па меншай меры, у якасці прыпынку і амаль напэўна ў некаторай ступені будзе непасрэдна ўключана ў гэтыя новыя законы.

Майце на ўвазе, што некаторыя катэгарычна сцвярджаюць, што нам не патрэбныя новыя законы, якія ахопліваюць ІІ, і што існуючых законаў дастаткова. Яны папярэджваюць, што калі мы прымем некаторыя з гэтых законаў аб штучным інтэлекце, мы заб'ем залатога гуся, здушыўшы дасягненні ў галіне штучнага інтэлекту, якія даюць велізарныя перавагі для грамадства.

У папярэдніх калонках я асвятляў розныя нацыянальныя і міжнародныя намаганні па распрацоўцы і прыняцці законаў, якія рэгулююць ІІ, гл. спасылка тут, напрыклад. Я таксама разгледзеў розныя прынцыпы і рэкамендацыі па этыцы штучнага інтэлекту, якія вызначылі і прынялі розныя краіны, у тым ліку, напрыклад, намаганні Арганізацыі Аб'яднаных Нацый, такія як набор этыкі штучнага інтэлекту ЮНЕСКА, які прынялі амаль 200 краін, гл. спасылка тут.

Вось карысны асноўны спіс этычных крытэрыяў або характарыстык штучнага інтэлекту ў дачыненні да сістэм штучнага інтэлекту, якія я ўважліва вывучаў раней:

• Празрыстасць
• Справядлівасць і справядлівасць
• Не-злачынства
• адказнасць
• недатыкальнасць прыватнага жыцця
• Дабразычлівасць
• Свабода і аўтаномія
• давер
• ўстойлівасць
• пачуццё ўласнай годнасці
• Салідарнасць

Мяркуецца, што гэтыя прынцыпы этыкі штучнага інтэлекту настойліва павінны выкарыстоўвацца распрацоўшчыкамі штучнага інтэлекту, а таксама тымі, хто кіруе намаганнямі па распрацоўцы штучнага інтэлекту, і нават тымі, хто ў канчатковым выніку размяшчае і абслугоўвае сістэмы штучнага інтэлекту. Усе зацікаўленыя бакі на працягу ўсяго жыццёвага цыкла штучнага інтэлекту, распрацоўкі і выкарыстання, разглядаюцца ў межах захавання ўсталяваных нормаў этычнага штучнага інтэлекту. Гэта важная асаблівасць, паколькі звычайна мяркуецца, што «толькі кодэры» або тыя, хто праграміруе штучны інтэлект, павінны прытрымлівацца паняццяў этыкі штучнага інтэлекту. Як было падкрэслена раней, для распрацоўкі і ўкаранення штучнага інтэлекту патрэбна вёска, і для гэтага ўся вёска павінна ведаць і выконваць правілы этыкі штучнага інтэлекту.

Давайце будзем заставацца на зямлі і засяродзімся на сучасным вылічальным неразумным ІІ.

ML/DL з'яўляецца адной з формаў вылічэння шаблону адпаведнасці. Звычайны падыход заключаецца ў тым, што вы збіраеце дадзеныя аб задачы прыняцця рашэння. Вы падаеце дадзеныя ў камп'ютэрныя мадэлі ML/DL. Гэтыя мадэлі імкнуцца знайсці матэматычныя заканамернасці. Калі такія шаблоны знойдзены, сістэма ІІ будзе выкарыстоўваць гэтыя шаблоны пры сустрэчы з новымі дадзенымі. Пры прадстаўленні новых дадзеных шаблоны, заснаваныя на «старых» або гістарычных дадзеных, прымяняюцца для прыняцця бягучага рашэння.

Я думаю, вы можаце здагадацца, куды гэта вядзе. Калі людзі, якія прымалі рашэнні па ўзорах, уключалі ў сябе непрыхільныя прадузятасці, верагоднасць таго, што дадзеныя адлюстроўваюць гэта тонкім, але істотным чынам. Машынае навучанне або Deep Learning вылічальнае ўзгадненне шаблонаў проста паспрабуе матэматычна імітаваць дадзеныя адпаведна. Там няма падабенства здаровага сэнсу або іншых разумных аспектаў мадэлявання, створанага AI, як такога.

Акрамя таго, распрацоўшчыкі ІІ могуць таксама не разумець, што адбываецца. Таямнічая матэматыка ў ML/DL можа абцяжарыць выяўленне схаваных цяпер ухілаў. Вы па праве спадзявацца і чакаць, што распрацоўшчыкі ІІ правядуць праверку на патэнцыйна схаваныя прадузятасці, хоць гэта больш складана, чым можа здацца. Існуе вялікая верагоднасць таго, што нават пры адносна шырокім тэсціраванні ў мадэлях супастаўлення шаблонаў ML/DL ўсё яшчэ будуць уключаны прадузятасці.

Вы можаце выкарыстоўваць вядомае ці сумнавядомую прымаўку: смецце - у смецце - выходзіць. Справа ў тым, што гэта больш падобна на прадузятасці, якія падступна ўліваюцца, калі прадузятасці пагружаюцца ў ШІ. Алгарытм прыняцця рашэнняў (ADM) ІІ аксіяматычна нагружаецца няроўнасцямі.

Не добра.

Я лічу, што цяпер падрыхтаваў належную глебу для далейшага вывучэння таго, ці перажывуць людзі ІІ.

Людзі і штучны інтэлект - сябры, ворагі або ворагі

Раней я абвясціў, што любы адказ на пытанне, ці перажывуць людзі ІІ, павінен суправаджацца тлумачэннем.

Мы паглядзім на ды адказаць. Я дам кароткі спіс тлумачэнняў. Вы можаце прыняць любое з гэтых тлумачэнняў. Вам таксама прапануецца знайсці іншыя тлумачэнні, якіх можна ўявіць мноства.

Так, людзі перажывуць штучны інтэлект, таму што:

• Чалавек як творца: Людзі ствараюць і падтрымліваюць штучны інтэлект, так што без людзей штучны інтэлект перастане працаваць або існаваць
• Прыроджаны дух чалавека: Людзі валодаюць нязломным духам да жыцця, у той час як штучны інтэлект гэтага не робіць, таму так ці інакш людзі выжывуць, але штучны інтэлект, несумненна, адыдзе на другі план з-за адсутнасці прыроджанай сілы для выжывання
• Людзі як пераможцы: Людзі не дазволяць штучнаму інтэлекту перажыць людзей, таму што людзі вырашылі б цалкам знішчыць штучны інтэлект, калі б людзі апынуліся пад пагрозай з-за штучнага інтэлекту або іншым чынам выміралі
• іншае

Мы разгледзім адказ «не» (не «так»). Я дам кароткі спіс тлумачэнняў. Вы можаце прыняць любое з гэтых тлумачэнняў. Вам таксама прапануецца знайсці іншыя тлумачэнні, якіх можна ўявіць мноства.

Людзі не перажывуць штучны інтэлект, таму што:

• ШІ здольны захоўваць сябе: Нават калі людзі ствараюць і падтрымліваюць штучны інтэлект, штучны інтэлект альбо будзе запраграмаваны, альбо распрацаваны людзьмі, каб працягваць працаваць у адсутнасць людзей, альбо штучны інтэлект знойдзе ўласныя сродкі захавання (магчыма, самі таго не разумеючы)
• Штучны дух AI: Нават калі людзі маюць нязломны дух да жыцця, мы ведаем, што людзі таксама маюць дух самазнішчэння; у любым выпадку, штучны інтэлект можа быць запраграмаваны штучным духам, калі хочаце, такім чынам, каб штучны інтэлект імкнуўся выжыць і/або штучны інтэлект будзе здагадвацца аб падабенстве прыроджанай бадзёрасці на сваіх уласных умовах
• ШІ пераадольвае пераможцаў: Нават калі людзі не хочуць, каб штучны інтэлект перажыў людзей, штучны інтэлект патэнцыйна будзе запраграмаваны на тое, каб пераўзысці намаганні людзей па перамозе, або можа самастойна вызначыць, як гэта зрабіць (і, магчыма, можа выбраць адпаведнае знішчэнне людзей ці не).
• іншае

Мы аднолькава абавязаны зірнуць на «Ні» (не ды, Ня няма) адказаць. Я дам кароткі спіс тлумачэнняў. Вы можаце прыняць любое з гэтых тлумачэнняў. Вам таксама прапануецца знайсці іншыя тлумачэнні, якіх можна ўявіць мноства.

Людзі не перажываюць ІІ, а тым часам ІІ не перажывае людзей з-за:

• Людзі і штучны інтэлект існуюць вечна: Аказваецца, людзі і штучны інтэлект павінны быць адзін з адным назаўжды. На шляху могуць быць няроўнасці. Добрая навіна або шчаслівы твар заключаецца ў тым, што мы ўсе ладзім.
• Людзі і штучны інтэлект існуюць вечна: Ой, людзі і штучны інтэлект пачынаюць ненавідзець адзін аднаго. Сцэнар з сумным тварам. Справа ў тым, што набліжаецца тупік. ШІ не можа пераважаць над людзьмі. Людзі не могуць перамагчы ІІ. Перацягванне каната вечнага стану.
• Людзі і штучны інтэлект узаемна знішчаюць адзін аднаго: Два цяжкавагавікі ў выніку выбіваюць адзін аднаго з рынга і з гэтага свету. Людзі пераважаюць над штучным інтэлектам, але штучнаму інтэлекту ўдалося таксама перамагчы людзей (магчыма, канец канца свету)
• Людзі і штучны інтэлект знішчаюцца з-за нейкай патрабавальнасці: Людзі і штучны інтэлект былі знішчаны ўражлівым метэорам або, магчыма, прышэльцам з іншай планеты, які вырашыў, што людзям і штучнаму інтэлекту, які паходзіць ад чалавецтва, нельга (нават не зацікаўлены ў крадзяжы нашага дзіўнага штучнага інтэлекту)
• іншае

Ёсць некаторыя з найбольш часта адзначаных прычын для адказаў "Так", "Не" і "Ні адно" на пытанне аб тым, ці перажывуць людзі ІІ.

заключэнне

Магчыма, вы памятаеце, што раней я прапанаваў гэты пашыраны варыянт пытання аб тым, што людзі перажывуць штучны інтэлект:

• Ці перажывуць людзі як жывыя істоты ІІ, які з'яўляецца (1) нежывым або (2) жывым істотай, калі гэта аднойчы адбудзецца?

Вышэйзгаданыя адказы, як правіла, сканцэнтраваны на апошняй частцы пытання, а менавіта на акалічнасці, звязанай з разумным ІІ. Я ўжо адзначаў, што гэта дзіка спекулятыўна, бо мы не ведаем, ці з'явіцца разумны ІІ. Хтосьці сцвярджае, што на ўсялякі выпадак мы маем права падумаць загадзя аб тым, што можа паўстаць.

Калі гэта здаецца вам вельмі нерэальным, я спачуваю, што ўсё гэта даволі гіпатэтычна і напоўнена здагадкамі на вяршыні здагадак. Гэта бочка, поўная здагадак. Вам трэба будзе высветліць каштоўнасць, якую, на вашу думку, прыносяць такія спекулятыўныя намаганні.

Калі казаць больш пра асноўныя тэмы, мы можам разгледзець нежывы ці неразумны тып ІІ.

Скароціце пытанне да гэтага:

• Ці перажывуць людзі нежывы неразумны ІІ?

Верыце ці не, але гэта істотна годнае пытанне.

Магчыма, вы не ведаеце, чаму гэты нежывы неразумны штучны інтэлект можа апынуцца дзе заўгодна, каб нейкім чынам перажыць чалавецтва.

Разгледзім сітуацыю з аўтаномнымі сістэмамі ўзбраення, якія я абмяркоўваў спасылка тут. Мы ўжо бачым, што сістэмы ўзбраення ўзбройваюцца штучным інтэлектам, што дазваляе зброі працаваць збольшага аўтаномна. Гэты нежывы неразумны ІІ не мае ні падабенства мыслення, ні падабенства здаровага сэнсу і г.д.

Уявіце адну з такіх апакаліптычных сітуацый. Некалькі краін уключылі гэты малакаліберны штучны інтэлект у сваю зброю масавага знішчэння. Ненаўмысна (або наўмысна) гэтыя аўтаномныя сістэмы ўзбраення з выкарыстаннем штучнага інтэлекту запускаюцца або развязваюцца. Каб спыніць іх, недастаткова сродкаў бяспекі. Чалавецтва знішчана.

Ці перажыве ІІ людзей у такім выпадку?

Па-першае, вы можаце не асабліва клапаціцца. Іншымі словамі, калі ўсё чалавецтва было знішчана, хвалявацца ці клапаціцца аб тым, ці ўсё яшчэ гудзе штучны інтэлект, падобна на перасоўванне тых шэзлонгаў на Тытаніку. Ці мае значэнне тое, што штучны інтэлект усё яшчэ працуе?

Прыхільнік можа запярэчыць, што гэта ўсё яшчэ мае значэнне. Добра, пацешым прыліпку. ШІ можа працаваць самастойна з дапамогай сонечных батарэй і іншых формаў энергіі, якія могуць працягваць падсілкоўваць машыны. Магчыма, мы таксама распрацавалі сістэмы AI, якія аднаўляюць і падтрымліваюць іншыя сістэмы AI. Звярніце ўвагу, што для гэтага не патрабуецца разумны штучны інтэлект.

Увогуле, вы можаце прыдумаць сцэнар, паводле якога чалавецтва скончылася, а ІІ усё яшчэ працуе. Магчыма, штучны інтэлект працуе толькі на працягу кароткага перыяду часу. Тым не менш, як вынікае з папярэдняй дыскусіі аб высокай дакладнасці ў пытаннях часу, штучны інтэлект насамрэч перажыў людзей (на некаторы час).

Апошняя думка на гэтую тэму, пакуль.

Абмеркаванне таго, ці перажывуць людзі разумны штучны інтэлект, падобна на праславутую лыжку цукру (як гэта можа быць, вы можаце задацца пытаннем, ну, трымайцеся за капялюш, і я скажу вам).

Разумееце, нам абавязкова трэба ўсвядоміць, што неразумны штучны інтэлект таксама мае вялікі і жахлівы патэнцыял для ўдзелу ў знішчэнні чалавецтва і перажыве нас. Не асабліва таму, што штучны інтэлект "хацеў перажыць нас", а проста нашымі ўласнымі рукамі ў стварэнні штучнага інтэлекту, які не патрабуе ўмяшання чалавека, каб працягваць функцыянаваць. Некаторыя рашуча сцвярджаюць, што штучны інтэлект, створаны як вечны, можа мець дэстабілізуючы ўплыў, які можа прымусіць некаторых людзей захацець зрабіць першы крок па знішчэнні іншых людзей, глядзіце маё тлумачэнне на спасылка тут.

Частка пра людзей, якія выжылі, не з'яўляецца асновай таго, чаму пытанне сёння заслугоўвае такой важкасці. Замест гэтага схаваная таемная плынь таго, як мы распрацоўваем сучасны штучны інтэлект і як мы выкарыстоўваем штучны інтэлект, з'яўляецца сапраўдным штуршком. Нам трэба старанна падумаць аб наступствах этыкі штучнага інтэлекту і грамадскіх наступствах сучаснага штучнага інтэлекту.

Калі некалькі мудрагелістае пытанне аб тым, ці перажывуць людзі штучны інтэлект, патрапіць на стол пытанняў сучаснага штучнага інтэлекту тут і цяпер, нам будзе лепш. У такой манеры разгляду разумныя аспекты штучнага інтэлекту людзей, якія перажылі штучны інтэлект, - гэта тая лыжка цукру, якая, як мы спадзяемся, пазбавіць ад барацьбы з штучным інтэлектам тут і цяпер.

Проста лыжка цукру часам дапамагае панізіцца. І самым цудоўным спосабам. Або, па меншай меры, такім прывабным спосабам, які прыцягвае нашу ўвагу і трымае нас прыкаванымі да таго, пра што нам трэба турбавацца.

Як далей гаворыць песня, як у малінаўкі, якая ўвае гняздо, у нас вельмі мала часу на адпачынак.