Этыка ІІ і пераход пакаленняў ад лічбавых тубыльцаў да тубыльцаў, якія растуць сярод паўсюднага ІІ, у тым ліку паўсюдных самакіраваных аўтамабіляў

Вы, несумненна, чулі пра крылатую фразу, вядомую як лічбавыя тубыльцы.

Практычна ва ўсіх ёсць.

Б'юся аб заклад, што вы не чулі аб адносна новай крылатай фразе, а менавіта аб ІІ ураджэнцаў. Вам лепш прызвычаіцца да гэтай апошняй фразы, таму што яна паступова і няўмольна замацуецца. Разумееце, мы танчым міма старых часоў лічбавых тубыльцаў і пераключаемся на высокую перадачу, калі разгортваецца эра тубыльцаў штучнага інтэлекту. Усё гэта мае значны ўплыў на этыку штучнага інтэлекту і з'яўленне этычнага штучнага інтэлекту, што з'яўляецца тэмай, якую мае і працягвае шырока асвятляць мая калонка, напрыклад спасылка тут і спасылка тут, проста назваць некалькі.

Перш чым мы ўважліва разгледзім ураджэнцаў штучнага інтэлекту і тое, што цягне за сабой фармулёўка, мы павінны пераканацца, што лічбавыя ўраджэнцы належным чынам размешчаны на стале.

Што менавіта ўяўляе сабой т.зв лічбавая родная?

Агульная ідэя заключаецца ў тым, што гэта людзі, якія выраслі з самага нараджэння ў эпоху лічбавых сістэм, такіх як шырока распаўсюджаная вылічальная тэхніка, паўсядзённыя мабільныя тэлефоны, магутныя ноўтбукі і электронныя планшэты, велізарная сеткавая сувязь праз Інтэрнэт і ўвогуле пагружаныя ў лічбавыя медыя. Яны з'яўляюцца прыроджанымі або натуральнымі ў лічбавым свеце. Для іх лічбавы спосаб - гэта тое, што адбываецца. Лічбавы з'яўляецца эндэмічна меркаваным аспектам, і яны асабіста не могуць разглядаць сябе і свет вакол сябе па-іншаму.

Яны лічбавыя тубыльцы.

Іх папярэднікі не былі аднолькава абсталяваныя. Вы можаце параўнаць гэта з сталеннем, калі самалёты сталі агульнапрынятым спосабам палёту. Тыя, хто быў побач да з'яўлення магчымасці прама ўвайсці ў самалёт для палёта ў паветры, непазбежна былі ў захапленні ад рэальнасці магчымасці лётаць. Кожны раз, калі ў далейшым жыцці ім удавалася здзейсніць палёт, яны былі ў нечым уражаны. Які дзіўны подзвіг — удзельнічаць у ім. Вопыт палёта ў самалёце здавалася чароўным і амаль неймаверным.

Лічбавыя тубыльцы звычайна не любяць лічбавых спосабаў камунікацыі. Безумоўна, яны часам бываюць прыемна здзіўлены або ўсхваляваны, калі выяўляюць дадатковы нюанс таго, што можа зрабіць лічбавы, але ў цэлым яны ставяцца да гэтых пытанняў звычайна спакойна. Магчымасць выкарыстання лічбавых магчымасцей - гэта тое, з чым яны цалкам задаволены і цалкам разлічваюць на тое, што гэта будзе магчыма зрабіць.

Магчыма, вы не разумееце, што гэтая крылатая фраза, як кажуць, узнікла ў артыкуле, які выйшаў у 2001 годзе і апісваў цяперашні стан студэнтаў, якія растуць вакол апошніх высокіх тэхналогій. У гэтым артыкуле аўтар сказаў пра гэтую тэму наступнае: «Сучасныя студэнты - студэнты да каледжа - прадстаўляюць першыя пакаленні, якія выраслі з гэтай новай тэхналогіяй. Яны правялі ўсё сваё жыццё ў атачэнні камп'ютараў, відэагульняў, лічбавых музычных плэераў, відэакамер, мабільных тэлефонаў і ўсіх іншых цацак і інструментаў лічбавай эпохі» (Марк Прэнскі, «Лічбавыя тубыльцы, лічбавыя імігранты», На гарызонце).

Аўтар пастулюе спосабы выразнага пазначэння гэтага пакалення. Пасля разважання над некалькімі магчымасцямі газета гаворыць наступнае: «Але самае карыснае пазначэнне, якое я знайшоў для іх, — лічбавыя тубыльцы. Сёння ўсе нашы студэнты з'яўляюцца «носьбітамі» лічбавай мовы камп'ютараў, відэагульняў і Інтэрнэту» (паводле артыкула Prensky, цытаванага вышэй).

Спачатку вы маглі б падумаць, што памазанне ў лічбавыя тубыльцы - гэта, магчыма, разумная форма прысваення тытула або тытульнага прызначэння, але гэта на самай справе не робіць дэманстратыўнай розніцы ў паўсядзённым жыцці. Згодна з першапачатковым дакументам, існуе важнае адрозненне: «Цяпер ясна, што ў выніку гэтага паўсюднага асяроддзя і велізарнай колькасці іх узаемадзеяння з ім сучасныя студэнты думаюць і апрацоўваюць інфармацыю прынцыпова інакш, чым іх папярэднікі. Гэтыя адрозненні ідуць значна далей і глыбей, чым падазраюць або разумеюць большасць педагогаў» (паводле цытаванага артыкула Prensky).

Сутнасць у тым, што быць лічбавым ураджэнцам, верагодна, мае вялікае значэнне. Тыя, хто з'яўляецца лічбавым выхадцам, відаць, здольныя думаць і апрацоўваць свет вакол сябе больш грунтоўна, асабліва ў выкарыстанні і ацэнцы інфармацыі. Кажуць, што яны маюць перавагу над тымі, хто не належаў да эпохі лічбавага нараджэння. Лічбавы ўраджэнец па сваёй сутнасці выкарыстоўвае лічбавыя сродкі і рэжымы, у тым ліку адпаведным чынам наладзіўшы свае працэсы мыслення. Мы павінны ўявіць сабе, што тыя, хто раней за лічбавых тубыльцаў і ўсё ж жывуць у лічбавым свеце, не ведаюць, як справіцца з гэтым, і не могуць стварыць параўнальнае мысленне, якое робяць гэтыя лічбавыя тубыльцы.

Акрамя таго, не ўсе згодныя з тым, што ўраджэнцы лічбавых тэхналогій нейкім чынам перабудоўваюцца з пункту гледжання іх разумовых працэсаў адносна свету. Ідэя здаецца дастаткова прыемнай, таму мы можам палічыць, што працэсы чалавечага мыслення па-рознаму адкалібраваны ў выніку сталення ў асяроддзі лічбавых тэхналогій. Некаторыя даследчыкі сцвярджаюць, што хто-то, што рашуча ня лічбавы выхадзец патэнцыйна можа аднолькава супрацьстаяць прыстасавацца, робячы гэта, не абавязкова вырасшы цалкам у лічбавую эру. На гэты конт завязваюцца вострыя спрэчкі.

Пытанне, ці з'яўляецца лічбавы выхадзец аксіяматычным і добрасумленным лічбавым чараўніком, таксама застаецца адкрытым. Іншымі словамі, здагадка часта сведчыць аб тым, што, будучы лічбавым ураджэнцам, існуе абсалютна ўпэўненая адпаведнасць, што чалавек будзе дасведчаны ў выкарыстанні лічбавых тэхналогій і вельмі дасведчаны ў іх выкарыстанні. Гэта можа здацца занадта далёкім мостам на гэтай маркіроўцы. Я ўпэўнены, што мы ўсе сутыкаліся з лічбавымі тубыльцамі, якія не былі на вышыні ў лічбавых шляхах. Абвяшчэнне таго, што хтосьці з'яўляецца лічбавым ураджэнцам, не гарантуе яго лічбавай кемлівасці (да таго ж, мы павінны мець на ўвазе, што не паўсюль у свеце, магчыма, так багата лічбавы доступ і лічбавыя рэсурсы).

Давайце мець на ўвазе гэтыя агаворкі, калі я пераходжу да, скажам так, саюзніцкай тэмы, якая ахоплівае ІІ ураджэнцаў.

Спачатку кароткае рэзюмэ пра лічбавых выхадцаў:

• Лічбавыя ўраджэнцы - гэта прадстаўнікі пакалення, якое вырасла ў лічбавую эпоху
• Кажуць, што яны прыроджана ўспрымаюць лічбавыя тэхналогіі і адчуваюць іх камфортна
• Сцвярджаюць, што іх мысленне лёгка прыстасавана да лічбавага свету
• Іх дзеянні і намаганні ў некаторай ступені фарміруюцца іх лічбавай універсальнасцю
• Лічбавая арыентацыя ўплецена ў іх паўсядзённае існаванне

Я спадзяюся, што мы ўсе можам прыняць гэта як ключавыя прынцыпы на дадзены момант.

Што такое родны штучны інтэлект?

Агульная ідэя заключаецца ў тым, што людзі, якія выраслі з нараджэння ў эпоху штучнага інтэлекту, напрыклад, шырокага выкарыстання штучнага інтэлекту на сваіх смартфонах і ў сетцы, цалкам пагружаныя ў штучны інтэлект і прыроджана жывуць у свеце, заснаваным на штучным інтэлекте. Для іх ІІ - гэта тое, што адбываецца. Веданне і знаходжанне побач з ІІ - гэта першапачаткова меркаваны аспект, і яны асабіста не могуць разглядаць сябе і свет вакол сябе па-іншаму.

У якасці дадатковай заўвагі, вы маглі заўважыць, што я зручна перафармуляваў свой уступны абзац, які вызначае лічбавых ураджэнцаў, каб змяніць яго для адаптацыі ўласнага азначэння AI. Гэта мае вялікі сэнс. Мы скацімся з эры лічбавых тубыльцаў у эру тубыльцаў ІІ, для якой многія звесткі пра лічбавых тубыльцаў могуць быць лёгка адкалібраваны для разгляду тубыльцаў ШІ.

Я прапаную тут узяць у якасці краевугольных камянёў гэтыя пяць прынцыпаў аб ураджэнцах штучнага інтэлекту:

1) Ураджэнцы штучнага інтэлекту - гэта прадстаўнікі пакалення, якое вырасла ў эпоху штучнага інтэлекту

2) Кажуць, што яны прыроджана ўспрымаюць сістэмы штучнага інтэлекту і адчуваюць сябе камфортна

3) Сцвярджаецца, што іх мысленне лёгка прыстасавана да лічбавага свету на аснове штучнага інтэлекту

4) Іх дзеянні і намаганні ў некаторай ступені фарміруюцца іх універсальнасцю штучнага інтэлекту

5) Арыентацыя на штучны інтэлект уплецена ў іх штодзённае існаванне

Вы маглі б распазнаць гэтыя прынцыпы як зноў запазычаныя з набору, прыдуманага пра лічбавых тубыльцаў. Так, гэта здавалася б цалкам дарэчы. Мы можам вывучыць кожны з іх і ў цэлым прадбачыць, што яны, верагодна, прымяняюцца да тубыльцаў ІІ, падобна таму, як яны прымяняюцца да тубыльцаў лічбавых тэхналогій.

Яшчэ адзін кароткі момант. Вам не трэба адмаўляцца ад таго, каб быць ураджэнцам лічбавых тэхналогій, каб стаць ураджэнцам штучнага інтэлекту. У гэтых двух тыпах няма нічога, што прымушае адзін выключаць іншы. Карацей кажучы, вы можаце быць ураджэнцам лічбавых тэхналогій, а таксама быць ураджэнцам штучнага інтэлекту. Хутчэй за ўсё, вы амаль напэўна павінны быць ураджэнцам лічбавых тэхналогій, каб таксама быць ураджэнцам штучнага інтэлекту, неад'емнай часткай пэўнага прамежку часу, які ўзнікае.

Мы павінны дадаць гэтыя карысныя наступствы да гэтай дыскусіі:

• Быць ураджэнцам лічбавых тэхналогій цалкам сумяшчальна з ураджэнцам штучнага інтэлекту
• Увогуле, ураджэнцы штучнага інтэлекту амаль напэўна з'яўляюцца ўраджэнцамі лічбавых тэхналогій
• Ёсць ураджэнцы лічбавых тэхналогій, якія не з'яўляюцца ўраджэнцамі штучнага інтэлекту
• Мы не можам з упэўненасцю сказаць, ці існуюць ураджэнцы штучнага інтэлекту

Апошні пункт у маркіраваным спісе вельмі прыцягвае ўвагу.

Існуюць спрэчкі наконт таго, ці знаходзімся мы ўжо ў роднай эпосе штучнага інтэлекту, ці, магчыма, нам яшчэ трэба будзе дасягнуць гэтага. Дзеці, якія нарадзіліся ў апошнія гады, часам згадваюцца як ураджэнцы ІІ з-за шырокага выкарыстання ІІ. У нас ёсць Siri і Alexa як меркаваныя індыкатары таго, што мы сапраўды знаходзімся ў эпосе штучнага інтэлекту і што дзеці растуць цалкам прызвычаіліся да штучнага інтэлекту вакол сябе.

Хаця можна знайсці шмат аргументаў наконт таго, каб правесці такую ​​лінію на пяску. Некаторыя горача заяўляюць, што мы яшчэ зусім не ў эпоху штучнага інтэлекту. Нам трэба значна больш штучнага інтэлекту, перш чым мы зможам задаволена заявіць, што штучны інтэлект з'явіўся. У дадатак да гэтага пратэсту ёсць некаторыя, якія сцвярджаюць, што мы можам прасачыць зараджэнне ІІ, скажам, у 1950-х і 1960-х гадах, і ў гэтым выпадку пакаленні тых гадоў таксама можна назваць ураджэнцамі ІІ.

Закручвае галаву.

Магчыма, было б разумна сказаць, што мы не будзем лічыць ураджэнцаў штучнага інтэлекту, якія пачынаюцца з самых ранніх дзён вылічэнняў. Адважуся сказаць, што большасць, спадзяюся, пагодзіцца з тым, што нам трэба глядзець на больш сучасныя даты. Верагоднейшым часам пачатку можа быць самае сучаснае пакаленне або, магчыма, наступнае пакаленне ці два. Магчыма, мы не зможам намаляваць стартавую лінію раней, чым праз дзесяць гадоў.

Пакінуўшы ў баку абмежаванне таго, што мы з'яўляемся ўраджэнцам штучнага інтэлекту, мы можам рухацца далей, разважаючы пра наступствы і разгалінаванні выхадцаў з штучнага інтэлекту. Калі ласка, працягвайце гэтыя разважанні і пакіньце дзеля абмеркавання вострыя спрэчкі наконт часу з'яўлення тубыльцаў ІІ.

Якія характарыстыкі або магчымасці валодаюць ураджэнцы ІІ?

У мяне ёсць для вас спіс, які мы можам коратка разгледзець:

• Валодае элементарнай пісьменнасцю AI, што такое AI і як працуе AI
• Лёгка здольны дэмістыфікаваць ІІ
• Не асабліва ўспрымальны да шуміхі ІІ
• Усведамленне пераваг і недахопаў штучнага інтэлекту
• Ахоплівае выкарыстанне штучнага інтэлекту, але з насцярожанасцю і праніклівасцю

Перш чым прыступаць да больш падрабязнай інфармацыі аб дзікіх і шарсцістых меркаваннях, якія ляжаць у аснове штучнага інтэлекту, давайце ўсталюем некаторыя дадатковыя асновы па глыбока інтэгральных тэмах. Нам трэба ненадоўга акунуцца ў этыку штучнага інтэлекту і асабліва ў з'яўленне машыннага навучання (ML) і глыбокага навучання (DL).

Магчыма, вы цьмяна ведаеце, што адзін з самых гучных галасоў у нашы дні ў вобласці ІІ і нават па-за межамі ІІ складаецца ў тым, каб дамагацца большага падабенства этычнага ІІ. Давайце паглядзім, што азначае спасылка на этыку ІІ і этычны ІІ. Акрамя таго, мы вывучым, што я маю на ўвазе, калі кажу пра машыннае навучанне і глыбокае навучанне.

Адзін канкрэтны сегмент або частка этыкі ІІ, які прыцягвае вялікую ўвагу СМІ, складаецца з ІІ, які дэманструе непрыхільныя прадузятасці і няроўнасць. Вы, магчыма, ведаеце, што, калі пачалася апошняя эра ІІ, быў вялікі ўсплёск энтузіязму адносна таго, што некаторыя цяпер называюць ІІ Назаўсёды. На жаль, пасля таго, як хлынула хваляванне, мы сталі сведкамі AI для дрэннага. Напрыклад, было выяўлена, што розныя сістэмы распазнавання асоб на аснове штучнага інтэлекту змяшчаюць расавыя і гендэрныя прадузятасці, якія я абмяркоўваў на спасылка тут.

Намаганні супрацьстаяць AI для дрэннага актыўна вядуцца. Да таго ж крыклівы прававой імкненне стрымаць правапарушэнні, ёсць таксама істотны штуршок да прыняцця этыкі ІІ, каб выправіць подласць ІІ. Паняцце заключаецца ў тым, што мы павінны прыняць і ўхваліць ключавыя этычныя прынцыпы ІІ для распрацоўкі і выкарыстання ІІ, робячы гэта, каб падарваць AI для дрэннага і адначасова абвяшчаючы і прасоўваючы пераважнае ІІ Назаўсёды.

Што тычыцца сумежных паняццяў, то я прыхільнік спробы выкарыстоўваць ІІ як частку вырашэння праблем з ІІ, змагаючыся з агнём агнём такім чынам. Напрыклад, мы можам убудаваць этычныя кампаненты ІІ у сістэму ІІ, якая будзе кантраляваць, як робіць усё астатні ІІ, і, такім чынам, патэнцыйна фіксаваць у рэжыме рэальнага часу любыя дыскрымінацыйныя намаганні, глядзіце маё абмеркаванне на спасылка тут. Мы таксама маглі б мець асобную сістэму штучнага інтэлекту, якая дзейнічае як тып манітора этыкі ІІ. Сістэма ІІ служыць у якасці наглядчыка, каб адсочваць і выяўляць, калі іншы ІІ сыходзіць у неэтычную бездань (гл. мой аналіз такіх магчымасцяў на спасылка тут).

Праз хвіліну я падзялюся з вамі некаторымі агульнымі прынцыпамі, якія ляжаць у аснове этыкі ІІ. Тут і там шмат такіх спісаў. Можна сказаць, што пакуль не існуе адзінага спісу універсальнай прывабнасці і супадзення. Вось такая прыкрая навіна. Добрая навіна заключаецца ў тым, што, прынамсі, ёсць лёгка даступныя спісы этыкі AI, і яны, як правіла, вельмі падобныя. Увогуле, гэта сведчыць аб тым, што з дапамогай свайго роду аргументаванага збліжэння мы знаходзім шлях да агульнай агульнасці таго, з чаго складаецца этыка ІІ.

Спачатку давайце коратка азнаёмімся з некаторымі агульнымі запаветамі этычнага інтэлекту, каб праілюстраваць, што павінна быць важнай увагай для тых, хто стварае, вядзе або выкарыстоўвае ІІ.

Напрыклад, як сцвярджае Ватыкан у ст Рым заклікае да этыкі ІІ і, як я падрабязна разгледзеў спасылка тут, яны вызначылі шэсць асноўных прынцыпаў этыкі ІІ:

• празрыстасць: У прынцыпе, сістэмы ІІ павінны быць вытлумачальнымі
• ўключэнне: Неабходна ўлічваць патрэбы ўсіх людзей, каб кожны мог атрымаць выгаду, а ўсім можна было прапанаваць найлепшыя ўмовы для выяўлення сябе і развіцця
• адказнасць: Тыя, хто распрацоўвае і разгортвае выкарыстанне ІІ, павінны дзейнічаць з адказнасцю і празрыстасцю
• Бесстароннасць: Не стварайце і не дзейнічайце ў адпаведнасці з прадузятасць, тым самым абараняючы справядлівасць і чалавечую годнасць
• надзейнасць: Сістэмы AI павінны быць у стане надзейна працаваць
• Бяспека і канфідэнцыяльнасць: Сістэмы AI павінны працаваць бяспечна і паважаць канфідэнцыяльнасць карыстальнікаў.

Як гаворыцца ў паведамленні міністэрства абароны зша Этычныя прынцыпы выкарыстання штучнага інтэлекту і, як я падрабязна разгледзеў спасылка тут, гэта іх шэсць асноўных прынцыпаў этыкі ІІ:

• Адказны: Персанал Міністэрства абароны будзе праяўляць належны ўзровень меркавання і ўважлівасці, застаючыся адказным за распрацоўку, разгортванне і выкарыстанне магчымасцяў ІІ.
• Справядлівы: Дэпартамент будзе прымаць наўмысныя крокі, каб звесці да мінімуму ненаўмыснае прадузятасць у магчымасцях ІІ.
• Адсочваецца: Магчымасці Дэпартамента AI будуць развівацца і разгортвацца такім чынам, каб адпаведны персанал валодаў належным разуменнем тэхналогій, працэсаў распрацоўкі і аперацыйных метадаў, якія прымяняюцца да магчымасцяў AI, уключаючы празрыстыя і паддаюцца праверку метадалогіі, крыніцы даных, а таксама працэдуру праектавання і дакументацыю.
• надзейнасць: Магчымасці ІІ Дэпартамента будуць мець дакладнае, дакладна вызначанае выкарыстанне, а бяспека, бяспека і эфектыўнасць такіх магчымасцяў будуць падлягаць тэсціраванню і запэўненню ў рамках гэтых вызначаных відаў выкарыстання на працягу ўсяго іх жыццёвага цыклу.
• Кіруемы: Дэпартамент будзе распрацоўваць і распрацоўваць магчымасці штучнага інтэлекту для выканання іх прызначаных функцый, пры гэтым валодаючы здольнасцю выяўляць і пазбягаць непрадбачаных наступстваў, а таксама здольнасцю адключаць або дэактываваць разгорнутыя сістэмы, якія дэманструюць ненаўмыснае паводзіны.

Я таксама абмеркаваў розныя калектыўныя аналізы этычных прынцыпаў ІІ, у тым ліку ахарактарызаваў набор, распрацаваны даследчыкамі, якія даследавалі і сціснулі сутнасць шматлікіх нацыянальных і міжнародных этычных прынцыпаў ІІ у артыкуле пад назвай «Глабальны ландшафт этычных прынцыпаў ІІ» (апублікаваны у Прырода), і што маё асвятленне даследуе на спасылка тут, што прывяло да гэтага спісу ключавых каменяў:

• Празрыстасць
• Справядлівасць і справядлівасць
• Не-злачынства
• адказнасць
• недатыкальнасць прыватнага жыцця
• Дабразычлівасць
• Свабода і аўтаномія
• давер
• ўстойлівасць
• пачуццё ўласнай годнасці
• Салідарнасць

Як вы маглі здагадацца, спрабаваць вызначыць асаблівасці, якія ляжаць у аснове гэтых прынцыпаў, можа быць вельмі цяжка зрабіць. Больш за тое, спробы ператварыць гэтыя шырокія прынцыпы ў нешта цалкам матэрыяльнае і дастаткова дэталёвае, каб іх можна было выкарыстоўваць пры стварэнні сістэм ІІ, таксама цяжкі арэх. У цэлым лёгка памахаць рукой аб тым, што такое запаведзі этыкі ІІ і як іх варта выконваць, у той час як значна больш складаная сітуацыя ў кадаванні ІІ, калі трэба быць сапраўднай гумай, якая сустракае дарогу.

Прынцыпы этыкі штучнага інтэлекту павінны выкарыстоўвацца распрацоўшчыкамі ІІ, а таксама тымі, хто кіруе намаганнямі па распрацоўцы ІІ, і нават тымі, якія ў канчатковым рахунку займаюцца і абслугоўваюць сістэмы ІІ. Усе зацікаўленыя бакі на працягу ўсяго жыццёвага цыклу распрацоўкі і выкарыстання ІІ разглядаюцца ў рамках выканання ўстаноўленых нормаў этычнага ІІ. Гэта важны момант, паколькі звычайная здагадка заключаецца ў тым, што «толькі кадэры» або тыя, хто праграмуе ІІ, падпарадкоўваюцца паняццям этыкі ІІ. Як гаварылася раней, для распрацоўкі і выкарыстання штучнага інтэлекту патрабуецца вёска, і для гэтага ўся вёска павінна быць дасведчанай і прытрымлівацца этычных правілаў ІІ.

Давайце таксама пераканаемся, што мы знаходзімся на адной старонцы адносна прыроды сённяшняга ІІ.

Сёння няма ніводнага ІІ, які быў бы разумным. У нас гэтага няма. Мы не ведаем, ці будзе магчымы разумны ІІ. Ніхто не можа дакладна прадказаць, ці дасягнем мы разумнага ІІ і ці неяк цудам спантанна паўстане разумны ІІ у форме вылічальнай кагнітыўнай звышновай (звычайна яе называюць сінгулярнасцю, глядзіце маё асвятленне на спасылка тут).

Тып ІІ, на які я засяроджваюся, складаецца з неразумнага ІІ, які мы маем сёння. Калі б мы хацелі дзіка разважаць пра пачуццёвы ІІ, гэтая дыскусія можа пайсці ў кардынальна іншым кірунку. Разумны ІІ нібыта быў бы чалавечага якасці. Вам трэба будзе ўлічваць, што разумны ІІ з'яўляецца кагнітыўным эквівалентам чалавека. Больш за тое, паколькі некаторыя мяркуюць, што мы можам мець звышінтэлектуальны ІІ, можна ўявіць, што такі ІІ можа апынуцца разумнейшым за людзей (для майго даследавання звышінтэлектуальнага ІІ як магчымасці гл. асвятленне тут).

Давайце больш прыземлены і разгледзім сучасны вылічальны неразумны ІІ.

Зразумейце, што сучасны ІІ не здольны «думаць» ні ў якім разе нароўні з чалавечым мысленнем. Калі вы ўзаемадзейнічаеце з Alexa або Siri, размоўныя здольнасці могуць здацца падобнымі да чалавечых, але рэальнасць такая, што гэта вылічальнае і недастатковае чалавечае пазнанне. Апошняя эра штучнага інтэлекту шырока выкарыстоўвала машыннае навучанне (ML) і глыбокае навучанне (DL), якія выкарыстоўваюць вылічальнае ўзгадненне шаблонаў. Гэта прывяло да сістэм ІІ, якія маюць выгляд чалавекападобных схільнасцей. Між тым, сёння няма ніводнага ІІ, які меў бы падабенства здаровага сэнсу і не меў бы ніводнага кагнітыўнага здзіўлення надзейнага чалавечага мыслення.

ML/DL з'яўляецца адной з формаў вылічэння шаблону адпаведнасці. Звычайны падыход заключаецца ў тым, што вы збіраеце дадзеныя аб задачы прыняцця рашэння. Вы падаеце дадзеныя ў камп'ютэрныя мадэлі ML/DL. Гэтыя мадэлі імкнуцца знайсці матэматычныя заканамернасці. Калі такія шаблоны знойдзены, сістэма ІІ будзе выкарыстоўваць гэтыя шаблоны пры сустрэчы з новымі дадзенымі. Пры прадстаўленні новых дадзеных шаблоны, заснаваныя на «старых» або гістарычных дадзеных, прымяняюцца для прыняцця бягучага рашэння.

Я думаю, вы можаце здагадацца, куды гэта вядзе. Калі людзі, якія прымалі рашэнні па ўзорах, уключалі ў сябе непрыхільныя прадузятасці, верагоднасць таго, што дадзеныя адлюстроўваюць гэта тонкім, але істотным чынам. Машынае навучанне або Deep Learning вылічальнае ўзгадненне шаблонаў проста паспрабуе матэматычна імітаваць дадзеныя адпаведна. Там няма падабенства здаровага сэнсу або іншых разумных аспектаў мадэлявання, створанага AI, як такога.

Акрамя таго, распрацоўшчыкі ІІ могуць таксама не разумець, што адбываецца. Таямнічая матэматыка ў ML/DL можа абцяжарыць выяўленне схаваных цяпер ухілаў. Вы па праве спадзявацца і чакаць, што распрацоўшчыкі ІІ правядуць праверку на патэнцыйна схаваныя прадузятасці, хоць гэта больш складана, чым можа здацца. Існуе вялікая верагоднасць таго, што нават пры адносна шырокім тэсціраванні ў мадэлях супастаўлення шаблонаў ML/DL ўсё яшчэ будуць уключаны прадузятасці.

Вы можаце выкарыстоўваць вядомае ці сумнавядомую прымаўку: смецце - у смецце - выходзіць. Справа ў тым, што гэта больш падобна на прадузятасці, якія падступна ўліваюцца, калі прадузятасці пагружаюцца ў ШІ. Алгарытм прыняцця рашэнняў (ADM) ІІ аксіяматычна нагружаецца няроўнасцямі.

Не добра.

Давайце цяпер вернемся да тэмы выхадцаў са штучным інтэлектам.

Нагадаем, што раней я прадставіў зручны спіс важных момантаў аб ураджэнцах штучнага інтэлекту:

• Валодае элементарнай пісьменнасцю AI, што такое AI і як працуе AI
• Лёгка здольны дэмістыфікаваць ІІ
• Не асабліва ўспрымальны да шуміхі ІІ
• Усведамленне пераваг і недахопаў штучнага інтэлекту
• Ахоплівае выкарыстанне штучнага інтэлекту, але з насцярожанасцю і праніклівасцю

Мы можам коратка разгледзець кожны з асноўных аспектаў, у якіх, як мяркуецца, будуць разбірацца выхадцы з штучнага інтэлекту. Ім давядзецца ў некаторай ступені даведацца пра штучны інтэлект падчас школьных заняткаў, пакуль растуць. Курсы па ўсёй вучэбнай праграме будуць закранаць розныя элементы штучнага інтэлекту. Каб удакладніць, гэта не азначае, што яны абавязкова будуць сканцэнтраваны непасрэдна на ІІ на працягу ўсяго курсу. Ідэя заключаецца ў тым, што, паколькі штучны інтэлект будзе ўзнікаць ва ўсіх сферах навуковай дзейнасці, такіх як штучны інтэлект у літаратуры, штучны інтэлект у навуцы, штучны інтэлект у матэматыцы і г.д., яны звычайна будуць мець пастаяннае і перыядычнае ўздзеянне прынцыпаў штучнага інтэлекту.

Акрамя таго, выхадцы з ІІ будуць акружаны ІІ у тым ці іншым выглядзе. Яны будуць узаемадзейнічаць з Alexa і Siri. Яны будуць выкарыстоўваць на сваіх смартфонах прыкладанні на базе AI. Яны пойдуць працаваць у кампаніі, якія выкарыстоўваюць штучны інтэлект для пастаўкі тавараў і паслуг. У той час як пакаленні да гэтага шырокага распаўсюджвання штучнага інтэлекту маглі быць здзіўлены або здзіўлены такім выкарыстаннем штучнага інтэлекту, ураджэнцы штучнага інтэлекту ставяцца да гэтага спакойна.

Цяпер мы гатовыя разгледзець кожны з ключавых момантаў, звязаных з ураджэнцамі штучнага інтэлекту.

Валодае элементарнай пісьменнасцю AI, што такое AI і як працуе AI

Ураджэнцы штучнага інтэлекту знаёмыя з асновамі штучнага інтэлекту. Яны разумеюць, што штучны інтэлект складаецца з розных камп'ютэрных магчымасцей. Падчас шматгадовага перыяду выкарыстання штучнага інтэлекту яны шляхам осмасу даведаліся аб апрацоўцы натуральнай мовы (NLP) і яе абмежаваннях. Яны прывыклі да таго, з чаго складаюцца машыннае навучанне і глыбокае навучанне. Яны добра дасведчаныя аб асновах штучнага інтэлекту, такіх як супастаўленне вылічальных шаблонаў і метады вылічальнага пошуку. Яны таксама разумеюць, што мы яшчэ не здольныя актыўна разважаць здаровага сэнсу ў штучным інтэлекте на ўзроўні чалавечых здольнасцей, глядзіце маю дыскусію на гэты конт спасылка тут.

Гэта асноўныя элементы пісьменнасці штучнага інтэлекту адносна метадаў і тэхналогій штучнага інтэлекту. Аднак гэта не адзіная сфера штучнага інтэлекту, з якой пазнаёмяцца ўраджэнцы штучнага інтэлекту. Яны таксама будуць памятаць пра тое, як штучны інтэлект паўплывае на грамадства. Разуменне, скажам так, «мяккіх» бакоў штучнага інтэлекту будзе мець такое ж важнае значэнне для іх, як і «жорсткі» бок, звязаны з тэхналогіямі штучнага інтэлекту. Гэта ўключае ў сябе веданне прынцыпаў этыкі штучнага інтэлекту, сфармуляваных тут раней.

Лёгка здольны дэмістыфікаваць ІІ

Сёння шмат ілжывых сцвярджэнняў аб тым, што можа зрабіць ІІ. Часам загалоўкі гавораць, што штучны інтэлект здольны думаць або што мы знаходзімся на парозе звышінтэлекту. Ураджэнцы штучнага інтэлекту не патрапяць на гэтую дурніцу. Яны будуць кпіць і высмейваць такія дзікія і неабгрунтаваныя заявы.

Гэта ўсведамленне ІІ дазваляе выхадцам з ІІ дэмістыфікаваць ІІ. Незразумела, ці пакладзе гэтая магчымасць канец гіпербалам аб ІІ. Верагоднасць таго, што ўсё яшчэ будуць спробы шакаваць і выклікаць жах перабольшаннямі адносна штучнага інтэлекту ў самых бессаромна абуральных выразах.

Не асабліва ўспрымальны да шуміхі ІІ

Як і здольнасць ураджэнцаў штучнага інтэлекту дэмістыфікаваць штучны інтэлект, яны будуць значна менш успрымальныя да ажыятажнага шуму. У той час як іншыя могуць быць уцягнуты ў ілжывыя сцвярджэнні аб штучным інтэлекте, ураджэнцы штучнага інтэлекту будуць насцярожана глядзець.

Гэта не робіць іх застрахаванымі ад негабарытных патрабаванняў штучнага інтэлекту. Яны ўзброеныя дастатковым разуменнем штучнага інтэлекту, каб аддзяліць зерне ад мякіны, калі справа даходзіць да істэрыі штучнага інтэлекту, але заўсёды ёсць шанец нацягнуць нават вочы на ​​вочы.

Усведамленне пераваг і недахопаў штучнага інтэлекту

Асабліва важным кампанентам ураджэнцаў штучнага інтэлекту будзе іх амаль прыроджаная (засвоеная з малых гадоў) здольнасць ацэньваць, калі штучны інтэлект карысны, а калі выкарыстоўваецца негатыўна. Яны выберуць выкарыстоўваць прыкладанні AI на працягу навучальных гадоў.

Як толькі яны прыйдуць на працу, яны змогуць дапамагаць кампаніям, якія ўкараняюць штучны інтэлект. Яны прыносяць цвярозае і карыснае разуменне таго, дзе ІІ можа пайсці правільна, а дзе - не так. Гэта рэзка падштурхне выкарыстанне штучнага інтэлекту ў камерцыі і яшчэ больш пашырыць прыняцце штучнага інтэлекту.

Ахоплівае выкарыстанне штучнага інтэлекту, але з насцярожанасцю і праніклівасцю

Некаторыя эксперты задаюцца пытаннем, ці будуць ураджэнцы штучнага інтэлекту адкрытымі прыхільнікамі штучнага інтэлекту, ці яны могуць быць праціўнікамі штучнага інтэлекту. Глядзіце маё асвятленне актыўнасці штучнага інтэлекту на спасылка тут. Адказ крыху больш неадназначны. У цэлым, ураджэнцы штучнага інтэлекту будуць імкнуцца прыняць і выкарыстоўваць штучны інтэлект, але рабіць гэта ўраўнаважана і асцярожна. Цяжка сказаць, ці будуць яны катэгарычна за або не за AI.

Вядома, можна чакаць, што частка тубыльцаў ІІ павернецца ў той ці іншы бок. Тыя, хто прынцыпова нейтральна ставіцца да штучнага інтэлекту, верагодна, будуць апорай. Між тым, можна з упэўненасцю чакаць, што адны стануць адкрытымі прыхільнікамі штучнага інтэлекту, а іншыя будуць такімі ж моцнымі праціўнікамі штучнага інтэлекту.

Ураджэнцы штучнага інтэлекту і з'яўленне аўтаномных сістэм

На гэтым этапе гэтай важкай дыскусіі, я б паспрачаўся, што вы жадаеце некаторых ілюстратыўных прыкладаў, якія маглі б прадэманстраваць гэтую тэму. Ёсць асаблівы і, безумоўна, папулярны набор прыкладаў, якія блізкія мне. Вы бачыце, у якасці эксперта па ІІ, уключаючы этычныя і прававыя наступствы, мяне часта просяць вызначыць рэалістычныя прыклады, якія дэманструюць дылемы этыкі ІІ, каб можна было лягчэй зразумець тэарэтычны характар ​​тэмы. Адна з самых цікавых абласцей, якая яскрава прадстаўляе гэтую этычную праблему ІІ, - гэта з'яўленне сапраўдных самакіраваных аўтамабіляў на аснове ІІ. Гэта паслужыць зручным варыянтам выкарыстання або прыкладам для шырокага абмеркавання гэтай тэмы.

Вось тады вартае ўвагі пытанне, якое варта паразважаць: Ці паказвае з'яўленне сапраўдных беспілотных аўтамабіляў на аснове штучнага інтэлекту што-небудзь пра выхадцаў з штучным інтэлектам, і калі так, то што гэта дэманструе?

Дазвольце мне крыху разабрацца з пытаннем.

Па-першае, звярніце ўвагу, што ў сапраўдным самакіраваным аўтамабілі няма чалавека-кіроўцы. Майце на ўвазе, што сапраўдныя аўтамабілі кіруюцца праз сістэму кіравання AI. За рулём не патрэбны кіроўца-чалавек, а таксама не прадугледжана, каб чалавек кіраваў транспартным сродкам. Для майго шырокага і пастаяннага ахопу аўтаномных транспартных сродкаў (АВ) і асабліва аўтамабіляў гл. спасылка тут.

Я хацеў бы дадаткова ўдакладніць, што маецца на ўвазе, калі я маю на ўвазе сапраўдныя аўтамабілі.

Разуменне ўзроўню самакіравання аўтамабіляў

У якасці ўдакладнення, сапраўдныя аўтамабілі з самакіраваннем - гэта тыя, дзе ІІ кіруе аўтамабілем цалкам самастойна, і падчас задачы за рулём няма ніякай дапамогі чалавека.

Гэтыя аўтамабілі без кіроўцы лічацца ўзроўнямі 4 і 5 (гл. маё тлумачэнне на гэтая спасылка тут), у той час як аўтамабіль, які патрабуе, каб вадзіцель-чалавек сумесна падзяляў намаганні за рулём, звычайна разглядаецца на ўзроўні 2 або ўзроўню 3. Аўтамабілі, якія сумесна выконваюць задачы кіравання, апісваюцца як паўаўтаномныя і звычайна ўтрымліваюць розныя аўтаматызаваныя дапаўненні, якія называюць ADAS (Advanced Driver-Asistance Systems).

Сапраўднага самакіравання на 5-м узроўні пакуль няма, і мы яшчэ нават не ведаем, ці атрымаецца гэтага дасягнуць, і колькі часу спатрэбіцца, каб дабрацца да яго.

Між тым намаганні 4-га ўзроўню паступова спрабуюць атрымаць некаторую цягу, праходзячы вельмі вузкія і выбарачныя выпрабаванні на дарозе, хоць існуюць спрэчкі наконт таго, ці варта дапускаць гэтае тэставанне як такое (усе мы - марскія свінкі на жыццё або смерць у эксперыменце якія адбываюцца на нашых шашэйных і праезных дарогах, некаторыя сцвярджаюць, глядзіце мой рэпартаж на гэтая спасылка тут).

Паколькі паўаўтамабільныя машыны патрабуюць чалавека-вадзіцеля, прыняцце такіх тыпаў аўтамабіляў не будзе прыкметна адрознівацца ад кіравання звычайнымі транспартнымі сродкамі, таму няма нічога новага, каб асвятляць іх на гэтай тэме (праўда, як вы ўбачыце у адно імгненне, наступныя пункты, як правіла, дастасавальныя).

Для паўаўтамабільных машын вельмі важна, каб грамадскасць папярэджвала аб трывожным аспекце, які ўзнікае ў апошні час, а менавіта тым, што, нягледзячы на ​​тых людзей, якія кіроўцы размяшчаюць, засынаюць за рулём аўтамабіля 2-га або 3-га ўзроўню. Усім нам трэба пазбягаць увядзення ў зман веры ў тое, што вадзіцель можа адабраць іх увагу ад кіравання задачай падчас кіравання паўаўтамабільным аўтамабілем.

Вы нясеце адказнасць за кіраванне транспартным сродкам, незалежна ад таго, якая аўтаматызацыя можа быць перакінута на ўзровень 2 або 3.

Аўтамабілі і штучны інтэлект

Для сапраўднага самакіравання аўтамабіляў узроўню 4 і ўзроўню 5 не будзе ўдзельнічаць у кіраванні аўтамабілем чалавека.

Усе пасажыры будуць пасажырамі.

AI робіць кіраванне.

Адзін з аспектаў, які трэба неадкладна абмеркаваць, цягне за сабой той факт, што ШІ, які ўдзельнічае ў сучасных сістэмах кіравання ШІ, не з'яўляецца разумным. Іншымі словамі, ШІ ў цэлым з'яўляецца сукупнасцю камп'ютэрнага праграмавання і алгарытмаў, і, напэўна, не ў стане разважаць гэтак жа, як і людзі.

Чаму гэты дадатковы акцэнт на AI не з'яўляецца разумным?

Таму што я хачу падкрэсліць, што, абмяркоўваючы ролю сістэмы кіравання ІІ, я не прыпісваю чалавечым якасцям ІІ. Звярніце ўвагу, што ў нашы дні існуе пастаянная і небяспечная тэндэнцыя да антрапамарфізацыі ІІ. Па сутнасці, людзі прызначаюць чалавечаму разуменню сённяшні ШІ, нягледзячы на ​​бясспрэчны і бясспрэчны факт, што такога ШІ пакуль няма.

З гэтым удакладненнем вы можаце сабе ўявіць, што сістэма кіравання аўтамабілем AI ніяк не можа "ведаць" пра грані кіравання. Ваджэнне і ўсё, што з гэтым звязана, трэба будзе запраграмаваць як частка апаратнага і праграмнага забеспячэння самакіравальнага аўтамабіля.

Давайце акунемся ў мноства аспектаў, якія ўзнікаюць у гэтай тэме.

Па-першае, важна ўсведамляць, што не ўсе аўтамабілі з ІІ аднолькавыя. Кожны вытворца аўтамабіляў і тэхналагічная фірма, якая займаецца самакіраваннем, прытрымліваецца свайго падыходу да распрацоўкі самакіраваных аўтамабіляў. Такім чынам, цяжка рабіць разгорнутыя заявы аб тым, што будуць рабіць або не рабіць сістэмы кіравання AI.

Акрамя таго, кожны раз, калі заяўляецца, што сістэма кіравання штучным інтэлектам не робіць якой -небудзь канкрэтнай справы, пазней гэта могуць абагнаць распрацоўшчыкі, якія фактычна запраграмавалі кампутар на такую ​​ж працу. Крок за крокам сістэмы кіравання AI штучна паступова ўдасканальваюцца і пашыраюцца. Існуючае сёння абмежаванне можа больш не існаваць у будучай ітэрацыі або версіі сістэмы.

Я спадзяюся, што гэта дае дастатковую колькасць папярэджанняў, якія ляжаць у аснове таго, што я збіраюся расказаць.

Давайце суадносім з'яўленне ўраджэнцаў ІІ адпаведна з з'яўленнем аўтаномных транспартных сродкаў і беспілотных аўтамабіляў, указваючы на ​​верагодную неабмежаваную гатоўнасць ураджэнцаў ІІ выкарыстоўваць гэтыя новыя формы аўтаномнага транспарту. Да таго часу, калі штучны інтэлект стане рэччу, верагоднасць таго, што беспілотныя аўтамабілі, беспілотныя грузавікі, беспілотныя матацыклы і мноства іншых беспілотных транспартных сродкаў будуць у багацці на нашых грамадскіх дарогах, а таксама ў той натуральны камбінаторны сэнс.

Тыя, хто з'явіўся раней, чым ураджэнцы штучнага інтэлекту, схільныя са здзіўленнем глядзець на тое, што ў аўтаномным аўтамабілі няма чалавека, які сядзіць на сядзенні кіроўцы. Наадварот, ураджэнцы ІІ мала задумваюцца і не звяртаюць увагі на тое, што за рулём не чалавек. Гэта будзе настолькі звычайным і звычайным, што не варта асаблівай увагі ўраджэнцаў ІІ.

Вось паварот, над якім вы, магчыма, захочаце паразважаць.

Ураджэнцы штучнага інтэлекту ў рэшце рэшт дасягнуць узросту, калі яны будуць нараджаць дзяцей. Гэтыя дзеці, несумненна, будуць падарожнічаць з мясцовымі «бацькамі» ІІ на беспілотных аўтамабілях. Узровень камфорту пры выкарыстанні беспілотных аўтамабіляў абавязкова будзе такім, што родныя бацькоўскія фігуры са штучным інтэлектам будуць у парадку, калі іх дзеці будуць карыстацца беспілотнымі аўтамабілямі ў адзіночку, нават калі дарослых няма.

Я абмяркоўваў у сваіх калонках, наколькі цяжкім можа быць выбар для тых, хто не з'яўляецца ўраджэнцам штучнага інтэлекту. Іншымі словамі, ці дазволілі б вы свайму дзіцяці падарожнічаць на самакіравальнай машыне і рабіць гэта без дарослага ў аўтаномным аўтамабілі з дзіцем? Ваша першая думка, хутчэй за ўсё, будзе, што, чорт вазьмі, вы не дазволіце гэтаму здарыцца. Здаецца, вар'яцтва. Маё падрабязнае тлумачэнне таго, чаму гэта можа лічыцца новай нормай у эпоху тубыльцаў ІІ, гл спасылка тут.

Усё гэта не азначае, што ўраджэнцы штучнага інтэлекту будуць слепа прымаць з'яўленне беспілотных аўтамабіляў.

Ураджэнцы AI будуць ведаць аб абмежаваннях сістэм кіравання AI. Гэта зробіць іх занадта асцярожнымі ў іншых адносінах да беспілотных аўтамабіляў. Яны таксама будуць справядліва занепакоеныя ўварваннямі аўтаномных транспартных сродкаў у кібербяспеку. Існуе таксама ўсведамленне таго, што нацыянальная дзяржава або іншы зламысны суб'ект можа паспрабаваць захапіць парк беспілотных аўтамабіляў, глядзіце мой матэрыял на спасылка тут.

заключэнне

Пакаленне лічбавых ураджэнцаў паступова саступіць месца наступным пакаленням ураджэнцаў штучнага інтэлекту.

Калі вы не верыце, што такое паняцце, як ураджэнцы лічбавых тэхналогій, можа сведчыць аб тым, што вы, верагодна, таксама цьмяна ставіцеся да магчымасці ўраджэнцаў штучнага інтэлекту. Гэта нармальна. Можа быць, шум наконт таго, што вы з'яўляецеся ўраджэнцам лічбавых тэхналогій або ўраджэнцам штучнага інтэлекту, - гэта проста цукерка для вачэй і не больш за тое.

З улікам сказанага, шмат увагі і інтэнсіўнае даследаванне было прысвечана аналізу і спробам разабрацца з лічбавымі тубыльцамі, мяркуючы, што там ёсць што знайсці. Такі ж аналіз, несумненна, будзе перанесены ў бок назірання за выхадцамі з штучнага інтэлекту.

Адзін з аспектаў, з якім мы, магчыма, можам пагадзіцца, заключаецца ў тым, што тыя, хто расце сярод багатага штучнага інтэлекту, спадзяюся, будуць мець нейкае падабенства разумення ІІ. Мы можам не называць іх ураджэнцамі штучнага інтэлекту. Мы можам проста сказаць, што выпадкова яны жывыя і існуюць у эпоху штучнага інтэлекту, які значна павялічыў магчымасці і папулярнасць.

Куды забяруць чалавецтва тыя, хто цалкам пагружаны ў свет штучнага інтэлекту?

Генерал Джордж Патан прамовіў рэзкую дэкларацыю пра лідэрства: «Вядзі мяне, ідзі за мной або сыдзі з майго шляху». Мы можам энергічна разважаць, якім шляхам збіраюцца ісці тыя выхадцы са штучным інтэлектам. Будучыня будзе вызначацца гэтымі тубыльцамі штучнага інтэлекту, нават калі мы не будзем называць іх пад такім псеўданімам.

Ай родныя, пытаемся пачціва, куды вы нас павязеце?