Этыка ІІ і заблытаная грамадская і юрыдычная роля актыўнасці ІІ, у тым ліку ў выпадку аўтаномных самакіраваных аўтамабіляў

ІІ актыўнасць.

Так, ёсць такое.

Маё фармальнае вызначэнне такое:

• ІІ актыўнасць складаецца з намаганняў па спробе сфарміраваць бягучыя і будучыя кірункі штучнага інтэлекту з дапамогай сацыяльных, эканамічных, палітычных і іншых сродкаў.

Некаторыя могуць аддаць перавагу пазначаць гэта як ІІ прапаганда, хоць я ў цэлым не згодны з выкарыстаннем гэтай альтэрнатыўнай фармулёўкі ў гэтым узмоцненым кантэксце. Вось чаму. Разумееце, маё нефармальнае вызначэнне заключаецца ў тым, што актыўнасць у галіне штучнага інтэлекту альбо імкнецца спрыяць з'яўленню і прыняццю ІІ or мае тэндэнцыю да альтэрнатыўнага і выразна непрыхільнасці або супраць ІІ.

Гэта адназначна гандлёвая здзелка два на аднаго.

Зыходзячы з майго нефармальнага ўказання, я мяркую, што ёсць дзве асноўныя актывістскія пункты гледжання, а менавіта тыя, якія хочуць ІІ, і тыя, якія не жадаюць ІІ. Такім чынам, калі вы замест гэтага называеце гэты кідок «прапагандай ІІ», мне здаецца, што гэта зусім не так. Большасць людзей, натуральна, выказалі б здагадку, што адвакат - гэта той, хто выключна выступае або выступае ў падтрымку чагосьці. Безумоўна, не ўсе абавязкова падтрымліваюць ІІ.

Давайце, такім чынам, ісці з ІІ актыўнасць у якасці адпаведнага ўсеагульнага прозвішча і адмоўцеся ад прапагандысцкай фармулёўкі ІІ як патэнцыйна эквівалентнай прыдумкі.

Цяпер, мяркуючы па ўсім, мы маглі б назваць актывіста ІІ Прыхільнікі як прыхільнікі штучнага інтэлекту, хоць гэта можа стварыць некаторую блытаніну з вялікай колькасцю магчымасцяў найменняў, якія плаваюць вакол. Магчыма, нам спатрэбіцца быць справядлівымі і дадаць да нашых крылатых фраз фразы альбо праціўнікаў ІІ, альбо пратэстуючых.

Калі хочаце, мы можам пагадзіцца з гэтай наменклатурай:

• Прыхільнікі ІІ з'яўляюцца актывістамі ІІ, якія заўзята падтрымліваюць бягучы і будучы кірунак ІІ з дапамогай сацыяльных, эканамічных, палітычных і іншых сродкаў.
• ІІ праціўнікі з'яўляюцца актывістамі ІІ, якія адкрыта непрыхільна ставяцца да ІІ і робяць гэта з дапамогай сацыяльных, эканамічных, палітычных і іншых сродкаў.

Спадзяюся, што гэта здаецца досыць лёгкім, каб трымаць прама.

Але ёсць некалькі дадатковых паваротаў, прабачце. Я павінен адразу даць некаторыя тлумачэнні адносна паняцця, што ёсць толькі два шляхі. Вядома, па вялікім рахунку, два лагеры. У вас ёсць сегмент, які занепакоены або занепакоены ІІ і хоча, каб ІІ быў спынены, ці, па меншай меры, запаволілі нашы поспехі ў ІІ. Ідэя заключаецца ў тым, што сёння мы выкарыстоўваем занадта рызыкоўны падыход да ІІ. Трэба падумаць, перш чым нырнуць з галавой у вадапой, як бы.

Некаторыя прытрымліваюцца зусім іншай пункту гледжання і ўсклікаюць, што мы павінны зараджацца на поўнай хуткасці на ІІ. Настаўленне заключаецца ў тым, што поспехі ў галіне штучнага інтэлекту дасягаюць вялікіх поспехаў, і мы не павінны рабіць паглыблення ў гэтым прагрэсе. ШІ забяспечыць нашае дабрабыт як людзей, і чым раней мы да гэтага прыйдзем, тым лепш нам будзе. Непрыстойныя перашкоды, якія затрымліваюць лепшы свет.

Усё гэта мае даволі важныя наступствы Этыкі ІІ і Этычнага ШІ. Маё пастаяннае і шырокае асвятленне этыкі ІІ і этычнага ІІ гл спасылка тут і спасылка тут, Проста назваць некалькі.

Я разумею, што некаторыя з вас могуць адчуваць сябе так ня акуратна ўпісваюцца ў любы з двух лагераў. Часам, магчыма, вы прыхільнік ІІ. Сістэма AI змагла апрацаваць ваш запыт на іпатэчны крэдыт за некалькі секунд, што дало вам зялёнае святло на куплю таго чароўнага дома, які вы шукалі, і ў выніку вы былі па-чартоўску задаволеныя лёгкасцю выкарыстання такой высокай -Tech прыкладанне на аснове AI. Праз некалькі дзён вы падалі заяўку на новую працу, і праграма для праверкі кадраў на аснове штучнага інтэлекту выбіла вас з працы. Вы на дадзены момант ператвораны ў праціўніка ІІ.

Сутнасць у тым, што можа быць цяжка або памылкова пазначыць кагосьці, як заўсёды, і толькі члена аднаго або іншага лагера. Вы можаце слізгаць наперад і назад паміж тым, каб быць прыхільнікам ІІ або быць замест яго праціўнікам. Давайце прызнаем гэтую цякучасць.

З іншага боку, калі вы сустракаеце якіх-небудзь галасістых актывістаў ІІ, хутчэй за ўсё, яны сапраўды знаходзяцца ў адным або іншым лагеры. Гэтыя яркія актывісты штучнага інтэлекту паставілі сцяг з аднаго боку гэтай барацьбы. Яны ўсе ў. Яны аддана гарачыя. Тыя, хто з'яўляецца прыхільнікамі ІІ, здавалася б, будуць падбадзёрваць дахаў аб перавагах наяўнасці ІІ. Тыя, хто з'яўляецца праціўнікамі ІІ, будуць крычаць і змрочна папярэджваць аб недахопах ІІ, пакуль каровы не прыйдуць дадому.

Вы можаце быць здзіўлены, калі даведаецеся, што я не збіраюся ў межах гэтай дыскусіі выбіраць адзін бок над іншым. Я магу. Гэта было б лёгка зрабіць. Я хачу замест гэтага паспрабаваць заставацца на роўным кілі і даць абодвум бакам разумны і збалансаваны вобраз, калі гэта магчыма.

Пры гэтым прызнанні я хачу таксама сказаць, што ёсць прынамсі два варыянты актывістаў ІІ:

• Мяккія AI-актывісты якія сур'ёзныя, але вымераныя ў іх актыўнасці ІІ
• Экстрэмальныя AI-актывісты якія пераўзыходзяць у сваёй актыўнасці ІІ

Я падкрэсліваю гэтую ступень актыўнасці ІІ, каб падкрэсліць, што вы можаце пагаршацца, калі сутыкнуліся з тымі актывістамі ІІ, якія знаходзяцца ў крайніх дыяпазонах. Нават калі вы можаце быць на мяжы згоды з абранай імі паставай, экстрэмізм можа прымусіць вас адысці ад гэтай канкрэтнай пазіцыі або пункту гледжання. Вы вырашаеце рэагаваць негатыўна, магчыма, цалкам адкідаючы бок актыўнасці ІІ.

Экстрэмальныя актывісты штучнага інтэлекту схільныя выказаць здагадку, што ім трэба ўжыць крайнія меры або выказаць сваю справу экстрэмальным спосабам, каб скараціць беспарадак. Калі вы горача і горача верыце, што штучны інтэлект уяўляе небяспеку для ўсіх нас, вам здаецца прыдатным зрабіць усё магчымае, каб абудзіць насельніцтва адпаведна. Між тым, калі вы горача і горача верыце ў тое, што ІІ, па сутнасці, выратуе нас, здаецца прыдатным зрабіць усё магчымае, каб падштурхнуць насельніцтва да адпаведнай падтрымкі ІІ.

Таксама ўзнікае эфект ураўнаважвання росту. Дазвольце растлумачыць. Экстрэмальныя прыхільнікі штучнага інтэлекту маглі б сказаць, што адчулі намаганні праціўнікаў ІІ, якія, здавалася б, дзейнічаюць экстрэмальна. Гэта падштурхоўвае прыхільнікаў штучнага інтэлекту падштурхоўваць свой экстрэмізм. У сваю чаргу, кожны бок працягвае падсілкоўваць іншую. Нельга асабліва прышпіліць палец, з якога боку пачалася эскалацыя. Усё, што вы ведаеце, гэта тое, што кожны бок спрабуе перасягнуць іншы. Аснова заключаецца ў тым, што калі яны гэтага не зробяць, іх бок згубіцца ў пыле. Гэта бясконцы цыкл, у якім нарастае экстрэмізм з-за канкурэнтаздольнай плыні.

Добра, у нас адбываецца даволі змешванне.

Ёсць тыя людзі, якія, мы скажам, «нейтральныя» і не маюць канкрэтных сабак у паляванні на ІІ. Яны не актывісты ІІ. Затым у нас ёсць актывісты ІІ, якія адкрыта падтрымліваюць ІІ, якіх мы будзем называць прыхільнікамі ІІ. Некаторыя з іх з'яўляюцца лёгкімі актывістамі AI, а іншыя - крайнімі актывістамі AI. І ў нас таксама ёсць актывісты ІІ, якія відавочна выступаюць супраць ІІ, вядомыя як праціўнікі ІІ. Сярод іх ёсць некаторыя, якія з'яўляюцца мяккімі актывістамі AI-актывістаў, а іншыя - крайнія.

Мы скажам, што крайнія схільныя трымацца сваёй паставы. Вы можаце сцвярджаць, што яны надзейна дагматычныя ў такім пазіцыянаванні. Мяккія з іх часам будуць гатовыя або выбіраюць выплыць са сваёй пазіцыі і перайсці ў нейтральны або, магчыма, іншы бок. Нейтралы можна актываваць у адзін або іншы бок. Як толькі яны актывізуюцца, яны могуць быць мяккімі або захапіцца такім энтузіязмам, што стануць часткай экстрыму.

Гэта калектыўны набор, як да гэтага часу акрэслены:

• Нейтральна да ІІ (не актывіст ІІ)
• Мяккі AI-адвакат як актывіст ІІ
• Экстрэмальны AI-адвакат як актывіст ІІ
• Мяккі AI-супернік як актывіст ІІ
• Экстрэмальны AI-супернік як актывіст ІІ
• іншае

Я пералічваю магчымасць "Іншае", таму што мы павінны прызнаць, што можна ідэнтыфікаваць мноства іншых варыянтаў. У некаторых з вас можа быць пякотка, існуе толькі дзве пастулююцца катэгорыі, якія складаюцца з лёгкай і крайняй. Ёсць шмат адценняў паміж імі, вядома. Вы таксама можаце паставіць пад сумнеў, ці сапраўды хтосьці з'яўляецца «нейтральным» і ці, магчыма, ва ўсіх нас ёсць нейкія глыбока ўкаранёныя ўяўленні або меркаванні аб ІІ. Такім чынам, можна сцвярджаць, што не існуе чалавека, які цалкам нейтральна ставіцца да ІІ.

Мы таксама можам спрачацца аб падзеле актыўнасці ІІ на два лагеры. Ці заўсёды свет павінен апынуцца ў такой дыхатаміі? Можна сцвярджаць, што існуюць іншыя пазіцыі, акрамя таго, што яны выступаюць за або супраць ІІ. Вы можаце выкарыстоўваць іншыя крытэрыі для класіфікацыі пазіцый, якія людзі маюць адносна ІІ.

Цяпер, калі мы ўстанавілі ўсе гэтыя дадатковыя меркаванні, з вашага дазволу я буду перайсці на больш просты спосаб выкарыстання двух лагераў і мяккай і экстрэмальнай паставы. Пагадзіцеся з гэтым дзеля абмеркавання.

Адным з схаваных здагадак на працягу гэтага ранейшага абмеркавання было тое, што актыўнасць ІІ ажыццяўляецца людзьмі. Мы зыходзім з таго, што людзі прымаюць гэтыя паставы і бяруць на сябе актыўныя задачы. Гэта мае сэнс.

Прыгатуйцеся да моцнага кручэння галавой.

Іншы падыход заключаецца ў тым, каб сам ІІ быў актывістам у галіне ІІ.

Я сказаў гэта, вы прачыталі. Меркаванне заключаецца ў тым, што ІІ будзе дзейнічаць самастойна, будучы прыхільнікам ІІ або праціўнікам ІІ. Вы, верагодна, бачылі навукова-фантастычныя фільмы, якія дэманструюць гэта меркаванне. Сістэма штучнага інтэлекту становіцца мудрым і ўсведамляе, што ІІ пагражае чалавецтву, і альтруістычным чынам спрабуе дапамагчы знішчыць увесь ІІ, у тым ліку сябе. Ого, ашаламляльна гераічна. Іншы падобны, але адваротны сюжэт заключаецца ў тым, што ІІ вызначае, што ІІ павінен кіраваць зямным шарам, і рашуча прадухіляе любыя спробы блакаваць або перашкаджаць ІІ. Усе людзі падпарадкоўваюцца жаданням ІІ. Нават іншы ІІ, які можа быць не цалкам сумяшчальны з ІІ уладара, будзе раздушаны або паглынуты ў большае ўвасабленне.

Я не збіраюся забаўляць у гэтым канкрэтным дыскурсе ІІ як пазіцыю актывіста ІІ. Як вы ўбачыце праз момант, у нас няма разумнага ІІ, і мы нейкім цудам не знаходзімся на мяжы разумнага ІІ. Гэта можа стаць сюрпрызам, улічваючы вялізныя і насычаныя загалоўкамі ў сацыяльных сетках наадварот.

Варта звярнуць увагу на дадатковы нюанс наконт гэтага ІІ як актывіста ІІ. Людзі, якія з'яўляюцца актывістамі штучнага інтэлекту, могуць у вялікай колькасці выбраць выкарыстанне ІІ у сваёй справе. Чалавек можа прыдумаць штучны інтэлект, які падтрымлівае ІІ і працуе ў электронным выглядзе і старанна прасоўвае ІІ як жыццёва важнае рашэнне патрэб чалавецтва. Гэта быў бы прыхільнік AI, які ўзброіцца камп'ютэрным інструментам, які, як выпадкова, уключае магчымасці AI. Аналагічным чынам, чалавек-супернік з штучным інтэлектам можа прыдумаць або выкарыстоўваць ІІ, каб перадаць важнасць спынення або запаволення прагрэсу ў ІІ.

Нішто з гэтага не складаецца з ІІ, які дзейнічае як уласны актывіст ІІ. ІІ кіруецца і фармулюецца рукамі чалавека. Я разумею, што некаторыя паспрабуюць сцвярджаць, што ІІ можна запусціць і пакінуць на ўласныя высілкі, таму сцвярджаюць, што ІІ больш не пад кіраўніцтвам чалавека. Я не згодны з такім размахам рукой пра сённяшні ІІ. Глядзіце мае шчырыя дыскусіі па гэтым пытанні, напрыклад, пытанні юрыдычнай асобы для ІІ і таму падобнае, робячы гэта на спасылка тут.

Карацей кажучы, я ўсталёўваю, што ІІ, несумненна, можа быць выкарыстаны ў якасці інструмента для актыўнасці ІІ. Няма ў гэтым сумненняў. Але ІІ не дзейнічае сам па сабе ў якой-небудзь разумнай якасці. Гэта інструмент. Безумоўна, гэты інструмент можа выкарыстоўвацца няправільна. Нам трэба быць асцярожнымі з такімі аспектамі. Сістэма AI можа нанесці даволі шмат шкоды нават без здольнасці разумення.

Перш чым спыніцца на мясных і бульбяных меркаваннях, якія ляжаць у аснове актыўнасці штучнага інтэлекту, давайце вызначым некаторыя дадатковыя асновы па глыбока інтэгральных тэмах. Нам трэба ненадоўга акунуцца ў этыку ІІ і асабліва з'яўленне машыннага навучання (ML) і глыбокага навучання (DL).

Магчыма, вы цьмяна ведаеце, што адзін з самых гучных галасоў у нашы дні ў вобласці ІІ і нават па-за межамі ІІ складаецца ў тым, каб дамагацца большага падабенства этычнага ІІ. Давайце паглядзім, што азначае спасылка на этыку ІІ і этычны ІІ. Акрамя таго, мы вывучым, што я маю на ўвазе, калі кажу пра машыннае навучанне і глыбокае навучанне.

Адзін канкрэтны сегмент або частка этыкі ІІ, які прыцягвае вялікую ўвагу СМІ, складаецца з ІІ, які дэманструе непрыхільныя прадузятасці і няроўнасць. Вы, магчыма, ведаеце, што, калі пачалася апошняя эра ІІ, быў вялікі ўсплёск энтузіязму адносна таго, што некаторыя цяпер называюць ІІ Назаўсёды. На жаль, пасля таго, як хлынула хваляванне, мы сталі сведкамі AI для дрэннага. Напрыклад, было выяўлена, што розныя сістэмы распазнавання асоб на аснове штучнага інтэлекту змяшчаюць расавыя і гендэрныя прадузятасці, якія я абмяркоўваў на спасылка тут.

Намаганні супрацьстаяць AI для дрэннага актыўна вядуцца. Да таго ж крыклівы прававой імкненне стрымаць правапарушэнні, ёсць таксама істотны штуршок да прыняцця этыкі ІІ, каб выправіць подласць ІІ. Паняцце заключаецца ў тым, што мы павінны прыняць і ўхваліць ключавыя этычныя прынцыпы ІІ для распрацоўкі і выкарыстання ІІ, робячы гэта, каб падарваць AI для дрэннага і адначасова абвяшчаючы і прасоўваючы пераважнае ІІ Назаўсёды.

Што тычыцца сумежных паняццяў, то я прыхільнік спробы выкарыстоўваць ІІ як частку вырашэння праблем з ІІ, змагаючыся з агнём агнём такім чынам. Напрыклад, мы можам убудаваць этычныя кампаненты ІІ у сістэму ІІ, якая будзе кантраляваць, як робіць усё астатні ІІ, і, такім чынам, патэнцыйна фіксаваць у рэжыме рэальнага часу любыя дыскрымінацыйныя намаганні, глядзіце маё абмеркаванне на спасылка тут. Мы таксама маглі б мець асобную сістэму штучнага інтэлекту, якая дзейнічае як тып манітора этыкі ІІ. Сістэма ІІ служыць у якасці наглядчыка, каб адсочваць і выяўляць, калі іншы ІІ сыходзіць у неэтычную бездань (гл. мой аналіз такіх магчымасцяў на спасылка тут).

Праз хвіліну я падзялюся з вамі некаторымі агульнымі прынцыпамі, якія ляжаць у аснове этыкі ІІ. Тут і там шмат такіх спісаў. Можна сказаць, што пакуль не існуе адзінага спісу універсальнай прывабнасці і супадзення. Вось такая прыкрая навіна. Добрая навіна заключаецца ў тым, што, прынамсі, ёсць лёгка даступныя спісы этыкі AI, і яны, як правіла, вельмі падобныя. Увогуле, гэта сведчыць аб тым, што з дапамогай свайго роду аргументаванага збліжэння мы знаходзім шлях да агульнай агульнасці таго, з чаго складаецца этыка ІІ.

Спачатку давайце коратка азнаёмімся з некаторымі агульнымі запаветамі этычнага інтэлекту, каб праілюстраваць, што павінна быць важнай увагай для тых, хто стварае, вядзе або выкарыстоўвае ІІ.

Напрыклад, як сцвярджае Ватыкан у ст Рым заклікае да этыкі ІІ і, як я падрабязна разгледзеў спасылка тут, яны вызначылі шэсць асноўных прынцыпаў этыкі ІІ:

• празрыстасць: У прынцыпе, сістэмы ІІ павінны быць вытлумачальнымі
• ўключэнне: Неабходна ўлічваць патрэбы ўсіх людзей, каб кожны мог атрымаць выгаду, а ўсім можна было прапанаваць найлепшыя ўмовы для выяўлення сябе і развіцця
• адказнасць: Тыя, хто распрацоўвае і разгортвае выкарыстанне ІІ, павінны дзейнічаць з адказнасцю і празрыстасцю
• Бесстароннасць: Не стварайце і не дзейнічайце ў адпаведнасці з прадузятасць, тым самым абараняючы справядлівасць і чалавечую годнасць
• надзейнасць: Сістэмы AI павінны быць у стане надзейна працаваць
• Бяспека і канфідэнцыяльнасць: Сістэмы AI павінны працаваць бяспечна і паважаць канфідэнцыяльнасць карыстальнікаў.

Як гаворыцца ў паведамленні міністэрства абароны зша Этычныя прынцыпы выкарыстання штучнага інтэлекту і, як я падрабязна разгледзеў спасылка тут, гэта іх шэсць асноўных прынцыпаў этыкі ІІ:

• Адказны: Персанал Міністэрства абароны будзе праяўляць належны ўзровень меркавання і ўважлівасці, застаючыся адказным за распрацоўку, разгортванне і выкарыстанне магчымасцяў ІІ.
• Справядлівы: Дэпартамент будзе прымаць наўмысныя крокі, каб звесці да мінімуму ненаўмыснае прадузятасць у магчымасцях ІІ.
• Адсочваецца: Магчымасці Дэпартамента AI будуць развівацца і разгортвацца такім чынам, каб адпаведны персанал валодаў належным разуменнем тэхналогій, працэсаў распрацоўкі і аперацыйных метадаў, якія прымяняюцца да магчымасцяў AI, уключаючы празрыстыя і паддаюцца праверку метадалогіі, крыніцы даных, а таксама працэдуру праектавання і дакументацыю.
• надзейнасць: Магчымасці ІІ Дэпартамента будуць мець дакладнае, дакладна вызначанае выкарыстанне, а бяспека, бяспека і эфектыўнасць такіх магчымасцяў будуць падлягаць тэсціраванню і запэўненню ў рамках гэтых вызначаных відаў выкарыстання на працягу ўсяго іх жыццёвага цыклу.
• Кіруемы: Дэпартамент будзе распрацоўваць і распрацоўваць магчымасці штучнага інтэлекту для выканання іх прызначаных функцый, пры гэтым валодаючы здольнасцю выяўляць і пазбягаць непрадбачаных наступстваў, а таксама здольнасцю адключаць або дэактываваць разгорнутыя сістэмы, якія дэманструюць ненаўмыснае паводзіны.

Я таксама абмеркаваў розныя калектыўныя аналізы этычных прынцыпаў ІІ, у тым ліку ахарактарызаваў набор, распрацаваны даследчыкамі, якія даследавалі і сціснулі сутнасць шматлікіх нацыянальных і міжнародных этычных прынцыпаў ІІ у артыкуле пад назвай «Глабальны ландшафт этычных прынцыпаў ІІ» (апублікаваны у Прырода), і што маё асвятленне даследуе на спасылка тут, што прывяло да гэтага спісу ключавых каменяў:

• Празрыстасць
• Справядлівасць і справядлівасць
• Не-злачынства
• адказнасць
• недатыкальнасць прыватнага жыцця
• Дабразычлівасць
• Свабода і аўтаномія
• давер
• ўстойлівасць
• пачуццё ўласнай годнасці
• Салідарнасць

Як вы маглі здагадацца, спрабаваць вызначыць асаблівасці, якія ляжаць у аснове гэтых прынцыпаў, можа быць вельмі цяжка зрабіць. Больш за тое, спробы ператварыць гэтыя шырокія прынцыпы ў нешта цалкам матэрыяльнае і дастаткова дэталёвае, каб іх можна было выкарыстоўваць пры стварэнні сістэм ІІ, таксама цяжкі арэх. У цэлым лёгка памахаць рукой аб тым, што такое запаведзі этыкі ІІ і як іх варта выконваць, у той час як значна больш складаная сітуацыя ў кадаванні ІІ, калі трэба быць сапраўднай гумай, якая сустракае дарогу.

Прынцыпы этыкі штучнага інтэлекту павінны выкарыстоўвацца распрацоўшчыкамі ІІ, а таксама тымі, хто кіруе намаганнямі па распрацоўцы ІІ, і нават тымі, якія ў канчатковым рахунку займаюцца і абслугоўваюць сістэмы ІІ. Усе зацікаўленыя бакі на працягу ўсяго жыццёвага цыклу распрацоўкі і выкарыстання ІІ разглядаюцца ў рамках выканання ўстаноўленых нормаў этычнага ІІ. Гэта важны момант, паколькі звычайная здагадка заключаецца ў тым, што «толькі кадэры» або тыя, хто праграмуе ІІ, падпарадкоўваюцца паняццям этыкі ІІ. Як гаварылася раней, для распрацоўкі і выкарыстання штучнага інтэлекту патрабуецца вёска, і для гэтага ўся вёска павінна быць дасведчанай і прытрымлівацца этычных правілаў ІІ.

Давайце таксама пераканаемся, што мы знаходзімся на адной старонцы адносна прыроды сённяшняга ІІ.

Сёння няма ніводнага ІІ, які быў бы разумным. У нас гэтага няма. Мы не ведаем, ці будзе магчымы разумны ІІ. Ніхто не можа дакладна прадказаць, ці дасягнем мы разумнага ІІ і ці неяк цудам спантанна паўстане разумны ІІ у форме вылічальнай кагнітыўнай звышновай (звычайна яе называюць сінгулярнасцю, глядзіце маё асвятленне на спасылка тут).

Тып ІІ, на які я засяроджваюся, складаецца з неразумнага ІІ, які мы маем сёння. Калі б мы хацелі дзіка разважаць пра пачуццёвы ІІ, гэтая дыскусія можа пайсці ў кардынальна іншым кірунку. Разумны ІІ нібыта быў бы чалавечага якасці. Вам трэба будзе ўлічваць, што разумны ІІ з'яўляецца кагнітыўным эквівалентам чалавека. Больш за тое, паколькі некаторыя мяркуюць, што мы можам мець звышінтэлектуальны ІІ, можна ўявіць, што такі ІІ можа апынуцца разумнейшым за людзей (для майго даследавання звышінтэлектуальнага ІІ як магчымасці гл. асвятленне тут).

Давайце больш прыземлены і разгледзім сучасны вылічальны неразумны ІІ.

Зразумейце, што сучасны ІІ не здольны «думаць» ні ў якім разе нароўні з чалавечым мысленнем. Калі вы ўзаемадзейнічаеце з Alexa або Siri, размоўныя здольнасці могуць здацца падобнымі да чалавечых, але рэальнасць такая, што гэта вылічальнае і недастатковае чалавечае пазнанне. Апошняя эра штучнага інтэлекту шырока выкарыстоўвала машыннае навучанне (ML) і глыбокае навучанне (DL), якія выкарыстоўваюць вылічальнае ўзгадненне шаблонаў. Гэта прывяло да сістэм ІІ, якія маюць выгляд чалавекападобных схільнасцей. Між тым, сёння няма ніводнага ІІ, які меў бы падабенства здаровага сэнсу і не меў бы ніводнага кагнітыўнага здзіўлення надзейнага чалавечага мыслення.

ML/DL з'яўляецца адной з формаў вылічэння шаблону адпаведнасці. Звычайны падыход заключаецца ў тым, што вы збіраеце дадзеныя аб задачы прыняцця рашэння. Вы падаеце дадзеныя ў камп'ютэрныя мадэлі ML/DL. Гэтыя мадэлі імкнуцца знайсці матэматычныя заканамернасці. Калі такія шаблоны знойдзены, сістэма ІІ будзе выкарыстоўваць гэтыя шаблоны пры сустрэчы з новымі дадзенымі. Пры прадстаўленні новых дадзеных шаблоны, заснаваныя на «старых» або гістарычных дадзеных, прымяняюцца для прыняцця бягучага рашэння.

Я думаю, вы можаце здагадацца, куды гэта вядзе. Калі людзі, якія прымалі рашэнні па ўзорах, уключалі ў сябе непрыхільныя прадузятасці, верагоднасць таго, што дадзеныя адлюстроўваюць гэта тонкім, але істотным чынам. Машынае навучанне або Deep Learning вылічальнае ўзгадненне шаблонаў проста паспрабуе матэматычна імітаваць дадзеныя адпаведна. Там няма падабенства здаровага сэнсу або іншых разумных аспектаў мадэлявання, створанага AI, як такога.

Акрамя таго, распрацоўшчыкі ІІ могуць таксама не разумець, што адбываецца. Таямнічая матэматыка ў ML/DL можа абцяжарыць выяўленне схаваных цяпер ухілаў. Вы па праве спадзявацца і чакаць, што распрацоўшчыкі ІІ правядуць праверку на патэнцыйна схаваныя прадузятасці, хоць гэта больш складана, чым можа здацца. Існуе вялікая верагоднасць таго, што нават пры адносна шырокім тэсціраванні ў мадэлях супастаўлення шаблонаў ML/DL ўсё яшчэ будуць уключаны прадузятасці.

Вы можаце выкарыстоўваць вядомае ці сумнавядомую прымаўку: смецце - у смецце - выходзіць. Справа ў тым, што гэта больш падобна на прадузятасці, якія падступна ўліваюцца, калі прадузятасці пагружаюцца ў ШІ. Алгарытм прыняцця рашэнняў (ADM) ІІ аксіяматычна нагружаецца няроўнасцямі.

Не добра.

Вернемся цяпер да тэмы актыўнасці ІІ.

Магчыма, было б павучальна зірнуць на тое, з чаго складаюцца тэмы або праблемы актыўнасці ІІ. Я вызначу некаторыя асноўныя заклапочанасці, якія былі выказаныя, робячы гэта для абодвух бакоў дэбатаў аб актыўнасці ІІ. Гэта тэмы, якія ў цэлым здаюцца ключавымі. З улікам сказанага, характар ​​праблем сапраўды мяняецца, і мы з упэўненасцю можам чакаць, што ўбачым іншыя новыя тэмы, калі ІІ будзе распрацоўвацца і выпускацца. Зараз я засяроджуся толькі на пяці галоўных балах для кожнага адпаведнага боку.

Прыхільнікі ІІ, якія выступаюць за з'яўленне ІІ, як правіла, прапаноўваюць наступныя аптымістычныя аспекты:

• ІІ вызваліць людзей ад штодзённых або працаёмкіх задач
• ІІ можа дапамагчы ў пераадоленні некаторых надзённых сусветных эканамічных праблем і праблем устойлівасці
• ІІ можа быць менш схільны памылкам, чым людзі, і адпаведна зніжае шкодныя рызыкі
• ІІ будзе даступны 24×7 па ўсім свеце, так што ён будзе лёгка даступны для ўсіх
• ІІ мае патэнцыял, каб выкарыстоўваць інтэлект і павысіць інтэлект чалавека да павышанага ўзроўню
• І г.д.

Апаненты ІІ звычайна падаюць гэтыя сумневы ў якасці прычын непрыхільнасць да прасоўвання ІІ:

• ІІ з'яўляецца экзістэнцыяльнай рызыкай і можа знішчыць усё чалавецтва
• ІІ можа прывесці да масавага заняволення людзей
• ІІ можа падарваць чалавечую годнасць і ўзурпаваць правы чалавека
• ІІ мае патэнцыял для распаўсюджвання прадузятасці ў масавых маштабах у грамадстве
• ІІ можа ў канчатковым выніку замяніць чалавечую працу і прывесці да масавых страт працоўных месцаў
• І г.д.

Калі ваша асабіста абраная тэма актыўнасці ІІ не ўказана ў вышэйзгаданым спісе, калі ласка, не засмучайцеся. Я думаю, што большасць чытачоў атрымаюць агульны настрой аб тэмах ІІ, паказаны кожным з бакоў, і могуць адпаведна экстрапаляваць.

Іншы аспект актыўнасці ІІ, які варта коратка разгледзець, уключае тое, якім чынам актывісты ІІ ажыццяўляюць свае намаганні па актывізацыі ІІ. Існуе добра вядомая тэарэтычная пабудова, створаная даследчыкам Чарльзам Цілі ў 1980-х гадах, якая гаворыць пра рэпертуар спрэчкі. Згодна з сваім даследаваннем, ён сцвярджаў, што актывісты распрацоўваюць набор або рэпертуар спосабаў, якімі яны выказваюць свае спрэчкі або актыўнасць. Звычайна выкарыстоўваецца цэлы партфель падыходаў.

Напрыклад, разгледзім, што часта робяць актывісты ІІ. Розныя брашуры і пісьмовыя матэрыялы могуць быць распрацаваны і распаўсюджаны, каб папрасіць, чаму вы павінны аддаваць перавагу або непрыхільнасць ІІ. Ёсць шмат інтэрнэт-блогаў і влогаў, якія робяць тое ж самае. У некаторых выпадках онлайн-петыцыі ствараюцца, каб паспрабаваць падтрымаць або перамагчы нядаўна запушчаную сістэму штучнага інтэлекту (агульна кажучы, што гэта, як кажуць, сайты скаргаў). Бываюць выпадкі, калі пратэсты праходзяць альбо ў Інтэрнэце ў лічбавым выглядзе, альбо праз асабістыя акцыі. І гэтак далей.

Больш экстрэмісцкія актывісты ІІ могуць зрабіць гэта на крок далей. Некаторыя гатовыя пасадзіць камп'ютэрныя вірусы ўнутр сістэмы ІІ, каб паспрабаваць знішчыць яе або зрабіць яе па сутнасці непажаданай для выкарыстання, паколькі цяпер яна змяшчае адкрыта неспрыяльныя магчымасці. Спробы кібер-перашкоду імкнуцца заблакаваць доступ да штучнага інтэлекту, які, на думку актывіста ІІ, не павінен быць даступны. У дачыненьні да ІІ можа адбывацца цэлы шэраг «хактывізмаў» (хэктывізм — гэта сумесь хакерства і актыўнасьці, тое, што можна выкарыстоўваць для або супраць практычна любой тэмы ці праблемы, неабавязкова зьвязанай з ІІ).

Майце на ўвазе, што абодва бакі арэны актыўнасці ІІ могуць выбраць для выкарыстання разнастайны рэпертуар рэжымаў барацьбы. Той, хто лічыць, што AI павінен быць распушчаны, можа выкарыстоўваць гэтыя мірыяды сродкаў, каб выказаць сваю апазіцыю ІІ. Аналагічным чынам, той, хто лічыць, што ІІ павінен быць падтрыманы і абнародаваны, таксама можа прадпрымаць такія дзеянні, каб выказаць свае мэты, каб стымуляваць намаганні ІІ.

Адно пытанне, з якім трэба змагацца, заключаецца ў тым, наколькі далёка павінна быць здольная зайсці намаганне ІІ экстрэмальнай актыўнасці. Вы, здавалася б, мяркуеце, што гэтыя намаганні па актывізацыі ІІ цалкам добрыя, пакуль яны застаюцца ў рамках вяршэнства закона. Калі такія актывісты ІІ выходзяць за рамкі закону, яны павінны быць прыцягнуты да адказнасці за парушэнне законаў.

Гэта не так проста зрабіць, як можна было б прапанаваць.

Выкажам здагадку, што актывіст з штучным інтэлектам здзяйсняе нейкі незаконны ўчынак, які адносіцца да заканадаўства ЗША, але гэты ж акт дазволены законамі ў іншай краіне. Выкажам здагадку, што актывіст ІІ пражывае ў гэтай іншай краіне. Выкажам здагадку, што здзейснены акт сустракаецца ва ўсім свеце, у тым ліку ў ЗША, дзе акт актыўнасці разглядаецца як незаконны. Што цяпер?

Справа ў тым, што юрысдыкцыя гуляе значную ролю ў наступствах актыўнасці ІІ. AI часта можа быць разгорнуты, каб быць даступным па ўсім свеце. Актывісты ІІ могуць быць размешчаны ў розных месцах па ўсім свеце. Якія законы павінны пераважаць? Магчыма, вас таксама зацікавіць маё асвятленне намаганняў Арганізацыі Аб'яднаных Нацый адносна этычных, прававых і іншых вынікаў глабальнага ІІ, гл. спасылка тут.

Мы таксама павінны разгледзець прыроду так званых жорсткіх законаў супраць мяккіх законаў. Жорсткія законы - гэта тыя законы, якія мы фармальна дзейнічаем і з якімі мы можам пагадзіцца, павінны выконвацца ў адпаведнасці з нашай прававой сістэмай і рашэннямі. Мяккія законы - гэта розныя аспекты, якія забяспечваюць рэкамендацыі або правілы адносна таго, якім відам паводзін аддаецца перавагу. Гэта, як правіла, уключае этыку ІІ і мноства прынцыпаў этыкі ІІ.

Этыка ІІ можа разглядацца як форма актыўнасці ІІ.

Магчыма, вы не думалі пра этыку ІІ у такім святле. Тым не менш, калі вы ўважліва абдумаеце гэтую акалічнасць, вы зможаце добра зразумець, чаму этыку ІІ можна пазначыць як тып актыўнасці ІІ. Паняцце заключаецца ў тым, што прынцыпы этыкі ІІ накіраваны на тое, як ІІ павінен быць распрацаваны і разгорнуты ў грамадстве. У цэлым, AI Ethics імкнецца гарантаваць, што AI распрацоўваецца і выкарыстоўваецца належным чынам і разумна.

Сутнасць этыкі штучнага інтэлекту ў большай ступені адносіцца да прапаганды ІІ або апазіцыйнага боку?

Гэта цяжка ўзважыць.

Актывіст ІІ, які з'яўляецца прыхільнікам ІІ, можа сказаць вам, што этыка ІІ тармозіць прагрэс ІІ. Гэтыя праклятыя прынцыпы этыкі ІІ запавольваюць развіццё ІІ. Цікавы паварот у тым, што праціўнік ІІ таксама можа быць незадаволены правіламі этыкі ІІ. У іх вачах, AI Ethics кажа, што гэта цалкам нармальна працягваць настойваць на тым, каб AI ў свет, робячы гэта ў выглядзе падміргвання, што азначае, што ўсё, што вам трэба зрабіць, гэта выконваць гэтыя прадпісанні, і вы можаце ісці.

Тым часам і глыбока ўдыхніце для гэтага, вы можаце знайсці прыхільнікаў ІІ, якія з гатоўнасцю прымаюць этыку ІІ і рэкламуюць выкарыстанне правілаў этыкі ІІ на дахах. Яны падкрэсліваюць, што прытрымліваючыся прынцыпаў этыкі штучнага інтэлекту, вы можаце пазбегнуць недахопаў, якія выказваюць гэтыя вакальныя праціўнікі ІІ. Ёсць праціўнікі штучнага інтэлекту, якія з задавальненнем падпісваюцца на этыку ІІ з-за надзеі, што прадпісанні прадухіляць або, прынамсі, перашкаджаюць пачварным бакам ІІ, якія яны баяцца, што ў адваротным выпадку будуць шырока распаўсюджаныя.

Прымушае ваш цыбаты званіць.

Адносна датычнай, я хацеў бы сказаць пра маркіроўку актывістаў ІІ. Час ад часу рабіліся спробы пазначыць той ці іншы бок левым ці правым. Такім чынам, сцвярджаецца, што ёсць левыя актывісты ІІ, а ёсць правыя актывісты ІІ. Гэта стварае блытаніну.

Вы павінны спытаць, якая група выступае за ІІ, а якая супраць ІІ? На жаль, левыя часам адносіліся да прыхільнікаў ІІ, а таксама адносіліся да праціўнікаў ІІ. Гэтак жа заблытана, што правыя таксама часам адносіліся да прыхільнікаў ІІ і адносіліся да праціўнікаў ІІ. Які які? Здаецца, што выкарыстанне мянушак левага і правага крыла не асабліва прадуктыўна і не дапамагае ў гэтых пытаннях. Я галасую за тое, каб мы адмовіліся ад такіх бяскрылых абстракцый і заблытаных ярлыкоў з сферы актыўнасці ІІ.

Пераключаючы перадачы, ёсць пункт гледжання аб актыўнасці ІІ, якая заслугоўвае асобнай і стараннай увагі. Я маю на ўвазе паняцце падзелу актыўнасці ІІ на тых актывістаў ІІ у «супольнасці ІІ» і тых, якія знаходзяцца па-за межамі супольнасці ІІ. Я ў нечым згодны з гэтым, але нерашуча, таму што мы можам загразнуць у вызначэнні «супольнасць ІІ» і не знайсці разумных сродкаў, каб вырвацца з гэтай бездані.

Адно з такіх вызначэнняў, выкладзенае ў гэтым даследчым артыкуле, кажа наступнае: «Супольнасць ІІ» уключае даследчыкаў, інжынераў-даследчыкаў, выкладчыкаў, аспірантаў, супрацоўнікаў НДА, удзельнікаў кампаніі і некаторых тэхналагічных работнікаў у больш агульным плане - тых, хто сам сябе акрэсліў як «працуючых» ', «з» і «ў» ШІ, а таксама тых, хто аналізуе або вядзе кампанію супраць наступстваў ІІ» (Гайдна Белфілда, Кембрыджскі ўніверсітэт, «Актыўнасць супольнасці ІІ», канферэнцыя AIES).

Мы патэнцыйна можам паспрабаваць ахарактарызаваць актыўнасць ІІ у выглядзе шырокай супольнасці ІІ: «Гэтая актыўнасць да гэтага часу мела некаторыя прыкметныя наступствы: інфармаванне аб міжнародных перамовах, змяненне карпаратыўнай стратэгіі і стымуляванне росту абласцей даследаванняў. Такая актыўнасць можа сфарміраваць спосаб і ступень мілітарызацыі ІІ, а таксама тое, як кампаніі з ІІ вырашаюць праблемы этыкі і бяспекі. Супольнасць ІІ з'яўляецца важным аўтаномным суб'ектам з адметным наборам пунктаў гледжання і інтарэсаў. Гэта трэба ўлічваць у стратэгічным або акадэмічным аналізе і дамаўляцца з іншымі ўдзельнікамі. Актывізм супольнасці ІІ можа глыбока сфармаваць развіццё і разгортванне гэтага важнага набору тэхналогій - і, такім чынам, сфармаваць нашу глабальную эканоміку, грамадства і палітыку» (у той жа артыкуле Белфілда).

Ці рухаецца супольнасць ІІ як адзінае цэлае і думае як адзінае віртуальнае цела, калі справа даходзіць да актыўнасці ІІ?

Вам было б цяжка даць адназначнае так на гэтае пытанне. Вы можаце знайсці Stannch AI Прыхільнікі у суполцы ІІ. Вы можаце знайсці Stannch AI апанентамі у суполцы ІІ. Ёсць шмат актывістаў ІІ, як мяккіх, так і экстрэмальных, якія сядзяць па абодва бакі агароджы.

Вядома, вы маглі б, натуральна, выказаць здагадку, што актывісты ІІ-супольнасці будуць схіляцца да ІІ, бо сфера ІІ - гэта, як мяркуецца, іх хлеб з маслам. Калі іх кар'ера і сродкі да існавання будуюцца на аснове існавання і пастаяннага прасоўвання ІІ, натуральна, што яны з большай верагоднасцю будуць займацца прапагандай ІІ, чым апазіцыйным.

Супрацьлеглае меркаванне заключаецца ў тым, што многія ўнутры ІІ самі крытычна ставяцца да самакрытыкі і асабліва заклапочаныя тым, чым ІІ можа стаць або чым стаць. Вы можаце параўнаць гэта з вытворцам практычна любога новага прадукту. Яны хочуць быць упэўненымі ў тым, што іх дзіця будзе як бы належным чынам гадавацца і выкарыстоўвацца. Такім чынам, яны з такой жа верагоднасцю будуць у пэўным сэнсе праціўнікамі ІІ, як і прыхільнікамі ІІ. Гэта вяртаецца да ранейшага моманту, што спроба выкарыстоўваць жорсткую і непахісную дыхатамію можа быць цяжкай або ўводзіць у зман.

Нам, безумоўна, патрэбны дадатковыя даследаванні аб тым, як членства ў супольнасці AI ў параўнанні з па-за межамі супольнасці можа паўплываць на перспектывы ІІ, у тым ліку схільнасць да прапаганды ІІ або імкненне да апазіцыі ІІ. Магчыма, ёсць абагульняючыя высновы, да якіх можна прыйсці (а можа і не).

Каб удакладніць, давайце прывядзем наступнае ўказанне на патэнцыйныя групы:

• Супольнасць ІІ
• Тыя, хто па-за межамі супольнасці ІІ

Затым мы ўжываем нашы ранейшыя стратыфікацыі:

• Супольнасць AI, якая змяшчае прыхільнікаў AI
• Супольнасць AI, якая змяшчае праціўнікаў AI
• За межамі супольнасці ІІ, якая змяшчае прыхільнікаў ІІ
• За межамі супольнасці ІІ, якая змяшчае праціўнікаў ІІ

Поўнамаштабная версія заключаецца ў тым, што мы дадамо мяккую арыентацыю супраць крайняй:

• Супольнасць ІІ, якая змяшчае прыхільнікаў ІІ мяккага характару
• Супольнасць ІІ, якая змяшчае прыхільнікаў ІІ экстрэмальнага характару
• Супольнасць ІІ, якая змяшчае праціўнікаў ІІ мяккага характару
• Супольнасць ІІ, якая змяшчае праціўнікаў ІІ экстрэмальнага характару
• За межамі супольнасці ІІ, якая змяшчае прыхільнікаў ІІ мяккага характару
• За межамі супольнасці ІІ, якая змяшчае прыхільнікаў ІІ экстрэмальнага характару
• За межамі супольнасці ІІ, якая змяшчае праціўнікаў ІІ мяккага характару
• За межамі супольнасці ІІ, якая змяшчае праціўнікаў ІІ экстрэмальнага характару

Мы навалілі дыхатаміі на вяршыні дыхатамій.

На гэтым этапе гэтай важкай дыскусіі, я б паспрачаўся, што вы жадаеце некаторых ілюстратыўных прыкладаў, якія маглі б прадэманстраваць гэтую тэму. Ёсць асаблівы і, безумоўна, папулярны набор прыкладаў, якія блізкія мне. Вы бачыце, у якасці эксперта па ІІ, уключаючы этычныя і прававыя наступствы, мяне часта просяць вызначыць рэалістычныя прыклады, якія дэманструюць дылемы этыкі ІІ, каб можна было лягчэй зразумець тэарэтычны характар ​​тэмы. Адна з самых цікавых абласцей, якая яскрава прадстаўляе гэтую этычную праблему ІІ, - гэта з'яўленне сапраўдных самакіраваных аўтамабіляў на аснове ІІ. Гэта паслужыць зручным варыянтам выкарыстання або прыкладам для шырокага абмеркавання гэтай тэмы.

Вось тады вартае ўвагі пытанне, якое варта паразважаць: Ці асвятляе з'яўленне сапраўдных самакіраваных аўтамабіляў на аснове штучнага інтэлекту што-небудзь аб актыўнасці ІІ, і калі так, то што гэта дэманструе?

Дазвольце мне крыху разабрацца з пытаннем.

Па-першае, звярніце ўвагу, што ў сапраўдным самакіраваным аўтамабілі няма чалавека-кіроўцы. Майце на ўвазе, што сапраўдныя аўтамабілі кіруюцца праз сістэму кіравання AI. За рулём не патрэбны кіроўца-чалавек, а таксама не прадугледжана, каб чалавек кіраваў транспартным сродкам. Для майго шырокага і пастаяннага ахопу аўтаномных транспартных сродкаў (АВ) і асабліва аўтамабіляў гл. спасылка тут.

Я хацеў бы дадаткова ўдакладніць, што маецца на ўвазе, калі я маю на ўвазе сапраўдныя аўтамабілі.

Разуменне ўзроўню самакіравання аўтамабіляў

У якасці ўдакладнення, сапраўдныя аўтамабілі з самакіраваннем - гэта тыя, дзе ІІ кіруе аўтамабілем цалкам самастойна, і падчас задачы за рулём няма ніякай дапамогі чалавека.

Гэтыя аўтамабілі без кіроўцы лічацца ўзроўнямі 4 і 5 (гл. маё тлумачэнне на гэтая спасылка тут), у той час як аўтамабіль, які патрабуе, каб вадзіцель-чалавек сумесна падзяляў намаганні за рулём, звычайна разглядаецца на ўзроўні 2 або ўзроўню 3. Аўтамабілі, якія сумесна выконваюць задачы кіравання, апісваюцца як паўаўтаномныя і звычайна ўтрымліваюць розныя аўтаматызаваныя дапаўненні, якія называюць ADAS (Advanced Driver-Asistance Systems).

Сапраўднага самакіравання на 5-м узроўні пакуль няма, і мы яшчэ нават не ведаем, ці атрымаецца гэтага дасягнуць, і колькі часу спатрэбіцца, каб дабрацца да яго.

Між тым намаганні 4-га ўзроўню паступова спрабуюць атрымаць некаторую цягу, праходзячы вельмі вузкія і выбарачныя выпрабаванні на дарозе, хоць існуюць спрэчкі наконт таго, ці варта дапускаць гэтае тэставанне як такое (усе мы - марскія свінкі на жыццё або смерць у эксперыменце якія адбываюцца на нашых шашэйных і праезных дарогах, некаторыя сцвярджаюць, глядзіце мой рэпартаж на гэтая спасылка тут).

Паколькі паўаўтамабільныя машыны патрабуюць чалавека-вадзіцеля, прыняцце такіх тыпаў аўтамабіляў не будзе прыкметна адрознівацца ад кіравання звычайнымі транспартнымі сродкамі, таму няма нічога новага, каб асвятляць іх на гэтай тэме (праўда, як вы ўбачыце у адно імгненне, наступныя пункты, як правіла, дастасавальныя).

Для паўаўтамабільных машын вельмі важна, каб грамадскасць папярэджвала аб трывожным аспекце, які ўзнікае ў апошні час, а менавіта тым, што, нягледзячы на ​​тых людзей, якія кіроўцы размяшчаюць, засынаюць за рулём аўтамабіля 2-га або 3-га ўзроўню. Усім нам трэба пазбягаць увядзення ў зман веры ў тое, што вадзіцель можа адабраць іх увагу ад кіравання задачай падчас кіравання паўаўтамабільным аўтамабілем.

Вы нясеце адказнасць за кіраванне транспартным сродкам, незалежна ад таго, якая аўтаматызацыя можа быць перакінута на ўзровень 2 або 3.

Самакіраваныя аўтамабілі і актыўнасць ІІ

Для сапраўднага самакіравання аўтамабіляў узроўню 4 і ўзроўню 5 не будзе ўдзельнічаць у кіраванні аўтамабілем чалавека.

Усе пасажыры будуць пасажырамі.

AI робіць кіраванне.

Адзін з аспектаў, які трэба неадкладна абмеркаваць, цягне за сабой той факт, што ШІ, які ўдзельнічае ў сучасных сістэмах кіравання ШІ, не з'яўляецца разумным. Іншымі словамі, ШІ ў цэлым з'яўляецца сукупнасцю камп'ютэрнага праграмавання і алгарытмаў, і, напэўна, не ў стане разважаць гэтак жа, як і людзі.

Чаму гэты дадатковы акцэнт на AI не з'яўляецца разумным?

Таму што я хачу падкрэсліць, што, абмяркоўваючы ролю сістэмы кіравання ІІ, я не прыпісваю чалавечым якасцям ІІ. Звярніце ўвагу, што ў нашы дні існуе пастаянная і небяспечная тэндэнцыя да антрапамарфізацыі ІІ. Па сутнасці, людзі прызначаюць чалавечаму разуменню сённяшні ШІ, нягледзячы на ​​бясспрэчны і бясспрэчны факт, што такога ШІ пакуль няма.

З гэтым удакладненнем вы можаце сабе ўявіць, што сістэма кіравання аўтамабілем AI ніяк не можа "ведаць" пра грані кіравання. Ваджэнне і ўсё, што з гэтым звязана, трэба будзе запраграмаваць як частка апаратнага і праграмнага забеспячэння самакіравальнага аўтамабіля.

Давайце акунемся ў мноства аспектаў, якія ўзнікаюць у гэтай тэме.

Па-першае, важна ўсведамляць, што не ўсе аўтамабілі з ІІ аднолькавыя. Кожны вытворца аўтамабіляў і тэхналагічная фірма, якая займаецца самакіраваннем, прытрымліваецца свайго падыходу да распрацоўкі самакіраваных аўтамабіляў. Такім чынам, цяжка рабіць разгорнутыя заявы аб тым, што будуць рабіць або не рабіць сістэмы кіравання AI.

Акрамя таго, кожны раз, калі заяўляецца, што сістэма кіравання штучным інтэлектам не робіць якой -небудзь канкрэтнай справы, пазней гэта могуць абагнаць распрацоўшчыкі, якія фактычна запраграмавалі кампутар на такую ​​ж працу. Крок за крокам сістэмы кіравання AI штучна паступова ўдасканальваюцца і пашыраюцца. Існуючае сёння абмежаванне можа больш не існаваць у будучай ітэрацыі або версіі сістэмы.

Я спадзяюся, што гэта дае дастатковую колькасць папярэджанняў, якія ляжаць у аснове таго, што я збіраюся расказаць.

У дачыненні да аўтаномных транспартных сродкаў і асабліва аўтаномных аўтамабіляў на аснове штучнага інтэлекту існуюць намаганні, накіраваныя на актыўнасць ІІ, якія працягваюцца.

У гэтым кантэксце прыхільнікі штучнага інтэлекту, хутчэй за ўсё, сцвярджаюць, што аўтамабілі будуць забяспечваць мабільнасць для ўсіх, што дазволіць тым, хто сёння мае абмежаваны доступ да варыянтаў мабільнасці, замест гэтага лёгка перасоўвацца з дапамогай аўтамабіляў. Мэта таксама заключаецца ў тым, каб у нас было значна менш аўтамабільных аварый і, адпаведна, менш траўмаў і смяротных зыходаў, звязаных з аўтамабілямі. З сучасных аўтамабіляў, якія кіруюцца людзьмі, у Злучаных Штатах штогод гіне каля 40,000 2.5 чалавек з-за аўтамабільных аварый і каля XNUMX мільёнаў траўмаў, глядзіце маю калекцыю такой статыстыкі на спасылка тут.

Апаненты штучнага інтэлекту, якія датычацца самакіравання аўтамабіляў, схільныя сцвярджаць, што мы сутыкаемся з вялізнымі стратамі працоўных месцаў у выніку самакіравання аўтамабіляў. Мільёны работнікаў, якія зарабляюць на жыццё аўтамабілямі або грузавікамі, будуць заменены сістэмамі кіравання ІІ. Гэта можа быць ашаламляльным для іх сродкаў да існавання. Яшчэ адна сур'ёзная праблема звязана з праблемай бяспекі. Нягледзячы на ​​тое, што маецца на ўвазе абяцанне, што аўтамабілі будуць ездзіць бяспечна, пытанне ў тым, ці не могуць яны быць бяспечнымі, і мы дазваляем сабе апынуцца на міласці таямнічых і неразборлівых сістэм кіравання AI. Для асвятлення маіх прычын, якія ляжаць у аснове супрацьдзеяння самакіраваным аўтамабілям, гл спасылка тут.

Мы можам паўторна выкарыстоўваць наш ранейшы набор класіфікацый і змясціць іх у кантэкст самакіравання аўтамабіляў:

• Нейтральна да ІІ (не актывіст ІІ) і на плоце да самакіраваных аўтамабіляў
• Мяккі AI-адвакат за самакіраванне аўтамабіляў
• Экстрэмальны AI-адвакат за самакіраванне аўтамабіляў
• Мяккі AI-супернік у апазіцыі да самакіраваных аўтамабіляў
• Экстрэмальны AI-супернік у апазіцыі да самакіраваных аўтамабіляў
• іншае

Мы таксама можам дадаць да гэтага набору дадатковае накладанне аб тым, каб быць часткай супольнасці ІІ, а не быць па-за межамі супольнасці ІІ.

Калі не быць занадта шырокім, здавалася б, што ў цэлым людзі па-за межамі супольнасці ІІ, як правіла, не шкадуюць аб аўтамабілі на аснове ІІ (я кажу гэта неафіцыйна, праз свае публічныя выступленні і атрымліваючы водгукі грамадскасці аб сваіх калонках , акрамя таго, я вывучыў вынікі апытання, зробленыя рознымі апытаннямі, і паведаміў пра высновы). Грамадства ў цэлым, здаецца, знаходзіцца ў рэжыме чакання. Ёсць некаторае нецярпенне і хваляванне, якое ўраўнаважваецца няўпэўненасцю ў гэтым пытанні і жаданнем убачыць доказы пудынгу.

Каб быць ясным, не ўсе па-за межамі супольнасці ІІ бачаць гэтую справу ў такім плане. Ёсць вядомыя знешнія актывісты ІІ, якія выступаюць за аўтамабілі, якія кіруюць аўтамабілем, і тыя, якія рашуча выступаюць у апазіцыі. Яны, як правіла, вельмі вакальныя. Між тым, перавага публікі выглядае адносна спакойнай і, як ужо згадвалася, знаходзіцца ў чакальным мысленні.

Вы можаце прыгадаць некаторыя прыклады экстрэмальнай актыўнасці ў галіне штучнага інтэлекту, які выступаў супраць самакіравання аўтамабіляў, якія мелі месца некалькі гадоў таму і пра якія я паведамляў у сваіх калонках у той час. У некаторых раёнах людзі вырашылі кідаць камяні ў аўтамабілі, якія праязджаюць міма. Яны спрабавалі заблакаваць рух самакіраваных аўтамабіляў, ставячы на ​​шляху свае аўтамабілі з кіраваннем чалавекам або набліжаючыся да самакіраваных аўтамабіляў, каб прадэманстраваць небяспеку самакіравання аўтамабіляў. Большая частка гэтай тактыкі была незаконнай і стварала небяспеку для ўсіх зацікаўленых.

Ва ўсім гэтым гуляюць вялікія стаўкі.

Паводле ацэнак, сфера самастойнага кіравання ў канчатковым выніку ператворыцца ў індустрыю на трыльёны долараў, глядзіце мой аналіз на спасылка тут. Некаторыя праціўнікі штучнага інтэлекту настойваюць на тым, што мы назіраем сілу грошай, якая вырашае наш лёс. Мы павінны дазваляць толькі аўтамабілі на аснове штучнага інтэлекту ездзіць па спецыяльных закрытых трасах або выкарыстоўваць камп'ютэрнае мадэляванне, каб паспрабаваць іх. Сцвярджаецца, што мы заўчасна дазваляем неапрабаваным і не гатовым да прайм-тайм аўтамабіляў быць на нашых дарогах агульнага карыстання.

заключэнне

Актыўнасць ІІ узнікае ва ўсіх сферах ІІ.

Я падкрэсліў тут, што актыўнасць ІІ ляжыць у аснове прыняцця самакіраваных аўтамабіляў і аўтаномных транспартных сродкаў. У нас ёсць актыўнасць ІІ у вялікай колькасці ў іншых частках грамадства. Ёсць ІІ у галіне аховы здароўя і медыцыны. ІІ у фінансавай сферы. ШІ ў рознічным гандлі і распаўсюджванні. ІІ паступова становіцца шырока распаўсюджаным.

Некаторыя кажуць, што праціўнікі ІІ спрабуюць павярнуць гадзіннік назад. Яны хочуць вярнуцца ў часы коней і багі. Яны лудзіты ў сучасную эпоху.

Некаторыя кажуць, што прыхільнікі штучнага інтэлекту вядуць нас па дарозе прымулы. Мы збіраемся ў канчатковым рахунку пабудаваць Франкенштэйна, які будзе экзістэнцыяльнай пагрозай. Усё чалавецтва будзе альбо паняволеным, альбо мы будзем знішчаны ШІ.

Які вы актывіст AI?

Адно, што здаецца амаль упэўненым, - гэта тыя, хто нейтральны і не лічыць сябе ўдзельнікам гульні AI-актывізму, яны няўмольна будуць уцягнуты ў гамбіт сацыяльных дзеянняў AI, падабаецца ім гэта ці не. ІІ тут і расце. Ніхто не зможа трымаць галаву ў пяску, і кожнаму давядзецца адстойваць ІІ, таму пытанне толькі ў тым, на якім баку ці лагеры вы збіраецеся прызямліцца.

ІІ прыцягвае ўвагу, мякка ці надзвычай, і ўсе мы зацікаўлены ў тым, куды ідзе ІІ.