Апошняя занепакоенасць этыкай ІІ у тым, што ІІ можа непарыўна ўвасабляць палітычныя прадузятасці, у тым ліку нават у бяскрыўдным выпадку аўтамабіляў на аснове штучнага інтэлекту

Пагаворым пра палітыку.

Што ж, я разумею, што вы, верагодна, згарэлі з-за, здавалася б, бесперапыннай увагі да палітыкі ва ўсіх даступных СМІ ў нашы дні. Чырвоныя штаты супраць сініх штатаў. Лібералы супраць кансерватараў. Дэмакраты супраць рэспубліканцаў. Балбатня пра палітычныя махінацыі раздражняльна бясконцая.

Вы маглі разумна выказаць здагадку, што ёсць некаторыя тэмы, для якіх палітыка асабліва не ўваходзіць у карціну. Па сутнасці, можа быць, ёсць два розныя класы тэм, а менавіта тэмы, якія маюць палітычны характар, нягледзячы ні на што, і іншыя больш банальныя тэмы, якія будуць абмінаць палітычную сферу або пазбягаць яе.

Здавалася б, мае сэнс, што будуць такія прывабныя тэмы, якія вечна застануцца ў палітыцы і палітычных жарсцях, напрыклад, даўні спіс, які ўключае ў сябе нацыянальныя аспекты аховы здароўя, выбары, кантроль над зброяй, іміграцыю, і таму падобнае. Усё, што вам трэба зрабіць, гэта згадаць любую з гэтых тэм, і наступнае, што адбудзецца, - вы пагрузіцеся ў палітычную буру. Даволі гарачыя спрэчкі ў значнай ступені гарантаваныя.

На адваротным баку медаля, магчыма, ёсць тэмы, якія не выклікаюць такой рэзкай палітычнай рэакцыі. Я хацеў бы закрануць перад вамі адну такую ​​тэму, імкнучыся даведацца вашу першапачатковую рэакцыю кішачніка.

Гатовыя?

Аўтамабілі.

Так, паўсядзённая тэма аўтамабіляў, аўтамабіляў, транспартных сродкаў, ці як вы хочаце гэта сфармуляваць, ці выклікае гэта палітычны рэзананс, распальвае палітычную крыўду ці славесныя кулачныя бойкі?

На паверхні можа не здацца, што існуе павышаная палітычная занепакоенасць аўтамабілямі. Яны проста форма штодзённага транспарту. Садзішся ў машыну і едзеш на працу. Вы карыстаецеся машынай, каб зрабіць даручэнні і пайсці за прадуктамі. Калі вы можаце вылучыць час на адпачынак, скарыстайцеся аўтамабілем, каб адправіцца ў адкрытыя лясы або, магчыма, наведаць некаторыя каштоўныя нацыянальныя помнікі.

Аўтамабілі, здавалася б, апалітычныя.

Прабачце, але гэта зусім не так.

Можна сцвярджаць, што аўтамабілі цесна акружаны палітыкай і пагружаны ў яе, як і любая іншая з так званых гарачых тэм. Магчыма, сродкі масавай інфармацыі не асвятляюць палітыку, арыентаваную на аўтамабілі, так моцна, як гэта можна было б зрабіць для іншых больш прывабных тэм, але, тым не менш, палітычныя падводныя плыні ўсё яшчэ існуюць.

Адно відавочнае палітычнае вымярэнне заключаецца ў тым, з чаго павінны складацца нашы аўтамабілі.

Я маю на ўвазе камплектацыю або механізацыю аўтамабіляў. Напрыклад, вядуцца бурныя палітычныя дэбаты наконт таго, ці павінны аўтамабілі выкарыстоўваць ДВС (рухавікі ўнутранага згарання), а не пераход на EV (электрамабілі). Гэта вобласць значнага дыскурсу, якая звязана з многімі іншымі палітычна зараджанымі тэмамі, такімі як праблемы навакольнага асяроддзя і змены клімату.

Менш вядомая, але звязаная з імі тэма звязана з памерамі аўтамабіляў і іх агульным следам у розных аспектах. Ці павінны мы мець вялікія аўтамабілі ці толькі меншыя? Ці варта нам распрацоўваць аўтамабілі, каб увогуле перашкаджаць карыстацца імі, імкнучыся схіліць людзей карыстацца грамадскім і грамадскім транспартам? І гэтак далей.

Вось тое, пра што вы, верагодна, не думалі.

У некаторых даследаваннях высвятлялася, ці залежыць тып аўтамабіля ад палітычных прыхільнасцей уладальніка аўтамабіля. Мяркуючы па ўсім, вы маглі б знайсці статыстычную карэляцыю паміж тым, хто аб'яўлены дэмакратам, адносна тыпу набытага аўтамабіля, а таксама статыстычную карэляцыю паміж тым, каб быць рэспубліканцам, і тыпам аўтамабіля, якім ён валодае. Я не буду паглыбляцца ў гэтыя даследаванні, але хацеў бы адзначыць, што вы павінны інтэрпрэтаваць такія даследаванні і іх вынікі з насцярожанасцю і вялікай дозай скептыцызму адносна статыстычнай абгрунтаванасці.

Калі казаць пра выкарыстанне статыстыкі, ёсць яшчэ адзін інтрыгуючы ракурс палітычных характарыстык і аўтамабіляў. Ёсць даследаванні, якія, здаецца, звязваюць розныя паводзіны за рулём людзей да палітычнай партыйнай прыналежнасці гэтых кіроўцаў.

Часта зададзеныя пытанні:

· Вадзіцелі, якія трапляюць у аварыі або сутыкненні, з большай ці меншай верагоднасцю з'яўляюцца дэмакратамі або рэспубліканцамі?

· П'яныя кіроўцы часцей за ўсё лібералы ці кансерватары?

· Калі адбываюцца гэтыя шалёныя інцыдэнты на дарозе, у выніку якіх кіроўцы шалеюць і б'юцца адзін на аднаго, ці будуць гэтыя шалёныя вар'яты, як правіла, лібераламі ці кансерватарамі?

· Хто атрымлівае больш штрафаў за дарожны рух і, як мяркуецца, ездзіць больш рызыкоўна, дэмакраты ці рэспубліканцы?

· І г.д.

Зноў жа, я не збіраюся паглыбляцца ў гэтыя даследаванні. І, яшчэ раз, пераканайцеся, што будзьце ў стане, калі чытаеце такія даследаванні або бачыце яркія загалоўкі аб іх выніках. Усё, што я скажу, гэта тое, што старая фраза пра статыстыку па-ранейшаму ў значнай ступені праўдзівая і сёння, так што ёсць хлусня, праклятая хлусня і статыстыка (я вычысціў гэтую салёную мудрасць для больш добразычлівай аўдыторыі).

Такім чынам, здаецца, у нас ёсць дастаткова доказаў таго, што тэма аўтамабіляў, на жаль, прасякнута палітычным падтэкстам.

Тады я выберу іншую тэму, якая, магчыма, сапраўды будзе цалкам апалітычнай.

Гатовы на гэты раз?

Штучны інтэлект (AI).

Безумоўна, хочацца спадзявацца, што штучны інтэлект павінен быць апалітычным, асабліва калі гаворка ідзе пра ўнутраныя магчымасці сістэм штучнага інтэлекту. Вы, вядома, можаце падазраваць, што ёсць палітыка surrounding варта ці не выкарыстоўваць штучны інтэлект, але можна падумаць, што ўнутраная частка сістэмы штучнага інтэлекту знаходзіцца па-за межамі палітычнага закісання само па сабе.

Перш чым мы больш уважліва разгледзім гэтую распаўсюджаную здагадку, можа быць павучальна разгледзець некаторыя іншыя аспекты штучнага інтэлекту, якія нядаўна прымусілі многіх пераасэнсаваць безадказнае жаданне вырабляць і інстынктыўна прымаць сістэмы штучнага інтэлекту адразу ж.

Вы бачыце, у парыве да ІІ Назаўсёды Хваляванне за апошнія некалькі гадоў расце ўсведамленне таго, што не ўвесь ІІ будзе добрым. Мы пераканаліся, што ёсць таксама шмат магчымасцей для AI для дрэннага узнікаць. Гэта можа адбыцца з мэтанакіраванага намеру тых, хто распрацоўвае штучны інтэлект, а таксама можа адбыцца з-за таго, што некаторыя рэзка сцвярджаюць, што гэта абсалютна безадказная адсутнасць належнага кантролю з боку распрацоўшчыкаў штучнага інтэлекту і тых, хто распаўсюджвае сістэмы штучнага інтэлекту.

Я асвятляў многія з гэтых пытанняў этыкі штучнага інтэлекту ў сваёй калонцы, напрыклад, па спасылцы тут і па спасылцы тут.

Разглядаць як паказчык AI для дрэннага пытанне распазнання твараў.

Шмат хто думаў, што распазнаванне твараў стане самай моднай тэхналогіяй штучнага інтэлекту (і, у многіх адносінах, гэта сапраўды свайго роду ІІ Назаўсёды). Было б так лёгка рабіць банкаўскія аперацыі ў банкаматах, проста адсканіраваўшы ваш твар для распазнавання, а не выкарыстоўваючы сакрэтны пін-код і банкаўскую картку. Было б так зручна зайсці ў прадуктовы магазін і рабіць пакупкі, проста выкарыстоўваючы свой твар як сродак для абазначэння вашага інтэрнэт-рахунку ў прадуктовай краме, з якога можна браць плату за любыя выбраныя вамі тавары.

Вы ведаеце трэніроўку.

Наступнае, што вы ведаеце, грамадства пачало выяўляць, што распазнаванне твараў - гэта не толькі салодкія на смак цукеркі і пахучыя ружы. Некаторыя з алгарытмаў распазнавання твараў на аснове штучнага інтэлекту дрэнна спраўляліся з тым, каб распазнаваць людзей па іх расе. Узнікла мноства іншых праблем, якія выклікаюць замяшанне і абуральных пытанняў, у тым ліку неад'емныя прадузятасці, звязаныя з гендэрам і іншымі фактарамі. Маё асвятленне тэм этыкі штучнага інтэлекту, якія ляжаць у аснове распазнавання твараў, глядзіце па спасылцы тут.

Справа ў тым, што існуе вялікая верагоднасць таго, што любы ІІ Назаўсёды таксама збіраецца перавозіць спадарожны багаж, які складаецца з AI для дрэннага. Ёсць некаторыя выпадкі, калі AI для дрэннага зусім дрэнна, і існуе мала выкупных якасцей, якія дазваляюць меркаваць, што ёсць хоць трохі ІІ Назаўсёды ўнутры. Увогуле, аднак, звычайна сістэма штучнага інтэлекту будзе мець падабенства абодвух ІІ Назаўсёды і AI для дрэннага. Першыя мы хацелі б заахвочваць, другія мы хацелі б прадухіліць, скараціць, змякчыць, а калі ўсё астатняе трывае няўдачу, злавіць і абясшкодзіць як мага хутчэй.

Вы можаце падумаць: так, усё гэта мае сэнс, і мы павінны ўважліва вывучаць штучны інтэлект на наяўнасць любых расавых і гендэрных прадузятасцей і любых відаў няроўнасці. Гэта было б правільным дзеяннем і дапамагло б грамадству пазбегнуць дрэннага і плённа збіраць дабро ІІ.

Верыце ці не, але ёсць яшчэ адзін фактар, які можна дадаць да спісу дзіўных рэчаў, загорнутых у штучны інтэлект, пра якія многія нават не здагадваліся, што яны ўваходзяць у стракатую тушонку штучнага інтэлекту.

Палітычныя прыхільнасці.

Нядаўнія даследаванні дэманструюць, што сістэмы штучнага інтэлекту могуць увасабляць (хоць і не антрапаморфна) мноства палітычных тэндэнцый, меркаванняў, пераваг і іншых падобных палітычных атрыбутаў і ўліванняў. Гэта, у сваю чаргу, можа паўплываць на тое, як працуе штучны інтэлект, напрыклад, на тое, што "вырашае" штучны інтэлект на аснове праграмавання штучнага інтэлекту.

Калі вы падаеце заяўку на пазыку ў Інтэрнэце і выкарыстоўваецца алгарытмічная сістэма прыняцця рашэнняў на аснове штучнага інтэлекту, вы часта паняцця не маеце, з чаго складаецца праграмаванне штучнага інтэлекту. Калі, скажам, вам адмовілі ў пазыцы, вы не можаце быць упэўнены, што штучны інтэлект пазбягаў выкарыстання вашай расы, полу ці іншых падобных фактараў, прымаючы рашэнне аб адмове.

Вы таксама не можаце быць упэўнены, што штучны інтэлект не задушыў ваш запыт на пазыку з-за сваіх палітычных прыхільнасцей.

Калі я заяўляю гэта такімі рэзкімі словамі, не варта празмерна раздуваць ідэю, лічачы, што ІІ разумны. Як я скажу далей, сёння ў нас няма разумнага ІІ. Кропка, кропка. Незалежна ад таго, якія дзікія загалоўкі вы бачыце, ведайце, што сёння няма нічога блізкага да разумнага ІІ. Мы нават не ведаем, ці магчыма дасягнуць разумення з дапамогай ІІ. Таксама няма ніякіх указанняў на тое, калі гэта адбудзецца і ці адбудзецца гэта калі-небудзь.

Вернемся да разгляданага пытання.

Цяпер, калі я зразумеў, што штучны інтэлект можа ўтрымліваць палітычныя прадузятасці, мы можам больш уважліва паглядзець, як гэта адбываецца і якім чынам палітычныя схільнасці могуць падступна праявіцца.

Акрамя таго, калі меркаванне аб тым, што штучны інтэлект можа ўбудоўваць у сябе палітычныя прыхільнасці, выклікае ў вас жудаснае засмучэнне або шок, запішыце гэта яшчэ адным прыкладам прабівання бездакорнай заслоны штучнага інтэлекту. Грамадства, відаць, дагэтуль прымала брэндынг вобразу штучнага інтэлекту як уключаючага вялікую нявіннасць і некранутую аўру нейтральнасці і раўнавагі.

Магчыма, мы перанялі гэта з іншых тыпаў машын. Здаецца, тостэрам не ўласцівыя прадузятасці па расе, полу і гэтак далей. Мы таксама не чакаем, што тостар будзе палітычна настроены. Тостар — тостар. Ён тлумачыцца як проста машына.

Прычына таго, што перспектыва тостара не вытрымлівае крытыкі, калі справа даходзіць да штучнага інтэлекту, заключаецца ў тым, што сістэма штучнага інтэлекту запраграмавана на тое, каб працягваць кагнітыўныя здольнасці. Такім чынам, гэта ставіць машыну ў тупік кагнітыўных праблем, такіх як увасабленне прадузятасцей і таму падобнае. Запэўніваю вас, мы даволі хутка выявім, што тостары на аснове штучнага інтэлекту багатыя прадузятасцямі і праблемамі.

Зручным спосабам адкрыць дзверы для разумення таго, як штучны інтэлект можа стаць палітычна прасякнутым, будзе зірнуць на выкарыстанне штучнага інтэлекту пры з'яўленні сапраўдных беспілотных аўтамабіляў на аснове штучнага інтэлекту. Мы можам ударыць двух зайцоў і вывучыць агульную і ўсёабдымную тэму штучнага інтэлекту, якая змяшчае палітычнае ўвасабленне, і зрабіць гэта ў ўзорным кантэксце таго, як гэта можа паўстаць у беспілотных аўтамабілях.

Але я хачу ўдакладніць, што палітычная прышчэпка ад штучнага інтэлекту - гэта асобная тэма, якая заслугоўвае належнага. Не варта памылкова пераплятаць штучны інтэлект беспілотных аўтамабіляў з палітычнымі аспектамі штучнага інтэлекту. Усе штучныя інтэлекты будуць мець палітычна неад'емныя магчымасці, а іх глыбіня і ступень будуць залежаць ад таго, як штучны інтэлект распрацаваны і выкарыстоўваецца.

Вось вартае ўвагі пытанне, над якім варта задумацца: Як штучны інтэлект прыйдзе да таго, каб унутрана пранікнуцца палітычнымі схільнасцямі, і ці можа гэта адбыцца нават у, здавалася б, апалітычнай сферы штучнага інтэлекту, які выкарыстоўваецца для новых беспілотных аўтамабіляў на аснове штучнага інтэлекту?

Дазвольце мне разабрацца з пытаннем, паколькі яно датычыцца беспілотных аўтамабіляў.

Па-першае, звярніце ўвагу, што ў сапраўдным самакіраваным аўтамабілі няма чалавека-кіроўцы. Майце на ўвазе, што сапраўдныя аўтамабілі кіруюцца праз сістэму кіравання AI. За рулём не патрэбны кіроўца-чалавек, а таксама не прадугледжана, каб чалавек кіраваў транспартным сродкам. Для майго шырокага і пастаяннага асвятлення аўтаномных транспартных сродкаў (АВ) і асабліва аўтамабіляў, якія працуюць з аўтамабілем, глядзіце спасылку тут.

Я хацеў бы дадаткова ўдакладніць, што маецца на ўвазе, калі я маю на ўвазе сапраўдныя аўтамабілі.

Разуменне ўзроўню самакіравання аўтамабіляў

Як удакладненне: сапраўдныя самакіравальныя машыны - гэта тое, што ШІ кіруе аўтамабілем цалкам самастойна, і падчас кіравання аўтамабілем няма дапамогі чалавека.

Гэтыя транспартныя сродкі без вадзіцеляў лічацца ўзроўнем 4 і 5 (гл. Маё тлумачэнне па гэтай спасылцы тут), у той час як машына, для якой чалавеку-кіроўцу неабходна сумеснае кіраванне рухамі, звычайна лічыцца на ўзроўні 2 або 3. Аўтамабілі, якія агульныя заданні кіравання рухам апісваюцца як паўаўтаномныя і звычайна ўтрымліваюць мноства аўтаматызаваных дапаўненняў, якія называюцца ADAS (пашыраныя сістэмы дапамогі вадзіцелю).

Яшчэ няма сапраўднага самакіравання аўтамабіля ўзроўню 5, пра які мы нават не ведаем, ці ўдасца гэтага дасягнуць і колькі часу спатрэбіцца, каб дабрацца.

У той жа час намаганні ўзроўню 4 паступова спрабуюць атрымаць нейкую цягу, праходзячы вельмі вузкія і выбарачныя выпрабаванні на грамадскіх дарогах, хаця існуюць спрэчкі наконт таго, ці трэба дазволіць гэта тэсціраванне (у эксперыменце мы ўсе марскія свінкі жыцця альбо смерці) Некаторыя сцвярджаюць, што яны адбываюцца на нашых шашах і праездах. Глядзіце маё асвятленне па гэтай спасылцы тут).

Паколькі паўаўтамабільныя машыны патрабуюць чалавека-вадзіцеля, прыняцце такіх тыпаў аўтамабіляў не будзе прыкметна адрознівацца ад кіравання звычайнымі транспартнымі сродкамі, таму няма нічога новага, каб асвятляць іх на гэтай тэме (праўда, як вы ўбачыце у адно імгненне, наступныя пункты, як правіла, дастасавальныя).

Для паўаўтамабільных машын вельмі важна, каб грамадскасць папярэджвала аб трывожным аспекце, які ўзнікае ў апошні час, а менавіта тым, што, нягледзячы на ​​тых людзей, якія кіроўцы размяшчаюць, засынаюць за рулём аўтамабіля 2-га або 3-га ўзроўню. Усім нам трэба пазбягаць увядзення ў зман веры ў тое, што вадзіцель можа адабраць іх увагу ад кіравання задачай падчас кіравання паўаўтамабільным аўтамабілем.

Вы нясеце адказнасць за кіраванне транспартным сродкам, незалежна ад таго, якая аўтаматызацыя можа быць перакінута на ўзровень 2 або 3.

Аўтамабілі і палітычныя прыхільнасці з убудаваным штучным інтэлектам

Для сапраўднага самакіравання аўтамабіляў узроўню 4 і ўзроўню 5 не будзе ўдзельнічаць у кіраванні аўтамабілем чалавека.

Усе пасажыры будуць пасажырамі.

AI робіць кіраванне.

Адзін з аспектаў, які трэба неадкладна абмеркаваць, цягне за сабой той факт, што ШІ, які ўдзельнічае ў сучасных сістэмах кіравання ШІ, не з'яўляецца разумным. Іншымі словамі, ШІ ў цэлым з'яўляецца сукупнасцю камп'ютэрнага праграмавання і алгарытмаў, і, напэўна, не ў стане разважаць гэтак жа, як і людзі.

Чаму гэты дадатковы акцэнт на AI не з'яўляецца разумным?

Таму што я хачу падкрэсліць, што, абмяркоўваючы ролю сістэмы кіравання ІІ, я не прыпісваю чалавечым якасцям ІІ. Звярніце ўвагу, што ў нашы дні існуе пастаянная і небяспечная тэндэнцыя да антрапамарфізацыі ІІ. Па сутнасці, людзі прызначаюць чалавечаму разуменню сённяшні ШІ, нягледзячы на ​​бясспрэчны і бясспрэчны факт, што такога ШІ пакуль няма.

З гэтым удакладненнем вы можаце сабе ўявіць, што сістэма кіравання аўтамабілем AI ніяк не можа "ведаць" пра грані кіравання. Ваджэнне і ўсё, што з гэтым звязана, трэба будзе запраграмаваць як частка апаратнага і праграмнага забеспячэння самакіравальнага аўтамабіля.

Давайце акунемся ў мноства аспектаў, якія ўзнікаюць у гэтай тэме.

Па-першае, важна ўсведамляць, што не ўсе аўтамабілі з ІІ аднолькавыя. Кожны вытворца аўтамабіляў і тэхналагічная фірма, якая займаецца самакіраваннем, прытрымліваецца свайго падыходу да распрацоўкі самакіраваных аўтамабіляў. Такім чынам, цяжка рабіць разгорнутыя заявы аб тым, што будуць рабіць або не рабіць сістэмы кіравання AI.

Акрамя таго, кожны раз, калі заяўляецца, што сістэма кіравання штучным інтэлектам не робіць якой -небудзь канкрэтнай справы, пазней гэта могуць абагнаць распрацоўшчыкі, якія фактычна запраграмавалі кампутар на такую ​​ж працу. Крок за крокам сістэмы кіравання AI штучна паступова ўдасканальваюцца і пашыраюцца. Існуючае сёння абмежаванне можа больш не існаваць у будучай ітэрацыі або версіі сістэмы.

Я спадзяюся, што гэта дае дастатковую колькасць засцярог, каб пакласці ў аснову таго, што я збіраюся расказаць.

Цяпер мы падрыхтаваны да глыбокага паглыблення ў палітычную дылему штучнага інтэлекту.

Коратка пакінем у баку аспекты беспілотнага аўтамабіля і давайце спачатку вывучым тэму штучнага інтэлекту, каб даведацца, як ён уключае палітычныя прыхільнасці. Самы просты спосаб для AI атрымаць палітычны характар ​​- гэта дзеянні распрацоўшчыкаў AI, якія ствараюць праграмнае забеспячэнне AI. Як людзі, яны могуць перанесці свае асабістыя палітычныя схільнасці ў тое, што яны запраграмуюць для праграмнага забеспячэння.

Калі сістэмы штучнага інтэлекту ўпершыню пачалі дэманстраваць розныя расавыя і гендэрныя прадузятасці, быў вялікі рэзананс, што гэта, напэўна, было вынікам распрацоўшчыкаў штучнага інтэлекту, якія распрацавалі гэтыя сістэмы. Былі абвінавачанні, што гэта быў мэтанакіраваны ўчынак распрацоўшчыкаў штучнага інтэлекту. Аднак іншыя выказалі здагадку, што распрацоўшчыкам штучнага інтэлекту не хапае разнастайнасці і, такім чынам, яны неасцярожна або бяздумна дазволілі перанесці свае існуючыя прадузятасці ў свае намаганні па праграмаванні штучнага інтэлекту.

Для многіх каманд па штучнаму інтэлекту гэта падштурхнула іх да таго, што яны сталі больш дасведчанымі аб забеспячэнні разнастайнасці сярод сваіх калег-распрацоўшчыкаў, у тым ліку пры даданні новых удзельнікаў у іх групы праграмавання. Акрамя таго, для павышэння дасведчанасці распрацоўшчыкаў штучнага інтэлекту аб разнастайнасці былі створаны спецыяльныя адукацыйныя курсы. Існуюць нават метадалогіі распрацоўкі штучнага інтэлекту, якія ахопліваюць аспекты разнастайнасці, каб дакладна накіроўваць праекты штучнага інтэлекту ў бок сачэння за прышчэпкай прадузятасцяў і няроўнасцей у іх сістэмы.

Хаця амаль ніхто яшчэ не ведае аб палітычнай прыхільнасці да штучнага інтэлекту, вялікая верагоднасць таго, што ён у канчатковым выніку стане больш вядомым і выкліча шумны шум. Зноў будзе пільны кантроль за распрацоўшчыкамі штучнага інтэлекту. Магчыма, некаторыя наўмысна праяўляюць свае палітычныя прыхільнасці, у той час як іншыя могуць рабіць гэта, не разумеючы, што яны гэта робяць.

Я адважуся сказаць, што меркаванне, што распрацоўшчыкі штучнага інтэлекту былі адзінай крыніцай унясення прадузятасцей у штучны інтэлект, не ўлічыла сукупнасць таго, адкуль узніклі прадузятасці штучнага інтэлекту. Паступовае ўсведамленне таго, што выкарыстанне машыннага навучання (ML) і глыбокага навучання (DL) стала прыкметным укладам ва ўнутраныя аспекты зрушэння штучнага інтэлекту.

Машыннае навучанне і глыбокае навучанне - гэта метады і тэхналогіі супастаўлення вылічальных шаблонаў.

Вы збіраеце даныя, якія хочаце перадаць у ML/DL, які потым з дапамогай вылічэнняў шукае матэматычныя заканамернасці ў прадстаўленым наборы даных. На падставе гэтых вылічаных шаблонаў ML/DL будзе выкарыстоўвацца, напрыклад, магчымасць распазнавання твараў. Для распазнання твараў мы можам дадаць кучу фатаграфій людзей, і ML/DL вылічыць характэрныя характарыстыкі таго, што робіць твары пазнавальнымі, такія як форма і памер носа, форма і памер рота і вуснаў. , форма і памер ілба і гэтак далей.

Гэты вылічальны падыход, здавалася б, па-за межамі любога тыпу зрушэння. Усё гэта толькі разлікі.

Ага, але памятайце, што мы дадаем выявы (ці што заўгодна) у ML/DL як частку "навучання" або вылічальнага супастаўлення шаблонаў. Што тычыцца распазнавання твараў, калі б мы перадавалі ў першую чаргу фатаграфіі, якія паказваюць людзей адной пэўнай расы, вялікая верагоднасць таго, што вылічальнае супастаўленне шаблонаў будзе адточваць гэтыя аспекты твару. Пазней, калі выказаць здагадку, што мы ўвядзем гэтую сістэму распазнавання твараў у шырокае выкарыстанне, тыя, хто яе выкарыстоўваў і належалі да іншай расы, могуць быць менш "распазнанымі" матэматычна, таму што шаблоны ML/DL сфарміраваны вакол расы, якая пераважна сустракалася падчас навучання набор.

Такім чынам, вы можаце выразна бачыць, як інакш «непрадузяты» матэматычны падыход ML/DL можа быць скажоным (ёсць і іншыя спосабы, але я згадваю толькі гэты вялікі). Ці распрацоўшчыкі штучнага інтэлекту наўмысна стварылі набор даных, які быў расава незбалансаваным? Я б выказаў здагадку, што гэта рэдка бывае наўмысным дзеяннем, хаця неўсведамленне таго, што яны гэта зрабілі, усё яшчэ не з'яўляецца дастатковым апраўданнем.

У наш час існуе рэзкае імкненне прымусіць тых, хто выкарыстоўвае ML/DL, больш уважліва ставіцца да таго, якія даныя яны выкарыстоўваюць для навучання і да якіх вынікаў гэта дае. На жаль, усе ўскочылі на падножку ML/DL, і многія з гэтых пачаткоўцаў або залётнікаў, якія прынялі мантыю ML/DL, робяць гэта, не ўсведамляючы прадузятасцяў, якія ўліваюцца. Магчыма, ёсць і дрэнныя акцёры, якія робяць гэта наўмысна, хоць будзем спадзявацца, што іх няшмат.

Я веру, што вышэйсказанае дапамагло вам азнаёміцца ​​з этычнымі аспектамі штучнага інтэлекту, звязанымі з унясеннем прадузятасцей у сучасны штучны інтэлект.

Ідзіце далей і паўтарыце ўсё, замяніўшы агульнае паняцце прадузятасці на канкрэтныя прыкметы палітычных прыхільнасцей. Я ўжо згадваў, што самі распрацоўшчыкі штучнага інтэлекту могуць відавочна ці ненаўмысна ўнесці свае палітычныя прыхільнасці ў тое, што робіць запраграмаваны штучны інтэлект. Іншы аспект, пра які я таксама згадаў, заключаецца ў тым, што для выкарыстання машыннага і глыбокага навучання існуе магчымасць выбару навучальных даных, якія могуць наўмысна або выпадкова перанесці шаблоны, якія адпавядаюць пэўнаму палітычнаму вымярэнню.

Што ж, я доўга разбіраюся ў гэтай калонцы (упс, TLDR, некаторыя з'едліва скажуць), таму я паспрабую коратка накідаць прыклад таго, як штучны інтэлект для беспілотнага аўтамабіля на аснове штучнага інтэлекту можа трапіць у гэтыя разнавіднасці чарвяточыны з палітычнай прыхільнасцю (для майго шырокага асвятлення такіх пытанняў у многіх маіх паведамленнях у калонках глядзіце спасылку тут).

Адна добра вядомая і часта абмяркоўваемая патэнцыйная праблема справядлівасці беспілотных аўтамабіляў са штучным інтэлектам датычыцца выкарыстання робатаксі і таго, хто будзе мець доступ да гэтага новага варыянту мабільнасці як паслугі. Занепакоенасць заключаецца ў тым, што толькі багатыя людзі змогуць дазволіць сабе карыстацца робатаксі, і, такім чынам, людзі з нізкім узроўнем даходу застануцца ўбаку ад надыходзячых эпох беспілотных аўтамабіляў (гл. падрабязную справаздачу аб гэтым па спасылцы тут ).

Ёсць яшчэ адзін паварот ад гэтай сумневы.

Уявіце сабе, што беспілотныя аўтамабілі блукаюць па горадзе і чакаюць запыту на паездку. Паступае запыт, і беспілотны аўтамабіль робатаксі пад'язджае, каб забраць гоншчыка. Гоншчык паказвае, куды ён хоча паехаць, а сістэма ваджэння штучнага інтэлекту пракладвае шлях да гэтага месца. Затым сістэма кіравання AI пераходзіць да кіравання аўтаномным транспартным сродкам да жаданага пункта прызначэння.

Здаецца, усё добра.

Вось выцвярэжлівы трапятанне выказалася.

Выкажам здагадку, што сістэма ваджэння AI вырашыла распрацаваць шлях, які пазбягае больш забітых раёнаў. Можна выказаць здагадку, што навігацыйная схема будзе грунтавацца толькі на аптымальным шляху, напрыклад, на найменшай адлегласці ці, магчыма, на самым кароткім часе. Можа, а можа і не.

Іншымі фактарамі можа быць імавернасць таго, што беспілотны аўтамабіль пройдзе праз месцы, якія можна лічыць крымінальнымі. Магчыма, небяспека для аўтаномнага транспартнага сродку і пасажыраў прымаецца пад увагу пры выбары шляху.

Ёсць пярэчанне, што беспілотныя аўтамабілі амаль заўсёды пазбягаюць больш збяднелых або прыгнечаных суполак. Здаецца, людзі, якія ездзяць на беспілотных аўтамабілях, ніколі не ўсведамляюць, што такія месцы існуюць у іх гарадах і мястэчках. Гэта, у сваю чаргу, як мяркуецца, прымусіла б іх не ведаць аб патрэбах такіх суполак. У дадатак да гэтага, тыя, хто жыве ў гэтых раёнах, рэдка могуць атрымаць магчымасць карыстацца беспілотным аўтамабілем, нават калі ён даступны. Пасярод іх не было б ніякіх роба-таксі, якія па разліку трымаліся па-за межамі гэтых абласцей.

Ці можа гэтая прадузятасць паўстаць з-за наўмыснага праграмавання ІІ распрацоўшчыкамі?

Можа быць, хоць і не абавязкова.

Магчыма, гэтая прадузятасць узнікае з-за выкарыстання машыннага і глыбокага навучання?

Вядома, гэта разгляданая магчымасць.

Сістэма кіравання штучным інтэлектам можа быць заснавана на ML/DL, які выкарыстоўвае даныя для навучання аб тым, куды рухацца далей пры нанясенні шляху. Калі б гэтыя даныя былі сфарміраваны вакол пазбягання пэўных абласцей, ML/DL, хутчэй за ўсё, выявіў бы такую ​​мадэль і пайшоў бы з ёй. Калі выказаць здагадку, што такія даныя будуць назапашвацца з цягам часу, калі беспілотныя машыны будуць назапашвацца, даныя, якія будуць выкарыстоўвацца для абнаўленняў і абслугоўвання, яшчэ больш умацуюць тыя самыя прыдуманыя шаблоны.

Можна сказаць, што ўзоры ўскладняюцца, калі выкарыстанне папярэдняга ўзору неаднаразова ўсталёўваецца на месца, у выглядзе снежнага камяка або эфекту пастаяннай спіралі.

У пэўным сэнсе вы можаце вытлумачыць, што гэтая ўяўная прадузятасць адносна таго, куды ездзіць, з'яўляецца прыкладам таго, як можа ўзнікнуць патэнцыйная палітычная тэндэнцыя штучнага інтэлекту. Адной з перспектыў было б дазволіць штучнаму інтэлекту не спыняцца ў гэтай прыхільнасці. Іншым было б перагледзець штучны інтэлект, каб наўмысна ўвайсці ў тыя вобласці, якія былі ўзгоднены з шаблонам па-за рамкамі дзеяння, што яшчэ раз можна сцвярджаць, што гэта, магчыма, палітычна арыентаваная пазіцыя, якая ўліваецца ў штучны інтэлект.

Увогуле, ІІ таксама экспанаты палітычная тэндэнцыя або, па меншай меры, так успрымаецца, незалежна ад таго, ці мела гэта нейкае падабенства (а па адчуваннях гэтага няма) пра палітыку рэчаў.

заключэнне

Ёсць шмат такіх прыкладаў, якія можна прывесці.

Я застануся з кантэкстам беспілотнага аўтамабіля і прывяду вам яшчэ адзін кароткі прыклад. Выкажам здагадку, што гоншчык просіць падвезці беспілотны аўтамабіль робата-таксі са штучным інтэлектам і робіць гэта, каб дабрацца да палітычнага мітынгу, які праходзіць у будынку суда ў цэнтры горада. Сістэма ваджэння AI адмаўляецца даставіць гоншчыка туды.

Чаму?

Уявіце сабе, што раней сабраныя даныя пра палітычныя акцыі ў якасці пункта прызначэння паказвалі, што беспілотныя аўтамабілі трапляюць у затор. Выкажам здагадку, што гэта азначала, што беспілотныя аўтамабілі менш здольныя зарабляць грошы на гоншчыках з-за доўгага часу чакання ў дарожным руху і меншай стаўкі за гэты час чакання. Такі алгарытм штучнага інтэлекту, як выкарыстанне ML/DL, можа з дапамогай вылічэнняў вызначыць, што наведванне палітычных мітынгаў - гэта кепскі выбар для заробку грошай. Таму, калі з'яўляюцца запыты на робатаксі, каб паехаць на палітычную акцыю, у заяўцы адмаўляюць.

Я думаю, вы бачыце, як гэта можна разглядаць як палітычна матываваны выбар. Нягледзячы на ​​тое, што штучны інтэлект можа непасрэдна не выкарыстоўваць нейкія палітычныя матывы, у любым выпадку здаецца, што ён робіць палітычны выбар.

Вы можаце паспрачацца, што ў бліжэйшы час мы сутыкнемся з палітычнай рэакцыяй адносна палітычных прыхільнасцей штучнага інтэлекту. Адзначце мае словы!

Дарэчы, знакаміты грэцкі паэт і драматург Арыстафан сцвярджаў, што пад кожным каменем хаваецца палітык. У сучасным свеце ў кожнай сістэме штучнага інтэлекту існуе несумнеўная верагоднасць таго, што ў ёй ёсць палітычная прыхільнасць, незалежна ад таго, ведаеце вы пра гэта ці не.

Лепш пачні пераварочваць гэтыя камяні.