У Tesla і іншых буйных тэхналагічных кампаніях праблемы выклікаюць не машыны, а здагадкі, якія стаяць за імі

Новыя тэхналогіі заўсёды выводзяць знерваванасць. У 370 годзе да нашай эры Платон разважаў у сваёй кнізе Фэдрус што ўзмацненне «тэндэнцыі» да пісьма прымусіць мужчын страціць усю сваю захаваную мудрасць. У 1880-х гадах электрычныя кнопкі больш за ўсё нас баяліся губляем сваю творчасць дазваляючы кнопцы выконваць заданне за нас. У нашым пакаленні быў глыбокі страх, што любы кантакт з відэагульнямі сапсуецца дзіцячыя мазгі. Такія тэорыі часта ў рэшце рэшт аказваюцца памылковымі. Але часам тое, што мы спадзяваліся застацца ў сферы навуковай фантастыкі, становіцца рэальнасцю.

За апошнія некалькі месяцаў у нас было два вельмі сур'ёзныя напаміны аб небяспецы нястрымнага ўкаранення тэхналогій. Нашы горшыя кашмары спраўдзіліся, і жыццям быў нанесены непапраўны ўрон:

• Праз некалькі гадзін пасля таго, як лідэр Tesla Ілон Маск рэкламаваў іх беспілотныя аўтамабілі ў Twitter, Tesla ў аўтаномным рэжыме вырашыла спыніцца на баку Bay Bridge, 4-палоснай хуткаснай вуліцы і стаў прычынай ДТЗ з удзелам 8 аўтамабіляў пацярпелі 9 чалавек, у тым ліку 2-гадовы дзіця. Гэта адно з сотняў няшчасных выпадкаў, якія былі выкліканы сістэмамі беспілотнага кіравання Tesla, якія прывялі да 19 смерцяў з 2016 года.
• Рэндал Рыд накіроўваўся на запозненую вячэру да Дня падзякі са сваёй мамай, калі паліцыя спыніла яго і пасадзіла ў турму на тыдзень пасля праграмнае забеспячэнне для супастаўлення твараў пазначыла яго як падазраванага у справе аб крадзяжы раскошнага кашалька ў Луізіяне. Адзіная праблема? Ён ніколі не ступаў у штат. Але 28-гадовы жыхар Джорджыі з'яўляецца афраамерыканцам, і праграмнае забеспячэнне для распазнання твараў падвяргаецца шырокай крытыцы за яго няздольнасць дакладна адрозніваць чорныя твары.

«Мне сказалі, што ў мяне ёсць ордэр з Джэферсана Пэрыша. Я сказаў: «Што такое прыход Джэферсана?» Рыд адзначае AP. «Я ніколі ў жыцці не быў у Луізіяне. Потым сказалі, што гэта за крадзеж. Так што я не толькі не быў у Луізіяне, але і не краду».

Магчыма, не ў абарону Ілона Маска, але ў якасці тлумачэння, часта адзначаў ён што яго альтруістычная мэта - у канчатковым выніку паменшыць колькасць дарожна-транспартных здарэнняў і смерцяў, зрабіўшы машыны разумнейшымі за людзей. І што, каб зрабіць гэтыя машыны разумнейшымі, ім можа спатрэбіцца рухацца хутка (літаральна) і ламаць некаторыя рэчы (таксама, літаральна) на рэальных дарогах.

Тут можна прытрымлівацца яго мэтам - больш бяспечным дарогам - але аспрэчыць яго метады - эксперыменты на людзях. Мы перайшлі ад выпрабаванняў лекаў на людзях - без іх згоды, у выпадку нацысцкая Германія і Таскджи «даследаванні» — для пацукоў, якія не могуць даць згоду — для такіх галін прамысловасці, як касметыка, якія вучацца тэсціраваць прадукты без цаны жыццяў людзей, жывёл ці іншага. Ці можна праверыць тэхналогію, не прычыніўшы шкоды людзям? Тут мы — і дзяржаўныя рэгулюючыя органы — можам зрабіць выбар адносна таго, якім відам эксперыментаў мы гатовыя падвяргаць нашых грамадзян.

У выпадку са штучным інтэлектам была выказана абгрунтаваная занепакоенасць тым, што ў кантэксце тэхнічных каманд, якім звычайна не хапае разнастайнасці нашага глабальнага свету, дзе больш за 85% людзей Жывуць у Азіі, Афрыцы і Лацінскай Амерыцы, ёсць ст магчымасць значнай шкоды, што можна зрабіць, калі тэхналогіі не могуць уключыць разнастайнасць у свой дызайн. Такія людзі, як Тимнит Гебру с Чорны ў ІІ робяць цяжкую працу, спрабуючы прымусіць людзей, якія стаяць за машынамі, быць адказнымі, але гэта робяць сутыкнуўся з вялікай колькасцю сустрэчных ветраў улічваючы эканамічныя сілы, якія кантралююць вялікую частку гэтых даследаванняў.

Нам не трэба вяртацца да коней і калясак, калі мы адмовімся ад беспілотных аўтамабіляў. Тое, што мы МОЖАМ зрабіць, гэта выступаць за новы дэвіз тэхналогій на наступнае дзесяцігоддзе: «рухайцеся павольна і менш ламайцеся».

Падобным чынам пісаў Германт Тэная ў Harvard Business Review, «Мінімум жыццяздольных прадуктаў» павінен быць заменены на «мінімум дабрадзейных прадуктаў» - новыя прапановы, якія правяраюць уплыў на зацікаўленых бакоў і ўбудоўваюць абарону ад патэнцыйнай шкоды». Ён прапануе восем пытанняў, якія павінны задаць сучасныя тэхналагічныя прадпрымальнікі, у тым ліку:

• Якія сістэмныя, грамадскія змены вы імкнецеся стварыць сваім прадуктам?
• Як вы будзеце падтрымліваць годнасць вашага прадукту?
• Якая ваша аснова для адказнага выкарыстання даных і штучнага інтэлекту?
• Як вы вызначаеце і прасоўваеце разнастайнасць у кантэксце вашага бізнесу?

Прадпрымальнікі могуць паразважаць над гэтымі пытаннямі для сваёй прадукцыі. І тады для спажыўцоў, перш чым павярнуць свой твар да апошняй, лепшай службы стварэння аватарак, можа быць разумна добра падумаць аб тым, як гэта можа вярнуцца да вас. Нам не трэба ігнараваць тэхналогіі, але, магчыма, мы можам навучыцца быць значна больш свядомымі спажыўцамі тэхналогій.