Прычыны рэгулявання алгарытмаў ІІ прасцей, чым вы думаеце

Вы баіцеся, што штучны інтэлект захопіць свет? Многія так і робяць. Ілон Маск хвалюецца DeepMind перамагае людзей у перадавой гульні Go у 2017 г. членам Кангрэса, еўрапейскім палітыкам (гл Еўрапейскі падыход да штучнага інтэлекту), і навукоўцы, ёсць такое адчуванне, што гэта дзесяцігоддзе, каб сур'ёзна паставіцца да штучнага інтэлекту, і яно набірае сілу. Аднак не па прычынах, якія вы маглі б падумаць, і не з-за якой-небудзь цяперашняй пагрозы.

Вось тут і ўступаюць алгарытмы. Вы можаце спытаць, што такое алгарытм? Самы просты спосаб падумаць пра гэта як пра набор інструкцый, якія машыны могуць зразумець і на якіх можна вучыцца. Мы ўжо можам загадаць машыне разлічваць, апрацоўваць даныя і разважаць структураваным аўтаматызаваным спосабам. Аднак праблема ў тым, што пасля таго, як гэтыя інструкцыі будуць дадзены, машына будзе іх выконваць. Пакуль што справа ў гэтым. У адрозненне ад людзей, машыны выконваюць інструкцыі. Яны дрэнна вучацца. Але як толькі яны гэта зробяць, яны могуць выклікаць праблемы.

Я не хачу весці сенсацыйную аргументацыю наконт ідэі таго, што аднойчы кампутары пераўзыдуць чалавечы інтэлект, больш вядомую як аргумент сінгулярнасці (гл. артыкул філосафа Нью-Йоркскага універсітэта Дэвіда Чалмерса разважанні па тэме.) Хутчэй, вытворчасць можа быць лепшым прыкладам таго, чаму алгарытмы штучнага інтэлекту пачынаюць мець большае значэнне для шырокай грамадскасці. Можна баяцца, што машыны значна паскораць сваё майстэрства за наш кошт. Не абавязкова па нейкіх прасунутых развагах, а з-за аптымізацыі ў межах таго, што кажа алгарытм.

Вытворчасць - гэта стварэнне рэчаў. Але калі машыны робяць рэчы, мы павінны звярнуць увагу. Нават калі тое, што робяць машыны, простае. Я растлумачу чаму.

Ад дажджавых ботаў да мабільных тэлефонаў і назад

Скажам, фабрыка вырабляе плаўкі. Я люблю дажджавыя боты, таму што я вырас у раёне Нарвегіі, дзе часта ідуць дажджы; Я люблю бываць на вуліцы, падпарадкоўваючыся мноству элементаў прыроды. Nokia вырабіла дажджавыя чаравікі, у якіх я вырас. Так, Nokia, якую мы сёння ведаем як вытворца электронікі, вырабляла гумовыя боты. Чаму гэты ключ? Таму што як толькі вы нешта робіце, вам наканавана захацець палепшыць. Гэта мае сэнс. Можна сказаць, што гэта чалавечая прырода.

Тое, што здарылася з Nokia, добра вядома і выглядае прыблізна так: першапачаткова папяровая фабрыка, калі я быў дзіцем, вытворчасць гумовых ботаў (і шын) была асабліва паспяховай для кампаніі. Аднак яны ўбачылі і далейшыя магчымасці. Такім чынам, у нейкі момант у 1980-х гадах яны пераключыліся на электроніку і хутка змянілі фабрыкі, стварыўшы вялікую структуру мясцовых пастаўшчыкоў, калі пачалі вырабляць мабільныя тэлефоны. Гэта паклала пачатак рэвалюцыі мабільнай сувязі, якая пачалася ў Скандынавіі і распаўсюдзілася на астатні свет. Зразумела, многія напісалі гісторыю Nokia ў 1990-я гады (гл Сакрэты фінскага цуду: рост Nokia).

Мой прыклад просты. Магчыма, занадта проста. Але думайце пра гэта так. Калі вялікая кампанія можа хутка перайсці ад вытворчасці паперы для пісьма да ботаў, якія палягчаюць знаходжанне пад дажджом, і, нарэшце, да сотавых тэлефонаў, якія змяняюць спосаб зносін паміж людзьмі: наколькі лёгкім будзе наступны крок? Выкажам здагадку, што кампанія, якая вырабляе сотавыя тэлефоны, вырашыла стварыць нанаробатаў, і, магчыма, яны ўзляцяць праз дзесяць гадоў, змяніўшы чалавецтва з дапамогай мізэрных машын, якія аўтаномна бегаюць паўсюль, здольных збіраць і змяняць чалавечы вопыт. Што, калі гэта адбудзецца без уліку таго, як мы хочам, каб гэта адбылося, каго мы хочам быць галоўным і канчатковых мэтаў?

Сцвярджаць, што робаты свядома дапамаглі Nokia вырашыць вырабляць мабільныя тэлефоны, было б нацяжкай. Але прызнанне таго, што тэхналогіі адыгралі ролю ў тым, што фінская сельская мясцовасць на яе паўночным беразе думала, што яны могуць атрымаць сусветнае панаванне ў новай індустрыі, адыгрывае значную ролю.

Гісторыя Nokia не была такой вясёлкавай за апошняе дзесяцігоддзе, улічваючы, што яны не ўлічылі з'яўленне праграмных аперацыйных сістэм iOS і Android. Цяпер, у выніку, Nokia больш не вырабляе тэлефоны. У невялікай гісторыі вяртання цяпер яны ствараюць сеткавую і тэлекамунікацыйную інфраструктуру, рашэнні для бяспекі сеткі, маршрутызатары Wi-Fi, разумнае асвятленне і разумныя тэлевізары (гл. Гісторыя вяртання Nokia). Nokia ўсё яшчэ вырабляе рэчы, гэта праўда. Адзінае назіранне, якое варта зрабіць, гэта тое, што Nokia, здаецца, заўсёды любіць змешваць рэчы, якія яны робяць. Нават вытворчыя рашэнні людзей часам цяжка зразумець.

Вытворчасць азначае рабіць рэчы, і рэчы сапраўды развіваюцца. У цэлым тое, што мы вырабляем сёння, змянілася ў параўнанні з тым, што было ўсяго дзесяць гадоў таму. 3D-прынтары дэцэнтралізавалі вытворчасць многіх перадавых прадуктаў як у прамысловасці, так і ў быце. Наступстваў 3D-друку, якія змяняюць жыццё, яшчэ не адбылося. Мы не ведаем, ці будзе гэта працягвацца, але мы ведаем, што ўвага FDA накіравана на рэгуляванне вытворчасці прадуктаў (гл. тут) напрыклад, надрукаваныя таблеткі або медыцынскія прыборы, відавочныя праблемы з інтэлектуальнай уласнасцю і адказнасцю або праблемы, звязаныя з магчымасцю друкаваць агнястрэльную зброю. У канчатковым рахунку, палітычная дыскусія аб тым, якія негатыўныя наступствы 3D-друк можа мець акрамя гэтага, не існуе, і мала хто з нас папрацаваў падумаць пра гэта.

Я не кажу, што 3D-друк сама па сабе небяспечная. Магчыма, гэта дрэнны прыклад. Тым не менш рэчы, якія першапачаткова выглядаюць штодзённымі, могуць змяніць свет. Ёсць шмат прыкладаў: наканечнік стралы паляўнічага/збіральніка з металу, які распачынае войны, рытуальныя маскі, якія абараняюць нас ад COVID-19, цвікі, якія будуюць хмарачосы, рухомыя друкарскія станкі, якія (усё яшчэ) запаўняюць нашы фабрыкі друкаванай паперай і сілкуюць выдавецкі бізнес, лямпачкі, якія дазваляюць бачыць і працаваць уначы, я мог бы працягваць. Ніхто з тых, каго я ведаю, не сядзеў у канцы 1800-х гадоў і не прадказаў, што Nokia перанясе сваю вытворчасць з паперы на гуму і электроніку, а потым ад сотавых тэлефонаў. Магчыма, яны павінны былі.

Людзі дрэнна прадказваюць крокавыя змены, працэс, калі адна змена вядзе да новых змен, і раптам усё кардынальна адрозніваецца. Мы яшчэ не разумеем гэты працэс, таму што ў нас мала практычных ведаў пра экспанентныя змены; мы не можам гэта ўявіць, вылічыць або зразумець. Аднак зноў і зноў гэта нас дзівіць. Пандэміі, рост насельніцтва, тэхналагічныя інавацыі ад кнігадрукавання да робататэхнікі - гэта звычайна б'е па нас без папярэджання.

Фокус футурызму не ў тым, калі, а ў тым, калі. На самай справе можна было б прадбачыць змены, проста выбраўшы некаторыя новыя метады вытворчасці і заявіўшы, што яны стануць больш распаўсюджанымі ў будучыні. Гэта досыць проста. Самае складанае - дакладна высветліць, калі і асабліва як.

Сашчэпкі - не праблема

Яшчэ раз разгледзім мой прыклад з фабрыкай, але на гэты раз уявіце, што машыны адказваюць за мноства рашэнняў, не за ўсе рашэнні, але за вытворчыя рашэнні, такія як аптымізацыя. У сваёй кн Супервыведка, гуманіст-антыўтапія з Оксфардскага універсітэта Нік Бострам уявіў сабе алгарытм аптымізацыі штучнага інтэлекту, які працуе на фабрыцы сашчэпак. У нейкі момант, кажа ён, уявіце сабе, што машына разважае, што навучыцца адцягваць усё большыя рэсурсы на задачу рацыянальна, у выніку паступова ператвараючы наш свет у сашчэпкі і супраціўляючыся нашым спробам выключыць гэта.

Нягледзячы на ​​​​​​тое, што ён разумны хлопец, прыклад Бострама даволі тупы і ўводзіць у зман (але запамінальны). Па-першае, ён не можа растлумачыць той факт, што людзі і робаты больш не з'яўляюцца асобнымі адзінкамі. Мы ўзаемадзейнічаем. Большасць разумных робатаў ператвараюцца ў коботов або робатаў-супрацоўнікаў. У людзей будзе шмат шанцаў выправіць машыну. Нягледзячы на ​​гэта, яго асноўны пункт застаецца. У нейкі момант можа адбыцца крокавая змена, і калі гэтая змена адбудзецца досыць хутка і без належнага кантролю, кантроль можа быць страчаны. Але гэты экстрэмальны вынік выглядае крыху надуманым. У любым выпадку, я згодны, нам трэба рэгуляваць людзей, якія працуюць з гэтымі машынамі, і патрабаваць, каб работнікі заўсёды былі ў курсе, адпаведным чынам навучаючы іх. Такое навучанне не ідзе добра. У цяперашні час гэта займае занадта шмат часу, і неабходныя спецыяльныя навыкі як для навучання, так і для таго, каб прайсці навучанне. Ведаю адно. У будучыні самыя розныя людзі будуць кіраваць робатамі. Тыя, хто гэтага не зробіць, будуць даволі бяссільнымі.

Пашырэнне людзей лепш, чым бяздумная аўтаматызацыя, незалежна ад таго, калі мы ніколі не зліемся цалкам з машынамі. Гэтыя два паняцці лагічна адрозніваюцца. І людзі, і робаты могуць затрымацца на аўтаматызацыі дзеля самой аўтаматызацыі. Гэта нанясе вялікую шкоду вытворчасці ў будучыні. Нават калі ён не вырабляе робатаў-забойцаў. Я лічу, што зліццё адбудзецца праз сотні гадоў, але справа не ў гэтым. Нават калі засталося ўсяго трыццаць гадоў, самаходныя машыны, якія працуюць па спрошчаных алгарытмах, губляюць кантроль, такі сцэнар ужо адбываецца ў цэху. Некаторым з гэтых машын па трыццаць гадоў і яны працуюць на старых запатэнтаваных сістэмах кіравання. Іх галоўная задача не ў тым, што яны прасунутыя, а наадварот. Яны занадта спрошчаныя, каб мець магчымасць мець зносіны. Гэта не праблема заўтрашняга дня. Гэта ўжо існуючая праблема. Мы павінны адкрыць на гэта вочы. Падумайце аб гэтым, калі ў наступны раз надзенеце гумовыя боты.

У мяне яшчэ захаваліся чаравікі Nokia 1980-х. У іх ёсць дзіркі, але я захоўваю іх, каб нагадваць сабе, адкуль я і колькі я прайшоў. Дождж таксама працягвае ісці, і пакуль там досыць чыста, я не хачу лепшага выпраўлення, чым гэтыя боты. Зноў жа, я чалавек. Робат, як мяркуецца, ужо рушыў бы далей. Цікава, што такое AI-версія Rainboots? Гэта не мабільны тэлефон. Гэта не датчык дажджу. Гэта ашаламляе розум.

Лічбавыя боты сёння азначаюць, што вы можаце персаналізаваць іх, таму што на іх надрукаваны 3D дызайн. Ёсць віртуальныя чаравікі, якія існуюць толькі як NFT (незаменныя токены), якія можна прадаваць і гандляваць. Сёння лепшыя віртуальныя красоўкі каштуюць 10,000 XNUMX долараў (гл Што такое красоўкі NFT і чаму яны каштуюць 10,000 XNUMX долараў?). Я іх не баюся, але ці варта? Калі віртуальны свет стане цаніцца больш, чым фізічны, магчыма, я зраблю гэта. Або мне варта пачакаць і хвалявацца, пакуль уласны аватар штучнага інтэлекту не купіць уласную загрузку NFT, каб справіцца з «дожджом»? Калі мы будуем алгарытмы паводле ўласнага вобразу, больш верагодна, што штучны інтэлект будзе добры ў рэчах, у якіх мы хацелі б быць добрымі, але звычайна не ўмеем, такіх як купля акцый, наладжванне верных сяброўскіх адносін (магчыма, з машынамі і людзьмі) і запамінанне рэчы. Індустрыяльны метасусвет можа быць надзіва складаным - поўным лічбавых двайнят, якія імітуюць наш свет і пераўзыходзяць яго ў плённых адносінах - або ён можа быць шакавальна простым. Можа, абодва. Мы проста яшчэ не ведаем.

Нам трэба рэгуляваць алгарытмы штучнага інтэлекту, таму што мы не ведаем, што нас чакае за вуглом. Гэта дастатковая прычына, але тое, як мы гэта робім, гэта больш доўгая гісторыя. Дазвольце мне яшчэ адно кароткае назіранне, магчыма, усе фундаментальныя алгарытмы павінны быць агульнадаступнымі. Прычына ў тым, што калі не, то немагчыма даведацца, да чаго яны могуць прывесці. Верхнія даволі вядомыя (гл 10 лепшых алгарытмаў машыннага навучання), але няма агульнага агляду таго, дзе і як яны будуць выкарыстоўвацца. Варта асабліва ўважліва сачыць за некантраляванымі алгарытмамі (гл Шэсць магутных варыянтаў выкарыстання машыннага навучання ў вытворчасці), ці выкарыстоўваюцца яны для прагназавання тэхнічнага абслугоўвання або якасці, для мадэлявання вытворчага асяроддзя (напрыклад, лічбавых двайнят) або для стварэння новых канструкцый, пра якія чалавек ніколі не падумае. У сучасным ландшафце гэтыя некантралюемыя алгарытмы звычайна ўяўляюць сабой так званыя штучныя нейронавыя сеткі, якія спрабуюць імітаваць чалавечы мозг.

Я пачаў турбавацца аб нейронавых сетках толькі таму, што мне цяжка зразумець іх логіку. Праблема ў тым, што большасць экспертаў, нават тыя, хто іх разгортвае, не разумеюць, як гэтыя алгарытмы пераходзяць ад кроку да кроку або ўзроўню да ўзроўню. Я не лічу метафару «схаваных слаёў», якая часта выкарыстоўваецца, вельмі трапнай ці вельмі смешнай. Для пачатку не павінна быць ніякіх схаваных пластоў у вытворчасці, у аўтаматызаваным зборы падаткаў, у рашэннях аб прыёме на працу або пры паступленні ў каледжы. Магчыма, вам таксама варта падумаць пра тое, каб патурбавацца? Адно можна сказаць напэўна: людзі і машыны, ствараючы рэчы разам, зменяць свет. Гэта ўжо было, шмат разоў. Ад паперы да дажджавых ботаў і слаёў сучаснага штучнага мозгу, нішто не павінна заставацца недаследаваным. Мы не павінны хавацца ад таго простага факту, што з мноства дробных змен можа раптам з'явіцца большая.