Узрушэнні ў галіне штучнага інтэлекту: вядомы гуру штучнага інтэлекту прапануе ашаламляльныя «камп'ютэры смерці», якія таксама ўлічваюць этыку штучнага інтэлекту і закон аб штучным інтэлекте

Вось тое, пра што вы, напэўна, яшчэ не думалі: Смяротныя кампутары.

Але, магчыма, вы павінны быць.

П'янлівая тэма ўзнікла на нядаўняй і ў цэлым даволі вядомай штогадовай канферэнцыі па ІІ, якая асабліва засяроджана на з'яўленні нейронавых сетак і машыннага навучання, а менавіта на канферэнцыі па нейронавых сістэмах апрацоўкі інфармацыі (вядомай інсайдэрамі як NeurIPS). Запрошаны асноўны дакладчык і даўні гуру штучнага інтэлекту Джэфры Хінтан выступіў з інтрыгуючым і, магчыма, супярэчлівым сцвярджэннем, што мы павінны думаць пра кампутары ў кантэксце смяротнага і несмяротнага.

Я буду звяртацца да гэтага прыкметнага сцвярджэння двума спосабамі, якія на першы погляд неабавязкова будуць здавацца звязанымі паміж сабой, але пасля невялікага дадатковага высвятлення яны стануць больш выразна звязаныя паміж сабой у дачыненні да спрэчак паміж смяротным і несмяротным.

Дзве тэмы:

1) Інтэгральнае аб'яднанне як апаратнага, так і праграмнага забеспячэння для механізацыі штучнага інтэлекту, а не ў якасці асобных і асобных саюзнікаў

2) Перадача або перагонка фармулёвак машыннага навучання з адной мадэлі штучнага інтэлекту на іншую, якая робіць гэта без патрабавання і жадання (ці нават магчыма іншым чынам) прамога поўнага чыстакроўнага капіравання

Усё гэта мае сур'ёзныя меркаванні для ІІ і будучага кірунку развіцця ІІ.

Акрамя таго, існуе мноства вельмі складаных праблем, звязаных з этыкай штучнага інтэлекту і законам аб штучным інтэлекце. Гэтыя тыпы тэхналагічных дасягненняў, прадугледжаных штучным інтэлектам, звычайна аб'ядноўваюцца на чыста тэхналагічнай аснове задоўга да таго, як з'явіцца ўсведамленне таго, што гэта таксама можа мець вартыя ўвагі наступствы для этычнага штучнага інтэлекту і права штучнага інтэлекту. У пэўным сэнсе, як правіла, кот ужо з мяшка, або конь з хлява, перш чым абудзіцца, што этыцы штучнага інтэлекту і праву аб штучным інтэлекце трэба прыцягнуць належную абачлівасць.

Што ж, давайце разарвём гэты запознены цыкл думак і прыступім да гэтай справы на першым паверсе.

Для тых з вас, хто ў цэлым цікавіцца апошнімі ідэямі, якія ляжаць у аснове этыкі штучнага інтэлекту і права штучнага інтэлекту, вы можаце знайсці інфарматыўныя і натхняльныя матэрыялы майго пастаяннага і шырокага асвятлення на спасылка тут і спасылка тут, Проста назваць некалькі.

Я збіраюся спачатку расказаць пра спалучэнне абсталявання і праграмнага забеспячэння. Дыскусія і аналіз тэмы будуць адбывацца рука аб руку. Далей я закрану пытанне капіравання або некаторыя скажам перагонка найважнейшыя элементы сістэмы машыннага навучання штучнага інтэлекту ад аднаго штучнага інтэлекту да нядаўна распрацаванага штучнага інтэлекту ў якасці мэты.

Давайце пачнем.

Аб'яднанне абсталявання і праграмнага забеспячэння для штучнага інтэлекту

Вы, напэўна, ведаеце, што ў цэлым канструкцыя кампутараў такая, што ёсць апаратны бок рэчаў і асобна ёсць праграмны бок рэчаў. Калі вы купляеце штодзённы ноўтбук або настольны камп'ютар, ён тлумачыцца як вылічальная прылада агульнага прызначэння. У камп'ютэры ёсць мікрапрацэсары, якія выкарыстоўваюцца для запуску і выканання праграмнага забеспячэння, якое вы можаце набыць або напісаць самастойна.

Без якога-небудзь праграмнага забеспячэння для вашага кампутара, гэта кавалак металу і пластыка, які ў асноўным не прынясе вам карысці, акрамя як прэс-пап'е. Некаторыя сказалі б, што праграмнае забеспячэнне з'яўляецца каралём і кіруе светам. Вядома, калі ў вас няма апаратнага забеспячэння для запуску праграмнага забеспячэння, праграмнае забеспячэнне не прынясе вялікай карысці. Вы можаце напісаць колькі заўгодна радкоў кода, але пакуль праграмнае забеспячэнне не будзе выкарыстоўвацца праз камп'ютар, сфармуляваны зыходны код будзе такім жа хісткім і нелятаючым, як цудоўны паэтычны твор або захапляльны дэтэктыўны раман.

Дазвольце мне на момант пераключыцца на іншы праспект, які можа здацца далёкім (гэтага не будзе).

Мы часта спрабуем правесці аналогіі паміж тым, як працуюць кампутары і як працуе чалавечы мозг. Гэтая спроба правесці канцэптуальныя паралелі вельмі зручная. З улікам сказанага, вы павінны быць асцярожнымі, не перашчыруючы з гэтымі аналогіямі, бо параўнанне, як правіла, ламаецца, калі вы набліжаецеся да дробных дэталяў.

Ва ўсякім разе, дзеля дыскусіі, вось аналогія, якая часта выкарыстоўваецца.

Сам мозг неафіцыйна часам называюць мокры посуд. Гэта кідкі спосаб сфармуляваць рэчы. Мы ведаем, што камп'ютары складаюцца з апаратнага і праграмнага забеспячэння, таму разумна выкарыстаць частку манет "посуд", каб апісаць, што складае мозг. Магутны і таямнічы мозг, размешчаны ў нашых нагах, лунае вакол, у думках пралічваючы ўсе нашы ўчынкі (некаторыя добрыя, у той час як некаторыя з нашых думак відавочна не напоўнены дабром).

Пры сярэдняй вазе ўсяго каля трох фунтаў мозг з'яўляецца выдатным органам. Нейкім чынам, і мы яшчэ не ведаем, як, мозг здольны выкарыстоўваць каля 100 мільярдаў нейронаў і, магчыма, ад 100 да 1,000 трыльёнаў узаемасувязей або сінапсаў, каб рабіць усё, што мы думаем за нас. Як біялагічныя і хімічныя ўласцівасці мозгу даюць пачатак інтэлекту? Ніхто не можа сказаць дакладна. Гэта квэст стагоддзяў.

Я пытаюся ў вас вось што, мозг нібыта толькі апаратны, ці гэта і апаратнае, і праграмнае забеспячэнне ў спалучэнні?

Нудл на гэтай галаваломцы.

У вас можа ўзнікнуць спакуса сцвярджаць, што мозг - гэта проста абсталяванне (у агульным сэнсе). Гэта орган цела. Сапраўды гэтак жа можна сказаць, што сэрца - гэта абсталяванне, мачавы пузыр - гэта абсталяванне і гэтак далей. Усе яны з'яўляюцца механізмамі, падобнымі да таго, калі мы гаворым пра артэфакты, якія маюць фізічную форму і выконваюць фізічна звязаныя дзеянні.

Дзе тады праграмнае забеспячэнне, якое кіруе людзьмі?

Я адважуся выказаць здагадку, што мы ўсе ў значнай ступені згодныя з тым, што «праграмнае забеспячэнне» чалавецтва нейкім чынам знаходзіцца ў мозгу. Крокі, неабходныя для таго, каб прыгатаваць яйка або паправіць прабітую шыну, - гэта інструкцыі, якія ўвасоблены ў нашым мозгу. Выкарыстоўваючы згаданую раней камп'ютэрную аналогію апаратнага і праграмнага забеспячэння, наш мозг як бы з'яўляецца часткай апаратнага забеспячэння, з дапамогай якога мы даведаемся пра свет, а інструкцыі аб тым, што рабіць, "запускаюцца" і "захоўваюцца" ў нашым мозгу.

На кампутары мы можам лёгка паказаць на абсталяванне і сказаць, што гэта апаратнае забеспячэнне. Мы можам мець спіс зыходнага кода і паказваць на спіс праграмнае забеспячэнне. У цяперашні час мы ў электронным выглядзе загружаем праграмнае забеспячэнне ў Інтэрнэце і ўсталёўваем яго на нашы ноўтбукі і смартфоны. У даўнія часы мы выкарыстоўвалі дыскеты і перфакарты для захоўвання нашага праграмнага забеспячэння для загрузкі на апаратнае забеспячэнне кампутара.

Я ўцягваю вас у важную загадку.

Калі вы чамусьці навучыліся і гэтыя веды з'явіліся ў вашым мозгу, ці можаце вы па-ранейшаму адрозніваць «апаратнае забеспячэнне» вашага мозгу ад меркаванага «праграмнага забеспячэння» вашага мозгу?

Адна аргументаваная пазіцыя заключаецца ў тым, што веды ў вашым мозгу не асобна аддзяляюцца ад канцэпцый апаратнага і праграмнага забеспячэння. Такім чынам, некаторыя горача сцвярджаюць, што аналогія з прыродай кампутараў не працуе. Веды ў мозгу пераплецены з абсталяваннем вашага мозгу і неаддзельныя ад яго. Біялагічныя і хімічныя ўласцівасці пераплятаюць веды, якімі вы валодаеце ў думках.

Патушыце гэта, каб крыху паразважаць.

Калі мы спадзяемся калі-небудзь распрацаваць кампутары, якія будуць раўняцца чалавечаму інтэлекту ці нават перавышаць чалавечы інтэлект, магчыма, мы зможам выкарыстоўваць структуры мозгу і яго ўнутраную працу ў якасці кіраўніцтва да таго, што нам трэба рабіць, каб дасягнуць такой высокай мэты. Некаторыя ў галіне штучнага інтэлекту лічаць, што чым больш мы ведаем пра тое, як працуе мозг, тым больш шанцаў распрацаваць сапраўдны штучны інтэлект, які часам называюць агульным штучным інтэлектам (AGI).

Іншыя ў AI менш закаханыя ў тое, каб ведаць, як працуе мозг. Яны падкрэсліваюць, што мы можам хутка развіваць штучны інтэлект, незалежна ад таго, ці зможам мы разблакаваць сакрэтную ўнутраную працу мозгу. Не дазваляйце таямніцам мозгу перашкаджаць нашым намаганням ІІ. Вядома, працягвайце спрабаваць расшыфраваць і расшыфраваць чалавечы мозг, але мы не можам сядзець і чакаць, пакуль мозг будзе сканструяваны. Калі гэта калі-небудзь будзе выканальна, цудоўная навіна, хоць, магчыма, гэта немагчыма ці адбудзецца праз шмат гадоў.

Зараз я гатовы падзяліцца з вамі барацьбой паміж смяротным і несмяротным кампутарам. Пераканайцеся, што вы сядзіце і гатовыя да вялікага адкрыцця.

Кампутар, у якім выразна размежавана апаратнае і праграмнае забеспячэнне, можна назваць «несмяротным» у тым сэнсе, што апаратнае забеспячэнне можа захоўвацца вечна (вядома, у пэўных межах), а праграмнае забеспячэнне можна пісаць і перапісваць зноў і зноў. Вы можаце падтрымліваць звычайны камп'ютар столькі часу, колькі зможаце адрамантаваць апаратнае забеспячэнне і падтрымліваць прыстасаванне ў стане ўключэння. Сёння вы ўсё яшчэ можаце карыстацца грубымі хатнімі камп'ютарамі 1970-х гадоў, якія пастаўляліся ў камплектах для зборкі, нягледзячы на ​​тое, што ім каля пяцідзесяці гадоў (доўгі час у кампутарныя гады).

Выкажам здагадку, што мы вырашылі стварыць камп'ютэры, апаратнае і праграмнае забеспячэнне якіх працавала б непадзельна (я раскажу пра гэта крыху пазней). Разгледзім гэта на той жа падставе, што раней я згадваў, што мозг, магчыма, мае інтэгральны склад апаратнага і праграмнага забеспячэння. Калі б гэта было так, можна было б выказаць здагадку, што кампутар падобнага кшталту больш не быў бы несмяротным. Замест гэтага гэта было б вытлумачана як "смяротнае".

У адпаведнасці з заўвагамі, зробленымі на канферэнцыі NeurIPS запрошаным асноўным дакладчыкам і вартым увагі гуру AI Джэфры Хінтанам, і як сказана ў яго суправаджальнай даследчай працы:

• «Лічбавыя кампутары агульнага прызначэння былі распрацаваны для дакладнага выканання інструкцый, таму што меркавалася, што адзіны спосаб прымусіць камп'ютар агульнага прызначэння выконваць пэўную задачу - гэта напісаць праграму, якая ў невыносных дэталях паказвае, што трэба рабіць. Гэта ўжо не так, але даследчая супольнасць павольна разумее доўгатэрміновыя наступствы глыбокага навучання для таго, як пабудаваны кампутары. Дакладней, супольнасць трымалася за ідэю, што праграмнае забеспячэнне павінна аддзяляцца ад апаратнага забеспячэння, каб тая ж праграма або той жа набор вагаў можна было запускаць на іншай фізічнай копіі апаратнага забеспячэння. Гэта робіць веды, якія змяшчаюцца ў праграме, паміраючымі або вагамі бессмяротнымі: веды не паміраюць, калі памірае апаратнае забеспячэнне» (як змяшчаецца і цытуецца з яго даследчай працы «The Forward-Forward Algorithm: Some Preliminary Investigations», прэпрынт, даступны ў Інтэрнэце) .

Звярніце ўвагу, што канкрэтны тып вылічэнняў, які абмяркоўваецца ў гэтым тыпе штучнага інтэлекту, выкарыстоўвае штучныя нейронавыя сеткі (ШНН).

Давайце разбярэмся з гэтым.

У нашым мозгу ёсць рэальныя біялагічныя нейроны. Вы карыстаецеся імі ўвесь час. Яны біялагічна і хімічна злучаны ў сетку ў вашай галёнцы. Такім чынам, мы можам называць гэта а нейронных сеткі.

У іншым месцы ёсць, скажам так, падробленыя «нейроны», якія мы вылічальна прадстаўляем у камп'ютарах для распрацоўкі ІІ. Многія людзі ў ІІ таксама называюць іх нейронавымі сеткамі. Я лічу, што гэта крыху бянтэжыць. Разумееце, я аддаю перавагу называць іх так штучны нейронныя сеткі. Гэта дапамагае адразу адрозніць спасылку на in-your-head нейронавыя сеткі (як бы сапраўдныя), і кампутарныя (штучны нейронныя сеткі).

Не ўсе займаюць такую ​​пазіцыю. Многія людзі ў ІІ проста мяркуюць, што ўсе астатнія ў ІІ «ведаюць», што, кажучы пра нейронавыя сеткі, яны амаль заўсёды гавораць пра ШНМ — калі толькі не ўзнікае сітуацыі, калі па нейкай прычыне яны хочуць абмеркаваць рэальныя нейроны і рэальныя нейронавыя сеткі ў мозг.

Я спадзяюся, што вы разумееце маю думку. Часцей за ўсё людзі, якія працуюць са штучным інтэлектам, кажуць «нейронавыя сеткі», што патэнцыйна неадназначна, таму што вы не ведаеце, ці яны маюць на ўвазе рэальныя сеткі ў нашых галовах, ці вылічальныя, якія мы праграмуем у камп'ютары. Але паколькі людзі са штучным інтэлектам у асноўным маюць справу з камп'ютэрнымі асобнікамі, яны па змаўчанні мяркуюць, што вы маеце на ўвазе штучныя нейронавыя сеткі. Мне падабаецца дадаваць слова «штучны» ў першы канец фармулёўкі, каб было больш зразумела пра намеры.

Ідучы далей, вы можаце ў пэўнай ступені разглядаць гэтыя вылічальныя штучныя нейроны як матэматычнае або вылічальнае мадэляванне таго, што, на нашу думку, робяць рэальныя біяхімічныя фізічныя нейроны, напрыклад, выкарыстанне лікавых значэнняў у якасці вагавых каэфіцыентаў, якія ў іншым выпадку адбываюцца біяхімічна ў мозгу. Сёння гэта мадэляванне не такое складанае, як сапраўдныя нейроны. Сучасныя ШНМ - гэта надзвычай грубае матэматычнае і вылічальнае прадстаўленне.

Як правіла, ANN часта з'яўляюцца асноўным элементам для машыннага навучання (ML) і глыбокага навучання (DL) - майце на ўвазе, што гэта значна больш дэталяў, і я заклікаю вас зірнуць на мой шырокі ахоп ML/DL у спасылка тут і спасылка тут, Напрыклад.

Вяртаючыся да бессмяротных супраць смяротных тыпаў кампутараў, вось яшчэ, каб паразважаць на думку даследчыка:

• «Аддзяленне праграмнага забеспячэння ад апаратнага забеспячэння з'яўляецца адной з асноў інфарматыкі і мае шмат пераваг. Гэта дазваляе вывучаць уласцівасці праграм, не турбуючыся аб электратэхніцы. Гэта дазваляе напісаць праграму адзін раз і скапіяваць яе на мільёны кампутараў. Калі, аднак, мы жадаем адмовіцца ад неўміручасці, можна будзе дасягнуць велізарнай эканоміі энергіі, неабходнай для выканання вылічэнняў, і кошту вырабу абсталявання, якое выконвае вылічэнні. Мы можам дазволіць вялікія і невядомыя варыяцыі ў сувязі і нелінейнасці розных асобнікаў апаратнага забеспячэння, якія прызначаны для выканання адной і той жа задачы, і спадзявацца на працэдуру навучання для выяўлення значэнняў параметраў, якія дазваляюць эфектыўна выкарыстоўваць невядомыя ўласцівасці кожнага канкрэтнага асобніка абсталяванне. Гэтыя значэнні параметраў карысныя толькі для канкрэтнага асобніка абсталявання, таму вылічэнні, якія яны выконваюць, смяротныя: яны паміраюць разам з абсталяваннем» (там жа).

Цяпер вы пазнаёміліся з тым, як несмяротны і смяротны выкарыстоўваюцца ў гэтым кантэксце.

Дазвольце мне ўдакладніць.

Прапанова заключаецца ў тым, што камп'ютар, які спецыяльна пабудаваны на аснове ІНМ, можа быць распрацаваны такім чынам, каб апаратнае і праграмнае забеспячэнне лічыліся непадзельнымі. Калі апаратнае забеспячэнне калі-небудзь перастане функцыянаваць (што, канешне, мы гаворым, што цэласна аб'ядноўвае праграмнае забеспячэнне), гэты тып кампутара, здавалася б, перастане быць карысным і больш не будзе працаваць. Кажуць, смяротны. Вы таксама можаце пахаваць камп'ютэр на базе ANN, бо з гэтага часу ён не прынясе вам асаблівай карысці, калі апаратнае і праграмнае забеспячэнне больш не будуць працаваць у адной камандзе.

Калі б вы захацелі паспрабаваць звязаць гэта з аналогіяй чалавечага мозгу, вы маглі б уявіць суровую сітуацыю чалавечага мозгу, які цалкам пагаршаецца або якім-небудзь чынам нанесены непапраўную шкоду. Мы прымаем меркаванне, што чалавек смяротны і яго мозг у канчатковым рахунку і непазбежна перастане працаваць. Веды, якія яны ўтрымлівалі ў сваім мозгу, больш недаступныя. Калі толькі яны не паспрабавалі расказаць іншым або запісаць тое, што ведалі, іх веды сышлі ў свет у цэлым.

Вы, несумненна, чулі або бачылі паведамленні аб спробах захаваць мазгі, напрыклад, перавесці іх у замарожаны стан, згодна з тэорыяй, што, магчыма, калі-небудзь людзі стануць несмяротнымі або, па меншай меры, падоўжацца пасля звычайнага тэрміну жыцця. Ваш мозг можа жыць, нават калі не ў вашым целе. Мноства навукова-фантастычных фільмаў і гісторый спекулююць на такіх ідэях.

Цяпер мы гатовыя да падрабязнага агляду смяротнага кампутара і бессмяротнага кампутара як канцэпцыі і таго, што яна прадказвае.

Уважлівае абмеркаванне і ўважлівы аналіз

Перш чым паглыбіцца ў сутнасць гэтага аналізу пастуляванага падыходу, варта згадаць некалькі важных агаворак і дадатковых момантаў.

Даследчык падкрэсліў, што чакан смяротныя кампутары не будзе асабліва замяняць або выцясняць з існавання несмяротныя кампутары якія мы сёння называем звычайнымі лічбавымі кампутарамі. Было б суіснаванне абодвух тыпаў кампутараў. Я кажу гэта таму, што рэакцыя некаторых была такая, што заклік да парадку быў агульным сцвярджэннем усё камп'ютэры па неабходнасці набліжаюцца або будуць набліжацца да смяротнага тыпу.

Гэта не была прэтэнзія.

Падчас размовы ён адзначыў, што гэта спецыялізацыя нейроморфно-арыентаваны кампутары будуць выконваць вылічальную працу, вядомую як смяротныя вылічэнні: «Мы будзем рабіць тое, што я называю смяротнымі вылічэннямі, дзе веды, атрыманыя сістэмай, і апаратнае забеспячэнне непадзельныя» (як цытаваў Тырнан Рэй у артыкуле ZDNET ад 1 снежня 2022 г.).

І асабліва: «Гэта не заменіць лічбавыя кампутары» (там жа).

Акрамя таго, гэтыя новыя тыпы камп'ютараў відавочна не хутка з'явяцца ў вашай мясцовай камп'ютарнай краме або даступныя для пакупкі ў інтэрнэце адразу, як было сказана падчас яго прэзентацыі: «Я думаю, што мы ўбачым зусім іншы тып камп'ютэр, не на працягу некалькіх гадоў, але ёсць усе падставы для вывучэння гэтага зусім іншага тыпу кампутара ". Прымяненне таксама будзе адрознівацца: «Гэта не будзе кампутар, які адказвае за ваш банкаўскі рахунак і дакладна ведае, колькі ў вас грошай».

Дадатковым паваротам з'яўляецца тое, што смяротныя кампутары, здавалася б, будуць вырошчвацца, а не вырабляцца, як мы робім сёння, для вытворчасці кампутарных працэсараў і вылічальных чыпаў.

У працэсе росту камп'ютар смяротнага павялічваў магчымасці ў стылі вылічальнага сталення. Такім чынам, дадзены смяротны камп'ютэр можа пачынацца практычна без якіх-небудзь магчымасцей і дасягаць таго, чым ён планаваў стаць. Напрыклад, выкажам здагадку, што мы хочам стварыць сотавыя тэлефоны з дапамогай камп'ютараў смяротных. Вы б пачалі з простага варыянту смяротнага кампутара, які быў першапачаткова сфарміраваны або закладзены для гэтай мэты. Затым ён ператворыцца ў больш дасканалую версію, якую вы шукалі. Карацей кажучы: «Вы б замянілі гэта на тое, што кожны з гэтых мабільных тэлефонаў павінен быў бы пачынацца як дзіцячы мабільны тэлефон, і яму трэба было б навучыцца быць мабільным тэлефонам».

На адным з яго асноватворных слайдаў аб вылічэннях са смяротнымі перавагі былі апісаны наступным чынам: «Калі мы адмовімся ад бессмяротнасці і прызнаем, што веды неаддзяльныя ад дакладных фізічных дэталяў канкрэтнай часткі абсталявання, мы атрымаем дзве вялікія перавагі: (1) Мы можам выкарыстоўваць аналагавыя вылічэнні з вельмі нізкім энергаспажываннем, (2) Мы можам вырошчваць апаратнае забеспячэнне, дакладная сувязь і аналагавыя паводзіны якога невядомыя».

Частка той жа прамовы, а таксама тое, што змяшчаецца ў яго прэпрынтнай даследчай працы, з'яўляецца прапанаванай тэхнікай таго, як можна лепш распрацаваць ШНМ, якую ён называе выкарыстаннем наперад-наперад сеткавы падыход. Некаторыя з вас, хто разбіраецца ў ІНМ, несумненна, ужо добра ведаюць пра выкарыстанне зваротнага распаўсюджвання або падтрымкі. Магчыма, вы захочаце зірнуць на прапанаваную ім тэхніку наперад-наперад. Я раскажу пра гэты захапляльны падыход у наступнай публікацыі ў калонцы, так што сачыце за маім будучым асвятленнем пра гэта.

Пераключыўшы перадачы, давайце разгледзім, што кажуць у калідорах і на кулуарах супольнасці штучнага інтэлекту аб гэтым нахабным смяротны кампутар махінацыя.

Мы пачнем з таго, што некаторыя сказалі б, што гэта не пачатковец па гэтай тэме.

Ці гатовыя вы?

Перастаньце называць гэта а смяротны кампутар.

Акрамя таго, перастаньце абвяшчаць, што сучасныя звычайныя кампутары неўміручы.

Скептыкі заклікаюць абодва варыянты выкарыстання проста памылковыя і ўводзяць у зман.

Штодзённае слоўнікавае вызначэнне бессмяротнага складаецца з таго, што не можа памерці. Яно жыве вечна. Каб не памерці, вы, мабыць, павінны сказаць, што сама рэч жывая. Вы ступаеце па няправільным шляху, калі сцвярджаеце, што сучасныя кампутары жывыя. Ні адзін разумны чалавек не стане прыпісваць сучасным кампутарам добрасумленныя «жывыя» ўласцівасці. Яны машыны. Яны рэчы. Яны не з'яўляюцца ні асобамі, ні жывёламі, ні жыццёвымі ўмовамі.

Калі вы хочаце пашырыць азначэнне бессмяротнага, каб дапусціць, што мы таксама маем на ўвазе нежывыя істоты, у гэтым выпадку нежывая істота, здавалася б, ніколі не павінна распадацца і не можа непазбежна распасціся ў пыл. Ці можаце вы зрабіць такое сцвярджэнне пра сучасныя кампутары? Гэта здаецца расцягнутым (заўвага: мы, вядома, маглі б патрапіць у вялікую філасофскую дыскусію аб прыродзе матэрыі і існавання, але давайце не будзем удавацца ў гэта ў гэтым выпадку).

Сутнасць у тым, што выкарыстанне або некаторыя сказалі б няправільнае выкарыстанне слоў «смяротны» і «несмяротны» з'яўляецца дзіўным і непатрэбным. Паўторнае выкарыстанне звычайнай народнай мовы для іншых мэтаў выклікае блытаніну і стварае каламутную ваду. Вы павінны быць гатовы, відавочна, пераасэнсаваць, што азначаюць смяротнае і несмяротнае ў гэтым канкрэтным кантэксце. Гэта становіцца праблематычным.

Яшчэ больш бянтэжыць тое, што гэты выбар слоў, як правіла, антрапамарфізуе камп'ютэрныя аспекты.

Ужо існуе больш чым дастаткова праблем, звязаных з антрапамарфізмам штучнага інтэлекту, нам, вядома, не трэба выдумляць больш такіх магчымасцей. Як я ўжо падрабязна абмяркоўваў у сваім матэрыяле аб этыцы штучнага інтэлекту і этыцы штучнага інтэлекту, існуюць самыя розныя спосабы, з дапамогай якіх людзі прыпісваюць камп'ютэрам разумныя здольнасці. У сваю чаргу, гэта прымушае людзей ілжыва верыць, што камп'ютары на аснове штучнага інтэлекту могуць думаць і дзейнічаць так, як людзі. Гэта слізкі схіл небяспекі, калі грамадства пачынае верыць, што сучасны штучны інтэлект і вылічальная тэхніка знаходзяцца на адным узроўні з інтэлектам і здаровым сэнсам чалавецтва, гл., напрыклад, мой аналіз на спасылка тут і спасылка тут.

Добра, мы можам адмовіцца ад нязграбных фармулёвак або пагарджаць імі, але ці азначае гэта, што мы павінны выкінуць дзіця разам з вадой (стары выраз, верагодна, набліжаецца да пенсіі)?

Некаторыя сцвярджаюць, што, магчыма, мы можам знайсці лепшую фармулёўку для гэтага агульнага падыходу або канцэпцыі. Адмоўцеся ад выкарыстання "смяротны" і "несмяротны", каб астатнія ідэі не былі заплямлены недарэчным або неналежным выкарыстаннем. Між тым, ёсць контраргументы, што гэта цалкам прымальна выкарыстоўваць гэтыя выбары слоў, альбо таму, што яны падыходзяць, або таму, што мы не павінны быць гнуткімі ў тым, як мы выбіраем паўторнае выкарыстанне слоў. Ружа - гэта ружа пад любой іншай назвай, заяўляюць яны.

Каб пазбегнуць далейшых з'едлівых дэбатаў, я буду пазбягаць выкарыстання слоў "смяротны" і "бессмяротны" і проста скажу, што ў нас ёсць два асноўныя тыпы камп'ютараў, якія аб'ядноўваюцца, адзін, які з'яўляецца сучасным звычайным лічбавым кампутарам, і іншае прапануецца нейроморфный кампутар.

Здавалася б, не трэба ўцягваць у гэта галаваломку смяротнасці. Трымайце неба чыстым, каб убачыць, што яшчэ мы можам зрабіць з гэтай справы.

У такім выпадку некаторыя сцвярджаюць, што прапанаваная ідэя нейраморфнага кампутара не з'яўляецца чымсьці новым.

Вы можаце прасачыць да першых дзён штучнага інтэлекту, асабліва калі першапачаткова даследаваліся ШНМ, і ўбачыць, што ішлі размовы аб распрацоўцы спецыялізаваных камп'ютараў для выканання працы штучных нейронавых сетак. Было прапанавана ўсялякае новае абсталяванне. Гэта адбываецца і па гэты дзень. Вядома, вы можаце запярэчыць, што большасць сучасных даследаванняў спецыялізаванага абсталявання для ШНМ і машыннага навучання па-ранейшаму грунтуецца на традыцыйным падыходзе да вылічэнняў. У гэтым сэнсе гэтая аналагавая непадзельнасць апаратнага і праграмнага забеспячэння ў некаторай ступені рассоўвае рамкі, і прапанова аб «вырошчванні» камп'ютара таксама робіць гэта, прынамсі, у дачыненні да выхаду за межы разгляданага мэйнстрыму.

Карацей кажучы, ёсць некаторыя, якія цалкам пагружаныя ў гэтыя пытанні, якія здзіўлены тым, што хтосьці іншы можа быць здзіўлены выстаўленымі прапановамі. Гэтыя паняцці альбо такія ж, як раней, альбо паўтараюць тое, што ўжо вывучаецца ў розных даследчых лабараторыях.

Кажуць, што прычоску не мітусіць.

Гэта прывядзе нас да іншага аспекту, які выклікае шмат клопатаў.

Адным словам: Прадказальнасць.

Сучасныя кампутары звычайна лічацца прадказальнымі. Вы можаце зірнуць на абсталяванне і праграмнае забеспячэнне, каб зразумець, што будзе рабіць кампутар. Сапраўды гэтак жа вы можаце прасачыць, што ўжо зрабіў кампутар, каб высветліць, чаму ён зрабіў тое, што зрабіў. Вядома, ёсць абмежаванні для гэтага, таму я не хачу перабольшваць прадказальнасць, але я думаю, што вы зразумелі ідэю ў цэлым.

Магчыма, вы ведаеце, што адна з складаных праблем, з якімі сёння сутыкаецца штучны інтэлект, заключаецца ў тым, што некаторыя штучныя інтэлекты створаны для самарэгулявання. Штучны інтэлект, які ствараюць распрацоўшчыкі, можа змяніцца падчас выкарыстання. У сферы этыкі штучнага інтэлекту існуе мноства прыкладаў выкарыстання штучнага інтэлекту, які спачатку не меў неапраўданых прадузятасцей або дыскрымінацыйных тэндэнцый, а потым паступова змяніў вылічальную сістэму на працягу таго часу, пакуль штучны інтэлект быў у вытворчасці, гл. падрабязныя ацэнкі ст спасылка тут.

Хвалюецца тое, што мы ўжо ўваходзім у сеттинг, які прадугледжвае ІІ, які неабавязкова прадказальны.

Выкажам здагадку, што штучны інтэлект для сістэм узбраення падвяргаецца самарэгуляванням, і ў выніку штучны інтэлект узбройвае і запускае смяротную зброю па мэтах і ў нечаканы час. Людзі могуць быць не ў стане спыніць штучны інтэлект. Людзі, якія знаходзяцца ў курсе, могуць быць не ў стане адрэагаваць дастаткова хутка, каб абагнаць дзеянні штучнага інтэлекту. Для атрымання дадатковых жахлівых прыкладаў глядзіце мой аналіз на спасылка тут.

Для нейраморфных камп'ютараў праблема заключаецца ў тым, што мы накладваем непрадказальнасць на стэроіды. З самага пачатку сутнасць нейраморфнага камп'ютара магла заключацца ў тым, што ён працуе такім чынам, што не паддаецца прадказанням. Мы выстаўляем напаказ непрадказальнасць. Гэта становіцца ганаровым знакам.

Існуюць два лагеры.

Адзін лагер кажа, што мы можам жыць з непрыемнай праблемай непрадказальнасці, робячы гэта, паставіўшы агароджы, каб не даць ШІ зайсці занадта далёка. Другі лагер сцвярджае, што вы вядзеце свет па небяспечным шляху. Прыйдзе дзень, калі заяўленыя агароджы альбо выйдуць з ладу, альбо яны недастаткова строгія, альбо па выпадковасці ці злым намеры агароджы будуць зняты або з імі важдацца.

Ці варта адмахнуцца ад сумневаў наконт нейраморфных кампутараў і прадказальнасці?

Па словах даследчыка: «Сярод людзей, якія цікавяцца аналагавымі вылічэннямі, яшчэ вельмі мала тых, хто гатовы адмовіцца ад неўміручасці». Больш за тое: «Калі вы хочаце, каб ваша аналагавае абсталяванне кожны раз рабіла адно і тое ж... У вас сапраўдная праблема з усімі гэтымі блукаючымі электрычнымі рэчамі і падобным».

Я разгарну гэта.

Пагрозлівая і некалькі змрочная перспектыва заключаецца ў тым, што так званая прадказальнасць, звязаная з сучаснымі лічбавымі кампутарамі, у любым выпадку ідзе ў накірунку непрадказальнасці. Як ужо згадвалася, асабліва гэта можа адбыцца для ІІ, які саманаладжваецца на звычайных камп'ютэрных платформах. Тое, што нейраморфныя камп'ютары могуць здавацца непрадказальнымі, не з'яўляецца прыкметай таго, што звычайныя лічбавыя камп'ютары насамрэч прадказальныя.

Паравы каток непрадказальнасці ідзе да нас на поўнай пары, незалежна ад таго, якую вылічальную платформу вы хочаце абраць. Маю ацэнку апошніх намаганняў па забеспячэнні бяспекі штучнага інтэлекту ў гэтым святле гл спасылка тут.

Гэты паварот наконт прадказальнасці павінен прымусіць вас задумацца аб чымсьці недарэчнага характару. Тыя з вас, хто займаецца этыкай штучнага інтэлекту і правам штучнага інтэлекту, могуць ня разглядалі наступствы нейроморфные кампутары.

Верагодна, вы нацэліліся на звычайныя лічбавыя кампутары, якія працуюць са штучным інтэлектам. Што ж, здагадайцеся, што ў вас ёсць цалкам дадатковы і новы сегмент вылічэнняў са штучным інтэлектам, пра які вы можаце не спаць і клапаціцца па начах. Так, нейроморфные кампутары. Унясіце гэта ў свой спіс спраў.

Прабачце, больш бяссонных начэй для вас.

Давайце коратка разгледзім, што этыка штучнага інтэлекту і права штучнага інтэлекту рабілі ў дачыненні да звычайных лічбавых вылічэнняў і штучнага інтэлекту.

У папярэдніх калонках я асвятляў розныя нацыянальныя і міжнародныя намаганні па распрацоўцы і прыняцці законаў, якія рэгулююць ІІ, гл. спасылка тут, напрыклад. Я таксама разгледзеў розныя прынцыпы і рэкамендацыі па этыцы штучнага інтэлекту, якія вызначылі і прынялі розныя краіны, у тым ліку, напрыклад, намаганні Арганізацыі Аб'яднаных Нацый, такія як набор этыкі штучнага інтэлекту ЮНЕСКА, які прынялі амаль 200 краін, гл. спасылка тут.

Вось карысны асноўны спіс этычных крытэрыяў або характарыстык штучнага інтэлекту ў дачыненні да сістэм штучнага інтэлекту, якія я ўважліва вывучаў раней:

• Празрыстасць
• Справядлівасць і справядлівасць
• Не-злачынства
• адказнасць
• недатыкальнасць прыватнага жыцця
• Дабразычлівасць
• Свабода і аўтаномія
• давер
• ўстойлівасць
• пачуццё ўласнай годнасці
• Салідарнасць

Мяркуецца, што гэтыя прынцыпы этыкі штучнага інтэлекту настойліва павінны выкарыстоўвацца распрацоўшчыкамі штучнага інтэлекту, а таксама тымі, хто кіруе намаганнямі па распрацоўцы штучнага інтэлекту, і нават тымі, хто ў канчатковым выніку размяшчае і абслугоўвае сістэмы штучнага інтэлекту.

Усе зацікаўленыя бакі на працягу ўсяго жыццёвага цыкла штучнага інтэлекту, распрацоўкі і выкарыстання, разглядаюцца ў межах захавання ўсталяваных нормаў этычнага штучнага інтэлекту. Гэта важная асаблівасць, паколькі звычайна мяркуецца, што «толькі кодэры» або тыя, хто праграміруе штучны інтэлект, павінны прытрымлівацца паняццяў этыкі штучнага інтэлекту. Як было падкрэслена раней, для распрацоўкі і ўкаранення штучнага інтэлекту патрэбна вёска, і для гэтага ўся вёска павінна ведаць і выконваць правілы этыкі штучнага інтэлекту.

Частка гэтага, пра што вы, магчыма, раней не задумваліся, заключаецца ў тым, як гэтыя ж правілы этыкі штучнага інтэлекту і расце спіс новых законаў аб штучным інтэлекце будуць прымяняцца да нейраморфных кампутараў. Каб удакладніць, Этыка штучнага інтэлекту і Закон аб штучным інтэлекце сапраўды павінны прыняць гэта да ўвагі. Я звяртаю ўвагу на тое, што нешматлікія так робяць, і майце на ўвазе, што з'яўленне нейраморфных камп'ютараў кіне шмат каго ў каламутнасць з пункту гледжання новага вымярэння для спробы валадарыць у ІІ.

Нам трэба разглядаць этычны штучны інтэлект і законы аб штучным інтэлекце досыць шырокім чынам, каб ахапіць любы новы штучны інтэлект, у тым ліку нейраморфныя кампутары.

Альтэрнатыва арэлі - гэта класічны гамбіт кошкі-мышкі. Вось як гэта адбываецца. Задумваюцца і ствараюцца новыя спосабы стварэння штучнага інтэлекту. Існуючая этыка штучнага інтэлекту і законы аб штучным інтэлекте засталі знянацку і ​​не ў поўнай меры ахопліваюць апошнія махінацыі ў галіне штучнага інтэлекту. Прымаюцца паспешлівыя намаганні, каб абнавіць этычныя прадпісанні аб штучным інтэлекце і змяніць гэтыя нядаўна адчаканеныя законы аб штучным інтэлекце.

Намыльце, змыйце, паўтарыце.

Было б лепш для нас усіх заставацца наперадзе гульні, а не быць злоўленымі за васьмёркай.

заключэнне

Я ўзяў цябе ў невялікае падарожжа.

У пачатку я прапанаваў, што будуць дзве асноўныя тэмы для вывучэння:

1) Інтэгральнае аб'яднанне як апаратнага, так і праграмнага забеспячэння для механізацыі штучнага інтэлекту, а не ў якасці асобных і асобных саюзнікаў

2) Перадача або перагонка фармулёвак машыннага навучання з адной мадэлі штучнага інтэлекту на іншую, якая робіць гэта без патрабавання і жадання (ці нават магчыма іншым чынам) прамога поўнага чыстакроўнага капіравання

Першая тэма аб спалучэнні абсталявання і праграмнага забеспячэння была асноўнай часткай гэтага шляху. Гэта прывяло нас у супрацьстаянне смяротнага і несмяротнага вылічальнага балота. З іх былі некаторыя важныя меркаванні па этыцы штучнага інтэлекту і заканадаўству аб штучным інтэлекце, якія ў адваротным выпадку звычайна не закраналіся б, паколькі некаторыя тэмы, звязаныя з камп'ютэрам, звычайна разглядаюцца як выключна тэхналагічныя, а не звязаныя з уплывам на грамадства.

Я кажу, што разумней за ўсё быць раней і бяспечней, а не пазней і горш, калі гаворка ідзе пра этычны штучны інтэлект і закон аб штучным інтэлекце.

Другая тэма, якую я яшчэ не сфармуляваў тут, істотна звязана з першай тэмай.

Вось здзелка.

Выкажам здагадку, што ў нас ёсць «смяротны камп'ютар», і мы хочам захаваць магчымасці, каб мы маглі мець рэзервовую копію або ўяўныя копіі таго, што ўтрымлівае штучны інтэлект. Мы можам быць занепакоеныя тым, што канкрэтны смяротны кампутар набліжаецца да канца. Ой, мы ад гэтага залежым. Што нам рабіць? Адказ адзін: мы павінны скапіяваць праклятую рэч.

Але скапіяваць нейраморфны камп'ютар таго выгляду, які намаляваны, будзе складаней, чым можа здацца на першы погляд. Усё можа быць складана.

Магчыма, нам варта прыдумаць хітрасць капіравання, якая будзе абагульнена і прыдатная да абставін, звязаных з машынным навучаннем і штучнымі нейронавымі сеткамі. Мы хочам, каб гэта працавала на буйнамаштабных і надзвычай маштабных выпадках. Мы таксама хацелі б, каб копія не была дакладнай копіяй, а замест гэтага магла быць па сутнасці эквівалентнай або, магчыма, нават лепш распрацаванай у выніку дзеяння капіравання.

Тэхніка, вядомая як дыстыляцыя было прапанавана.

У мяне скончылася месца для сённяшняй калонкі, таму я буду разглядаць другую тэму ў наступнай калонцы. Я падумаў, што вы захочаце адразу даведацца пра ўзаемасувязь паміж гэтай другой тэмай і першай тэмай, якая тут шырока разглядалася. Успрымайце гэта як дадатковую нататку, якая служыць тызерам або трэйлерам таго, што будзе далей.

Заставайцеся на краі вашага месца, так як тэма дыстыляцыі з'яўляецца даволі добрым вылучэннем.

Як казаў Бэтмен, трымайце крылы лятучай мышы скрыжаваўшы крылы і будзьце гатовыя да таго ж самага часу і канала лятучай мышы, каб разгадаць хвалюючае пытанне аб тым, як скапіяваць ІНМ, мадэль машыннага навучання або нейраморфны камп'ютар на іншы.

Апошняя заўвага пакуль. У фільме ёсць знакамітая фраза Вяртаецца Цёмны Рыцар у якім наш крыжак у плашчы кажа: «Свет мае сэнс, толькі калі вы прымусіце яго да гэтага». Я паспрабую прытрымлівацца гэтага ідэалу, калі буду разглядаць другую тэму дыстыляцыі, звязанай з штучным інтэлектам.

Сачыце за часткай 2 гэтага захапляльнага і захапляльнага падвойнага фільма.