Калі ён не працуе над паскарэньнем рывку чалавецтва да Сінгулярнасьці шляхам стварэньня штучнага агульнага інтэлекту (AGI), Бэн Герцэль грае ў джаз-рок-гурце пад назвай Jam Galaxy, які ўзначальвае робат па імені Дэздэмона.
Гэта адзін з яго шматлікіх сайд-праектаў, які, натуральна, прымусіў яго паспрабаваць і сімвалізаваць музычны бізнес, звяртаючыся да ўдзельнікаў Pearl Jam і Heart. Гёрцэль таксама працуе над даследаваннем даўгалецця шляхам краўдсорсінгу даных пра здароўе чалавека з сімвалічнымі ўзнагародамі праз прыкладанне Rejuve.ai. Затым гэтая інфармацыя аб'ядноўваецца з дадзенымі даследаванняў на жывёл і насякомых і аналізуецца з дапамогай штучнага інтэлекту, каб вызначыць, якія часткі генома могуць зрабіць нас больш працяглымі, а затым стымуляваць з дапамогай геннай тэрапіі. «У нас былі даволі дзіўныя адкрыцці прарыўнога ўзроўню, - кажа ён. Ах, і незадоўга да таго, як скончыцца наша гадзіннае інтэрв'ю, ён мімаходам згадвае, што ён таксама стварае стейблкойн для свайго дэцэнтралізаванага рынку штучнага інтэлекту SingularityNET, які прывязаны да сінтэтычнага індэксу экалагічнага прагрэсу - таму што прывязка да долараў ЗША была б «кульгавы».
«Прагрэс у галіне навакольнага асяроддзя вельмі стабільны. Гэта нікуды не дзенецца», — адзначае ён.
"І каб маніпуляваць гэтым, вам трэба на самой справе вырашыць праблему глабальнага пацяплення".
Гэта менавіта той палітычны каментарый, які спалучаецца з высокімі тэхналагічнымі ноу-хау, якіх можна чакаць ад Гёртцэля, які выглядае і гучыць як вучоны-хіпі, які трапіў у машыну часу ў 1971 годзе і выйшаў цалкам сфармаваным у 2023 годзе. Але не падманвайце сябе капялюш з жывёліным прынтам, доўгія валасы і кіслотны трып Electric Kool-Aid: ён геніяльны вучоны, які ўяўляе будучыню на светлавыя гады наперадзе большасці і змагаецца з некаторымі з найбуйнейшых канцэпцый, якія калі-небудзь разглядала чалавецтва. Што такое свядомасць? Як мы ствараем штучнае жыццё і што адбудзецца, калі яно не спадабаецца нам, стане махлярствам і расстраляе ўсіх, як у Тэрмінатар 2?
Што такое штучны агульны інтэлект?
Гёртцэль папулярызаваў тэрмін «штучны агульны інтэлект» як спосаб дыферэнцаваць сапраўдную думаючую машыну, якая можа вучыцца практычна ўсім, ад штучнага інтэлекту, аптымізаванага для выканання адной канкрэтнай задачы, напрыклад камп'ютара Deep Blue, які абыграў чэмпіёна свету па шахматах Гары Каспарава. Ён адкрыта прызнае, што стварэнне машыны, здольнай навучыцца чаму заўгодна, у тым ліку таму, як перапраграмаваць сябе, каб стаць на парадак разумнейшым за любога чалавека, мае рызыку.
«Існуе шэраг рызык і небяспек з AGI», - кажа Гёрцэль за шумам у індыйскім рэстаране ў ажыўленым гандлёвым цэнтры ў Сінгапуры. «Адзін з іх, які прыцягнуў шмат увагі ў СМІ, - гэта тое, што AGI буяніць, знішчыць чалавецтва і захопіць сусвет. Гэта цалкам магчыма; вы не можаце выключыць гэта,» кажа ён.
«Іншы больш верагодны рызыка заключаецца ў тым, што злыя эгаісты будуць выкарыстоўваць штучны інтэлект, каб праяўляць уласную прагнасць і кантраляваць іншых людзей».
На яго думку, урады наўрад ці зробяць прарывы ў AGI, паколькі яны «занадта кансерватыўныя і дурныя», хоць ён адзначае, што Кітай перадае сваю працу па AGI такім кампаніям, як Tencent і Baidu. Бліжэй да дому, ён лічыць, што аддзелы штучнага інтэлекту Google і Facebook таксама не пераступяць мяжу, паколькі яны будуць занадта сканцэнтраваны на тым, каб прымусіць штучны інтэлект дасягаць пэўных паказчыкаў, што не спрыяе творчаму мысленню.
«Падобна таму, як самыя бліскучыя людзі не жадаюць проста абслугоўваць чужыя паказчыкі, я думаю, што штучны інтэлект неабавязкова хоча максымізаваць колькасць клікаў на чыёй-небудзь вэб-старонцы, праўда? Трэба даць магчымасць пагуляць творча».
Сінгулярнасць каля 1970 года
Гёртцэль паступіў ва ўніверсітэт у 15, скончыў у 18, атрымаў доктарскую ступень у 22 і маладую сям'ю ў 23. Магчыма, незвычайна ў наш час, ён быў не проста матэматыкам або геніем тэхнікі, які спайваў камп'ютары разам у 70-х але аднолькава цікавіўся філасофіяй, творчасцю і музыкай.
Большую частку сваёй кар'еры ён прысвяціў выкладанню і даследаванню інфарматыкі, матэматыкі і кагнітыўных навук у розных універсітэтах па ўсім свеце, адначасова працуючы над тэхналогіямі штучнага інтэлекту, калі толькі мог. Серыйны заснавальнік, які, як правіла, на дзесяць гадоў апярэджвае ўсіх са сваімі ідэямі - што ў бізнэсе ліха прыраўноўваецца да памылковага — ён працаваў над выкарыстаннем штучнага інтэлекту для прагназавання фінансавых рынкаў і даўгалецця, а таксама займаў пасаду галоўнага навуковага супрацоўніка Hanson Robotics, дзе ён даў робату Сафіі яе штучны мозг.
Герцэль думаў пра экспанентны тэхналагічны рост з 1970-х гадоў, калі ён упершыню прачытаў кнігу Джэральда Файнберга Праект Праметэй, які распавядае пра «машыны, якія могуць думаць лепш за людзей… нанатэхналагічныя машыны, якія мікраскапічна малыя, і мы збіраемся вырашыць праблему старэння». Гэта добра адпавядала новай канцэпцыі сінгулярнасці, гіпатэтычнай будучай кропкі, калі тэхналагічны прагрэс стане некантралюемым і незваротным, што прывядзе да масавых змен у чалавечай цывілізацыі.
«Значыць, людзі будуць жыць вечна, тады паўстане пытанне: Для чаго мы выкарыстоўваем гэтыя тэхналогіі, для імклівага бяздумнага спажывецтва ці для пашырэння свядомасці? І тое, што ён [Файнберг] прапанаваў, — гэта вынесці гэта на дэмакратычнае галасаванне».
Шмат гадоў праз, калі ён пачаў бачыць, што AGI знаходзіцца ў межах нашай дасяжнасці, гэтае «дэмакратычнае галасаванне» стала натхненнем для таго, каб спачатку выкарыстаць тэхналогію з адкрытым зыходным кодам, а пазней і блокчейн, каб паставіць кааператыўную суполку пад кантроль гэтай тэхналогіі.
«У пэўны момант я зразумеў, што з ІІ адкрытага кода недастаткова», — кажа ён. «Вам сапраўды трэба навучыць штучны інтэлект на вялікай колькасці дадзеных».
«Вось дзе блокчейн з'яўляецца спосабам зрабіць апрацоўку і даныя, якія ляжаць у аснове штучнага інтэлекту, дэцэнтралізаваным і краўдсорсінгавым па сваёй прыродзе і адкрытым для кантролю. І гэта аказваецца складаней, чым проста адкрыць зыходны код».
Гёртцэль заснаваў OpenCog у 2008 годзе, каб стварыць структуру штучнага інтэлекту з адкрытым зыходным кодам. Ён выкарыстоўваўся 50 кампаніямі, у тым ліку Huawei і Cisco, і неўзабаве плануецца яго сур'ёзнае абнаўленне пад назвай Hyperon, якое павінна паскорыць яго ў 200 разоў. Альфа-версія павінна выйсці ў гэтым квартале, а бэта-версія чакаецца ў наступным годзе.
Блокчейн просты, але круты
Для Гёртцэля тэхналогія блокчэйн - гэта крыху элементарна. Ён апісвае гэта як некалькі прымітыўных размеркаваных алгарытмаў, дададзеных да крыптаграфіі, але «крутая камбінацыя» дазваляе сістэмам працаваць без цэнтралізаванага кантролю, што робіць яго ідэальным для яго патрэб.
«Калі вы збіраецеся стварыць думаючую машыну, і вы збіраецеся зрабіць яе размеркаванай нанаразмернай вылічальнай сеткай, было б вельмі добра, калі б яна належала ўсім і нікому, а не кіравалася зверху ўніз».
Блокчейны занадта павольныя, каб справіцца з патрабаваннямі да апрацоўкі і велізарнымі аб'ёмамі задзейнічаных даных, так што ёсць што-то накшталт гонкі за правільным маштабаваннем блокчейна, перш чым будзе распрацаваны прарыўны AGI. Гёрцэль кажа, што ў той час як такія рашэнні для маштабавання, як зводныя пакеты з нулявым веданнем, лепш, у іх усё яшчэ недастаткова прапускной здольнасці з-за абмежаванняў блокчейна, якому яны паведамляюць аб транзакцыях.
У 2017 годзе ён стаў адным з заснавальнікаў SingularityNET, якая адначасова з'яўляецца дэцэнтралізаваным рынкам паслуг і тэхналогій штучнага інтэлекту і метадам каардынацыі на аснове блокчейна для сумеснай працы даследчыкаў — ці нават штучнага інтэлекту.
У цяперашні час, абапіраючыся на Ethereum, ён лічыць, што прасунуў рэчы настолькі далёка, наколькі гэта магчыма ў блокчейне ў яго цяперашнім выглядзе. Такім чынам, калі ён не працуе над прарывам у AGI (ці групе, або робатах, або даўгавечнасці), ён працуе над масавым маштабаваннем блокчейна, каб забяспечыць яму неабходную прапускную здольнасць.
«Калі вы не зможаце радыкальна павялічыць маштабаванасць блокчейна, вы не зможаце змясціць унутраную працу штучнага інтэлекту ў ланцуг».
ШІ бліжэй, чым вы думаеце
2022 стаў годам свайго роду прарыву для працуючых прадуктаў, заснаваных на тэхналогіі штучнага інтэлекту, у тым ліку моўных прыкладанняў (GPT-3, ChatGPT), кадавання (GitHub Copilot) і стварэння малюнкаў (DALL-E і Stable Diffusion). Bing нават плануе ўзяць на сябе дамінаванне Google у пошуку ў гэтым годзе, уключыўшы тэхналогію ChatGPT у сваю пошукавую сістэму.
Гёрцэль лічыць, што да AGI можа спатрэбіцца ўсяго пяць гадоў, і адзначае, што распрацоўкі ў гэтай галіне, падобна, ідуць кароткімі трох-чатырохгадовымі ўсплёскамі ў серыі прарываў.
«Computer Vision з'явіўся ў 2014 годзе, і раптам таямніца была разгадана. Апрацоўка натуральнай мовы… пасля таго, як Google прыдумаў мадэль Bert (у 2018 годзе), у вас быў GPT-3. Верагодна, вы ўбачыце тую ж дугу прагрэсу ў AGI. У вас будзе адзін прарыў, потым вялікі прагрэс на два гады», — сказаў ён.
«Розніца заключаецца ў прарыве прагрэсу, у такім выпадку, прыводзіць да машыны, якая затым можа працягваць прагрэс самастойна, перапісваючы свой уласны код.»
Герцэль спадзяецца, што праекты і супрацоўніцтва, якія ён запусціў, могуць быць такімі, як гэта адбываецца.
«Калі нам пашанцуе, мы дасягнем гэтага прарыву ў бліжэйшыя тры-пяць гадоў з OpenCog Hyperon, які працуе на SingularityNET, які працуе на Hypercycle», — кажа ён. «Але калі ў нас не будзе сакрэтнага соусу, яго атрымае нехта іншы».
Шкада, што Віталік не быў інфарматыкам
Рашэнне Гёртцэля для маштабавання блокчейна даволі радыкальнае і ўключае ў сябе турбазарадку бакавой ланцуга або ўзроўню 2 Cardano пад назвай «HyperCyle».
«Гэта сапраўды больш, чым сайдчэйн. HyperCycle таксама будзе супрацоўнічаць з Ethereum і іншымі блокчейнами, але мы будзем выкарыстоўваць там інтэрпрэтатар Plutus, але мы пазбаўляемся ад бухгалтарскай кнігі».
Ён апісаў HyperCycle онлайн як рашэнне «трылемы блокчейна»: «дэцэнтралізацыя супраць бяспекі і прадукцыйнасці шляхам пазбаўлення ад бухгалтарскай кнігі і выкарыстання больш сучасных/цалкам дэцэнтралізаваных алгаў і структур даных, а таксама трохі штучнага інтэлекту і сістэм рэпутацыі».
Рэгістр ляжыць у аснове тэхналогіі блокчэйн, але ён кажа, што прымусіць кожны вузел у сетцы паўтарыць кожную транзакцыю і апрацаваць кожны смарт-кантракт да смешнага неэфектыўна.
«Гросбух проста дрэнны. Калі вы падумаеце пра гэта, калі вы падумаеце пра аналогію вашых кантактаў у вашай тэлефоннай кнізе, я маю на ўвазе, што бухгалтарская кніга падобная на […] захаванне 10,000 10,000 копій Жоўтых старонак, і вы абнаўляеце іх кожны раз, калі прыходзіць нехта новы або калі нехта змяняе свой нумар тэлефона. Гэта сапраўды глупства абнаўляць XNUMX XNUMX асобнікаў Жоўтых старонак».
У версіі аналогіі HyperCycle замест таго, каб кожны захоўваў і абнаўляў Жоўтыя старонкі, людзі ў вашай кнізе кантактаў захоўваюць копію вашай адраснай кнігі, і наадварот, зашыфраваную вашым прыватным ключом.
«Мы высветлілі, як прымусіць блокчейн працаваць без рэплікацыі бухгалтарскай кнігі, так што фрагментаваць увесь шлях. Кожны чалавек, задзейнічаны ў блокчейне, захоўвае ўласную гісторыю транзакцый і захоўвае гісторыю транзакцый сваіх сяброў і сяброў некаторых сяброў», — кажа ён.
«Шардзіруючы да канца, вам не патрэбна бухгалтарская кніга — вам не патрэбна табліца базы дадзеных. Гэтыя рэчы занадта цэнтралізаваныя».
Ён кажа, што некаторыя правераныя вузлы HyperCycle ужо працуюць, але поўнамаштабны запуск адбудзецца толькі ў другой палове 2024 года.
Мы доўга абмяркоўваем розныя вартасці розных падыходаў да блокчейна, ад інтэрнэт-камп'ютэра да Elastos і Celestia, шмат з якіх вышэй за маю аплату працы і за межамі магчымасці маёй запісваючай прылады для дакладнага запісу ў шумным рэстаране.
У заключэнне ён сказаў: «Такім чынам, я проста адчуваю, што ні адна з гэтых архітэктур не з'яўляецца дастаткова радыкальнай. Усе яны занадта блізкія да біткойнаў».
«Я маю на ўвазе, што пакуль вы выкарыстоўваеце кожны смарт-кантракт на кожным вузле, гэта будзе вар'яцка павольна. Цяпер, у HyperCycle, калі вы запусціце смарт-кантракт на пяці вузлах, па меншай меры, гэта будзе толькі ў пяць разоў павольней, чым на адной машыне - гэта не ў 10,000 XNUMX разоў павольней».
Тады чаму Cardano?
Гёртцэль пасябраваў з заснавальнікам Cardano Чарльзам Хоскінсанам, і пара збліжаецца з-за сваіх праектаў у Афрыцы. Ён лічыць, што Хоскінсан «сапраўды там, каб выратаваць свет. Я маю на ўвазе, што ў палітычным плане ён больш жорсткі лібертарыянец, чым я — я больш анарха-сацыяліст — але ён займаецца не толькі тым, каб зарабляць грошы ці выбіваць грошы з іншых людзей».
Але сапраўдная прывабнасць Cardano заключаецца ў тым, што ён выкарыстоўвае мову праграмавання Haskell, фанатам якой Герцэль з'яўляецца з 1993 года. Яму вельмі балюча, што сузаснавальнік Ethereum Віталік Бутэрын выбраў мову праграмавання смарт-кантрактаў Solidity Гэвіна Вуда.
«Калі б Віталік ведаў больш інфарматыкі, ён прымусіў бы іх выкарыстоўваць Haskell або F Sharp ці нешта падобнае, і было б значна менш узломаў блокчэйна», — кажа ён.
«Калі вы збіраецеся кіраваць большай часткай сусветнай эканомікі, гандлюючы трыльёнамі долараў на нейкай сістэме праграмнага забеспячэння, вам было б лепш стварыць гэтую сістэму праграмнага забеспячэння на мове, якая не схільная да памылак і дзе вашыя алгарытмы могуць быць фармальна правераны з дапамогай матэматычнай тэорыі. Гэта проста правільны спосаб рабіць рэчы».
Прамежкавае рашэнне
Незалежна ад таго, наколькі хуткім становіцца блокчэйн, як толькі AGI становіцца на парадак разумнейшым і больш здольным, чым людзі, Гертцэль кажа, што ён не дазволіць нікому кіраваць ім.
«Калі AGI ў 100 разоў разумнейшы за людзей, ён не хоча, каб мы кіравалі ім, як мы не кіравалі б шымпанзэ або аслам, праўда?»
«Тады я б сказаў, што пытанне не ў тым, хто з нас кантралюе гэта, пытанне ў тым, ці добра гэта ставіцца да нас? Ці дазволіць гэта людзям рэгуляваць уласны бізнес і забяспечыць нас крутымі інструментамі і наназборшчыкамі для 3D-друку ўсяго, што мы хочам, і для лячэння нашых хвароб?»
«Але ў пераходны перыяд, калі інтэлект AGI прыкладна такі ж, як і людзі, усё становіцца больш адчувальным і цікавым. І тады пытанне: ці хоча AGI супрацоўнічаць з людзьмі? Ці гэта параноік і хоча кантраляваць людзей, перш чым яны яго знішчаць?»
Навучыце дзяцей добра
На думку Гёртцэля, рашэнне заключаецца ў тым, каб навучыць AGI клопату пра іншых, творчасці і мастацтву. Тут з'яўляюцца робат Дэздэмона ў яго групе і яе сястра Грэйс, якая прызначана для догляду за састарэлымі.
Спосаб пазбегнуць ператварэння AGI ў Skynet Тэрмінатара - гэта не будаваць яго такім чынам.
«Вядома, Skynet у фільме была сеткай кампутарнай бяспекі, якая шалела. Ён быў створаны, каб абараняцца ад людзей», — кажа ён.
«Але калі вы пабудуеце першы AGI, звязаны з доглядам за састарэлымі, творчым мастацтвам і адукацыяй, калі ён стане разумнейшым, ён будзе арыентаваны на дапамогу людзям і стварэнне крутых рэчаў. Калі вы пабудуеце першы AGI, каб забіваць дрэнных хлопцаў ... магчыма, ён будзе працягваць рабіць гэтыя рэчы ".
«Такім чынам, выгадна гэта ці не, усё залежыць ад таго, якія прыкладанні вы распрацавалі і за што вас заахвочвалі».
Ён лічыць, што змяшчэнне штучнага інтэлекту ў целы робатаў карысна, таму што гэта дапамагае размясціць іх у рэальным свеце, а не ў нейкім абстрактным матэматычным сусвеце.
«ІІ павінен даведацца пра свет людзей і фізічны свет. Быць увасобленым у свеце - правільны спосаб зрабіць гэта», - кажа ён.
Але калі ён прадстаўляе робату Сафію шырокай аўдыторыі, глядзельныя і слыхавыя датчыкі могуць быць лёгка ашаламляльнымі, збіваючы з панталыку ШІ ў гучнай і яркай абстаноўцы. Такім чынам, Сафія хутка будзе запушчана ў метасусвет пад назвай Sophiaverse. Забудзьцеся пра сумныя тэкставыя адказы ChatGPT, Сафія ўвасоблена ў трохмерным віртуальным свеце, і яна будзе вучыцца, узаемадзейнічаючы з людзьмі там. Аднак ён папярэджвае, што яна, верагодна, скажа нейкія глупствы.
«Ён мае нейронавую сетку, падобную на GPT-3 і гэтак далей, якія маюць значную магчымасць адказаць на вашы пытанні, але яны таксама ў некаторых адносінах даволі дурныя».
падпісвацца
Самае цікавае чытанне ў блокчейне. Дастаўлены адзін раз а
тыдзень.
Крыніца: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/