Этыка штучнага інтэлекту і геапалітычная барацьба за тое, хто пераможа ў гонцы за дасягненне сапраўднага штучнага інтэлекту

Свет знаходзіцца ў шалёнай гонцы.

Геапалітычныя сілы сцвярджаюць, што пераможца як бы забярэ дадому ўсё сала.

Якая раса вядзецца жорстка і настойліва дамагаецца?

Гэта гонка штучнага інтэлекту.

Магчыма, вы маглі б больш трапна назваць гэта гонкай за дасягненнямі праўда Штучны інтэлект (AI), які ў цяперашні час больш поўна называецца агульным штучным інтэлектам (AGI). Мы хочам нейкім чынам прыйсці да, здавалася б, максімальнага штучнага інтэлекту або вядомага як AGI, які параўнальны з чалавечым інтэлектам. Мы яшчэ не там. Сапраўды, нягледзячы на ​​разнастайныя дзікія і нахабныя загалоўкі, мы не ведаем, калі і ці дасягнем гэтай высокай планкі. Сённяшні штучны інтэлект мае значна менш магчымасцей, чым агульны чалавечы інтэлект, хоць, вядома, існуе мноства больш вузкіх спосабаў, у якіх штучны інтэлект зрабіў уражлівыя набегі, напрыклад, магчымасць гуляць у першакласныя шахматы сусветнага класа або выконваць іншыя адносна абмежаваныя задачы.

Аднак залаты пярсцёнак - гэта з'яўленне штучнага інтэлекту, які дэманструе чалавечы інтэлект набожнай прыроды і глыбіні, падобнай да чалавечага. Гэта святы Грааль даследчыкаў і практыкаў ІІ. Час ад часу з'яўляюцца недарэчныя заявы аб тым, што я ўжо перасёк фінішную рысу гонкі AI, якія я развянчаў у сваёй калонцы на спасылка тут. Тыя, хто спрабуюць спрачацца за перасячэнне фінішнай рысы, бянтэжаць шырокую грамадскасць і часам робяць гэта па руплівай невінаватасці, а часам маюць у руках вельмі сумніўныя матывы. Увогуле, гэта выклікае вельмі важныя і жыццёва важныя меркаванні па этыцы штучнага інтэлекту. Пра тое, што я працягваю і шырока асвятляю этыку штучнага інтэлекту і этычны штучны інтэлект, гл спасылка тут і спасылка тут, Проста назваць некалькі.

У любым выпадку, няма ніякіх сумненняў у тым, што глабальная спрынтарская гонка штучнага інтэлекту актыўна ідзе. Вам было б цяжка сцвярджаць адваротнае.

Падумайце пра гэта так. Калі б нам ужо ўдалося дасягнуць сапраўднага штучнага інтэлекту або AGI, вялікая верагоднасць таго, што забег штучнага інтэлекту быў бы афіцыйна і глабальна прызнаны паспяховым. Запэўніваю вас, што ўвага ўсяго свету будзе прыкавана да такога гучнага і ашаламляльнага прарыву. Вы б ведалі пра гэта. Мы ўсе б. Такім чынам, AI Madcap Dash фактычна больш не існуе, хоць, магчыма, можа з'явіцца другасная версія з удзелам тых, хто не дасягнуў сапраўднага AI, ліхаманкава працуючы, каб дагнаць упушчанае. Існуе таксама трывожнае пытанне аб тым, як мы будзем кантраляваць або кіраваць AGI, калі або калі мы гэтага дасягнем.

Ніякая асоба, арганізацыя або нацыя пакуль не могуць прэтэндаваць на карону стварэння сапраўднага штучнага інтэлекту або AGI.

Тым часам вядзецца велізарная і нястомная спрэчка аб тым, якая нацыя (ці нацыі) узначальвае зграю, а хто адстае далей. Мяркуецца, што калі вы не першы, вы застанецеся ў брудзе. Вы будзеце есці абрыўкі, якія засталіся ад пераможцаў AI. Вы патэнцыйна збіраецеся назаўсёды падпарадкавацца нацыі або нацыям, якія зробяць абвешчаны скачок у сапраўдны AI або AGI.

На кароткі момант і каб палегчыць фармулёўку гэтай дыскусіі, я збіраюся з гэтага часу выкарыстоўваць «AGI» кожны раз, калі хачу выклікаць аўру сапраўднага ІІ. Выкарыстанне некалькі новай фразы "AGI" часам раздражняе тых, хто не прызвычаіўся да яе выкарыстання. Мы ўсе знаёмыя з "AI", і вы можаце быць занепакоеныя, калі ўбачыце, што замест яго выкарыстоўваецца абрэвіятура "AGI". Дазвольце мне растлумачыць, чаму гэта паступова становіцца тэндэнцыяй шматслоўя.

Часткова прычына таго, што AGI падняўся на арэне народнай мовы штучнага інтэлекту, заключаецца ў тым, што простае выказванне «AI» цяпер стала, на жаль, разбавеным выразам. Ніхто не ведае, ці з'яўляецца штучны інтэлект, які вы згадваеце, варыянтам без штучнага інтэлекту, ці нейкім квазі-палепшаным увядзеннем штучнага інтэлекту, які прагрэсуе, ці ён можа мець на ўвазе футурыстычны штучны інтэлект, цалкам прыраўнаваны да чалавека. Каб справіцца з перагрузкай «ШІ» як крылатай фразы, псеўданім AGI набірае перавагу сярод тых інсайдэраў у галіне штучнага інтэлекту, якія жадаюць канкрэтна і ў прыватнасці намякаць на сапраўдны штучны інтэлект.

Такім чынам, карацей кажучы, лічыце маё згадванне AGI такім жа, як сказаць «сапраўдны штучны інтэлект» моцнага калібра, падобнага да чалавечага інтэлекту, дзякуй.

Давайце зробім разважлівы глыбокі ўдых і ўважліва разгледзім некаторыя аспекты гонкі за дасягненне AGI. Ёсць нават метааспект, які трэба пазначыць спачатку. Майце на ўвазе, што выкарыстанне алегорыі меркаванага бегу або іншага віду гоначнай актыўнасці ў якасці метафары гонкі AGI выклікае невялікую пякотку. чаму так Я на імгненне раскажу вам пра ўскладненні і складанасці таго, чаму (некаторыя кажуць) пешы бег або яго эквівалент з'яўляецца цалкам памылковым і падступным простым пунктам гледжання.

Вось ключавыя моманты, якія я разгледжу з вамі ў гэтай прамове:

• Калі гэта гонка, фінішная прамая AGI здаецца даволі дрэнна акрэсленай
• Гонка AGI можа перайсці да чалавека, арганізацыі або нацыі
• Метрыкі і тое, як краіны параўноўваюцца ў гонцы AGI
• Геапалітычнае манеўраванне і выраўноўванне для гонкі AGI
• Міжнародныя законы AI і этыка AI ў якасці суддзяў у гонцы AGI

Магчыма, вы захочаце прышпіліць рамень бяспекі, пакуль я разглядаю хутка распачаты пешы забег AGI (так, я адважуся назваць гэта пешым забегам), у якім амаль усе рухаюцца з шалёнай хуткасцю і, здаецца, рэзка ўзлятаюць наперадзе ў гэтым пякучым квэсце. Некаторыя могуць сказаць, што гэта гонка за паляпшэнне чалавецтва, у той час як іншыя папярэджваюць, што гонка можа азначаць поўную гібель для ўсіх нас.

Час пакажа.

Калі гэта гонка, то фінішная прамая AGI выглядае даволі дрэнна акрэсленай

Фінішная прамая звычайна з'яўляецца даволі канчатковай дэмаркацыяй. Вы альбо дайшлі да фінішу, альбо не. Недастатковасць, здаецца, не прынясе вам карысці. Уявіце сабе алімпійскі бег на дыстанцыі 400 метраў і ці запомніцеся вы асабліва бегунам, якія ўвогуле не скончылі забег (ніколі не перасякаючы фінішную рысу), ці пахвалілі б іх. Наўрад ці.

Ці будзем мы ведаць, калі мы дасягнулі AGI так, што гэта разумна ўсе пагадзіліся, што фінішная прамая была дасягнута?

Ідуць вострыя рознагалоссі наконт размежавання АГІ.

Напрыклад, выкажам здагадку, што мы распрацоўваем штучны інтэлект, які, здаецца, цалкам здольны дэманстраваць чалавечы інтэлект, але ў ім няма падабенства разумення само па сабе (гл. маё асвятленне аргументаў наконт разумення штучнага інтэлекту на спасылка тут). ШІ здольны вылічальна імітаваць або іншым чынам працаваць так, як гэта робіць чалавечы інтэлект. Аднак няма ніводнай іскры жывасці або пачуццяў, якія мы звязваем з людзьмі і іншымі жывымі істотамі. Ці лічыцца гэты AGI дасягненнем мэты, якую мы думалі мець?

Некаторыя запярэчаць, што гэта не мае значэння, калі разуменне само па сабе здавалася б загорнутым у гэты AGI. Пакуль гэта можа дэманстраваць чалавечы інтэлект, уключэнне пачуццяў - гэта нешта зусім іншае, чаго мы можам жадаць ці не жадаць. Разумнасць у гэтым сэнсе - гэта дадатак.

Іншыя рашуча сцвярджаюць, што адзіным спосабам дасягнення чалавечага інтэлекту ў AGI будзе цэласнае ўвасабленне пачуццяў. AGI і адчувальнасць альбо лічацца аднолькавымі, альбо з'яўляюцца сумессю неразрыўнага непадзельнага двайнога ўвасаблення. Каб атрымаць AGI, вы павінны мець разуменне, сцвярджаюць яны.

Калі пакінуць у баку гэты кут дэбатаў, іншы пункт гледжання заключаецца ў тым, што мы маглі б выкарыстаць знакаміты тэст Цьюрынга, каб ацаніць, ці быў дасягнуты AGI. Я падрабязна разгледзеў тэст Цьюрынга на спасылка тут. Карацей кажучы, паняцце заключаецца ў тым, што чалавек задае пытанні AGI, і калі чалавек не можа адрозніць адказы, створаныя AGI, ад адказаў чалавецтва, мы б аб'явілі, што AGI здольны праяўляць чалавечы інтэлект.

З тэстам Цьюрынга часта звязана шмат праблем і недахопаў.

Выкажам здагадку, што чалавек, які робіць запыты, робіць кепскую працу і не задае навадных пытанняў. Адна з праблем заключаецца ў тым, што многія з сучасных, здавалася б, магутных мадэляў вялікіх моў (LLM) могуць вярнуць чалавеку змест, на якім навучаўся LLM (г.зн. тэкставыя і лічбавыя носьбіты, часта атрыманыя праз буйнамаштабнае сканіраванне Інтэрнэту). Такім чынам, асобна адабраны чалавек, які задае пытанні звычайнага кшталту, на якія ўжо быў дадзены адказ і якія існуюць у Інтэрнэце, патэнцыйна можа быць лёгка "адказаны" LLM, але гэта, верагодна, не звязана з увасабленнем чалавечага інтэлекту калібра AGI.

Узнікае шмат іншых сумневаў. Выкажам здагадку, што чалавек не ў стане зразумець адказы. Або выкажам здагадку, што чалавек падманвае сябе, мяркуючы, што ўсе адказы сведчаць пра чалавечы інтэлект. Я нават асвятляў пацёртую ідэю некаторых, што ўсё, што нам трэба зрабіць, гэта спытаць у ІІ, ці з'яўляецца ён AGI або разумным, што, як я даю зразумець, з'яўляецца не вельмі пераканаўчай формай доказу AGI, гл. спасылка тут.

Нарэшце, у якасці адной дадатковай думкі, ці трэба нам цалкам дасягнуць фінішу, каб лічыць, што AGI быў дасягнуты?

Раней я згадваў, што мы звычайна забываем пра тых, хто не даходзіць да фінішу. Гэта не можа быць разумным аналагам расы AGI. Я лічу, што можна прывесці пераканаўчыя довады, што калі мы зможам дасягнуць значнага шляху да AGI, мы ўжо апынемся ў стане здзіўлення і або вялікай карысці, або вялікіх праблем. Разумееце, шмат важных і вельмі карысных вынікаў могуць узнікнуць дзякуючы практычнаму AGI. Атрымацца не так складана, як не прайсці 400-метровы забег, тым больш, што гэта можа стаць жыццёва важнай асновай для таго, каб прайсці наш шлях да больш поўнай версіі AGI (магчыма, у параўнанні з марафонам).

Метафара дасягнення AGI як разнавіднасць бегу або яго эквівалент часам бывае нездавальняючай і неадэкватнай.

Гонка AGI можа перайсці да чалавека, арганізацыі або нацыі

Некаторыя маюць летуценнае меркаванне, што AGI будзе дасягнуты нейкім майстрам, які працуе ў гаражы ў піжаме, і што ён будзе вынікам вар'яцка вынаходлівых эксперыментаў па камп'ютэрызацыі, над якімі яны працавалі шмат гадоў. Гэта класічны хай-тэк воўк-адзіночка.

На жаль, гэта прапанова з вельмі нізкімі шанцамі.

Большая верагоднасць таго, што такая арганізацыя, як бізнес або нейкая даследчая група, стане пачаткоўцам AGI. Моцнае і распаўсюджанае перакананне заключаецца ў тым, што для дасягнення AGI спатрэбіцца вёска. Воўк-адзіночка не будзе мець ні рэсурсаў, ні ведаў, каб дасягнуць AGI. Яны могуць паспрыяць квэсту. Яны могуць даць неабходныя часткі для галаваломкі. Яны не здолеюць сабраць увесь камплект і чараду.

Гаворачы аб вёсках, яшчэ адна цвёрда прытрымліваецца кропка гледжання заключаецца ў тым, што нацыі змогуць дасягнуць толькі AGI. Праз камбінацыю людзей, прадпрыемстваў, навукоўцаў і ўсіх іншых суб'ектаў у нацыянальнай дзяржаве, AGI з'явіцца ў выніку сумеснай працы нацыянальнай сукупнасці. Адзінкавы ўзровень увагі для пераможцы ў гэтай гонцы надаецца нацыянальна-дзяржаўнай аснове, а не нечаму больш раскіданаму, свабоднаму ці індывідуалістычнаму.

Карацей кажучы, калі гаворка ідзе пра вёску, то вёска будзе нацыянальнага маштабу, такім чынам, нацыянальная дзяржава будзе прызначаным бегуном, які перасячэ фінішную рысу ў гонцы AGI.

Паказчыкі і тое, як краіны параўноўваюцца ў гонцы AGI

Вазьміце як дадзенасць, што дасягненне AGI будзе заснавана на ўзроўні нацыянальнай дзяржавы.

Паўтаруся, мы не ведаем гэтага дакладна, але гэта здаецца абгрунтаванай здагадкай.

Разгледзім разгалінаванне асновы нацыянальнай дзяржавы. Выкажам здагадку, што воўк-адзіночка здолее дабрацца да AGI першым і лічыць, што яго праца выходзіць за рамкі нацыянальнай дзяржавы, членам якой ён з'яўляецца. Гэты чалавек заяўляе, што не з'яўляецца нацыянальнай дзяржавай з пункту гледжання створанага AGI. Ці будзем мы па-ранейшаму аддаваць належнае гэтай нацыянальнай дзяржаве і ці будзе AGI пад кантролем і кампетэнцыяй гэтай нацыі?

Уявіце сабе іншую альтэрнатыву, што вялікі шматнацыянальны кангламерат прыбывае ў AGI першым. Якая нацыя можа сказаць, што AGI - гэта іх «рэч» для выкарыстання і разгортвання (будзе гэта разглядацца як уласнасць або замест таго, каб падбіраць варыянт юрыдычнай асобы)? Магчыма, усе краіны, у якіх існуе кампанія, павінны атрымаць роўныя крэдыты. Ці, можа быць, толькі там, дзе фармальная штаб-кватэра геаграфічна размешчана. Гэта можа быць складанае дзяленне сапраўднага залатога гаршка.

У любым выпадку, агульнае меркаванне, што нацыянальная дзяржава будзе вырашальным фактарам дасягнення AGI. Нацыя, якая заахвочвае даследаванні і распрацоўкі штучнага інтэлекту ў рамках сваіх нацыянальных намаганняў, як мяркуецца, дасягне AGI раней, чым іншыя краіны, якія гэтага не робяць.

Існуе пераважнае меркаванне, што раса штучнага інтэлекту з'яўляецца нацыянальнай.

Ашаламляльная праблема заключаецца ў тым, як мы можам вызначыць, апярэджвае ці адстае адна нацыя ў гонцы AGI.

У звычайным бегу мы можам лёгка вызначыць паказчыкі, якія можна выкарыстоўваць, каб вызначыць, якія бегуны ідуць добра, а якія не. Хуткасць бегуна можна лёгка вылічыць. Гэта не гарантуе, што яны фінішуюць першымі, але прынамсі абяцае. Відавочна, што фізічная адлегласць паміж бегунамі і дыстанцыя, якая засталася да фінішу, з'яўляюцца жыццёва важнымі крытэрамі, якія мы можам лёгка вымераць.

Гонка AGI не мае такіх гарантаваных формаў паказчыкаў або вымярэнняў.

Мы выкарыстоўваем усе віды сурагатных вымярэнняў, паколькі няма канчатковага спосабу вылічыць, дзе знаходзіцца канчатковая лінія і як далёка мы ад яе.

Давайце паглядзім на тыпы метрык, якія звычайна разглядаюцца. Асабліва зручная крыніца глабальных вымярэнняў, звязаных з ІІ, штогод збірае і публікуе Стэнфардскі інстытут арыентаванага на чалавека ІІ (HAI) пры Стэнфардскім універсітэце. Справаздача даступна ў Інтэрнэце бясплатна, а апошняя версія мае назву Гадавая справаздача The AI ​​Index 2022 (на аснове даных, сабраных за 2020-2021 гг.). Праз хвіліну я падзялюся з вамі некаторымі момантамі нацыянальных параўнанняў, згаданымі ў іх апошняй падборцы.

Паказчыкі, якія выкарыстоўваюцца для ацэнкі нацыянальнага і міжнароднага прагрэсу ў галіне штучнага інтэлекту, як правіла, уключаюць усё патроху, часам нават на мяжы з уключэннем сапраўднай кухоннай ракавіны.

Тыпы мер, якія звычайна разглядаюцца, ўключаюць:

• Колькасць артыкулаў аб даследаванні штучнага інтэлекту, прыпісаных да пэўнай нацыі
• Колькасць цытуемых спасылак на артыкулы AI пэўнай нацыі
• Колькасць часопісаў па штучным інтэлекту ў пэўнай краіне
• Колькасць канферэнцый AI, якія адбываюцца ў пэўнай краіне
• Колькасць канферэнцый па AI, спансаваных пэўнай краінай
• Колькасць патэнтаў на штучны інтэлект, выдадзеных у пэўнай краіне
• Колькасць стартапаў AI-кампаній у пэўнай краіне
• Колькасць вакансій ІІ у пэўнай краіне
• Колькасць новых вакансій або прыёмаў на працу ў пэўнай краіне
• Колькасць законаў аб штучным інтэлекце або заканадаўчых законапраектаў, уведзеных у пэўнай краіне
• Колькасць законаў аб штучным інтэлекце, прынятых або прынятых у пэўнай краіне
• іншае

Разгледзім гэтыя сучасныя паказчыкі індэкса HAI AI 2022:

• Цытаты публікацый AI: "Па колькасці цытавання публікацый са сховішча штучнага інтэлекту Злучаныя Штаты ўзначальваюць спіс з 38.6% ад агульнай колькасці цытаванняў у 2021 годзе, усталяваўшы дамінуючае лідэрства над Еўрапейскім саюзам, а таксама Злучаным Каралеўствам (20.1%) і Кітаем (16.4%)».
• Часопісы/канферэнцыі AI: «У 2021 годзе Кітай па-ранейшаму лідзіраваў у свеце па колькасці публікацый у часопісах, канферэнцыях і рэпазітарыях AI — на 63.2% вышэй, чым у ЗША з усімі трыма тыпамі публікацый разам узятымі. У той жа час Злучаныя Штаты займалі дамінуючае лідэрства сярод асноўных дзяржаў штучнага інтэлекту па колькасці цытаванняў канферэнцый і рэпазітараў».
• Патэнты штучнага інтэлекту: «Цяпер Кітай падае больш за палову сусветных патэнтаў на штучны інтэлект і атрымлівае каля 6%, прыкладна столькі ж, колькі Еўрапейскі саюз і Вялікабрытанія. Злучаныя Штаты, якія падаюць амаль усе патэнты ў Паўночнай Амерыцы, робяць гэта на адну траціну хутчэй, чым Кітай. У параўнанні з павелічэннем колькасці заяўленых і выдадзеных патэнтаў на штучны інтэлект, Кітай мае значна большую колькасць патэнтавых заявак (87,343 2021 у 1,407 годзе), чым выдадзеных (2021 у XNUMX годзе)».
• Нядаўна прафінансаваныя кампаніі штучнага інтэлекту: «Інвестыцыйныя даныя па колькасці нядаўна прафінансаваных кампаній штучнага інтэлекту ў кожным рэгіёне. У 2021 годзе Злучаныя Штаты лідзіравалі з 299 кампаніямі, за імі ідуць Кітай са 119, Злучанае Каралеўства з 49 і Ізраіль з 28. Разрыў паміж імі значны».
• Тэмп найму AI: "Новая Зеландыя, Ганконг, Ірландыя, Люксембург і Швецыя з'яўляюцца краінамі і рэгіёнамі з найбольшым ростам найму AI з 2016 па 2021 год».
• Аб'явы аб вакансіях AI: «У 2021 годзе Каліфорнія, Тэхас, Нью-Ёрк і Вірджынія былі штатамі з найбольшай колькасцю аб'яваў аб вакансіях у галіне штучнага інтэлекту ў Злучаных Штатах, прычым Каліфорнія мела больш чым у 2.35 разы большую колькасць аб'яў, чым Тэхас, другі па велічыні. У Вашынгтоне, акруга Калумбія, быў самы вялікі працэнт аб'яваў аб вакансіях у параўнанні з агульнай колькасцю аб'яў аб вакансіях
• Заканадаўчыя дзеянні AI: «Аналіз заканадаўчых дакументаў аб штучным інтэлекце ў 25 краінах, праведзены Індэксам штучнага інтэлекту, паказвае, што колькасць законапраектаў, якія змяшчаюць «штучны інтэлект», якія былі прыняты ў закон, вырасла з 1 у 2016 годзе да 18 у 2021 годзе. Іспанія, Вялікабрытанія і ЗША прыняў найбольшую колькасць законапраектаў, звязаных з штучным інтэлектам, у 2021 годзе, кожны з якіх прыняў па тры».

Мы можам захапляцца і цаніць цяжкую працу па зборы статыстыкі бегуноў у нацыянальных штатах для гонкі AGI.

Скептыкі, аднак, даволі шмат спрачаюцца аб выкарыстанні любых тыпаў паказчыкаў у гонцы AGI.

Вастрыстае пытанне заключаецца ў тым, ці можна правесці нейкую прамую лінію ад колькасці артыкулаў пра штучны інтэлект або канферэнцый па штучным інтэлекту ў пэўнай краіне да канчатковага дасягнення AGI. Тое ж самае можна сказаць пра колькасць вакансій, якія займаюцца штучным інтэлектам, колькасць кампаній, якія займаюцца штучным інтэлектам, і мноства іншых паказчыкаў. Магчыма, гэтыя падлікі маюць мала агульнага з дасягненнем AGI. Аргумент абвяшчае, што гэтыя меры больш цяпла, чым святла.

Контраргумент заключаецца ў тым, што мы павінны паспрабаваць вымераць, дзе мы знаходзімся і куды ідзем. Хаваць галаву ў пясок, здаецца, не вельмі жыццяздольны спосаб ацаніць, ці рухаемся мы да AGI або, магчыма, далей ад AGI. Ёсць надзея і агульнае меркаванне, што чым больш энергіі і ўвагі будзе накіравана на развіццё ІІ, тым бліжэй мы наблізімся да AGI. Гэтыя паказчыкі з'яўляюцца лепшым, што мы можам зрабіць, каб сабраць, колькі энергіі і ўвагі выдзяляецца і спажываецца ў гонцы AGI.

Усё круціцца.

Кожную з метрык можна таксама біць аб галаву.

Напрыклад, разгледзім колькасць заканадаўчых законаў або законапраектаў аб ІІ.

Вы можаце сцвярджаць, што калі заканадаўцы засяроджваюцца на законах, звязаных з штучным інтэлектам, гэта добры знак таго, што нацыя даволі цвяроза ўспрымае важнасць штучнага інтэлекту і грамадскія наступствы таго, куды рухаецца штучны інтэлект. Можна сцвярджаць, што гэта дэманструе, што ў гэтай канкрэтнай краіне прыкладаюцца вялікія намаганні па развіцці штучнага інтэлекту. Навошта вам ісці на працу, каб прыняць законы аб штучным інтэлекце, калі штучны інтэлект не расце і не бурліць як дэманстратыўны элемент вашай нацыі?

Такім чынам, тыя краіны, якія прымаюць новыя законы аб штучным інтэлекце, тлумачацца як прыкмета або сігнал аб прагрэсе AGI у гэтай краіне.

Некаторыя крытыкі сцвярджаюць, што прапанаваныя новыя законы аб штучным інтэлекте будуць задушыць намаганні штучнага інтэлекту ў кожнай такой канкрэтнай нацыі. Заканадаўцы і палітычныя лідэры збіраюцца самі сабе страляць у ногі. Законы збіраюцца заўчасна пакласці змрочны цень на намаганні ІІ, якія праводзяцца ў гэтай канкрэтнай краіне. Кран удасканалення штучнага інтэлекту будзе забіты легальнымі валасамі, і тэмп прагрэсу AGI замарудзіцца да кропелькі ў краіне, якая абвяшчае закон аб штучным інтэлекце. У той жа час іншыя краіны, якія не прымаюць такія законы аб штучным інтэлекце, будуць працягваць не спыняцца. Гэта як калі б вы вырашылі надзець свінцовыя гіры на бягуна, які ўжо на 400-метровай трасе. Калі вы імкнуліся дапамагчы ім і паскорыць іх, вы зрабілі зусім наадварот.

Вау, адказ гучыць, прыняцце законаў аб штучным інтэлекце больш падобна на тое, каб пераканацца, што наперадзе бегуна няма непатрэбных перашкод. Законы даюць рэкамендацыі ў тым жа сэнсе, што лініі на іпадроме існуюць для таго, каб бегун плаўна рухаўся ў правільным кірунку. Без гэтых размаляваных ліній бегуны могуць ашалець. Новыя законы аб штучным інтэлекце прымусяць іх дружна крочыць да жаданага выніку. Краіны, якія не робяць тое ж самае з пункту гледжання новых законаў аб штучным інтэлекце, выявяць, што іх бегуны будуць ісці ва ўсіх дзікіх напрамках, у тым ліку, магчыма, цалкам збівацца з трасы і наносіць шкоду тым, хто невінаваты, акрамя самой гонкі AGI.

Існуюць таксама «схаваныя» законы, звязаныя са штучным інтэлектам, якія некаторыя ўлічваюць, а некаторыя не ўлічваюць у рамках гэтых паказчыкаў (гэта стварае мішаніну пры спробе параўнання падлікаў).

Напрыклад, калі краіна прымае закон аб аўтаномных транспартных сродках, напрыклад, беспілотных аўтамабілях, вы лічыце гэта законам аб штучным інтэлекту? Каб удакладніць, што аўтаномны транспартны сродак, такі як цалкам аўтаномны самакіравальны аўтамабіль, будзе мець сістэму кіравання AI, якая з'яўляецца ядром для беспілотных магчымасцей (гл. маё асвятленне на спасылка тут). З-за задзейнічанага штучнага інтэлекту любыя законы аб аўтаномных транспартных сродках можна разумна лічыць па сутнасці законамі штучнага інтэлекту. З іншага боку, вы можаце пераканаўча сцвярджаць, што закон тычыцца аўтаномнага транспартнага сродку, а не сам па сабе штучнага інтэлекту, таму гэта не ўлічваецца пры падліку законаў, якія тычацца штучнага інтэлекту.

Гэта брудна.

Увесь гэты страх наконт паказчыкаў можа прымусіць вас паціснуць плячыма на фоне супрацьлеглых поглядаў на гэтыя важкія меркаванні. Як можа быць відавочна, паказчыкі амаль заўсёды падвяргаюцца разрозненым інтэрпрэтацыям адносна таго, што яны азначаюць і як адпаведным чынам аналізуецца статус нацыі адносна AGI.

Геапалітычнае манеўраванне і выраўноўванне для гонкі AGI

Якія краіны лідзіруюць у гонцы AGI?

Якія народы адстаюць?

Вышэйзгаданыя паказчыкі спрабуюць прадэманстраваць, дзе зараз знаходзіцца кожны з бегуноў. Асноўная здагадка заключаецца ў тым, што калі метрыкі дакладна паказваюць на тое, што AGI імкнецца да пазіцыянавання, гэтыя розныя поул-пазіцыі могуць заставацца нязменнымі з цягам часу. Вядома, рэальнасць такая, што нацыянальная цікавасць і ўвага могуць узрастаць або слабець падчас няроўнага шляху да AGI. Магчыма, разумней за ўсё чакаць змен у пазіцыянаванні.

Адно з важных меркаванняў заключаецца ў тым, што нацыі не ўдзельнічаюць у гэтай гонцы самі па сабе.

Нацыі, верагодна, будуць перадаваць эстафету адна адной. У расе AGI часам адна або некалькі нацый з задавальненнем працуюць рука аб руку. Часам гэта робіцца насцярожана, а не з сяброўскай радасцю. У іншых выпадках нацыі могуць стрымлівацца адна ад адной. У любы момант часу пастава гонкі можа быць зусім іншай, чым была на некалькі крокаў назад, а таксама можа быць зусім іншай на некалькі крокаў у будучыню.

Разгледзім наступнае ў справаздачы HAI AI Index 2022 аб супрацоўніцтве паміж краінамі: «Нягледзячы на ​​рост геапалітычнай напружанасці, Злучаныя Штаты і Кітай мелі найбольшую колькасць супрацоўніцтва паміж краінамі ў публікацыях AI з 2010 па 2021 год, павялічыўшыся ў пяць разоў з 2010 года. .. Супрацоўніцтва паміж дзвюма краінамі выпусціла ў 2.7 раза больш публікацый, чым паміж Вялікабрытаніяй і Кітаем — другое месца ў спісе».

Цынікі сказалі б, што, магчыма, выкарыстанне крос-супрацоўніцтва часам робіцца хітрасцю. Нацыя можа адкрыта сцвярджаць, што яны супрацоўнічаюць паміж сабой, з выгляду, што яны так і робяць, у той час як у глыбіні душы яны захоўваюць свой лепшы прагрэс AGI ў схаванай нацыянальнай таямніцы. Магчыма, гэта робіцца, каб прытупіць прагрэс нацыі крос-супрацоўніцтва. Магчыма, гэта робіцца для таго, каб незнарок не раздалі сакрэтны соус. Прычыны магчымыя самыя розныя.

У сучасным сучасным лічбавым інтэрнэт-свеце онлайн спроба трымаць у сакрэце інфармацыю аб AGI можа быць цяжкай працай. Моцнае жаданне раскрыць або вынайсці AGI - гэта пераканаўчая прывабнасць, якая можа падштурхнуць асобных распрацоўшчыкаў і даследчыкаў AGI адкрыта дзяліцца сваімі апошнімі працамі. Краіны могуць выявіць, што абмежаваць такі абмен нашмат цяжэй, чым можа здацца, і, верагодна, нашмат цяжэй, чым у часы, калі ўсё было папяровым і патрабавалася фізічнае перамяшчэнне дакументаў па ўсім свеце.

Рух да адкрытага зыходнага кода, безумоўна, быў сучасным акцэнтам для большасці апошніх даследаванняў AI і AGI, як згадваецца ў справаздачы HAI AI Index 2022: «Кожны год тысячы і тысячы публікацый AI выходзяць з адкрытым зыходным кодам, няхай гэта будзе ў на канферэнцыях або на сайтах абмену файламі. Даследчыкі будуць адкрыта дзяліцца сваімі высновамі на канферэнцыях; дзяржаўныя ўстановы будуць фінансаваць даследаванні штучнага інтэлекту, якія трапляюць у адкрыты зыходны код; і распрацоўшчыкі выкарыстоўваюць адкрытыя бібліятэкі праграмнага забеспячэння, якія знаходзяцца ў вольным доступе, для стварэння самых сучасных прыкладанняў штучнага інтэлекту. Гэтая адкрытасць таксама спрыяе глабальнаму ўзаемазалежнаму і ўзаемазвязанаму характару сучасных даследаванняў і распрацовак штучнага інтэлекту».

Увогуле, нацыі звычайна дзеляцца, але, магчыма, дэманструюць толькі частку сваёй рукі. Іншыя краіны могуць не дзяліцца або толькі рабіць выгляд, што робяць гэта. Некаторыя краіны змагаюцца з вялікімі намаганнямі, спрабуючы ацаніць, што тыя, хто знаходзіцца ў іх краіне, аддаюць, а не за што трымаюцца. І гэтак далей.

Я ахарактарызаваў характар ​​гэтых нацыянальных крокаў наступным чынам:

• Нацыя AI Go-it-one (спрабуе працягваць самастойна)
• AI аднабаковая нацыя (бярэ, не выдае)
• AI Пакінутая нацыя (атрымлівае тое, што можа ад іншых)
• AI Open-Sharing Nation (ганарыцца тым, што дзеліцца)
• AI Нацыя, якая падзяляе пустыню (фальш у дзяленні)
• Альянсы AI Нацыя (спрабуючы заключыць як мага больш саюзаў)
• Нацыя AI не ў гульні (пошук AGI не з'яўляецца нацыянальным прыярытэтам)
• AI Падман нацыі (зваротная інжынерыя або хітры крадзеж у іншых краін)
• іншае

Нацыя можа знаходзіцца ў больш чым адным з гэтых вёдраў адначасова.

Нацыя можа некаторы час знаходзіцца ў адным з гэтых вёдраў, выбрацца з вядра і, магчыма, пазней вярнуцца туды.

Жаданні нацыянальнай дзяржавы і ўвага, звязаныя з пошукам AGI, - гэта дынамічныя прылівы і адлівы, якія, безумоўна, будуць працягвацца і будуць рухомай мішэнню адносна таго, якая нацыя дзе знаходзіцца ў гонцы, і для высвятлення спатрэбіцца пастаяннае назіранне дзе ўсе гульцы знаходзяцца ў пэўны момант часу.

Міжнародныя законы і этыка штучнага інтэлекту ў якасці суддзяў у гонцы AGI

У папярэдніх калонках я асвятляў розныя нацыянальныя і міжнародныя намаганні па распрацоўцы і прыняцці законаў, якія рэгулююць ІІ, гл. спасылка тут і спасылка тут, напрыклад. Я таксама разгледзеў розныя прынцыпы і рэкамендацыі па этыцы штучнага інтэлекту, якія вызначылі і прынялі розныя краіны, у тым ліку, напрыклад, намаганні Арганізацыі Аб'яднаных Нацый, такія як набор этыкі штучнага інтэлекту ЮНЕСКА, які прынялі амаль 200 краін, гл. спасылка тут.

Вось карысны асноўны спіс этычных крытэрыяў або характарыстык штучнага інтэлекту ў дачыненні да сістэм штучнага інтэлекту, якія я ўважліва вывучаў раней:

• Празрыстасць
• Справядлівасць і справядлівасць
• Не-злачынства
• адказнасць
• недатыкальнасць прыватнага жыцця
• Дабразычлівасць
• Свабода і аўтаномія
• давер
• ўстойлівасць
• пачуццё ўласнай годнасці
• Салідарнасць

Мяркуецца, што гэтыя прынцыпы этыкі штучнага інтэлекту настойліва павінны выкарыстоўвацца распрацоўшчыкамі штучнага інтэлекту, а таксама тымі, хто кіруе намаганнямі па распрацоўцы штучнага інтэлекту, і нават тымі, хто ў канчатковым выніку размяшчае і абслугоўвае сістэмы штучнага інтэлекту.

Усе зацікаўленыя бакі на працягу ўсяго жыццёвага цыкла штучнага інтэлекту, распрацоўкі і выкарыстання, разглядаюцца ў межах захавання ўсталяваных нормаў этычнага штучнага інтэлекту. Гэта важная асаблівасць, паколькі звычайна мяркуецца, што «толькі кодэры» або тыя, хто праграмуе штучны інтэлект, павінны прытрымлівацца паняццяў этыкі штучнага інтэлекту. Як было падкрэслена раней, для распрацоўкі і ўкаранення штучнага інтэлекту патрэбна вёска, і для гэтага ўся вёска павінна ведаць і выконваць правілы этыкі штучнага інтэлекту.

Давайце разгледзім уплыў і жыццёвы характар ​​міжнародных законаў аб штучным інтэлекце і міжнародных пракламацый этычных правілаў штучнага інтэлекту на расу AGI.

Краіны, якія імкнуцца да AGI, могуць зрабіць гэта бяздумна і апынуцца ў бок некаторых з часта папулярных экзістэнцыяльных рызык AGI. Надзея складаецца ў тым, што шляхам прыняцця міжнародных законаў аб штучным інтэлекце і міжнародных правілаў этыкі штучнага інтэлекту народы будуць накіроўвацца да ІІ Назаўсёды і трымацца далей AI для дрэннага.

Згодна з нашай аналогіяй з іпадромам, гэтыя законы аб штучным інтэлекце і этычныя меркаванні штучнага інтэлекту падобныя на спробы ўтрымаць бегуноў ад выхаду за межы трасы. Ёсць велізарныя спакусы пайсці па кароткіх шляхах у гонцы AGI. Гэтыя цэтлікі могуць прывесці нацыю да фінішнай прамой, здавалася б, раней, але адначасова падвергнуць гэтую нацыю і іншыя нацыі неапраўданай рызыцы. Тонкі, але паказальны прыклад - штучны інтэлект падвойнага прызначэння, які я разглядаў спасылка тут, у выніку чаго развіццё штучнага інтэлекту без асаблівых высілкаў лёгка пераключаецца з накіраванасці на дабрыню на стварэнне катаклізмаў.

Вы можаце сцвярджаць, што міжнародныя законы аб штучным інтэлекце і міжнародная этыка штучнага інтэлекту падобныя на суддзяў або суддзяў.

Мяркуецца, што гэтыя міжнародныя юрыдычныя і этычныя механізмы будуць трымаць гонку AGI на больш роўным кілі. Справа ў тым, што асобныя краіны захочуць прыслухацца да рэферы або суддзяў - гэта іншая справа. Аналагічным чынам узнікае хвалюючае пытанне аб тым, як гэтыя ўлады могуць прадугледзець штрафы або стымулы, каб трымаць бегуноў на правільным шляху. Верагоднасць таго, што нацыі будуць рабіць так, як яны жадаюць, для чаго іншым нацыям, магчыма, спатрэбіцца перанесці сваю вагу, каб узмацніць падтрымку непарушных правілаў, якія некаторыя краіны абавязаны рабіць.

заключэнне

Луі Пастэр, легендарны хімік і мікрабіёлаг, сказаў: «Навука не ведае краіны, таму што веды належаць чалавецтву і з'яўляюцца факелам, які асвятляе свет. Навука з'яўляецца найвышэйшым увасабленнем нацыі, таму што гэтая нацыя застанецца першай, якая пранясе найдалей творы думкі і інтэлекту».

Ці можна сказаць, што дасягненне AGI не ведае ніводнай краіны і што AGI будзе належаць усяму чалавецтву?

Або нацыя, якая першая прыбудзе ў AGI, стане валодаць ім, стане п'янай ад універсальнай улады і звар'яцее ад улады?

Для тых з вас, хто любіць трохі павярнуць гэтую галаваломку, улічыце, што AGI сам па сабе можа быць тым тыпам дасягненняў, які з'яўляецца праславутай змяёй у траве. Першаадкрывальнік змяі можа быць першым, хто атрымае змяіны ўкус. Быць першым мае свае рызыкі.

Перасячэнне фінішу на AGI не абавязкова будзе такім святочным і бесклапотным, як некаторыя могуць падумаць. Выкарыстанне AGI таксама не будзе простым. Хтосьці можа сцвярджаць, што справіцца з AGI можа быць амаль немагчыма, паколькі AGI, здавалася б, будзе валодаць параўнальнай хітрасцю і вынаходлівасцю, якімі валодае чалавецтва. Нацыі павінны памятаць пра тое, чаго яны спрабуюць дасягнуць і які будзе вынік, робячы гэта загадзя і не застаючыся знянацку. Магчыма, у іх нацыянальным скарбе ёсць гняздо шэршняў.

Як казаў Пастэр: «Удача спрыяе падрыхтаванаму розуму».