Як правалілася крыптаімперыя Сэма Бэнкман-Фрыда і як гэта паўплывала на штучны інтэлект

Anthropic, арганізацыя па даследаванні штучнага інтэлекту, якая базуецца ў Сан-Францыска, прыцягнула $ 580 млн у красавіку для даследавання "Бяспека штучнага інтэлекту".

Гадавая лабараторыя, якая развіваецца штучны інтэлект (ІІ) сістэмы, якія ствараюць мову, былі мала вядомыя ў Сіліконавай даліне. Тым не менш, сума грошай, абяцаная малому бізнесу, пераўзышла суму, якую венчурныя капіталаўкладальнікі ўкладвалі ў іншыя стартапы штучнага інтэлекту, у тым ліку тыя, у якіх працавалі адны з самых дасведчаных даследчыкаў у галіны.

Сэм Бэнкман-Фрыд, заснавальнік і генеральны дырэктар FTX, біржы крыптавалют, якая абвясціла аб банкруцтве ў мінулым месяцы, выступіў у якасці лідэра інвестыцыйнага раунда. Уцечка балансу пасля Рэзкі крах FTX высветлілася, што г-н Бэнкман-Фрыд і яго паплечнікі ўклалі ў Anthropic не менш за 500 мільёнаў долараў.

Іх інвестыцыі былі часткай таемнай і марнай спробы даследаваць і супрацьстаяць рызыкам, звязаным са штучным інтэлектам, які, на думку многіх людзей у асяроддзі Бэнкман-Фрыда, можа ў канчатковым выніку разбурыць планету і нанесці шкоду чалавецтву. Паводле падлікаў The New York Times, 30-гадовы прадпрымальнік і яго калегі з FTX за апошнія два гады інвеставалі або прадаставілі больш за 530 мільёнаў долараў больш чым 70 прадпрыемствам, звязаным са штучным інтэлектам, акадэмічным лабараторыям, аналітычным цэнтрам і незалежным праектам. , і асобныя даследчыкі, каб вырашыць праблемы з нагоды тэхналогіі.

Па словах чатырох людзей, знаёмых з дзейнасцю AI, якія не мелі права выступаць публічна, некаторыя з гэтых груп і асоб цяпер занепакоеныя тым, ці змогуць яны працягваць марнаваць гэтыя грошы. Яны выказалі занепакоенасць тым, што няшчасны выпадак з Бэнкман-Фрыдам можа паставіць пад сумнеў іх вучобу і пашкодзіць іх рэпутацыі. Акрамя таго, яны папярэдзілі, што некаторыя стартапы і арганізацыі, якія займаюцца штучным інтэлектам, пазней могуць быць уцягнутыя ў працэдуры банкруцтва FTX і іх гранты могуць быць адкліканы ў судзе.

Асцярогі ў в Індустрыя штучнага інтэлекту з'яўляюцца непрадбачаным вынікам няўдачы FTX, які дэманструе, наколькі далёка ідучыя наступствы краху крыптабіржы і знікнення багацця Бэнкмана-Фрыда.

Па словах Эндру Берта, запрошанага супрацоўніка Ельскай юрыдычнай школы і адваката, які засяроджваецца на небяспецы штучнага інтэлекту

Некаторых можа здзівіць сувязь паміж гэтымі двума новымі галінамі тэхналогій

Аднак паміж імі ёсць відавочныя сувязі.

Эфектыўны альтруізм

З-за свайго ўдзелу ў «эфектыўным альтруізме», дабрачынным руху, удзельнікі якога хочуць аптымізаваць уплыў сваіх ахвяраванняў у доўгатэрміновай перспектыве, Бэнкман-Фрыд (нібыта) спрабаваў натхніць.

Эфектыўныя філантропы часта непакояцца аб тым, што яны называюць катастрафічнымі пагрозамі, такімі як пандэміі, біялагічная зброя і ядзерная вайна. Яны праяўляюць вялікую цікавасць да штучнага інтэлекту. Многія эфектыўныя альтруісты думаюць, што ўсё больш магутны штучны інтэлект можа прынесці карысць свету, але яны занепакоеныя тым, што калі яго не развіваць бяспечным чынам, ён можа нанесці значную шкоду.

Эфектыўныя альтруісты даўно сцвярджаюць, што такая будучыня не выходзіць за рамкі магчымасці і што даследчыкі, прадпрыемствы і ўрады павінны быць да яе гатовы. У той час як эксперты па штучным інтэлекту сыходзяцца ў меркаванні, што любы сцэнар канца суда вельмі далёкі - калі ён наогул адбудзецца - эфектыўныя альтруісты даўно сцвярджаюць, што гэта не так.

Даследаванне ўплыву ІІ

Лепшыя даследчыя лабараторыі штучнага інтэлекту, такія як DeepMind, якая належыць мацярынскай кампаніі Google, і OpenAI, створаная Ілонам Маскам і іншымі, за апошнія дзесяць гадоў нанялі мноства эфектыўных альтруістаў. Яны адыгралі важную ролю ў распрацоўцы прадмета даследавання, вядомага як «бяспека штучнага інтэлекту», які вывучае патэнцыйную шкоду, якую могуць нанесці сістэмы штучнага інтэлекту, або магчымасць непрадбачаных збояў.

Падобныя дасьледаваньні былі праведзеныя эфектыўнымі альтруістамі ў вашынгтонскіх аналітычных групах, якія ўплываюць на палітыку. Большую частку фінансавання Цэнтра бяспекі і новых тэхналогій Джорджтаўнскага ўніверсітэта атрымала ад Open Philanthropy, эфектыўнай альтруістычнай арганізацыі, якую падтрымлівае Дастын Маскавіц, сузаснавальнік Facebook. Цэнтр вывучае ўплыў штучнага інтэлекту і іншых новых тэхналогій на нацыянальную бяспеку. У гэтых аналітычных цэнтрах эфектыўныя альтруісты таксама выступаюць у якасці даследчыкаў.

Фонд будучыні

З 2014 года Бэнкман-Фрыд сцвярджае, што ўдзельнічаў у эфектыўным руху альтруістаў. У красавіцкім інтэрв'ю New York Times ён растлумачыў, што мэтанакіравана абраў паспяховую працу, каб ён мог раздаваць значна большыя сумы грошай, прыняўшы філасофію, вядомую як зарабляць, каб даць.

У лютым ён і некалькі яго калег па FTX прадставілі Фонд будучыні, які будзе забяспечваць фінансаванне «амбіцыйных праектаў для паляпшэння доўгатэрміновых перспектыў чалавецтва». Кіраваць фондам дапамагаў Уіл Макаскіл, адзін з заснавальнікаў Цэнтра эфектыўнага альтруізму, і іншыя ўплывовыя ўдзельнікі руху.

Да пачатку верасня Фонд будучыні паабяцаў выдзеліць гранты на агульную суму 160 мільёнаў долараў на розныя ініцыятывы, у тым ліку даследаванні гатоўнасці да пандэміі і эканамічнага пашырэння. У агульнай складанасці 30 мільёнаў долараў было выдзелена на ахвяраванні розным групам і асобам, якія даследуюць канцэпцыі, звязаныя з штучным інтэлектам.

Адзін грант на штучны інтэлект ад Future Fund склаў 2 мільёны долараў малавядомай кампаніі Lightcone Infrastructure. Інтэрнэт-дыскусійны форум LessWrong падтрымліваецца кампаніяй Lightcone, і ў сярэдзіне 2000-х яна пачала паглыбляцца ў ідэю, што штучны інтэлект аднойчы можа знішчыць людзей.

Даследчы цэнтр выраўноўвання, група, якая працуе над узгадненнем будучых сістэм штучнага інтэлекту з інтарэсамі чалавека, каб не дапусціць фальсіфікацыі тэхналогіі, атрымала 1.25 мільёна долараў ад Бэнкман-Фрыда і яго калег. Таксама былі падтрыманы іншыя ініцыятывы, накіраваныя на зніжэнне доўгатэрміновых рызык ІІ. Акрамя таго, яны ўнеслі 1.5 мільёна долараў у Карнельскі ўніверсітэт на адпаведныя даследаванні.

Фонд будучыні таксама выдзеліў каля 6 мільёнаў долараў на тры ініцыятывы, звязаныя з «вялікімі моўнымі мадэлямі», тыпам больш магутнага штучнага інтэлекту, які можа ствараць кампутарныя праграмы, твіты, электронныя лісты і запісы ў блогах. Сродкі былі прызначаны для памяншэння нечаканых і непажаданых паводзін гэтых сістэм, а таксама для змякчэння магчымага выкарыстання тэхналогіі для распаўсюджвання ілжывай інфармацыі.

Г-н Макаскіл і іншыя адказныя за Future Fund пакінулі ініцыятыву, калі FTX абвясціла аб банкруцтве, выказаўшы «асноўныя пытанні адносна сапраўднасці і сумленнасці камерцыйных аперацый», якія ляжаць у яе аснове. Каментароў ад спадара Макаскіла не было.

Дзякуючы фінансаванню Anthropic у памеры 500 мільёнаў долараў, Бэнкман-Фрыд і яго паплечнікі інвеставалі непасрэдна ў стартапы ў дадатак да ўзнагарод, атрыманых Фондам будучыні. Група, якая ўключае шэраг эфектыўных альтруістаў, якія перайшлі з OpenAI, стварыла карпарацыю ў 2021 годзе. Ствараючы ўласныя моўныя мадэлі, стварэнне якіх можа каштаваць дзясяткі мільёнаў долараў, яна спрабуе зрабіць штучны інтэлект больш бяспечным.

Грошы Бэнкман-Фрыда і яго паплечнікаў ужо перададзены некалькім арганізацыям і людзям. Іншыя атрымалі толькі частку абяцанага. Па словах чатырох чалавек, якія валодаюць інфармацыяй аб арганізацыях, некаторыя людзі збянтэжаныя тым, ці трэба будзе вяртаць гранты крэдыторам FTX.

Па словах Джэйсана Ліліена, партнёра юрыдычнай фірмы Loeb & Loeb, які спецыялізуецца на некамерцыйных арганізацыях, калі ўкладальнікі абвяшчаюць аб банкруцтве, дабрачынныя арганізацыі ўспрымальныя да звароту. Нягледзячы на ​​тое, што яны знаходзяцца ў крыху лепшым становішчы, чым дабрачынныя арганізацыі, прадпрыемствы, якія атрымліваюць венчурны капітал ад збанкрутаваных прадпрыемстваў, тым не менш падлягаюць патрабаванням аб вяртанні, дадаў ён.

Эфектыўныя альтруісты, па словах Д'юі Мердзіка, кіраўніка Джорджтаўнскага аналітычнага цэнтра Цэнтра бяспекі і новых тэхналогій, які фінансуецца Open Philanthropy, унеслі значны ўклад у даследаванні штучнага інтэлекту.

Ён прывёў той факт, што існуе больш размоў аб тым, як сістэмы штучнага інтэлекту можна распрацоўваць з улікам бяспекі, як доказ таго, што «паколькі яны павялічылі грошы, гэта павялічыла ўвагу да гэтых пытанняў».

Аднак Орэн Эцыёні з Інстытута штучнага інтэлекту Алена, лабараторыі штучнага інтэлекту ў Сіэтле, сцвярджаў, што меркаванні эфектыўнай супольнасці альтруістаў часам былі празмернымі і часта перабольшвалі моц і небяспеку сучасных тэхналогій.

Ён сказаў, што ў гэтым годзе Фонд будучыні прапанаваў яму фінансаванне даследаванняў, якія дапамогуць прадбачыць прыход і небяспекі «штучнага агульнага інтэлекту», машыны, якая здольная выконваць усе задачы, на якія здольны чалавечы мозг. Але паколькі навукоўцы яшчэ не ведаюць, як яго пабудаваць, Эцыёні сцвярджаў, што гэтую ідэю нельга дакладна прадказаць.

роднасны

Dash 2 Trade – высокі патэнцыял перадпродажу

• Актыўны перадпродаж у прамым эфіры - dash2trade.com
• Родны токен экасістэмы Crypto Signals
• Праверана і праверана KYC