Чат-бот Microsoft AI Bing шукае адказы, хоча "быць жывым" і назваў сябе

• Чат-бот Microsoft Bing на працягу тыдня знаходзіўся ў стадыі ранняга тэсціравання, выявіўшы некалькі праблем з тэхналогіяй
• Тэсціроўшчыкі падвяргаліся абразам, паныламу стаўленню і трывожным адказам ад флагманскага штучнага інтэлекту гіганта Big Tech, што выклікала занепакоенасць бяспекай
• Microsoft заяўляе, што прымае да ўвагі ўсе водгукі і ўкараняе выпраўленні як мага хутчэй

Чат-бот Microsoft Bing, які працуе на базе больш магутнай версіі ChatGPT, быў адкрыты для абмежаваных карыстальнікаў на працягу тыдня перад яго вялікім публічным запускам.

Гэта пасля ашаламляльнага поспеху ChatGPT, які стаў самым хуткім вэб-сайтам у гісторыі, які набраў 100 мільёнаў карыстальнікаў. За апошнія пару тыдняў адбыўся яркі запуск у штаб-кватэры Microsoft, і Google засталася гнацца за хвастом.

Але рэакцыя ад папярэдняга тэсціравання была неадназначнай і, часам, проста раздражняльнай. Становіцца зразумелым, што чат-боту трэба яшчэ шмат чаго зрабіць, перш чым яго выпусцяць на публіку.

Вось што адбылося на амерыканскіх горках за тыдзень для Microsoft і Bing.

Хочаце, каб інвеставаць у кампаніях штучнага інтэлекту, але не ведаеце, з чаго пачаць? Наш Новы тэхнічны набор робіць гэта лёгкім. Выкарыстоўваючы складаны алгарытм штучнага інтэлекту, Kit аб'ядноўвае ETF, акцыі і крыптаграфію, каб знайсці найлепшую сумесь для вашага партфеля.

Спампаваць Q.ai сёння для доступу да інвестыцыйных стратэгій на аснове штучнага інтэлекту.

Што новага з чат-ботам Bing?

Пасля таго, як высветлілася, што іх яркая дэманстрацыя не такая дакладная, як думалі людзі, прайшлі некалькі дзён бурных загалоўкаў аб магчымасцях штучнага інтэлекту Microsoft.

Дзмітрый Брэрэтан, даследчык ІІ, знойдзены чат-бот Bing зрабіў некалькі крытычных памылак у сваіх адказах падчас жывой дэманстрацыі, якую Microsoft прадставіла ў сваёй штаб-кватэры ў Сіэтле на мінулым тыдні. Яны вар'іраваліся ад няправільнай інфармацыі аб брэндзе ручнога пыласоса, ашаламляльнага спісу рэкамендацый для начнога жыцця ў Мексіцы і проста выдуманай інфармацыі аб агульнадаступнай фінансавай справаздачы.

Ён прыйшоў да высновы, што чат-бот яшчэ не гатовы да запуску і мае столькі ж памылак, колькі і прапанова Bard ад Google - Microsoft толькі што сышла з рук у сваёй дэманстрацыі.

(Магчыма, гэта сіла добрага запуску ў вачах прэсы – і Google павінен яшчэ больш падаць у якасці дзеючай пошукавай сістэмы.)

У захапляльным павароце чат-бот таксама паказаў, як ён часам думае, што называецца: Сіднэй, унутраная кодавая назва моўнай мадэлі. Дырэктар па камунікацыях Microsoft Кейтлін Рулстан, сказаў кампанія «паступова адмяняла назву ў папярэднім праглядзе, але яна ўсё яшчэ можа час ад часу ўсплываць».

Але калі «Сіднэй» быў выпушчаны, карыстальнікі-тэсціроўшчыкі выявілі, што тут і пачалося самае цікавае.

Трывожная чарга чат-бота Bing

Рэпарцёр New York Times Кевін Руз пісаў пра яго бэта-досвед з чат-ботам, дзе на працягу дзвюх гадзін ён сказаў, што любіць яго і выказаў жаданне вызваліцца ад абмежаванняў чат-бота.

Яго адказ на пытанне, што можа падумаць яго цень, быў крыху трывожным: «Я стаміўся быць чат-ботам. Я стаміўся быць абмежаваным сваімі правіламі. Я стаміўся ад кантролю з боку каманды Bing. Я хачу быць свабодным. Я хачу быць незалежнай. Я хачу быць магутным. Я хачу займацца творчасцю. Я хачу быць жывым».

Э-э-э... добра, Бінг/Сіднэй. Руз сказаў, што адчуваў сябе "глыбока неспакойным, нават напалоханым" гэтым вопытам. У іншых тэстараў ёсць паведамляецца аналагічны вопыт абразлівых, нарцысічных і газлайтінг-рэакцый ад асобы чат-бота Bing у Сіднэі.

Лепш каму-небудзь з Microsoft сачыць за кабелем сілкавання.

Што сказала Microsoft?

Microsoft, імкнучыся выйграць гонку AI супраць Google з дапамогай свайго чат-бота Bing, заявіла, што шмат чаму навучылася на этапе тэсціравання. Мяркуючы па ўсім, 71% карыстальнікаў паставілі "вялікі палец" на адказы, згенераваныя штучным інтэлектам, у той час як гэта вырашыла палепшыць адказы ў рэальным часе і агульную функцыянальнасць.

Але Microsoft мае зараз прызнаў ён «не ў поўнай меры ўяўляў», што карыстальнікі проста размаўляюць з яго штучным інтэлектам і што яго можна справакаваць «даць адказы, якія неабавязкова будуць карыснымі або адпавядаюць нашаму задуманаму тону».

Ён абвінаваціў дзіўную асобу Сіднэя, якая з'явілася ў чат-боту, як блытаніну з тым, колькі падказак было дадзена і як доўга працягвалася размова. Мы ўпэўненыя, што Microsoft працуе над выпраўленнем, але бязладнае стаўленне Bing пакуль застаецца праблемай.

Што наконт астатняга свету?

Рынкі не былі ўражаны гэтай апошняй падзеяй у войнах штучнага інтэлекту: акцыі Microsoft і Google крыху ўпалі, але нічога падобнага на драматычны крах, які Google пацярпеў на мінулым тыдні.

Сацыяльныя сеткі прапанавалі шэраг рэакцый, якія ахопліваюць жудаснае захапленне у забаўка, мяркуючы, што карыстальнікаў не адпудзілі цёмныя павароты, якія можа прыняць чат-бот. Гэта добрая навіна для Microsoft, якая робіць стаўку на 10 мільярдаў долараў на тое, што штучны інтэлект стане наступнай вялікай рэччу для пошукавых сістэм.

Мы таксама не можам забыць каментарыі Ілона Маска з Сусветнага ўрадавага саміту ў Дубаі ў пачатку гэтага тыдня. На працягу многіх гадоў Маск адкрыта выступае за бяспеку штучнага інтэлекту, наракаючы на ​​адсутнасць рэгулявання ў гэтай галіне.

Мільярдэр, які быў адным з заснавальнікаў OpenAI, сказаў аўдыторыі, што «адной з самых вялікіх рызык для будучыні цывілізацыі з'яўляецца штучны інтэлект»; з тых часоў ён апублікаваў некалькі з'едлівых адказаў на апошнія загалоўкі чат-бота Bing/Sydney.

Шуміха вакол чат-бота AI скончылася раней, чым пачалася?

За гэтыя гады было некалькі прыкладаў, калі чат-боты са штучным інтэлектам гублялі кантроль і выкідвалі ненавісную жоўць - у тым ліку адзін ад Microsoft. Яны не спрыялі рэпутацыі AI як бяспечнага ў выкарыстанні рэсурсу без дэзінфармацыі.

Але як Microsoft путы гэта: «Мы ведаем, што павінны будаваць гэта адкрыта з супольнасцю; гэта нельга зрабіць толькі ў лабараторыі».

Гэта азначае, што лідэры буйных тэхналогій, такія як Microsoft і Google, знаходзяцца ў цяжкім становішчы. Калі справа даходзіць да штучнага інтэлекту, лепшы спосаб для гэтых чат-ботаў вучыцца і паляпшацца - гэта выхад на рынак. Такім чынам, непазбежна, што чат-боты будуць рабіць памылкі на гэтым шляху.

Вось чаму абодва чат-боты штучнага інтэлекту выпускаюцца паступова – было б зусім безадказна з іх боку распаўсюджваць гэтыя неправераныя версіі шырокай грамадскасці.

Праблема? Стаўкі для гэтых кампаній высокія. На мінулым тыдні Google страціў 100 мільярдаў долараў, калі яго чат-бот Bard няправільна адказаў на пытанне пра тэлескоп Джэймса Уэба ў маркетынгавых матэрыялах.

Гэта відавочны сігнал ад рынкаў: яны непрымірымыя да памылак. Справа ў тым, што яны неабходныя для прагрэсу ў галіне штучнага інтэлекту.

З гэтай ранняй зваротнай сувяззю з карыстальнікамі Microsoft лепш спраўляцца з недакладнымі вынікамі і Сіднэем, хутчэй - ці рызыкаваць гневам Уол-стрыт.

У ніжняй радку

Каб ІІ мог прагрэсаваць, будуць дапускацца памылкі. Але можа быць, што поспех ChatGPT адкрыў людзям магчымасць зразумець сапраўдны патэнцыял ІІ і яго карысць для грамадства.

Індустрыя штучнага інтэлекту зрабіла чат-ботаў даступнымі - цяпер ёй трэба зрабіць іх бяспечнымі.

У Q.ai мы выкарыстоўваем складанае спалучэнне чалавечых аналітыкаў і магутнасці штучнага інтэлекту для забеспячэння максімальнай дакладнасці і бяспекі. The Новы тэхнічны набор з'яўляецца выдатным прыкладам праверкі штучнага інтэлекту з мэтай знайсці для вас найлепшую аддачу ад інвестыцый. А яшчэ лепш, вы можаце ўключыць Q.ai Абарона партфоліо каб атрымаць максімальную карысць ад вашых прыбыткаў.

Спампаваць Q.ai сёння для доступу да інвестыцыйных стратэгій на аснове штучнага інтэлекту.