Generative AI ChatGPT можа трывожна паглынаць вашы прыватныя і канфідэнцыяльныя даныя, папярэджвае, што этыка AI і закон аб AI

Цяпер вы бачыце свае даныя, а цяпер — не.

Тым часам вашы каштоўныя даныя як бы сталі часткай калектыву.

Я маю на ўвазе аспект, які можа быць даволі дзіўным для тых з вас, хто з ахвотай і сур'ёзна выкарыстоўвае апошнія навінкі штучнага інтэлекту (AI). Дадзеныя, якія вы ўводзіце ў праграму штучнага інтэлекту, патэнцыйна зусім не прыватныя для вас і толькі для вас. Магчыма, вашы даныя будуць выкарыстоўвацца вытворцам штучнага інтэлекту, як мяркуецца, для паляпшэння сваіх паслуг штучнага інтэлекту або могуць быць выкарыстаны імі і/ці нават іх саюзніцкімі партнёрамі для розных мэтаў.

Цяпер вы папярэджаны.

Гэтая перадача вашых даных адбываецца самым бяскрыўдным спосабам і патэнцыйна тысячамі ці мільёнамі людзей. Як так? Існуе тып штучнага інтэлекту, вядомы як генератыўны штучны інтэлект, які нядаўна прыцягнуў вялікія загалоўкі і прыцягнуў увагу шырокай грамадскасці. Самае прыкметнае з існуючых генератыўных прыкладанняў штучнага інтэлекту - ChatGPT, распрацаванае фірмай OpenAI.

У ChatGPT нібыта зарэгістравана каля мільёна карыстальнікаў. Многія з гэтых карыстальнікаў, здаецца, з задавальненнем апрабоўваюць гэта самае папулярнае і найноўшае генератыўнае прыкладанне AI. Працэс незвычайна просты. Вы ўводзіце тэкст у якасці падказкі, і вуаля, праграма ChatGPT стварае тэкставы выхад, які звычайна мае форму эсэ. Некаторыя называюць гэта пераўтварэннем тэксту ў тэкст, хаця я аддаю перавагу пазначаць гэта як пераўтварэнне тэксту ў эсэ, бо гэта шматслоўе мае больш паўсядзённы сэнс.

Спачатку карыстальнік-пачатковец, верагодна, увядзе што-небудзь вясёлае і бесклапотнае. Раскажыце мне пра жыццё і часы Джорджа Вашынгтона, хтосьці можа ўвайсці ў якасці падказкі. Затым ChatGPT напіша эсэ пра нашага легендарнага першага прэзідэнта. Эсэ было б цалкам беглым, і вам было б цяжка зразумець, што яно было падрыхтавана дадаткам AI. Захапляльная рэч, каб убачыць, што адбываецца.

Хутчэй за ўсё, пагуляўшы некаторы час, частка карыстальнікаў-пачаткоўцаў насыціцца і патэнцыйна захоча перастаць гуляць з ChatGPT. Цяпер яны пераадолелі сваю FOMO (страх упусціць), зрабіўшы гэта пасля эксперыментаў з дадаткам AI, пра які, здаецца, балбаталі амаль усе. Справа зроблена.

Хоць некаторыя пачнуць думаць пра іншыя і больш сур'ёзныя спосабы выкарыстання генератыўнага штучнага інтэлекту.

Магчыма, выкарыстаеце ChatGPT, каб напісаць нататку, якую ваш бос заклікаў вас напісаць. Усё, што вам трэба зрабіць, гэта даць падказку з пунктамі, якія вы маеце на ўвазе, і наступнае, што вы ведаеце, ChatGPT стварыла ўсю памятку, якая прымусіла б вашага боса ганарыцца вамі. Вы капіюеце атрыманае эсэ з ChatGPT, устаўляеце яго ў афіцыйны шаблон кампаніі ў вашым пакеце апрацоўкі тэкстаў і адпраўляеце шыкоўны мемарандум па электроннай пошце свайму кіраўніку. Вы каштуеце мільён баксаў. І вы выкарыстоўвалі свае мазгі, каб знайсці зручны інструмент для выканання цяжкай працы за вас. Пагладзьце сябе па спіне.

Гэта яшчэ не ўсё.

Так, ёсць яшчэ.

Майце на ўвазе, што генератыўны ІІ можа выконваць мноства іншых задач, звязаных з пісьмом.

Напрыклад, выкажам здагадку, што вы напісалі нейкае апавяданне для паважанага кліента і вельмі жадаеце правесці рэцэнзію матэрыялу, перш чым ён выйдзе за дзверы.

Лёгка-проста.

Вы ўстаўляеце тэкст свайго апавядання ў падказку ChatGPT, а затым даручаеце ChatGPT прааналізаваць тэкст, які вы склалі. Атрыманае эсэ можа глыбока паглыбіцца ў вашыя фармулёўкі і, да вашага прыемнага здзіўлення, паспрабуе як бы праверыць сэнс таго, што вы сказалі (выходзячы далёка за рамкі праверкі арфаграфіі або аналізатара граматыкі). Праграма штучнага інтэлекту можа выявіць памылкі ў логіцы вашага апавядання або выявіць супярэчнасці, пра якія вы не здагадваліся, што ёсць у вашым уласным напісанні. Гэта амаль як калі б вы нанялі хітрага рэдактара-чалавека, каб ён глядзеў на ваш чарнавік і даваў літанію карысных прапаноў і адзначаных праблем (ну, я хачу катэгарычна заявіць, што я не спрабую антрапамарфізаваць прыкладанне AI, у прыватнасці, што рэдактар-чалавек чалавек, у той час як прыкладанне AI - гэта проста камп'ютэрная праграма).

Дзякуй богу, што вы выкарысталі генератыўную праграму штучнага інтэлекту, каб старанна вывучыць свой каштоўны пісьмовы аповед. Вы, несумненна, аддалі перавагу б, каб штучны інтэлект знайшоў гэтыя хвалюючыя пісьмовыя праблемы, а не пасля адпраўкі дакумента вашаму паважанаму кліенту. Уявіце, што вы склалі апавяданне для кагосьці, хто наняў вас распрацаваць вельмі важны малюнак. Калі б вы далі арыгінальную версію кліенту перад праверкай прыкладання AI, вы маглі б пацярпець ад вялікага збянтэжанасці. Кліент амаль напэўна будзе мець сур'ёзныя сумневы наконт вашых здольнасцей выконваць запытаную працу.

Давайце падымем стаўку.

Разгледзім стварэнне юрыдычных дакументаў. Відавочна, што гэта асабліва сур'ёзная справа. Словы і тое, як яны складаюцца, могуць азначаць бадзёрую юрыдычную абарону або жахлівую юрыдычную катастрофу.

Падчас маіх пастаянных даследаванняў і кансультацый я рэгулярна ўзаемадзейнічаю з вялікай колькасцю адвакатаў, якія вельмі зацікаўлены ў выкарыстанні штучнага інтэлекту ў галіне права. Розныя праграмы LegalTech падключаюцца да магчымасцей штучнага інтэлекту. Юрыст можа выкарыстоўваць генератыўны штучны інтэлект для складання чарнавіка дагавора або іншых юрыдычных дакументаў. Акрамя таго, калі адвакат зрабіў першапачатковы чарнавік самастойна, ён можа перадаць тэкст генератыўнай праграме штучнага інтэлекту, напрыклад ChatGPT, каб паглядзець і ўбачыць, якія дзіркі або прабелы могуць быць выяўленыя. Каб даведацца больш аб тым, як адвакаты і юрыдычная сфера выбіраюць выкарыстанне штучнага інтэлекту, глядзіце маю дыскусію на спасылка тут.

Але мы гатовы да гэтага.

Адвакат бярэ праект дагавора і капіюе тэкст у падказку для ChatGPT. Дадатак AI вырабляе агляд для юрыста. Аказалася, што ChatGPT знайшоў некалькі памылак. Адвакат пераглядае дагавор. Яны таксама могуць папрасіць ChatGPT прапанаваць для іх перафармуляванне або пераробку складзенага тэксту. Новая і лепшая версія кантракта ствараецца генератыўным дадаткам AI. Юрыст захоплівае выведзены тэкст і змяшчае яго ў файл апрацоўкі тэкстаў. Пасланне адпраўляецца іх кліенту. Місія выканана.

Ці можаце вы здагадацца, што таксама толькі што адбылося?

За кулісамі і пад капотам кантракт мог быць праглынуты, як рыба ў пашчу кіта. Хаця гэты адвакат, які выкарыстоўвае штучны інтэлект, можа гэтага не ўсведамляць, тэкст кантракта, размешчаны ў якасці падказкі ў ChatGPT, патэнцыйна можа быць паглынуты праграмай штучнага інтэлекту. Цяпер гэта фураж для супастаўлення шаблонаў і іншых вылічальных тонкасцей прыкладання AI. Гэта, у сваю чаргу, можна выкарыстоўваць рознымі спосабамі. Калі ў чарнавіку ёсць канфідэнцыяльныя даныя, гэта таксама патэнцыйна цяпер знаходзіцца ў межах ChatGPT. Ваша падказка, прадстаўленая праграме AI, цяпер нібыта з'яўляецца часткай калектыву ў той ці іншай форме.

Акрамя таго, апублікаванае сачыненне таксама лічыцца часткай калектыўнага. Калі вы папрасілі ChatGPT змяніць для вас чарнавік і прадставіць новую версію кантракта, гэта тлумачыцца як выведзенае эсэ. Выхады ChatGPT таксама з'яўляюцца тыпам змесціва, якое можа быць захавана або іншым чынам трансфармавана з дапамогай прыкладання AI.

На жаль, вы маглі бязвінна перадаць асабістую або канфідэнцыяльную інфармацыю. Не добра. Акрамя таго, вы нават не падазраеце, што гэта зрабілі. Сцягоў не вывешвалі. Рог не грымнуў. Ніякія мігалкі не згарнулі, каб шакаваць вас у рэальнасць.

Мы маглі б прадбачыць, што людзі, якія не з'яўляюцца юрыстамі, могуць лёгка зрабіць такую ​​памылку, але для дасведчанага адваката зрабіць тую ж памылку пачаткоўца амаль немагчыма. Тым не менш, верагодна, зараз ёсць спецыялісты ў галіне права, якія робяць тую ж патэнцыйную памылку. Яны рызыкуюць парушыць варты ўвагі элемент прывілеяў паміж адвакатамі і кліентамі і, магчыма, парушыць Тыповыя правілы прафесійнага паводзінаў (MRPC) Амерыканскай асацыяцыі юрыстаў (ABA). У прыватнасці: «Адвакат не павінен раскрываць інфармацыю, якая адносіцца да прадстаўніцтва кліента, за выключэннем выпадкаў, калі кліент дае інфармаваную згоду, раскрыццё ўскосна дазволена для ажыццяўлення прадстаўніцтва або раскрыццё дазволена пунктам (b)» (цытуецца з MRPC, і для якіх выключэнні, звязаныя з падраздзелам b, здаецца, не ахопліваюць выкарыстанне генератыўнай праграмы AI небяспечным спосабам).

Некаторыя адвакаты могуць спрабаваць апраўдаць сваю правіннасць, сцвярджаючы, што яны не тэхнічныя чараўнікі і што ў іх не было гатовых спосабаў даведацца, што ўвядзенне імі канфідэнцыйнай інфармацыі ў генератыўнае прыкладанне AI магло нейкім чынам быць парушэннем. ABA ясна дала зразумець, што абавязак юрыстаў уключае ў сябе інфармаванне аб апошніх навінах штучнага інтэлекту і тэхналогій з юрыдычнага пункту гледжання: «Каб захаваць неабходныя веды і навыкі, юрыст павінен быць у курсе змяненняў у заканадаўстве і сваёй практыцы, у тым ліку перавагі і рызыкі, звязаныя з адпаведнай тэхналогіяй, удзельнічаць у бесперапынным навучанні і адукацыі і выконваць усе патрабаванні да дадатковай юрыдычнай адукацыі, якім падпарадкоўваецца юрыст» (паводле MRPC).

Некалькі палажэнняў ўваходзяць у гэтае падабенства юрыдычнага абавязку, у тым ліку захаванне канфідэнцыйнай інфармацыі кліента (правіла 1.6), абарона маёмасці кліента, такой як дадзеныя (правіла 1.15), належнае зносіны з кліентам (правіла 1.4), атрыманне інфармаванай згоды кліента (правіла 1.6), і забеспячэнне кампетэнтнага прадстаўніцтва ад імя кліента (Правіла 1.1). Таксама ёсць малавядомая, але вельмі прыкметная рэзалюцыя, прысвечаная штучнаму інтэлекту, прынятая ABA: «Амерыканская асацыяцыя юрыстаў заклікае суды і адвакатаў вырашаць узнікаючыя этычныя і прававыя праблемы, звязаныя з выкарыстаннем штучнага інтэлекту («ШІ»). у юрыдычнай практыцы, уключаючы: (1) прадузятасць, вытлумачальнасць і празрыстасць аўтаматызаваных рашэнняў, якія прымаюцца ІІ; (2) этычнае і карыснае выкарыстанне штучнага інтэлекту; і (3) кантроль і нагляд за штучным інтэлектам і пастаўшчыкамі, якія забяспечваюць штучны інтэлект».

Словы мудрыя для маіх сяброў і калег па закону.

Сутнасць справы ў тым, што практычна кожны можа трапіць у тупік пры выкарыстанні генератыўнага штучнага інтэлекту. Неюрысты могуць зрабіць гэта з-за меркаванай адсутнасці юрыдычнай хваткі. Юрысты таксама могуць зрабіць гэта, магчыма, у захапленні ад штучнага інтэлекту або не робячы глыбокіх дыханняў і не разважаючы аб тым, якія прававыя наступствы могуць узнікнуць пры выкарыстанні генератыўнага штучнага інтэлекту.

Мы ўсе патэнцыйна ў адной лодцы.

Вы таксама павінны разумець, што ChatGPT - не адзінае генератыўнае прыкладанне штучнага інтэлекту ў блоку. Ёсць і іншыя генератыўныя праграмы штучнага інтэлекту, якімі вы можаце карыстацца. Верагодна, яны таксама зроблены з адной тканіны, а менавіта, што ўваходныя дадзеныя, якія вы ўводзіце ў якасці падказак, і вынікі, якія вы атрымліваеце ў выглядзе згенераваных выведзеных эсэ, лічацца часткай калектыву і могуць выкарыстоўвацца вытворцам штучнага інтэлекту.

У сённяшняй калонцы я збіраюся раскрыць прыроду таго, як даныя, якія вы ўводзіце, і даныя, якія вы атрымліваеце ад генератыўнага штучнага інтэлекту, могуць быць патэнцыйна скампраметаваны ў дачыненні да прыватнасці і канфідэнцыяльнасці. Вытворцы штучнага інтэлекту робяць даступнымі свае ліцэнзійныя патрабаванні, і вам было б разумна прачытаць гэтыя важныя ўмовы, перш чым пачаць актыўна выкарыстоўваць прыкладанне штучнага інтэлекту з любым падабенствам рэальных даных. Я раскажу вам прыклад такога ліцэнзавання, робячы гэта для прыкладання ChatGPT AI.

Ва ўсё гэта ўваходзіць мноства меркаванняў этыкі штучнага інтэлекту і права штучнага інтэлекту.

Майце на ўвазе, што працягваюцца намаганні па ўкараненні этычных прынцыпаў штучнага інтэлекту ў распрацоўку і выкарыстанне праграм штучнага інтэлекту. Расце кантынгент заклапочаных і былых этыкаў штучнага інтэлекту, якія спрабуюць пераканацца, што намаганні па распрацоўцы і прыняцці штучнага інтэлекту прымаюць пад увагу пункт гледжання рабіць ІІ Назаўсёды і прадухіленне AI для дрэннага. Сапраўды гэтак жа прапануюцца новыя законы аб штучным інтэлекце, якія разглядаюцца ў якасці патэнцыйных рашэнняў для таго, каб намаганні штучнага інтэлекту не парушалі правы чалавека і таму падобнае. Аб маім пастаянным і шырокім асвятленні этыкі штучнага інтэлекту і права штучнага інтэлекту гл спасылка тут і спасылка тут, Проста назваць некалькі.

Існуюць значныя этычныя нюансы і палажэнні аб тым, як стваральнікі штучнага інтэлекту могуць або павінны абыходзіцца з дадзенымі або інфармацыяй, якія для іх карыстальнікаў здаюцца прыватнымі або канфідэнцыйнымі. Магчыма, вы таксама ведаеце, што шэраг існуючых законаў закранае аснову таго, як мяркуецца апрацоўваць дадзеныя тэхналагічнымі арганізацыямі. Вялікая верагоднасць таго, што нядаўна прапанаваныя законы аб штучным інтэлекце таксама будуць перасякаць тую ж тэрыторыю. Глядзіце, напрыклад, маё асвятленне Біль аб правах AI і іншыя юрыдычныя спрэчкі, якія ідуць наконт штучнага інтэлекту спасылка тут.

Вось асноўныя вынікі гэтай дыскусіі:

• Будзьце вельмі, вельмі, вельмі ўважлівыя да таго, якія даныя або інфармацыю вы вырашыце ўключыць у свае падказкі пры выкарыстанні генератыўнага штучнага інтэлекту, а таксама будзьце вельмі ўважлівыя і прадбачыце, якія віды выведзеных эсэ вы можаце атрымаць, бо вынікі таксама могуць быць паглынуты.

Ці азначае гэта, што вы не павінны выкарыстоўваць генератыўны штучны інтэлект?

Не, гэта зусім не тое, што я кажу.

Выкарыстоўвайце генератыўны штучны інтэлект па душы. Сутнасць у тым, што вы павінны памятаць пра тое, як вы яго выкарыстоўваеце. Даведайцеся, якія ўмовы ліцэнзіі звязаны з выкарыстаннем. Вырашыце, ці можаце вы жыць з гэтымі ўмовамі. Калі ёсць спосабы паведаміць вытворцу штучнага інтэлекту аб тым, што вы хочаце выкарыстоўваць пэўныя віды дадатковай абароны або дазволаў, пераканайцеся, што вы гэта робіце.

Я таксама згадаю яшчэ адзін аспект, які, як я разумею, звядзе некаторых людзей з розуму. Вось ідзе. Нягледзячы на ​​​​ўмовы ліцэнзавання, вы таксама павінны меркаваць, што існуе верагоднасць таго, што гэтыя патрабаванні могуць не выконвацца ў поўнай меры. Усё можа пайсці наперакасяк. Рэчы могуць праслізнуць паміж шчылінамі. У рэшце рэшт, вядома, у вас можа быць судовая справа супраць вытворцы штучнага інтэлекту за неадпаведнасць іх умовам, але гэта адбываецца пасля таго, як конь ужо выйдзе з хлява.

Патэнцыйна вельмі бяспечным спосабам працягнуць гэта было б наладзіць свой уласны асобнік у вашых уласных сістэмах, у воблаку або ва ўласных (і, калі выказаць здагадку, што вы прытрымліваецеся належных мер засцярогі кібербяспекі, якіх, праўда, некаторыя не робяць, і яны горшыя у сваім уласным воблаку, чым з дапамогай воблака пастаўшчыка праграмнага забеспячэння). Некалькі непрыемнай праблемай з'яўляецца тое, што мала хто з генератыўных буйнамаштабных праграм штучнага інтэлекту дазваляе гэта зараз. Усе яны ў значнай ступені працуюць на аснове нашага воблака. Нешматлікія з іх далі магчымасць стварыць цэлы асобнік спецыяльна для вас. Я прадказаў, што мы паступова ўбачым гэты варыянт, хаця спачатку ён будзе даволі дарагім і некалькі складаным, глядзіце мае прагнозы на спасылка тут.

Як у адваротным выпадку асабліва разумныя і асабліва праніклівыя людзі трапляюць у багну канфідэнцыяльнасці даных або інфармацыі?

Прывабнасць гэтых генератыўных праграм штучнага інтэлекту становіцца даволі магнетычнай, як толькі вы пачынаеце выкарыстоўваць іх. Крок за крокам вы апынецеся зачараванымі і вырашыце ўсё далей і далей паглыбляцца ў генератыўныя воды штучнага інтэлекту. Наступнае, што вы ведаеце, - вы ахвотна перадаеце запатэнтаваны кантэнт, які павінен заставацца прыватным і канфідэнцыяльным, у генератыўнае прыкладанне AI.

Супраціўляйцеся імкненню і, калі ласка, устрымайцеся ад таго, каб паэтапна не трапляць у непрыемную пастку.

Для бізнес-лідэраў і кіраўнікоў вышэйшага ўзроўню такое ж папярэджанне датычыцца вас і ўсіх людзей у вашай кампаніі. Старэйшыя кіраўнікі таксама захапляюцца энтузіязмам і здзіўленнем ад выкарыстання генератыўнага штучнага інтэлекту. Яны сапраўды могуць сапсаваць і патэнцыйна ўвесці сакрэтную інфармацыю верхняга ўзроўню ў праграму штучнага інтэлекту.

У дадатак да гэтага, яны могуць мець шырокія лігі сваіх супрацоўнікаў, якія таксама гуляюць з генератыўным штучным інтэлектам. Многія з гэтых уважлівых супрацоўнікаў бяздумна і шчасліва ўводзяць асабістую і канфідэнцыяльную інфармацыю кампаніі ў гэтыя прыкладанні штучнага інтэлекту. Згодна з апошнімі паведамленнямі навін, Amazon, відаць, выявіў, што некаторыя супрацоўнікі ўводзяць розную канфідэнцыйную інфармацыю ў ChatGPT. Паведамляецца, што ўнутр было разаслана юрыдычнае папярэджанне, каб быць асцярожнымі пры выкарыстанні непераадольнага прыкладання AI.

Увогуле, з доляй іроніі ўзнікаюць выпадкі, калі супрацоўнікі воляй-няволяй уводзяць канфідэнцыяльныя даныя ў ChatGPT і іншы генерацыйны штучны інтэлект. Дазвольце мне ўдакладніць. Сучасныя кампаніі звычайна маюць строгую палітыку кібербяспекі, якую яны старанна распрацавалі і ўкаранілі. Існуе мноства тэхналагічных сродкаў абароны. Надзея складаецца ў тым, каб прадухіліць выпадковы выпуск важных рэчаў. Пастаянны барабанны бой - гэта тое, што трэба быць асцярожным, калі вы наведваеце вэб-сайты, быць асцярожным, калі вы выкарыстоўваеце любыя неўхваленыя праграмы і гэтак далей.

Разам з'яўляюцца генератыўныя праграмы AI, такія як ChatGPT. Навіны аб дадатку штучнага інтэлекту зашкальваюць і прыцягваюць шырокую ўвагу. Узнікае шаленства. Людзі ў гэтых кампаніях, якія маюць усе гэтыя сродкі абароны кібербяспекі, выбіраюць генератыўнае прыкладанне AI. Яны спачатку бязвольна гуляюць з гэтым. Затым яны пачынаюць уводзіць даныя кампаніі. Вось цяпер яны патэнцыйна выкрылі інфармацыю, якую не варта было раскрываць.

Новая бліскучая цацка, якая магічным чынам дазваляе абыйсці мільёны долараў выдаткаў на абарону кібербяспекі і пастаяннае навучанне таму, чаго нельга рабіць. Але, прывітанне, гэта цікава выкарыстоўваць генератыўны штучны інтэлект і быць часткай "у" натоўпу. Вось што, мабыць, мае значэнне.

Я спадзяюся, што вы зразумелі маю думку аб асаблівай асцярожнасці.

Давайце ўважліва паглядзім на тое, як генератыўны штучны інтэлект тэхнічна працуе з тэкстам падказак і выведзеных эсэ. Мы таксама вывучым некаторыя ўмовы ліцэнзавання на прыкладзе ChatGPT. Памятайце, што я не збіраюся ахопліваць увесь спектр гэтых элементаў ліцэнзавання. Не забудзьцеся прыцягнуць свайго юрысконсульта для тых генератыўных праграм AI, якія вы вырашылі выкарыстоўваць. Акрамя таго, ліцэнзаванне адрозніваецца ад вытворцы штучнага інтэлекту да іншага, акрамя таго, асобны вытворца штучнага інтэлекту можа выбраць змену сваёй ліцэнзіі, таму будзьце ўважлівыя да таго, што прадугледжвае апошняя версія ліцэнзіі.

У нас ёсць цікавае распакаванне гэтай хвалюючай тэмы.

Па-першае, мы павінны быць упэўнены, што мы ўсе ведаем, з чаго складаецца Generative AI, а таксама што такое ChatGPT. Пасля таго, як мы разгледзім гэты фундаментальны аспект, мы зможам зрабіць пераканаўчую ацэнку люстраной метафары, звязанай з гэтым тыпам ІІ.

Калі вы ўжо добра знаёмыя з Generative AI і ChatGPT, магчыма, вы можаце бегла праглядзець наступны раздзел і перайсці да раздзела, які ідзе за ім. Я лічу, што ўсе астатнія знойдуць для сябе павучальныя жыццёва важныя падрабязнасці гэтых пытанняў, калі ўважліва прачытаюць раздзел і паскораць яго.

Кароткае навучанне пра Generative AI і ChatGPT

ChatGPT - гэта інтэрактыўная сістэма штучнага інтэлекту агульнага прызначэння, арыентаваная на размову, па сутнасці, здавалася б, бяскрыўдны агульны чат-бот, тым не менш, ён актыўна і прагна выкарыстоўваецца людзьмі спосабамі, якія застаюць многіх знянацку, як я раскажу ў бліжэйшы час. Гэта дадатак AI выкарыстоўвае тэхніку і тэхналогію ў сферы AI, якую часта называюць Генератыўны ІІ. ШІ стварае такія вынікі, як тэкст, што і робіць ChatGPT. Іншыя генератыўныя прыкладанні штучнага інтэлекту ствараюць такія выявы, як малюнкі або творы мастацтва, у той час як іншыя ствараюць аўдыяфайлы або відэа.

У гэтай дыскусіі я спынюся на тэкставых генератыўных праграмах штучнага інтэлекту, бо ChatGPT робіць менавіта гэта.

Праграмы Generative AI надзвычай простыя ў выкарыстанні.

Усё, што вам трэба зрабіць, гэта ўвесці падказку, і праграма AI створыць для вас эсэ, якое паспрабуе адказаць на ваша падказку. Складзены тэкст будзе здавацца, што сачыненне напісана чалавечай рукой і розумам. Калі вы ўвядзеце падказку з надпісам «Раскажы мне пра Абрагама Лінкальна», генератыўны штучны інтэлект прадаставіць вам эсэ пра Лінкальна. Гэта звычайна класіфікуецца як генератыўны штучны інтэлект, які працуе тэкст у тэкст ці некаторыя аддаюць перавагу называць гэта тэкст у эсэ выхад. Як ужо згадвалася, існуюць і іншыя рэжымы генератыўнага штучнага інтэлекту, такія як тэкст у мастацтва і тэкст у відэа.

Вашай першай думкай магло быць тое, што гэтая генератыўная здольнасць не здаецца такой вялікай праблемай з пункту гледжання стварэння эсэ. Вы можаце лёгка правесці онлайн-пошук у Інтэрнэце і лёгка знайсці тоны і тоны эсэ пра прэзідэнта Лінкальна. Галоўнае ў выпадку генератыўнага штучнага інтэлекту заключаецца ў тым, што створанае эсэ з'яўляецца адносна унікальным і забяспечвае арыгінальную кампазіцыю, а не копію. Калі б вы паспрабавалі знайсці дзе-небудзь у інтэрнэце падрыхтаванае штучным інтэлектам эсэ, вы б наўрад ці яго знайшлі.

Generative AI праходзіць папярэднюю падрыхтоўку і выкарыстоўвае складаную матэматычную і вылічальную фармулёўку, якая была створана шляхам вывучэння шаблонаў у напісаных словах і гісторыях у сетцы. У выніку вывучэння тысяч і мільёнаў пісьмовых урыўкаў штучны інтэлект можа выплюхнуць новыя эсэ і апавяданні, якія ўяўляюць сабой мяшанку з таго, што было знойдзена. Дзякуючы даданню розных імавернасных функцыянальных магчымасцей, атрыманы тэкст у значнай ступені ўнікальны ў параўнанні з тым, што выкарыстоўваўся ў навучальным наборы.

Вось чаму падняўся шум наконт таго, што студэнты могуць падманваць, калі пішуць эсэ па-за аўдыторыяй. Настаўнік не можа проста ўзяць сачыненне, якое хлусныя студэнты сцвярджаюць, што гэта іх уласны тэкст, і паспрабаваць высветліць, ці не было яно скапіявана з іншай інтэрнэт-крыніцы. Увогуле, у інтэрнэце не будзе канчатковага эсэ, якое адпавядала б эсэ, створанаму штучным інтэлектам. Увогуле, настаўніку давядзецца неахвотна прыняць, што вучань напісаў сачыненне як арыгінальны твор.

Ёсць дадатковыя праблемы з нагоды генератыўнага штучнага інтэлекту.

Адным з істотных недахопаў з'яўляецца тое, што эсэ, створаныя праграмай генератыўнага штучнага інтэлекту, могуць утрымліваць розныя непраўдзівыя факты, у тым ліку відавочна непраўдзівыя факты, факты, якія ўводзяць у зман, і відавочныя факты, якія цалкам сфабрыкаваны. Гэтыя сфабрыкаваныя аспекты часта называюць формай ІІ галюцынацыі, крылатая фраза, якую я не люблю, але, на жаль, здаецца, усё роўна набірае папулярнасць (падрабязнае тлумачэнне таго, чаму гэта кепская і непрыдатная тэрміналогія, глядзіце ў маім асвятленні на спасылка тут).

Я хацеў бы растлумачыць адзін важны аспект, перш чым мы паглыбімся ў гушчу рэчаў па гэтай тэме.

У сацыяльных сетках з'явіліся дзіўныя прэтэнзіі наконт гэтага Генератыўны ІІ сцвярджаючы, што гэтая апошняя версія AI на самай справе разумны ІІ (не, яны памыляюцца!). Асобы, якія займаюцца этыкай штучнага інтэлекту і правам штучнага інтэлекту, асабліва занепакоеныя гэтай растучай тэндэнцыяй адкрытых прэтэнзій. Вы можаце ветліва сказаць, што некаторыя людзі перабольшваюць тое, што насамрэч можа зрабіць сучасны ІІ. Яны мяркуюць, што штучны інтэлект мае магчымасці, якіх мы яшчэ не змаглі дасягнуць. Гэта шкада. Што яшчэ горш, яны могуць дазволіць сабе і іншым трапіць у жудасныя сітуацыі з-за здагадкі, што штучны інтэлект будзе разумным або падобным на чалавека, каб прыняць меры.

Не антрапамарфізуйце ІІ.

Гэта прывядзе да таго, што вы патрапіце ў ліпкую і суровую пастку чакання, што штучны інтэлект будзе рабіць тое, што ён не ў стане выканаць. З улікам сказанага, апошняя генератыўная AI адносна ўражвае тым, што яна можа зрабіць. Майце на ўвазе, што існуюць значныя абмежаванні, якія вы павінны пастаянна мець на ўвазе пры выкарыстанні любой генератыўнай праграмы штучнага інтэлекту.

Калі вы зацікаўлены ў тым, што хутка расце мітусня пра ChatGPT і Generative AI, у маёй калонцы я раблю сфакусаваныя серыі, якія могуць вам падацца інфарматыўнымі. Вось кароткі агляд на выпадак, калі якая-небудзь з гэтых тэм спадабаецца вам:

• 1) Прагнозы наступлення генератыўнага AI. Калі вы хочаце ведаць, што, верагодна, будзе адбывацца наконт штучнага інтэлекту на працягу 2023 года і далей, у тым ліку будучыя дасягненні ў галіне генератыўнага штучнага інтэлекту і ChatGPT, вам варта прачытаць мой поўны спіс прагнозаў на 2023 год на спасылка тут.
• 2) Генератыўны штучны інтэлект і парады па псіхічным здароўі. Я вырашыў праглядзець, як генератыўны штучны інтэлект і ChatGPT выкарыстоўваюцца для кансультацый па псіхічным здароўі, што выклікае непрыемнасці, паводле майго мэтанакіраванага аналізу на спасылка тут.
• 3) Асновы Generative AI і ChatGPT. У гэтай частцы даследуюцца ключавыя элементы таго, як працуе генератыўны штучны інтэлект, і, у прыватнасці, паглыбляецца ў дадатак ChatGPT, у тым ліку аналіз шуму і фанфар на спасылка тут.
• 4) Напружанне паміж выкладчыкамі і студэнтамі з-за Generative AI і ChatGPT. Вось спосабы, як студэнты будуць хітра выкарыстоўваць генератыўны штучны інтэлект і ChatGPT. Акрамя таго, у настаўнікаў ёсць некалькі спосабаў змагацца з гэтай прыліўной хваляй. Глядзіце спасылка тут.
• 5) Выкарыстанне кантэксту і генератыўнага штучнага інтэлекту. Я таксама правёў насмешку з сезонным густам пра кантэкст, звязаны з Дзедам Марозам, з удзелам ChatGPT і генератыўнага штучнага інтэлекту на спасылка тут.
• 6) Ашуканцы з выкарыстаннем Generative AI. Злавесная нота: некаторыя ашуканцы прыдумалі, як выкарыстоўваць генератыўны штучны інтэлект і ChatGPT, каб рабіць неправамерныя дзеянні, у тым ліку генераваць ашуканскія электронныя лісты і нават ствараць праграмны код для шкоднасных праграм. Глядзіце мой аналіз на спасылка тут.
• 7) Памылкі пачаткоўцаў пры выкарыстанні Generative AI. Многія людзі як перавышаюць, так і дзіўна недаацэньваюць тое, што могуць зрабіць генератыўны штучны інтэлект і ChatGPT, таму я асабліва паглядзеў на недаатрыманне, якое звычайна робяць пачаткоўцы штучнага інтэлекту, глядзіце абмеркаванне на спасылка тут.
• 8) Справіцца з генератыўнымі падказкамі AI і галюцынацыямі AI. Я апісваю перадавы падыход да выкарыстання дапаўненняў штучнага інтэлекту для вырашэння розных праблем, звязаных са спробай увесці адпаведныя падказкі ў генератыўны штучны інтэлект, а таксама ёсць дадатковыя дадаткі штучнага інтэлекту для выяўлення так званых галюцынацыйных вынікаў штучнага інтэлекту і хлусні, як накрыты ст спасылка тут.
• 9) Развянчанне сцвярджэнняў Bonehead аб выяўленні генератыўных эсэ, створаных штучным інтэлектам. Існуе памылковая залатая ліхаманка праграм штучнага інтэлекту, якія абвяшчаюць, што могуць вызначыць, ці было любое эсэ створана чалавекам, а не штучным інтэлектам. Увогуле, гэта ўводзіць у зман, а ў некаторых выпадках - бязглуздае і неабгрунтаванае сцвярджэнне, глядзіце мой матэрыял на спасылка тут.
• 10) Ролевая гульня праз Generative AI можа прадвесціць недахопы псіхічнага здароўя. Некаторыя з іх выкарыстоўваюць генератыўны штучны інтэлект, напрыклад ChatGPT, для ролевых гульняў, у выніку чаго праграма штучнага інтэлекту рэагуе на чалавека так, нібы ён знаходзіцца ў фантастычным свеце або іншай прыдуманай абстаноўцы. Глядзіце, гэта можа мець наступствы для псіхічнага здароўя спасылка тут.
• 11) Выкрыццё шэрагу выдадзеных памылак і ілжывых выказванняў. Складаюцца розныя сабраныя спісы, каб паспрабаваць прадэманстраваць прыроду памылак і хлусні, створаных ChatGPT. Некаторыя лічаць, што гэта важна, у той час як іншыя кажуць, што гэта практыкаванне бескарысна, глядзіце мой аналіз на спасылка тут.
• 12) Школы, якія забараняюць Generative AI ChatGPT, не маюць магчымасці. Магчыма, вы ведаеце, што розныя школы, такія як Дэпартамент адукацыі Нью-Ёрка (Нью-Ёрк), абвясцілі забарону на выкарыстанне ChatGPT у сваёй сетцы і звязаных з ёй прыладах. Нягледзячы на ​​тое, што гэта можа здацца карыснай мерай засцярогі, яна не рухае іголку і, на жаль, цалкам прапускае лодку, глядзіце мой рэпартаж на спасылка тут.
• 13) Generative AI ChatGPT будзе ўсюды з-за будучага API. Ёсць важны паварот адносна выкарыстання ChatGPT, а менавіта тое, што праз выкарыстанне партала API у гэтым канкрэтным дадатку AI іншыя праграмныя праграмы змогуць выклікаць і выкарыстоўваць ChatGPT. Гэта рэзка пашырыць выкарыстанне генератыўнага штучнага інтэлекту і мае прыкметныя наступствы, глядзіце маю распрацоўку на спасылка тут.
• 14) Як ChatGPT можа згаснуць або расплавіцца. Перад ChatGPT паўстала некалькі патэнцыйных непрыемных праблем з пункту гледжання таго, што ён не атрымаў агромністую хвалу. Гэты аналіз уважліва разглядае восем магчымых праблем, якія могуць прывесці да таго, што ChatGPT страціць сілу і нават апынецца ў сабачай будцы, гл. спасылка тут.

Вам можа быць цікава, што ChatGPT заснаваны на версіі папярэдняга прыкладання AI, вядомага як GPT-3. ChatGPT лічыцца крыху наступным крокам, які называецца GPT-3.5. Мяркуецца, што GPT-4 выйдзе вясной 2023 г. Верагодна, GPT-4 стане ўражваючым крокам наперад у плане магчымасці ствараць, здавалася б, яшчэ больш беглыя эсэ, паглыбляцца і выклікаць трапятанне - натхняльнае дзіва адносна кампазіцый, якія ён можа ствараць.

Вы можаце чакаць, што ўбачыце новы раунд выяўленага здзіўлення, калі прыйдзе вясна і выйдзе апошняя версія генератыўнага штучнага інтэлекту.

Я закранаю гэта, таму што ёсць яшчэ адзін ракурс, пра які трэба памятаць, які складаецца з патэнцыйнай ахілесавай пяты для гэтых лепшых і больш маштабных генератыўных праграм штучнага інтэлекту. Калі які-небудзь пастаўшчык штучнага інтэлекту робіць даступным генератыўнае прыкладанне штучнага інтэлекту, якое пеніста вывяргае бруд, гэта можа перакрэсліць надзеі гэтых вытворцаў штучнага інтэлекту. Грамадскі эфект можа прывесці да таго, што ўвесь стваральны штучны інтэлект можа атрымаць сур'ёзны сіняк на вачах. Людзі, несумненна, будуць вельмі засмучаны фальшывымі вынікамі, якія здараліся ўжо шмат разоў і прывялі да бурнага грамадскага асуджэння супраць штучнага інтэлекту.

Апошняе папярэджанне пакуль.

Усё, што вы бачыце або чытаеце ў генератыўным адказе штучнага інтэлекту Здаецца, быць перададзены як чыста фактычныя (даты, месцы, людзі і г.д.), не забудзьцеся заставацца скептычнымі і будзьце гатовыя пераправерыць тое, што вы бачыце.

Так, даты можна прыдумаць, месцы можна выдумаць, і элементы, якія, як мы звычайна чакаем, будуць недарэчнымі. усё падпадаюць пад падазрэнні. Не верце таму, што вы прачыталі, і скептычна глядзіце на любыя генератыўныя эсэ або вынікі AI. Калі генератыўная праграма штучнага інтэлекту скажа вам, што Абрагам Лінкальн абляцеў краіну на ўласным прыватным самалёце, вы, несумненна, ведаеце, што гэта маларгія. На жаль, некаторыя людзі могуць не разумець, што рэактыўных самалётаў не было ў яго часы, або яны могуць ведаць, але не заўважаць, што ў эсэ зроблена гэта нахабнае і абуральна ілжывае сцвярджэнне.

Моцная доза здаровага скептыцызму і ўстойлівае недавер'е стануць вашым лепшым актывам пры выкарыстанні генератыўнага штучнага інтэлекту.

Мы гатовыя перайсці да наступнага этапу гэтага высвятлення.

Ведаючы, што д'ябал здарыцца з гэтым тэкстам

Цяпер, калі мы ўсталявалі асновы, мы можам паглыбіцца ў дадзеныя і інфармацыю пры выкарыстанні генератыўнага штучнага інтэлекту.

Спачатку давайце коратка разгледзім, што адбываецца, калі вы ўводзіце тэкст у запыт для ChatGPT. Мы дакладна не ведаем, што адбываецца ўнутры ChatGPT, паколькі праграма лічыцца ўласнасцю. Некаторыя адзначаюць, што гэта падрывае адчуванне празрыстасці прыкладання AI. Некалькі злосная заўвага заключаецца ў тым, што для кампаніі, якая называецца OpenAI, іх штучны інтэлект фактычна закрыты для агульнага доступу і недаступны ў выглядзе адкрытага зыходнага кода.

Давайце абмяркуем токенизацию.

Калі вы ўводзіце звычайны тэкст у падказку і націскаеце "Вярнуць", мабыць, тут жа адбываецца пераўтварэнне. Тэкст пераўтворыцца ў фармат, які складаецца з токенаў. Лексемы – гэта падраздзяленні слоў. Напрыклад, слова «гамбургер» звычайна падзяляецца на тры лексемы, якія складаюцца з частак «вяндліна», «бур» і «гер». Эмпірычнае правіла заключаецца ў тым, што лексемы, як правіла, прадстаўляюць каля чатырох сімвалаў або лічацца прыблізна 75% звычайнага англійскага слова.

Затым кожны токен перафармулюецца ў лік. Розныя ўнутраныя табліцы вызначаюць, які токен прысвоены якому канкрэтнаму нумару. Гэта азначае, што тэкст, які вы ўвялі, цяпер цалкам з'яўляецца наборам лічбаў. Гэтыя лічбы выкарыстоўваюцца для вылічальнага аналізу падказкі. Акрамя таго, сетка супастаўлення шаблонаў, пра якую я згадваў раней, таксама заснавана на сімвалізаваных значэннях. У канчатковым рахунку, пры складанні або генерацыі выведзенага эсэ гэтыя лікавыя лексемы спачатку выкарыстоўваюцца, а потым перад адлюстраваннем токены пераўтвараюцца назад у наборы літар і слоў.

Падумайце аб гэтым на імгненне.

Калі я кажу людзям, што так працуе механіка апрацоўкі, яны часта агаломшаны. Яны выказалі здагадку, што генератыўная праграма AI, такая як ChatGPT, павінна выкарыстоўваць цалкам інтэгратыўныя словы. Мы лагічна мяркуем, што словы дзейнічаюць як краевугольны камень для статыстычнай ідэнтыфікацыі адносін у пісьмовых апавяданнях і кампазіцыях. Аказваецца, апрацоўка насамрэч мае тэндэнцыю выкарыстоўваць токены. Магчыма, гэта дадае здзіўлення таму, як вылічальны працэс, здаецца, выконвае даволі пераканаўчую працу, імітуючы чалавечую мову.

Я правёў вас праз гэты працэс з-за аднаго распаўсюджанага памылковага ўяўлення, якое, здаецца, распаўсюджваецца. Здаецца, некаторыя людзі лічаць, што з-за таго, што ваш тэкст падказкі пераўтворыцца ў лічбавыя токены, вы ў цэласці і захаванасці, што ўнутраныя элементы праграмы штучнага інтэлекту чамусьці больш не маюць першапачаткова ўведзенага тэксту. Такім чынам, сцвярджаюць, што нават калі вы ўвялі канфідэнцыяльную інфармацыю ў запыце, вы не хвалюецеся, бо ўсё гэта, здавалася б, было токенізавана.

Такое меркаванне з'яўляецца памылковым. Я толькі што адзначыў, што лікавыя лексемы можна лёгка вярнуць у тэкставы фармат літар і слоў. Тое ж самае можна зрабіць з пераўтвораным падказкай, якая была токенізавана. У токенізацыі няма нічога магічнага, каб абараніць. З улікам сказанага, пасля пераўтварэння ў токены, калі існуе дадатковы працэс, які вырашае выкідваць токены, перамяшчаць іх і іншым чынам перабіваць або раздрабняць рэчы, у гэтым выпадку сапраўды існуе верагоднасць таго, што некаторыя часткі арыгінала падказкі больш не застаюцца некранутымі (і пры ўмове, што арыгінальная копія іншым чынам не захоўваецца і не захоўваецца дзесьці ўнутры).

Далей я хацеў бы зірнуць на розныя апавяшчэнні і ліцэнзійныя ўмовы ChatGPT.

Калі вы ўваходзіце ў ChatGPT, адлюстроўваецца шэраг папярэджанняў і інфармацыйных каментарыяў.

Вось яны:

• «Час можа генераваць няправільную інфармацыю.»
• «Час можа даваць шкодныя інструкцыі або прадузяты кантэнт».
• «Навучаны адхіляць недарэчныя запыты».
• «Наша мэта — атрымаць знешнюю зваротную сувязь, каб палепшыць нашы сістэмы і зрабіць іх больш бяспечнымі».
• «Нягледзячы на ​​тое, што ў нас ёсць меры бяспекі, сістэма можа час ад часу генераваць няправільную або зманлівую інфармацыю і ствараць абразлівы або прадузяты кантэнт. Яно не прызначана для таго, каб даваць парады».
• «Размовы могуць быць прагледжаны нашымі трэнерамі AI для паляпшэння нашых сістэм».
• «Калі ласка, не паведамляйце канфідэнцыяльную інфармацыю ў сваіх размовах».
• «Гэтая сістэма аптымізавана для дыялогу. Дайце нам ведаць, добры ці бескарысны пэўны адказ».
• «Абмежаваныя веды пра свет і падзеі пасля 2021 года».

Дзве з гэтых перасцярог асабліва важныя для гэтай дыскусіі. Паглядзіце на шостую маркіраваную кропку і сёмую маркіраваную кропку.

Давайце распакуем гэтыя два:

«Размовы могуць быць прагледжаны нашымі трэнерамі AI для паляпшэння нашых сістэм».

У гэтым шостым маркіраваным пункце тлумачыцца, што тэкставыя размовы пры выкарыстанні ChatGPT могуць быць прагледжаны ChatGPT праз яго «трэнеры штучнага інтэлекту», што робіцца для паляпшэння іх сістэм. Паведамляем вам, што любыя ўведзеныя вамі тэкставыя падказкі і адпаведныя выведзеныя эсэ, усе з якіх з'яўляюцца часткай «размовы», якую вы вядзеце з ChatGPT, цалкам могуць бачыць іх людзі. Прапанаванае абгрунтаванне заключаецца ў тым, што гэта робіцца для паляпшэння прыкладання AI, і нам таксама сказалі, што гэта тып працоўнай задачы, якую выконваюць іх трэнеры AI. Магчыма, і так, але ў выніку яны папярэдзілі вас, што могуць паглядзець ваш тэкст. Кропка, кропка.

Калі б яны зрабілі нешта яшчэ з вашым тэкстам, вы, верагодна, звярнуліся б па кансультацыю да юрыста аб тым, ці не выйшлі яны ашаламляльна за прапанаваныя межы простага прагляду тэксту ў мэтах паляпшэння сістэмы (пры ўмове, што вам удалося выявіць, што яны зрабілі гэта, што з само па сабе здаецца, магчыма, малаверагодным). Ва ўсякім разе, вы можаце сабе ўявіць юрыдычныя спрэчкі, звязаныя з спробай прышпіліць іх да гэтага, і іх спробы выкруціцца, каб не быць схопленымі за тое, што нейкім чынам парушылі межы іх адмовы ад адказнасці.

«Калі ласка, не паведамляйце канфідэнцыяльную інфармацыю ў сваіх размовах».

Сёмы маркіраваны пункт паказвае, што вы не павінны дзяліцца канфідэнцыйнай інфармацыяй у сваіх размовах. Гэта здаецца адносна простым. Я мяркую, што вы маглі б прыдзірацца, з чаго складаецца вызначэнне канфідэнцыйнай інфармацыі. Акрамя таго, маркіраваны пункт не кажа вам, чаму вы не павінны дзяліцца канфідэнцыйнай інфармацыяй. Калі вам калі-небудзь давядзецца спрабаваць і ў жудасным поце растлумачыць, чаму вы па-дурному ўвялі канфідэнцыйныя дадзеныя, вы можаце паспрабаваць сцвярджаць з паднятымі брывамі, што папярэджанне было неканкрэтным, таму вы не зразумелі яго значэння. Затрымаеце дыханне на гэтым.

Увогуле, я адважуся сказаць, што большасць людзей, якіх я бачыў, карыстаючыся ChatGPT, як правіла, не чытаюць маркіраваныя пункты, або яны праглядваюць маркіраваныя меры засцярогі і проста ківаюць галавой, як быццам гэта звычайная тарабаршчына, якую вы бачыце ва ўсім час. Здаецца, мала хто прымае папярэджанні строга да сэрца. Гэта віна пастаўшчыка за тое, што ён не зрабіў меры засцярогі больш выразнымі? Ці мы павінны меркаваць, што карыстальнікі павінны несці адказнасць і ўважліва прачыталі, зразумелі, а затым дзейнічаць разважліва на падставе папярэджанняў?

Некаторыя нават сцвярджаюць, што праграма AI павінна неаднаразова папярэджваць вас. Кожны раз, калі вы ўводзіце падказку, праграмнае забеспячэнне павінна з'яўляцца папярэджаннем і пытацца, ці хочаце вы націснуць кнопку вяртання. Зноў і зноў. Хаця гэта можа здацца карыснай мерай засцярогі, трэба прызнаць, што гэта моцна раздражняе карыстальнікаў. Гэта складаны кампраміс.

Добра, гэта відавочныя засцярогі, прадстаўленыя для ўсіх карыстальнікаў.

Карыстальнікі, якія могуць быць больш дапытлівымі, могуць выбраць некаторыя падрабязныя ўмовы ліцэнзавання, якія таксама размешчаны ў Інтэрнэце. Я сумняваюся, што многія так робяць. Маё здагадку, што мала хто сур'ёзна глядзіць на пазначаныя пункты пры ўваходзе ў сістэму, і яшчэ менш - з велізарным адрывам - на дэталі ліцэнзавання. Зноў жа, у наш час мы ўсе знямелі да такіх рэчаў. Я не апраўдваю паводзіны, толькі адзначаю, чаму гэта адбываецца.

Я разгледжу некалькі вытрымак з апублікаваных умоў ліцэнзіі.

Па-першае, вось вызначэнне таго, што яны лічаць «кантэнтам», звязаным з выкарыстаннем ChatGPT:

• «Ваш кантэнт. Вы можаце прадастаўляць уваходныя дадзеныя ў Службы ("Уваходныя дадзеныя"), а таксама атрымліваць выходныя дадзеныя, створаныя і вернутыя Службамі на аснове ўводных дадзеных ("Вывадныя дадзеныя"). Увод і вывад разам з'яўляюцца «Змесцівам». У адносінах паміж бакамі і ў той ступені, у якой гэта дазволена дзеючым заканадаўствам, вы валодаеце ўсімі ўводнымі дадзенымі, і пры ўмове захавання вамі гэтых Умоў OpenAI перадае вам усе свае правы, права ўласнасці і долі ў і ў вывадных дадзеных. OpenAI можа выкарыстоўваць Кантэнт па меры неабходнасці для прадастаўлення і абслугоўвання Сэрвісаў, захавання дзеючага заканадаўства і забеспячэння выканання нашай палітыкі. Вы нясеце адказнасць за Змесціва, у тым ліку за тое, каб яно не парушала дзеючае заканадаўства або гэтыя Умовы».

Калі вы ўважліва вывучыце гэтае вызначэнне, вы заўважыце, што OpenAI заяўляе, што можа выкарыстоўваць змесціва так, як лічыць неабходным для абслугоўвання сваіх сэрвісаў, у тым ліку для выканання дзеючых законаў і выканання сваёй палітыкі. Гэта для іх зручная рэч. У наступнай адной з маіх калонак я буду абмяркоўваць іншую, але сумежную тэму, у прыватнасці аб правах на інтэлектуальную ўласнасць (ІВ), якія вы маеце ў дачыненні да ўведзеных тэкставых падказак і выведзеных эсэ (я адзначаю гэта тут, паколькі вызначэнне Змест на гэтую тэму).

У далейшай частцы ўмоў, пазначанай як раздзел c, яны згадваюць гэты аспект: «Адной з галоўных пераваг мадэляў машыннага навучання з'яўляецца тое, што іх можна паляпшаць з часам. Каб дапамагчы OpenAI прадастаўляць і падтрымліваць Паслугі, вы згаджаецеся і даяце ўказанні, што мы можам выкарыстоўваць Кантэнт для распрацоўкі і паляпшэння Паслуг». Гэта падобна да раней абмеркаванай засцярогі ў адзін радок, якая з'яўляецца, калі вы ўваходзіце ў ChatGPT.

Асобны дакумент, звязаны з гэтым, змяшчае некаторыя дадатковыя аспекты па гэтых важных пытаннях:

• «У рамках гэтага пастаяннага ўдасканалення, калі вы выкарыстоўваеце мадэлі OpenAI праз наш API, мы можам выкарыстоўваць даныя, якія вы нам даяце, для паляпшэння нашых мадэляў. Гэта не толькі дапамагае нашым мадэлям стаць больш дакладнымі і лепш вырашаць вашу канкрэтную праблему, гэта таксама дапамагае палепшыць іх агульныя магчымасці і бяспеку. Мы ведаем, што канфідэнцыяльнасць і бяспека дадзеных вельмі важныя для нашых кліентаў. Мы вельмі клапоцімся аб выкарыстанні адпаведных тэхнічных сродкаў і сродкаў кантролю працэсаў для абароны вашых даных. Мы выдаляем любую асабістую інфармацыю з даных, якія збіраемся выкарыстоўваць для паляпшэння прадукцыйнасці мадэлі. Мы таксама выкарыстоўваем толькі невялікую выбарку даных для кожнага кліента для паляпшэння прадукцыйнасці мадэлі. Напрыклад, для адной задачы максімальная колькасць запытаў API, якія мы адбіраем на кліента, абмежавана 200 кожныя 6 месяцаў» (вытрымка з дакумента пад назвай «Як вашы даныя выкарыстоўваюцца для павышэння прадукцыйнасці мадэлі»).

Звярніце ўвагу, што палажэнне паказвае, што палажэнне распаўсюджваецца на выкарыстанне API у якасці сродку падключэння і выкарыстання мадэляў OpenAI. Некалькі цьмяна, ці аднолькава гэта адносіцца да канчатковых карыстальнікаў, якія непасрэдна выкарыстоўваюць ChatGPT.

Яшчэ ў іншым дакуменце, які змяшчае іх спіс розных FAQ, яны даюць шэраг пытанняў і адказаў, два з якіх падаюцца асабліва дарэчнымі для гэтай дыскусіі:

• «(5) Хто можа праглядаць мае размовы? У рамках нашай прыхільнасці бяспечнаму і адказнаму штучнаму інтэлекту мы разглядаем размовы, каб палепшыць нашы сістэмы і пераканацца, што кантэнт адпавядае нашай палітыцы і патрабаванням бяспекі».
• «(8) Ці можаце вы выдаліць пэўныя падказкі? Не, мы не можам выдаліць пэўныя падказкі з вашай гісторыі. Калі ласка, не паведамляйце канфідэнцыяльную інфармацыю ў сваіх размовах».

Ёсць дадатковы дакумент, які ахоплівае іх палітыку прыватнасці. У ім гаворыцца наступнае: «Мы збіраем інфармацыю, якая сама па сабе або ў спалучэнні з іншай інфармацыяй, якой мы валодаем, можа быць выкарыстана для ідэнтыфікацыі вас («Асабістая інфармацыя»)», а затым працягваецца тлумачэнне таго, што яны могуць выкарыстоўваць даныя часопісаў, даныя аб выкарыстанні, камунікацыйную інфармацыю, інфармацыю аб прыладзе, файлы cookie, аналітыку і іншую патэнцыйна калекцыйную інфармацыю пра вас. Не забудзьцеся прачытаць дробны шрыфт.

Я думаю, што гэта ў значнай ступені дае агляд некаторых меркаванняў, якія ляжаць у аснове таго, як вашы даныя могуць быць выкарыстаны. Як я ўжо казаў у самым пачатку, я не збіраюся старанна праглядаць усе ўмовы ліцэнзавання.

Будзем спадзявацца, што гэта дапаможа вам настроіцца на гэтыя пытанні і застанецца ў вас на ўвазе.

заключэнне

Я казаў гэта раней і паўтару яшчэ раз: не ўводзьце канфідэнцыяльныя або прыватныя даныя ў гэтыя генератыўныя прыкладанні штучнага інтэлекту.

Разгледзім некалькі карысных парад або варыянтаў гэтай мудрай парады:

• Падумайце, перш чым выкарыстоўваць Generative AI
• Выдаліце ​​рэчы загадзя
• Маскіруйце або падробіце свой увод
• Наладзьце свой уласны асобнік
• іншае

Далей я пакажу, з чаго складаецца кожны з іх. Наладжванне ўласнага экзэмпляра разглядалася тут раней. Выкарыстанне «іншае» ў маім спісе звязана з магчымасцю іншых спосабаў справіцца з прадухіленнем уключэння канфідэнцыйных даных, пра што я раскажу ў наступнай калонцы.

Давайце разгледзім іх:

• Падумайце, перш чым выкарыстоўваць Generative AI. Адзін з падыходаў прадугледжвае адмову ад выкарыстання генератыўнага ІІ. Ці хаця б двойчы падумайце, перш чым гэта зрабіць. Я мяркую, што самы бяспечны спосаб заключаецца ў тым, каб не выкарыстоўваць гэтыя праграмы штучнага інтэлекту. Але гэта таксама здаецца даволі жорсткім і амаль за бортам.
• Выдаліце ​​рэчы загадзя. Іншы падыход заключаецца ў выдаленні канфідэнцыйнай або прыватнай інфармацыі з усяго, што вы ўводзіце ў якасці падказкі. У гэтым сэнсе, калі вы не ўваходзіце ў яго, няма шанцаў, што ён уліваецца ў Борг. Недахопам з'яўляецца тое, што, магчыма, выдаленне канфідэнцыйнай часткі нейкім чынам памяншае або зніжае тое, што вы спрабуеце прымусіць генератыўны ІІ рабіць за вас.
• Маскіруйце або падрабляйце свае ўводы. Вы можаце змяніць прапанаваны вамі тэкст, змяніўшы інфармацыю так, каб усё, што здавалася канфідэнцыйным або прыватным, цяпер адлюстроўвалася па-іншаму. Напрыклад, замест кантракту, у якім згадваюцца Widget Company і Джон Сміт, вы змяняеце тэкст, каб спасылацца на Specious Company і Джэйн Капоне. Пытанне тут у тым, ці зробіце вы дастаткова вычарпальную працу, каб усе канфідэнцыйныя і прыватныя аспекты былі цалкам зменены або падробленыя. Было б лёгка прапусціць некаторыя памутнення і пакінуць рэчы, якіх там не павінна быць.

Вось цікавая дадатковая рыса, якая магла б прымусіць вашага галава яшчэ больш разабрацца ў гэтай тэме. Калі вы можаце цалкам пераканацца, што ні адзін з вашых падказак для ўводу не ўтрымлівае ніякай канфідэнцыйнай інфармацыі, ці значыць гэта, што вам не трэба ні кроплі турбавацца аб тым, што выдадзеныя эсэ таксама змяшчаюць вашу канфідэнцыяльную інфармацыю?

Здавалася б, гэта аксіяматычна дакладна. Няма канфідэнцыйнага ўводу, няма канфідэнцыйнага выхаду.

Вось вам ашаламляльны паварот.

Генератыўны штучны інтэлект часта наладжваецца на перападрыхтоўку вылічэнняў з тэкставых падказак, якія прадастаўляюцца. Сапраўды гэтак жа, генератыўны штучны інтэлект часта прыдумляюць для вылічальнай перападрыхтоўкі з выведзеных эсэ. Уся гэтая перападрыхтоўка прызначана для паляпшэння магчымасцей генератыўнага ІІ.

У адной са сваіх іншых калонак я апісаў наступны эксперымент, які правёў. Адвакат спрабаваў знайсці новы спосаб вырашэння юрыдычнай праблемы. Пасля вычарпальнага азнаямлення з юрыдычнай літаратурай здавалася, што ўсе ракурсы, якія ўжо ўсплылі, знойдзены. Выкарыстоўваючы генератыўны штучны інтэлект, мы атрымалі прыкладанне штучнага інтэлекту для стварэння навінкі юрыдычнага падыходу, які, здавалася б, раней не быў ідэнтыфікаваны. Лічылася, што яшчэ ніхто не прызямліўся на гэтую прававую пазіцыю. Як бы законны самародак золата. Гэта магло б стаць стратэгічна каштоўным канкурэнтным прававым золатам, якое ў патрэбны час можна выкарыстоўваць і выкарыстоўваць.

Ці з'яўляецца гэта выведзенае эсэ формай канфідэнцыйнай інфармацыі, якая была створана штучным інтэлектам для гэтага канкрэтнага чалавека і ўтрымлівае нешта асаблівае і, здавалася б, унікальнае?

Ага, гэта вядзе нас да іншай саюзнай і ўзаемазвязанай тэмы аб уласнасці і правах інтэлектуальнай уласнасці, звязаных з генератыўным штучным інтэлектам. Сачыце за навінамі, каб убачыць, як гэта атрымаецца.

Апошняя заўвага пакуль.

Сафокл даў такую ​​мудрасць: «Нічога не рабі таемна; бо Час усё бачыць і чуе, і ўсё раскрывае». Я мяркую, што вы маглі б мадэрнізаваць фармулёўку і сцвярджаць, што генератыўны ІІ і тыя, хто распрацоўвае і падтрымлівае ІІ, таксама могуць бачыць усё.

Гэта сціпла сімвалічная парада, якую варта запомніць.