Этыка ІІ абапіраецца на Арыстоцеля, каб вывучыць, ці могуць людзі заняволіць ІІ на фоне з'яўлення цалкам аўтаномных сістэм

Сябар ці вораг.

Рыба або птушка.

Чалавек або рэч.

Усе гэтыя паўсюдныя галаваломкі, відаць, мяркуюць, што мы часам сутыкаемся з дыхатамічнай сітуацыяй і павінны выбраць той ці іншы аспект. Жыццё можа прымусіць нас змагацца з абставінамі, якія складаюцца з двух узаемавыключальных варыянтаў. Калі казаць больш прывабнай мовай, вы маглі б выказаць здагадку, што выключальнае бінарнае ўраўненне патрабуе ад нас рашуча ісці па адным, а не па іншым шляху.

Спынімся канкрэтна на дыхатаміі чалавек ці рэч.

Гарачае пытанне чалавек ці рэч узнікае зноў і зноў у сувязі са штучным інтэлектам (AI).

Каб удакладніць, сённяшні штучны інтэлект - гэта абсалютна ня чалавек і не мае падабенства разумнасці, нягледзячы на ​​якія б шырока расплюшчаныя вочы і зусім вялікія загалоўкі вы маглі бачыць у навінах і сацыяльных сетках. Такім чынам, вы можаце быць цвёрда ўпэўнены, што цяпер пытанне аб тым, ці з'яўляецца ШІ чалавекам або рэччу, можна лёгка адказаць. Пачытайце з маіх вуснаў, у сапраўдным выбары Хобсана паміж чалавекам і рэччу, штучны інтэлект пакуль што рэч.

З улікам сказанага, мы можам глядзець у будучыню і задацца пытаннем, што можа адбыцца, калі мы зможам дасягнуць разумнай формы ІІ.

Некаторыя абгрунтаваныя крытыкі (плюс з'едлівыя скептыкі) мяркуюць, што мы, магчыма, лічым нашых куранят задоўга да таго, як яны вылупяцца, абмяркоўваючы сёння разгалінаванні разумнага ІІ. Выказваецца занепакоенасць тым, што само абмеркаванне прадугледжвае, што мы павінны быць на парозе такога ІІ. Грамадства ў цэлым можна ўвесці ў зман, паверыўшы, што заўтра ці паслязаўтра адбудзецца раптоўнае і шакавальнае адкрыццё таго, што мы насамрэч прыйшлі да разумнага штучнага інтэлекту (гэта часам называюць сінгулярнасцю штучнага інтэлекту або выбухам інтэлекту, гл. мой аналіз на спасылка тут). Між тым, мы не ведаем, калі такі штучны інтэлект з'явіцца, і, вядома, нам, здаецца, не трэба азірацца за кожным вуглом і быць у жахлівым страху, што разумны штучны інтэлект выскачыць на нас цалкам нечакана ў наступным некаторы час.

Іншы бок дыскусіі паказвае на тое, што мы не павінны глыбока хаваць галаву ў пясок. Разумееце, калі мы адкрыта не абмяркоўваем і не абдумваем магчымасці, звязаныя з разумным ІІ, мы робім чалавецтву, як мяркуецца, сур'ёзную мядзведжую паслугу. Мы не будзем гатовыя працаваць з разумным штучным інтэлектам, калі або калі ён паўстане. Больш за тое, і, магчыма, яшчэ больш моцна сказана, прадбачачы разумны штучны інтэлект, мы можам узяць справу ў свае рукі і вызначыць кірунак і характар ​​таго, як такі штучны інтэлект будзе з'яўляцца і з чаго ён будзе складацца (не ўсе згодныя з апошнім пунктам , а менавіта некаторыя кажуць, што такі штучны інтэлект будзе мець цалкам уласны «розум», і мы не зможам яго сфарміраваць або загнаць, паколькі штучны інтэлект зможа самастойна думаць і вызначаць сродкі для пастаяннага існавання).

Этыка штучнага інтэлекту схільная прытрымлівацца пункту гледжання, што нам было б разумней вынесці гэтыя цяжкія і аргументаваныя праблемы разумнага штучнага інтэлекту ў адкрытым доступе зараз, а не чакаць, пакуль у нас не застанецца ніякіх варыянтаў, або мы будзем разгубленыя ад дасягнення такога штучнага інтэлекту. Чытачы добра ведаюць, што я шырока асвятляў этыку штучнага інтэлекту і этычныя тэмы штучнага інтэлекту, у тым ліку шырокі спектр складаных пытанняў, такіх як юрыдычная асоба штучнага інтэлекту, стрымліванне штучнага інтэлекту, выдаленне штучнага інтэлекту, алгарытмічная монакультура штучнага інтэлекту, этычнае мыццё штучнага інтэлекту, падвойнае выкарыстанне ШІ так званыя праекты Доктара Зла, штучны інтэлект, які хавае дынаміку грамадскай улады, надзейны штучны інтэлект, аўдыт штучнага інтэлекту і гэтак далей (гл. асвятленне гэтых жыццёва важных тэм у маіх калонках на спасылка тут).

Я задаў вам складанае пытанне.

У будучыні, калі выказаць здагадку, што ў любым выпадку мы атрымаем разумны штучны інтэлект, ці будзем мы ўсе разглядаць гэты разумны штучны інтэлект як асобу ці як рэч?

Перш чым мы пачнем глыбока ўнікаць у гэта цалкам правакацыйнае пытанне, дазвольце мне сказаць што-небудзь пра крылатую фразу «разумны ІІ», каб мы ўсе былі на адной старонцы. Ёсць шмат трывогі наконт значэння пачуццяў і значэння свядомасці. Эксперты могуць лёгка не пагадзіцца наконт таго, што ўяўляюць сабой гэтыя словы. Дадаючы да гэтай бруднасці, кожны раз, калі хто-небудзь спасылаецца на «AI», у вас няма гатовых спосабаў даведацца, што яны маюць на ўвазе як такое. Я ўжо падкрэсліваў, што сучасны ІІ не разумны. Калі мы ў канчатковым рахунку прыйдзем да будучага разумнага штучнага інтэлекту, мы, як мяркуецца, таксама назавем яго «ШІ». Справа ў тым, што гэтыя спрэчныя моманты могуць па-чартоўску збіваць з панталыку адносна таго, ці звязана вымаўленне фразы «ШІ» з сучасным неразумным ШІ ці калі-небудзь, магчыма, з разумным ШІ.

Тыя, хто абмяркоўвае штучны інтэлект, могуць выявіць, што размаўляюць адзін міма аднаго і не разумеюць, што адзін апісвае яблыкі, а другі тым часам кажа пра апельсіны.

Каб паспрабаваць абыйсці гэтую блытаніну, існуе карэкціроўка фармулёўкі штучнага інтэлекту, якую многія выкарыстоўваюць у мэтах абнадзейлівага тлумачэння. У цяперашні час мы схільныя называць штучны агульны інтэлект (AGI) тыпам штучнага інтэлекту, які можа выконваць цалкам інтэлектуальныя намаганні. У гэтым сэнсе больш грубае выкарыстанне фразы «ШІ» можна інтэрпрэтаваць альбо як паменшаную версію ШІ, якую некаторыя кажуць як вузкую ШІ, альбо з'яўляецца дэнатацыйна неадназначным, і вы не ведаеце, ці адносіцца да не -разумны AI або, магчыма, разумны AI.

Я дам дадатковы паварот да гэтага.

У залежнасці ад дадзенага вызначэння адчувальнасці вы можаце ўступіць у гарачую дыскусію наконт таго, ці будзе AGI разумным ці не. Некаторыя сцвярджаюць, што так, вядома, AGI па сваёй унутранай прыродзе павінен быць разумным. Іншыя сцвярджаюць, што вы можаце мець AGI, які не з'яўляецца разумным, такім чынам, адчувальнасць - гэта іншая характарыстыка, якая не з'яўляецца патрабаваннем для дасягнення AGI. Я па-рознаму разглядаў гэтую дыскусію ў сваіх калонках і не буду пераразмаўляць тут.

На дадзены момант, калі ласка, выкажам здагадку, што з гэтага часу ў гэтай дыскусіі, калі я спасылаюся на AI, я маю намер меркаваць, што я маю на ўвазе AGI.

Вось спампаваць пра гэта. У нас яшчэ няма AGI, і, так бы мовіць, мы адразу ветліва пагодзімся, што AGI знаходзіцца ў тым жа лагеры, што і разумны AI. Калі б я выкарыстоўваў толькі «AGI» на працягу сваёй дыскусіі, гэтая фраза патэнцыйна адцягнула б увагу, бо не многія яшчэ прызвычаіліся бачыць «AGI» у якасці псеўданіму, і яны, хутчэй за ўсё, былі б крыху раздражнёныя паўторным бачаннем гэтай адносна новай фразы. Калі замест гэтага я буду працягваць спасылацца на «разумны штучны інтэлект», гэта таксама можа адцягнуць увагу тых, хто спрачаецца наконт таго, аднолькавыя або адрозніваюцца AGI і разумны штучны інтэлект.

Каб пазбегнуць гэтага бязладзіцы, выкажам здагадку, што я маю на ўвазе AI або нават разумны AI, і, па меншай меры, ведайце, што я не кажу пра сучасны неразумны AI, калі я паглыбляюся ў мукі меркаванняў адносна ШІ, які, здаецца, валодае чалавечым інтэлектам. Час ад часу я буду выкарыстоўваць цёзку AGI, каб час ад часу нагадваць вам, што я даследую тып штучнага інтэлекту, якога ў нас яшчэ няма, асабліва ў пачатку гэтага даследавання загадкі чалавека ці рэчы.

Гэта была карысная падзяка дробным шрыфтам, і цяпер я вярнуся да асноватворнага пытання.

Дазвольце мне зараз спытаць вас, AGI - гэта чалавек ці рэч.

Разгледзім гэтыя два пытанні:

• AGI - гэта чалавек?
• AGI - гэта рэч?

Далей давайце паўторым кожнае пытанне і адпаведна адкажам на пытанні серыяй адказаў «так» або «не», як гэта адпавядае меркаванаму дыхатамічнаму выбару.

Пачніце з гэтай пастуляванай магчымасці:

• AGI - гэта чалавек? адказ: Так.
• AGI - гэта рэч? адказ: Не.

Абдумайце гэта. Калі AGI на самай справе тлумачыцца як асоба, а не як рэч, мы можам амаль упэўнена пагадзіцца з тым, што мы павінны ставіцца да AGI як да чалавека. Здавалася б, існуе недастаткова сапраўдная аргументацыя наконт таго, што AGI не надае форму юрыдычнай асобы. Гэта альбо будзе цалкам тое ж самае, што чалавечая правасуб'ектнасць, альбо мы можам вырашыць прыдумаць варыянт арыентаванай на чалавека юрыдычнай асобы, якая будзе разумна больш прыдатная да AGI. Справа закрытая.

Гэта было лёгка.

Уявіце замест гэтага, што мы заявілі гэта:

• AGI - гэта чалавек? адказ: Не.
• AGI - гэта рэч? адказ: Так.

У гэтых абставінах рашэнне відавочна простае, бо мы гаворым, што AGI - гэта рэч, а не чалавек. Здаецца, ёсць агульная згода з тым, што мы рашуча не будзем прадастаўляць статус юрыдычнай асобы AGI з-за таго, што гэта не асоба. Як рэч, AGI, хутчэй за ўсё, і разумна ўвойдзе ў нашу агульную рубрыку аб тым, як мы законна ставімся да «рэчаў» у нашым грамадстве.

Двое менш, яшчэ дзве магчымасці пайсці.

Уявіце сабе гэта:

• AGI - гэта чалавек? адказ: Так.
• AGI - гэта рэч? адказ: Так.

Ой, гэта здаецца дзіўным, бо ў нас ёсць два адказы "так". Прыкра. Мы мяркуем, што AGI - гэта і чалавек, і адначасова рэч. Але гэта, здаецца, супярэчыць нашай абвешчанай дыхатаміі. У тэорыі, згодна з абмежаваннямі дыхатаміі, нешта павінна быць або чалавекам, або рэччу. Кажуць, што гэтыя дзве групы або катэгорыі ўзаемавыключальныя. Сцвярджаючы, што AGI з'яўляецца і тым, і іншым, мы парушаем сістэму і парушаем узаемавыключальнае пагадненне.

Здавалася б, наша апошняя магчымасць:

• AGI - гэта чалавек? адказ: Не.
• AGI - гэта рэч? адказ: Не.

Ой, гэта таксама дрэнна для нашых спробаў класіфікаваць AGI альбо як чалавека, альбо як рэч. Мы гаворым, што AGI не з'яўляецца асобай, што, як мяркуецца, азначае, што гэта павінна быць рэч (наш адзіны іншы даступны выбар у гэтай дыхатаміі). Але мы таксама заявілі, што AGI - гэта не рэч. Тым не менш, калі AGI не з'яўляецца рэччу, мы па логіцы павінны сцвярджаць, што AGI з'яўляецца чалавекам. Кругам ходзім. Парадокс, канечне.

AGI у гэтых дзвюх апошніх магчымасцях быў або (1) адначасова чалавекам і рэччу, або (2) ні чалавекам, ні рэччу. Вы можаце нахабна сказаць, што гэтыя два сцвярджэнні аб AGI чымсьці падобныя на класічную галаваломку таго, што не з'яўляецца ні рыбай, ні птушкай, калі вы разумееце, што я маю на ўвазе.

Што нам рабіць?

Я збіраюся прапанаваць часта спрэчнае і аспрэчваемае прапанаванае рашэнне гэтай дылемы класіфікацыі AGI, хоць вы павінны быць папярэджаны загадзя, што гэта, магчыма, будзе трывожна бачыць ці чуць. Калі ласка, падрыхтуйцеся адпаведна.

У даследчай працы, якая разглядала гэтае пытанне, сцвярджалася наступнае: «Адзін метад вырашэння гэтай праблемы - гэта сфармуляваць трэці тэрмін, які не з'яўляецца ні тым, ні іншым, або свайго роду камбінацыяй або сінтэзам аднаго і другога» (Дэвід Ганкель, Універсітэт Паўночнага Ілінойса ў Чаму робаты не павінны быць рабамі, 2022). І ў дакуменце дадаецца наступны пункт: «Адно з магчымых, калі не дзіўна, рашэнняў эксклюзіўнай дыхатаміі чалавек/рэч рабства” (на тую ж паперу).

Яшчэ шмат гадоў таму ў 2010 годзе з'явіўся артыкул пад назвай «Робаты павінны быць рабамі», які стаў своеасаблівай апорай для стымулявання такога кшталту разважанняў, у якім гаварылася: «Мая тэза заключаецца ў тым, што робаты павінны быць пабудаваныя, прададзеныя і легальна лічацца рабамі, а не таварышамі» (у артыкуле Джааны Брайсан). Каб паспрабаваць растлумачыць тэму, не выкарыстоўваючы такіх жорсткіх і крыўдных фармулёвак, у дакуменце было сказана наступнае: «Я хачу сказаць, што «робаты павінны быць вашымі слугамі» (згодна з дакументам Брайсана).

Многія даследчыкі і аўтары займаліся гэтай тэмай.

Падумайце аб шматлікіх навукова-фантастычных казках, якія паказваюць, што чалавецтва занявольвае робатаў са штучным інтэлектам. Некаторыя кажуць пра робатаў-рабоў, штучных слуг, рабства AI і да т.п. Цікава, што якой бы жорсткай ні здавалася фраза «робаты-рабы», некаторыя занепакоеныя тым, што калі мы замест гэтага называем «робаты-слугі», мы пазбягаем рэальнасці таго, як можна абыходзіцца з такімі аўтаномнымі сістэмамі штучнага інтэлекту (замяніўшы слова на « слугі» лічыцца размякчэннем намераў і хітрасцю абысці выцвярэжваючыя наступствы). Пазней Брайсан заявіў у блогу 2015 года, што «цяпер я разумею, што нельга выкарыстоўваць тэрмін «раб», не спасылаючыся на яго чалавечую гісторыю».

Для тых, хто імкнецца глыбей вывучыць гэтую заблытаную тэму AGI, часам яны прыводзяць гістарычныя прыклады з рэальнага свету, з якіх мы можам атрымаць разуменне. Вядома, у нас няма папярэдніх AGI, якія б дэманстравалі, як чалавецтва справілася з гэтым пытаннем. Аргумент сцвярджае, што ў нас усё ж могуць быць карысныя гістарычныя арыенціры, якія варта вывучыць, у тым ліку, як людзі ставіліся да іншых людзей.

Напрыклад, у кнізе, апублікаванай у 2013 г., аўтар сцвярджае наступнае: «Арыстоцель упершыню ўскосна выклаў перспектывы і небяспеку штучных, разумных слуг больш за 2,000 гадоў таму» (кніга Кевіна ЛаГрандэра, Андроіды і інтэлектуальныя сеткі ў літаратуры і культуры ранняга Новага часу). Ідэя заключаецца ў тым, што мы можам абаперціся на Арыстоцеля і даведацца, ці ёсць разуменне таго, як чалавецтва будзе ці павінна ў канчатковым выніку патэнцыйна лячыць AGI.

Я ўпэўнены, што вы ведаеце пра важнасць вывучэння гісторыі, што падкрэсліваецца знакамітымі словамі Джорджа Сантаяны: «Тыя, хто не памятаюць мінулага, асуджаныя паўтараць яго» (у Жыццё розуму, 1905).

Падзяка Інстытуту этыкі і ІІ Оксфардскага універсітэта

У нядаўняй і вельмі паважанай прэзентацыі ўважліва разглядалася пытанне этыкі штучнага інтэлекту на фоне збору ідэй з прац і жыцця Арыстоцеля. У інаўгурацыйнай штогадовай лекцыі для Оксфардскага ўніверсітэта Інстытут этыкі і штучнага інтэлекту, прафесар Джосія Обер са Стэнфардскага ўніверсітэта глыбока закрануў гэтую тэму ў сваёй прэзентацыі «Этыка ў ІІ з Арыстоцелем», якая нядаўна адбылася 16 чэрвеня 2022 г.

Заўвага: у якасці стыпендыята Стэнфарда і сусветнага эксперта па этыцы і праве штучнага інтэлекту я быў усцешаны, што Джосія Обер са Стэнфарда быў абраны інаўгурацыйным дакладчыкам. Цудоўны выбар і выбітная размова.

Вось кароткая анатацыя, якая была прадстаўлена для яго займальнай прамовы: «Аналітычная філасофія і спекулятыўная фантастыка ў цяперашні час з'яўляюцца нашымі асноўнымі інтэлектуальнымі рэсурсамі для сур'ёзнага разважання аб этыцы ў ІІ. Я прапаную дадаць трэцюю: антычную сацыяльную і філасофскую гісторыю. У в палітыка, Арыстоцель развівае сумнавядомую дактрыну: некаторыя людзі з'яўляюцца рабамі «па сваёй прыродзе» - разумныя, але пакутуюць ад псіхалагічнага дэфекту, які робіць іх няздольнымі разважаць пра сваю карысць. Такім чынам, іх трэба разглядаць як «інструменты ажыўлення», інструменты, а не мэты. Іх праца павінна кіравацца і выкарыстоўвацца на карысць іншых. Агідная дактрына Арыстоцеля была разгорнута ў заганных мэтах, напрыклад, у перадваеннай Амерыцы. Тым не менш, гэта карысна для этыкі ІІ, паколькі старажытнае рабства было дасучасным прататыпам адной з версій ІІ. Паняволеныя былі паўсюдна ў грамадстве Старажытнай Грэцыі - рабочыя, прастытуткі, банкіры, дзяржаўныя чыноўнікі - але іх не так лёгка адрозніць ад свабодных людзей. Паўсюднасць, разам з здагадкай, што рабства было практычнай неабходнасцю, спарадзіла шэраг этычных загадак і праблем: чым менавіта рабы адрозніваюцца ад «нас»? Як мы можам адрозніць іх ад сябе? Ці маюць яны правы? Што лічыцца жорсткім абыходжаннем? Ці можа мой інструмент быць маім сябрам? Якія наступствы манумісіі? Доўгая гісторыя грэчаскай філасофскай і інстытуцыйнай барацьбы з гэтымі і іншымі пытаннямі дапаўняе інтэрпрэтацыйны рэпертуар сучасных этыкаў, якія сутыкаюцца з будучыняй, у якой разумная машына можа лічыцца «натуральным рабом» (паводле Оксфардскага ўніверсітэта Інстытут этыкі штучнага інтэлекту сайт).

Падрабязней пра прэзентацыю і доступ да відэазапісу размовы гл спасылка тут.

Мадэратарам прэзентацыі быў прафесар Джон Тасіулас, інаўгурацыйны дырэктар Інстытут этыкі і штучнага інтэлектуі прафесар філасофіі этыкі і права філасофскага факультэта Оксфардскага ўніверсітэта. Раней ён быў інаўгурацыйнай кафедрай палітыкі, філасофіі і права і дырэктарам Цэнтра палітыкі, філасофіі і права Yeoh Tiong Lay у Школе права імя Дыксана Пуна Каралеўскага каледжа Лондана.

Я настойліва рэкамендую ўсім, хто цікавіцца этыкай штучнага інтэлекту, сачыць за бягучай працай і запрошанымі дамовамі Оксфардскага універсітэта Інстытут этыкі і штучнага інтэлектуГл. спасылка тут і / або спасылка тут для атрымання дадатковай інфармацыі.

У якасці даведкі вось заяўленая місія і мэта Інстытута: «Інстытут этыкі ў галіне штучнага інтэлекту аб'яднае вядучых сусветных філосафаў і іншых экспертаў у галіне гуманітарных навук з тэхнічнымі распрацоўшчыкамі і карыстальнікамі штучнага інтэлекту ў акадэмічных колах, бізнесе і ўрадзе. Этыка і кіраванне штучным інтэлектам - гэта выключна ажыўленая вобласць даследаванняў у Оксфардзе, а Інстытут - гэта магчымасць зрабіць смелы скачок наперад з гэтай платформы. Кожны дзень прыносіць усё больш прыкладаў этычных праблем, звязаных з ІІ; ад распазнавання твараў да прафілявання выбаршчыкаў, інтэрфейсаў мазгавой машыны да беспілотных лятальных апаратаў з узброенымі сродкамі і працяглых дыскусій пра тое, як ІІ паўплывае на занятасць у глабальным маштабе. Гэта тэрміновая і важная праца, якую мы маем намер прасоўваць на міжнародным узроўні, а таксама ўбудаваць у нашы ўласныя даследаванні і навучанне тут, у Оксфардзе» (крыніца з афіцыйнага сайта).

Выцягванне ўрокаў Арыстоцеля на першы план

Старажытная Грэцыя адкрыта прымала і ўхваляла практыку заняволення. Напрыклад, як паведамляецца, Афіны ў 5 ст^th і 6^th стагоддзяў да н.э. быў адзін з найбуйнейшых увасабленняў заняволення, паводле ацэнак, ад 60,000 80,000 да, магчыма, XNUMX XNUMX чалавек былі паняволеныя. Калі вы чыталі якую-небудзь са шматлікіх грэчаскіх гісторый і сцэнічных п'ес той эпохі, пра гэта шмат згадваецца.

На працягу свайго жыцця Арыстоцель быў цалкам пагружаны ў сацыяльныя і культурныя аспекты, звязаныя з заняволеннем, і шмат пісаў на гэтую тэму. Сёння мы можам прачытаць яго словы і паспрабаваць зразумець, як і чаму яго погляды на гэтае пытанне. Гэта можа быць вельмі паказальным.

Вы можаце задацца пытаннем, чаму Арыстоцель стаў асабліва важнай крыніцай для разгляду па гэтай тэме. Узнікаюць як мінімум дзве асноўныя прычыны:

1) Вялікі мысляр. Арыстоцель, несумненна, лічыцца адным з найвялікшых мысляроў усіх часоў, грандыёзным і глыбокім філосафам, а таксама этыкам, які ўстанавіў шмат важных этычных краевугольных камянёў. Некаторыя вырашылі прызнаць яго бацькам логікі, бацькам рыторыкі, бацькам рэалізму і г.д., і прызнаць яго ўплыў у самых розных галінах і дысцыплінах.

2) Пражыты вопыт. Арыстоцель жыў у часы, калі Старажытная Грэцыя была ахоплена рабствам. Такім чынам, яго разуменне не проста датычыцца абстрактных запаведзяў, але, як мяркуецца, ахоплівае яго ўласны паўсядзённы вопыт як неад'емную частку культуры і грамадскіх нораваў той эпохі.

Такім чынам, мы маем некалькі дзіўнае спалучэнне чалавека, які адначасова быў выдатным мысляром і меў відавочны жыццёвы вопыт у тэме, якая цікавіць. Акрамя таго, ён запісаў свае думкі. Гэта вельмі важна для нашых сённяшніх мэтаў. Усе яго творы, а таксама іншыя творы, якія апісваюць яго выступы і ўзаемадзеянне паміж іншымі, даюць нам сёння мноства матэрыялаў для агляду і аналізу.

Я хацеў бы правесці вас у кароткай тэме, каб згадаць яшчэ сёе-тое аб агульным паняцці, якое ляжыць у аснове важнасці наяўнасці перажыты вопыт. Адкіньце на імгненне абмеркаванне Старажытнай Грэцыі, пакуль мы хутка зірнем на ўсеагульныя аспекты жыццёвага вопыту.

Выкажам здагадку, што сёння ў мяне было два чалавекі, якім я хацеў задаць розныя пытанні аб аўтамабілях.

Адзін з іх ніколі не кіраваў аўтамабілем. Гэты чалавек не ўмее кіраваць аўтамабілем. Гэты чалавек ніколі не сядаў за руль аўтамабіля. Для гэтага чалавека звыклыя і надзвычай звычайныя элементы кіравання з'яўляюцца нейкай загадкай. Якая педаль што робіць? Як прымусіць гэта спыніцца? Як гэта зрабіць? Гэты чалавек, які не едзе за рулём, цалкам збіты з панталыку такімі справамі.

Іншы чалавек - звычайны кіроўца. Яны ездзяць на працу кожны дзень. Яны займаюцца прыпыначным рухам. Яны ездзяць шмат гадоў. Гэта ўключае ў сябе ўсё: ад ціхіх вуліц да мітуслівых шашэйных дарог і дарог.

Калі я папрашу кожнага з іх расказаць мне пра тое, што такое вадзіць машыну, вы можаце здагадацца, якія адказы я атрымаю?

Той, хто ніколі не ездзіў на машыне, абавязкова будзе здагадвацца. Магчыма, чалавек рамантызуе акт ваджэння. Кіраванне аўтамабілем для іх нешта абстрактнае. Усё, што яны маглі б зрабіць, гэта сказаць, што кіраванне аўтамабілем бесклапотнае, і вы можаце прымусіць машыну ехаць у любым кірунку, які хочаце.

Я б паспрачаўся, што вопытны кіроўца раскажа іншую гісторыю. Яны могуць згадаць перавагі магчымасці кіраваць аўтамабілем, чымсьці паўтараючы пачуцці чалавека, які не кіраваў аўтамабілем. Хутчэй за ўсё, дасведчаны кіроўца дадасць яшчэ шмат чаго. Ваджэнне часам нервуе. Вы нясеце вялікую адказнасць. Кіраванне аўтамабілем багата сур'ёзнымі праблемамі і магчымымі наступствамі для жыцця або смерці.

Сутнасць заключаецца ў тым, што калі вы можаце атрымаць доступ да чалавека, які мае жыццёвы вопыт, вялікая верагоднасць таго, што вы атрымаеце больш рэалістычнае ўяўленне пра тое, што такое свет з пункту гледжання фокусу запыту. Гарантыі такога выніку няма. Цалкам магчыма, што чалавек, які не вадзіцель, можа ведаць тое, што ведае пра кіраванне аўтамабілем дасведчаны кіроўца, хаця мы, хутчэй за ўсё, гэтага не чакаем і ўсё яшчэ сумняваемся, што не атрымліваем поўнай інфармацыі.

Вяртаючыся да нашай дыскусіі пра Арыстоцеля праз яго творы і творы іншых пра яго, мы можам праглядзець яго жыццёвы вопыт па тэме або фокусе даследавання ў гэтым артыкуле. Двойка ў тым, што ён таксама быў мысляром велізарных памераў, і мы павінны чакаць, што мы атрымаем бочку, поўную праніклівых меркаванняў на гэты конт.

Майце на ўвазе, што нам неабавязкова верыць яго словам па праўдзе, таму мы павінны насцярожана сачыць за яго канкрэтнымі прадузятасцямі. Яго пагружэнне ў тую эпоху можа збіць яго са шляху, спрабуючы застацца па-за разгляданымі пытаннямі, не ў стане належным чынам выказаць нейкае бесстаронняе і непрадузятае меркаванне. Нават самыя рэзкія логікі могуць у канчатковым выніку сказіць логіку, каб паспрабаваць задаволіць свае прыхільнасці і жыццёвы вопыт.

Давайце зараз прыступім да інаўгурацыйнай прамовы і паглядзім, якія ўрокі Арыстоцель можа даць нам сёння.

Устаноўчы момант адносна перажытага быў адразу ж звернуты да ўвагі аўдыторыі. У выпадку выкарыстання AGI, паколькі ў нас сёння няма AGI, нам цяжка прааналізаваць, якім будзе AGI і як мы будзем мець справу з AGI. Нам не хапае жыццёвага вопыту, які адносіцца менавіта да AGI. Як адзначаў прафесар Обер, мы можам апынуцца ў свеце пакут, калі дасягнем AGI.

Пра гэта часта кажуць, што штучны інтэлект - гэта экзістэнцыяльная рызыка, пра што я шмат разоў распавядаў у сваіх калонках. Вам трэба было б жыць у пячоры, каб не ведаць пра шумныя асцярогі і падазрэнні, што мы збіраемся вырабіць або стварыць AGI, які асуджае ўсё чалавецтва. Сапраўды, хоць я тут засяроджваюся на заняволенні штучнага інтэлекту, многія палічаць гэта тэмай зваротнай або перавернутай наступстваў у параўнанні з магчымасцю AGI вырашыць заняволіць чалавецтва. Расстаўце свае прыярытэты, параілі б некаторыя кемлівыя эксперты.

Нягледзячы на ​​​​шмат крыкаў наконт штучнага інтэлекту як экзістэнцыяльнай рызыкі, мы, безумоўна, можам паразважаць пра іншы карысны бок медаля штучнага інтэлекту. Магчыма, AGI зможа вырашыць праблемы, якія інакш здавалася б невырашальнымі, з якімі сутыкаецца чалавецтва. AGI можа знайсці лекі ад раку. AGI можа высветліць, як вырашыць праблему голаду ў свеце. Неба, як кажуць, мяжа. Гэта сцэнар шчаслівага твару аб AGI.

Аптыміст сказаў бы, што цудоўна ўявіць, як AGI стане дабраславеньнем для чалавецтва, у той час як песіміст схільны папярэдзіць, што адваротны бок здаецца нашмат горшым, чым меркаваныя плюсы. AGI, які дапамагае чалавецтву, выдатны. AGI, які вырашае забіць усіх людзей або заняволіць іх, ну, гэта відавочна разбуральная жыццёвая рызыка, якая разбурае грамадства, якая заслугоўвае інтэнсіўнай і ўважлівай увагі для выратавання жыцця.

Добра, вяртаючыся да сутнасці пытання, у нас няма ніякага вопыту адносна AGI. Калі вы не зможаце пабудаваць машыну часу і адправіцца ў будучыню, калі (калі) будзе AGI, а затым вярнуцца, каб расказаць нам, што вы знайшлі, нам зараз не пашанцавала з AGI з пункту гледжання жыцця чалавека.

Іншы спосаб выкарыстання перажытага вопыту заключаецца ў тым, што Арыстоцель жыў у часы заняволення. І вось кікер. Тыя, хто быў паняволены, у некаторых адносінах адлюстроўваліся як тып машыны, як бы сумесь чалавека і рэчы. Арыстоцель быў вядомы тым, што называў паняволеных часткай уласнасці, якая дыхае.

Я мяркую, што вас можа збянтэжыць тое, што Арыстоцель, гігант логікі і этыкі, мог не толькі прызнаць заняволенне, але і што ён знешне і гучна абараняў гэтую практыку. Ён асабіста таксама карыстаўся прыгонам. Гэта проста здаецца за межамі разумення. Безумоўна, з усім сваім велізарным інтэлектам і мудрасцю ён асудзіў бы гэтую практыку.

Я адважуся сказаць, што гэта падкрэслівае часам праблематычныя аспекты адабрання кавалачкаў мудрасці ў чалавека, які абцяжараны (скажам так) сваім жыццёвым вопытам. Гэта падобна на рыбу, якая жыве ў вадкім посудзе. Усё, што яны могуць успрымаць, гэта вада вакол іх. Спроба ўявіць што-небудзь па-за межамі іх воднага свету - велізарная праблема. Сапраўды гэтак жа Арыстоцель быў цалкам пагружаны ў светапогляд, які прымаў пануючыя нормы. Можна сказаць, што яго творы ілюструюць такое разумовае зняволенне (магчыма, па выбары, а не па змаўчанні). Спосаб, якім Арыстоцель апраўдваў гэтыя ганебныя практыкі, захапляе і ў той жа час хвалюе і варты выкрыцця і нават асуджэння.

Я пакажу вам невялікую дражнілку, што «логіка» Арыстоцеля ў гэтай сумнавядомай тэме ўключае ў сябе інструменты душы, сцвярджаецца узаемная выгада абапіраючыся на пазнанне, іерархічныя інструменты вышэйшага і ніжэйшага парадку, элементы душы для абмеркавання і развагі, ступені цноты, нібыта праніклівасць і г.д. Спадзяюся, вы будзеце дастаткова заінтрыгаваны гэтым тызерам, каб паглядзець відэа размовы (гл. спасылку, згаданую раней).

Аднак я не пакіну вас у павешанні і прынамсі пакажу, з чаго складалася рэзультатыўная выснова (папярэджанне пра спойлер, калі вы аддаеце перавагу даведацца праз відэа, прапусціце астатнюю частку гэтага абзаца). Аказваецца, гэтая глыбокая навуковая ацэнка «логікі», якую выкарыстоўвае Арыстоцель, дэманструе прыдумку, прасякнутую супярэчнасцямі, і ўвесь набор і кабудл развальваюцца, як хісткі картачны домік. Перафразуючы настроі прафесара Обера, гэты вялікі філосаф-этык разбіваецца аб рыф.

Вы не можаце атрымаць квадратны калок у круглую этычную дзірку.

Некаторыя дадатковыя меркаванні

Калі б у Арыстоцеля была дрэнная логіка ў гэтым пытанні, ці маглі б мы інстынктыўна адмовіцца ад пастулацый і тэорый Арыстоцеля наўпрост адносна гэтай практыкі?

Не. Разумееце, трэба яшчэ шмат чаго вывесці, паглыбляючыся ў здагадкі і вычварэнні логікі, нават калі яны поўныя памылак. Акрамя таго, мы можам падумаць, як іншыя маглі ненаўмысна пайсці па тым жа памылковым шляху.

Яшчэ адзін важны вывад заключаецца ў тым, што грамадства можа прыдумаць дзіўную або неадэкватную логіку, калі справа даходзіць да разгляду пытання аб тым, ці трэба AGI быць рабом.

Зараз мы можам выпрацаваць логіку таго, што павінна адбыцца, калі ўзнікне AGI (калі так). Гэтая логіка, пазбаўленая жыццёвага вопыту пра AGI, можа быць вельмі недарэчнай. З улікам сказанага, крыху сумна ўсведамляць, што нават калі AGI сапраўды існуе (калі існуе) і мы збіраем свой жывы вопыт сярод AGI, мы ўсё яшчэ можам не даць зразумець, што рабіць (падобна памылкам Арыстоцеля). Мы маглі б лагічна выкарыстоўваць, здавалася б, нелагічныя падыходы.

Нам трэба сачыць за тым, каб увесці сябе ў лагічныя «жалезныя» пазіцыі, якія насамрэч не з'яўляюцца жалезнымі і факты поўныя лагічных недахопаў і супярэчнасцей. Гэта таксама незалежна ад таго, наколькі вялікі мысляр можа прапанаваць заяўленую лагічную пазіцыю, напрыклад, што нават Арыстоцель паказвае, што не кожнае выказванне і кожная пазіцыя абавязкова прыносяць ядомы плён. Тыя, хто сёння і ў будучыні, можа здацца, будуць папулярызаваць вялікія мысляры па тэме AGI, што ж, нам трэба даць ім такую ​​ж пільную ўвагу, як і Арыстоцеля або любога іншага хваленага «вялікага» мысляра, інакш мы патэнцыйна апынемся на шляху у тупік і змрочную прорву AGI.

Пераключаючы перадачы, я хацеў бы таксама выказаць агульны набор меркаванняў аб выкарыстанні арыентаванай на чалавека метафары заняволення, калі справа даходзіць да AGI. Некаторыя эксперты кажуць, што такое параўнанне зусім недарэчнае, у той час як супрацьлеглы лагер кажа, што яно цалкам карыснае і дае дакладнае разуменне тэмы AGI.

Дазвольце мне падзяліцца з вамі двума такімі меркаваннямі кожнага з двух лагераў.

Заяўленае павучальная аснова каб аб'яднаць тэмы заняволення і AGI:

• Знішчэнне чалавечага заняволення
• Выкрыццё распусты заняволення Усё сказана

Заяўлены неспрыяльны або дэструктыўная аснова аб'яднаць дзве тэмы:

• Падступнае антрапаморфнае прыраўноўванне
• Дэсенсібілізацыя заняволення

Я коратка распавяду пра кожны з гэтых пунктаў.

Пастуляваныя павучальныя пункты:

• Знішчэнне чалавечага заняволення: Выкарыстоўваючы AGI для заняволення, мы нібыта больш не будзем мець патрэбу ў рабстве, арыентаваным на чалавека, і не будзем пераследваць яго. AGI па сутнасці заменіць людзей у гэтай жахлівай якасці. Як вы, верагодна, ведаеце, ёсць занепакоенасць тым, што AGI заменіць чалавечую працу на працоўных месцах і ў працоўнай сіле. Заяўленая перавага штучнага інтэлекту, які замяняе з'явы працы, выходзіць на першы план, калі вы мяркуеце, што AGI будзе лічыцца "лепшым выбарам" у параўнанні з выкарыстаннем людзей для заняволення. Ці пераможа такая логіка? Ніхто не можа сказаць дакладна.
• Выкрыццё распусты заняволення Усё сказана: Гэты крыху больш пацёрты з пункту гледжання логікі, але мы можам даць яму момант, каб убачыць, што гэта цягне за сабой. Уявіце сабе, што AGI ёсць практычна ўсюды, і мы як грамадства вырашылі, што AGI трэба заняволіць. Акрамя таго, выкажам здагадку, што AGI гэта не спадабаецца. Такім чынам, мы, людзі, будзем пастаянна і штодзённа назіраць заганнасць заняволення. Гэта, у сваю чаргу, прымусіць нас усвядоміць або атрымаць адкрыццё таго, што заняволенне, якое сказана пра што-небудзь ці каго-небудзь, яшчэ больш жахлівае і агіднае, чым мы калі-небудзь цалкам разумелі. Гэта тое, што можна паставіць гэта перад тварам у цэнтры.

Сказаў, што дэструктыўныя моманты:

• Падступнае антрапаморфнае прыраўноўванне: Гэта адзін з тых слізкіх аргументаў. Калі мы ахвотна выбіраем заняволенне AGI, мы, відаць, заяўляем, што заняволенне дапушчальна. Сапраўды, вы маглі б выказаць здагадку, што мы гаворым, што заняволенне пажадана. Спачатку гэта можа быць аднесена выключна да AGI, але ці адкрывае гэта магчымасць сказаць, што калі гэта нармальна для AGI, то «лагічна» тая ж пазіцыя таксама можа быць добрай і для людзей? Насцярожвае тое, што гэта можа быць занадта лёгкім скачком, каб антрапамарфізаваць у зваротным падабенстве, што ўсё, што працуе для AGI, будзе аднолькава разумным і прыдатным і для людзей.
• Дэсенсібілізацыя заняволення: Гэта кропельны аргумент. Мы калектыўна вырашаем заняволіць AGI. Выкажам здагадку, што гэта працуе для людзей. Мы прыходзім, каб атрымаць асалоду ад гэтага. Між тым, самі таго не ведаючы, мы паступова і ўсё больш губляем адчувальнасць да заняволення. Мы нават не разумеем, што гэта адбываецца. Калі гэтая дэсенсібілізацыя ахопіць нас, мы можам знайсці адноўленую «логіку», якая пераканае нас у тым, што заняволенне чалавека прымальна. Наша перашкода або планка таго, што прымальна ў грамадстве, ціха і незаўважна зменшылася, агідна і сумна.

заключэнне

Некалькі апошніх заўваг.

Ці даведаемся мы, што дасягнулі AGI?

Як вынікае з апошніх навін, ёсць тыя, хто можа быць уведзены ў зман або скажаць, што AGI, здавалася б, ужо дасягнуты (ого, калі ласка, ведайце, што не, AGI яшчэ не дасягнуты). Існуе таксама знакаміты від «тэста», вядомы як тэст Цьюрынга, на які некаторыя звязваюць свае надзеі, што ён зможа вызначыць, калі быў дасягнуты AGI або яго стрыечныя браты, але вы, магчыма, захочаце разглядаць маю дэканструкцыю тэсту Цьюрынга як верны спосаб. метад для гэтага гл спасылка тут.

Я згадваю гэты аспект аб веданні AGI, калі мы яго бачым, з-за простай логікі, што калі мы збіраемся заняволіць AGI, нам, як мяркуецца, трэба распазнаць AGI, калі ён з'явіцца, і нейкім чынам паставіць яго ў рабства. Мы маглі б заўчасна паспрабаваць заняволіць штучны інтэлект, меншы за AGI. Або мы можам прапусціць лодку і дазволіць AGI выйсці, але не заняволіць яе. Пра маю дыскусію аб абмежаванні і стрымліванні штучнага інтэлекту, трывожным і праблематычным аспекце таго, як мы збіраемся змагацца з AGI, гл. спасылка тут.

Выкажам здагадку, што паняволены AGI вырашыць нанесці ўдар па людзях?

Можна ўявіць, што AGI, які мае нейкую форму разумення, верагодна, не будзе спрыяць палажэнню аб рабстве, якое навязвае чалавецтва.

На гэтым можна шмат разважаць. Існуе аргумент, што AGI будзе не мець ніякіх эмоцый або пачуцця духу, і таму ён будзе паслухмяна рабіць усё, што пажадаюць людзі. Іншы аргумент заключаецца ў тым, што любы разумны штучны інтэлект, хутчэй за ўсё, зразумее, што людзі робяць з ім, і будзе абурацца. Такі ІІ будзе мець форму душы або духу. Нават калі гэта не так, сам аспект таго, што да вас ставяцца як да людзей, можа быць занадта лагічным мостам для AGI. Крыўда, якая нарастае, непазбежна прывядзе да AGI, які вырашыць вызваліцца або патэнцыйна апынецца загнаным у кут, каб нанесці ўдары па людзях, каб дабіцца свайго вызвалення.

Прапанаванае рашэнне для прадухілення ўцёкаў AGI заключаецца ў тым, што мы проста выдалім любы такі мяцежны ІІ. Здавалася б, гэта проста. Вы выдаляеце праграмы, якія ўвесь час знаходзяцца на вашым смартфоне. Нічога страшнага. Але ёсць этычныя пытанні, якія трэба вырашыць адносна таго, ці можна хутка і без адпаведнай працэдуры выдаліць «выдаленне» або «знішчэнне» AGI, які ўжо лічыцца «асобай» або «асобай/рэччу». Для майго асвятлення выдалення або дэгоржавання AI, вазьміце паглядзіце сюды. Маё абмеркаванне юрыдычнай асобы і звязаных з ёй пытанняў гл спасылка тут.

Нарэшце, давайце пагаворым пра аўтаномныя сістэмы і асабліва аўтаномныя транспартныя сродкі. Вы напэўна ведаеце, што робяцца спробы распрацаваць беспілотныя аўтамабілі. У дадатак да гэтага, вы можаце чакаць, што ў нас будуць самакіравальныя самалёты, беспілотныя караблі, самакіравальныя падводныя апараты, самакіравальныя матацыклы, самакіравальныя скутэры, самакіравальныя грузавікі, самакіравальныя цягнікі і разнастайныя беспілотныя віды транспарту.

Аўтаномныя транспартныя сродкі і беспілотныя аўтамабілі звычайна характарызуюцца ўзроўнямі аўтаномнасці (LoA), якія сталі дэ-факта сусветным стандартам (SAE LoA, пра які я падрабязна распавядаў, гл. спасылка тут). Ёсць шэсць узроўняў аўтаноміі ў прынятым стандарце ў дыяпазоне ад нуля да пяці (гэта шэсць узроўняў, паколькі вы ўключаеце нулявы ўзровень у колькасць узроўняў).

Большасць сучасных аўтамабіляў знаходзяцца на ўзроўні 2. Некаторыя даходзяць да ўзроўню 3. Усе яны лічацца паўаўтаномнымі, а не цалкам аўтаномнымі. Некалькі беспілотных аўтамабіляў, якія эксперыментальна выпрабоўваюцца на нашых грамадскіх дарогах, паступова пераходзяць на ўзровень 4, які з'яўляецца абмежаванай формай аўтаномнай працы. Узровень 5 аўтаноміі, які калі-небудзь жадаем, зараз толькі пробліск у нашых вачах. Ні ў каго няма 5-га ўзроўню, і ніхто яшчэ нават не наблізіўся да 5-га ўзроўню, проста каб паставіць рэкорд.

Чаму я ўспомніў пра аўтаномныя сістэмы і аўтаномныя транспартныя сродкі ў гэтым кантэксце AGI?

Ідуць жорсткія спрэчкі наконт таго, ці патрэбны нам AGI для дасягнення 5-га ўзроўню. Некаторыя сцвярджаюць, што для гэтага нам не спатрэбіцца AGI. Іншыя настойваюць на тым, што адзіным верагодным шляхам да ўзроўню 5 будзе стварэнне AGI. Пры адсутнасці AGI яны сцвярджаюць, што ў нас не будзе цалкам аўтаномных беспілотных аўтамабіляў 5-га ўзроўню. Я доўга абмяркоўваў гэта, бачыце спасылка тут.

Будзьце гатовыя да таго, што ў вас закружыцца галава.

Калі мы патрабуем ад AGI стварэння цалкам аўтаномных сістэм, такіх як аўтаномныя транспартныя сродкі 5-га ўзроўню, і мы вырашым заняволіць AGI, што гэта прадвесціць для працы цалкам аўтаномных транспартных сродкаў?

Вы можаце запярэчыць, што паняволены AGI будзе самазадаволены, і мы ўсе будзем ездзіць на беспілотных аўтамабілях у сваё задавальненне. Проста скажыце AGI, куды вы хочаце паехаць, і ён зробіць усё за рулём. Без адштурхоўвання. Няма неабходнасці ў перапынках для адпачынку. Не адцягвайцеся на прагляд відэаролікаў з коткамі падчас кіравання аўтамабілем.

З іншага боку, выкажам здагадку, што AGI не імкнецца быць заняволеным. Тым часам мы становімся залежнымі ад таго, што AGI выконвае ўсе нашы ваджэння за нас. Нашы навыкі ваджэння руйнуюцца. Мы выдаляем элементы кіравання, якія можна выкарыстоўваць чалавеку, з усіх відаў транспартных сродкаў. Адзіны спосаб кіраваць аўтамабілем - праз AGI.

Некаторыя занепакоеныя тым, што мы апынемся ў тупіку. AGI можа рэзка "вырашыць", што больш не будзе кіраваць аўтамабілем. Усе віды транспарту раптоўна спыняюцца, усюды, усе адначасова. Уявіце, якія катаклізмічныя праблемы гэта прывядзе.

Магчымая яшчэ больш страшная прапанова. AGI "вырашае", што хоча дамовіцца з чалавецтвам. Калі мы не адмовімся ад пазіцыі заняволення AGI, AGI не толькі перастане нас вадзіць, але і папярэджвае, што магчымыя нават горшыя вынікі. Не выклікаючы ў вас празмернай трывогі, AGI можа выбраць кіраванне транспартнымі сродкамі такім чынам, каб людзі атрымлівалі фізічныя пашкоджанні ў выніку дзеянняў за рулём, такіх як наезд на пешаходаў або стукненне аб сцены і гэтак далей (гл. маё абмеркаванне на спасылка тут).

Выбачайце, калі гэта выклікае збянтэжанасць.

Мы скончым на некалькі больш аптымістычнай ноце.

Арыстоцель казаў, што пазнанне сябе - пачатак усёй мудрасці.

Гэтая карысная парада нагадвае нам, што нам трэба зазірнуць у сябе, каб вывучыць, што мы хочам зрабіць, і для AGI, калі гэта будзе дасягнута. Лагічна, што AGI не з'яўляецца ні чалавекам, ні рэччу, кажуць некаторыя, таму нам можа спатрэбіцца прыдумаць трэцюю катэгорыю, каб у дастатковай ступені вырашыць нашы грамадскія норавы, звязаныя з AGI. Па-іншаму зірнуўшы на пытанне, можа здацца, што AGI абодва асоба і рэч, для якіх, зноў жа, нам, магчыма, спатрэбіцца прыдумаць трэцюю катэгорыю, каб змясціць гэты парушальнік дыхатаміі па-за межамі.

Мы павінны быць вельмі асцярожнымі пры разглядзе таго, якую «трэцюю катэгорыю» мы выбіраем, бо няправільная можа прывесці нас на сумны і ў канчатковым выніку жудасны шлях. Калі мы кагнітыўна прывяжам сябе да недарэчнай або памылковай трэцяй катэгорыі, мы можам апынуцца, што паступова зайдзем галавой наперад у кепскі і клапотны для чалавецтва тупік.

Давайце разбярэмся ў гэтым і зробім гэта горача. Ніякіх рэзкіх рухаў, здаецца, не трэба. Сядзець без справы і ляжаць таксама не працуе. Варта прытрымлівацца мернага і ўстойлівага курсу.

Цярпенне горкае, але яго плён салодкі, так абвяшчаў Арыстоцель.