Етика симуляцій: будуть віртуальні люди щасливі?

Якщо ви коли-небудь грали в рольові ігри — будь то онлайн або старомодний двір — ви знаєте, як легко прив’язатися до свого аватару, тобто вжитися в роль «козака-розбійника». Ви буквально відчуваєте біль, коли персонажа б’є троль, підсмажує дракон або вбиває шаман. Американський соціолог (і завзятий геймер) Вільям Сімс Бейнбридж завів ці відносини ще далі, створивши віртуальні подання 17 покійних членів родини. Есе на тему онлайн-аватарів 2013 року він передбачає час, коли ми зможемо завантажувати свою особистість у штучну розумну симуляцію нас самих, яка зможе діяти незалежно від нас і навіть залишиться після нашої смерті.

Якого роду відповідальність ми зможемо покласти на цих змодельованих людей? Хоча ми з підозрою ставимося до жорстоких комп’ютерних ігор, ніхто серйозно не вважає вбивством підрив віртуального нападника. Проте вже не абсурдно уявляти, що одного разу змодельовані люди будуть існувати, а також володіти деякою мірою автономією і свідомістю. Багато філософи вважають, що розум зразок нашого не обов’язково повинен зберігатися в мережі нейронів нашого мозку, а міг би існувати в різного роду матеріальних системах. Якщо вони мають рацію, немає ніяких причин вважати, чому досить потужні комп’ютери не могли б зберігати свідомість у своїх мікросхемах.

Вб’єте цифрову муху?

Сьогодні багато моральні філософи намагаються осмислити етику зміни людського населення і задаються питаннями на кшталт цих: яка ціна людського життя? Якого роду життя ми повинні прагнути сформувати? Скільки цінності ми повинні вкладати в людське розмаїття? Але коли мова заходить про етику поводження з модельованими сутностями, не зовсім зрозуміло, чи варто спиратися на ті ж логіку та інтуїцію, які ми застосовуємо в нашому світі з плоті і крові. Глибоко в душі ми відчуваємо неправильним вбивати собаку або навіть муху. Але чи відключення моделі мозку мухи — або людини — вбивством? Коли «життя» приймає нові цифрові форми, наш власний досвід більше не може виступати надійним моральним супутником.

Едріан Кент, фізик-теоретик з університету Кембриджу, вирішив вивчати цю лакуну в етичних міркуваннях. Припустимо, ми навчилися емулювати людську свідомість на комп’ютері дешево і просто, пише він в одній із статей. Нам би хотілося дати цьому віртуальному суті багату і корисну середовище для спілкування — життя, яку варто було б прожити. Можливо, ми могли б проробляти таке з цими людьми, скануючи їх мозок у найдрібніших деталях і відтворюючи їх на комп’ютері. Можна уявити, як подібна технологія «рятує» людей від смертельного захворювання; деякі трансгуманисты бачать в цьому шлях до безсмертного свідомості.

Звичайно, все це може бути і нездійсненною мрією — але давайте припустимо протилежне. Тепер давайте дістанемо набір утилітарних моральних принципів, представлених Джеремі Бентамом в кінці 18 століття і згодом уточнених Джоном Стюартом Міллом. Враховуючи всі обставини, говорив Бентам, ми повинні прагнути нести максимальне щастя (або «корисність») як можна більшого числу людей. Або, висловлюючись словами Мілла, «дії виправдані пропорційно тому, наскільки вони несуть щастя, і не виправдані, якщо вони призводять до відсутності щастя».

У принципів гарної поведінки є багато критиків. Наприклад, як ми можемо вимірювати або порівнювати типи щастя — зважуючи цінність любові бабусі, наприклад, на одних вагах з захопленням віртуозним концертним піаністом? «Навіть якщо ви хочете приймати утилітаризм серйозно, ви не знаєте, які якості, які ви вкладає в розрахунки, дійсно мають значення», говорить Кен. Тим не менше, більшість систем вірувань сьогодні за замовчуванням визнають, що моральний компас, який вказує у бік більшого щастя, однозначно кращий, ніж той, який дивиться від нього.

За сценарієм Кента, якщо виходити з утилітарних міркувань, може виникнути думка,що ми зобов’язані рухатися вперед і множити наших змодельованих, або симулированных, істот — назвемо їх сімамі — без обмежень. В реальному світі таке неконтрольоване дітонародження має очевидні недоліки. Люди будуть страждати, емоційно і економічно, маючи велику родину; перенаселення вже чинить тиск на глобальні ресурси, і так далі. Але в віртуальному світі таких лімітів може і не бути. Можна створити утопію з майже не обмеженими ресурсами. Чому ж, в такому разі, не можна створити стільки світів, скільки можливо, і наповнити їх радісними сімамі?

Наша інтуїція підказує відповідь: але навіщо? Може бути, свідомий сім просто не буде мати такий же внутрішньої цінності, як людина з плоті і крові? Цю думку висловлює Майкл Медери, фахівець з філософії свідомості та етики віртуальної реальності з Університету Тулейн в Новому Орлеані, і вважає, що до неї варто поставитися серйозно.

«В житті людини є містичний елемент, який змушує нас ставити класичні філософські питання на кшталт: чому є щось, а не нічого? Чи є сенс в житті? Чи зобов’язані ми жити по честі?», говорить він. «Симулированный розум міг би замислитись над такими питаннями, але з нашої точки зору вони будуть безглуздими, тому що це ми вирішили його винайти».

Деякі філософи вважають, що і ми самі можемо бути подібними симулируемыми істотами. Таку можливість ми просто не можемо виключити, але тим не менш вважаємо ці питання осмисленими. Тому можна було б також припустити, що і сіми мають право задаватися питаннями.

Кент знову задає питання: як буде правильніше — створити популяцію ідентичних істот або ж зовсім різні? Очевидно, більш ефективно було б створювати ідентичних істот — достатньо інформації про одному, щоб створити N таких. Але наші інстинкти підказують нам, що в розмаїтті є сенс і цінність. І чому, цікаво, якщо немає причин вважати, що N різних особин будуть щасливішими, ніж N ідентичних.

Підхід Кента полягає в тому, що різні краще життя кількох копій одного. «Я не можу позбутися думки, що всесвіт з мільярдом незалежних ідентичних емуляцій Аліси буде менш цікавою, якісною, ніж всесвіт з мільярдом різних індивідів», говорить він. Він називає це поняття неповноцінністю реплікації.

Якщо розглядати космос, населений мільярдами Аліс, чи варто взагалі говорити про життя, розмноженої багато разів, або ж ми говоримо про життя, поширеною на безлічі світів. З цього може випливати, що безліч Аліс в ідентичній середовищі матимуть цінності не більше, ніж одна. Цей сценарій він називає даремністю реплікації. «Я схиляюся до цієї думки», говорить Кент, визнаючи, втім, що не може знайти незаперечного аргументу в його захист.

Уявний експеримент Кента зачіпає кілька старих загадок моральної філософії, які ніколи не були дозволені. Англійський філософ Дерек Парфіт, який помер у минулому році, розглядав їх у своїй монументальній роботі над особистістю і «я», «Причини та особистості» (1984). Парфіт міркував над такими питаннями, наприклад, скільки людей повинно бути взагалі, і завжди буде морально краще додавати життя, яку варто прожити, в суєту світу, коли нам випадає можливість.

Навіть якщо ви приймете утилітарну точку зору, буде проблема пошуку найбільшого щастя для найбільшої кількості: подвійні критерії створюють двозначність. Наприклад, уявіть, що у нас є контроль над тим, скільки людей живе в світі з кінцевими ресурсами. Можна було б подумати, що повинно бути якесь оптимальне число людей, яке (в принципі) дозволить використовувати ресурси найкращим чином, щоб забезпечити щастя і процвітання для всіх. Але хіба в такій утопії не знайшлося б місця для ще однієї людини? Хіба не було б прийнятно зменшити щастя всіх на крапельку, щоб забезпечити ще одну щасливе життя?

Проблема в тому, що у такого процесу немає кінця. По мірі зростання цифр додаткове щастя нових життів може переважити витрати тих, хто вже живий. Зрештою, каже Парфіт, ви приходите до «огидному висновку»: до сценарію, в якому найкращим результатом буде роздута населення людей, які безнадійно нещасливі, але в якому краще, ніж якщо б не було ніякого життя взагалі. У сукупності їх мізерні уривки щастя складають більше, ніж сума невеликого числа щиро щасливих обивателів. «Мені важко прийняти цей висновок», писав Парфіт, але чи можемо ми виправдати такий підхід? Кент не знає. «Я не знаю, чи може бути якесь зважене рішення по огидному умовиводу», говорить він.

У корені цього питання лежить те, що Парфіт назвав «проблемою неідентичності»: як ми можемо міркувати раціонально про питання стурбованих індивідів, якщо саме їх існування залежить від вибору, який ми робимо (зразок пошуку місця для ще одного»)? Зважити плюси і мінуси, які можуть вплинути на окрему особу, в залежності від прийнятих нами рішень, в принципі, не так вже й складно. Але якщо брати до уваги можливість того, що цей персонаж міг ніколи й не існувати, ми вже не знаємо, як порахувати. Порівняно з нулем або небуттям що завгодно буде виграшем, тому можна морально виправдати навіть найгірші сценарії існування.

У цій грі у утилітарну популяцію є ще один дуже дивний сценарій. Що, якщо б існували люди з такою великою потребою в щастя, що вимагали б від інших більше, ніж ті можуть дозволити віддати? Американський філософ Роберт Розік назвав таке створення «утилітарним монстром» і розкритикував його у своїй книзі «Анархія, держава та утопія» (1974). За словами Нозика, ця картина «потребуватиме від усіх нас жертв на догоду монстрові для підвищення загальної корисності». Більша частина книги Парфита була спробою — безуспішною в підсумку — як втекти від огидного висновку, так і від утилітарного монстра.

Тепер давайте повернемося до віртуальних світах Кента, повним симов, і його принципом неповноцінною реплікації — коли певне число різних життів коштує більше, ніж така ж кількість ідентичних. Можливо, це дозволить нам уникнути огидного виведення Парфита. Незважаючи на те, що Лев Толстой сказав про нерівність нещасних сімей на початку «Анни Кареніни» (1878), здається, що величезна кількість нещасних життів буде майже однаково в їх похмурої смутку. Отже, їх не можна буде скомплектувати і по краплях збільшити загальне щастя.

Але точно так само неповноцінність реплікації потурає утилітарного монстра — за визначенням, він повинен бути унікальним, а значить, більш «стоїть», в порівнянні з неминучим схожістю життів, які його живлять. Таке рішення нас також не задовольняє. «Було б добре, якби люди як-небудь більше замислювалися про цих питаннях», визнає Кент. «Я в деякому подиві від них».

Для американського либертарианского економіста Робіна Хенсона — професора економіки в Університеті Джорджа Мейсона у Вірджинії — ці міркування є не стільки уявними експериментами, скільки пророкуваннями майбутнього. Його книга «Епоха Ем» представляє суспільство, в якому всі люди завантажують свою свідомість в комп’ютері, щоб прожити життя у вигляді «емуляцій» (не симов, а емів). «Мільярди таких завантажень могли б жити і працювати в одному висотному будинку, і місця вистачило б усім», пише він.

Хенсон докладно розглянув, як могла б працювати така економіка. Еми можуть бути будь-якого розміру — деякі з них будуть дуже маленькими — і час для них може йти по-іншому в порівнянні з людьми. Буде ретельне спостереження і маленька зарплата, але еми можуть позбутися від цих страждань, вибравши життя без роботи. (Хенсон вважає, що ми вже можемо жити в такому світі).

Цей сценарій припускає можливість дублювання самого себе, оскільки розум вже був перенесений на комп’ютер, тому створення копій буде доволі простою. Хенсон каже, що проблема ідентичності в такому випадку розмивається: дублікати — це «один і той ж людина» спочатку, але поступово їх ідентичність розходиться, коли вони починають жити окремо.

Хенсон припускає, що дублювання людей буде не тільки можливим, а й бажаним. В прийдешній вік емів люди з особливо цінними розумовими здібностями будуть «завантажуватися» безліч разів. І взагалі, люди захочуть зробити кілька копій себе в будь-якому випадку в якості однієї з форм страхування. «Вони можуть віддати перевагу надмірність у власній імплементації, щоб переконатися, що зможуть пережити несподівані катастрофи», говорить Хенсон.

Але він не думає, що вони віддадуть перевагу сценарій Кента про ідентичних життях. Еми «не будуть надавати особливої цінності проживання однієї і тієї ж життя в різний час і в різних місцях. Вони будуть вкладати цінність безліч копій, тому що ці копії зможуть працювати або спілкуватися з іншими. Але така робота і стосунки будуть вимагати того, щоб кожна копія була причинно незалежна, а їх історії перепліталися в залежності від завдань або як партнерів».

У будь-якому випадку, эмам потрібно буде боротися з моральними труднощами, переоцінити які ми поки не в змозі. «Я не думаю, що моральність, яка з’явилася у людей, є досить загальною або надійної, щоб давати впевнені відповіді на подібні ситуації, які так далекі від «досвіду» наших предків», говорить Хенсон. «Я прогнозую, що еми будуть мати безліч різних конфліктуючих думок щодо таких речей».

Еми, сіми і наше віртуальне майбутнє

Зараз все це може звучати дуже дивно, немов апокрифічні середньовічні бесіди про ангелів, танцюючих на носочках. Чи зможемо ми коли-небудь створити віртуальну життя, яка буде схожа на реальну взагалі? «Не думаю, що хтось зможе впевнено сказати, можливо це чи ні», каже Кент, частково тому, що «у нас немає хорошого наукового уявлення про свідомість».

Навіть якщо і так, технології рухаються вперед, і ці питання залишаються відкритими. Шведський філософ Нік Бостром з Інституту майбутнього людини, стверджував, що обчислювальна потужність, доступна «постчеловеческой» цивілізації, що дозволить з легкістю симулювати істот, які живуть у світі і відчувають його таким же реальним, як і ми свій. (Бостром також вважає, що ми могли б жити в такій симуляції). Але питання про те, як нам формувати популяцію таких світів, представляють «справжню дилему для програмістів, науковців і законоделов майбутнього, хоч і не настільки віддаленого», говорить Кент.

У сценарію Кента вже можуть бути наслідки для реального світу. Аргументи про максимізації корисності і проблема неідентичності виникають у дискусіях про просування і запобігання людського зачаття. Коли слід відмовлятися від зачаття у разі ризику, наприклад, розвитку відхилень у дитини? Ні один з нових методів не гарантує повну безпеку і ніколи не гарантував, але ЕКО ніколи б не стали робити, якби це було обов’язковою умовою. Передбачається, що така техніка повинна дотримуватися певний поріг ризику. Але утилітарний підхід заперечує цю думку.

А що, якби новий метод допоміжного розмноження мав би помірний ризик появи невеликих дефектів при народженні — наприклад, родимих плям? (Це реальний аргумент: розповідь Натаніеля Готорна 1843 року оповідає про алхімік, який намагався, з фатальними наслідками, прибрати мітку зі своєї дружини, привів у приклад рада з біоетики США в 2002 році). Важко сказати, що люди, зазначені такою плямою, будуть гірше за інших і тому не повинні прийматися методом під увагу. Але де межа? Коли дефект при народженні краще зовсім не втілювати в життя?

Деякі згадували цю дилему, виступаючи на захист клонування людини. Будуть небезпеки, такі як соціальна стигма або спотворені батьківські мотиви і очікування, переважувати переваги надання житті. Хто ми такі, щоб робити вибір за клонованої людини? Ким ми будемо, якщо будемо робити цей вибір до того, як людина взагалі буде існувати?

Подібні міркування, мабуть, вимагають від нас богоподібних рішень. Але феминистичный спостерігач міг би подумати, що ми стали жертвою однієї з версій фантазії Франкенштейна. Іншими словами, хіба це не купка чоловіків марить ідеєю нарешті почати фабрикувати людей, коли жінки займалися цим споконвіку? Відчуття новизни, що призводить до появи всіх цих суперечок, має патріархальний наліт.

Навіть якщо так, перспектива віртуального свідомості піднімає дуже свіжі і захоплюючі етичні питання, які, на думку Кента, змушують нас оскаржувати інтуїтивну цінність, яку ми поміщаємо в життя та демографію. Вкрай складно побачити сильний аргумент на користь того, що певна кількість різних життів буде морально краще такого ж числа однакових. Чому ж ми так думаємо? Як нам позбутися упереджень?

Можна було б сказати, що сприймається гомогенність в людських популяціях роз’їдає здатність до емпатії і етичним міркуванням. «Безлика» натовп, якій протистоїть індивід — звичний штамп, який викликає відчуття героїзму. Але це не обов’язково правильно.

Може бути, у нас є еволюційний відраза до однаковим індивідам, особливо якщо врахувати, що генетичне різноманіття популяції забезпечує її виживання? Просто згадайте фільми про ідентичних близнюків або клонів — це не завжди приємно виглядає. Виглядає навіть зловісно. У 1919 році це відчуття Зигмунд Фрейд пов’язує з ідеєю злого двійника (доппельгангера). І якщо у випадку з ідентичними близнюками це ще можна зрозуміти, сотня «ідентичних» персонажів буде виглядати жахливо.

Не схоже, що ми зіткнемося з арміями дублікатів найближчим часом, в реальному або віртуальному світі. Але цінність уявних експериментів полягає в тому, що вони дають вам новий спосіб осмислити питання цього світу. Уявляючи етику наших відносин до сімам, ми розкриваємо хитку або не існуючу логіку, яку використовуємо інстинктивно, зважуючи моральну цінність нашого власного життя.

А тепер вб’єте цифрову муху? Розкажіть в нашому чаті Телеграме.

Добавить комментарий