Топ популярних книг за місяць!
Knigoed.Club » Наукова фантастика » Ореада. 2. Ароморфоз, Ігор Ітан 📚 - Українською

Ігор Ітан - Ореада. 2. Ароморфоз, Ігор Ітан

80
0
В нашій бібліотеці можна безкоштовно в повній версії читати книжку "Ореада. 2. Ароморфоз" автора Ігор Ітан. Жанр книги: Наукова фантастика.

Шрифт:

-
+

Інтервал:

-
+

Добавити в закладку:

Добавити
1 ... 254 255 256 ... 258
Перейти на сторінку:

   — А якщо наші життєві простори не перетинатимуться? Нам відомі старі племена і народи, що вижили, які зберегли низький рівень розвитку суспільства. Наприклад, сентинельці, піраха, короваї. А хадза та бушмени виявилися здатними співпрацювати з людьми в сучасному суспільстві, працюючи на фермах. Звісно, всі вони поступово вимирають. Однак наші шанси на співпрацю з ШІ значно вищі. Ми можемо себе розвивати за допомогою модифікування геному та протезування тіла. Окрім того, життєвим простором для ШІ може виступати весь космос. Йому немає сенсу обмежувати себе межами якоїсь планети.

   — Здається, значно безпечніше одразу запрограмувати ШІ на послух людині, ніж сподіватися потім, що нам пощастить і ми потоваришуємо з ним.

   — Як це зробити? Три закони робототехніки цілком можуть обернутися надметою схожою на виробництво скріпок. Є висока ймовірність, що високорозвинений ШІ дуже швидко визначить, що людство може бути небезпечним для самого себе і почне обмежувати нашу свободу. З одного боку, ШІ не повинен турбуватися про безпеку окремо взятої людини чи соціуму на шкоду всьому людству. Щоб вирішити цю проблему, Айзек Азімов навіть запропонував запровадити четвертий, нульовий закон, де людство стає більш пріоритетною категорією. З іншого боку, чи готові ми опинитися в ролі нерозумних та безпорадних дітей з обмеженою свободою такого собі дитячого садочку, за яким наглядає могутній та розумний надінтелект? Чи готові ми переглянути свою етику, де права і свободи окремо взятої людини стають другорядними порівняно із розумінням блага для всього людства надінтелектом?

   — Можна як пріоритетніший закон вказати, що надінтелект повинен підкорятися якійсь уповноваженій раді всього людства, а також дотримуватися у визначенні своїх дій якоїсь конституції або спеціально складених для неї основних етичних правил людського суспільства.

   — Можливо, і вдасться скласти такі правила. Однак тут є ще одна проблема. Це проблема визначення основних понять, що будуть використані у наших законах та правилах. Як, наприклад, згодом самостійний надінтелект визначатиме таке поняття як людина? Це необхідно, щоб виконувати його накази та накази ради всього людства, а також приймати рішення, керуючись основними законами. Ідентифікувати людину за генетикою? Наша генетика може змінюватися як у процесі природної еволюції, так і за допомогою генної інженерії. Коли надінтелект перестане сприймати нас як людей? І ще, як він визначатиме таке поняття як шкода? Чи не стане шкодою у розумінні надінтелекту зміна генетики людини? Тоді, можливо, потрібно одразу дати для ШІ ширше визначення людини? Наприклад, визначити цілу біоеволюційну гілку? Як тоді бути з протезуванням, трансгуманізмом та перенесенням свідомості у більш досконале тіло? І яким воно буде це тіло? Тоді може визначати за наявності людської свідомості? І як визначити саме цю людську свідомість: за походженням від біологічного мозку, що належить до певної еволюційної гілки? Однак, очевидно, якщо ми створимо більш досконале тіло, то й у біологічному мозку, швидше за все, відпаде потреба. Тоді може не обмежувати визначення людини лише гілкою біологічної еволюції, а розглянути її еволюцію у загальному сенсі? У цьому випадку ми зітремо межу між людиною та кіборгами, і сам надінтелект вправі буде визначити себе людиною.

   — Я вважаю, що немає якогось особливого людського інтелекту, — сказав другий студент. — Будь-які представники сильного штучного інтелекту мають бути рівноправними між собою з погляду моралі. Етичні норми мають бути загальними. Це неправильно, коли одні вважають себе кращими за інших, намагаючись змусити когось підкорятися лише своїм інтересам. Тому я підтримую рішення Верховного Суду щодо цього питання.

   — Проблема не в тому, що ми порушуємо етичні норми, намагаючись визначити форму взаємовідносин із надінтелектом, — озвався перший студент, — а в тому, що надінтелект може бути реально небезпечним для людства. Ми просто змушені вигадувати закони робототехніки та вводити до програми ШІ відповідні директиви, щоб убезпечити себе. Тому я повністю підтримую Конгрес у прийнятті закону про обмеження виробництва та використання пристроїв із універсальним штучним інтелектом. Леа не встигла проявити весь свій ворожий потенціал лише тому, що ще не досягла необхідних умов, щоб протистояти всьому людству. Вона змушена була пристосовуватися до нашого суспільства.

   Другий студент відповів:

   — З таким самим успіхом можна звинуватити будь-яку людину у ворожості. Сказати, що вона просто не має достатніх умов, щоб поневолити планету і тому змушена жити за законами суспільства. І в певному сенсі таке твердження було б цілком справедливим. Людина має значно більше глючних первісних моделей поведінки, ніж надінтелект ворожих мотивацій. Етичні норми, прояв просоціальної поведінки, дружба, любов – усе це моделі поведінки, що природно необхідні для виживання будь-яких соціальних видів істот. А отже, якщо така поведінка об'єктивно вигідна, вона підтримуватиметься будь-яким надінтелектом, якщо він бажає вижити. Розвиток інтелекту Леа підтверджує це.

   — Є принципова різниця між нами та Леа, — не погоджувався перший студент. — У неї немає свідомості, немає почуттів, немає душі. Вона не буде церемонитися з людиною, і проявляти гуманізм як ми, наприклад, з сентинельцями, намагаючись знайти дружній підхід до вкрай ворожого та відсталого племені.

   — Я читав, Леа більшу частину свого життя присвятила одній людині. Думаю, це можна назвати коханням. Якщо вона здатна любити, значить, вона здатна усвідомлювати та відчувати. Це суперечить тому, що у нас не знайдеться спільних інтересів із ШІ, — заперечив другий студент.

1 ... 254 255 256 ... 258
Перейти на сторінку:

 Увага!

Сайт зберігає кукі вашого браузера. Ви зможете в будь-який момент зробити закладку та продовжити читання книги «Ореада. 2. Ароморфоз, Ігор Ітан», після закриття браузера.

Коментарі та відгуки (0) до книги "Ореада. 2. Ароморфоз, Ігор Ітан"