Ми, напевно, останнє покоління Homo sapiens. Таким самим нестабільним, як і уран, є покоління Homo sapiens. Якщо стиснути разом величезну кількість атомів урану, то ми отримаємо ядерний вибух. Те ж саме станеться, якщо ми зберемо докупи людей: ми також отримаємо величезний вибух. Зараз на нашій планеті Земля проживає близько 8 млрд людей, і ланцюгова реакція не за горами.

Юваль Ной Харари

Є два можливих результати “людського вибуху”: люди або знищать себе, або буквально вважатимуть себе богами. Штучний інтелект і біотехнології дають нам можливості, які традиційно вважалися божественними. Це, зокрема, вміння проектувати і створювати життя. В Біблії описано, як Бог створює рослини, тварин і людей відповідно до своїх бажань. Тепер ми вчимося проектувати і створювати тварин і навіть людей ​​відповідно до наших бажань. Цілком імовірно, що найважливішими продуктами економіки XXI століття будуть не транспортні засоби, текстиль, продукти харчування та зброя, а тіла, мозок та уми.

Це буде не просто велика революція в історії. Це буде найбільша революція з моменту появи життя на Землі близько 4 мільярдів років тому.

За 4 мільярди років не відбулося жодних принципових змін в основних правилах життя. Протягом 4 мільярдів років і амеба, і динозавр, і помідор складалися з органічних компонентів… і еволюціонували шляхом природного відбору. Однак у XXI столітті природний відбір, ймовірно, буде замінено розумним задумом, який стане головною рушійною силою еволюції життя. Наш розумний задум буде новою рушійною силою. Люди створять нове неорганічне життя.

Після 4 мільярдів років органічного життя, яке змінювалося завдяки природному відбору, настає ера неорганічного життя, і в цьому процесі Homo sapiens, найімовірніше, зникне, тому що ми змінимо себе. Через 200 років на цій планеті, ймовірно, будуть панувати істоти, які відрізнятимуться від нас так само, як ми відрізняємося від шимпанзе. Зараз у нас із шимпанзе подібна будова тіла, фізичні і навіть деякі ментальні здібності.

Юваль Ной Харари

Протягом наступних 200 років штучний інтелект і біотехнології, найімовірніше, повністю змінять наші тіла й мозок.

Хто в майбутньому домінуватиме на нашій планеті, залежить від того, яке рішення ми зараз приймемо: виберемо те, що добре для корпорації, в якій ми працюємо, країни, в якій живемо, або для всього виду Homo sapines, або, може, для всіх істот зі свідомістю (sentient beings – ред.). Якщо ми виберемо неправильну перспективу, результати можуть бути жахливими.

XXI століття – це століття, коли людство буде створювати якісь нові форми життя – навіть органічні. Для того, щоб бути відповідальними, потрібно дивитися на ситуацію в масштабах космосу. Я впевнений, що ми зможемо відреагувати на такі виклики.

Про освіту

Людей хвилює, що буде з тими чи іншими професіями в майбутньому. Я не можу сказати точно. Я не знаю, яким буде ринок праці через 20-30 років, але знаю напевне, що він кардинально відрізнятиметься від нинішнього – він буде дуже швидко змінюватися. І все через прискорення технологічних змін, штучний інтелект, машинне навчання. І що цікаво: ми не наблизилися до кінця цієї революції. Це її початок. Це не означає, що буде величезна революція штучного інтелекту в 2025 році.

Юваль Ной Харари

Штучний інтелект розвиватиметься ще більше, і ми навіть приблизно не знаємо його потенціал. Буде величезна революція до 2025 року, потім буде ще масштабніша революція до 2035, а потім і до 45-го року. І протягом цього часу люди повинні будуть адаптуватися. Якщо ви хочете все життя бути в одній професії, ви повинні будете знову і знову себе віднаходити.

Але це не означає, що в майбутньому зовсім не буде роботи. Робота буде, питання лише в тому, куди піти працювати. Це велика проблема. Буде складно себе навчати.

Освоєння космосу

Зараз людство все більше цікавиться експлуатацією ресурсів на інших планетах, щоб підтримувати земну цивілізацію, наприклад, добувати метал на іншій планеті і доставляти його на Землю. Певною мірою це може бути добре, адже частково вирішує проблему забруднення навколишнього середовища. Я вважаю, що є потенціал в освоєнні космосу, але я також переконаний, що необхідно зосередитися на збереженні власної планети, доки ми повністю не занурилися у фантазії щодо завоювання інших планет.

Юваль Ной Харари

Люди не зможуть вижити на інших планетах, адже еволюція прив’язала нас до унікальних умов на нашій планеті – навіть польоти на літаках залежать від земної гравітації. У момент, коли ми зможемо створювати кіборгів або неорганічне життя, все зміниться. Згадаймо науково-фантастичні фільми, де люди летять на інші планети… Коли ми перейдемо до неорганічних форм життя, тоді це буде ймовірніше. Можливо, через кілька століть земна цивілізація почне вивчати інші планети і ширитиметься Сонячною системою. Але це вже буде не людська цивілізація.

Про штучний інтелект

Учені навчили штучний інтелект фіксувати людські емоції та контролювати їх. Що буде, коли комп’ютери стануть кращими за людей? Чи буде мирне співіснування? 

Запитання перше: чи зможуть комп’ютери ідентифікувати і визначати людські емоції? І друге запитання: чи зможуть комп’ютери розрізняти ті емоції, які пов’язані із чимось поганим, негативним, наприклад, помилку?

Є науково-фантастичний сценарій, коли робот зовсім випадково себе усвідомлює. У нього з’являються емоції та почуття, і після цього робот намагається знищити все людство. Це все нереально. Це фільми не про людський страх перед розумними роботами – це про те, що чоловіки бояться розумних жінок. Тому що, якщо ви згадаєте, там дуже часто роботи перетворюються на жінок і чоловіки говорять: “Виявляється, жінки можуть бути розумнішими за чоловіків. Що нам тоді робити?” Тут я не бачу реалістичного сценарію, щоб у наступні кілька десятиліть у роботів з’явилася свідомість. Так, роботи можуть бути набагато розумнішими за людину, але свідомість і розум – це абсолютно різні речі. Розум – це здатність вирішувати певні проблеми, свідомість – це здатність відчувати.

Ми – люди – вирішуємо проблеми, тому що у нас є почуття, а комп’ютер вирішує проблеми і завдання зовсім по-іншому. Немає жодних ознак того, що у комп’ютера з’явиться свідомість. Наприклад, літаки набагато швидші за птахів, але пір’я у них не з’являється. Літаки використовують абсолютно інші методи. Про це нам не варто навіть переживати.

Ювал Ной Харарі

Ювал Ной Харарі. Фото: Олександр Кужельний, #Букви

Але комп’ютери, які навчаються розшифровувати людські емоції, які навчаються маніпулювати людьми, – ось це насправді реалістично. Для того, щоб розпізнавати емоції інших, треба вміти розпізнавати біологічну схему дій.

Як я можу дізнатися, ви боїтеся мене чи захоплюєтеся мною? Я дивлюся на ваше обличчя, на ваші жести, на те, як поводиться ваше тіло, слухаю інтонацію вашого голосу, і саме завдяки цьому я роблю висновок, вам цікаво чи я вам набрид. Для цього не потрібно мати свідомість – лише навички розпізнавання певних ознак. І тут виникає запитання: як це використовувати? Наприклад, заміна водіїв вантажних автомобілів автопілотами. Це вже вимагає певного вміння розпізнавати емоції. Такий автоматизований вантажний автомобіль повинен вміти розпізнавати емоції пішоходів, інших водіїв. Якщо він побачить людину, яка гнівається, то повинен подумати – проїжджати швидше або зупинитися.

А наступний великий крок станеться через 20-30 років, коли комп’ютери навчаться розпізнавати емоції краще від психологів. І на відміну від психологів і психотерапевтів, вони будуть робити це постійно. До психотерапевта ви можете приходити раз на тиждень на 20 хвилин, а штучний інтелект буде з вами 24 години на добу сім днів на тиждень. Він буде постійно контролювати й моніторити вашу поведінку. Ми ризикуємо бути під постійним контролем комп’ютерів. Вони будуть удосконалюватися в розумінні людських емоцій і, врешті-решт, впливатимуть і змінюватимуть наші емоції – це буде набагато гірше, ніж Великий брат.