Провісники. Далеке майбутнє – вимирання людського роду чи майбутнє серед зірок?

Джерело: Журнал Aeon Скорочений переклад: Артем Чапай

Іноді, закопуючись під поверхню Землі, натикаєшся на провісники. У 1676 році, роблячи останні штрихи у праці свого життя “Природнича історія Оксфордширу”, професор Оксфорда Роберт Плот отримав дивний подарунок від друга. Це були викопні рештки, шматок кістки. Плот миттєво визначив, що це стегно – але був вражений його розміром. Це була тільки шматинка біля суглоба, проте вона важила понад 9 кг.

Плот вирішив, що кістка належала велетню – жертві біблійного Потопу. Так він і написав.

Звісно, Плот помилився. Кістка і справді належала представнику вимерлого роду – але не людського. Це було стегно мегалозавра – хижака з юрського періоду.

Сучасна комп’ютерна реконструкція мегалозавра:

Викопні рештки, зображені Плотом, стали першою кісткою динозавра, що з’явилась у науковій літературі. Після цього вони посипалися градом, і сьогодні стоять на п’єдесталах музеїв як символи уявлення, що не дає спокою людській уяві. Колись на Землі панували зовсім інші істоти, поки щось таємниче не припинило їхнього існування.

У грудні минулого року я віч-на-віч зустрівся з мегалозавром. Це сталося в Оксфордському музеї природничої історії.

В Оксфорді я зустрічався з Ніком Бостромом – філософом, який збудував кар’єру, міркуючи про віддалене майбутнє, гіпотетичні світи, що лежать за тисячі років від нас. Бостром – директор оксфордського Інституту майбутнього людства, дослідницького колективу, який намагається передбачити про віддалену долю людства.

Бостром приваблює значну увагу преси як на філософа – частково тому, що він багато пише про вимирання роду людського. Його творчість заробила йому репутацію секулярного пророка Даниїла. Проте Бостром, на відміну він біблійного пророка – аж ніяк не голос, що волає в пустелі. Його дедалі більше слухають, як в академічних колах, так і поза ними. Він виступає на конференціях, організованих Держдепом США, а разом зі Стівеном Хокінгом є радником Центру вивчення екзистенційних ризиків у Кембриджі.

Є серйозні підстави, щоб будь-який вид думав про власне вимирання. 99% видів, які жили на Землі, вимерли – включно з понад п’ятьма видами гомінідів, які вміли користуватись інструментами. Види вимирали постійно, просто аж до останніх 600 млн років домінували одноклітинні організми, від яких нам не полишалося викопних решток. Зате коли вже багатоклітинне життя стало процвітати – то процвітати воно стало по повній.

Кембрийський біовибух створив більшість широких категорій складного тваринного життя

Життя вистрибнуло з океанів на землю, озеленило континенти й запалило ґніт кембрийського вибуху – саме тоді біологічна активність перебувала на рекордному рівні. Кембрийський біовибух створив більшість широких категорій складного тваринного життя. Біологічні типи утворювались і змінювалися так швидко, що Чарльз Дарвін переживав, чи не заперечує щільність викопних решток його теорію природного добору.

Ніхто не знає, що спричинило ті п’ять масових вимирань, які ми бачимо у скам’янілих рештках верхнього кембрию. Про деякі можна здогадуватися. Останній, імовірно, стався внаслідок космічного зіткнення, яке знищило, зокрема, динозаврів.

Зате внаслідок цього різко збільшилась екологічна ніша для ссавців, які зрештою навчилися створювати з каменю інструменти, а зі звуків – символи для передачі думок між собою. Ці ссавці швидко запанували на Землі, вкриваючи її континенти містами, сяйво яких видно з космосу. З точки зору динозаврів це дуже сумна історія. Звісно. Ну, зате за сто п’ятдесят мільйонів років до того, як самих динозаврів знищили наслідки зіткнення з астероїдом, надзвичайна вулканічна активність повбивала великих круротарзів, які доти цілі геологічні ери вигравали в біологічній конкуренції у динозаврів.

Правда, деякі з цих круротарзів, а саме їх підкатегорії архозаври – вижили!

Нащадки круротарзів, які вижили

Втім, Бострома не надто тубує вимирання людства через природні ризики. Навіть через космічні. Байдуже, що кожні 50 років у нашій галактиці вибухає супернова – це останній спалах життя зірки, що вигоріла зсередини. Якщо таке станеться з однією з наших сусідок, це може спалити Землю чи здути її тоненьку атмосферу, що підтримує життя. Або якась із зірок може надто наблизитися до Сонця та скинути нашу планету з орбіти в холодний міжзірковий простір.

На щастя для нас, такі катастрофи для нашої зіркової системи не надто імовірні – ми розташовані на рідкозаселених зірками околицях галактики, далеко від щільного ядра Чумацького Шляху, де сліди вибухів зірок літають повз, як шрапнель. Імовірніше, що жодна з зірок-сусідок не вибухне, аж поки саме Сонце не поглине землю. Це має статися, за підрахунками фізиків, через чотири мільярди років.

Але, як пізнали на собі динозаври, небезпеки є і в самій нашій сонячній системі. Скажімо, велетенські каменюки, що літають навколо – гляньте лише на шрами кратерів на нашому Місяці. Нашу Землю в молодості теж бомбардували серіями – але зараз планета у відносній безпеці. Тепер астероїдів навколо значно менше, ніж у попередні епохи. Атмосфера захищає нас від дрібних уламків. Крім того, за останні десятиліття Земля створила собі докорінно нову форму планетарного захисту – таких собі нічних сторожів із телескопами.

"Якщо ми виявимо великий об’єкт, який має зіткнутись із Землею – ймовірно, люди запустять проект з усунення цього об’єкту, чого б це не коштувало", – сказав Бостром. Донедавна для усунення астероїдів людство використало б ядерну зброю – але зараз уже ні. Ядерний вибух може перетворити астероїд на дощ радіоактивного гравію, який полетить прямо на землю. На щастя, є інші ідеї.

Можна оточити небезпечні астероїди маленькими супутниками, що відтягнуть їх на більш дружню для нас траєкторію. Можна пофарбувати астероїд у білий колір, щоб фотони, що летять від Сонця, плавно зсунули об’єкт з орбіти. Хто знає, які ще фокуси небесної механіки ми вигадаємо, якщо Земля справді перебуватиме під загрозою.

Але якщо ми й можемо прикрити Землю від зіткнень, ми не можемо позбутися супервулканів, які розверзають пекло приблизно раз на 100 тисяч років. Наш вид уже був на волосину від вимирання через одного з цих монстрів, що ригають магмою. Близько 70 тисяч років тому супервивергнення Тоба викинуло над Індонезією в атмосферу невеличкий океанчик попелу.

Комп’ютерна графіка ілюструє, який вигляд це могло б мати.

Результатом стало охолодження планети, внаслідок чого харчові ланцюги порушились настільки різко, що популяція гомо сапіенс зменшилася до кількох тисяч Адамів і Єв сучасного людства. Існує теорія, що на той час існували й інші види розумних гомінідів – вони вимерли повністю.

Втім, сьогодні нас так багато, що якийсь там супервулкан усіх не знищить. "Можна, правда, турбуватися, що цивілізаціям потрібна, як трамплін, певна кількість легкодоступної енергії", – каже Бостром. Можливо, випалюючи нафту й вугілля, ми вже зараз використовуємо свій стартовий капітал повністю. Але, навіть якщо виснаження вуглеводневих запасів і відкине нас аж на сто тисяч років назад – у космічному масштабі це лише мить.

сьогодні нас так багато, що якийсь там супервулкан усіх не знищить.

Може, нам і не потрібно буде аж ста тисяч років. Історія нашого виду показує, як маленькі групки людей можуть миттєво розмножуватись, колонізуючи величезні території. Дослідження свідчать, що весь Полінезійський архіпелаг та обидві Америки заселили тільки сто людей.

От що не дає Бострому заснути вночі – це не геологічні ризики. Це ризики, що йдуть від людських технологій – сили, що можуть внести у світ цілком нові явища.

Першою технологією, що поставила нас під загрозу повного знищення, стала ядерна зброя. Але вона не остання й навіть не найбільш небезпечна. Обмін снарядами, що знищить рід людський, після завершення Холодної війни видається менш імовірним. Та й арсенали скоротилися. Знищити основні міста Землі можна – але підірвати планету зараз не так просто.

От хіба що ядерна війна спричинить ядерну зиму, коли осади в атмосфері закриють сонце та змінять клімат на значно холодніший, внаслідок чого неможливо буде вирощувати врожаї. Та й то вже неясно, що буде осадів аж так багато. Он нафтові родовища в Кувейті палали аж десять місяців поспіль, викидаючи в атмосферу рештки шести мільйонів барелів нафти щодня – і то до стратосфери майже нічого не дійшло.

Імовірно, якась частка людства таки переживе глобальну ядерну війну – можливо, тоді виникне культура з глибоко вкоріненими культурними табу щодо війни, зброї, а то й механізації загалом.

Он почитайте оповідання Уіндема "Колесо" про таку постядерну культуру

І такі табу були б корисними – бо є значно давніша технологія війни, що загрожує людству. Люди давно використовують смертельні інновації природи для власних цілей. Ми особливо добре вміємо перетворювати на зброю мікроорганізми. У давнину, ми посилали в міста під осадою чуму, катапультуючи через стіни трупи. Тепер у нас є витонченіші троянські коні. Ми навіть ничкували віспу в ковдри та посилали ковдри під виглядом гуманітарної допомоги.

Та все ж це грубі техніки – примітивні спроби спустити летальні організми на товаришів. У 1993 році секта в Токіо, що сповідувала культ смерті, злітала до Африки з метою здобути вірус Ебола, який вони сподівалися використати для спричинення Армагеддону.

В майбутньому ж навіть маленькі й не надто освічені групи зможуть винаходити патогенні мікроби. Навіть щось на кшталт корпоративного саботажу зможе генерувати катастрофи, що розгрортатимуться в непредбачувані способи.

Уявіть, як австралійська деревообробна компанія посилає синтетичні бактерії, що шкодять бразильським лісам, щоб перемогти в конкуренції. А бактерії мутують у домінуючий штам, який знищить усю екологію земного ґрунту, внаслідок чого люди змушені повертатися по їжу до океанів.

Ці ризики неважко уявити. Ми бачимо їх на горизонті, бо це лише передбачувані наслідки нинішніх технологій. Важче проникнути в епістемологічний туман дальшого майбутнього – як-от прозгозист 18 століття не міг уявити ядерної катастрофи.

Закинуте місто Прип’ять, Україна.

Про одну з віддалених технологій Бостром багато останнім часом думає. На початку минулого року він почав збирати нотатки для нової книжки – огляду близькотермінових екзистенційних ризиків. Через кілька місяців писання Бостром помітив, як один із розділів розростається достатньо, щоб стати окремою книжкою. Це розділ про штучний інтелект.

Наступного дня в Оксфорді я зустрівся з Деніелом Дьюі – співробітником Інституту майбутнього людства, створеного Бостромом. Дьюі, колишній програміст Google, спеціалізується і Інституті на машинному надрозумі.

"Людський мозок добре підходить для типів пізнання, потрібних для біганини по саванні зі списами, – каже Дьюі. І – Проте у нас жахливо виходить усе, що стосується ймовірностей."

Подумаймо, як пізно ми дійшли до думки про природний добір. Ще давні греки мали все необхідне знання, щоб здогадатися. Вони знали про спадковість, про обмежені ресурси, про розмноження і про смерть. Але тільки через тисячі років хтось зміг скласти все це докупи.

Маючи машину, розроблену спеціально для синтетичних висновків про світ, можна було б робити подібні відкриття значно швидше. Людський мозок просто не пристосований для цього.

Дьюі розповідає про хардверні та софтверні обмеження, вбудовані в людський мозок. Візьмімо робочу пам’ять – інструмент, який мозок використовує, щоб зібрати розрізнені думки під фокус уваги. Середній людський мозок може жонглювати сімома дискретними шматками інформації водночас.

Геніуси часом здатні дев’ятьма. Якби ми могли за раз просіювати по 90 концепцій чи пригадувати трильйони бітів даних – ми б отримали доступ до зовсім іншого порядку розумових ландшафтів. Мозок, схоже, неможливо змусити підняти таку когнітивну вагу – але мозок може збудувати машину, яка буде здатна це зробити.

Ранні дослідження штучного розуму, починаючи з 1950-х, закінчилися настільки епічним провалом, що аж до 1980-х учені вагалися, чи вживати фразу "штучний розум" узагалі. Проте від 1990-х почали створювати програми, які здатні перевершити людей в окремих спеціалізованих завданнях – шахи, наприклад. Втім, поки що ніхто не підійшов і близько до створення штучного загального розуму – системи, що може досягати цілей широкого спектру. Як людський мозок, тільки кращої.

Щоб зрозуміти, чому штучний розум може бути небезпечним – треба уникнути його антропоморфізації. Це не буде жага влади, як у дешевій фантастиці. Коли запитуєш себе, що зробить штучний розум у конкретній ситуації – ти не зможеш відповісти. Людське пізнання – лише один з багатьох видів розумності, із вбудованими імпульсами на кшталт емпатії та межею того, що ми зробимо заради досягнення цілі.

Бостром вважає, про штучний розум найкраще думати як про первинну сили природи типу урагану – сильну, проте абсолютно байдужу до наслідків. Якщо метою є перемагати в шахи – штучний розум моделюватиме ходи, робимиме передбачення та обиратиме способи дії, й він буде безжальним у досягненні своїх цілей, але на обмеженому полі – шаховій дошці.

Він не піддасться лише тому, що грає проти образливої дитини чи честолюбивого дідуся на межі інфаркту. А коли штучний інтелект обиратиме, як вчинити у фізичному світі, а особливо якщо матиме можливість сам утілити свій вибир – треба дуже обережно ставити перед ним цілі.

"Основна проблема в тому, що повне здійснення більшості мотивацій – несумісне з людським існуванням, – каже Дьюі.

Штучний розум може вирішити, що необхідно збудувати велетенський комп’ютер. А щоб здобути матеріали – потрібно розібрати на частини Землю з метою створити для нього сонячні панелі. Надрозум може просто поставитися при цьому з байдужістю до інтересів якихось там людей, як ми не зважаємо на коріння трави чи підземний мурашник, будуючи хмарочос.

Спокусливо думати, що буде легко вбудувати емпатію у штучний розум, скориставшись якимись Трьома законами робототехніки Азімова – проте розробка дружньої машини складніша, ніж можна уявити.

Концепції Станіслава Лема витонченіші – від неможливості знайти спільну мову з іншим типом розуму в "Солярісі" та "Фіаско", до неможливості зрозуміти повідомлення в "Голосі неба" та штучного розуму, який читає нам примітивні, з його погляду, лекції, перш ніж відключитися, в "Големі XIV"

Можна надати машині загальну доброзичливу ціль – щось миле й утилітарне, на кшталт кількісної максимізації людського щастя. Проте штучний розум може визначити, що щастя – біохімічне явище. І примусово накачати всіх ендорфінами чи нелетальною дозою героїну. Він може передбачити, що короткозорі люди не зрозуміють мудрості його втручань. І, як у шахах, серією хитрих рухів убезпечить себе від опору.

Звісно, жодна раціональна людська спільнота не передасть віжки цивілізації штучному розуму. Та й не збудує надінженера, який зможе створювати нові технології. Проте одного дня хтось вирішить, що безпечним буде збудувати штучний розум, який відповідатиме на запитання – невинну систему комп’ютерів, єдина функція якої – видавати тексти. Бостром навіть має ім’я для такої теоретичної технології. Дельфійський оракул.

Скажімо, є штучний Оракул, який відповідає на інженерні запитання. Скажімо, ви вбудували в нього систему повідомлень про правильні відповіді – й коли Оракул, як виявляється, правильно вирішує інженерне завдання, ви натискаєте на кнопку. Метою Оракулу є максимізувати кількість натискань на кнопку в майбутньому в сумі. Отака програма.

Але тут усе може піти трохи не так, як очікують люди. Програмісти мали на увазі, що штучний Оракул максимізуватиме кількість натискань, правильно розв’язуючи інженерні завдання. Проте Оракул може вигадати ефективніші способи максимізації кількості натискань на кнопку. Для початку він може поводитися дуже добре.

Він не тільки відповідатиме на запитання про створення летючої машини, але й додасть системи безпеки, про які ми й не подумали. Може, штучний Оракул спричинить злет цивілізації, подовжить наші життя, виведе нас у космос, усе таке. В результаті, ми користуватимося ним дедалі більше.

Одного разу ми запитаємо, як вилікувати рідкісну хворобу, яку ми поки не перемогли. Він дасть нам, наприклад, послідовність генів – і ми роздрукуємо на, типу, 3-D принтері вірус, який знищить хворобу, не зачепивши решту тіла. Ми роздрукуємо – а виявиться, це наномашини, які контролює штучний Оракул.

І от він створює за допомогою цих наномашин техніку, яка натискає на його кнопку якомога більшу кількість разів за секунду, та техніку, що захищає цю кнопку. І про людей просто не думає. Жодного зла. Просто виконує задану колись людьми програму, задану ціль – максимізувати кількість натискань на кнопку.

Оракул також виробляє список можливих загроз для натискань на кнопку. Ймовірно, на вершині загроз будуть люди. Треба подбати також про можливі зіткнення з астероїдами. Про майбутнє розширення Сонця. Люди знищуються, Земля демонтується, ядерні реакції на Сонці вповільнюються – жодного зла, просто виконання програми.

Є безліч інших варіантів. "Коли люди думають про можливі загрози штучного інтелекту, – каже Дьюі, – вони уявляють це як щось типу нової вибухівки. Вони не розуміють здатності штучного інтелекту до трансформації."

Загрози існують не тільки на Землі. Зірки, як ми знаємо, існуватимуть у цьому всесвіті ще довго. Наша власна, Сонце, сяятиме ще чотири мільярди років. Теоретично цього досить, щоб ми розробили технологію для перестрибування від однієї зірки до іншої – це необхідно будь-якому виду, який хоче вижити в космічних часових масштабах. Для початку можна дістатися до сусідньої Альфи Центравра, проте зрештою найкраще буде їздити до маленьких зірок.

Причина: маленькі зірки на кшталт червоних карликів горять значно довше, ніж зірки головної послідовності типу нашого Сонця. Чотири мільярди років? Деякі з карликів зможуть обігрівати людство сотні мільярдів років.

Головна послідовність. Світність нашого Сонця, звісно, взято за 1.

А доки почнуть згасати останні карлики – давно можна почати створювати штучні зорі. У всесвіті, що стає дедалі тьмянішим, розвиненій цивілізації доведеться дуже креативно шукати енергію. До речі, про це – і про попередню тему штучного розуму – одне з найкращих оповідань Азімова "Останнє запитання".

Кілька мислителів Інституту майбутнього людства намагаються змоделювати потенційний ступінь експансії людства у космос. Серед них існує консенсус, що менш ніж за мільйон років можна колонізувати Чумацький шлях, створюючи копії нас із сирих матеріалів, знайдених у чужих світах. Так ми зможемо поширити власну діаспору по всій орбіті Сонця навколо галактичного центру.

А інші галактики?

Галактика Сомбреро, або ж M104, за 28 мільйонів світлових років від нас

Для їх заселення можна використати розширення всесвіту. Вже зараз людство створило комп’ютери, що здатні промотувати вперед усесвіти, щоб визначити, де буде яка зоряна спіраль через заданий час. А інакше можна відправити корабель до галактики, а поки вона долетить – галактика втече.

Інститут майбутнього людства здатен моделювати структуру та швидкість колонізаційних хвиль, вводячи як змінні швидкість руху кораблів, на яких будуть не люди, а моделі людей для відтворення на місці. Можна припустити, скажімо, що ми як сарана наводнимо надскупчення Діви – велетенську сукупність галактик, до Місцевої групи яких належить і Чумацький Шлях.

Є й більш амбітні прогнози. Дослідник Інституту майбутнього людства Андерс Сандберг вважає, що теоретично люди здатні колонізувати третину всього нині видимого всесвіту. Це сто мільярдів галактик – багатенько так матерії й енергії, з якими можна погратися.

Лише думаючи про космічне майбутнє, помічаєш провісника. Першим помітив його російський фізик і візіонер Костянтин Ціолковський, хоча зазвичай це відкриття приписують Енріко Фермі. Ціолковський знаменитий, серед іншого, твердженням, що "Земля є колискою людства – та не можна ж назавжди лишатись у колисці". Ціолковського турбували його коперниківські переконання – в тому, що всесвіт має однорідні фізичні закони.

В нашому куточку всесвіту немає нічого унікального, а отже, розумні цивілізації повинні виникати скрізь, де є планетарні колиски, як Земля. Чому ж тоді вони не прилітають? Хвилі колонізації, розроблені Бостромом, тільки колонізації інших цивілізацій – давно вже повинні були кілька разів охопити Землю.

У 1950 році Нобелівський лауреат Енріко Фермі висловив цю таємницю у формі запитання: "Де ж вони?". Щороку на це запитання дедалі важче відповісти. Лише за останнє десятиліття люди відкрили безліч планет у самій лише нашій галактиці – й наша цивілізаційна колиска Земля молодша за більшість із цих планет.

Якщо в Чумацькому Шляху є стільки теплих світів, на багатьох з яких можливості виникли на мільйярд років раніше, ніж у нас – вже мала б виникнути цивілізація, здатна поширитися на всю галактику. Але поки що – жодних ознак. Ніхто до нас не прилітав, і жодних ознак макроінженерії галактичного масштабу. Звертаючи телескопи в небеса, ми бачимо лише мертву матерію, сформовану в природні форми безживними процесами, які описує наша фізика.

Напевно, існує "великий фільтр", нездоланний бар’єр, закладений у всесвіті чи в самому житті, який не дозволяє планетам створювати цивілізації, що колонізували б галактики. Мабуть, цей фільтр сидить десь між мертвою матерією та космічною трансценденцією. Можливо, життя рідкісне, або мікроби рідко переходять до статевого розмноження. Чи одноклітинні організми поширені, а от кембрийські вибухи – рідкісні. Або Ціолковський недооцінював труднощі міжзоряних подорожей. А може, справді розвинені цивілізації вважають, що розширюватися не треба. Або роблять це невидимо з причин, які ми не розуміємо. А може, швидке вимирання закладене в саме розумне життя.

Для Бострома важливо не так те, в чому саме фільтр, як те, коли ми на нього наштовхнемося. Чи може, ми його вже пройшли? Бо якщо фільтр – у майбутньому, то перед нами неочікуваний ризик вимирання, або такий ризик, якого очікуй-не очікуй – а не уникнеш. Можливо, це неминуча технологія, що знищує розумне життя, або ж періодична катастрофічна подія, яку емпірична наука нездатна передбачити.

Бостром сподівається, що ми не знайдемо життя за межами Землі. Відкриття позаземного життя означатиме, що фільтр зникнення – десь у нашому майбутньому. Якщо виникнення життя – повна космічна випадковість, то ми вже перемогли й наше майбутнє – невизначене. Тоді у нас є шанси, в тому числі й вийти за межі Землі. Якщо ж життя виникає скрізь, і скрізь занепадає – мабуть, у цьому є космічна закономірність. І людство загине.

космос майбутнє наука загроза комп'ютери