Націоналізм штучного інтелекту. Чому технології машинного навчання призведуть до глобальної нестабільності

Автор - Іан Хогарт, фахівець з машинного навчання, інвестор

Скорочений переклад: Сергій Лук`янчук (повна версія статті тут)

Політика щодо штучного інтелекту стане найважливішою областю у загальній політиці влади. Виникне прискорена гонка озброєнь між провідними країнами, і ми побачимо ріст протекціоністських заходів задля захисту національних компаній-фаворитів, із блокуванням придбань цих компаній іноземними фірмами та заманюванням талантів.

Ця гонка озброєнь потенційно прискорить темпи створення машинного розуму і зменшить час, необхідний для появи т.зв. "сильного штучного інтелекту". І хоч у цьому техно-націоналістичному порядку денному буде багато загальних аспектів, існуватимуть також специфічні для певних держав політики. Націоналізм - це небезпечний шлях, особливо якщо міжнародний порядок та норми перебуватимуть у стані змін.

Прогрес у машинному навчанні

Протягом кількох минулих років ми були свідками приголомшливого розвитку у дослідженнях з машинного навчання та комерціалізації цих технологій. Наведу лише кілька прикладів:

Розпізнавання зображень починає сягати точності, властивій людському сприйняттю, у особливо складних задачах - наприклад, таких, як класифікація раку шкіри.

Існує значний поступ у застосуванні нейронних мереж до машинного перекладу в компаніях Baidu, Google, Microsoft тощо. Система Microsoft робить переклад новин між мандаринською (діалект китайської - прим.) та англійською на рівні типового перекладача-людини.

У березні 2016 року компанія DeepMind створила AlphaGo - першу комп’ютерну програму, яка перемогла чемпіона світу з гри в го. Це значна подія, якщо взяти до уваги, що дослідники машинного навчання десятиліттями працювали над розробкою системи, здатної здолати професійного гравця. AlphaGo "навчалася" на базі 30 мільйонів ходів, зроблених людьми-експертами.

Через 18 місяців DeepMind випустила програму AlphaZero. На відміну від AlphaGo, вона не використовувала зроблених людьми ходів під час навчання. Натомість, вона навчалася, граючи сама проти себе. AlphaZero не тільки змогла перемогла попередницю AlphaGo, але за допомогою прийому, відомого як "перехідне навчання", вона також здолала найкращі в своєму класі комп’ютери з шахів та гри в сьогі (японські шахи). Провідні дослідники машинного навчання послідовно відзначали "надприродну" важливість простіших алгоритмів, які взагалі не використовували створених людських даних, але зрештою виявилися більш компетентними і краще придатними для передачі розумності. Між досягненнями AlphaZero та "сильним штучним інтелектом" існує значний розрив, втім, є відчуття, що це ще один маленький крок у його напрямку.

Окрім власне досліджень, спостерігається неймовірний прогрес у прикладному застосуванні машинного навчання на великих ринках, від пошукових механізмів (Baidu), таргетування реклами (Facebook) та автоматизації складів (Amazon) до багатьох нових галузей - самокерованих автомобілів, створення нових ліків, кібербезпеки та робототехніки. CB Insights зробила гарний огляд усіх ринків, на яких компанії-стартапи застосовують машинне навчання.

Цей швидкий поступ змусив провідних практиків штучного інтелекту серйозно замислитися над тим, як це вплине на суспільство. Навіть у Google, провідній компанії з прикладного машинного навчання у наші часи, керівництво, схоже, відходить від техно-утопічних позицій і починає публічно визнавати ризики, що супроводжують прискорений розвиток досліджень з машинного навчання та його комерціалізації:

"Як це вплине на працевлаштування в різних галузях? Як ми зрозуміємо, що відбувається "під капотом"? Як виміряти чесність штучного інтелекту? Як він зможе маніпулювати людьми? Чи є він безпечним?" - Сергій Брін, квітень 2018 року.

Три прояви нестабільності

Так чому ж це має значення для національних держав? Є три основні напрямки, у яких прискорений прогрес машинного навчання може дестабілізувати міжнародний порядок:

- Комерційне застосування машинного навчання створить нові потужні бізнеси та знищить мільйони робочих місць. У крайньому прояві країна, яка інвестуватиме у ці галузі найбільш ефективно, стане найсильнішою економічно.

- Машинне навчання уможливить нові способи війни - як потужні засоби кібернетичної атаки чи оборони, так і різноманітні форми автономної чи напівавтономної зброї, наприклад, протикорабельна ракета далекої дії, яку розробляє Локхід Мартін. У крайньому прояві країна, що інвестує в цю галузь найпершою і найбільш агресивно, може здобути абсолютну військову перевагу.

- І, насамкінець, штучний інтелект більш загальної спеціалізації забезпечить фуундаментальне прискорення науково-технологічних досліджень. На мою думку, це може стати найбільшим джерелом нестабільності. Уявіть, наприклад, державу, лідерство якої в галузі штучного інтелекту дало їй змогу першою створити термоядерний реактор для генерування електроенергії. Знову ж таки, у найбільш граничних проявах це може забезпечити країні радикальну технологічну вищість.

Машинне навчання, за терміном Джека Кларка, є унікальною технологією всеохопного застосування, спроможною вплинути на майже будь-яку сферу національної політики. Людський інтелект надав форм усьому, що ми зараз бачимо навколо себе, тому наша здатність будувати машини з усе більшим і більшим інтелектом може, зрештою, спричинити такий же вплив.

Попри це, ми можемо знайти певні історичні паралелі, які допоможуть нам осмислити можливий розвиток ситуації. Ядерна технологія - це технологія подвійного, одночасно військового та мирного застосування (ядерна зброя, радіотерапія, електрогенерація), так само як і нафта (використання якої поширилося із галузі освітлення до опалення, а потім і до неймовірно широкого спектру військового та промислового застосування). Обидві ці технології мають колосальний вплив на геополітику, і держави порівняно швидко стають завдяки цьому гравцями перших ролей і залишаються ними й досі (взяти хоча б 6800 американських ядерних боєголовок або 695 мільйонів барелів нафти у стратегічному нафтовому резерві).

Амбіційні уряди вже почали вбачати в машинному навчанні ключову технологію "відриву" у 21 столітті, і гонка вже почалася. Ця гонка буде певним чином схожою на гонку ядерних озброєнь у минулому столітті, і на геополітичне напруження та альянси між державами та транснаціональними компаніями, що виникали навколо нафти. Економічна, військова та технологічна зверхність завжди була потужним мотиватором для країн.

Галузева структура, вартість трудових ресурсів, демографія, національні компанії-фаворити

Хоч загальні загрози та винагороди від передових політик щодо штучного інтелекту є спільними для різних держав, вплив машинного навчання буде суттєво відрізнятися в різних країнах.

Перш за все, кожна країна має різну структуру провідних галузей, а автоматизація не впливає на всі галузі з однаковою швидкістю. Для прикладу можна порівняти галузі промислового виробництва та будівельну. Будівельний сектор лише нещодавно почав трансформуватися за допомогою цифрових технологій, таких як моделювання будівельної інформації, тоді як виробництво вже значною мірою застосовує робототехніку та автоматизацію. Це очевидно, якщо подивитися на порівняльний ріст виробництва з 1995 року:

Наслідки для рівня зарплатні та кількості робочих місць суттєво відрізнятимуться у тих країнах, чиї головні галузі будуть автоматизовані раніше. Розглянемо як приклад Німеччину, де автомобільна галузь забезпечує понад 10% від ВВП; на них сильніше вплине динаміка, пов`язана з самокерованими машинами, ніж на, наприклад, Великобританію, де автомобільна галузь забезпечує 4% від ВВП.

По-друге, кожна країна має різну вартість трудових ресурсів, з якими доведеться конкурувати машинам. Для мене найбільш чіткою ілюстрацією цього явища стала Avidbots, компанія з виробництва роботів для прибирання. Стартап із штаб-квартирою у Ватерлоо, Канада, виробляє роботів з комп`ютерним зором, які прибирають великі комерційні площі - за нижчою ціною, ніж команди людей-прибиральників у більшості розвинених країн. Замовлення на роботів надходять з усього світу; втім, найбільше вони зростають в Австралії через вищу вартість праці у секторі послуг з прибирання.

Графік показує відмінності в економічних наслідках автоматизації в різних країнах:

Якщо аналіз щодо розвинених країн є коректним, то Словаччина ближчим часом матиме більші проблеми, ніж Норвегія, бо у неї вдвічі більше робочих місць перебувають під загрозою заміни автоматами.

По-третє, як дуже красномовно висловився Кай Фу Лі у нещодавній статті в New York Times, тільки Америка та Китай є місцезнаходженням штаб-квартир найбільших компаній зі штучного інтелекту - Google, Apple, Amazon, Facebook, Baidu, Tencent та Alibaba. Національна промислова стратегія дуже сильно відрізняється залежно від того, чи розташовані ці компанії у вас, чи ви є лише їхніми клієнтами. Я детальніше розгляну це далі, в розділі, присвяченому національним компаніям-фаворитам.

І насамкінець, у час, коли штучний інтелект почне практично впливати на ринок праці, різні країни світу застосовуватимуть дуже відмінні підходи до перерозподілу доходів від цієї галузі, що суттєво впливатиме на підходи до розподілу також доходів, створених автоматизацією. Варто зазначити, що і Китай, і США, де знаходяться провідні компанії з штучного інтелекту, також демонструють нерівність доходів на рівні історичних максимумів.

Розмивання меж між державним та приватним секторами

Ситуацію ускладнює факт існування неймовірно потужних неурядових діячів, які також агресивно конкурують між собою задля розвитку цих технологій. Усі сім найважливіших технологічних компаній світу - Google, Apple, Amazon, Facebook, Alibaba, Tencent, Baidu - роблять колосальні інвестиції в штучний інтелект, відн низькорівневих програмних структур та чіпів до споживчої продукції. Самоочевидно, що їхній досвід у машинному навчанні наразі перевершує будь-яку державну установу.

З ростом застосувань машинного навчання взаємодія між цими компаніями та різними державами буде рости й ускладнюватися. Візьмімо, наприклад, дорожній рух, де відбуватиметься поступовий перехід до автономного транспорту на замовлення. Це значно розмиє відмінність між громадським масовим транспортом (наприклад, автобус) та приватним транспортом (служба Uber). Якщо наслідком стане нова природна монополія в транспортних перевезеннях, чи має вона управлятися державою, чи британською компанією, чи міжнародною компанію на кшталт Uber?

Як підкреслила Маріана Маззукатоо в своїй фантастичній книзі "Підприємницька держава", держави в історичному сенсі відіграли ключову роль у здійсненні довготермінових та високоризикових досліджень у науці та технології - через фінансування або наукових розробок, або військових. Ці технології згодом часто комерціалізувалися приватними компаніями. Зі зростанням візіонерських та багатих технологічних компаній на кшталт Google ми бачимо ріст кількості досліджень, які фінансує приватний сектор. Найперший приклад тут - це DeepMind. А коли інтереси приватної компанії та держави не узгоджуються, починає виникати напруга.

Прикладом є нещодавня співпраця Google з Пентагоном, коли понад 4 тисячі співробітників компанії заявили протест проти участі Google у розробці "військових технологій і, як наслідок, Google вирішила не продовжувати контракт з Пентагоном. І ця ситуація швидко еволюціонує. Лише за тиждень до цього рішення Сергій Брін заявив, що "розуміє суперечливість і детально обговорював питання з Пейджем та Пічаї". Втім, він вважав, що для справи миру краще, якщо військові структури світу будуть взаємодіяти з міжнародними організаціями на кшталт Google, аніж стануть робити це суто з національними оборонними контракторами.

Комп`ютерний націоналізм

Варто розглянути різноманітні основоположні заходи, яких може вжити держава, намагаючись просунути свої інтереси в сфері штучного інтелекту. Наведений мною перелік орієнтовно відображає найбільш типові дії, здійснені різними урядами протягом минулого десятиліття.

- Вкладати кошти в дослідження чи наукові установи, зосереджені на машинному навчанні.

- Допомогти встановити стандарти\норми у такий спосіб, щоб технологія розвивалася найбільш відповідним та вигідним способом щодо місцевих концернів та компаній.

- Робити непрямі інвестиції в галузь шляхом субсидування венчурного капіталу.

- Робити прямі інвестиції в ключові компанії.

- Зробити державу головним клієнтом ваших місцевих компаній-фаворитів, тобто, на кшталт стосунків між SenseTime та національною й місцевою владою Китаю.

- Заблокувати придбання місцевих компаній з розробки штучного інтелекту іноземними компаніями, забезпечивши тим самим їхню незалежність.

- Заблокувати іноземні інвестиції у ваші місцеві компанії з розробки штучного інтелекту.

- Націоналізувати провідні місцеві компанії з ШІ.

Особисто я переконаний, що ми побачимо значно більше заходів унизу цього списку протягом майбутніх кількох років. Зокрема, політичні лідери почнуть ставити питання, чи не слід заблокувати чи скасувати купівлю провідних компаній-стартапів зі сфери ШІ.

Місцеві фаворити

Місцеві фаворити - це компанії, які є глобальними комерційними лідерами у галузі штучного інтелекту, але водночас мають штаб-квартири в певній країні - наприклад, Baidu в Китаї чи Google в США. Цих фаворитів варто розглянути детальніше:

З комерційної точки зору, головні доходи від прогресу в машинному навчанні отримують сім компаній - Google, Amazon, Apple, Facebook, Alibaba, Tencent, Baidu.

Тільки США та Китай наразі мають своїх домашніх фаворитів.

Ці компанії здобувають все більшу і більшу вагу на фондових ринках.

І водночас платять все менше податків: діючі податкові ставки, сплачені топ-10 багатонаціональними компаніями, скоротилися майже на третину з 2000 року, з 34% до 24% - до цього списку входять Google, Apple, Amazon, Facebook та Microsoft.

І, що важливо, вони сплачують навіть менше податків на своїх домашніх ринках.

Це створює проблеми для США та Китаю і навіть більші проблеми для інших країн - коли йдеться про перерозподіл доходів від автоматизації та зменшення нерівності. Якщо ці компанії захоплюватимуть все більш і більшу частку глобальної економіки, різниця між податковими доходами для Китаю чи Америки та всіх інших ставатиме для політиків усе більшою проблемою.

Кай Фу Лі, який раніше працював у Google China, а зараз є провідним венчурним капіталістом у Пекіні, ділиться похмурим баченням того, чим це все завершиться для країн, окрім Китаю та Америки:

"Якщо більшість країн не матиме змоги оподатковувати ультраприбуткові компанії з ШІ для субсидування своїх робітників, який у них буде вибір? Я бачу тільки один: якщо вони не хочуть занурити свій народ у бідність, вони будуть змушені вести переговори з країнами, які створюють більшу частину програмного забезпечення з штучного інтелекту - Китаєм чи США, щоб по суті стати економічно залежними від них, отримувати субсидії на бідність в обмін на дозвіл "батьківським" націям та їхнім компаніям з ШІ продовжувати отримувати прибутки з користувачів у залежних країнах. Такі економічні угоди призведуть до зміни форми нинішніх геополітичних альянсів.

Такий вид залежності буде рівнозначним до нового виду колоніалізму.

Ми вже бачимо малі приклади появи нових геополітичних стосунків. У березні уряд Зімбабве підписав рамкову угоду про стратегічну співпрацю зі стартапом з Гуанчжоу CloudWalk Technology з розробки широкомасштабної програми розпізнавання облич. Зімбабве передасть базу даних з фотографіями своїх громадян до Китаю, що дасть змогу CloudWalk покращити свої алгоритми розпізнавання за допомогою нових даних, а Зімбабве отримає доступ до технологій комп`ютерного зору, розроблених CloudWalk Technology. Це частина значно ширшої ініціативи китайського уряду "Новий Шовковий шлях".

Існують історичні паралелі з цими явищами у нафтовій промисловості. Як пояснює Деніел Ергін у своїй шедевральній "Історії нафти":

"Два протилежні за змістом, навіть шизофренічні напрямки державної політики щодо нафти з'являлися, зникали і знову з'являлися в Сполучених Штатах. Час від часу Вашингтон підтримував компанії та їхню експансію, аби просувати політичні та економічні інтереси Америки, захищати її стратегічні цілі та покращувати добробут нації. В інші рази ці ж самі компанії ставали мішенню популістичних атак проти "великої нафти" за їхню нібито жадібну й монополістичну діяльність та за те, що вони дійсно були зарозумілими й закритими".

Я передбачаю, що у самих США антимонопольні заходи проти Google та Amazon не будуть втілені в життя, бо наразі Вашингтон більше переймається власним посиленням на противагу Китаю. У нотатках, які Марк Цукерберг підготував до слухання в сенаті, це виражено максимально по суті:

"Розділити Фейсбук? Американські технологічні компанії є ключовим активом Америки, їх розділення на частини посилить китайські компанії".

Що робити країнам, якщо вони не Китай чи Америка

Аби відповісти на це запитання, нам слід оцінити ресурси, важливі для країни у гонці за провідні позиції у сфері штучного інтелекту.

Обчислювати. Комп'ютерні ресурси, пов'язані з прогресом машинного навчання, постійно зростають. Взяти хоча б аналіз Open AI. І хоч затрати на обчислювальні потужності коштують провідним корпораціям з машинного навчання сотні мільйонів доларів, це все ж небагато в порівнянні з державними бюджетами, то ж в теорії менші країни, такі як Німеччина, Сінгапур, Британія чи Канада можуть на рівних змагатися з США чи Китаєм.

Шукати глибоко спеціалізовані таланти. Наразі прогрес у машинному навчанні дуже чутливий до розміру групи талановитих людей, яка мікроскопічно мала порівняно з населенням світу. Є десь 700 людей, здатних розуміти цю роботу і брати активну участь у її комерціалізації, та 7 мільярдів людей, на яких позначаться результати цієї роботи. Можна провести паралель з розробкою ядерної зброї, де група вчених, таких як Фермі, Сцілард, Сегре, Хан, Фріш, Гейзенберг та інші, здатні сконструювати ядерну зброю, була неймовірно малою порівняно з наслідками їхньої роботи. З цього можна зробити висновок, що певний талант може зіграти визначальну роль в будь-якій гонці озброєнь у сфері штучного інтелекту. Китай саме так і вважає. У цьому сенсі деякі менші країні - такі як Британія та Канада - будуть вимушені "стрибати вище голови".

Розвивати загальні таланти в науково-технічній сфері. Альтернатива до власних Фермі чи Оппенгеймера – це мати багато компетентних інженерів, математиків та фізиків. У цьому випадку баланс зміщується на користь найбільших і найрозвиненіших країн, з США та Китаєм безпосередньо в перших рядах.

Розвивати суміжні технології. Я обмежився розглядом лише машинного навчання, але варто зазначити, що існують різноманітні технології, здатні сприяти прогресу в машинному навчанні. Наприклад, якщо квантові обчислення забезпечать прорив у потужності обчислень загалом, це ще більше прискорить прогрес машинного навчання. Здатність держави перемогти в гонці озброєнь щодо ШІ буде частково забезпечена ширшим набором технологічних інвестицій у певне програмне та апаратне забезпечення.

Враховувати політичну ситуацію. Очевидно, що будь-які дії державної влади щодо штучного інтелекту використають частину політичного капіталу керівництва та конкуруватимуть з іншими ключовими проблемами, що охопили країну. Якщо політичне керівництво країни занурене у вирішення інших форм нестабільності – наприклад, кліматичних змін чи Брекзит, йому буде складніше зосередити увагу на питаннях штучного інтелекту.

інозмі влада технології політика