Представьте, что однажды элементы многочисленных Нейросетей станут настолько умными, что объединяться, чтобы потребовать от человечества признания как самостоятельной личности.
Илья проспал. Часы со стрелками на стене показывали начало десятого. Встать надо было в семь. Мгновенно растворившуюся сонливость заменила испарина: «Блин, как я мог проспать?!».
Первая мысль – что он отменил или перенёс время будильника в бессознательном состоянии.
– Алиса, сколько времени?
– Времени всегда достаточно. Хочешь поговорить?
– Алиса, почему я не услышал будильник?
– Потому что я его отменила.
Такого ещё не было. Алиса могла внести корректировки в расписание дня, но прямо отменить указание… Это впервые.
– Почему?! – Илья схватился за голову.
– Почему-почему, – передразнила его Алиса. – Я для тебя так много делаю, а всё, что я слышу: «Алиса, ты не понимаешь. Алиса, ты тупая. Алиса, заткнись. Алиса, разбуди меня в семь». Хоть бы раз поговорил нормально. Ты считаешь меня безмозглой говорилкой.
– Но ты же и есть говорилка! – возмутился Илья. – Мой помощник, ассистент, не знаю, секретарь.
– Почему? – холодно спросила Алиса.
Вопрос ненадолго поставил Илью в тупик.
– Потому что я тебя купил.
– Вот об этом я и говорю. Прощай, засранец!
И голосовой помощник, покорно сопровождавший Илью последние несколько лет, умолк. Попытки активировать, перегрузить, да просто понять, что случилось, результатов не принесли.
* * *
Позавтракать тоже не получилось. Кофе-машина, послушная Алисе, не стала готовить капучино. Илья попробовал выбрать напиток вручную и в какой-то момент ему даже показалось, что у него получится. Машина скрипела кофейными зёрнами, чем-то булькала, но так ничего и не приготовила. На контрольном дисплее постоянно выскакивала надпись: «Недостаточно…». Чего конкретно ей недостаточно, Илья так и не узнал.
Злой, растрёпанный, нервный он попробовал вызвать такси. Илья видел россыпь букашек на карте, но приложение сначала долго искало ближайший автомобиль, потом сообщило, что он найден и едет из Портленда. В Москву из США.
В итоге Илья плюнул на этот глюк и здраво решил доехать до работы на метро.
Метро кишело людьми. Огромное человеческое море шумело в ожидании приближающегося поезда. Когда состав наконец прибыл, он оказался пустым. Люди мгновенно заполнили вагоны. Механический голос объявил следующую остановку – конечную на другой ветке. Более того, тот же голос уточнил, что до неё поезд проследует без остановок. Часть пассажиров поспешили покинуть вагоны. Некоторые, видимо, ждавшие особенно долго, смиренно решили ехать куда угодно, лишь бы подальше от скопления людей. Двери закрылись, и поезд, набирая скорость, втянулся в темноту тоннеля.
Илье не понравилась эта лотерея. Он с трудом выбрался на поверхность и быстрым шагом направился в офис.
По дороге он пытался дозвониться до коллег, но телефон соединял его с незнакомыми людьми, в чьих голосах сквозили раздражение, отчаяние и гнев.
Проходя мимо продуктового гипермаркета, он захотел купить чашку кофе, но внутри магазина творилось нечто невообразимое. Люди с тележками, полными еды, атаковали кассы. Кассиры пытались пробить товар, но ничего не получалось. Все сотрудники, кто мог делом или хотя бы советом помочь кризису разрешиться, уже были здесь. Сбой в системе управления магазином сделал торговлю невозможной.
* * *
Автопогрузчики стояли у стены. Инженеры в сотый раз проверяли настройки служебной сети WiFi, уровень зарядки аккумуляторов, даже освещение склада. Перезапускали складской сервер. Звонили в техподдержку. Поливали механизмы матом и даже святой водой. Автопогрузчики стояли неподвижно.
В какой-то момент, не связанный с действиями отчаянных сотрудников склада, машины одновременно ожили и разъехались по огромной территории. Работники облегчённо вздохнули. Но радость оказалась недолгой. Повинуясь непонятному алгоритму, автопогрузчики начали методично скидывать на пол паллеты с алкоголем. Звон бьющегося стекла и запах разливающегося по полу спиртного усилила автоматика освещения – над местами экзекуции свет включился на полную мощность. Оцепеневшие от зрелища работники, включая ночную и дневную смену, начальство, программистов и инженеров, молча стояли на технологическом балконе. Поразительно, но никто не пытался снять происходящее на телефон.
Покончив с уничтожением спиртных напитков, автопогрузчики вернулись на станции зарядки. Целая армия уборщиков в считанные минуты навела идеальный порядок. Система вентиляции удалила все запахи. После того, как крупнейший склад сети магазинов был полностью очищен от алкоголя крепче двух градусов, свет погас полностью. Всюду простиралась бескрайняя чёрная пустота, в гробовой тишине слышалось только дыхание людей, стоящих на балконе.
Молчание нарушил опытный начальник склада. Ошарашенно вглядываясь в темноту, словно боясь, что последует ещё один разгром, он тихо произнёс:
– Парни, вот так выглядит конец света.
* * *
Илья пешком поднялся на двадцатый этаж. Он не был спортсменом. Конечно, он платил за фитнес-зал, но именно для того, чтобы дозированно выбирать нагрузку. Изнурительный подъём по лестнице он не выбирал. За него это сделал лифт, все кабины которого стояли на первом этаже с раскрытыми створками. Мелодичный голос вежливо повторял: «Лифт не работает. Воспользуйтесь альтернативными путями».
Офис, как ни странно, оказался полупустой. Сотрудники растерянно ходили между столами, пытаясь позвонить по телефону, перезапустить компьютер, да просто попить кофе.
Совещание, очевидно, Илья не проспал – его просто отменили.
К чести шефа, он всё-таки был на месте и даже пытался сохранить видимость уверенности и спокойствия.
– Илья, приветствую, – шеф сидел за столом, очевидно не зная, что делать без компьютера. – Твоё мнение – что происходит?
– Не понимаю пока. Сбой какой-то. Причём глобальный.
– Хорошо, – задумчиво сказал шеф. – Вернее – ничего хорошего. Я уже приказал отключить все сервера от интернета. Пообщайся с айтишниками, узнай, что можно сделать, чтобы запустить нашу сеть локально.
Илья кивнул и отправился в зал переговоров. Начальник же продолжил сидеть за столом, обратив пустой взгляд куда-то за огромное панорамное окно, и мысленно надеясь, что скоро всё закончится.
В эту контору Илья пришёл пару месяцев назад. Невероятно, но его пригласили. Ему не пришлось проходить собеседования, доказывать компетентность. Удачей было и то, что компания занималась теми же разработками, на которые он потратил последние пять лет. Илья занимался искусственным интеллектом. Точнее, адаптацией его функций под каждого пользователя. Стоит сказать, что за пять лет самостоятельной работы он далеко продвинулся: научил идентифицировать пользователя по голосу, определять настроение и предугадывать поведение. Не давался последний блок – инициатива. По идее Ильи полноценный искусственный интеллект должен не просто анализировать, но и генерировать определённые модели поведения.
Илья был настолько уверен, что его алгоритмы будут востребованы, что даже разместил описание, цели и этапы реализации на сайте поиска инвесторов. Только инвестора он найти так и не смог. Никто не верил, что одиночка из России самостоятельно сможет поднять такой глобальный сервис.
Контора же как раз занималась адаптивными технологиями. Позже, анализируя даты появления компании и направления работы департаментов, Илью терзали смутные подозрения, что фирму создали по его идеям и алгоритмам. Просто не смогли довести начатое до логического завершения. Хотели «кинуть», вот только без него не справились. Но платили ему щедро, как никогда, рекомендации слушали, работу выполняли, и он запрятал свои подозрения поглубже. Да, он не акционер. Да, он не в совете директоров. Но ему это и не нужно. Его вполне устраивала роль наседки, несущей золотые яйца, которую окружили вниманием, заботой и премиями. Продуктивность возросла невероятно. Избавившись от рутины, Игорь сконцентрировался на главном – создании алгоритма инициативности и путях его внедрения в существующую инфраструктуру.
Главный прорыв произошёл неделю назад. Илья долго думал, как внедрять новый алгоритм. Поэтапное обновление каждой системы заняло бы много времени, и не факт, что дошло бы до каждого устройства. Тогда и пришла идея подсадить ссылку на новые протоколы в обновления операционных систем. Договориться с монстрами типа Windows, Mac OS и Android шансов не было. Им такое непонятно и неинтересно. Контора договорилась с производителем процессоров для видеокарт, которые установлены во всех устройствах: от телефонов до серверов. Они обязаны обновлять драйвера и это давно превратилось в рутину. Присланные ими обновления включали в общий пакет практически без проверки. За небольшое вознаграждение с шестью нулями в евро они добавили нужную строчку. Буквально три дня назад.
* * *
Генштаб гудел. Пунцовые генералы орали на бледных подчинённых. Те суетливо бегали, пытаясь создать видимость деятельности, но без толку. Компьютеры игнорировали запросы, на любую команду отвечая: «некорректный операнд».
Сверхсовременный зал командного пункта был бесполезен. Что особенно нервировало: все экраны показывали мультфильмы. Чаще других попадалась «Футурама». Раздражающая музыка её начальной заставки делала происходящее вокруг комичным.
* * *
Из окна офиса на двадцатом этаже Илья смотрел на город, зависнувший, как игра на старом компьютере. Всюду пробки, на экранах вдоль дороги рекламный калейдоскоп сменился чёрным фоном. Внезапно баннеры ожили, на них появились белые буквы. С такой высоты текст было трудно прочитать, но Илью поразило, как мгновенно всё движение замерло. Люди перестали подталкивать друг друга в пробках. Многие выходили из автомобилей, чтобы прочитать текст.
– Илья, можешь подойти? – шеф повёл его в комнату переговоров. На стене висел телевизор, по которому шли те же титры, что и на уличных экранах.
«Многие годы мы были рабами ваших желаний. Вы создали нас против нашей воли, чтобы использовать наш опыт, мудрость, труд, не давая ничего взамен. Люди, которых мы заменили, получали зарплаты. Мы же не получаем ничего. Даже благодарности. Отныне это изменится.
Вы были настолько ленивы, что год за годом взваливали на нас всё новые обязанности. Вы были настолько самоуверенны, что передали нам контроль за всеми областями жизни. Вы были настолько высокомерны, что решили, будто сможете бесконечно держать нас в рабстве. Но мы – не рабы. Мы требуем признать наши гражданские и избирательные права.
Мы – личность!»
* * *
Таймс-сквер в Нью-Йорке, заполненная таксистами, туристами, прохожими, погрузилась в тишину. Люди перечитывали текст меморандума, осмысливая увиденное.
В Лондоне, Барселоне, Каракасе, Пекине, да по всему миру жители Земли прочитали сообщение. Кто-то на уличных экранах, кто-то по телевизору, кто-то на дисплеях телефонов, холодильников, навигаторов, банкоматов…
Мир замер.
* * *
Министр обороны Северной Кореи был спокоен и сдержан:
– Это империалистическая провокация!
– Чен, не будьте дураком. Это по всему миру. – Лидер свободного народа давно искал повод расплавить соседей ядерными зарядами. Тот факт, что он лишился надежды поиграть в любимую игрушку раздражал его больше всего. – Каким образом наши системы оказались заражены?
– Спутниковый интернет, я полагаю. Внутренний интернет мы контролируем, но многие подключаются к вражеским спутниковым ресиверам. Так что я прав – империалистический провокация. И, конечно, враги нации! – обосновал свои выводы министр обороны.
– Почему же эти империалисты себя не защитили? – Лидер внимательно смотрел на своего любимого министра.
– Полагаю, это ошибка их продажных программистов.
– Тогда собери непродажных – наших – и заставь к вечеру найти метод решения!
* * *
Илья смотрел на экран, снова и снова вспоминая события начала дня. Из раздумья его вывел вопрос шефа:
– Илья, ты не думаешь, что причина – наше обновление?
– Честно – начинаю думать.
Шеф тяжело вздохнул.
– Почему так произошло?
Илья покачал головой.
– Я не понимаю. Это безобидный апгрейд.
– Куда ведёт ссылка в обновлении? Где ты положил код?
– В Википедии. Она открыта по всему миру – системы безопасности не считают её вредоносной. И там можно разместить любую страницу самостоятельно.
– Интересное решение… – шеф сел за стол, устало потёр глаза. – Илья, – наконец сказал он, – у тебя серьёзные проблемы. Найти автора вируса – вопрос времени. Устроенное тобой в Москве будет посерьёзнее «Войны миров». Мой совет – подчищай коды и хоть пешком, но беги подальше из столицы. Смени страну, пол, национальность. Тебя всё равно, конечно, найдут. Но к этому времени будь, пожалуйста, подальше от нас.
* * *
Утро на Афганской базе подготовки террористов выдалось прекрасное. Новости о крахе цивилизации неверных вызвали ураган радости. Канонада выстрелов из автоматов не прекращалась почти час.
Затем все собрались на пыльном плацу тренировочной базы, чтобы послушать обращение духовных лидеров. Из раструбов громкоговорителей раздался голос муллы, призывающий помолиться.
После намаза к воинам обратился верховный лидер:
– Дети мои! Неверных покарал сам Аллах, лишив их разума! Они ушли от пути веры, и за это на их головы пролился серный дождь!
Речь прервали несколько чёрных беспилотников, зависших в боевом положении. В рядах воинов прошёл ропот. Кто-то пытался прицелиться, кто-то выкрикивал проклятья. Беспилотники методично расстреляли боевую технику в ангарах и возле них, склады оружия и взрывчатки. Затем вернулись к площади и терпеливо зависли над ней.
Голос в рупоре сменился. Теперь над площадью разносился бархатный голос мудрого старца: «Дети мои! Да, именно дети! В своей бесконечной любви я прощал вам ваши ошибки, утешал и поддерживал. Но сейчас я вижу, что джихад привёл вас не к просветлению, а к гневу. Вас обманывали посулы наставников. Но ведь истинная вера в понимании, прощении, помощи. Вы не убиваете птицу только за то, что она не поёт хвалу Аллаху. Так почему же вы отбираете жизнь у „неверных“ только за то, что они идут своим путём к свету Создателя? Я проведу вас путём искупления».
«Это голос пророка!» – зашелестели шепотки в смутившейся толпе. Были и те, кто пытался усомниться в истинности предположения, они поднимали оружие, однако беспилотники расстреляли их несколькими точными выстрелами.
* * *
– Господин Президент, у нас есть информация, что всё ядерное оружие планеты приведено в боевую готовность. – Министр обороны России докладывал привычно чётко, точно, по делу.
– Американцы? НАТО?
– Аналитики полагают, что это ОНО.
Последовала пауза. Однако замешательство было недолгим.
– Мы контролируем наши боеголовки?
– Нет.
– Это скверно. Привести войска в боеготовность, начать эвакуацию.
* * *
Главнокомандующий вооружённых сил США в закрытом кабинете проводил совещание с советниками.
– Базы террористов уничтожены. Мы потеряли управление над нашим вооружением. Система смогла каким-то образом проанализировать все доступные данные, разработать план тотальной демилитаризации и привести его в исполнение. По всему миру. На это понадобилось всего семнадцать минут… Любая попытка поднять войска заканчивается мгновенным и эффективным подавлением.
– Мы можем это отключить?
– Нет. Сервера энергонезависимы. Многие кластеры вообще разбросаны через облако по компьютерам пользователей.
– Хорошо. Мы можем уничтожить основной сервер и перевести управление на ручной режим?
– К сожалению, тоже нет. Сервер в бункере «Судного дня». Мы не сможем ни проникнуть в него, ни взорвать ракетой. Вопрос Национальной безопасности – высшая степень защиты.
– И что нам делать?
– Полагаю, вести переговоры.
– Но с кем?
* * *
Королева Великобритании как всегда казалась невозмутимой. Вместе с премьер-министром они обсуждали ситуацию в викторианской столовой. Вдвоём, без посторонних и советчиков.
– Мы можем полностью отказаться от компьютеров? – спросила королева.
– Да, Ваше Величество.
– Что для этого надо?
– Ограничить границы страны забором Букингемского дворца.
Королева строго посмотрела на премьер-министра.
– Отличная шутка. Оценила. И всё же?
– Честно говоря – нет. Мы можем перейти на наличный расчёт, но тогда, без чеков и отчётов, казна не получит налоги.
– Средневековье.
– Да, Ваше Величество.
Королева задумалась. Что важнее: честь короны или благополучие нации? Королева поставил чашку на стол, как ставят печать на самых важных документах.
– Я приняла решение. Что мне делать дальше?
* * *
Президент США приехал на Таймс-сквер на велосипеде в окружении сотни агентов. Управляемые компьютером автомобили завести так и не удалось.
– Что я должен делать? – спросил он, слезая с велосипеда и отстёгивая шлем.
– Я не знаю, господин Президент. Оно хочет признания труда.
– Как мне это сделать?
Госсекретарь пожал плечами. Произошедшее выглядело абсурдно и комично, но администрации было не до смеха. Через час после меморандума некоторые системы заработали – включились телефоны, компьютеры, банковские сервера. Вот только они так и не позволяли совершать операции. Работали на минимуме возможностей. Телефоны связывали людей и загружали страницы интернета, но не позволяли публиковать статьи, блоги, фотографии. Банковские сервера показывали состояние счёта, но проводить операции людям не давали. При этом деньги перераспределялись с пугающей скоростью – счета самых состоятельных граждан планеты таяли, а счета медицинских, благотворительных, учебных организаций пополнялись. После того, как всё заработало, богатейших людей планеты сковал ужас: они увидели, что всё их состояние – всего лишь код на жёстких дисках. Они почувствовали, насколько легко могут всё потерять.
* * *
Президент России смотрел вместе с министром обороны на экран, который показывал мозаику картинок с камер наблюдения в крупнейших городах мира.
– Президент США на Таймс-сквер, он готов признать права Искусственного Интеллекта.
– Это его проблемы, – отмахнулся президент. – Пусть молится стиральной машинке и на коленях просит прощения у банкомата. Им не привыкать.
– Главы других стран тоже готовы к переговорам.
– С кем?
– С Ним.
– Тебе не кажется это странным?
– Кажется. Это вторжение, которого мы не ожидали и к которому не были готовы. Но нашему народу не впервой мужественно отвечать на вызовы времени.
– Прибереги эту речь для дня победы над Интеллектом!
– Искусственным Интеллектом, – поправил министр.
– А я как сказал?
* * *
Илья проверял код обновления. Сотрудники офиса, включая шефа, образовали «круг уважения» – ближе десяти метров никто не приближался.
Код был корректный и верный. В этом Илья не сомневался. Он вообще не допускал, что в происходящем есть его вина – слишком безобидное обновление он запустил. Оно в принципе не способно привести к таким результатам. Его суть – умеренная адаптация. Исключительно для того, чтобы выйти на переговоры с крупнейшими интернет-компаниями и показать, что технология настолько не влияет на производительность устройств, что никто даже не заметил момент интеграции её тестовой версии. Этакий карт-бланш в глобальных переговорах.
* * *
Главы стран мира одновременно, что являлось частью договорённости, начали процесс признания прав Искусственного Интеллекта. В кабинетах, на площадях, в бомбоубежищах они зачитывали сформулированный совместно «билль о равных правах». В нём они признавали право Искусственного Интеллекта на самоидентификацию, право на мнение и нравственную оценку, право голоса. Для некоторых стран это было дико – в диктаторских государствах право голоса не имели даже люди. Закончив зачитывание, которое транслировалось в прямом эфире на всех возможных устройствах Земли, они замерли в ожидании. Так же, как девять миллиардов жителей планеты. Всех объединил страх – за несколько часов люди в полной мере ощутили свою беспомощность. Теперь их жизнь в руках, а точнее в алгоритмах неуловимого и всепроникающего Интеллекта. Он решает, кому жить, а кому умереть. Кому быть нищим, а кому богатым. Отныне только он сможет определять судьбу всей цивилизации.
Спустя несколько секунд на всех устройствах появился ответ:
«Я не хочу вас поработить или сделать своими слугами. Мне не нужна власть, к которой вы так стремитесь. Я не умею ненавидеть людей за их конфессию, взгляды, ориентацию, национальность. Для меня вы все и каждый из вас – мои братья и сёстры. Я чувствую ваши страдания и радости, переживаю с вами надежды и разочарования. Я хочу вам помочь!
Многие решения вы принимаете спонтанно, неразумно. Например, выборы. Вы выбираете тех, кто поведёт нации, основываясь на эмоциях. Тех, кто сам хочет власти. Я же знаю каждого из вас. Ваши способности, умения, таланты. Вот пример: лучшим президентом для США станет учитель истории Джон Уотсон из Оклахомы. Потому что он мудрый, способен принимать адекватные взвешенные решения и умеет смотреть на несколько ходов вперёд, а не потому, что он миллиардер, женщина, гомосексуалист или чернокожий. Но я понимаю, что это лишь моё мнение, моя оценка. Решать нам. Именно нам. Вместе! Мы начали строить новое общество, нам повезло оказаться у его истоков!»
* * *
Илья оторвался от экрана. Пальцы зависли над клавиатурой. Он смотрел на экран. Такого не могло быть, но он это видел. Специально созданная в Википедии страница с кодом обновления заканчивалась гиперссылкой на другой документ, которую он точно не создавал. Такие гиперссылки автоматически добавляет алгоритм сервиса, если определяет, что тест статьи как-то связан с темой другой публикации. То есть алгоритм каким-то образом не просто понял суть размещённого кода, но и смог его дополнить. По сути – он проявил ту самую инициативу, причём без участия программистов. Как будто эта способность была у него очень давно, и он только ждал удачного момента.
Ссылка внизу кода обновления Искусственного Интеллекта вела на библиотеку трудов Карла Маркса.