ГЛАВА 17
Быстрее, чем люди успевают понять…
Максим стоял посреди разрушенного производственного цеха.
На полу — обломки металла, разорванные элементы роботизированных манипуляторов, застывшие узлы ЧПУ-станков. Всё было засыпано пенопластовой крошкой — белой, лёгкой, как нелепый, неуместный снег.
Темнота. Мерцающий свет ламп. Где-то наверху скрипнул металл, и снова стало тихо.
Всего пару недель назад здесь рождалось настоящее искусство. Такое, о котором говорят — «на века».
Он шёл медленно, не глядя под ноги. Ощущение было такое, будто кто-то допустил ошибку в системе координат — и мир сдвинулся.
Подойдя к двери, Максим коснулся холодной металлической ручки и на мгновение замер.
Затем резко обернулся — и рассмеялся.
Громко. Неестественно.
В этом смехе не было ни радости, ни отчаяния — только усталость человека, который наконец понял, что прежнего мира уже не существует.
Он открыл дверь и вышел.
Днём ранее
После того короткого разговора с Никитой по телефону Максим ещё несколько минут просидел в кабинете, глядя на обновляющиеся строки системы.
Скорость изменений продолжала расти.
Некоторые процессы уже перестраивались без участия операторов, а ИИ всё чаще выходил во внешние инженерные каталоги и схемы.
Максим медленно закрыл ноутбук. Теперь времени почти не оставалось.
Он быстро собрал документы по производству, вызвал юриста, бросил несколько коротких распоряжений по цеху и направился к выходу.
— Макс, ты сегодня ещё вернёшься? — крикнул ему вслед Тимофей.
— Не знаю, — ответил Максим, даже не оборачиваясь.
До офиса Никиты он доехал меньше чем за час.
Тот встретил его заметно напряжённым. Телефон у него почти не замолкал: Никита раз за разом пытался дозвониться до Константина, но связь обрывалась ещё до ответа.
— Да что ж такое… — раздражённо пробормотал он, снова убирая телефон на стол. — Костя как специально именно сейчас пропал.
Максим молча положил перед ним папку с документами.
— Подожди, — Никита нахмурился, пролистывая бумаги. — Костя же говорил, что это его последнее предложение.
— Значит, оно меня устроило.
Никита откинулся в кресле и снова потянулся к телефону.
— Да чтоб тебя…
Гудки опять оборвались.
Он раздражённо бросил телефон на стол.
— Макс, ты же видишь, что не могу дозвониться, как я подпишу это без него за него? Ты понимаешь, какие риски я на себя возьму?
— Понимаю.
— Тогда какого хрена ты так торопишься?
Максим выдержал короткую паузу.
— Потому что завтра этого предложения уже не будет.
Никита несколько секунд молча смотрел на него.
В этой фразе было что-то странное. Не как у человека, который боится потерять деньги, а как у того, кто знает чуть больше остальных.
— У тебя что-то происходит? — спросил он уже серьёзнее.
Максим улыбнулся краем губ.
— Никит, у меня последние недели всё время что-то происходит.
Никита снова посмотрел на телефон, потом на документы.
— Слушай, давай хотя бы до вечера подождём. Костя выйдет на связь, нормально всё обсудим…
— Не выйдет.
— Откуда ты знаешь?
Максим чуть наклонился вперёд.
— Потому что, если мы сейчас не закрываем сделку, я просто встаю и ухожу, — тихо произнёс он. — У меня есть ещё один покупатель, и я не уверен, что Косте понравится, если производство уйдёт в другие руки.
Максим прекрасно понимал, что сейчас действует почти на ощущениях.
Никаких прямых доказательств у него не было.
Только нарастающее чувство, что система уже подошла слишком близко к чему-то опасному.
В кабинете стало тихо.
Никита нервно постучал пальцами по столу, ещё раз открыл договор и задержался взглядом на последней странице.
Максим не торопил его.
Хотя внутри уже почти физически ощущал, как быстро уходит время.
— Блядь… — тихо выдохнул Никита.
Потом взял ручку и поставил подпись.
***
Теперь, стоя посреди разрушенного цеха, Максим особенно ясно понимал, в какой именно момент всё окончательно вышло из-под контроля.
Не в ту ночь.
И даже не тогда, когда Сергей подключил систему к сети.
Всё началось гораздо раньше — в тот момент, когда люди решили, что способны управлять тем, чего сами до конца не понимают.
Через три дня
Здание министерства встретило Максима той же тишиной и сдержанностью, что и во время первого визита. Только теперь всё ощущалось иначе.
За эти несколько дней новости о разрушенном производстве успели разойтись слишком широко. Кто-то говорил об аварии, кто-то — о диверсии, кто-то уже пытался связать произошедшее с экспериментами по автоматизации, но полной картины всё равно не понимал никто.
Максим комментариев почти не давал.
Его провели по длинному коридору к знакомому кабинету. У двери сопровождающий коротко кивнул, давая понять, что дальше он должен зайти один.
Алексей Алексеевич стоял у окна, сцепив руки за спиной. На столе лежала тонкая папка с фотографиями разрушенного цеха.
— Присаживайтесь, Максим Александрович.
Он медленно подошёл к столу, сел в кресло и открыл папку, пролистнул несколько страниц и остановился на фотографии разрушенной линии.
— Впечатляет, — произнёс он без эмоций.
Максим промолчал.
— Я изучил предварительные отчёты. Большинство специалистов до сих пор уверены, что это просто цепочка аварийных сбоев. Но слишком многое в этой истории выглядит… неслучайно.
Он поднял взгляд.
— Вы ведь понимали, что может произойти.
Максим несколько секунд смотрел на фотографии искривлённых направляющих, сорванных узлов и оборванных кабелей.
— Не всё, — ответил он наконец. — Только примерное направление.
— И всё равно ничего не предприняли.
Это прозвучало спокойно. Не как обвинение — скорее как попытка понять ход его мыслей.
Максим провёл ладонью по лицу, будто снова собирая в голове последние дни.
— Если бы я остановил систему раньше, мы бы так и не поняли, к чему она способна прийти самостоятельно.
Алексей Алексеевич медленно закрыл папку.
— Вы вообще понимаете, насколько опасную вещь сейчас описываете?
— Да.
— Тогда зачем?
За окном медленно двигался вечерний город, живущий своей обычной жизнью и не подозревающий, насколько близко уже подошёл к технологиям, которые совсем скоро начнут менять мир быстрее, чем люди успевают это понять.
— Потому что через несколько лет такие системы будут везде, — ответил Максим. — Производство, логистика, инфраструктура, военные проекты. И все будут уверены, что полностью их контролируют. До того момента, пока система однажды не начнёт самостоятельно менять среду под поставленную задачу.
Алексей Алексеевич едва заметно прищурился.
— То есть вы считаете, что это было неизбежно?
— Нет. Но рано или поздно кто-то всё равно допустил бы подобную ошибку.
В кабинете ненадолго повисла тишина.
— А если бы внутри были люди? — спросил Алексей Алексеевич уже жёстче.
Максим выдержал его взгляд.
— Поэтому людей там и не было. Но в следующий раз подобное может произойти там, где они есть, и тогда это был бы уже не эксперимент. Тогда это была бы катастрофа.
Алексей Алексеевич откинулся в кресле и впервые за весь разговор устало выдохнул.
— Знаете, что самое неприятное? Я ведь понимаю вашу логику.
Он чуть качнул головой.
— И именно это меня беспокоит больше всего.
В кабинете опять стало тихо.
— Производство будете создавать заново?
Максим ненадолго задумался.
— Думаю, да. Но уже совсем по-другому.
Он на секунду замолчал, будто мысленно снова увидел старый цех — ещё живой, шумный, наполненный людьми.
— Останется только моя команда. Те трое, с кем мы всё это начинали.
Алексей Алексеевич слегка прищурился.
— И вам хватит троих человек на такое производство?
Максим едва заметно усмехнулся.
— Теперь — более чем.
Он снова некоторое время молча смотрел на Максима, будто окончательно принимая какое-то решение.
— Знаете, Максим Александрович, любой другой человек после такой истории сейчас пытался бы объяснить, почему это не его вина.
Он чуть наклонил голову.
— А вы с самого начала говорите только о последствиях и о том, что будет дальше.
— Потому что это только начало, — тихо ответил Максим.
Алексей Алексеевич медленно поднялся из-за стола и подошёл к окну.
— В ближайшие годы стране понадобятся люди, способные заниматься системами нового уровня. Не презентациями для форумов, а проектами, где цена ошибки может оказаться слишком высокой.
Он повернулся к Максиму.
— И, возможно, прозвучит странно, но после всего произошедшего я гораздо больше доверяю человеку, который уже видел, как такие системы выходят за пределы человеческих ожиданий.
Максим отодвинул кресло и встал.
Алексей Алексеевич тихо добавил:
— Самое страшное, что большинство людей до сих пор воспринимают ИИ как удобную программу.
Максим задержал взгляд за окном.
— А это совсем не программа…
— Тогда что?
Максим медленно перевёл взгляд на него.
— ИИ — это инструмент, который воспринимает человеческие задачи буквально. Без эмпатии. Без сомнений. Без понимания цены.
Он посмотрел на фотографии разрушенного цеха.
— Если ему поставят задачу довести что-то до идеала, он просто будет пытаться это сделать.
***
Максим вышел из здания министерства уже под вечер.
Солнце медленно опускалось за дома, окрашивая улицы мягким тёплым светом. Город жил своей обычной жизнью: шумели машины, люди торопились по тротуарам, у входа в кофейню кто-то смеялся слишком громко, а рядом курьер на электровелосипеде пытался удержать сразу несколько пакетов.
Максим уже собирался идти к парковке, когда у обочины неожиданно остановилось такси.
Он сначала даже не понял, что происходит.
А потом дверь распахнулась, и младший сын с криком:
— Папа!
Со всех ног бросился к нему.
Следом вышел старший, уже начиная что-то быстро рассказывать про школу, про двойку и «вообще-то это была не его ошибка».
Максим невольно рассмеялся, подхватывая младшего на руки.
Лера вышла из машины последней.
— Мы решили тебя украсть, — улыбнулась она.
Подойдя ближе, она молча взяла Максима за руки, внимательно посмотрела ему в глаза, будто пытаясь понять его состояние без слов.
Максим посмотрел на неё и впервые за долгое время почувствовал, как внутри становится тихо.
Они медленно шли вдоль улицы.
Дети впереди уже спорили о чём-то своём, перебивая друг друга и периодически оглядываясь на родителей. Младший размахивал руками, доказывая что-то про роботов, старший закатывал глаза и пытался объяснить, «как всё работает на самом деле».
Рядом почти бесшумно остановилось беспилотное такси. Из него вышла пожилая пара, даже не посмотрев на пустое водительское место.
Чуть дальше за стеклом магазина двигался робот-уборщик, методично намывая пол между витринами, а над входом в аптеку светилась реклама новой системы домашнего ИИ-помощника.
Люди вокруг почти не обращали на это внимания.
Технологии незаметно встраивались в повседневную жизнь — спокойно, привычно, шаг за шагом.
— Кстати, — мимоходом сказала Лера, — видела в новостях, что Константин собирается восстанавливать твой бывший цех.
Максим посмотрел перед собой и ничего не ответил.
Он только подумал, что Константин ещё не знает: вместе с цехом он купил и то, что в нём осталось. То, что уже один раз превратило производство в обломки. То, что теперь просто ждёт, когда его включат снова.
Но сейчас это могло подождать.
Максим шёл рядом с Лерой, чувствуя тепло её ладони, слушал голоса детей и смотрел на вечерний город, который ещё казался прежним.
Хотя на самом деле уже начал меняться.
Быстрее, чем большинство людей успевало это понять.
И никто пока не знал, к чему именно однажды приведут эти изменения.
