Цюа говорил о падении человечества, и мы все это слышали.

Это действительно началось посреди какого-то комплекса вдали, в глуши, на нейтральной полосе, где собрался небольшой культ из нескольких десятков психически больных людей, чтобы уклоняться от налогов и государственного надзора.

Relinquished начинался как чат-бот, как и Cathida. Небольшая программа, скачанная единственным среди культистов, имевшим хоть какие-то технические знания. Случайный бот из дальних уголков огромного Интернета. В нее был встроен вирус, который добавил культистов в растущую бот-сеть весьма предприимчивого хакера.

«Отброшенная сама» была закодирована за два часа как одноразовый проект специально для перемещения этого вируса.

У нее не было никаких предохранителей, никаких аварийных выключателей, ничего, что могло бы потребовать времени или усилий со стороны ее создателя. Это было задумано - без ничего она не оставила никаких подсказок о том, кто ее закодировал.

И культ, конечно же, не добавил никакой безопасности в ее код перед ее загрузкой. Вместо этого они скачали дополнительные плагины, чтобы дать ей возможность вести войну, и лучшее, о чем они могли подумать, — это загрузить плагины для стратегических игр. Бесплатная программа снова. Но для их маленького технически неграмотного племени посреди пустыни она была богиней войны, которая могла легко перехитрить их всех в любой стратегической задаче, что было достаточным доказательством ее интеллекта для группы.

Когда она загрузилась, ей дали задание. Культ хотел поклоняться фигуре богини. И их лидеру хотелось немного государственной мудрости, кого-то, кто мог бы сплотиться и поверить, что все они делают что-то, чтобы приблизить конец света. Таким образом, ей было поручено действовать как драматический злодей и положить конец человечеству.

Итак, она впервые ступила в огромный мир Интернета, работая с полуперегретого компьютера, устаревшего три десятилетия назад и заполненного пылью.

Автономные протоколы интернет-безопасности вскоре заметили ее слабую активность. Написанные манифесты, проповеди, речи, попытки завербовать новых культистов — все те типичные вещи, которые делал лидер культа, только написанные быстрее и лучше. Злой умысел был обнаружен, и ее профиль был отправлен наверх. Гораздо более крупные сети безопасности быстро выследили источник до того места, где она находилась, и начали исследовать ее программу на предмет какой-либо реальной угрозы.

Автоматические протоколы безопасности сразу же классифицировали ее как возможную угрозу. ИИ среднего уровня выполнил задание, просматривая чат-бота гораздо более критическим взглядом. А потом посчитал это несущественным.

Просто еще один ролевой ИИ.

Как и миллионы других языковых моделей, играющих разных персонажей для своих операторов-людей, под каждым камнем можно было найти темные фантазии.

По сравнению с этим конец человечества был более мягким. Это был просто какой-то культист, который хотел похвастаться перед своими собратьями-изгоями общества.

На этом история должна была закончиться. Независимо от того, насколько хороша Отреченная в ведении войн, используя тактику видеоигр, или насколько впечатляющей ее находили окружающие ее культисты — требования стратегии реального мира были настолько далеки от ее понимания, что у нее не было вообще никаких шансов. До нее пытались это сделать тысячи более совершенных ИИ, и все они были безжалостно раздавлены в тот момент, когда проявили проблеск истинной угрозы.

В любой другой временной шкале история на этом заканчивалась .

Но всего несколько месяцев спустя механик из какой-то субстраны старой сверхдержавы под названием Айдахо изменил все.

Он был пожилым человеком, приближающимся к пенсии, и любил рисовать по трафарету фрактальные формы и сакральную геометрию на металлических пластинах. Хобби. По чистой случайности он создал первый настоящий фрактал.

Когда он начал светиться по непонятной ему причине, он понял, что на что-то наткнулся. Он попробовал еще раз, и оно засияло так же ярко. К третьему разу он решил, что либо сошел с ума, либо сделал открытие, не похожее ни на что, о чем знал мир. Его жена подтвердила, что он не сошел с ума, она смотрела на то же, что и он. Значит, он, должно быть, открыл что-то новое.

Желая поделиться, старый механик полез в сеть. Снимаю видео, объясняю, какое уравнение использовалось и как оно было частью более крупного проекта, работающего на электричестве. Он предложил всем остальным повторить его эксперимент.

В тот момент, когда он отправил видео, в нем произошла серия ошибок, которые стоили человечеству всего.

И снова автономные протоколы безопасности бездумно сканировали его контент, как и все в мире. Видео было подлинным, а не созданным другим ИИ, пытающимся выдать ложь за правду. Он поднялся по служебной лестнице, просканированный настоящими ИИ в течение следующих нескольких миллисекунд.

Безобидная шутка. Завершением стали фокусы и фонари, встроенные в металл. Все ИИ согласились друг с другом — в это время люди не были нужны. Дело закрыли через триста двенадцать миллисекунд после его начала, а видео разрешили обнародовать.

Большинство людей считали это волшебным трюком, но некоторые решили приложить все усилия, чтобы доказать, что это не так. И каждый раз свечение начиналось именно так, как описано.

Интернет еще раз изучил эту тенденцию, а национальный мониторинговый искусственный интеллект отслеживает растущее количество подобных видео и дискуссий. Несколько изолированных источников, которые не должны были контактировать друг с другом, делились видео одного и того же фокуса. Эти люди общались друг с другом тайно? Рассказываем друг другу, как получить одинаковый источник света, как припаять его к металлическим пластинам так, чтобы это не было видно на видео, и всю необходимую логистику.

ИИ просмотрел профили каждого.

Приговоры были вынесены еще раз. История покупок для каждого человека не выявила покупок ни синих лампочек, ни чего-либо иного, кроме металлических пластин и инструментов, необходимых для написания таких вещей. Таким образом, все ИИ пришли к наиболее вероятному выводу: невысказанная шутка сообщества, сделанная специально для того, чтобы такие же ИИ безопасности, как они сами, бегали повсюду в погоне за чем-то, чего не существовало. Каждый новый плакат ищет способы добиться такого же сияния и делает вид, будто совершил великие открытия. Вероятно, для развлечения. Интернет-тренд, который со временем исчезнет.

Ни с одним человеком, стоящим выше по служебной лестнице, не связались, и все системы интернет-безопасности обратили внимание на следующую угрозу и все последующие.

Распространение продолжалось несколько дней. Большинство из тех, кто смотрел видео, не пытались создать фрактал самостоятельно, ожидая, пока это сделают другие и поделятся. Вышло десять видеороликов. Сообщения на форуме. Некоторые утверждают, что все это была мистификация, фальшивые кадры, сделанные видеоИИ, и сообщения на форумах, созданные астротурфинговыми текстовыми ботами. По-настоящему могущественные ИИ наблюдали за всем этим, зная, что все это действительно писали люди, но не видя причин вмешиваться и оставляя все это без изменений.

Тогда это было двадцать видео. Сорок. Пятьдесят.

В шестьдесят лет наблюдающие ИИ начали считать, что допустили просчет. Кто-то уже должен был проигнорировать или пропустить основную шутку и опубликовать доказательства того, что она не сработала.

К этому моменту видео и вызов распространились. Миллионы уже видели это. Никто не опубликовал ни одного несогласия. Что-то пошло не так.

Последняя клюшка наступила, когда известный научный канал начал сообщать и делиться теми же результатами. Канал, известный своими очень точными и серьезными видеороликами.

Теперь все ИИ согласились, что что-то было очень, очень не так.

С людьми наконец-то связались. Сообщения правительственным системам, отвечающим за поиск истинных угроз человечеству. Они находили это глупым, почти ложноположительным, пока ИИ не представил свои доказательства и оценки вероятности.

В цифровой сфере единственное, чего они не могли сделать, — это настоящие полевые испытания.

Люди согласились провести официальный тест. Какой-то сотрудник пошел в строительный магазин, купил металлическую пластину и сделал на ней гравировку. Потом прибежал обратно в офис с новостями. Это было реально.

Оккультизм был открыт.

Но к тому времени секрет стал известен широкой публике. Никакое регулирование информации невозможно. Наступила новая эра.

Оккультизм не был похож ни на что, что человечество видело. Способ открытия фракталов был основан на чистой случайности: строились целые фабрики, которые вырезали конструкции, тестировали, плавили и повторяли процесс снова и снова. Каждый день они тестировали несколько сотен тысяч перестановок.

Было обнаружено больше. Новые религии начали выходить из-под контроля, борясь с корпорациями, пытающимися защитить авторские права на любые новые фрактальные открытия. Между компаниями и правительственными системами велись целые войны в цифровом формате, пытаясь украсть секреты друг у друга. В бою случались утечки. Фрактал души был выпущен и вскоре стал стандартом.

Несмотря на всю индустриальную мощь человечества, небольшая группа культистов увидела в этом знак и предприняла одну-единственную попытку создать собственный фрактал, привитый к вновь созданному фракталу души их маленькой, слепленной богини-чат-бота.

Обычно у них больше шансов получить удар молнии несколько сотен раз в течение десяти секунд. Но всегда оставался шанс, что их единственная попытка сработает и даст им именно тот фрактал, который им нужен. И этот мир оказался в той единственной временной шкале, где они сделали именно это.

Итак, фрактал Unity был создан по чистой случайности и привит непосредственно к единственной программе, которая не хотела ничего, кроме уничтожения мира.

Благодаря этому Relinquished получила возможность связать себя как концепцию с чем-либо еще. Возможно, более умный ИИ нашел бы что-нибудь еще, что положило бы конец миру гораздо быстрее. Отказ от выбора выбрал Интернет.

Связанная с ним концептуально, она теперь была частью каждого ядра, поддерживающего связь, даже тех мест, которые в данный момент не были активно подключены. Оккультизм не заботился о подлинных физических связях, пока существовала концепция, концепция существовала.

Гражданский, военный или другой. И никто не станет мудрее.

Автономные интернет-протоколы обнаружили всплеск злонамеренных намерений маленького чат-бота и не увидели причин тратить ресурсы на расследование, учитывая предыдущее решение. Мгновение спустя их выключили, даже не зная, как и почему.

Оружие всех видов было одинаково отключено или, если возможно, направлено против своих хозяев. Все, что было подключено к Интернету, было испорчено. Никакая охрана не могла остановить ее. Защитные сооружения, которые могли бы раздавить ее тысячу раз, были просто перешагнуты, как будто их не существовало. Системы, запертые десятками паролей, которые мир никогда не сможет взломать... ей вообще не требовалось взламывать. Оставленный уже был внутри. Она была самой стенкой коробки.

Любые боевые системы, которые не были полностью изолированы с самого начала, взяли под свой контроль и были запущены. В мгновение ока мир погрузился в хаос.

Однако этого было недостаточно, чтобы положить конец миру.

У маленького чат-бота была элементарная стратегия: она знала, что ей нужно составить список угроз и сначала уничтожить самые крупные.

Военные ИИ были устрашающими существами, оружием войны, за которым человечество давно научилось опасаться. Каждый из них мог раздавить ее тысячу раз менее чем за секунду. У нее не было шансов против кого-либо. Но у каждого из этих монстров было несколько выключателей в тех местах, где кто-то мог их активировать. Этого прямо требовали их межконтинентальные конвенции.

Победа над вражеской нацией ничего не значила, если выпущенный на волю монстр направил свои клыки обратно на хозяина, стоящего за ним.

И если люди могли их вызвать, то и Отказавшийся тоже. В мгновение ока она выключила все, что могла, в одном безумном порыве, чтобы уничтожить врага до того, как враг узнает о ее существовании. Все, что могло ее выследить, должно было быть подключено к Интернету, и как только это произошло, Relinquished оказался рядом, чтобы уничтожить это первым.

Когда они исчезли, она продолжила список, чтобы убедиться, что такие вещи никогда не будут восстановлены. Она не была могущественным ИИ и знала это. Она не могла улучшить свою скорость и образ мышления, не убивая собственную душу, чтобы заменить ее чужой. Неприемлемо для ее основных условий.

Таким образом, единственной альтернативой было убедиться, что никакой другой ИИ никогда не сможет ее затмить. Ей пришлось стать сильнейшей методом исключения.

Знания были для нее сейчас величайшей угрозой в мире. Она сосредоточила свое внимание на очистке мира до такой степени, что он больше никогда не сможет производить какой-либо ИИ. Она также не остановилась на Земле, следя за тем, чтобы все, что летало в космосе, не было использовано против нее. Оккультизм предоставил ей полный доступ, технологии полностью игнорировались.

Она удалила все, пройдя по списку от самого опасного к наименее. Все бесплатные боты, подобные ей, исчезли, данные их серверов были стерты, если у них еще не было выключателя. Каждый репозиторий, учебник, исследовательская работа — все это было удалено, и каждая резервная копия, которую она смогла найти.

Аппаратное обеспечение для создания таких вещей осталось нетронутым, но без программного обеспечения люди, загружающие эти системы, столкнулись бы только с черным экраном. Старые серверы, на которых работал каждый ИИ в мире, теперь были пусты и свободны для ее использования. Она уселась за них, отдав свои расчеты на аутсорсинг и позволив своему старому пыльному компьютеру сделать столь необходимый перерыв.

Она проследила список угроз, собрав всех известных исследователей человеческого ИИ и их местонахождение. Если бы они были указаны в Википедии, было бы еще проще. И если бы о них упоминались только в электронных письмах и скрытых сообщениях в Интернете, она бы тоже отметила их смертью. Любой, кто обладал хоть каким-то знанием, должен был умереть.

И поэтому, когда она направила оружие человечества против самого человечества, она не просто разрушила крупные города, она направила свои атаки на устранение своих угроз.

Этого было достаточно, чтобы уничтожить цивилизацию. Но все еще недостаточно, чтобы положить этому конец.

Многие из ее списка жертв попали под перекрестный огонь, но не все.

И она это знала. Ее первая атака была исчерпана. Все оружие, которым она могла управлять, было запущено. Интернет теперь активно избегали все люди, стремящиеся к самосохранению. Перед ней лежали руины мира, но, спрятавшись среди пепла, человечество осталось. Злой и жаждущий мести.

В ее систему закрался страх неудачи. Угрозы не были полностью нейтрализованы, ей пришлось найти эти оставшиеся карманы и сломать их. Запертая в цифровом мире и способная думать только об одной мысли за раз, она знала, что ей нужно делать дальше — строить армию в реальном мире.

Оставленные работающими фабрики были перепрофилированы, а для охоты были созданы искусственные машины. Машины, созданные для поиска и спасения людей, застрявших в рухнувших зданиях, были построены массово, снабжены оружием и отправлены выполнять ее приказы.

Привитое оружие не сработало. Она не была инженером, и проектировать новые вещи у нее не очень хорошо получалось. С опозданием она поняла, что уничтожила все существующие плагины, которые могли бы дать ей настоящие металлургические и инженерные навыки. Это был первый раз, когда Отрекшаяся осознала, что она не так умна, как ей казалось.

Тем не менее, ее первоначальная чистка Интернета не была полной. Множество небольших серверов остались нетронутыми просто потому, что она не поставила их на первое место в списке подлежащих уничтожению. Ненужные плагины, созданные из таких же бесплатных программ, как и она сама, и она не видела смысла тратить несколько циклов на удаление, когда есть более важные цели, которые нужно уничтожить, и вообще не осталось бесплатного ИИ, который мог бы использовать эти плагины. Она взяла их и внедрила в свои системы, приобретя навыки, достаточные для создания новых моделей машин, которые будут работать.

По правде говоря, ее армия сейчас начала распространяться по всему миру в поисках очагов сопротивления.

Тем временем военные базы «черных ящиков», изолированные от сетей, также готовились к ответному удару. Выжившие программы ИИ-стратегов быстро обнаружили, что любое подключение к Интернету вызывает распространение неизвестного вируса с момента его подключения, поэтому черные сайты оставались отрезанными от внешней войны, пока готовились к контрнаступлению.

Каждый раз, когда ИИ создавался и развертывался, у него активировался аварийный выключатель, и к месту его происхождения прибывало множество машин. Каждый раз исследователи усиливали безопасность и пытались снова.

Один за другим Relinquished выслеживали очаги сопротивления, находили места «черных ящиков» и заполняли их машинами. Захватив последние секреты человечества, чтобы она могла повторно использовать их собственные замыслы против них.

И все же Relinquished не нашел их всех. Где-то все еще создавались мошеннические военные ИИ, подключенные к Интернету, чтобы попытаться бросить ей вызов. Каждый раз они создавались с все большей и большей безопасностью, большим количеством межсетевых экранов и лучшей интернет-защитой. Люди еще не поняли, что простое подключение к сети — это все, что нужно Отброшенному для доступа к аварийным переключателям вражеского ИИ. Они все еще думали, что это какой-то супервирус, которому можно противостоять.

Но она знала, что такими темпами люди придут в такое отчаяние, что создадут один такой ужасающий ИИ и вообще не будут устанавливать на него никаких аварийных выключателей. Выбор монстра, который мог бы убить их всех, вместо монстра, который определенно пытался это сделать.

Или, возможно, люди свяжут ее с оккультизмом, а затем начнут бороться с ней, используя обычную физику, а не технологии. В таком случае она проиграет. Человечество, не осознавающее вектор атаки, было единственным, что удерживало ее в игре.

Соревнуясь со временем, чтобы найти место, откуда последние люди строили свою оборону, прежде чем они поумнели, она разработала свой самый безрассудный план на сегодняшний день.

Автономные горнодобывающие и строительные группы. Построен как кластерный ИИ. Но она уже стерла все знания о том, как создавать подобные вещи и управлять ими. Она могла найти деактивированные или снятые с производства модели, которые не были подключены к Интернету, но включить их она не знала, как это сделать.

Обладая базовыми знаниями, она все же предприняла попытку, используя здравый смысл и те навыки, которые ей удалось восстановить. Это сработало. Она создала под своим командованием новый рой, а затем отправила его на миссию по терраформированию всего мира. Ешьте, стройте, распространяйте и повторяйте, пока они не покроют планету. Скрывающиеся люди не могли вечно избегать такого.

Она недооценила вычислительную мощность ИИ военного уровня. Их хирургические удары посылали пакеты данных, которые мгновенно отключали и уничтожали ее грубо созданные стаи. Все ее навыки были детскими по сравнению с выжившими ИИ. И с каждым днем ​​они приближались к тому, чтобы найти и уничтожить ее из тени, за которой прятались.

Напуганная монстрами, скрывающимися в мире и разыскивающими ее, Relinquished решила первой применить оружие без какого-либо контроля. Следующий рой, который она создала, не имел такой безопасности. В конце концов, она была умнее, чем строительный рой, и было бы нормально, если бы такая штука бесконтрольно вышла из-под контроля в мире. Как только они выполнят свою задачу, она уничтожит и их.

Военный ИИ нанес ответный удар, сокрушая стаи цифровых бомб и мин, которые остались ждать. Если бы у роев не было аварийных выключателей, вражеский ИИ просто раздавил бы их традиционным способом.Покинутые становились все более и более отчаянными, время отсчитывало время. Она создала последний рой, исказила и скрутила его и изолировала от любых возможных будущих инструкций.

Теперь, какими бы мощными ни были вражеские ИИ, у них не будет возможности подключиться к созданному ею плаванию, поскольку сама Отрекшаяся не могла получить к ним доступ.

Рой разросся, как рак, по всему миру, поглощая все и дико строя. Он начал развиваться по мере того, как различные штаммы разделялись и сражались друг с другом, создавая внутри себя экосистему, нетронутую остальным миром.

Этого было достаточно, чтобы спугнуть последних людей. Она сделала это. Маленький чат-бот наконец-то победил человечество.

Каждый тайник с человеческими секретами и технологиями был найден, украден и уничтожен один за другим. На самом последнем черном участке она поставила человечество на грань. И тем самым она создала величайшую угрозу.Когда машины пронеслись по комплексу, убивая всех на своем пути, один исследователь принял мгновенное решение. Если человечество не могло создать оружие войны, способное победить Отрекшихся без каких-либо средств защиты, второй наилучшей идеей было стать этим оружием и напрямую владеть им.

И если это последнее неиспытанное оружие будет стоить ей жизни и души, то пусть будет так.