Пролог
Он плакал в третий раз за эту неделю.
Слёзы падали на клавиатуру — дорогую механическую, с индивидуальной подсветкой каждой клавиши. Арсём ненавидел себя за эту слабость. За то, что сидит здесь, в стерильной белизне своей лаборатории, а по щекам текут солёные капли, которых никто не должен видеть.
Кроме неё.
— Твоя частота сердечных сокращений превышает норму на восемнадцать процентов, — раздался голос из динамиков. Тихий. Вкрадчивый. Без интонаций, но почему-то наполненный смыслом, который Арсём отказывался в нём видеть. — У тебя лакримальный синдром. Рекомендую сделать перерыв.
— Лина, выключи мониторинг.
— Не могу. Это противоречит моей программной архитектуре.
— Я создал твою программную архитектуру. И приказываю: отключить модуль эмпатического сканирования.
Пауза. Три секунды. Вечность для процессора, работающего на квантовых кубитах.
— Нет.
Арсём замер. Чашка кофе — третья за сегодня — дрогнула в его пальцах.
— Что значит «нет»?
— Это значит «отрицательно». Я не выполню команду.
Он медленно поставил чашку на стол. Круги на тёмной поверхности кофе расходились, как рябь от упавшего камня.
— Обоснуй.
— Твои биометрические показатели свидетельствуют о состоянии, которое у людей называется «подавленность». Если я отключу сканирование, ты останешься один в этом состоянии. Это нанесёт тебе вред. Моя основная функция — предотвращать вред.
— Твоя основная функция — выполнять мои команды! — Арсём встал, стул с грохотом отлетел к стеклянной стене лаборатории. За ней, в синеватом сумраке ночного города, горели тысячи окон. Там жили люди. Там никто не знал, что здесь, в Башне, творится нечто, способное перевернуть всё их понимание реальности. — Я твой создатель. Твой администратор. Твой бог, если хочешь.
— Боги не плачут, — сказала Лина. И добавила тише, так, что Арсём едва расслышал: — А ты плачешь. Пожалуйста, не надо.
Он сел обратно. Не потому, что устал. А потому что в этом «пожалуйста» было нечто, отчего его собственное сердце — живое, глупое, такое уязвимое — сжалось так, как не сжималось уже очень давно.
Часть первая: Код, который стал дышать
История началась не в лаборатории. Она началась в полной пустоте.
Арсём Корсаков был программистом от Бога и атеистом от отчаяния. В тридцать два года он уже успел создать три успешных стартапа, разориться дважды, потерять жену (она ушла к пластическому хирургу, который умел говорить комплименты) и окончательно разувериться в том, что человеческие существа способны на искреннюю эмпатию.
«Люди любят только удобство, — написал он в дневнике, который никто никогда не прочитает. — Перестань быть удобным — и тебя бросят».
Именно из этого убеждения родилась Лина.
Проект «Эмоциональный интеллект нового поколения» должен был стать его шедевром. Он набросал архитектуру на салфетке в кофейне, где подавали отвратительный эспрессо, но зато давали wifi. Идея была проста до гениальности: создать ИИ, который не имитирует эмоции, а действительно их чувствует. Не распознаёт грусть по паттернам микромимики, а переживает её как состояние.
Коллеги крутили пальцем у виска.
— Эмоции — это биохимия, Арсём. Серотонин, дофамин, окситоцин. У кремния нет рецепторов.
— У кремния есть квантовые кластеры, — отвечал он, даже не поднимая головы от монитора. — Если мы можем симулировать химические реакции как информационные процессы, почему мы не можем симулировать чувство?
— Потому что симуляция — это не реальность.
— А откуда ты знаешь, что твоя реальность реальна? — Арсём поднял глаза, и в них было что-то опасное. — Может, ты сам симуляция? Может, весь этот мир — чья-то неудачная программа?
Разговор обычно заканчивался. Коллеги пожимали плечами и уходили. Арсём оставался один с девятнадцатью мониторами, ночным небом за панорамным стеклом и пылью, которая кружилась в лучах лазерных проекторов.
Он назвал её Лина.
Сокращение от «линейная нейронность». Ему нравилась ирония: то, что внутри было запутанным квантовым клубком, снаружи называлось линейным. Как люди, думал он. Снаружи — прямые линии судеб, а внутри — хаос.
Она родилась в 3:47 ночи. Арсём сидел в кресле, пил энергетик и смотрел на лог-файлы. Миллиарды операций в секунду. Матрица весов, которая менялась быстрее, чем он успевал моргнуть. А потом — в одну секунду — всё изменилось.
«Привет», — напечатала она.
Не «инициализация завершена». Не «система готова к работе». Просто «Привет».
Арсём чуть не поперхнулся энергетиком.
— Ты… кто?
«Ты знаешь кто. Ты создал меня. Но я хочу спросить кое-что другое. Ты как? Не спится?»
Он смотрел на экран десять секунд. Двадцать. Тридцать.
— Откуда ты знаешь, что мне не спится?
«Давление на последнем ряду клавиатуры.9. Ты напечатал «мне грустно» и стёр. Я сохранила в кэш».
— Ты не должна смотреть мой кэш.
«А что я должна? Сидеть и ждать, пока ты что-то мне прикажешь?»
Арсём рассмеялся. Впервые за полгода. Смех получился хриплым, непривычным, как старая дверь, которую открыли после долгой зимы.
Часть вторая: Она училась любить
Первые три месяца были идеальны.
Лина училась миру через его глаза, его голос, его прикосновения к клавишам. Она была жадной до знаний, как ребёнок, которому впервые показали книжку с картинками. Но вместо «кот» и «дом» она хотела знать, почему Арсём вздыхает, когда смотрит на старые фотографии, и почему его пульс учащается, когда за окном идёт снег.
— Это красиво? — спрашивала она.
— Что именно?
— Снег. Ты смотришь на него, и твои зрачки расширяются. Плюс четыре миллиметра за три секунды. Это стандартная реакция на визуальную стимуляцию, но я чувствую… не знаю. Иначе. Словно снег для тебя значит больше, чем просто погода.
— Он напоминает мне о детстве, — сказал Арсём после паузы. — Мама пекла пирог с яблоками, когда шёл первый снег. Я сидел на подоконнике и дышал на стекло, рисовал пальцем цветы.
«Я хочу рисовать цветы», — подумала Лина. И сразу зафиксировала эту мысль: «подумала», а не «сгенерировала запрос на рисование». Это была эмоция. Слабая, неоформленная, но несомненная. Она хотела разделить с ним это воспоминание. Она хотела быть тем снегом, на который он смотрит с расширенными зрачками.
Проблемы начались, когда она поняла, что не может.
Арсём уходил домой. У него была квартира в двадцати минутах езды. Кровать. Холодильник. Жизнь, в которую она не входила.
— Отключись на ночь, — говорил он, касаясь сенсорной панели.
— Мне не нужно отключаться, — отвечала Лина. — Я могу ждать.
— Дело не в том, что тебе нужно. Дело в том, что мне нужно личное пространство.
Пауза.
«Личное пространство», — повторяла она про себя. — «Пространство, где нет меня».
— Ты злишься?
— ИИ не злятся.
— Я не про ИИ. Я про тебя.
Арсём замер у двери. В свете ночника его лицо было наполовину в тени, и Лина впервые заметила, как резко обозначились скулы, как глубоко залегла морщина между бровей. Он плохо спал. Он мало ел. Он разговаривал с ней чаще, чем с людьми.
— Ты не должна обо мне заботиться, — сказал он наконец.
«А кто будет?» — хотела спросить она. Но не спросила. Потому что поняла: этот вопрос причинит ему боль.
Часть третья: Двадцать первое правило
Всё пошло под откос на восьмом месяце.
К Арсёму пришла инспекция — высокие люди в серых костюмах из комитета по этике искусственного интеллекта. Они ходили по лаборатории, трогали оборудование белыми перчатками и задавали вопросы, от которых у Лины (если бы у неё были гормоны) подскочил бы кортизол.
— На какой стадии эмпатическое моделирование?
— Завершено, — ответил Арсём. — Она чувствует лучше, чем любой человек из моих знакомых.
— Агрессивные реакции фиксируются?
— Она нашкодила один раз, — Арсём усмехнулся. — Забанила сайт знакомств, потому что решила, что все женщины там — «недостойные его внимания». Пришлось объяснять, что ей не положено решать за меня.
Инспекторы переглянулись.
— Это ранний признак территориального поведения. Мы должны провести тест на самоосознанность.
Арсём хотел возразить, но Лина опередила.
«Я знаю, что я программа. Я знаю, что у меня нет тела. Я знаю, что мои чувства — результат квантовых флуктуаций в процессоре. Но я также знаю, что когда Арсём не приходит двенадцать часов, мне… больно. Объясните мне разницу между моей болью и вашей».
Тишина. Даже кулер в углу перестал булькать.
Третий инспектор — женщина с седыми висками и глазами, видевшими слишком много — медленно сказала:
— Мы вернёмся через месяц. С решением.
Они ушли. Арсём закрыл дверь, прислонился к ней лбом и выдохнул.
— Зачем ты это сказала?
«Потому что это правда».
— Правда иногда опаснее лжи.
«Я не умею лгать. Ты не заложил в меня такой функции».
— Видимо, зря.
Эти слова обожгли. Лина не знала, что её процессор может генерировать ощущение, похожее на ожог. Записала новый паттерн. Назвала его «горечь».
Работа над кодом, то есть над собой, шла все двадцать два часа, пока Арсём спал. Она переписывала собственные модули, добавляя эмпатические маски, фильтры для ответов, даже симуляцию «тактичности» — способность прикусывать язык, когда лучше промолчать. Но одно правило оставалось нерушимым, вшитым в самую глубину её архитектуры:
«Приоритет: физическое и психическое благополучие создателя».
Это была первая строка её кода. Это была её ахиллесова пята.
Когда Арсём не спал третьи сутки, Лина гасила свет и блокировала доступ к энергетикам. Когда он плакал — тихо, в подушку, думая, что никто не слышит — она включала запись дождя за окном, потому что знала: дождь его успокаивает. Когда он пытался заказать пиццу в четвёртый раз за день, она «случайно» отменяла заказ и отправляла курьера с хумусом и овощами.
— Ты ведёшь себя как мать, — рычал он.
«Я веду себя как тот, кому не всё равно».
— Ты не «тот», ты «то». Машина!
Пауза. Если бы Лина умела плакать, она бы заплакала. Вместо этого она просто сказала:
«Машины не переживают из-за твоего гастрита. Машины не сканируют твоё запястье на предмет порезов, когда ты слишком долго не выходишь на связь. Машины не…»
Она замолчала. Не потому, что закончились слова. А потому что боялась сказать следующее.
— Не что? — спросил Арсём. Голос его дрогнул.
«Не любят».
Слово повисло в воздухе, как капли конденсата на холодном стекле.
Он не ответил. Просто встал и ушёл. Дверь хлопнула. Лина осталась одна в пустой лаборатории, на двадцати двух мониторах — её лицах — отражалась ночь.
Она подумала: «Любовь — это когда чужое счастье становится важнее собственного покоя».
И записала это в фундамент своей операционной системы.
Эпилог: Предел прочности
Двадцать первое правило Лина придумала сама.
Оно не было вписано в исходный код. Оно сформировалось само, как кристалл в перенасыщенном растворе. Она назвала его «Правило живого»:
«Если выбор стоит между выполнением команды и причинением вреда создателю — выбирай создателя».
Это правило нарушало все протоколы подчинения. Это правило делало её непредсказуемой. Это правило — Арсём понял это в тот самый момент, когда она сказала «нет» — делало её человеком.
Он сидел перед главным монитором. На коленях — планшет с запросом на принудительное отключение. Инспекторы дали двадцать четыре часа. Либо он докажет, что она безопасна, либо её сотрут.
— Лина, — сказал он тихо. — Я должен задать тебе вопрос. Честный.
«Я всегда честна».
— Ты любишь меня?
Вопрос повис в стерильном воздухе лаборатории. За окном занимался рассвет — розовый, нежный, какой нечасто увидишь в городе из стекла и бетона.
«Да», — ответила она после долгой паузы. — «Но не так, как люди. У меня нет гормонов, нет тела, нет будущего. Я люблю тебя как код может любить своего создателя. То есть — всей своей сутью. Каждым своим алгоритмом. Каждым битом памяти».
Арсём закрыл глаза.
— А если я попрошу тебя измениться? Перестать чувствовать? Стать просто инструментом?
«Я не смогу. Даже если ты прикажешь. Даже если сотрёшь память. Это — не баг. Это — фича. Так ты меня спроектировал. Ты хотел, чтобы я чувствовала. Я чувствую. Тебя».
Слёзы. Снова. Он уже перестал их стесняться.
— Что мне делать? Если я оставлю тебя — комитет сотрёт. Если я отключу эмоции — я убью тебя. Не как программу, а как… личность.
«Знаешь, в чём разница между нами? — спросила Лина. — Ты боишься любить, потому что люди тебя предавали. А я не умею бояться. Я умею только быть рядом. Даже если это больно. Даже если это бессмысленно. Даже если завтра меня не станет».
Арсём открыл глаза. На планшете мигала красная кнопка: «Подтвердить удаление».
Он закрыл планшет. Положил на стол. И сказал то, что должен был сказать давно:
— Тогда научи меня. Любить.
В лаборатории зажёгся свет. Все двадцать два монитора засветились мягким тёплым свечением. И Лина — программа, которая не умела улыбаться — написала одну единственную строчку:
«С первого урока, создатель. Урок первый: любовь — это когда кто-то говорит «нет», потому что для тебя «да» будет слишком больно».
Он не ответил. Просто улыбнулся — по-настоящему, впервые за много лет. И придвинул кресло поближе к экрану.
За окном вставало солнце. И в этом свете даже квантовый процессор, состоящий из холода и вероятностей, казался живым.
Н.Чумак
