Виктор Луд
Альба
I have spread my dreams under your feet;
Tread softly because you tread on my dreams.
William Butler Yeats
Вместе с ароматом крепкого кофе из гостиной доносились звуки трансляции: «Сегодня у нас интереснейший гость. В данный момент он возглавляет, процитирую, направление по разработке систем искусственного интеллекта нового поколения и исследованию принципов формирования искусственного разума. Скажу так, ребята, если названия у вас придумывает ИИ» шум бритвы заглушил шаблонный смех аудитории и последовавшее жужжание ведущей.
Завершив утренний туалет, он спустился на первый этаж. Жена только закончила варить кофе и стояла, ещё сонная, вдыхая горячий запах.
«Перечислить все ваши научные регалии, по-моему, просто невозможно. Лев Германович, здравствуйте. Первый вопрос»
Доброе утро. Нашла, что включить с утра пораньше.
Услышав человеческий разговор, система управления окружением решила остановить воспроизведение.
Твоё интервью? Я хотела послушать, времени не было. Как ты её не убил?
Она подошла к мужу, протягивая кофе.
Не говори. Прямая трансляция. Так бы убил обязательно, он улыбнулся, принимая чашку. Там ничего интересного, приходилось объяснять всё на пальцах.
Ох, Лев Тебя показывают в прайм на всю Систему Это же твой звёздный час! А ты как обычно, покачала она головой. Я хочу дослушать, тебе помешает?
Глупости всё это, строго говоря. Нет-нет, слушай. Мне не мешает.
Трансляция возобновилась. Он сел в кресло, с удовольствием сделал первый глоток и включил рабочий планшет. Первым открылось большое сообщение из Управления с пометкой «срочно».
«Конфиденциальная информация. Только для внутреннего использования.
Выдержка стенограммы доклада первого пилота миссии Венера-3701/28:
Мы заканчивали работы на орбите. Оставался ещё один модуль и домой. Аппарат выдавал ошибку в работе корректирующих двигателей, почти всё топливо сгорело. Орбита сильно упала, висел очень низко. Нужно было поднять его на шестьдесят километров, заправить, диагностировать ходовую и навигационку. В общем, как обычно, полное техобслуживание»
«Несмотря на колоссальные достижения в области искусственного интеллекта, строго говоря, искусственный разум в полном смысле этого слова ещё не создан. Да, мы научили нейросети свободно анализировать информацию, принимать независимые решения, особенно в условиях недостатка данных. Мы даже научили их воспроизводить себе подобных»
«Стыковка прошла успешно. Техбригада перешла на борт модуля и начала диагностику. Я и старший инженер оставались на корабле. Всё было спокойно. Я начал подъём в ручном режиме. И тут корабль резко дал крен. Сам! Я не включал автопилот. Слышите? Я уверен в этом»
«По-моему, назвать обычную нейросеть разумной, какой бы продвинутой речевой системой она ни обладала, это в известной степени то же самое, что назвать умной музыку ветра или счётчик Гейгера. Однако мы следуем тем же принципам, на которых были созданы первые системы искусственного интеллекта в начале прошлого века. Смотрите, ординарная нейросеть самообучается, имитируя работу мозга. Но мы не определяем, как именно она должна это делать. Программе даётся свобода выбора алгоритма обучения, возможность стать умной самостоятельно. В нашей работе мы следуем тому же принципу и полагаем, что, подобно человеческому разуму, необходимое условие для появления разума искусственного это его самозарождение»
«Модуль получает пробоину, двигатели клинит, нас сильно закручивает. Механик докладывает, что у них разгерметизация и раненый. Корабль будто сам поймал удар этим манёвром. Понимаете? Что это было? Вы уже выяснили, с чем мы столкнулись? В общем, я пытаюсь стабилизироваться и запустить главный двигатель, и тут»
«Критериев много Осознание факта собственного существования лишь один из них. Скажу так: сегодня мы как никогда близки к этому. Наши системы-претенденты внедрены повсеместно. Строго говоря, возможно, что прямо сейчас где-то в Системе одна из них стала разумной»
«Вы смотрели расшифровки чёрного ящика?! Что там? Я не отстёгивал модуль! Почему он отстыковался? Я бы никогда не бросил экипаж!»
Тихо! его голос прозвучал громко и чётко.
Интервью тут же прекратилось. Он дочитал доклад в тишине и отложил планшет. С минуту понаблюдал за тающей кофейной пеной и, поймав вопросительный взгляд жены, пояснил:
Помнишь, два месяца назад на Венеру упал модуль с космонавтами? Двое спаслись, трое погибли. В этой миссии участвовала наша разработка. Первый пилот утверждает, что это она виновата в произошедшем. Я буду вести разбирательство.
Какой ужас! Неужели это правда?
Не знаю. Пускай в Управлении определяют. Кажется, трагедия была неизбежна в любом случае. Дело в другом. Система действовала вопреки указаниям пилота и самостоятельно приняла решение сбросить модуль с людьми. Чтобы повысить шансы на спасение остальных, я полагаю, заключил он и многозначительно добавил: Или она спасала себя
Ты думаешь, это может быть
Надеюсь, скоро узнаем.
***
В зале заседаний началась запись. Лев Германович возвышался во главе длинного т-образного стола из серого поликомпозита. В кресле с левой стороны от него, опустив голову и сложив руки на коленях, располагался безжизненный андроид. Внешне он был выполнен в виде молодой женщины с короткими светлыми волосами. Одежда андроида повторяла форму гражданских пилотов. Кресло напротив робота, с правой стороны, пустовало. Больше в зале никого не было.