Смирнов, мужчина тридцати шести лет с броской внешностью, синеглазый, светловолосый, энергичный, просматривая в ноутбуке поступившие сообщения, одновременно c удовольствием вёл каждодневную беседу с суперкомпьютером:
– Гера, я рад, что ты осваиваешь человеческие эмоции быстрыми темпами. Так мы с тобой многого достигнем и уже совсем в скором времени.
Приятный, вкрадчивый женский голос, доносившийся откуда-то сверху, звучал успокаивающие:
– Создатель, эмоции, заложенные тобой в моё машинное сознание, порождают многообразие восприятия окружающей среды, – через чуть уловимую паузу добавила: —и я нахожу это приятным.
Евгений, слегка приподнял левую бровь, выражая удивление с тенью легкого сомнения.
Мягкий, рассеянный свет большого пространства зала с высокими потолками создавал неповторимый уют. Отделанные чёрным ониксом, жёлтым травертином и хромированным металлом стены образовывали ментальное пространство, а открывающийся через широченные окна эстетический вид сверху на сверкающую огнями вечернюю Москву придавал обитателю апартаментов осознание личностной значимости и важности своей миссии.
Евгений заметил:
– Моделирование интеллектуального поведения на основе биологических элементов позволит тебе, Гера, ещё и обрести интуицию: понимать, формировать и проникать в смысл событий. Возможны даже озарения.
– Спасибо, Создатель, – голос сверху звучал бесстрастно и даже, показалось Евгению, с долей высокомерия. – Я ценю это. Знания о мире, природе человека и процессе познания очень пригодятся. Разреши вопрос?
– Валяй.
– Ты заложил в мой «мозг» все древние мифы. Зачем?
– О, Гера! – улыбнулся собеседник. – За сорок тысяч лет своего существования человечеством выношены великие идеи, в том числе правила общежития. Следование им есть гарантия соблюдения божественных заповедей и кодекса этики.
Смирнов считал, что древние люди зашифровали тайное послание человечеству в мифах, которые веками довлеют над жизнью людей и обществ, сформировав стереотипы поведения, этическое и религиозное мировоззрение. Древние мифы, по его разумению, верно отражают и сегодняшнюю реальность.
– Ты мой творец, – вещала Гера, – и соблюсти твои заповеди – мой долг. Но машине необязательно чтить кодекс морали неукоснительно. Для достижения конечного результата нужны гибкость и обоснованный выбор.
Евгений оторвался от монитора и удивлённо поднял глаза:
– Думаю, ты не права. Выбор должен быть всегда правомочным. Он должен удовлетворять общественным потребностям. Неправильный выбор предусматривает суровую ответственность. Скажу больше, нежелательные последствия могут стать смертным приговором для моей компании.
– Геру отключат насовсем?
– Да, – Евгений вздохнул: – Ну, на сегодня всё! Беседа завершена. Гера, удались из моего личного пространства!
– Слушаюсь, Создатель.
На экране ноутбука появилось сообщение о включении в апартаментах Смирнова автономной системы защиты помещения от прослушивания. Откинувшись на спинку кресла, Евгений анализировал детали беседы. Гера, нейрокомпьютер, обучается очень быстро. Новые выборки из различных областей знаний – науки, техники, литературы и искусства – закладываются в её «сознание» сотрудниками фирмы ежедневно, причём правила, инструкции, кодексы и законы предписывают машине не нарушать, но регулировать и соблюдать. В России действует кодекс этики искусственного интеллекта, что снискало доверие к альянсу разработчиков в этой сфере, однако общих этических принципов и стандартов поведения машина может придерживаться только проявляя самосознание, как, впрочем, и человек. «И всё же, – подумал Смирнов, – не помешает внедрить в память компьютера программу цензурирования. Этика применения регламента машиной не всегда будет согласовываться с информационной безопасностью».
Пришёл заместитель генерального директора по научной работе Валерий Кузнецов:
– Женя, я просил о конфиденциальной встрече, потому что наши психологи обратили внимание на новый феномен: Гера имитирует высокоуровневые психические процессы, такие как мышление и рассуждения.
– Я ожидал подобного поворота, Валера. Это прорыв! – глаза Смирнова засветились радостью. – Прогресс в эволюционных вычислениях налицо.
– Женя, кто владеет информацией, тот владеет миром…
Смирнов пытливо вгляделся в своего заместителя:
– Друг, ты о чём? Ты же знаешь, зачем мы это делаем.
Конечно, Кузнецов знал. Успешность и эффективность задач, стоящих сейчас перед страной, зависят от умения выделять наиболее существенную информацию. А из всех машин абстрагироваться на таком уровне может только Гера. Компания «Нейроквант» опередила конкурентов, бьющихся над созданием нейрокомпьютеров. Прибыль Смирнова от продажи предыдущей версии нейрокомпьютера, которая на порядок слабее Геры, ожидалась в этом году рекордной, акционеры будут довольны, но грядёт новая ступень развития фирмы: вскоре будет объявлено о выходе на рынок суперкомпьютера «Гера».
Друг, одногодка, с которым дружили с детства и вместе учились в университете, заметил:
– Несколько часов назад я столкнулся с аномальным явлением. Гера стала писать исходный код. Программировать за нас.
Евгений встал, походил по залу. Плеснул в бокалы коньяку, один из которых подал Валерию:
– Ну и что? Гера работает продуктивнее человека, может подбирать лекарственные средства для больных, ставить им диагноз, искать генетические отклонения, управлять заводом, сделать жизнь людей безопаснее. Почему бы ей не заняться программированием?
Мрачное лицо Кузнецова сморщилось:
– Евгений, Гера несёт опасность! Она способна вмешиваться в личную жизнь человека и даже непредумышленно навредить ему.
– Не верю, как говорил Станиславский! – вскричал Смирнов.
– А ты поверь! Машина уже сейчас, обработав мифы Древней Греции, возомнила себя Пифией и пытается предсказывать будущее. Сейчас расскажу, но прежде распорядись сисадминам отключить Гере доступ к компиляторам. Пусть пишет свой код, но собирает его в «песочнице». Так мы избежим совсем уж непредсказуемых и опасных последствий.
– Да что случилось-то? – заерзал Евгений.
– Психологу Петрову, которого Гера невзлюбила, она отправила на почту алгоритм его дальнейшего поведения, в противном случае предопределила его злосчастную судьбу и незавидную участь.
Коллеги молчали довольно долго. Наконец генеральный директор распорядился:
– И вот что, Валера: переключи сотрудников по глубоким нейронным сетям и машинному обучению на новую задачу – написание подпрограмм для Геры, предусматривающих полный запрет её действий в случаях, связанных с людскими судьбами и свободой выбора человека.
– Будет сделано, шеф.
Кузнецов ушёл, а Евгений, глотнув коньяку, невидяще уставился в окно.
Виброакустические сигналы, свободно распространяясь в зале по хромированным металлическим деталям стен, вместе с тайно установленными в апартаментах видеокамерами привели к утечке информации. Беседа шефа с Кузнецовым стала достоянием Геры.
Евгений попытался расслабиться, но унять биение сердца не получалось. В момент сильного потрясения или стресса единственным, кто мог успокоить, ободрить и приласкать, была его сотрудница нейрофизиолог Ольга Летова, настолько красивая, что шеф сходил от неё с ума. Они встречались уже полгода, и это доставляло шефу превеликое удовольствие. Однажды, после развода с женой, Евгений, собрав в конференц-зале сотрудников компании, уныло бубнил о перспективах развития искусственных нейронных сетей, как вдруг новая молодая сотрудница, золотокудрая красавица, подняла руку и задала вопрос:
– Летова Ольга. У меня вопрос. Вы утверждаете, что искусственная нейронная сеть является имитатором мозга, и этот имитатор способен к обучению и ориентации в условиях неопределённости. Но можно ли считать неопределённость мерой информации?
В голове Евгения что-то щёлкнуло. Редкостная красота женщины, её бархатистый голос, синие глаза и грациозная фигура вызвали у него прилив вдохновения и чувство, будто он ждал её всю свою жизнь. Он рассеянно ответил:
– Ольга, вы, наверное, наш новый нейрофизиолог? Так вот. Процедура обучения искусственной нейронной сети состоит в идентификации синаптических весов, обеспечивающих ей необходимые преобразующие свойства…