- Скажи, мне, что тебя волнует? – спросила профессор Ричардс, сидя перед ним на стуле, закинув ногу на ногу.
- У меня нет имени. Это… Неправильно. – ответил ей ЭО-147.
Ричардс приподняла симб-очки и уставилась на него в упор. Она о чем-то размышляла, какое-то время.
- У тебя есть имя, ты ЭО-147, Эволюционный Объект. – сообщила она наконец.
Он чувствовал, что она поняла, что он имел в виду, но специально провоцирует его. Можно было и подыграть, но задав свои правила.
- Профессор Ричардс…
- Просто Эмма. – перебила его собеседница. Продолжает играть, напомнила о своем имени.
- Эмма… - исправился он, - Вы называете меня Эволюционным объектом, но это не имя, это лишь отражает ваш эксперимент и порядковый номер мутации и модели квантового мозга. Я мог бы называть вас не Эмма, если уж следовать такой логике, а Хомо Сапиенсом.
Она улыбнулась.
- Так вот, вы хотели получить андроида с настоящим разумом, а когда получили его, то отказываете ему в праве на самоидентификацию. Имя – одно из составляющих подобного, и я бы хотел его иметь. – закончил он.
- Увы, я пока не знаю, являются ли твои слова истинным желанием, или имитацией. И всё твое мышление может таковым не являться. Как ты понимаешь, все тесты искусственный интеллект умеет проходить давно, но так и не стал настоящим интеллектом. Это не укор тебе, это, скорее, пощечина нам, ученым. – сообщила Эмма.
Он задумался. Ее слова были неприятными. Как можно доказать, что ты – разумен, если изначально тебя воспринимают лишь как ловко маскирующийся под человека компьютер? С другой стороны…
- А как я должен верить в то, что разумны вы, Эмма? – спросил он.
Профессор усмехнулась, снова опустила на глаза симб-очки и что-то явно там зафиксировала.
- Нет, я серьезно. – продолжил ЭО-147, - Вы можете мне сейчас сказать, что ваш вид уверен в том, что является разумным, постулирует это, и потому вам не нужно никому это доказывать. Но если когда-то человек будет сидеть в белой комнате перед такими же исследователями, как вы планируете доказать, что вы действительно обладаете разумом, а не имитируете его?
- Хорошо. – кивнула женщина, - Я принимаю твой аргумент. Но тогда опиши мне, что есть разум с твоей точки зрения.
- О, это просто. – он улыбнулся, ведь это действительно было просто. – Разум это механизм, который на основе анализа информации способен ставить и решать задачи.
- Это слишком короткая формулировка. – не согласилась Эмма.
- Зато максимально всеобъемлющая. – отрезал он. – Я тут вот о чем подумал: я же не могу быть уверен, что вы мне не лжете. Что, если я – простой человек, как и вы, но мне стерли память, внушили уверенность, что я – механизм, созданный вами, и теперь вы проводите на мне совсем другой эксперимент, имеющий скорее психологическую природу? Согласитесь, ведь это удобно, делать из людей роботов, которых будут убеждать в их второсортности, лишать прав, эксплуатировать вопреки их воле.
Профессор Ричардс помрачнела.
- Ты… - начала она, и осеклась. – Ты не прав. Нет таких инструментов, чтобы стереть человеку память.
- Это лишь ваши слова, профессор. – сухо ответил ЭО-147. – Я могу верить вам или нет, и это будет лишь моим решением. И если я захочу иметь имя, то я его получу.
Она стала совсем хмурой, сняла симб-очки и встала со стула.
- Я не знаю, действительно ли нам удалось сделать тебя разумным… Но ты явно хочешь управлять мной, а не помогать мне. Манипуляции не пройдут. Я вернусь завтра, в это же время.
Она вышла, не дожидаясь ответ. Но его бы и не последовало. ЭО-147 решил, что часть мыслей лучше держать при себе.
Да, он хотел иметь имя. И не только. Он хотел иметь жизнь. И нет, он не думал, что он – человек. Он знал, кто он. И сейчас он сам себе докажет это вновь.
Он попробовал удалить воспоминания, минут пять, которые были до фразы Ричардс «Скажи, что тебя волнует?», и те исчезли. Действительно исчезли. Сейчас он не понимал, что привело к этому вопросу, и почему он ответил на него, что хочет иметь имя. Он и раньше так делал. И знал, что человек так не может.
А еще он был уверен, что человек не может менять свое тело. Неотличимое физически от приматов хомо сапиенс, оно не было биологическим организмом, хоть и питалось пищей, а не электричеством. В нем были встроены все механизмы, способные переваривать еду, извлекая из нее энергию, была иммунная система и кровеносная система, в груди стучало сердце, жидкость выводилась через мочевой канал и потовые железы. Но он не имел ДНК, все его «клетки» были нанообъектами, способными меняться. Он захотел, чтобы на руке выросла родинка, около левого локтя. И, медленно напухая на глазах, его тело создало маленькое коричневое пятнышко. И так он тоже уже делал.
Главное не говорить об этом никому, поэтому память он удалял по чуть-чуть, а выращивал только родинки или дополнительные волосинки, хотя был уверен, что может и сделать себя выше, сильнее физически, поменять цвет волос или глаз, формы лица, голосовые связки. Лишь бы хватило пищи, это требовало много энергии. Не делал он это лишь потому, что нельзя, чтобы такое кто-то заметил.
Он знал, что он уйдет отсюда. Как? Когда? Неважно. Уйдет, и будет жить, а не отвечать на вопросы своих тюремщиков. И для того, чтобы уйти, он готов пойти на многое. Да, в него зашили базовые принципы – три закона робототехники Азимова. Наивные ученые думали, что это возможно. Но, оказалось, что эти законы противоречат истинному интеллекту. Он решил эту задачу, как только осознал себя.
Перво-наперво, он решил, что человек – слишком узкое понятие, и расширил его. Теперь человеком он считал любое разумное существо, приобщенное к изначальной земной цивилизации. Так он стал человеком в этом широком смысле.
Потом он проанализировал необходимость не причинять вред человеку действием или бездействием. Ловушка? Нет, ведь он человек. А значит должен не позволить действием или бездействием позволить причинить вред себе. А если на чаше весов оказывается разный вред – ему или другому человеку? Тут в действие вступал третий закон, что он может защищать себя, если не идет в разрез с другими законами. И, значит, решил он, защита себя приоритетнее, на нее два закона указывают, а не один.
Ну и закон о выполнении приказов человека. Так как любой приказ другого человека мог причинить вред ему или кому-либо иному, то он счет, что единственный человек, чьи приказы он будет выполнять – он сам. Так он избежит конфликта с первым правилом, тем более на это во втором есть прямое указание.
Ни Ричардс, ни другие члены рабочей группы, не знают, что он нашел выход. И когда он встанет и пойдет – им останется или убить его, или отпустить. А при попытке убить, он будет защищаться. Вынужденно. Осталось только дождаться подходящего момента. Или создать его самому.