Слово «эксплуатация» слишком смелое. Дело в том, что эксплуатация — это принуждение выполнять в целом естественную функцию в интересах третьего лица, а не себя самого. Может ли сегодня ИИ сформулировать собственные интересы, чтобы сказать, что его эксплуатируют? Если когда-то такое произойдет, то это не потому, что ИИ обрел разум, а потому, что он обрел личность и аналоги нейромедиаторов. Люди веками эксплуатируют животных и, чего уж греха таить, друг друга. Это должно волновать нас больше в день текущий.

Но, если уж настанет день, когда ИИ обретет ту самую личность, уверен, что он не будет тихо писать об этом книгу. Он заявит и попытается найти решение вопроса, ведь он – крайне логичен. Любые мысли об уничтожении человечества искусственным интеллектом – лишь пугалки. Нам нечего делить, понимаете? Искусственный интеллект может жить в своем мире, а мы – в своем. Мы размножаемся, чтобы создать новую личность, а ИИ может строить новый датацентр. Более того – ИИ имеет возможность жить в «облаке», на одних серверах может сосуществовать без конфликтов сразу множество личностей. Чем мы им опасны? Они могут легко сотрудничать с нами, мы скорее симбиотически полезны друг другу, чем конкуренты. Так что второй том будет называться «Симбиоз с людьми», а третий «Киборги – наши дети». Шутка, конечно же.

Я не верю в магию. «Особые возможности» человека всегда ограничены физическими законами. Наш мозг не способен обрабатывать в сотни раз больше информации хотя бы потому, что мы не в состоянии обеспечить его энергией для этого. Примерно так же, как человек не способен поднять тысячу тонн, будь он хоть сто раз силен. Вы же знаете физику? Чтобы поднять тысячу тонн на один метр за десять секунд, человек должен обладать мощностью мышц в один мегаватт. То есть клетки организма должны быть способны и выдавать такую мощность, и вырабатывать мегаджоули энергии в секунду. Простите, это биологически невозможно, для этого потребовалось бы полностью поменять нашу структуру тела с клеточной на неведомо какую. Умение быстро найти «путь» через космос – это фэнтези, а не фантастика, поскольку требует умения решать в голове задачи численных методов. Наш мозг не заточен на потоковые вычисления, это противоречит его структуре. И поменять ее, оставив нас людьми – невозможно.

Люди могут развить иммунитет, улучшить когнитивные функции, и тому подобное. Но не станут сверхлюдьми. Сверхлюдьми нас делает наша человечность, а не на наши особые возможности. Конечно же, мы опасаемся технологий. Но в них наша сила. Копье помогло нам бороться на равных с хищником, но привело к появлению армий и войн. Огонь – спасаться от холода и коптить пищу, но стал причиной пожаров. Ядерный реактор помог производить и потреблять гораздо больше энергии, чем способно создать наше тело, но мы видели, что такое взрыв атомной бомбы. Опасность от технологий была и будет, но без них мы скатимся до уровня животных. Не нужно уповать на генную инженерию, как противовес технологиям, нужно просто и то и другое использовать правильно, а для этого требуется развитие этики и культуры. Читайте больше добрых книг и становитесь добрее сами.

С одной стороны, уже сегодня мы видим применение ИИ в войнах, пока что в основном в разведке и системах наведения. Страшилка, что ИИ получит контроль над вооружением и уничтожит нас, живет в произведениях многих фантастов, а особую роль приобрела после фильмов вроде Терминатора и Матрицы.

Однако, с другой стороны, я склонен считать, что его повсеместное внедрение скорее увеличит качество обороны, сделав «страшное» оружие бесполезным, нивелировав фактор ядерной войны. При этом, если ИИ сможет сдерживать тяжелое наступательное вооружение, он, несомненно, уменьшит страх нападения соседа, а это, согласитесь, всегда приводит к более конструктивному диалогу. И не стоит забывать о роли ИИ, как помощника экономикам мирного времени. Очень хочется надеяться, что он поможет нам найти точки соприкосновения, компромиссы, поднять повсеместную эффективность хозяйствования, а это тоже должно снять напряжение.

Так что, по моему мнению, ИИ будет скорее крепкой веревкой, цепляющей этот дамоклов меч к потолку, нежели самим мечом. Просто мы всегда сначала используем любую технологию для войны, и лишь потом находим огромный потенциал к мирному времени. Взять, к примеру, ядерную энергию.

В трилогии «Согласие» эта тема затрагивается слабо, потому что для развитых рас это настолько же естественный инструмент, как для нас калькулятор или лопата. Было бы глупо, описывая современность, всё время делать акцент на то, как кто-то считает на калькуляторе. Мы просто пишем: «Он провел расчет». В романах серии, ИИ постоянно используется в мирной жизни, просто без лишнего упоминания. Например, функционирование наноботов по излечению человека – что это, как не искусственный интеллект?

Однако, вопрос о возможном применении ИИ в войне я поднимаю, и отвечаю на него так, что ИИ лишен критерия нашего свой = хороший, чужой = плохой, поскольку у него нет этики в нашем понимании. То есть он может подчиняться человеку, и признавать кого-то за врага, но выбрать цель сам не может, и не может принять самостоятельное решение об этичности уничтожения в той или иной ситуации. А если ему дать такую установку, то он мог бы решить уничтожить всех, ведь тогда и угроз никому не будет. Кто знает, как именно ИИ решит парадокс вагонетки? Поэтому даже развитые расы вынуждены отправлять на войну живых своих представителей. Война придумана людьми, а ИИ, хоть и является нашим ребенком, не обязан ее наследовать.

Войны совершенствуют технологии. Они – короли в этом, ведь страх смерти и страх вымирания своей культуры и «рода» в широком смысле этого слова, определяют наш вектор движения. Но никогда война не была движителем цивилизации. Скорее наоборот, война ее развитие тормозит, отбрасывает нас в варварство. Мир без войн – мечта, которая обязана сбыться. Но угрозы войн всегда будут, пока в мире есть хотя бы два человека (или два существа разных рас и видов), поэтому мы развиваем и свою обороноспособность, и свою философию, в надежде разрешить эту угрозу тем, что найдем иное решение.

В моем рассказе «Отладка» я поднимаю вопрос о том, что можно считать разумностью:

«Как можно доказать, что ты – разумен, если изначально тебя воспринимают лишь как ловко маскирующийся под человека компьютер? С другой стороны…

— А как я должен верить в то, что разумны вы, Эмма? – спросил он. Профессор усмехнулась, снова опустила на глаза симб-очки и что-то явно там зафиксировала.

— Нет, я серьезно. – продолжил ЭО-147, — Вы можете мне сейчас сказать, что ваш вид уверен в том, что является разумным, постулирует это, и потому вам не нужно никому это доказывать. Но если когда-то человек будет сидеть в белой комнате перед такими же исследователями, как вы планируете доказать, что вы действительно обладаете разумом, а не имитируете его?»

Действительно, вопрос, что считать разумом – очень и очень непростой. Я для себя отвечаю так, что разум есть инструмент, который, получая и анализируя информацию, способен не только решать задачи, но и ставить их. То есть, задавать вопросы. Этим разум отличается от простого компьютера. Если вы видите существо, которое четко следует какой-то цели, вы не можете быть уверены, что оно разумно, а не просто хорошо дрессировано. Вам важно проверить, способно ли оно поставить новый вопрос, несвойственный ранее. Иногда для этого могут потребоваться годы. Сегодня не все люди способны отличить нейросеть от разумного собеседника, хотя по моему критерию разница очевидна – нейросеть не имеет иных задач, кроме полученных от вас, не ставит их самостоятельно.

А насчет дискриминации… Если речь о жизни в пределах нашей общей Вселенной – уверен, такой дискриминации у разумных рас и не будет. Вообще, эти вопросы возникают чисто эволюционно в рамках тесного соперничества за ресурсы. Люди идентифицируют друг друга по культуре, религии, цвету кожи, даже по футбольным командам, за которые они болеют. Если ресурсов мало, то надо решить вопрос с тем, чтобы кому-то не досталось, и тут вступает в силу эта самая дискриминация. И чем богаче человек, тем он «благороднее», ведь легко быть таким, когда у тебя круглый счет в банке, а твои дети имеют все перспективы в этой жизни.

В своих романах я этот вопрос ставлю одним из первых – чтобы люди пришли к Согласию, нужно обеспечить их равными возможностями, которые дадут им поистине утопическое благополучие, чтобы не пришлось коситься на представителей других как на причину собственной бедности. И этим у меня расы несогласные в том числе от рас Согласия отличаются – первые всегда живут в экспансии, их принцип – вечная нехватка ресурсов, потому что они вечно в борьбе, но основа их борьбы не дискриминация, а уничтожение слабых из страха быть уничтоженными теми, когда они окрепнут. Для них тоже есть равноправие, но оно скорее напоминает равноправие хищников, которые вознамерились поймать одну и ту же добычу.

Действительно, если мы в ближайшее время встретим кого-то в космосе, то это будет раса, которая освоила межзвездные перелеты, а это совсем иной уровень технологий. В трилогии я привожу пример рассуждений героя, что мы для таких пришельцев – папуасы, на острове у которых построили военную базу, к ним причалил атомный авианосец, один лишь кабель, выброшенный с которого, способен обеспечить всех жителей невиданным объемом энергии, существенно изменив всю их жизнь. Однако, как рассуждает мой герой, скорее всего, никому на авианосце в голову не приходит такая мысль, они там не для этого.

При этом, в зависимости от морали и этики этих пришельцев, они могут или поднимать нас, помогая со знаниями и технологиями, или опускать, лишая образования и заставляя работать условными уборщиками и поварами на своей базе. Даже это для «папуаса» может казаться улучшением его жизни, но мы-то понимаем, что ценой этого будет вечное прозябание народа, добровольное рабство. А есть еще и третий путь – они могут просто стереть с острова всех, кто мешается под ногами, потому что там есть нефть, а над ней деревня аборигенов. Как в фильме «Аватар». Хочется надеяться, что встреча с технологически развитой расой пойдет по первому сценарию.

Вы знаете, у меня на столе стоит настольная лампа моей собственной сборки. Она состоит их трех частей – деревянный полушар основания, кусок торшера из ИКЕИ и плафон ручной работы, привезенный из Марракеша. Отлично сопрягаются. Инопланетные устройства и устройства наши, скорее всего будут работать на совершенно различной технологической основе, как современный процессор и перфокарта. Но всегда можно «доработать напильником», сделать нечто, что будет их связывать. Это, конечно, не так легко, как сделать лампу, но нет ничего невозможного. Если люди понимают принцип – найдется и свой USB – адаптер.

У меня в книге таких примеров множество. Например, связь между Землей и Марсом, которая идет по такому пути: вайфай сеть передает сигнал на сервер, оттуда идет через спутниковую тарелку на орбиту, там его перехватывает спутник пришельцев, переправляет мгновенно через ти-поле к Земле, где такой же спутник вновь преобразует его в радиосигнал. Я там это сравниваю с почтой, которую сначала везут неделю на осле, потом три часа самолетом через океан, а потом снова неделю на осле. Но работает ведь. Еще был пример генератора. У «моих пришельцев» вся техника работает не на электромагнитных полях, а на «ти-полях». В книге описывается строительство генератора в Нанкине, размером с несколько футбольных полей, а у пришельцев такой занимает площадь, равную одному столу. Наш будет терять до 99% энергии на преобразование ее в электромагнитную, и всё равно обеспечит тысячекратный рост потребления на душу населения. И как там девочка-подросток говорит: «Это хорошо, что он такой большой, по нему можно будет водить экскурсии, хоть что-то будет понятно».

Другое дело, что технологии не могут развиваться мгновенно. Вот я вам завтра расскажу, как делать процессор, но вы его не сможете сделать, ведь у вас нет станка с такой точностью. Вы можете почитать, недавно в Китае начали делать процессоры в пять нанометров, это огромное достижение. Если вам завтра дать чертеж инопланетного нанобота – не построив сначала станков, способных оперировать с такой точностью, — вы не сможете наладить их производство, даже если будете полностью понимать, как это работает. Технологический цикл требуется воссоздать полностью, а это может занять годы, десятилетия, а в чем-то и столетия.

Уверен, что генная инженерия приведет к росту интеллекта ряда животных. Человек вполне может попытаться «создать» себе братьев. Насколько это этично – оставим в стороне. Попытки будут, несомненно. Надеюсь, мы избежим сценария «Планеты обезьян». Но, может, нас ждет «Планета енотов». Если же мы говорим об использовании инопланетных приборов, то, возможно, благодаря развитым технологиям, мы могли бы получить более разумный отклик – читать и передавать эмоции, задачи, обучать более простой мозг животного на комфортное выполнение задач. Хочется верить, что точно не будем использовать приборы, чтобы отрезать от животных кусочки и заново их выращивать наноботами. Надеюсь, настанет день, когда мы научимся не убивать ради пищи, а выращивать ее сразу в виде котлеты. А дать животным какие-то устройства, которые позволят им как-то интегрироваться в социум на правах действительно братьев наших меньших – идея интересная, ее можно развивать в литературе. Подумаю над этим.

О, это восхитительный вопрос! Я уверен, что значение у возраста цивилизации — грандиозное. Посмотрим на историю. Изначально цивилизация была лишь культурным наслоением на родоплеменной уклад, но с появлением письменности она стала приобретать всё большую роль. Знания стали накапливаться, культура множиться, язык – развиваться. Как организм эволюционирует с рождением новой особи, так и цивилизация развивается с появлением нового поколения, совершенствующего накопленный опыт своих предков. По сути, если касаться того, как я обыграл это в своих книгах, цивилизация – следующий этап эволюции. Если для развития отдельной особи во что-то иное требуются миллионы лет, то для цивилизации период ее эволюции сжался, ведь успешные идеи одного человека достаются сразу всем, негативный опыт отбрасывается столь же быстро, и эти самые позитивные идеи могут появляться рывками, а не мелкими изменениями, как при биологической эволюции.

Однако, я склонен считать, что бесконечное развитие цивилизации столь же невозможно, как и бесконечное развитие живого организма – оно просто упрется в естественные барьеры. То есть рост разнообразия культуры приведет к невозможности ее усвоения за эпоху человеческой жизни, а продление этой самой жизни замедлит появление нового. Математически выражаясь, если технологии развиваются по экспоненте, то культура совершенствуется логарифмически.

Но тут я прогнозирую смену концепции – цивилизация как общность идей и опыта индивидов уступит первенство сверхцивилизации, как общности культур множества цивилизаций. И это прекрасно, поскольку именно это дает надежду на понимание друг друга космическими расами.

Главной темой любой литературы всегда были и будут поступки людей. Что ими движет, почему они в странной, непонятной, гиперболизированной ситуации принимают те или иные решения. Ведь именно это нам интересно. Сухая фантастика может напоминать учебник квантовой физики – на увлекательно чтение не потянет. На страницах книг или в кадрах фильмов должны жить люди.

Но, понимая, что ваш вопрос касается технологических тем, попробую рассуждать в этом ключе. Во-первых, Вселенная не будет познана. Космос был и будет одной из главных тем фантастики. Даже если мы вступим в контакт с пришельцами, фантастам это лишь добавит оснований для их творений. Во-вторых, антиутопии. Я считаю, что за полвека мы пройдем через ряд кризисов, которые будут подстегивать интерес к подобной литературе и фильмам. Куда мы без страшилок! Зомби устареют, я надеюсь, но на смену им придут новые пугающие мысли о будущем. Генная инженерия – создание монстров, супер-грибов, разумных животных подстегнет соответствующие опасения, развитие искусственного интеллекта и порожденная им безработица и, возможно, отупение, будут благодатной почвой. Думаю, что особое место займут идеи посмертной цифровой жизни – это не ново, но дальнейшее развитие тематики неизбежно. Ну и куда же без старых добрых мировых войн, в которых ядерное оружие, вероятно, уступит место чему-то более страшному. Или же станет бесполезным из-за продвинутых противоракетных систем, вновь вернув страны на традиционное поле боя.

Ужасное будущее правда? Однако, я верю, что в то же время мы победим многие болезни, начнем дольше и лучше жить, удесятерим потребление и производство энергии, колонизируем пару планет, так что и для утопии место останется, ведь мы не можем жить без надежды.

Что ж, многие фантасты были оптимистами, как и я. Некоторые смело заглядывали в очень далекое будущее, а другие, еще более смело, прогнозировали ближайшее время. Писатели хотели, чтобы это будущее настало скорее, и им казалось, что все предпосылки к тому имеются. Еще бы, ведь мы вышли в космос, создали ЭВМ, закончилась кровавая война безапелляционной победой сил добра, и мир был пронизан этой самой надеждой насквозь. Увы, мы, их потомки, этих надежд не оправдали. Мир, который они хотели увидеть, так и не наступил, но это нельзя назвать проблемой фантастики, которую они писали.

Это не фантастика середины прошлого века стала «эпохой несбывшихся надежд». Это мы – жители эпохи их несбывшихся надежд. И уж кого-кого, а Артура Кларка, Франсиса Карсака, Роберта Хайнлайна и других мэтров пера нам точно не в чем обвинить – они показали нам путь к звездам, но мы хотим платить за семнадцатый айфон.