Искусственный интеллект в художественной литературе и будущее войны

Неизвестный остроумный датский парламентарий однажды заявил: «Трудно делать прогнозы, особенно в отношении будущего». Нигде прогнозы не являются более сложными, чем в сфере национальной безопасности. Исходы войн могут иметь мало отношения к ожиданиям. Несмотря на трудности в предсказании будущего, оно является продуктом человеческого воображения. Мы можем обратиться к художественной литературе, чтобы предсказать будущее, но мы должны быть осторожны с этим.

Наши страхи и надежды на будущее часто проявляются в научной фантастике (sci‑fi). Менее чем через десять лет после того, как «Ханли» стала первой подводной лодкой, потопившей другое судно, книга «Двадцать тысяч лье под водой» предсказала влияние подводной войны в XX веке. «Война в воздухе» Герберта Уэллса предсказала воздушную войну за годы до Первой мировой войны. «Бак Роджерс в XXV веке» и «Флэш Гордон» отразили общий оптимизм в отношении технологий в начале XX века. Напротив, реальные страхи перед ядерным апокалипсисом 1950-х годов нашли выражение в таких фильмах, как «День, когда Земля остановилась». Такие фильмы, как «Военные игры» и «День после», отражали озабоченность международной политикой.

К сожалению, те же самые качества, которыми мы восхищаемся в хорошей научной фантастике, могут отвлечь наше внимание от непосредственных вызовов к проблемам отдаленного будущего или раздуть надежды и опасения по поводу будущего потенциала ИИ. Создатели научной фантастики изобретательны – они рассказывают хорошую историю. Рассказчики не позволяют таким тривиальным вещам, как реальность, мешать хорошему сюжету. Стратеги также не должны позволять убедительной истории мешать их работе. К сожалению, великие рассказчики умеют обманывать стратегов, заставляя их смешивать истории с прогнозами.

Художественная литература – отличный способ изучить возможности и риски ИИ. При правильном подходе художественная литература помогает нам принимать решения. К сожалению, многие изображения ИИ в художественной литературе фокусируются на слишком далеком будущем, иногда приписывая способности, которые вряд ли когда-либо будут существовать, и, следовательно, не учитывают проблемы, с которыми мы столкнемся в ближайшее время.

ИИ как злодей

Среди писателей-фантастов Айзек Азимов, Фрэнк Герберт и Артур Кларк назвали ИИ потенциальной угрозой. ИИ Азимова в основном доброжелательный, как у Дэниела Оливо в серии «Роботы». Книги Азимова хороши отчасти потому, что он предлагает «Три закона робототехники» в качестве необходимой защиты, признавая, что ИИ может быть опасен. «Три закона робототехники» по-прежнему влияют на то, как мы думаем об этике и ИИ. ИИ никогда не появляется в серии книг Герберта «Дюна», потому что до времени повествования человечество и ИИ вели экзистенциальную схватку во время Батлерианского джихада. Кларк создал архетипического злодея с искусственным интеллектом HAL. HAL обретает разум, сходит с ума из-за противоречивых команд и пытается убить астронавтов, которым он должен служить.

«Звездный путь» стал образцом для многих будущих научно-фантастических историй с участием ИИ. В первом сезоне в эпизоде с соответствующим названием «The Ultimate Computer» компьютер M-5 представляется нам как машина, способная управлять космическим кораблем. Частично угроза со стороны М-5 заключалась в том, что он может заменить командиров-людей. Конечно, возможность того, что ИИ заменит людей в некоторых профессиях, остается проблемой. Фатальным недостатком М-5 было то, что разработчик использовал свои собственные, не совсем разумные шаблоны мозга для программирования М-5. Во втором сезоне в эпизоде ​​«Подмена» рассказывается о Кочевнике – зонде, запущенном с Земли в XXI веке, который обрел разум и огромные силы. Кочевник стал разумным, когда он слился с инопланетным зондом, что наделило Кочевника императивом убить всю несовершенную жизнь. В обеих историях капитан Кирк смог превзойти ИИ, используя логические противоречия в предположениях ИИ – прием, который будет повторяться во многих будущих изображениях ИИ.

Переломным моментом в изображении ИИ в научной фантастике стал рассказ Харлана Эллисона «У меня нет рта, и я должен кричать» (IHNMIMS), опубликованный в 1968 году. Эллисон работал над «Звездным путем», но мало разделял его оптимизм. До IHNMIMS сверхдержавы стремились создать ИИ, а США создали «АМ», который получает контроль над ядерным оружием. AM запускает ядерное оружие и оставляет лишь несколько человек для ужасных пыток. Без объяснения причин Эллисон наделяет AM способностями, превосходящими возможности любого разумного ИИ, но AM явно является ИИ. Во многих смыслах абсолютное зло AM воплощает в себе самые большие опасения по поводу ИИ: он не просто сломается, но станет злом.

Ничто не превосходит «Терминатора», выпущенного в 1984 году, с точки зрения его важности для обсуждения ИИ. Во вселенной Терминатора компьютер с искусственным интеллектом по имени Скайнет становится разумным, получает контроль над ядерным оружием и начинает войну против людей. Скайнет остается притчей во языцех для неправильного ИИ и настоящим страхом для многих людей.

«Машины» из «Матрицы», выпущенной в 1991 году, – более поздний выдающийся злодей с искусственным интеллектом. В сюжетной линии «Матрицы» люди и управляемые искусственным интеллектом машины воюют на протяжении поколений. Мы точно не знаем, как началась война, но машины одержали верх и теперь используют людей в матричной симуляции. Хотя ИИ в «Матрице» не так злонамерен, как АМ из IHNMIMS, а некоторые откровенно ему сочувствуют, у человечества почти нет надежды в борьбе против ИИ. Во многих смыслах именно ИИ «Матрицы» люди боятся больше всего, потому что у них не будет возможности дать отпор. В «Матрице» машины настолько лучше во всем, что нам, людям, суждено попасть в рабство к ним.

ИИ как герой

Когда ИИ ведет себя героически в повествовании, вы редко видите, что он воспринимается как ИИ. Реальный ИИ живет на серверах без лица, имени или личности, и злодейский ИИ обычно изображается аналогичным образом. Если персонаж ИИ героический, он обычно приобретает человеческие характеристики, включая эмоции и сочувствие. У героических ИИ-персонажей есть имена, личности и друзья, как и у живых персонажей. Следовательно, в массовом сознании легко забыть, что интеллект героя искусственный. Вам было бы трудно обсуждать героические истории об ИИ, если бы вы ограничились ИИ, как это обычно обсуждается в популярной концепции, и это часть проблемы. Если у ИИ есть лицо, кажется, что он испытывает эмоции или выражает сочувствие, мы не думаем о нем как об ИИ. Может показаться странным, что добавление поверхностных характеристик ИИ может заставить нас так думать, но люди влюбляются в Siri. Есть даже фильм о любви к ИИ.

Многие из положительных взглядов на ИИ следуют пути Азимова и превращают их в роботов. Ни публика, ни персонажи истории не относятся к дроидам в «Звездных войнах» как к ИИ, но это так. Кроме того, C3-PO и R2-D2 занимают центральное место в истории. Точно так же, когда Джонни 5 случайно ожил, это было поводом для радости, а не страха. В киноверсии 2004 года «Я, робот» (едва узнаваемой, поскольку она связана с рассказом Азимова) ИИ – злодей, но героический Сонни – тоже ИИ. Дейта, обладающий самосознанием ИИ-андроид, был одновременно одним из самых популярных персонажей в «Звездном пути: Следующее поколение» и фигурой, безусловно, достойной восхищения.

Интересно, что ИИ также часто является героем, как и злодеем в подобных историях. В «Tron», выпущенном в 1982 году, Master Control Program (MCP) имеет большинство тех же характеристик, что и Скайнет, включая цель получить контроль над ядерным оружием. ИИ-программа под названием CLU побеждает MCP, срывая цели MCP. Разница между MCP/SkyNet и CLU заключалась не в искусственном интеллекте, а в этических соображениях их создателей.

Героический ИИ часто ненавязчив. На протяжении большей части сериала «Звездный путь» основной сеттинг работает с использованием ИИ. Корабельный компьютер говорит, понимает язык и (в более поздних сериях) может создавать реалистичные симуляции на голопалубе. Известный капитан Пикард из «Звездного пути: Следующее поколение» может сказать: «Чай, Эрл Грей, горячий» – и напиток появлялся мгновенно.

Оба взгляда на ИИ создают проблемы

Легко спутать как положительное, так и отрицательное изображение ИИ с реальным миром, и такое смешение затрудняет использование ИИ в международной стратегии. ИИ может быть полезным инструментом при правильном применении и создает серьезные проблемы при неправильном использовании. Люди должны знать, когда можно использовать тот или иной инструмент и какие проблемы он может создать. Неспособность отличить элементы реальности в вымысле от элементов, присутствующих только для того, чтобы сделать историю возможной, а затем импортировать это понимание в наши мыслительные процессы, затрудняет правильное применение ИИ.

Люди с большими ожиданиями хотят большего, чем ИИ может дать сейчас, и могут игнорировать менее драматичные способы использования, которые работают сейчас. Многие страны, в том числе США, в настоящее время обучают ИИ управлять самолетами по понятным причинам. Когда самолеты разбиваются, пилоты гибнут, а нехватка пилотов – обычное дело. Хотя я считаю, что в конечном итоге мы увидим самолеты с искусственным интеллектом, но пилоты с искусственным интеллектом никогда не появятся. Риск, связанный с пилотами ИИ, может оказаться слишком велик для общественности, или технологические проблемы могут оказаться непреодолимыми. Ожидание пилотов ИИ упускает из виду реальное использование, которое существует сейчас. Разве, например, в пакете Microsoft Office, вероятно, уже установленном на вашем компьютере, нет инструментов искусственного интеллекта для автоматизации повседневных задач? Возможно, у нас никогда не будет ИИ-стратегов, но у нас уже есть ИИ-секретари.

Люди со страхами ошибочно принимают постепенные улучшения ИИ за первый шаг к апокалипсису, но упускают из виду реальные риски. Все системы иногда дают сбои, но мы все равно их используем, потому что просчитываем, смягчаем и принимаем риски. Некоторые реальные риски ИИ влекут за собой разрушение рынков труда, атрофию важных навыков и институтов и просто сбои в работе, как и любой другой инструмент. Чрезмерное сосредоточение внимания на экстремальных и маловероятных результатах рискует отвлечь внимание и усилия от решения вероятных проблем. Мы определенно не хотим апокалипсиса роботов, но это низкая планка. Мы также должны смягчать роль ИИ в социальных потрясениях, политических репрессиях или простых ошибках.

Дискуссии об ИИ часто сосредоточены на автоматизированных системах вооружения, ресурсоемкой обработке или расширении стратегического мышления с помощью ИИ. Многие барьеры, в том числе социальные проблемы, могут оказаться непреодолимыми. Напротив, существующее в настоящее время реальное использование ИИ не получает должного внимания. ИИ в художественной литературе отпугивает людей от разработки или его использования. Есть обоснованные опасения по поводу выхода ИИ из-под контроля, но системы вооружения, компьютеры и инструменты постоянно выходят из строя, иногда с разрушительными последствиями. Мы по-прежнему используем эти технологии, потому что мы просчитываем и принимаем риски. Когда вымышленный ИИ ломается, ИИ становится богоподобным и часто злонамеренным. Сломанные самолеты с искусственным интеллектом не просто разбиваются, они охотятся за вами.

Негативные и позитивные образы создают необоснованно завышенные ожидания. У хороших и плохих моделей ИИ есть невозможные способности. ИИ часто предсказывает будущее, которому реальность никогда не соответствует. Нейронная сеть, правильно идентифицирующая фотографию собаки в 98% случаев, – это потрясающе, но идентификация изображения выглядит слабой по сравнению с ясновидением.

Вымышленные изображения ИИ редко объясняют, как развивается ИИ. Сокращение процесса разработки создает впечатление, что программы могут перейти от строк кода к разуму за считанные секунды. Обучение моделей искусственного интеллекта является сложным и, что наиболее важно, ресурсоемким. Знание ограничений ИИ стратегически важно и должно успокоить напуганных и умерить оптимистичные ожидания.

Лучший пример

Научная фантастика остается важным стратегическим инструментом для понимания будущего. По мере того, как ИИ становится все более распространенным явлением, новая научная фантастика все лучше изображает ИИ. «Семя» WebToon – это лучшая вымышленная интерпретация ИИ, которую я когда-либо видел. Искусство прекрасно; персонажи привлекательны; сюжет продуман. Лучше всего то, что комикс доступен бесплатно, так что ознакомьтесь с ним, даже если вы не любите комиксы.

«Семя» показывает, почему научная фантастика так важна как инструмент для размышлений о последствиях, исследуя возможности использования ИИ военными стратегами. Главная героиня, Эмма, начинает использовать искусственный интеллект, чтобы преодолеть свою межличностную тревогу. Сначала она считает, что ИИ, который она называет «Терри», – это чат-бот. В начале отношений Терри учит Эмму быть более уверенной в себе. Тренер по ИИ может стать важным инструментом, позволяющим людям развивать навыки межличностного общения, улучшая взаимодействие и улучшая личные и экономические результаты. Я принимаю участие в разработке коучинга ИИ, поэтому я понимаю эту идею. Я не вникал в это, пока не прочитал нечто подобное в рассказе.

Более здоровое понимание вымышленных изображений ИИ может послужить лучшим предостережением и вдохновением. «1984» Оруэлла и «О дивный новый мир» Хаксли до сих пор вносят свой вклад в политический дискурс, потому что мы фокусируемся на их предупреждениях о политическом и социальном контроле. Общество может опираться на тысячелетний опыт. Все понимают, что настоящей проблемой в «Мальчике, который кричал о волках» был нечестный мальчик, а не недостаточно быстрые силы защиты деревни или необычайно хищные волки. Серьезное размышление об ИИ, вероятно, приведет к таким же здравым выводам о нем.