ВЛАДИМИР ПРОХВАТИЛОВ
Гибридный интеллект Илона Маска – инструмент войны
Компания Илона Маска Neuralink сообщила, что она получила разрешение на начало испытаний нейроимплантов на людях. Предполагается, что специалистами Neuralink будут созданы импланты, которые после вживления в человеческий мозг позволят мозгу напрямую взаимодействовать с компьютерным ПО, в том числе использовать технологии искусственного интеллекта.
В 2021 году Маск говорил, что его стартап Neuralink успешно вживил в мозг обезьяны чип, позволяющий ей «силой мысли» играть в видеоигры. Об этом он рассказал слушателям в приложении Clubhouse: «У нас есть обезьяна с имплантатом в черепе с крошечными проводами. Она может играть в видеоигры с помощью своего разума». По его словам, обезьяна «счастлива» и живет в «лучшем обезьяньем помещении в мире», которое Neuralink устроил для подопытных животных. «Мы хотим, чтобы они играли друг с другом в интеллектуальный пинг-понг», — заявил Маск.
Стартап Neuralink, занимающийся разработкой интерфейса «мозг-компьютер», был основан в 2016 году. Он привлек $158 млн финансирования, $100 млн из которых предоставил Маск. Заявленная цель создаваемой технологии — устранение последствий травм головного и спинного мозга и восполнение утраченных способностей с помощью имплантированного чипа.
Маск уверен, что разрабатываемый компанией интерфейс «мозг-машина» позволит достичь человечеству симбиоза с искусственным интеллектом (ИИ). «Мы получим возможность слиться с ИИ. Это будет необязательно, только если вы этого хотите», — говорит он. У человеческого мозга есть лимбическая система, которая отвечает за первичные нужды, желания, эмоции. Есть моторная кора, отвечающая за мыслительный процесс. Однако, с точки зрения Маска, биологический интеллект человека несовершенен. Он предлагает расширить возможности человеческого мозга, соединив его с ИИ и создав гибридный интеллект (ГИ). Собственно, ГИ уже существует, так как люди взаимодействуют со смартфонами, компьютерами, но скорость взаимодействия с ними крайне мала.
При этом скорость ввода информации в мозг гораздо выше из-за особенностей работы зрения, но тоже невелика. Низкая пропускная способность ограничивает возможность человека слиться с искусственным интеллектом.
По словам Илона Маска, искусственный интеллект развивается так быстро, что людям придется слиться с цифровым интеллектом, чтобы стать гибридом ИИ и человека. «Со временем мы, вероятно, увидим более тесное слияние биологического интеллекта и цифрового интеллекта», — говорил Маск на Всемирном правительственном саммите 2017 года в Дубае.
Разработки Neuralink по созданию гибридного интеллекта имеют стратегическую военную цель. Гибридный интеллект сможет резко повысить эффективность разведывательных и подрывных проектов Пентагона и ЦРУ.
Сегодня в рамках проекта EMBERS («Тлеющие угли»), направленного, как мы писали, на организацию и мониторинг социальных протестов в странах-мишенях, создан своего рода кентавр – симбиоз коллективного сознания людей и программных алгоритмов. Группа ученых взаимодействует с компьютерными алгоритмами, мониторящими данные о социальной ситуации в стране-мишени, имея целью разжигания тлеющих углей социальных протестов.
Главным разработчиком этих алгоритмов была Гизем Коркмаз, профессор Университета Вирджинии и главный исследователь схожего пентагоновского проекта Minerva. Она разработала сетевые и статистические модели, работающие с такими источниками, как социальные сети, новости и блоги «для прогнозирования социальных протестов, забастовок и результатов выборов в целевых странах Латинской Америки».
Гизем Коркмаз утверждает: «Гражданские беспорядки (акции протеста, забастовки и «захваты») варьируются от небольших ненасильственных акций протеста, направленных на решение конкретных проблем, до событий, которые превращаются в массовые беспорядки. Обнаружение и прогнозирование этих событий представляет ключевой интерес для социологов и политиков».
Это официальная версия тех задач, которые поставлены Пентагоном перед разработчиками и участниками проектов Minerva и EMBERS. В реальности эти проекты нацелены на разжигание социальных протестов и являются развитием военной программы The Human Terrain System («Система человеческого ландшафта»), к которой были привлечены антропологи, социологи, политологи, лингвисты, разрабатывавшие схемы управления менталитетом населения Ирака и Афганистана во время вторжения туда армии США.
Гибридный интеллект проектов Embers и Minerva имеет все перечисленные выше недостатки, вызванные медленной пропускной способностью тандема «человек-компьютер». Если же их объединить в одно целое, эффективность и быстродействие такого кентавра резко возрастут.
Старший научный сотрудник Центра технических исследований Финляндии и адъюнкт-профессор Технологического университета Тампере Стивен Фокс разрабатывает еще более совершенную модель ГИ, названную им «мульти-интеллектом» (МИ), предлагая использовать МИ в военных целях.
Он считает, что «сенсомоторные навыки человеческого тела гораздо труднее реконструировать в искусственный интеллект, чем задачи рассуждения, сосредоточенные в мозгу, что ограничивает возможности боевых систем гибридного интеллекта», и предлагает интегрировать разум человека и машины с интеллектом зверей и птиц: «Мультиинтеллектуальные гибридные системы могут быть созданы путем объединения различных видов естественного и искусственного интеллекта. Например, человеческий интеллект и птичий интеллект хищников объединяются для быстрого и экономичного сбития беспилотников».
Получившая боевое задание от чипированного человека-оператора, который в свою очередь получает информацию о ситуации на театре военных действий в реальном масштабе времени от ИИ, чипированная хищная птица «легко сможет схватить вражеский дрон, не поранившись лопастями его несущего винта».
Использование птичьего интеллекта в рамках МИ гораздо эффективнее, чем гибрид человека и ИИ, считает Фокс. «Мультиинтеллектуальные гибридные системы не должны ограничиваться ИИ, людьми и еще каким-нибудь одним естественным интеллектом, – пишет он. – Например, пчел можно использовать вместе с собаками, людьми и ИИ для обнаружения поставленных противником мин. Преимущество пчел в том, что они так же хороши, как собаки-ищейки, но их дешевле и быстрее обучать и они доступны в гораздо большем количестве».
Илон Маск под прикрытием гуманистической демагогии разрабатывает главный элемент будущего гибридного или мультиинтеллектуального кентавра – интерфейс. Он уже отработал чипирование обезьян и свиней и скоро возьмется за людей.
Что противопоставить этим зловещим замыслам и есть ли такая возможность? От нашего ответа на эти вопросы зависит наше будущее.
«Беспилотник влетит в окно». Игорь Ашманов – о кибержулье и изоляции Рунета
Автор – Игорь Ашманов
На днях стало известно об очередной крупной утечке персональных данных – в интернет попали клиентские базы крупных сетей гипермаркетов с телефонами и домашними адресами миллионов покупателей.
Об издержках цифровизации, цифровой гигиене и взрывном росте киберпреступности aif.ru поговорил с известным экспертом в области информационных технологий, членом Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ), президентом аналитической компании «Крибрум» Игорем Ашмановым.
«Украдены сотни миллиардов»
Виталий Цепляев, aif.ru: – Игорь Станиславович, цифровизация сделала удобнее жизнь многих. Но я знаю людей, которые к ее благам относятся настороженно и не пользуются гаджетами. Если человек хочет обходиться без электронных сервисов, должно ли государство их ему навязывать? Или в «новом дивном цифровом мире» он обречен стать изгоем?
Игорь Ашманов: – Конечно, государство должно дать людям возможность жить прежней, нецифровой жизнью. И продолжать, например, по требованию граждан выдавать им паспорта и любые другие документы в бумажном виде. К сожалению, многие наши чиновники, которые продвигают цифровизацию, этого не понимают. В их представлении противники цифровизации – это какие-то «луддиты», «старые бабки», не осознающие прелестей прогресса. Мысль о том, что нужно соблюдать права граждан, в голову этим чиновникам не приходит. Потому что цифровизация для них – это еще и способ «подняться», сделать карьеру, предстать в хорошем свете перед начальством. Плюс это дает им в руки мощный рычаг управления населением.
Поразительно, но во многих наших программах по цифровизации в принципе отсутствует такой обязательный раздел, как «риски». Он должен содержать анализ не только технических, но и социальных рисков, которые будет создавать предлагаемый проект цифровизации – и способы их предотвращения или компенсации.
А риски эти на самом деле огромны. Начнем с очевидного: попытки сделать цифровой документ (кадастровую запись, документ о собственности на квартиру или машину, диплом, паспорт, медкарту и т. п.) оригиналом, а бумажные документы считать копиями, или вообще отменить, почему-то вообще не учитывают того, что цифровые документы работают только там, где есть электричество. А если по каким-то причинам в данном месте его не будет? Нет электричества – нет электронного документа. А бумажный вы человеку уже не выдали, «за ненадобностью». И как ему быть?
Встает и вопрос с подделкой документов. Подделать бумажный документ довольно сложно, фальшивку может установить экспертиза. Кроме того, у него обычно есть копии. Подделать электронный документ куда проще, а независимых копий для проверки обычно не существует. Допустим, у вас, как у системного администратора, есть доступ к кадастру, в котором зафиксированы размеры и расположение земельных участков. Вы можете произвольно изменить эти данные, а потом уничтожить все следы своего вмешательства. И изменить границы того или иного участка в пользу заинтересованных лиц. Такие случаи уже были, насколько я слышал, в Краснодарском крае: менялись границы участков, а потом, в результате «пересогласования границ», они просто «отжимались» у владельцев.
Так что цифровизация дает огромные возможности для преступников, которые раньше им и не снились.
– Но есть же и обратные примеры. Когда, допустим, с помощью камер наблюдения компьютерные программы вычисляли преступников, которых до этого полиция годами не могла поймать.
– Да, какой-то части карманников и домушников, привыкших работать по старинке, современные технологии жизнь осложнили. Но в основном в результате «цифрового давления» мошенники сами мигрировали в цифровую сферу. Теперь им даже не надо выходить из дома, чтобы кого-то ограбить – достаточно выйти в интернет.
За несколько последних лет у населения были украдены сотни миллиардов рублей. Это стало возможным благодаря регулярным утечкам персональных данных наших граждан. Утекла уже как минимум сотня миллионов записей. И крадут их вовсе не какие-то внешние хакеры, на которых обычно кивают наши компании. Это полное вранье. Компании просто не хотят признать, что подавляющую часть данных клиентов «сливают» мошенникам свои же сотрудники – сисадмины, айтишники, техдиректора банков, мобильных операторов, госорганов и т. п. В даркнете существуют целые аукционы, где размещаются заказы на персональные данные. Скажем, запрашиваются данные такого-то банка в таком-то городе на всех вкладчиков, у которых на счету более 200 тыс. рублей. Тут же находится инсайдер из этого банка и требуемые данные продает. Причем он даже ничем не рискует. Уголовного наказания за незаконный оборот персональных данных у нас нет. Наказать по статье «мошенничество» могут только за использование этих данных, посреднику же, который купил их у сисадмина и продал мошеннику, почти ничего не грозит.
Персональные данные в нашем законодательстве до сих пор не признаются имуществом. Депутаты Госдумы обещали внести в эту весеннюю сессию законопроект об уголовной ответственности за незаконный оборот данных, но это пока не сделано. Принятию такого закона изо всех сил сопротивляются наши цифровые гиганты. На одном из совещаний в СПЧ представители ИТ– гиганта мне прямо об этом заявили: мол, если такой закон будет принят, «нам всем будет проще уволиться».
Естественно, что в таких условиях граждане имеют все основания беспокоиться. И не спешить передавать свои данные в руки, возможно, безалаберных, халатных или злонамеренных людей, откуда они могут напрямую уйти к мошенникам. А сейчас, во время военных действий с Украиной, и к СБУ. Представьте, что речь идет о персональных данных военнослужащих, сотрудников спецслужб и членов их семей.
Если эти данные становятся известны вражеской разведке, кто поручится, что после этого в окно квартиры этих людей однажды не залетит беспилотник?
«Проще отобрать смартфон у бабушки»
– Как обычному человеку застраховаться от того, чтобы его персональная информация не утекла к кому попало?
– Есть закон, по которому вы можете пойти в МФЦ и написать заявление о том, что не разрешаете использовать свои биометрические данные и требуете их отовсюду удалить. Кстати, на несовершеннолетних биометрию запрещено собирать в принципе. Это значит, что родители могут, например, запретить использование камер наблюдения в школе... Когда в каком-то учреждении вы подписываете согласие на использование ваших персональных данных, обращайте внимание на пункт, куда они могут передаваться. И смело вычеркивайте все, что вам покажется неоправданным.
– Вам самому звонили телефонные жулики – «сотрудники банков», «липовые» следователи?
– Бывало. Но выручают фильтры входящих звонков, кроме того, я обычно не отвечаю на звонки с незнакомых номеров.
Есть понятие «цифровой гигиены». И это тоже задача государства – научить граждан грамотно вести себя в новой информационной среде. Не брать трубку, если поступает звонок с неизвестного номера, не сообщать личную информацию анонимам и т. д. Особое внимание надо уделить самой уязвимой категории – пожилым людям.
Коллега рассказывал мне про знакомую бабушку, которой больше 80 лет. За последние два года ее «развели» на серьезные деньги четыре раза! Первый раз это был псевдовнук, который якобы «попал в ментовку» и просил перевести круглую сумму за свое освобождение. Потом был «сотрудник службы безопасности Сбербанка». Потом она «выиграла приз», потом ей предложили микрокредит... Никакие увещевания, что доверять незнакомцам нельзя, не помогали. «Да я все понимаю, но они же каждый раз предлагают что-то новое!» – отвечала она.
И я уверен, что эту бабушку обманут еще не раз – пока у нее будет что отбирать. Киберпреступники эксплуатируют, с одной стороны, человеческие страхи, с другой – жажду халявы. И то и другое, к сожалению, у описанной бабушки никуда не денется, перестроить ей эмоциональную структуру личности уже нельзя. У иных бабушек сейчас проще отобрать смартфон, чем научить безопасно им пользоваться.
– С появлением искусственного интеллекта проблема усугубляется?
– К сожалению, да. Технологии ИИ сейчас стали способны поддерживать связный диалог и позволяют мошенникам совершать уже не сто, а десять тысяч звонков в день. Нейронная сеть будет в состоянии вести диалог с жертвой абсолютно адекватный, абсолютно гипнотический. Если бабушка снимет трубку, она даже не поймет, что говорит с роботом, который имитирует голос ее внука. Причем робот будет наделен способностью отличать, «повелся» человек на том конце провода или нет...
Благодаря нарастающим утечкам данных мошенники знают о нас все больше. Раньше у них были только ваши ФИО и номер телефона. А теперь они могут предъявить вам настоящий номер вашего кредитного договора, назвать точный срок просрочки платежа... А по мере того, как будут утекать данные биометрии, технологии обмана будут становиться все изощреннее. Вам, например, могут прислать фейковое видео, на котором ваш родственник просит перевести деньги. Распознать подделку будет крайне сложно. А сделать ее на коленке сейчас сможет даже студент второго курса, просто скачав нужное приложение.
– Кажется, еще немного, и вы призовете остановить цифровизацию...
– Нам надо не остановить цифровизацию, а провести альтернативную цифровизацию. С человеческим лицом. В которой главными будут права и интересы гражданина, а не цифровизаторов. Будут учтены и минимизированы все риски. Для этого нам нужно принять соответствующий Цифровой кодекс. Пора понять: интернет в нашем доме – это то же самое, что вода, газ, электричество. Доставку этих ресурсов до потребителя государство жестко регулирует, контролирует и делает относительно безопасной. Все-таки вода из крана с кишечной палочкой или солями тяжелых металлов у нас дома не течет. Цифровая же среда заходит в наши квартиры практически без фильтрации. И она очень токсична. Обязанность государства – сделать эту среду базово безопасной.
Спуститься с чужих облаков
– Раньше считалось, что мошеннические кол-центры базируются в основном на Украине. С началом СВО ситуация как-то изменилась?
– Украина по-прежнему служит базой для кибержулья. Например, много его сидит в Харькове... На Украине эти ребята вольготно чувствуют себя уже лет 15-20, с Украины «выдачи нет». С российской территории их физически нельзя было достать. Но если раньше они занимались интернет-рекламой, спамом, перепродажей мутного трафика, то большинство из них сегодня работают на ВСУ, на ЦИПсО (Центр информационно-психологических операций). Мы видим некоторые из их рабочих чатов в Телеграме – в них десятки и даже сотни тысяч подписчиков. С детальным разделением труда: кто-то создает пропагандистский контент, кто-то его «наливает», кто-то звонит и разводит людей. Там прямо задания раздают: сейчас все «наваливаемся на белорусов», объясняем им, что русские отправят их умирать за свою империю... А теперь ищем жен российских военнослужащих, будем шантажировать тем, что «ваш муж в плену, вы должны срочно заплатить 32 тысячи долларов, и тогда мы вам его выдадим через Польшу»... Вот так они сидят и придумывают, кто, кого и как будет разводить. Была у них даже такая бредовая идея – давайте-ка все навалимся на службы доставки еды, обрушим их, и тогда, мол, русские точно выйдут на улицу свергать свою власть.
– Вы утверждаете, что цифровизация усиливает нашу зависимость от Запада. Почему?
– Цифровизация у нас приобрела характер советской кампанейщины. Все чиновники должны работать на «светлое цифровое будущее». Тот или иной процент цифровой трансформации заложен в КПЭ – систему оценки губернаторов и руководителей ведомств. Они это знают и дают задание своим айтишникам – внедрить какие-то цифровые решения. А поскольку нужно быстрей-быстрей, то времени на разработку нет, и они берут готовые – то есть западные разработки. В результате цифровизация приводит не к импортозамещению в ИТ-сфере, а наоборот, ко все более активному использованию западного программного обеспечения.
В том числе через якобы независимый open source – «открытые исходники». Хотя давно уже большинство таких продуктов разрабатывается не «мировым сообществом волонтеров», а на деньги крупных американских корпораций. То есть контролируется нашим военным противником. Степень зависимости, колонизации России при такой галопирующей цифровизации только растет.
К тому же у наших региональных чиновников и предпринимателей зачастую нет понимания, что в ИТ-сфере у нас есть много своего. Зато есть привычка бездумно доверять западному программному обеспечению. Я знаю случаи, когда предприятия переносили все свои данные в облако Oracle, а в феврале 2022 года их от этого облака просто отключили. Итог: данные потеряны, денег никто не вернет – западники даже на письма не отвечают. Когда этим предпринимателям начинаешь рассказывать, что можно было действовать по-другому, они делают круглые глаза: а что, у нас есть свои аналогичные ресурсы? Они об этом даже не догадывались! Потому что практика закупки иностранного была великолепно отлажена. Ведь западные продукты – действительно хорошие, у них и хорошая поддержка, и отличные откаты. У них только один минус – они чужие. И сейчас они все удаленно управляются западными разведками.
Когда возник хайп по поводу генераторов текста и картинок (GPT), во всех наших крупных компаниях начальство страшно возбудилось и стало своих айтишников спрашивать: а вы почему такое не сделали? Вы где были? Срочно сделайте такое же! И все стали делать эти генераторы. Наслесарили чатов, наслесарили генерацию картинок... Зачем, для чего – никто не задумывается. Просто наш военный противник помахал блестящей обманкой перед носом, и все повелись... Но это же, во-первых, вторично по отношению к повестке противника. А во-вторых, большинство ИИ в нашей стране делается путем скачивания открытых нейронных библиотек «Гугла» или «Фейсбука»* .
То есть наш уровень программной зависимости только повышается. Вместо того, чтобы в области ИИ учиться, например, управлять полем боя, огнем, распознавать вражескую технику, управлять роями дронов и т. д., мы занимаемся этим нелепым подражательством и делаем довольно бесполезные вещи.
– К слову, о противостоянии с Западом. Нужна ли, на ваш взгляд, полная изоляция российского интернета?
– Раньше все боялись про это говорить – как же так, да это же нарушение свобод, да мы опять закуклимся, как Советский Союз... Но сейчас стало очевидно, что мировое интернет-пространство настолько токсично, что какой-то фильтр на границе, мне кажется, ставить нужно. Тем более что все медийное пространство Запада работает против нас. Все западные СМИ транслируют проукраинскую повестку. И наши СМИ, и блоги – вслед за ними. Для Запада наша открытость – это просто военное преимущество. Знаете, даже у самой примитивной живой клетки есть мембрана, которая полезное для себя внутрь пропускает, а вредное – нет. У нас такой мембраны до сих пор нет. Какой-то барьер на границе Рунета нам, безусловно, нужен. Это называется информационный суверенитет.
*ресурс компании Meta, признанной экстремистской организацией и запрещенной в РФ
Свежие комментарии