Читать онлайн Когнитивная Война бесплатно
Когнитивная война – это метод введения войны, что воздействует на высший уровень мышления человека, его смыслы и ценности, которые предопределяют его поведение. Также, когнитивная война направлена на обман человеческого мозга путём выявления и эксплуатации ошибок восприятия и суждений отдельных индивидов, групп или больших сообществ – государств, наций.
Понятие «когнитивная война» была введена относительно недавно. Как описано в документе Warfighting 2040*: большинство конфликтов остались на традиционном пороге введения войны, теперь появились новые – информационная и когнитивная войны. В то время, как человеческий разум становится новой областью введения войны. Информационная война часто используется в XXI веке, в эру технологий и СМИ, когда информация может воздействовать на человеческий разум в удобной, для инициатора, позиции. Ранее информационная война использовалась в агитационных кампаниях, деморализующие и таким образом ослабляющие противника, либо наоборот – поднимали боевой дух соотечественников. Основными инструментами для агитации были; газеты, плакаты, листовки. В газетах могла распространятся дезинформация, к примеру в период войны, когда нужно обвинить вражескую сторону в смертях гражданских лиц, даже если на самом деле этого не было. Агитационные плакаты использовались зачастую в Первой и Второй мировой войне, для поднятия боевого духа товарищей и народа, высмеивания противника и героизации солдат, служивших на фронте. Также пропаганда помогла прийти к власти Адольфу Гитлеру и партии НСДАП.
В этой статье, мы ознакомим вас с методической рекомендацией, разработанной в Innovation Hub NATO, по заверению руководителя Ф. Дю Клюзеля, где указывается новый метод введения войны без использования традиционных видов вооружения. Основным инструментом этой войны является – любая информационная технология (смартфон, компьютер, умные устройства), где хранятся данные пользователя и он автоматически становится марионеткой (sockpuppet*). Область введения войны теперь рассматривается человеческий мозг – самый, на данный период времени, уязвимый для информационных атак и подмены ценностей, мыслей, чувства, идеологию, мировоззрение.
Авторы: Air-Force General Eric AUTELLET, Dr. Norbou BUCHLER, Pr. Bernard CLAVERIE, Pr. Tanguy Struye DE SWIELANDE, Air-Force Lieutenant General Gilles DESCLAUX, LCol. François DU CLUZEL DE REMAURIN, Cadet Sam KONEN, Dr. Barbara KOWALCZUK, Air-Force General André LANATA, Hervé LE GUYADER, Air-Force Major General Philippe MONTOCCHIO, Kimberly ORINX, Dr. Baptiste PRÉBOT, John WHITEAKER, Dr. Michael WUNDER
Институт: NATO SCIENCE AND TECHNOLOGY ORGANIZATION
Супервайзеры: B. Claverie, B. Prébot, N. Buchler and F. Du Cluzel.
Краткое изложение
За последние несколько десятилетий военные действия претерпели кардинальные изменения, отойдя от физических угроз, связанных с обычными вооруженными действиями. Война теперь движется навстречу социальным и идеологическим угрозам, создаваемым средствами массовой информации и достижениями в области технологий. Появление этого нового типа ведения войны отличается от всего, что мы видели раньше. Хотя она использует элементы предыдущих видов гибридной войны, охват и уровень воздействия, которыми она обладает, делают ее гораздо более опасной, чем ее предшественницы. Мы назвали этот новый способ ведения войны когнитивной войной.
Когнитивная война, хотя и имеет ряд сходств с другими нетрадиционными и non-kinetic1 типами боевых действий/операций, в конечном счете уникальна по своему исполнению и цели. В этой статье мы исследуем истоки некинетической войны, сначала обратившись к Холодной войне и использованию психологических операций (PsyOps). Мы следим за эволюцией военных действий, отмечая, что развитие технологий привело к появлению радиоэлектронной борьбы, а затем и кибер войны. По мере дальнейшего развития кибернетических возможностей разведка становилась все более важной областью, а информация военные действия начали развиваться. Однако когнитивная война идет на шаг дальше, чем просто борьба за контроль над потоком информации. Скорее, это борьба за контроль или изменение того, как люди реагируют на информацию. Когнитивная война направлена на то, чтобы заставить врагов уничтожить самих себя изнутри.
Мы определяем когнитивную войну как использование общественного мнения в качестве оружия внешним субъектом с целью влияния на общественную и правительственную политику и дестабилизации общественных институтов.
Дестабилизация и влияние являются фундаментальными целями когнитивной войны. Эти цели направлены на то, чтобы посеять недовольство в обществе или поощрить определенные убеждения и действия2. Утечки с Национального съезда Демократической партии (DNC) 2016 года являются хорошим примером того, как иностранная держава использует разногласия для дестабилизации общества. Террористические группировки, подобные "Аль-Каиде"(* «Аль-Каида» – террористическая организация, запрещенная на территории Российской Федерации), демонстрируют, как радикальные идеологии могут влиять на гражданское население и вербовать его. Никогда прежде столь коварную манипуляцию не было так легко осуществить, как сегодня. Достижения в области подключения, оцифровка, неврология и психология принесли обществу огромное количество благ. Тем не менее, 3 с каждой новой возможностью возникает новая угроза. Сегодня мы сталкиваемся с проблемами, связанными со способностью социальных сетей передавать информацию миллиардам желающих людей за считанные минуты. Мы должны защищаться от алгоритмов, которые могут определить, кто будет наиболее восприимчив к размещенным материалам и кто наиболее охотно их распространяет. Современная способность подделывать информацию и манипулировать ею беспрецедентна, а недавние достижения в области искусственного интеллекта теперь также сделали видео и аудиозаписи подозрительными. Люди не уверены в том, чему верить, и даже правительственные учреждения не избавлены от этого недостатка веры. Одновременно мы революционизируем то, что знаем о том, как функционируют наш мозг и эмоции, поскольку люди экспериментируют с различными формами контроля.
Поэтому мы убеждены, что НАТО должно быстро и решительно адаптироваться для защиты от текущих угроз в сфере когнитивной войны и работать над сокращением будущих угроз. Хотя демократическое общество одновременно сложно и удивительно, оно также уязвимо. Чтобы опередить эти угрозы, НАТО должно принять оборонительные меры тремя способами. Во-первых, НАТО должно работать над разработкой рабочего определения или рамок для когнитивных актов войны. Это включает в себя набор критериев для обнаружения
когнитивных атак по мере их возникновения. Во-вторых, Североатлантический союз должен оценить уязвимость к когнитивным атакам на национальном и личном уровнях в надежде создать и вдохновить более жизнестойкое население. В-третьих, НАТО должно создать организации для поддержания связи с технологическими компаниями и решения задач, связанных с будущими военными действиями. Дополнительным заключительным соображением был бы анализ потенциальных враждебных государств, против которых мы можем использовать когнитивную войну в рамках наступательной стратегии или в качестве средства сдерживания.
Основа демократии лежит не только в законах и гражданском порядке, но и в доверии и взаимоуважении: уверенности в том, что мы будем следовать этим законам, уважать гражданские институты, уважать друг друга и наши различные мнения. Доверие сейчас находится под угрозой, истина подвергается нападкам, а демократия находится под угрозой. Сейчас самое время подготовиться, и весь мир наблюдает за этим.2
Вступление
Люди пытались влиять на общественное мнение с момента зарождения цивилизации. Это важнейший компонент политических структур, в которые мы превратились. Однако
превращение общественного мнения в оружие – это новое, угрожающее явление в том, как мы взаимодействуем. Появление Интернета и средств массовой информации сделало возможным широкомасштабное манипулирование населением с помощью
целенаправленных, доступных, мультимодальных3 сообщений, которые теперь могут существовать под маской анонимности. В море из миллиарда голосов точно определить отдельные источники стало невероятно сложно [1]. Усилие, которое в некотором смысле сравнимо со сложностью установления личности того, кто кричал “Пожар!”
в толпе. Некоторые будут утверждать, что это сделано намеренно, утверждая, что анонимность необходима для ресурсов, предоставляемых Интернетом. Другие, однако, беспокоятся о непреднамеренных последствиях, к которым это отсутствие подотчетности может привести в долгосрочной перспективе [2].
Независимо от того, какая точка зрения верна, мы считаем, что НАТО должно осознавать угрозу, которую создает наша взаимосвязанность. Тактика, ориентированная на общественность, не исчезнет со временем; они станут более эффективными. Они будут ориентированы на более широкую аудиторию. Более того, они будут становиться все более убедительными. Технологические достижения уже продемонстрировали их способность делать именно это. Не нужно заглядывать дальше утечек информации DNC за 2016
год, чтобы подтвердить скорость, с которой информация собирается и распространяется в интересах противоположной стороны.
Ожидается, что в ближайшем будущем социальные сети, новостные сети, алгоритмы автоматизации, искусственный интеллект, рекомендации по психическому здоровью и, возможно, даже наша собственная физиология будут быстро развиваться. Все это работает на то, чтобы сделать нас более подключенными, более ориентированными на данные и более любопытными. Это будет захватывающая новая эра человеческого взаимодействия. Однако дороги в нашем сознании – это не улицы с односторонним движением. В то время как люди получают информацию, они одновременно передают информацию и данные. В нынешнем виде простые строки кодов однажды смогут идентифицировать и описать все о нас. Наши привычки, наших друзей, нашу веру, нашу культуру, наши предпочтения и даже наши голоса. Впервые война не будет касаться обнаженных тел. Вместо этого война будет иметь дело с
незащищенными умами. Именно этот новый способ ведения войны мы назвали когнитивной войной.
Индивидуальные и организационные когнитивные способности будут иметь первостепенное значение из-за скорости и объема информации, доступной в современном боевом пространстве. Если современные технологии обещают улучшить когнитивные способности человека, они также таят в себе семена серьезных угроз для военных организаций. Поскольку организации состоят из людей, человеческие ограничения и предпочтения в конечном итоге влияют на организационное поведение и процессы принятия решений. Военные организации подвержены проблеме ограниченной рациональности, но на практике это ограничение часто упускается из виду. [1] В среде, пронизанной технологиями и перегруженной информацией, управление когнитивными способностями в военных организациях будет иметь ключевое значение, в то время как развитие возможностей наносить ущерб когнитивным способностям противников будет необходимостью. Другими словами, НАТО будет нужно получить возможность защитить свой процесс принятия решений и нарушить его у противника.
Данное исследование призвано ответить на три следующих вопроса:
• Повышение осведомленности о когнитивной войне, включая лучшее понимание
рисков и возможностей новых когнитивных технологий / технологий человеческого разума;
• Предоставить готовую информацию о когнитивной войне;
• И предоставить аргументы стратегического уровня, чтобы действовать так, чтобы рекомендовать или нет, Когнитивный / Человеческий разум как операционная область.
Появление когнитивной войны
От информационной войны к когнитивной войне
Информационная война (ИВ) является наиболее родственным и, следовательно, наиболее легко сочетаемым типом ведения войны по отношению к когнитивной войне. Однако существуют ключевые различия, которые делают когнитивную войну достаточно уникальной, чтобы ею можно было заниматься в рамках ее собственной юрисдикции. Как концепция, ИВ впервые была придумана и развита в рамках военной доктрины США, а впоследствии была принята в различных формах несколькими странами. Как описал это бывший командующий ВМС США Стюарт Грин, “Информационные операции, ближайшая
существующая американская доктринальная концепция когнитивной войны состоит из пяти "основных возможностей", или элементов. К ним относятся радиоэлектронная борьба, операции с компьютерными сетями, PsyOps, военный обман и оперативная безопасность”. Вкратце, информационная война направлена на контроль над потоком информации. Информационная война была разработана в первую очередь для поддержки целей, определенных традиционной миссией военных организаций, а именно для создания смертоносных кинетических воздействий на поле боя. Она не была рассчитана на достижение прочных политических успехов. По определению Клинта Уоттса, когнитивная война противостоит способностям познавать и производить, она активно подрывает знания. Когнитивные науки охватывают все науки, которые имеют отношение к знанию и его процессам (психология, лингвистика, нейробиология, логика и многое другое).
Когнитивная война ухудшает способность познавать, производить знания или препятствовать их получению. Когнитивные науки охватывают все науки, которые имеют отношение к знанию и его процессам (психология, лингвистика, нейробиология, логика и многое другое).
Таким образом, когнитивная война – это способ использования знаний в противоречивых целях. В самом широком смысле этого слова в этом смысле когнитивная война не ограничивается военным или институциональным миром. С начала 1990-х годов эта возможность, как правило, применялась в политической, экономической, культурной и социальной сферах.
Любой пользователь современных информационных технологий является потенциальной мишенью. Она нацелена на весь человеческий капитал страны.
Наиболее поразительным сдвигом этой практики от военного к гражданскому миру является повсеместное распространение деятельности в области CW(когнитивной войны) в повседневной жизни, которая выходит за рамки обычной конструкции "мир-кризис-конфликт" (с вредными последствиями). Даже если когнитивная война может быть проведена в дополнение к военному конфликту, она также может проводиться в одиночку, без какой-либо связи с привлечением вооруженных сил. Более того, когнитивная война потенциально бесконечна, поскольку в конфликтах такого типа не может быть мирного договора или капитуляции.
В настоящее время существуют доказательства того, что новые средства и методы CW нацелены непосредственно на военнослужащих не только с помощью классического информационного оружия, но и с помощью постоянно растущего и быстро развивающегося арсенала нейрооружия, нацеленного на мозг. Важно признать целенаправленные усилия различных стран по разработке некинетических операций, которые нацелены на человека и оказывают воздействие на всех уровнях – от индивидуального до социально-политического.
“Большие данные позволяют нам разрабатывать невероятные методы расчета и анализа, но то, что позволяет реагировать на ситуацию, – это разум, а разум – это то, что позволяет принять решение в том, что не поддается расчету, в противном случае мы только подтверждаем положение дел”. Бернард Стиглер
Доверие – это цель
Когнитивная война преследует цель подорвать доверие (общественное доверие к избирательным процессам, доверие к институтам, союзникам, политикам…). Поэтому человек становится основным оружием, в то время как цель состоит не в том, чтобы атаковать то, что думают люди, а скорее в том, как они думают. Это потенциально может разрушить весь общественный договор, лежащий в основе обществ. Естественно доверять своим чувствам, верить тому, что видишь и читаешь. Но демократизация автоматизированных инструментов и техник с использованием искусственного интеллекта больше не требует технологического образования, позволяет любому искажать информацию и еще больше подрывать доверие к открытым обществам. Использование поддельных новостей, глубоких подделок, троянских коней и цифровых аватаров создаст новые подозрения, которыми может воспользоваться любой желающий.
Противникам проще и дешевле подорвать доверие к нашим собственным системам, чем атаковать наши электросети, заводы или военные объекты. Следовательно, вполне вероятно, что в ближайшем будущем будет больше атак со стороны растущего и гораздо более разнообразного числа потенциальных игроков с большим риском эскалации или просчета. Характеристики киберпространства (отсутствие регулирования, трудностей и связанных с ними рисков присвоения атак, в частности) означает, что следует ожидать появления новых субъектов, как государственных, так и негосударственных. Как показывает пример COVID-19, огромное количество текстов на эту тему, включая намеренно предвзятые тексты (примером может служить исследование Lancet по хлорохину), создало информационную перегрузку, которая, в свою очередь, приводит как к потере доверия, так и к необходимости в закрытие. Поэтому способность людей подвергать сомнению, как правило, любые представленные данные/информацию затруднены, с тенденцией прибегать к предубеждениям в ущерб свободному принятию решений. Это относится к доверию как между отдельными людьми, так и между группами, политическими союзами и обществами.
“Доверие, в частности между союзниками, является целенаправленной уязвимостью. Как и любая международная организация, НАТО полагается на доверие между своими партнерами. Доверие основано не только на соблюдении некоторых явных и ощутимых соглашений, но и на "невидимых контрактах", на разделении ценностей, что нелегко, когда такое количество союзных наций воюет друг с другом на протяжении веков. Это оставило раны и шрамы, создав когнитивно-информационный ландшафт, который наши противники изучают с большой тщательностью. Их цель состоит в том, чтобы определить ”Когнитивные Центры Притяжения" Альянса, на которые они будут нацелены с помощью "информационного оружия"".
Когнитивная война, массовая пропаганда.
Во многих отношениях когнитивную войну можно сравнить с пропагандой, которую можно определить как “набор методов, используемых организованной группой, которая хочет добиться активного или пассивного участия в своих действиях массы индивидов, психологически объединенных посредством психологических манипуляций и включенных в организацию”. Инновационный центр – Ноябрь 2020 Страница 8 из 45.
Цель пропаганды состоит не в том, чтобы "программировать" умы, а в том, чтобы влиять на установки и поведение, заставляя людей принимать правильное отношение, которое может состоять в том, чтобы делать определенные вещи или, часто, прекращать их делать.
Когнитивная война методично используется как компонент глобальной стратегии противниками, направленной на ослабление, вмешательство и дестабилизацию целевых групп населения, институтов и государств, с тем чтобы повлиять на их выбор, подорвать автономию их решений и суверенитет их институтов. Такие кампании сочетают в себе как реальную, так и искаженную информацию (дезинформация), преувеличенные факты и сфабрикованные новости (дезинформация).
Дезинформация использует когнитивные уязвимости своих целей, используя преимущества ранее существовавших тревог или убеждений, которые предрасполагают их к восприятию ложной информации. Это требует от агрессора острого понимания существующей социально-политической динамики и точного знания того, когда и как проникнуть внутрь, чтобы наилучшим образом использовать эти уязвимости. Когнитивная война использует врожденные уязвимости человеческого разума из-за того, как он устроен для обработки информации, которые, конечно, всегда использовались в военных действиях. Однако из-за скорости и доступности технологий и информации человеческий разум больше не в состоянии обрабатывать поток информации. Отличие CW от пропаганды заключается в том, что каждый участвует, по большей части непреднамеренно, в обработке информации и формировании знаний беспрецедентным образом. Это тонкое, но существенное изменение. В то время как отдельные люди пассивно подчинялись пропаганде, теперь они активно вносят в нее свой вклад. Эксплуатация человеческого познания превратилась в массовую индустрию. И ожидается, что появляющиеся инструменты искусственного интеллекта (ИИ) вскоре предоставят пропагандистам радикально расширенные возможности манипулировать человеческим сознанием и изменять человеческое поведение.
“Новые инструменты и методы в сочетании с меняющимися технологическими и информационными основами современных обществ создают беспрецедентный потенциал для ведения виртуальной социальной войны”.
Майкл Дж. Мазарр
“Современная пропаганда основана на научном анализе психологии и социологии. Шаг
за шагом пропагандист строит свои методы на основе своих знаний о человеке, его склонностях, его желаниях, его потребностях, его психических механизмах, его обусловленности – и в такой же степени на социальной психологии, как и на глубинной психологии.”
Жак Эллюль, пропаганда, 1962
Поведенческая экономика
“Капитализм претерпевает радикальную мутацию. То, что многие называют "экономикой данных", на самом деле лучше понимать как "поведенческую экономику”".
Поведенческая экономика (ПЭ) определяется как метод экономического анализа, который применяет психологическое понимание человеческого поведения для объяснения процесса принятия экономических решений. Как показывают исследования процесса принятия решений, поведение становится все более вычислительным, и BE находится на перекрестке между твёрдыми и мягкими науками11. В оперативном плане это означает массовое и методичное использование поведенческих данных и разработку методов активного поиска новых источников данных. Учитывая огромное количество данных (о поведении), которые каждый генерирует в основном без нашего согласия и осведомленности, дальнейшее манипулирование легко достижимо.
Крупные компании цифровой экономики разработали новые методы сбора данных, позволяющие получать личную информацию, которую пользователи, возможно, не обязательно намерены раскрывать. Избыточные данные стали основой для новых рынков прогнозирования, называемых таргетированной рекламой.
“Вот истоки капитализма слежки в беспрецедентном и прибыльном виде: поведенческий избыток, наука о данных, материальная инфраструктура, вычислительные мощности, алгоритмические системы и автоматизированные платформы”, – утверждает Сошанна Зубофф.
В демократических обществах реклама быстро стала такой же важной, как и научные исследования. Это, наконец, стало краеугольным камнем нового типа бизнеса, который зависит от крупномасштабного онлайн-мониторинга. Целью является человек в самом широком смысле, и полученные данные легко использовать исключительно в коммерческих целях, как это делает Cambridge Analytica (КАЛИФОРНИЯ) продемонстрирован скандал. Таким образом, отсутствие регулирования цифрового пространства – так называемого "болота данных" – идет на пользу не только режимам цифровой эры, которые “могут осуществлять значительный контроль не только над компьютерными сетями и человеческими телами, но и над умами своих граждан”.
Это также может быть использовано в злонамеренных целях, как
показал пример скандала с CA. Цифровая модель CA описала, как объединить персональные данные с машинным обучением в политических целях путем профилирования отдельных избирателей, чтобы нацеливать на них персонализированные политические рекламы. Используя самые передовые методы опроса и психометрии, Cambridge Analytica
действительно смогла собрать огромное количество данных о людях, которые помогли им понять с помощью экономической, демографической, социальной и поведенческой информации, что думает каждый из них. Это буквально открыло компании окно в умы людей
Гигантский сбор данных, организованный с помощью цифровых технологий, сегодня используется главным образом для определения и предугадывания поведение человека. Знания о поведении являются стратегическим активом. “Поведенческая экономика адаптирует психологические исследования к экономическим моделям, создавая таким образом более точные представления о человеческих взаимодействиях”.
“Cambridge Analytica продемонстрировала, как можно использовать инструменты для создания уменьшенной версии массивных машин наблюдения и манипулирования”.
“Развитие технологий не ослабевает и будет продолжаться безостановочно. Поскольку технологии развиваются так быстро и поскольку люди этого не понимают, Cambridge Analytica всегда должна будет существовать”.Джулиан Уитленд Бывший главный операционный директор Cambridge Analytica
Как показано на примере Cambridge Analytica, можно использовать такие знания в качестве оружия и развивать соответствующие наступательные и оборонительные возможности, прокладывая путь для виртуальной социальной войны. Систематическое использование методов ПЭ, применяемых к военным, могло бы привести к улучшению положения детей в возрасте до 17 лет – представление о том, как отдельные люди и группы ведут себя и мыслят, что в конечном итоге приводит к более широкому пониманию среды принятия решений противниками. Существует реальный риск получения доступа к поведенческим данным с использованием инструментов и техник BE, как показано на примере Cambridge Analytica, может позволить любому злоумышленнику – будь то государство или негосударственный субъект – стратегически наносить ущерб открытым обществам и их инструментам власти
Взлом личности
Революция в информационных технологиях сделала возможными когнитивные манипуляции нового рода, в беспрецедентных и очень сложных масштабах. Все это происходит с гораздо меньшими затратами, чем в прошлом, когда было необходимо создавать эффекты и воздействовать посредством невиртуальных действий в физической сфере. Таким образом, в непрерывном процессе классические военные возможности не противостоят
когнитивной войне. Несмотря на то, что военным трудно осознать реальность и эффективность явлений, связанных с когнитивной войной, актуальность кинетических и ресурсоемких средств ведения войны, тем не менее, снижается. Социальная инженерия всегда начинается с глубокого погружения в человеческое окружение объекта. Цель состоит в том, чтобы понять психологию целевых людей. Этот этап более важен, чем любой другой, поскольку он позволяет не только точное нацеливание на нужных людей, но также и предвидение реакции и развитие эмпатии. Понимание окружающей человека среды является ключом к укреплению доверия, которое в конечном счете приведет к желаемым результатам. Люди – легкая мишень, поскольку все они вносят свой вклад, предоставляя информацию о себе, делая марионеток противника более могущественными.
В любом случае противники НАТО сосредоточивают свое внимание на выявлении центров притяжения и уязвимостей Североатлантического союза. Они давно определили, что главной уязвимостью является человек. Это легко сделать найдите эти центры притяжения в открытых обществах, потому что они отражены в изучении гуманитарных и социальных наук, таких как политология, история, география, биология, философия, системы голосования, государственное управление, международная политика, международные отношения, религиоведение, образование, социология, искусство и культура…
Когнитивная война – это война идеологий, которая стремится подорвать доверие, лежащее в основе любого общества
“Социальная инженерия – это искусство и наука о том, как заставить людей подчиняться вашим желаниям. Это не способ контроля сознания, он не позволит вам заставить людей выполнять задачи, выходящие за рамки их обычного поведения, и он далек от надежной защиты” Харл, Взлом людей, 1997
Киберпсихология
Предполагая, что технологии влияют на всех, изучение и понимание поведения человека по отношению к технологиям жизненно важно, поскольку грань между киберпространством и реальным миром становится размытой.
Экспоненциально растущее влияние кибернетики, цифровых технологий и виртуальности можно оценить только с точки зрения их воздействия на общество, людей и их соответствующее поведение. Киберпсихология находится на стыке двух основных областей: психологии и кибернетики. Все это имеет отношение к обороне и безопасности, а также ко всем областям, которые важны для НАТО, поскольку она готовится к трансформации. Киберпсихология, сосредоточенная на прояснении механизмов мышления и концепций, применений и пределов кибернетических систем, является ключевым вопросом в обширной
области когнитивных наук. Эволюция искусственного интеллекта вводит новые слова, новые концепции, но также новые теории, которые охватывают изучение естественного функционирования людей и созданных ими машин, которые сегодня полностью интегрированы в их естественную среду обитания (антропотехнические12).
Людям завтрашнего дня придется изобретать психологию своего отношения к машинам. Но задача состоит в том, чтобы разработать также психологию машин, искусственную с помощью интеллектуального программного обеспечения или гибридных роботов.
Киберпсихология – это сложная научная область, которая охватывает все психологические феномены, связанные с соответствующими развивающимися технологиями или на которые они влияют. Киберпсихология исследует то, как люди и машины влияют друг на друга, и исследует, как отношения между людьми и искусственным интеллектом изменят взаимодействие людей и межмашинную коммуникацию.
****
Парадоксально, но развитие информационных технологий и их использование в манипулятивных целях, в частности, подчеркивает все более доминирующую роль мозга.
Мозг – самая сложная часть человеческого тела. Этот орган является вместилищем интеллекта, интерпретатором чувств, инициатором движений тела, регулятором поведения и центром принятия решений.
Центральное место в человеческом мозге
На протяжении веков ученые и философы были очарованы мозгом, но до недавнего времени они считали его почти непостижимым. Однако сегодня мозг начинает раскрывать свои секреты. За последнее десятилетие ученые узнали о мозге больше, чем за любое предыдущее столетие, благодаря ускоряющимся темпам исследований в области неврологии и поведенческих наук и разработке новых методов исследования. Для военных это представляет собой последний рубеж в науке, поскольку может принести решающее преимущество в войнах завтрашнего дня.
Понимание работы мозга – ключевая задача на будущее
За последние десятилетия были достигнуты существенные успехи в понимании того, как функционирует мозг. В то время как наши процессы принятия решений по-прежнему сосредоточены на человеке, в частности, на его способности ориентироваться (цикл OODA)13, подпитываемой данными, анализом и визуализацией, неспособность человека своевременно обрабатывать, объединять и анализировать огромное количество данных требует от людей объединения усилий с машинами с искусственным интеллектом, чтобы конкурировать с машинами и с искусственным интеллектом. Чтобы сохранить баланс между человеческим и поскольку машина участвует в процессе принятия решений, становится необходимым осознавать человеческие ограничения и уязвимости. Все начинается с понимания наших когнитивных процессов и того, как функционирует наш мозг. За последние два десятилетия когнитивная наука и нейронаука сделали новый шаг в анализе и понимании человеческого мозга и открыли новые перспективы с точки зрения исследования мозга, если не в самом деле его гибридизации, то человеческого и искусственного интеллекта. В основном они внесли значительный вклад в изучение разнообразных нервно-психических механизмов, облегчающих обучение и, как следствие, бросающих вызов интуиции "множественного интеллекта". Сегодня никто больше не может отрицать тот факт, что мозг является одновременно вместилищем эмоций и интерактивных механизмов запоминания, обработки информации, решения проблем и принятия решений.
Когнитивная наука Дисциплина, объединяющая психологию, социологию, лингвистику, искусственный интеллект и неврологию и имеющая целью объяснение механизмов мышления и обработки информации, предназначенных для приобретения,
сохранения, использования и передачи знаний.
Нейронаука Междисциплинарная научная дисциплина, объединяющая биологию, математику, компьютерные науки и т.д., с целью изучения организации и функционирования нервной системы, как с точки зрения ее структуры, так и функционирования, от молекулярного масштаба до уровня органов.
Уязвимые места человеческого мозга
“В когнитивной войне как никогда важно познать самого себя”. Люди разработали приспособления, позволяющие справляться с когнитивными ограничениями, что позволяет более эффективно обрабатывать информацию. К сожалению, те же самые кратчайшие пути вносят искажения в наше мышление и коммуникацию, делая коммуникационные усилия неэффективными и подверженными манипуляциям со стороны противников, стремящихся ввести в заблуждение или запутать. Эти когнитивные предубеждения могут привести к
неточным суждениям и неправильному принятию решений, что может спровоцировать непреднамеренную эскалацию или препятствовать своевременному выявлению угроз. Понимание источников и типов когнитивных предубеждений может помочь уменьшить недоразумения и послужить основой для разработки более эффективных стратегий реагирования на попытки оппонентов использовать эти предубеждения в своих интересах.
В частности, мозг:
– не в состоянии определить, является ли конкретная информация правильной или неправильной;
– Побуждает использовать кратчайшие пути при определении достоверности сообщений в случае информационной перегрузки;
– склонен верить заявлениям или сообщениям, которые он уже слышал как истинные, даже если они могут быть ложными;
– принимает заявления как правдивые, если они подкреплены доказательствами, независимо от подлинности этих доказательств.
К ним, среди многих других, относится когнитивная предвзятость, определяемая как систематическое отклонение от нормы или рациональности в суждениях. Существует множество различных когнитивных предубеждений, по своей сути проистекающих из человеческого мозга. Большинство из них имеют отношение к информационной среде. Вероятно, наиболее распространенным и наиболее разрушительным когнитивным предубеждением является предубеждение подтверждения. Это эффект, который заставляет людей искать доказательства, подтверждающие то, что они уже думают или подозревают, рассматривать факты и идеи, которые они сталкиваться в качестве дополнительного подтверждения, а также отвергать или игнорировать любые доказательства, которые, по-видимому, поддерживают другую точку зрения. Другими словами, “люди видят то, что они хотят видеть”.
Когнитивные предубеждения влияют на всех, от солдат на местах до штабных офицеров, и в большей степени, чем все признают.
Важно не только распознать это в себе, но и изучить предубеждения противников, чтобы понять, как они ведут себя и взаимодействуют. Как заявил Роберт П. Козлоски, “Важность истинного “познания себя” невозможно переоценить. Достижения в области компьютерных технологий, в частности машинного обучения, предоставляют военнослужащим возможность познать себя так, как никогда раньше. Сбор и анализ данных, генерируемых в виртуальной среде, позволит военным организациям понять когнитивные способности отдельных лиц”
В конечном счете, оперативные преимущества в когнитивной войне в первую очередь будут получены за счет улучшения понимания когнитивных способностей и ограничений военных.
Роль эмоций
В цифровой сфере то, что позволяет цифровым индустриям и их клиентам (и особенно рекламодателям) выделять людей из толпы, совершенствовать персонализацию и поведенческий анализ, – это эмоции. Каждая платформа социальных сетей, каждый веб-сайт спроектированы так, чтобы вызывать привыкание и вызывать некоторые эмоциональные всплески, заманивая мозг в ловушку цикла постов. Скорость, эмоциональная насыщенность и качество эхо-камеры контента социальных сетей заставляют тех, кто подвергается его
воздействию, испытывать более экстремальные реакции. Социальные сети особенно хорошо подходят для ухудшения политических и социальных поляризаций из-за их способности очень быстро и интенсивно распространять изображения насилия и пугающие слухи. “Чем больше распространяется гнев, тем больше интернет – пользователи склонны становиться троллями”24.
На политическом и стратегическом уровне было бы неправильно недооценивать влияние эмоций. Доминик Мойзи показал в своей книге “Геополитика эмоций”, как эмоции -
надежда, страх и унижение – формируют мир и международные отношения с помощью эффекта эхо-камеры социальных сетей. Например, представляется важным интегрироваться в теоретические исследования террористических явлений о роли эмоций, ведущих к насилию и/или террористическому пути.
Ограничивая когнитивные способности, эмоции также играют определенную роль в принятии решений, производительности и общем благополучии, и невозможно помешать людям испытывать их. “Перед лицом насилия самым первым препятствием, с которым вам придется столкнуться, будет не ваш обидчик, а ваши собственные реакции”.
Битва за внимание
Никогда еще знания и информация не были такими доступными, такими обильными и такими общедоступными. Привлечение внимания означает не только построение привилегированных отношений с нашими собеседниками для лучшего общения и убеждения, но и недопущение того, чтобы конкуренты привлекли это внимание, будь то политическое, экономическое, социальное или даже в нашей личной жизни.
Это поле битвы является глобальным через Интернет. Не имея ни начала, ни конца, это завоевание не знает передышки, сопровождаемое уведомлениями с наших смартфонов, из любого места, 24 часа в сутки, 7 дней в неделю.
Термин "каптология", введенный в 1996 году профессором Б.Дж. Фоггом из Стэнфордского университета, определяется как наука об использовании "компьютеров в качестве технологий убеждения". Поэтому пришло время принять правила этой "экономики внимания", освоить технологии, связанные с "каптологией", понять, насколько эти вызовы совершенно новы.
Действительно, эта битва не ограничивается экранами и дизайном, она также происходит в мозгах, особенно в том, как их вводят в заблуждение. Это также вопрос понимания того, почему в эпоху социальных сетей некоторые "фейковые новости", теории заговора или "альтернативные факты” соблазняют и убеждают, в то же время делая своих жертв неслышимыми. Внимание, напротив, является ограниченным и все более дефицитным ресурсом. Им нельзя поделиться: его можно завоевать и сохранить. Сейчас идет борьба за внимание, в которой участвуют компании, государства и граждане. Вопросы, поставленные на карту, сейчас выходят далеко за рамки педагогики, этики и экранной аддикции. Среда потребления, особенно маркетинг, играет ведущую роль. Маркетологи давно поняли, что центром внимания и принятия решений является мозг, и поэтому долгое время стремились понять, предвидеть его выбор и влиять на него. Такой подход, естественно, с таким же успехом применим и к военным делам, и противники уже поняли это.
“Мы конкурируем даже со сном” Рид Гастингс Генеральный директор Netflix
Долгосрочное воздействие технологий на мозг
Как утверждает доктор Джеймс Джордано, “мозг станет полем битвы 21-го века”. И когда дело доходит до формирования мозга, технологическая среда играет ключевую роль. У мозга есть только один шанс развиться. Повреждение головного мозга очень часто бывает необратимым. Понимание и защита нашего мозга от внешней агрессии всех видов станет одной из главных задач будущего.
По словам нейробиолога Мэриэнн Вулф, люди не были созданы для чтения, и появление книгопечатания изменило форму нашего мозга. Потребовались годы, если не столетия, чтобы оценить последствия – социальные, политические или социологические, например, – изобретения книгопечатания. Вероятно, потребуется больше времени, прежде чем мы точно поймем долгосрочные последствия цифровой эры, но в одном все согласны: человеческий мозг сегодня меняется быстрее, чем когда-либо прежде, благодаря повсеместному распространению цифровых технологий.
Растет количество исследований, изучающих, как технологии влияют на мозг. Исследования показывают, что знакомство с технологиями формирует когнитивные процессы и способность воспринимать информацию. Одним из главных открытий является появление общества ‘когнитивных разгрузчиков’, означающего, что никто больше не запоминает важную информацию. Вместо этого мозг склонен запоминать местоположение, откуда они были извлечены, когда это потребуется в следующий раз. При информационной и визуальной перегрузке мозг склонен сканировать информацию и отбирать то, что кажется важным, не обращая внимания на остальное.
Одна из уже замеченных эволюций – это потеря критического мышления, непосредственно связанная с чтением с экрана, и растущая неспособность читать настоящую книгу. Способ обработки информации влияет на развитие мозга, приводя к пренебрежению сложными мыслительными процессами.
Таким образом, завтра мозг будет другим. Поэтому весьма вероятно, что наш мозг будет радикально изменен трансформируется за чрезвычайно короткий период, но также вероятно, что это изменение произойдет за счет более изощренных, более сложных мыслительных процессов, необходимых для критического анализа.
В эпоху, когда память передается на аутсорсинг Google, GPS, календарным оповещениям и калькуляторам, это неизбежно приведет к общей потере знаний, которые являются не просто памятью, а скорее моторной памятью. Другими словами, продолжается длительный процесс отключения связей в вашем мозге. Это выявит как уязвимые места, так и возможности. Однако существует также множество исследований, показывающих преимущества технологий для наших когнитивных функций. Например, исследование Принстонского университета показало, что опытные видеогеймеры обладают на 31
% большей способностью обрабатывать данные, быстрее принимать решения или даже выполнять одновременно несколько задач по сравнению с неигровыми игроками. Среди нейробиологов существует общее мнение о том, что разумное использование информационных технологий (и особенно игр) полезно для мозга. Еще больше стирая грань между реальным и виртуальным, развитие технологий такие технологии, как виртуальная реальность (VR), дополненная реальность (AR) или смешанная реальность (MR), обладают потенциалом для еще более радикального преобразования способностей мозга. Поведение в виртуальной среде может продолжать влиять на реальное поведение еще долгое время после выхода из виртуальной среды.
Тем не менее, виртуальные среды дают возможность эффективно дополнять живое обучение, поскольку они могут обеспечить когнитивный опыт, который невозможно воспроизвести в реальном упражнении. Хотя существуют опасения и исследования о том, как цифровые медиа вредят развивающимся умам, это по-прежнему трудно предсказать, как технология повлияет на мозг и изменит его, но с повсеместным распространением информационных технологий будет становиться все более важным тщательно выявлять и предвидеть воздействие информационных технологий на мозг и адаптировать использование информационных технологий.
В долгосрочной перспективе нет никаких сомнений в том, что информационные технологии преобразят мозг, тем самым предоставив больше возможностей для изучения и понимания киберпространства, а также уязвимостей, которые потребуют тщательного мониторинга для противодействия и защиты от них и то, как наилучшим образом их использовать.
Перспективы нейронаук
“Социальная нейронаука обещает понять мысли, эмоции и намерения людей посредством простого наблюдения за их биологией”. Если ученые смогут установить тесное и точное соответствие между биологическими функциями, с одной стороны, и социальными познаниями и поведением, с другой стороны, нейробиологические методы могли бы найти огромное применение для многих дисциплин и для нашего общества в целом. Это включает в себя принятие решений, обмены, охрану физического и психического здоровья, профилактику, юриспруденцию и многое другое. Это подчеркивает, насколько нейробиология занимает растущее место в медицинских и научных исследованиях. Это больше, чем просто дисциплина, они формулируют набор областей, связанных со знанием мозга и нервной системы, и ставят под сомнение сложные взаимоотношения между человеком и его окружающая среда и другие человеческие существа. От биомедицинских исследований до когнитивных наук – участники, подходы и организации, структурирующие нейронауку, разнообразны.
Часто сходящиеся, они также могут быть конкурентоспособными. В то время как открытия и проблемы нейронаук относительно хорошо известны, эта область вызывает как надежду, так и беспокойство. В неорганизованном и, порой, плохо информированном виде "нейробиология", кажется, присутствует повсюду. Включенные, иногда без разбора, во многие дебаты, они мобилизуются вокруг проблем общества и общественного здравоохранения, образования, старения, и питать надежды усовершенствованного человека.
Сегодня манипулирование нашим восприятием, мыслями и поведением происходит в
ранее невообразимых масштабах времени, пространства и интенциональности 14. Именно это и является источником одной из величайших уязвимостей, с которой каждый человек должен научиться справляться. Многие субъекты, вероятно, будут использовать эти уязвимости, в то время как эволюция технологий производства и распространения информации происходит все более быстрыми темпами. В то же время, поскольку стоимость технологий неуклонно снижается, на сцену выходит все больше актеров. По мере развития технологий меняются и уязвимости.
Милитаризация науки о мозге
Ученые по всему миру задаются вопросом о том, как освободить человечество от ограничений тела. Грань между заживлением и увеличением становится размытой. Кроме того, логическим продолжением исследований является создание совершенного человека с помощью новых технологических стандартов. Вслед за инициативой США "Мозг", инициированной в 2014 году, все крупные державы (ЕС/Китай/Россия) запустили свои собственные программы исследований мозга со значительным финансированием. Китай
рассматривает мозг “как штаб-квартиру человеческого тела, и именно атака на штаб-квартиру является одним из наиболее эффективных стратегии для определения победы или поражения на поле боя”. Революция в NBIC (нанотехнологии, биотехнологии, информационных технологиях и когнитивных науках), включая достижения в области геномики, имеет потенциал для развития технологий двойного назначения. Уже обсуждается широкий спектр военных применений, таких как повышение эффективности солдат, разработка новых видов оружия, таких как оружие направленной энергии.
Прогресс и жизнеспособность неврологии и технологий (NeuroS/T)
Неврология использует множество методов и технологий для оценки неврологических субстратов и процессов познания, эмоций и поведения и воздействия на них. В целом, наука о мозге может быть как фундаментальным, так и прикладным исследованием. Фундаментальные исследования направлены на получение знаний и углубление понимания структур и функций нервной системы на различных уровнях с использованием методов физических и естественных наук. Прикладные исследования направлены на разработку трансляционных подходов, которые могут быть непосредственно использованы для понимания и модификации физиологии, психологии и/или патологии целевых организмов, включая человеческие.
Нейронаучные методы и технологии (neuroS/T) могут быть дополнительно классифицированы как те, которые используются для оценки, и те, которые используются для воздействия на структуры и функции нервной системы, хотя эти категории и действия не являются взаимоисключающими. Например, использование определенных лекарств,
токсинов и зондов для выяснения функций различных участков центральной и периферической нервной системы также может влиять на нейронную активность.
(NeuroS/T) широко рассматривается как естественная наука и/или наука о жизни, и существует скрытое и явное намерение, если не ожидание, разрабатывать и использовать инструменты и результаты исследований в клинической медицине. Нейробиологические методы, технологии и информация могут быть использованы как в медицинских, так и немедицинских целях (образовательных, профессиональных, связанных с образом жизни, военных и т.д.).
Вызывает сомнение целесообразность использования, повышения производительности и результирующих возможностей может (или должен) использоваться в разведывательных и/или дипломатических операциях для смягчения и подавления агрессии, насилия и конфликтов. Более пристальное внимание уделяется использованию результатов исследований и продуктов для непосредственного облегчения работы комбатантов, интеграции интерфейсов человек-машина для оптимизации боевых возможностей полуавтономных транспортных средств (например, беспилотных летательных аппаратов)
и разработке биологического и химического оружия (например, нейрооружия).
Некоторые страны НАТО уже признали, что нейробиологические методы и технологии обладают высоким потенциалом для оперативного использования в различных сферах безопасности, обороны и разведки, признавая при этом необходимость решения текущих и краткосрочных этических, правовых и социальных проблем, порождаемых таким использованием.
Военное и разведывательное использование NeuroS/T
Использование neuroS/T в военных и разведывательных целях является реалистичным и представляет собой явную и актуальную проблему. В 2014 году в докладе США утверждалось, что нейробиология и технологии значительно усовершенствовались и все чаще рассматриваются, а в некоторых случаях оцениваются для оперативного использования в операциях по обеспечению безопасности, разведке и обороне. В более широком смысле, повторяющееся признание жизнеспособности нейробиологии и технологий в рамках этих программ отражает темпы и широта разработок в этой области. Хотя ряд стран проводили и
в настоящее время проводят нейробиологические исследования и разработки в военных целях, возможно, наиболее активные усилия в этом отношении были предприняты Министерством обороны Соединенных Штатов; при этом наиболее заметные и быстро развивающиеся исследования и разработки проводились Агентством перспективных исследовательских проектов в области обороны (DARPA) и Интеллектуальная деятельность по перспективным исследовательским проектам (IARPA). Безусловно, многие проекты DARPA явно направлены на продвижение нейропсихиатрических методов лечения и вмешательств, которые улучшат как военную, так и гражданскую медицину. Тем не менее, важно отметить заметный продолжающийся – и расширяющиеся усилия в этой области европейских и транстихоокеанских стратегических партнеров НАТО.
Как говорилось в отчете Национального исследовательского совета за 2008 год, “…хорошо это или плохо, но способность делать ставки на то, чтобы понять возможности тела и мозга… может использоваться для сбора разведданных, военных операций, управления информацией, общественной безопасности и криминалистики”. По выражению Аристотеля, каждую человеческую деятельность и инструмент можно рассматривать как направленную на достижение некоторого поддающегося определению “блага”. Однако определения понятия “благо” могут варьироваться, и то, что считается благом для
одних, может нанести вред другим. Потенциал нейросетей для обеспечения проницательности, понимания и способности влиять на когнитивные, эмоциональные и поведенческие аспекты отдельных людей и группы делают науки о мозге особенно привлекательными для использования в сфере безопасности, разведки и военных инициативах.
Чтобы подойти к этому вопросу, важно установить четыре фундаментальных предпосылки.
• Во-первых, neuroS/T используется и будет все чаще и шире использоваться в подходах к национальной безопасности, сбору и анализу разведывательных данных, а также в аспектах военных операций;
• Во-вторых, такие возможности обеспечивают значительную мощность;
• В-третьих, многие страны активно развивают и субсидируют нейротехнологические исследования в рамках программ двойного назначения или для прямого включения в военные программы;
• В-четвертых, эти международные усилия могут привести к “гонке потенциалов” по мере того, как страны будут реагировать к новым разработкам, пытаясь противостоять открытиям друг друга и/или совершенствовать их.