Читать онлайн Главные российские ИТ-тренды – 2024: дайджест бесплатно

© Национальный исследовательский университет «Высшая школа экономики», 2023

© Статья «Защитный механизм». Батранков Д.В., 2023

Быть в тренде

Евгений Зараменских

Профессор, руководитель департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ

Марина Иванющенкова

Директор Центра управленческой аналитики Высшей школы бизнеса НИУ ВШЭ

C 2015 по 2022 год главный редактор «Harvard Business Review Россия»

Цифровизация является одним из стратегических приоритетов бизнеса. На какие технологии делать ставку компаниям, чтобы обеспечить рост бизнеса в будущем? Каждый год ведущие консалтинговые компании мира, такие как Gartner и Deloitte, проводят глобальные опросы руководителей и специалистов в сфере информационных технологий, чтобы определить ИТ-тренды, которые могут оказать серьезное влияние на бизнес в ближайшие годы. Российские ИТ-тренды не всегда совпадали с глобальными, а в последнее время различия стали еще более явными.

Отечественные предприятия столкнулись с колоссальными вызовами, которые определят будущее национальной экономики, векторы развития общества и государства. Одним из таких вызовов стала потребность в достижении цифрового суверенитета. Современная экономика России нуждается в огромном количестве ИТ-решений, доступ к которым не будет зависеть от иностранных разработчиков.

Но цифровой суверенитет – это не просто наличие на рынке отечественных ИТ-решений. Российским компаниям важно понимать, как будут развиваться цифровые технологии и как они трансформируют деятельность организаций. Иначе отечественный бизнес и разработчики рискуют оказаться в роли догоняющих относительно экономик других стран мира. Уже сегодня российские предприятия не удовлетворены отечественными ИТ-решениями, функциональность которых идентична зарубежным аналогам.

Чтобы выяснить, какие ИТ-тренды будут влиять на развитие российских организаций в ближайшем будущем, Высшая школа бизнеса НИУ ВШЭ провела опрос руководителей и специалистов сферы информационных технологий и составила первый в России список из 10 ключевых отечественных ИТ-трендов. Как показали результаты опроса, ряд глобальных тенденций неактуальны для нашей страны. Например, тренд «метавселенные», который входит в десятку актуальных в международных исследованиях, не попал в наш список. Кроме того, исследование помогло выявить основные проблемы и вызовы российской ИТ-отрасли. Были получены интересные количественные данные, позволяющие судить о текущем состоянии и перспективах ИТ в России.

Авторы этого сборника – ведущие преподаватели и эксперты Высшей школы бизнеса НИУ ВШЭ, а также практики бизнеса – представляют результаты исследования и рассказывают о 10 главных отечественных ИТ-трендах, основываясь на анализе иностранных и российских источников.

Информационные технологии крайне динамичны. Однажды сформированные ИТ-тренды могут потерять актуальность в течение одного или нескольких лет. Поэтому Высшая школа бизнеса НИУ ВШЭ планирует проводить исследования российских ИТ-трендов ежегодно – мы надеемся, что это поможет отечественным компаниям и разработчикам правильно расставить приоритеты и направить ресурсы в нужное русло.

Контекст

Евгений Зараменских

Цифровое самообеспечение

Какие факторы влияют на формирование ИТ-трендов в России

Особенности национальной экономики оказывают значительное влияние как на перечень актуальных ИТ-трендов, так и на их содержание. В России важным фактором в формировании трендов является необходимость достижения страной цифрового суверенитета. Цифровой суверенитет – это не система запретов и не попытка отгородиться от международной экономики. Его логика не просто допускает, но и поощряет выборочное использование иностранных технологических решений в интересах национальной экономики. А цифровой суверенитет, основанный на принципах системности, последовательного развития и самостоятельности, способствует росту экономики и позволяет ей реагировать на актуальные вызовы.

Достижение цифрового суверенитета не может быть самоцелью. Это важный фактор, способствующий поддержанию конкурентоспособности предприятий национальной экономики. Попытки заместить зарубежные ИТ-решения национальными нередко наблюдаются и в других странах, хотя зачастую они ограничиваются гораздо более скромными масштабами. При этом снижение зависимости от иностранных поставщиков – всего лишь одна из целей. Другая, не менее амбициозная, цель – вывод соответствующих ИТ-решений на международный рынок. Например, Южный технологический центр Китая не так давно приступил к популяризации операционных систем HarmonyOS и EulerOS, разработанных Huawei Technologies[1].

Потребность в импортозамещении ИТ-решений в России возникла прежде всего из-за ухода иностранных разработчиков, который привел к появлению критических рисков в сфере информационной безопасности и в вопросах доступности. Западные поставщики все чаще отказываются продлять лицензии отечественным компаниям, и в результате возникают проблемы с получением обновлений и технической поддержки. В ряде случаев использование иностранных решений без продленной лицензии становится невозможным.

Однако в сложившейся ситуации есть и плюсы: так, на рынке освободилось место для отечественных программных продуктов. Россия традиционно обладает значительными компетенциями в разработке ПО и цифровых сервисов, поэтому освободившиеся ниши заполняются достаточно быстрыми темпами. Новые продукты возникают не только в формате стартапов – нередко крупные корпорации выводят на рынок доработанные внутренние разработки[2]. Минимальная конкуренция со стороны иностранных поставщиков сделала этот процесс экономически оправданным.

Сегодня на российском рынке представлено значительное количество отечественных ИТ-решений. В 2022 году в Реестре российского ПО было зарегистрировано около 15 тыс. продуктов отечественных разработчиков, которых в целом по стране насчитывается порядка 4,2 тыс. При этом в Реестре доступно ПО различных категорий (см. график). Спрос на российское ПО вырос на 300 % относительно 2021 года, причем в отдельных сегментах наблюдалась гораздо более сильная динамика[3].

Потребность в российских ИТ-решениях в обозримом будущем вырастет из-за значительного проникновения зарубежных решений в деятельность российских предприятий. Аналитики указывают, что примерно 43 % отечественных компаний находится в стадии импортозамещения иностранного ПО, а у 36 % доля иностранного софта превышает 50 %[4]. Отдельные исследования утверждают, что в некоторых сегментах доля российского ПО может превысить 80 %. Однако процессы импортозамещения не так просты, как может показаться на первый взгляд.

РЕШЕНИЙ-ЗАМЕНИТЕЛЕЙ НЕДОСТАТОЧНО

Процесс ухода иностранных разработчиков ИТ-решений с российского рынка оказался гораздо более спокойным, чем ожидали многие эксперты в первой половине 2022 года. Часть отечественных компаний смогли продолжить использование зарубежных ИТ-решений или даже официально продлить лицензии. Это оказало серьезное влияние на отношение российских организаций к импортозамещению используемых решений. В середине 2023 года некоторый ажиотаж вызвало заявление Microsoft о том, что после 30 сентября продление подписки для российских корпоративных клиентов станет невозможным[5], однако аналитики не увидели в этом серьезных угроз для российских предприятий.

Часто компании рассматривают вопрос о миграции с иностранных решений на отечественные, но не включают ее в число срочных мер. Затраты на миграцию крайне высоки, а единственная выгода для бизнеса – исключение рисков западного ПО, которые не всегда реализуются. Функциональность многих российских ИТ-решений сегодня сопоставима с иностранными аналогами. Некоторые отечественные программные продукты разрабатывались задолго до ухода из России зарубежных поставщиков, поэтому сегодня на рынке немало зрелых продуктов. Но этого не всегда достаточно.

Относительно спокойные темпы ухода иностранных поставщиков привели к тому, что отечественного бизнес-потребителя не всегда удовлетворяют российские продукты, которые просто дублируют функциональность уже эксплуатируемых зарубежных ИТ-решений. Отечественные предприятия хотят, чтобы миграция на российские ИТ-решения не только исключала риски использования иностранного ПО, но еще и усиливала положение компании на рынке, способствовала снижению издержек, помогала сформировать уникальное ценностное предложение и т. п. На рынке ПО сложилась уникальная ситуация: российские разработчики имеют преимущество за счет большей привлекательности отечественных ИТ-продуктов, но вынуждены выводить на рынок все более новые и совершенные решения, а не просто копировать иностранное ПО.

Некоторые исследования констатируют: ERP-системы от иностранных поставщиков, официально покинувших российский рынок, по-прежнему популярны у российских компаний. Особенно это касается крупных предприятий, где численность персонала измеряется тысячами. У многих компаний все еще нет четких планов по переходу на альтернативные ERP-системы от российских разработчиков. В этом смысле показательны результаты исследования «Технологий доверия»: в 2023 году ERP-системы компании SAP входят в число самых популярных среди российских предприятий, причем 63 % компаний не собираются менять свою систему[6].

Тем не менее есть (и будет) спрос на российские ИТ-решения, которые по своей функциональности не превосходят иностранные аналоги. Одна из причин – указ президента РФ «О мерах по обеспечению технологической независимости и безопасности критической информационной инфраструктуры Российской Федерации». Согласно этому документу, с 1 января 2025 года запрещается использование иностранного ПО на значимых объектах критической информационной инфраструктуры. При этом в указе содержится запрет для государственных заказчиков на закупку иностранного ПО еще с 31 марта 2022 года.

ПЕРЕХОД НА ОТКРЫТОЕ ПО

Важную роль в цифровизации российской экономики и формировании ИТ-трендов играет переход на открытое программное обеспечение. Как и в случае с импортозамещением, это глобальный процесс. В открытое ПО сегодня инвестируют крупнейшие международные ИТ-компании, включая Microsoft, Google и Amazon, а мировой рынок open source в 2022 году составил порядка $30 млрд[7]. Более того, отдельные компании и государственные учреждения различных стран разрабатывают собственные решения на базе open source. А европейская организация по ядерным исследованиям CERN анонсировала в 2019 году планы по переходу на open source решения, отметив, что проект позволит снизить зависимость от сторонних вендоров и повысит безопасность той информации, которой она владеет.

Высокая концентрация российских разработчиков приведет к формированию гиперконкурентной среды

Некоторые исследователи ожидают, что к 2026 году порядка 92 % российских предприятий будут использовать открытое программное обеспечение[8], что значительно превышает соответствующий ожидаемый показатель в других странах мира. При этом российский бизнес не всегда может ограничиться внедрением бесплатных решений с открытым исходным кодом. Если проприетарную программу, которая используется в нескольких бизнес-процессах, можно заменить без проблем, то с масштабными ИТ-решениями ситуация принципиально иная. Бизнес привык к формату SLA от поставщиков. Один из предпочтительных вариантов для российских предприятий сегодня – приобретение у отечественных вендоров решений на базе открытого ПО, с тем чтобы в дальнейшем получать от них необходимую техническую поддержку, обновления и пр.

Российские разработчики активно используют открытое ПО, в частности, для разработки собственных операционных систем (ОС Astra Linux, Alt Linux, РОСА, РЕД ОС и пр.), систем управления базами данных (ProximaDB, Arenadata PG, «Квант-Гибрид» и пр.) и иных ИТ-решений. Тому есть несколько причин. Первая – достаточно быстрый срок разработки нового продукта и его вывода на рынок, причем сама разработка обходится компании значительно дешевле. Вторая причина – частичное устранение проблемы совместимости, которая нередко возникает при разработке ИТ-решения с нуля. И наконец, третья причина – значительное увеличение экспортного потенциала ИТ-решения. Широко известные open source решения, лежащие в основе российского продукта, могут стать важным фактором для успешного продвижения.

Часто невозможно ограничить рыночное предложение, только лишь предоставляя техническую поддержку. Во многих областях экономики (преимущественно связанных с жизнью и здоровьем человека, с использованием сложных технических устройств, с управлением объектами транспортной и энергетической инфраструктуры и пр.) применение открытого ПО без доработки и дополнительного тестирования не представляется возможным. В частности, на конференции Linux Foundation говорили о том, что невозможно применять Linux для управления системами летательных средств. Более того, сам Линус Торвальдс, создатель Linux, неоднократно отмечал, что нельзя всесторонне изучить код, присланный в новую версию участниками сообщества по разработке этой операционной системы.

В России в конце 2022 года стартовал эксперимент по использованию открытого ПО государственными учреждениями (включая Минцифры, МВД, а также Российский фонд развития информационных технологий), который продлится до 2024 года. По его итогам планируется подготовить предложения по нормативному регулированию и методической поддержке публикации open source решений, а также создать национальный репозиторий открытого ПО и сформировать порядок отбора и требования к оператору такого репозитория.

ВЛИЯНИЕ ГОСУДАРСТВА НА ИТ-ТРЕНДЫ

Значительное влияние на формирование ИТ-трендов в российской экономике оказывает государство, которое поддерживает инновационные сферы, включая ИТ. Создание любого ИТ-решения – достаточно рискованный для бизнеса процесс, затраты на него не ограничиваются этапом разработки. Выпущенное программное обеспечение нуждается в регулярных обновлениях, а корпоративные пользователи – в технической поддержке. Эти расходы целиком ложатся на разработчиков, поэтому для выхода хотя бы на точку безубыточности необходимо большое число регулярных продаж.

После ухода иностранных ИТ-компаний российские разработчики будут вынуждены серьезно конкурировать друг с другом. Зачастую их маркетинговые бюджеты сопоставимы (в отличие от более солидных бюджетов западных компаний), и высокая концентрация российских разработчиков приведет к формированию гиперконкурентной среды.

Без господдержки создание новых программных продуктов может оказаться для отечественных разработчиков коммерчески непривлекательным, и эта ситуация опасна для всей национальной экономики. К примеру, участники мероприятия «Российский ИТ-рынок в 2023 году: от траектории устойчивого роста к цифровой конкуренции» констатировали, что только в сегменте индустриального ПО около 350 решений с критической степенью зависимости от зарубежных продуктов[9]. При этом спрос на отраслевые решения ограничивается числом компаний в отрасли, и разработка узконаправленных продуктов без господдержки может оказаться коммерчески неоправданной.

По мере появления все более зрелых и обладающих бизнес-ценностью российских ИТ-решений ряд российских разработчиков решат выходить на иностранные рынки, в частности на рынки дружественных государств. Значительная часть этих стран – растущие экономики, потенциал которых только начинает раскрываться. Продвижение на них российских ИТ-решений в долгосрочной перспективе потенциально выгодно. Однако без государственной поддержки это вряд ли возможно, поскольку небольшие и средние компании не в состоянии конкурировать с международными ИТ-гигантами на иностранных рынках. Меры госстимулирования, связанные с экспортом ИТ-решений, будут оказывать все более серьезное влияние на ИТ-тренды в российской экономике, поскольку для компаний-разработчиков решения с высоким экспортным потенциалом станут более предпочтительными.

На технологическое развитие российских компаний сегодня серьезно влияют также параллельный импорт, производство отечественной микроэлектроники и, наконец, результаты отечественных разработок на базе ИИ.

Сегодня у российских ИТ-компаний есть шанс занять ниши, освободившиеся после ухода иностранных игроков. Ориентация на актуальные для национальной экономики ИТ-тренды позволяет выводить на рынок решения, конкурентоспособные при любых рыночных условиях, в том числе при увеличении количества отечественных ИТ-решений. Потенциал, заложенный в тот или иной тренд, может быть превращен в реальную бизнес-ценность. И точно так же этот потенциал может стать фундаментом конкурентного преимущества для компании, которая разработала и вывела на рынок это решение.

Евгений Зараменских – профессор, руководитель департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ.

По собственной программе

Евгений Зараменских

Результаты первого исследования российских ИТ-трендов

Экономика России демонстрирует тенденции к росту. В момент написания этой статьи Центральный банк РФ отмечал завершение фазы восстановительного роста экономики, вслед за которой, по прогнозам аналитиков ЦБ РФ, продолжится планомерный рост ВВП. Аналогичной позиции придерживаются и иностранные исследователи: так, МВФ отмечает, что в 2024 году ВВП России должен увеличиться на 1,3 %.

Экономика России, как и экономики большинства развитых стран, затронута процессами цифровизации, и ее уровень будет непрерывно возрастать. А на цифровизацию влияют различные ИТ-тренды. Некоторые из них актуальны для большинства стран мира и едва ли не для всех предприятий, другие оказывают колоссальное влияние лишь на некоторые национальные экономики.

Опираясь на исследование ИСИЭЗ НИУ ВШЭ[10], можно сформулировать определение для понятия «ИТ-тренд»: это крупномасштабные долгосрочные сдвиги в области информационных технологий, которые повлекут за собой радикальные изменения в развитии организаций, экономики, государства и общества. Любой ИТ-тренд порождает вызов – совокупность возможностей и потенциальных угроз, сложность и масштаб которых таковы, что они не могут быть реализованы или устранены исключительно за счет имеющихся на текущий момент у организации, экономики, государства и общества ресурсов.

Несколько лет назад для понимания ИТ-трендов, влияющих на развитие российской экономики, можно было обратиться к исследованиям западных компаний – Gartner, McKinsey, Accenture, Deloitte и пр., а затем применить их результаты с небольшой поправкой на национальную специфику. Однако сегодня это едва ли возможно, причем не только из-за текущей геополитической ситуации.

По мере усиления цифровизации анализ ИТ-трендов, характерных для той или иной национальной экономики, становится все более актуальным. В некоторых случаях эта задача решается крупными консалтинговыми компаниями вроде Gartner, McKinsey и др., которые публикуют материалы по конкретным странам и регионам. Кроме того, компании по всему миру выпускают собственные исследования, посвященные ИТ-трендам. Однако в первом случае национальная экономика оказывается «слишком мала» на фоне глобального взгляда, а во втором – «слишком велика», из-за того что при анализе трендов необходимо учитывать еще и те отрасли экономики, в которых компания не ведет свою деятельность.

Особенности проведения опроса

Для каждого из трендов мы дали краткое описание. Респонденту предлагалось охарактеризовать состояние в его компании цифровых технологий, относящихся к данному тренду. Вопрос имел фиксированные варианты ответа: уже внедрены, исследуются и планируется внедрение, не планируют внедрять.

В зависимости от выбранного ответа осуществлялась маршрутизация респондентов. Если респондент выбирал вариант «уже внедрены», то ему задавались два дополнительных вопроса, относящихся к соответствующему ИТ-тренду.

В рамках первого вопроса выявлялись планы компании по наращиванию инвестиций в это направление, а в рамках второго – бизнес-функции текущего и предполагаемого использования. В качестве бизнес-функций были представлены в том числе операционная деятельность, разработка и инжиниринг, исследования, маркетинг, цепи поставок и логистика, бэк-офис, HR, клиентский опыт и др.

Если респондент выбирал ответ «исследуются и планируется внедрение», то задавался всего один дополнительный вопрос о бизнес-функции его предполагаемого использования с аналогичными вариантами ответов. Если же респондент выбирал вариант «не планируют внедрять», то он переходил к вопросу о следующем ИТ-тренде.

Для проведения опроса использовалась одна из общедоступных онлайн-платформ. Привлечение респондентов осуществлялось за счет массовых и целевых рассылок на основе контактных данных, имеющихся у Высшей школы бизнеса НИУ ВШЭ.

В опросе Высшей школы бизнеса НИУ ВШЭ приняли участие 315 представителей российских компаний, относящихся более чем к 14 отраслям национальной экономики. В частности, в исследование вошли компании, представляющие такие отрасли экономики России, как обрабатывающая промышленность, медицина и здравоохранение, ретейл, энергетика, сельское хозяйство, туризм, ЖКХ, строительство, логистика и транспорт. Наибольшее количество респондентов относится к ИТ-отрасли, а также к сфере финансов и страхования. Все прочие отрасли представлены практически одинаковыми долями респондентов.

В опросе участвовали компании разного масштаба, начиная с совсем небольших фирм и стартапов и заканчивая крупными федеральными предприятиями. Однако наибольшее количество участников опроса – это крупные компании, численность персонала которых превышает 2 тыс. человек (54,7 % респондентов). А компании, численность персонала которых составляет 10-100, 101–500 и 500–2000, представлены практически равными долями участников опроса (17, 15,1 и 13,2 % соответственно).

В рамках опроса также запрашивалась информация о позиции респондента в организации. Предварительно позиции были разделены на четыре условные группы: директор, старший менеджер, мидл-менеджер и специалист. Результаты опроса показали, что наибольшее количество респондентов – это старшие менеджеры (32,1 %), а наименьшее (18,9 %) – директора компаний. На специалистов и мидл-менеджеров пришлась практически равная доля респондентов (порядка четверти респондентов на каждую роль).

Позиции респондентов в организации и численность сотрудников

В июне – сентябре 2023 года Высшая школа бизнеса НИУ ВШЭ провела первое исследование ИТ-трендов, характерных для отечественной экономики. Как показал опрос, они значительно отличаются от главных глобальных трендов.

ИТ-ТРЕНДЫ, ВОШЕДШИЕ В ИССЛЕДОВАНИЕ

До начала проведения опроса эксперты Высшей школы бизнеса НИУ ВШЭ определили первичный перечень ИТ-трендов, которые могут оказывать влияние на экономику России. Перечень был сформирован на основе анализа тематических исследований и публикаций российских и международных компаний. В первоначальный список вошли следующие 16 ИТ-трендов.

1 Обогащение и интеграция разнородных распределенных данных.

2 Стремление к цифровому суверенитету, импортозамещение зарубежных технологий.

3 Переход организаций к анализу совокупного опыта (сотрудников, клиентов, поставщиков, подрядчиков и т. д.) и внедрение соответствующих гибких ИТ-систем.

4 Расширенная автоматизация.

5 Концепции low-code и no-code.

6 Разработка решений, использующих ИИ.

7 Генеративный искусственный интеллект.

8 Регулирование областей применения ИИ.

9 Автономные системы.

10 Цифровые платформы: организация единого информационного пространства и алгоритмизация доступа.

11 Dark-модели для предприятий разного типа (dark factory, dark X): минимизация точек взаимодействия с клиентом и численности персонала.

12 Суперприложения (объединение разных сервисов в рамках одного приложения).

13 Метавселенные.

14 Разработка прикладного ПО на основе программного обеспечения с открытым исходным кодом.

15 Новые технологии цифровой безопасности.

16 Цифровые двойники.

Затем, после получения ответов респондентов (а также после обширной обратной связи от участников опроса), был проведен первичный анализ ИТ-трендов. На графике представлено распределение полученных ответов.

Первичные данные, полученные в ходе прохождения опроса, показали крайне низкую заинтересованность предприятий в таких ИТ-трендах, как «Метавселенные», «Dark-модели для предприятий разного типа (dark factory, dark X): минимизация точек взаимодействия с клиентом и численности персонала» и «Регулирование областей применения ИИ». Было принято решение исключить их из дальнейшего анализа, а полученные данные позволили не рассматривать их в качестве актуальных ИТ-трендов для российской экономики.

Также после обработки всей полученной обратной связи и проведения консультаций авторы исследования исключили из перечня следующие ИТ-тренды.

• Стремление к цифровому суверенитету, импортозамещение зарубежных технологий. Анализ полученных данных показал, что 55 % респондентов активно исследуют и планируют внедрение российских ИТ-решений, при этом еще 31 % компаний заместили ряд иностранных ИТ-решений. Фактически в данном случае имеет место не ИТ-тренд ближайшего будущего, а особенность российской экономики, с которой уже столкнулось большинство отечественных предприятий.

• Разработка прикладного ПО на основе программного обеспечения с открытым исходным кодом. Первичный анализ данных показал, что 49 % респондентов уже используют открытое ПО или разработанные на его основе решения, причем еще 16 % организаций активно исследуют эту возможность. Как и в случае с достижением цифрового суверенитета, в данном случае имеет место не отдельный ИТ-тренд, а особенность современной российской экономики, которая наблюдается «здесь и сейчас».

• Генеративный искусственный интеллект. Анализ обратной связи показал, что российские компании не рассматривают генеративный ИИ в качестве отдельного ИТ-тренда. Гораздо больший интерес для российских организаций представляет разработка решений, использующих ИИ, внутри которых могут использоваться технологии генеративного искусственного интеллекта.

Отметим, что представленный в данном исследовании набор ИТ-трендов не следует рассматривать как единственно верный или единственно возможный. Тренды были определены на основе экспертизы авторов исследования и обсуждения с представителями бизнес-сообщества. Ключевыми источниками информации являлись также многочисленные исследования международных консалтинговых компаний и крупных российских предприятий.

СПЕЦИФИКА РОССИЙСКИХ ИТ-ТРЕНДОВ

Уже на данном этапе стало очевидным наличие национальной специфики при определении ИТ-трендов. Интересно сравнить результаты нашего опроса с итогами исследования компании Gartner «Главные стратегические технологические тренды 2023» (Top Strategic Technology Trends 2023). Так, Gartner включила в перечень трендов метавселенные. Однако анализ российских предприятий продемонстрировал крайне низкую заинтересованность в этих технологиях. Вероятно, сейчас отечественный бизнес сфокусирован на более понятных, более реализуемых, более интересных для потребителя и менее затратных технологиях, чем метавселенные.

В списке трендов Gartner также есть «Доверие к ИИ, управление рисками и безопасностью» (AI Trust, Risk and Security Management). Однако выделенный в рамках исследования ВШБ НИУ ВШЭ тренд с близким смысловым содержанием («Регулирование областей применения ИИ») оказался среди наименее интересных для российского бизнеса. На текущий момент вопросы регулирования ИИ и разграничения ответственности между поставщиками соответствующих сервисов и их пользователей находятся в стадии активного обсуждения, в том числе с участием высших государственных лиц и представителей бизнеса, однако этап практической реализации тех или иных мер регулирования ИИ еще не достигнут.

Отметим, что в рамках исследования трендов Gartner было выделено сразу два тренда, посвященных искусственному интеллекту: уже упомянутый тренд «Доверие к ИИ, управление рисками и безопасностью» и «Адаптивный искусственный интеллект». Как уже было сказано выше, проведенный авторами сборника опрос и анализ обратной связи позволили сделать вывод о том, что российский бизнес сегодня рассматривает искусственный интеллект комплексно.

АНАЛИЗ РЕЗУЛЬТАТОВ ОПРОСА

В этом сборнике будет рассмотрено только 10 ключевых трендов, которые были выявлены на основе первичного анализа результатов опроса и полученной обратной связи. Именно они могут быть определены как ИТ-тренды для российской экономики – 2024.

Как показал опрос, наиболее реализованным на практике является тренд по обогащению и интеграции разнородных распределенных данных. Более половины компаний заявили о том, что такие технологии уже внедрены. При этом подавляющее большинство организаций, которые уже внедрили соответствующие решения, планируют увеличивать в них инвестиции (более 80 %). А наиболее популярными бизнес-функциями для текущего и будущего применения были названы операционная деятельность, маркетинг, исследования и клиентский опыт.

Одним из наименее исследуемых ИТ-трендов стали автономные системы. Однако даже этот тренд имеет значение для бизнеса: 22 % компаний заявили о том, что либо уже внедрили соответствующие технологии, либо занимаются их изучением. Тем не менее у внедрения автономных систем в деятельность российских компаний хорошие перспективы. Их использование позволяет не только значительно сократить затраты предприятия, но и сформировать и вывести на рынок новые продукты или сервисы. Столь низкий результат автономных систем как ИТ-тренда связан прежде всего с низкой степенью распространения подобных решений как на мировом, так и на российском рынках.

Интересную позицию занял тренд, связанный с цифровыми платформами, организацией единого информационного пространства и алгоритмизацией доступа. При ранжировании трендов на основе варианта «не планируют внедрять» он оказался практически в середине: такой ответ выбрали 22 % респондентов. Однако с точки зрения уровня внедрения этот тренд второй по популярности, он уступил только обогащению и интеграции разнородных распределенных данных. Такое неоднозначное положение связано с тем, что в настоящий момент создание новых цифровых платформ не всегда оправданно с экономической точки зрения. Все рынки, на которых внедрение цифровых платформ гипотетически возможно, уже стали высококонкурентными, и продвижение нового продукта будет крайне сложной и затратной задачей.

Самый привлекательный тренд, который сейчас исследует большинство компаний, – разработка решений на базе ИИ. Действительно, наибольшее внимание к искусственному интеллекту было приковано в начале 2023 года, и на момент проведения опроса внедрить ИИ в свою деятельность успели чуть менее 30 % компаний. Показательно, что всего 20 % организаций не планируют внедрять ИИ. При этом все компании, которые уже используют ИИ, планируют увеличить инвестиции в это направление. Его практическое и предполагаемое использование больше всего распространено в операционной деятельности, в разработке и инжиниринге, в исследованиях, маркетинге и клиентском опыте.

Области текущего и ожидаемого применения ИТ-решений на базе соответствующих трендов (%)

ИНВЕСТИЦИОННАЯ ПРИВЛЕКАТЕЛЬНОСТЬ ИТ-ТРЕНДОВ

Респонденты, чьи компании уже внедрили ИТ-решения, относящиеся к тому или иному ИТ-тренду, ответили на вопрос, есть ли у них планы по увеличению инвестиций в развитие соответствующего направления.

Как показал опрос, российские компании в целом удовлетворены даже текущими результатами от использования ИТ-решений и видят в них значительный потенциал. Для различных ИТ-трендов доля компаний, которые планируют увеличивать объем инвестиций, колеблется в диапазоне от 82 до 100 %, причем максимальный показатель зафиксирован в отношении сразу трех трендов: «Автономные системы», «Новые технологии цифровой безопасности» и «Разработка решений, использующих ИИ».

Авторы исследования также хотели выяснить области применения ИТ-решений, основанных на соответствующих трендах. В качестве ключевых областей применения были выделены операционная деятельность, разработка и инжиниринг, исследования, маркетинг, цепи поставок и логистика, бэк-офис (обработка счетов, документооборот), HR, клиентский опыт. Области применения были отдельно проанализированы для компаний, которые уже внедрили соответствующие ИТ-решения, и для организаций, которые лишь исследуют возможности по их применению.

Области ожидаемого применения ИТ-решений на базе соответствующих трендов (%)

В случае с компаниями, которые уже внедрили соответствующие ИТ-решения, актуальным для наибольшего количества областей применения оказался тренд «Разработка решений, использующих ИИ». Значительную актуальность для различных областей применения продемонстрировали и такие тренды, как «Переход организаций к анализу совокупного опыта (сотрудников, клиентов, поставщиков, подрядчиков и т. д.) и внедрение соответствующих гибких ИТ-систем» и «Цифровые платформы: организация единого информационного пространства и алгоритмизация доступа».

Следующая часть анализа включает ответы респондентов, которые заявили о том, что на момент проведения опроса их компания только исследует возможность применения ИТ-решений на базе какого-либо тренда. Анализ данной группы компаний показал схожие результаты. Наиболее привлекательной областью применения для данной группы компаний оказалась операционная деятельность. Ей значительно уступают разработка и инжиниринг, маркетинг и клиентский опыт. HR – наименее привлекательная область применения для реализации соответствующих ИТ-решений. А «Исследования» и «Бэк-офис (обработка счетов, документооборот)» оказались наименее привлекательными областями применения для решений на базе рассматриваемых ИТ-трендов.

Самым привлекательным в данном случае оказался ИТ-тренд «Новые технологии цифровой безопасности», который опережает тренд на расширенную автоматизацию и тренд по разработке решений на основе ИИ. В качестве наименее интересных трендов, как и в предыдущем случае, фигурируют автономные системы и цифровые двойники.

АНАЛИЗ ОБЩИХ ДАННЫХ

Один из вопросов исследования касался импортозамещения компаниями иностранных ИТ-решений. Подавляющее большинство респондентов (73,6 %) заявили, что их организация осуществляет имплементацию отечественных решений взамен ушедших с российского рынка западных технологий. Тем не менее значимая группа компаний (26,4 %) заявила о том, что не проводит подобную имплементацию. Это позволяет говорить о том, что потенциал роста спроса на отечественные ИТ-решения не исчерпан. В российской экономике существует значительная доля предприятий, которые еще не приступили к замене иностранных ИТ-решений.

Еще один вопрос был нацелен на понимание того, насколько распространены сегодня инструменты управления внедрением цифровых инноваций. Можно ожидать, что компании, которые обладают подобными инструментами, способны осуществлять этот процесс быстрее, эффективнее и, что крайне важно, более предсказуемо. Результаты опроса показали, что подавляющее большинство компаний ограничиваются обычными инструментами управления проектами (60,4 %). Небольшая доля предприятий осуществляет только контроль рисков (11,3 %), а 28,3 % рассчитывают показатель возврата на цифровые инвестиции.

Также в рамках опроса мы выявили наиболее серьезные проблемы, с которыми сталкиваются российские компании при планировании и освоении новых цифровых решений. В первую пятерку вошли недостаток специалистов (программистов, архитекторов, дата-сайентистов); приоритизация инвестиций и/или разработок; отсутствие у персонала навыков, необходимых для имплементации решений, цифровая неграмотность; правильный выбор новых технологий; наличие старых систем с несовершенным кодом и архитектурой.

Интересно, что вариант «Отсутствие заинтересованности у руководства» оказался наименее популярным: подобный ответ дал только один респондент. Непопулярным стал и ответ «Отсутствие поддержки со стороны поставщика», что позволяет говорить как о высокой заинтересованности российских поставщиков, так и о качественных процессах взаимодействия и поддержки.

И наконец, в рамках опроса мы хотели выяснить, насколько сами специалисты заинтересованы в изучении ИТ-трендов. Более половины участников опроса – директора и старшие менеджеры, от осведомленности которых о перспективах использования цифровых технологий зачастую зависят начало и последующая реализация соответствующих проектов. При этом специалисты и мидл-менеджеры, как правило, хорошо осведомлены о деятельности организации и ее процессах и могут выявить области потенциального применения ИТ-трендов.

Результаты опроса показали, что сотрудникам наиболее интересны такие ИТ-тренды, как разработка решений, использующих ИИ (56,6 %); суперприложения (41,5 %); обогащение и интеграция разнородных распределенных данных (39,9 %). Также сотрудники заинтересованы в вопросах импортозамещения, достижения цифрового суверенитета, генеративного искусственного интеллекта и в регулировании областей применения ИИ.

В этом сборнике эксперты, разбирая 10 ключевых российских ИТ- трендов, используют не только полученные в ходе опроса данные, но и профессиональный опыт экспертов, статистику и информацию из открытых источников.

Состав актуальных ИТ-трендов российской экономики, вероятно, будет меняться год от года – как будет меняться и экономический, политический, социальный и культурный контекст, внутри которого существует российская экономика и функционируют отечественные предприятия.

Евгений Зараменских – профессор, руководитель департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ.

Тренд № 1

Искусственный интеллект

Искусственный интеллект снова атакует

Евгения Чернозатонская

Мир переживает волну интереса к искусственному интеллекту, а бизнес готов вкладывать миллиарды в ИИ-решения. Оправданны ли эти инвестиции?

По данным опроса Высшей школы бизнеса НИУ ВШЭ, 80 % компаний уже применяют или собираются применять инструменты искусственного интеллекта (ИИ) в своих бизнес-процессах. Напомним, что ИИ – это обширная и разнородная область Computer Science, включающая такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке.

Задачи, с которыми должны справляться машины, чтобы их можно было считать «интеллектуальными», – умение распознавать изображения, решать задачи, понимать человеческий язык, анализировать данные и выдавать экспертные оценки – были определены более полувека назад.

Тогда же появился термин «искусственный интеллект». Удивительно, что ранние ИИ-разработки были сосредоточены в основном на классических играх, в первую очередь шахматах, а также на попытках алгоритмического машинного перевода, которые велись с конца 1950-х. Именно успехи в игровом поединке с человеком считались мерой разумности машины.

В 1996 году весь мир следил за матчем компьютера Deep Blue с тогдашним чемпионом мира по шахматам Гарри Каспаровым (признан в России иноагентом). Победа Deep Blue принесла славу ее создателям и подняла акции компании IBM, вложившейся в этот проект.

Сейчас ИИ проник во все сферы человеческой деятельности: образование, науку, искусство, промышленность и транспорт. А когда вычислительные мощности перестали ограничивать объемы обработки данных, компании стали производить их в невиданных прежде масштабах, и бизнес вступил в эру ИИ.

У этого понятия есть разные определения. Они довольно сложные, поэтому мы воспользуемся объяснением «на пальцах», предложенным Рубеном Ениколоповым, научным руководителем Российской экономической школы[11].

Допустим, что у нас есть таблица Excel. В первой колонке число, во второй – тоже число, а в третьей – их произведение. Excel сама перемножит числа, если вы введете формулу умножения. А теперь представим себе, что формулы нет, но есть несколько строк из трех чисел: множитель, множитель, произведение и т. д. Вы хотите, чтобы машина сама догадалась, что в третьей колонке произведение чисел. Это и есть задача для ИИ, и сейчас он решает ее для огромных и многомерных массивов данных разного формата, а вместо простой формулы произведения выдает сложные интегральные метрики. Бизнес-применение ИИ опирается в первую очередь на его способность улавливать закономерности в массивах данных.

ЭКОНОМИКА

Системы, которые относятся к классу ИИ, – многомиллиардная индустрия. По прогнозу IDC[12], в 2023 году мировой объем инвестиций в ИИ достигнет $154 млрд, а к 2026 году – $300 млрд (в оценку включены софт и «железо»). Как распределятся эти миллиарды? Из 36 сфер применения ИИ, выделенных IDC, cамыми востребованными в 2023 году будут умные чат-боты для поддержки клиентов, системы анализа продаж и рынков и рекомендательные сервисы. В эти направления будут вкладываться компании всех отраслей, и в совокупности они принесут поставщикам решений примерно $40 млрд. Также значительными будут инвестиции бизнеса в технологии ИИ для оптимизации ИТ-инфраструктуры, расширенной аналитики киберрисков, анализа и расследований мошенничества и обмана. Отрасли с наибольшими инвестициями в ИИ – банковский сектор и ретейл (см. врез справа).

Искусственный интеллект – обширная и разнородная область Computer Science, включающая такие направления, как нейросети, машинное обучение, глубинное обучение, обучение с подкреплением, компьютерное зрение и общение на естественном языке

Исследовательские фирмы Precedence Research[13] и Acumen[14] тоже предсказывают бурный рост инвестиций в ИИ в 2023-м и последующие годы. Однако исследование Стэнфордского университета свидетельствует о том, что это будет не только рост, но и восстановление: в 2022 году корпоративные инвестиции в ИИ упали на 26,7 % по сравнению с 2021 годом. Этому охлаждению, однако, предшествовал серьезный рост: с 2013 по 2020 год инвестиции корпоративного сектора в ИИ увеличились в 18 раз. Главным фактором роста был не утихающий вплоть до 2020 года оптимизм и даже хайп вокруг машинного обучения и ИИ в целом, подогреваемый бизнес-гуру. Откат начался в 2021 году, а в 2022 году снизилось как общее число сделок по приобретению решений с ИИ, так и число ИИ-стартапов[15]. Вероятно, сказалось разочарование: лишь небольшая доля компаний смогла нарастить доход и прибыль благодаря ИИ-решениям. Доля американских компаний, которые внедрили их хотя бы в одном функциональном подразделении, перестала расти: согласно опросу McKinsey, в 2019 году таковых было 58 %, а в 2022 году – лишь 50 %. Сказались и неудачный опыт внедрения ИИ в разные функции компаний, и общее разочарование в его возможностях, связанное с пандемией: роль ИИ в предиктивной аналитике была неубедительной. Автор статьи в HBR связывает это в первую очередь с качеством данных, которыми пользовались национальные системы здравоохранения[16].

В 2022 году бизнес не спешил внедрять разработки по ИИ в повседневную практику. «Многие компании, которые решили строить собственные приложения на основе ИИ и аналитики, сталкиваются с одной и той же проблемой. Они нанимают дата-сайентистов, те строят модели, но эти модели редко реализуются на практике. Недавний опрос дата-сайентистов показал, что лишь 20 % моделей реально дошли до имплементации», – пишет евангелист применения ИИ в бизнесе Томас Дэвенпорт[17].

Вектор снова повернул вверх с приходом ChatGPT (подробнее о ней на с. 31). Бизнес опять поверил в то, что ИИ-решения способны обеспечить подъем эффективности в разных сферах. Инвестиции в стартапы, которые имели в своем описании генеративный ИИ (generative artificial intelligence), в I квартале 2023 года взлетели в разы – до $12 млрд. Даже без учета тех $10 млрд, которые компания Microsoft вложила в создателя ChatGPT OpenAI, рост год к году составил 58 %. А уже летом 2023 года американский канал CNN заговорил о новом ИИ-пузыре[18] с неясным будущим (в том числе из-за быстро меняющейся регуляторной среды).

По мнению доцента факультета компьютерных наук НИУ ВШЭ Евгения Соколова, сейчас технологии ИИ находятся на поворотном этапе: алгоритмы действительно работают и могут приносить пользу, но при этом мы мало понимаем их свойства, ограничения и потенциальные риски: «Грубо говоря, мы умеем получать гигантскую формулу, которая выдает очень неплохие решения задачи, но при этом не можем в этой формуле разобраться и гарантировать ее корректность. А без понимания устройства этих алгоритмов невозможно говорить об их надежности, стабильности и непредвзятости».

РОССИЙСКИЙ РЫНОК ИИ

Правительство России до 2030 года направит около 24,6 млрд руб. на развитие технологий ИИ, еще около 100 млрд руб. в это направление вложит «Сбер», следует из утвержденной властями дорожной карты. К 2024 году, согласно этому документу, объем рынка технологий на базе ИИ в России составит 14 млрд руб. Это более чем в 10 раз меньше оценок, заложенных в аналогичную программу от 2019 года, отмечает «Коммерсантъ»[19]. Но даже обновленные планы реализовать будет сложно, считают эксперты: для этого просто не хватит высокопроизводительного зарубежного оборудования вроде видеокарт Nvidia.

Лидеры финтехрынка в России инвестировали в ИИ около 600 млрд руб. за последние 10 лет, говорится в свежем исследовании ассоциации «ФинТех»[20]. По данным опроса, к середине 2023 года 80 % финансовых компаний имеют подразделения по анализу данных, но только у 17 % компаний есть централизованные структуры по работе с ИИ-решениями. 95 % компаний финансового сектора используют ИИ-технологии в основных процессах. Респонденты отметили, что главными барьерами внедрения ИИ являются дефицит профильных специалистов, а также отсутствие отечественных инструментов для работы с машинным обучением.

По словам Германа Грефа, в «Сбере» ИИ широко применяется в разных бизнес-функциях. В интервью РБК[21] он сказал: «<…> На сегодняшний день в подавляющем большинстве наших сервисов мы локализовали собственные разработки на 100 %. Это же касается искусственного интеллекта. Все, что касается <…> больших языковых моделей и трансформеров, это от начала до конца наша собственная разработка. И мы не зависим ни от каких вендоров». По словам Грефа, у «Сбера» достаточно собственных данных, чтобы обучить свои модели, а единственное узкое место – это «железо». «Для задач искусственного интеллекта нужны специализированные чипы, так называемые ASIC [application-specific integrated circuit, интегральная схема для конкретного применения], и целый ряд других специализированных инструментов, которые производят несколько компаний в мире. Это сегодня вызов». Свои ИИ-решения, например по Deep Learning, «Сбер» использует в разных частях экосистемы, но не как коммерческий продукт.

Особые риски систем ИИ: нарушение авторских прав, дискриминация, высокие энергозатраты

Перспективы развития ИИ в банковском секторе видит и Банк России. В начале апреля регулятор заявил о собственных планах создания центра компетенций по ИИ.

В «Яндексе» ИИ интегрирован во множество сервисов: собственно поиск, YandexGo, Yandex Market. «Яндекс» разрабатывает свою версию генеративной сети ChatGPT на базе решений GPT-3 от компании OpenAI. Проект в итоге назвали YandexGPT. YandexGPT умеет тезисно пересказывать текст (сервис 300.ya.ru), а также генерирует тексты в режиме реального времени и форматирует их. В августе 2023 года «Яндекс» объявила, что на технологической платформе «Яндекс. Учебник» будет построена образовательная нейросеть на базе YandexGPT для помощи в изучении программирования. Ожидается, что бесплатный обучающий сервис для детей и подростков появится в открытом доступе в 2024 году.

По данным CNews[22], российский рынок ИИ быстро растет, суммарная выручка топ-10 участников третьего рейтинга крупнейших игроков увеличилась на две трети. С 2022 года российский бизнес активно внедряет распознавание и синтез речи, чат-боты и голосовых виртуальных ассистентов.

Дмитрий Дырмовский, CEO группы компаний ЦРТ (занимает второе место на рынке ИИ по версии CNews), основываясь на статистике заказчиков своей компании, отмечает повышение интереса к речевой аналитике и диалоговым ассистентам. «Направление диалоговых ассистентов – текстовых и голосовых роботов для банков, телекомкомпаний, госсектора – в 2022 году выросло на 90 % по сравнению с 2021 годом; развивались проекты по голосовому заполнению медицинских протоколов», – говорит он. Второе по количеству проектов направление ИИ в российских компаниях и в госсекторе – распознавание изображений и компьютерное зрение, отмечает Дырмовский.

По оценке Александра Корнева, операционного директора Rubbles, доля собственной и заказной разработки на российском ИИ-рынке измеряется десятками процентов: «Это связано с тем, что для многих западных решений, ушедших с рынка, нет прямых российских аналогов. То есть у заказчиков нет другой возможности, кроме разработки с нуля – самостоятельно или с привлечением аутсорсера».

«Многие ведущие российские компании разных отраслей – металлурги, энергетики и даже РЖД – внедряют собственные разработки по ИИ для оптимизации ИТ-архитектуры и операций, – говорит профессор департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ Петр Панфилов. – И чаще всего они пользуются библиотеками из open source. Алгоритмы, на основе которых строятся ИИ-решения, универсальны – математика не делится на западную и отечественную. Российские математики сильные, и у разработчиков ПО есть очень продвинутые решения. Наша проблема в ИИ, как и во многом другом, – долгий, а зачастую и непреодолимый путь от разработки до промышленного внедрения».

«В России фундаментальными исследованиями в сфере ИИ занимаются не только университеты, но и ряд компаний. К примеру, исследователи из "Яндекса", "Сбера", "Тинькофф" регулярно публикуют свои результаты на ведущих конференциях по ИИ. Уверен, что если инвестиции в такую работу сохранятся, то скоро появятся прорывные методы, разработанные уже нашими учеными», – полагает Евгений Соколов.

ЗАКОНЫ И ЭТИКА

В 2022 году в мире было принято 37 законов, регулирующих разработку и применение систем ИИ. На диаграмме видно, как госрегулирование отрасли усиливается в последние годы. По оценке EY, совокупные затраты компаний списка Fortune 500 на комплаенс в сфере данных в 2022 году могли составить $8 млрд[23]. «Сейчас более 100 юрисдикций – страны, штаты и города – вводят собственные законы о персональных данных. Это дополнительно отягощает прохождение лабиринта регуляторных требований, в котором может заблудиться практически любая глобальная компания, взаимодействующая с потребителем. Все это сравнимо с появлением нового налога: большие расходы, большие риски, сложность выполнения требований и невозможность от него уйти», – пишут эксперты EY[24].

Одной из главных вех в регулировании этой сферы стало появление в 2018 году общего регламента ЕС о защите персональных данных, устанавливающего штрафы за нарушения в размере от €10 млн до €20 млн или от 2 до 4 % от глобальной выручки для компаний. За прошедшие годы примеру ЕС последовали и другие страны. В США законодательство о защите данных постоянно ужесточается, неуклонно приближаясь к европейскому. Понятно, что всех беспокоит риск утечек персональных данных, но какой вред человеку и обществу могут нанести машинное обучение и ИИ?

Известно, однако, что с цифровым разумом сопряжены особые риски: нарушение авторских прав, дискриминация, высокие энергозатраты и пр. В сфере найма, например, ИИ отличает предвзятость в отношении женщин, расовых меньшинств и людей с ограниченными возможностями – ведь у них, как правило, послужные списки хуже. Компания Amazon потратила несколько лет и миллионы долларов на разработку механизма найма с использованием ИИ, а затем выбросила этот алгоритм, поняв, что не может устранить в нем дискриминацию женщин[25].

14 июня 2023 года Европейский парламент принял проект закона об ИИ[26], который серьезно ограничит использование программного обеспечения с ИИ для распознавания лиц, а также потребует от создателей систем ИИ, таких как чат-бот ChatGPT, раскрывать больше информации о данных, используемых при разработке их решений. Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для наполнения баз данных ИИ. Эта практика вызвала пристальное внимание после того, как ее использовала компания Clearview AI – лидер в системах распознавания лиц.

Европарламентарии также добавили запрет на использование технологий определения эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях. Ожидается, что окончательный вариант закона будет принят до конца 2023 года.

Проект закона предполагает запрет в ЕС разработок с неприемлемым уровнем ИИ-риска. Что касается разработок с ограниченным ИИ-риском, то главное требование к ним таково: пользователь должен быть осведомлен о том, что взаимодействует не с человеком, а с роботом. Компании с высоким уровнем риска по ИИ должны будут подчиняться правилам, среди которых, например, такие:

• внедрение системы управления рисками;

• контроль управления данными;

• техническая документация;

• надзор человека за работой ИИ;

• транспарентность и доступность информации для пользователей;

• кибербезопасность;

• аудит кибербезопасности;

• регистрация в одной из стран ЕС;

Оценка комплаенса основных моделей ИИ с проектом закона ЕС об искусственном интеллекте

• контроль отдаленных последствий.

Нарушения правил повлечет штрафы до €30 млн или 6 % глобальной выручки.

Ученые из Стэнфордского центра Hai (Human-Centered AI) проанализировали действующие модели ИИ с точки зрения их соответствия новым правилам ЕС. Почти половина из них не дотянула и до 24 баллов по 48-балльной шкале[27].

Исследовательская компания Gartner выделила в отдельный тренд 2023 года системы управления рисками в сфере ИИ (AI Trust, Risk and Security Management – AI TRiSM). В качестве примера этического контроля ИИ Gartner приводит Датское управление бизнеса (DBA), которое выработало специальные методы. DBA устанавливает системы мониторинга, а также конкретными действиями проверяет справедливость аналитики ИИ. С помощью этого подхода уже контролируется 16 моделей ИИ, которые применяются в финтехе с совокупным объемом транзакций в миллиарды долларов[28].

В России законодательства в сфере ИИ не существует. По мнению руководителя практики по авторскому праву компании DRC Владимира Ожерельева, в нашей стране регулирование ИИ, скорее всего, пойдет по пути централизации управления нейросетями в руках государства и крупных корпораций. «Мы наблюдаем это как минимум в последних изменениях норм об обработке биометрических данных. Примеры злоупотреблений в сфере распознавания лиц уже заметны», – говорит он[29].

В 2021 году в России был принят Кодекс этики в сфере искусственного интеллекта[30], который, правда, не является обязательным. Ряд компаний, например «Сбер», имеют собственные этические нормы для систем ИИ (см. врез ниже)[31].

7 августа 2023 Конгресс США принял законопроект об ИИ, который обяжет компании бигтеха делиться датасетами с научными коллективами и стартапами, занимающимися созданием интеллектуальных систем. Законопроект исходит из того, что сейчас финансовые ресурсы, необходимые для сбора, хранения и управления массивами из петабайтов информации, есть только у ИТ-гигантов. Если доступ к этим массивам будет и у научного и предпринимательского сообщества, ИИ-разработки ускорятся[32].

В мае 2023 года HBR опубликовал подборку статей ведущих профессоров разных дисциплин – от истории до сomputer science – на тему этичности систем ИИ. Их выводы пессимистичны: ИИ-приложения разрабатывают и используют без оглядки на такие моральные ценности, как справедливость и достоинство человека, достоверность информации, личная безопасность и неприкосновенность частной жизни.

«Разработчики в Кремниевой долине десятилетиями действовали по принципу “двигайся быстрее, сметая все на своем пути”, – пишет Маргарет O’Мара, руководитель кафедры истории Университета Вашингтона. – Видеоигры в 1980-х, онлайн-платформы шопинга в нулевые, затем социальные сети, а теперь вот разговорный ИИ». И пока не известно, сколько и чего наломают разработчики в сфере ИИ, если не поставить их в четкие рамки закона[33], заключает автор. В другой статье HBR Цедал Нили[34] напоминает, что непрозрачность является оборотной стороной использования этих мощных систем. И поэтому лидеры бизнеса должны особенно ответственно подходить к инструменту ИИ, всякий раз оценивая его риски и документируя, в каких задачах и с какой целью он был задействован.

Евгения Чернозатонская – ведущий эксперт Высшей школы бизнеса НИУ ВШЭ.