Дмитрий Зегжда
Директор института компьютерных наук и кибербезопасности СПбПУ, д.т.н., профессор, член-корреспондент РАН
Обеспечение кибер-устойчивости
критической
цифровой инфраструктуры и медиапространства
цифровой инфраструктуры и медиапространства
КОГДА СХОДЯТСЯ ЗВЕЗДЫ
Обеспечение киберустойчивости критической цифровой инфраструктуры и медиапространства к целенаправленным кибератакам и когнитивным воздействиям в первую очередь связано с необходимостью формирования цифрового суверенитета.
Само определение цифрового суверенитета подсказывает простой способ обезопасить IT-решения — сделать их отечественными
Однако в условиях глобализации киберпространства обеспечить полную изоляцию от зарубежных технологий очень сложно.
Цифровой суверенитет — способность государства самостоятельно формировать свое пространство информационных технологий, распоряжаться информационными потоками, устанавливать стандарты информационной безопасности независимо от внешнего влияния, опираясь на собственную технологическую базу, учитывая все особенности национального законодательства, менталитета и традиций, концентрируясь на решении задач, имеющих национальный приоритет. Полного цифрового суверенитета нет ни у одной страны мира.
Цифровой суверенитет — способность государства самостоятельно формировать свое пространство информационных технологий, распоряжаться информационными потоками, устанавливать стандарты информационной безопасности независимо от внешнего влияния, опираясь на собственную технологическую базу, учитывая все особенности национального законодательства, менталитета и традиций, концентрируясь на решении задач, имеющих национальный приоритет. Полного цифрового суверенитета нет ни у одной страны мира.
Во-первых, потому что IT-технологии в различных сферах взаимно влияют друг на друга. Например, популярные приложения навязывают пользователям определенную парадигму бизнес-процессов (справедливо и обратное утверждение), а «зеленая повестка» ограничивает применение энергоемких технологий, что кардинально влияет на многие прикладные решения.
Во-вторых, в сфере высоких технологий все ведущие страны сильно зависят друг от друга. Американские iPhone собираются преимущественно в Китае. Тайвань и Южная Корея производят больше всех микрочипов в мире, в том числе почти 100% самых производительных. От общей для всех стран технологической платформы сложно отказаться любому государству.
“
Определенные меры по обеспечению цифрового суверенитета Россия уже принимает
Среди них — законы о защите КИИ, снижение зависимости от импортируемых технологий, контроль контента в национальном сегменте Интернета, продвижение позиций РФ в сфере регулирования информационной безопасности на международном уровне. В то же время некоторые факторы замедляют процесс цифровой автономии. В основном — высокая зависимость от западного системного и промышленного программного обеспечения, отставание в области микроэлектроники.
Важен и экономический аспект. Самые популярные магазины приложений находятся вне российской юрисдикции. Законодательные органы, скорее всего, продолжат работать на сдерживание зарубежного влияния и поддержку отечественного производителя.
Если говорить о прогнозах и оценивать перспективы развития технологий обеспечения информационной и кибербезопасности, то просматриваются следующие приоритеты:
- обеспечение киберустойчивости промышленной инфраструктуры по отношению к целенаправленным кибераткам;
- защита общества от когнитивных воздействий в медиапространстве;
- защита персональных данных от неправомерных действий с ними;
- защита цифровых финансовых активов от специфичных киберугроз;
- обеспечение кибербезопасности беспилотных аппаратов;
- защита от киберугроз, связанных с технологиями искусственного интеллекта.
Атаки на промышленную инфраструктуру могут привести к выводу из строя промышленных объектов, перехвату управления системами и даже стратегическому воздействию на страну с целью спровоцировать технологическую катастрофу.
Среди киберфизических систем, нуждающихся в максимальной защищенности и уязвимых для атак, — атомная промышленность, топливно-энергетический комплекс, военно-промышленный комплекс. В госсекторе и в значимых объектах КИИ доля отечественных решений достигает 90−100%. В коммерческих структурах доля отечественных и иностранных решений находится в пропорциях 50/50. Позитивные примеры — Национальная система платежных карт, Эра-Глонасс, Astra Linux.
“
Атаки на банковскую сферу, сферу здравоохранения, на государственные институты — ввиду их более слабой защищенности — более распространены
В этой сфере сохранится тенденция роста атак. Россия на данный момент — одна из самых кибератакуемых стран мира. Свыше 4 600 000 кибератак отразила Московская система электронного голосования за время выборов президента РФ с 15 по 17 марта 2024 года.
В первую очередь с этими угрозами Россия будет бороться в ближайшие годы. Скорее всего, будут развиваться технологии моделирования промышленной инфраструктуры с использованием киберполигонов, для отработки сценариев реагирования на инциденты. Продолжится работа над созданием методологии построения кибериммунных систем для обеспечения функционирования промышленных объектов в условиях атак, а также разработка технологий анализа больших объемов данных для обеспечения киберустойчивости при массированных и мощных кибератаках.
Особенно острым остается вопрос когнитивных воздействий на общество в медиапространстве. Когнитивное воздействие в медиасфере — мощный инструмент целенаправленного влияния на массовое сознание. Во всем мире насчитывается 5 350 000 000 участников медиапространства, в России — 127 600 000. Более 300 минут в день молодежь проводит в информационной среде.
Все виды групповых и индивидуальных коммуникаций уходят в Интернет. Для автоматического формирования таргетированного контента и распространения дезинформации в медиапространстве используется искусственный интеллект. Эти тенденции не пойдут на спад и будут только усугубляться.
“
Для противостояния когнитивным воздействиям будет формироваться научно-методологическая база — основа для разработки инструментов, определяющих контент, созданный путем применения методов машинного обучения
Информационные кампании будут выявляться и маркироваться. Законодательство будет ужесточаться в вопросе контента, созданного ИИ. Продолжится проведение киберпсихологических исследований по способам формирования специализированного контента, обеспечивающего продвижение идеологии государства в медиапространстве.
В сфере противодействия утечкам персональных данных пользователей, сектор кибербезопасности пойдет, вероятно, двумя основными путями: использование методов защищенной обработки ПД без доступа к их содержимому с применением механизмов гомоморфного шифрования и обучение моделей искусственного интеллекта без обмена реальными данными между источниками с помощью федеративного обучения для безопасной агрегации обучающих наборов данных при создании отечественных крупномасштабных интеллектуальных систем.
В сфере противодействия утечкам персональных данных пользователей, сектор кибербезопасности пойдет, вероятно, двумя основными путями: использование методов защищенной обработки ПД без доступа к их содержимому с применением механизмов гомоморфного шифрования и обучение моделей искусственного интеллекта без обмена реальными данными между источниками с помощью федеративного обучения для безопасной агрегации обучающих наборов данных при создании отечественных крупномасштабных интеллектуальных систем.
Новейшие киберугрозы, порождаемые ИИ, — намеренное формирование «отравленных» обучающих наборов данных, заблуждения пользователей и разработчиков на предмет непогрешимости ИИ, воздействия на модели машинного обучения, из-за которых интеллектуальные системы принимают некорректные решения, утечка сведений о принципах реализации таких систем. Будет активно разрабатываться комплекс методов и алгоритмов восстановления параметров зарубежных моделей ИИ для определения принципов их построения, воссоздания обучающих выборок или их аналогов.
Перспективные направления исследований в сфере защиты беспилотных летательных аппаратов — обеспечение защищенного помехоустойчивого геопозиционирования, оценка доверенности для отечественной компонентной базы, используемой в БПЛА, разработка малоресурсных криптографических механизмов с целью защиты канала связи, создание методов и техник выявления уязвимых мест в программном обеспечении и кибервоздействия на них.
Для того чтобы создать ядро суверенных ключевых информационных технологий и обеспечить их безопасность, необходимы согласованные усилия всех политических и экономических институтов для мобилизации отечественной науки и образования на реализацию этого имеющего стратегическое значение технологического прорыва.
В России есть все ключевые научные и кадровые ресурсы для решения этой задачи. Намерение государства помогать IT-сектору довольно ощутимо. Осталось лишь объединить усилия.
