Кроме того, в нашей стране активно проходит цифровая трансформация экономики, социальной сферы и государственного управления — осуществляется перевод в цифровую форму производственных, технологических, бизнес-процессов.

В ходе перевода в цифровую форму производственных, технологических, бизнес-процессов отечественной экономики широкое внедрение получают новые информационные технологии, такие как искусственный интеллект (ИИ), Интернет вещей (IoT), обработка больших данных. Данные технологии внедряются в различные отрасли экономики.

Так, создаются и масштабируются общегосударственные цифровые проекты — национальная платформа «цифрового рубля», системы дистанционного электронного голосования, национальная система платежных карт, система маркировки товаров и т. д. В некоторых отраслях деятельности человека цифровые технологии являются основным элементом производственной деятельности: к таким отраслям в первую очередь можно отнести образование и науку. В связи с этим формируется новый национальный проект (экономика данных), предполагающий существенное повышение эффективности использования информационных технологий в основных бизнес-процессах государства и общества.

Дополнительные угрозы информационной безопасности несут в себе секционное давление и уход с отечественного рынка ведущих мировых разработчиков средств защиты информации. Несмотря на то что для большинства таких средств существуют не уступающие по качеству отечественные аналоги в области высокопроизводительных средств, есть значительные трудности с импортозамещением.

Например, для отдельных способов применения технологий искусственного интеллекта актуальны угрозы нарушения качества ответов модели для заранее заданных входных примеров, формируемые «отравлением» обучающей выборки, или угрозы нарушения качества ответов генеративной модели, формируемые в результате «галлюцинаций» модели (формирование несуществующих фактов, вследствие вероятностной природы модели). Такие угрозы не характерны для других информационных технологий.

Угроза нарушения конфиденциальности возникает из-за возможности восстановления обучающих данных из обученной модели, что позволяет нарушителю с высокой достоверностью определить данные, используемые при ее обучении. Возможность реализации такого вида атак ставит вопрос о возможности применения конфиденциальной информации (например, персональных данных) при обучении технологий искусственного интеллекта и безопасности таких данных. Для противодействия таким видам атак обучение технологии искусственного интеллекта должно осуществляться:

Одним из способов противодействия новым угрозам, связанным с использованием технологии ИИ, является использование криптографических методов защиты информации. Данные методы могут использоваться для обезличивания обучающих выборок, то есть такого их преобразования, которое не позволит на основании анализа обученной модели восстановить исходные данные, используемые при обучении.

Кроме того, криптографические механизмы могут использоваться для электронной подписи достоверного контента, гарантируя, что подписанный контент не является дипфейком.

Важно отметить, что технология ИИ носит сквозной характер, то есть используется в различных отраслях, включая обработку больших данных, Интернете вещей (IoT), производственной, финансовой и социальной сфере.

Таким образом, расширяются и области применения криптографии для массового рынка, связанные с использованием индивидуальных средств обмена информацией, проведением банковских операций, а также применением в быту широкого класса бытовых технических средств, объединенных в единое информационное пространство.

Гарантированное решение актуальных задач обеспечения информационной безопасности при развитии цифровых технологий и сервисов возможно только путем применения отечественных криптографических механизмов, разработанных на основании фундаментальных исследований, проводимых научными организациями, например Академией криптографии Российской Федерации, ведущими профильными образовательными учреждениями, свойства которых подтверждены результатами тематических исследований, проводимых ФСБ России и специализированными лабораториями-лицензиатами.

Созданная в сложный для государства переходный период начала 90-х годов Академия криптографии Российской Федерации в течение последующих десятилетий сыграла немаловажную роль в фундаментальной проработке широкого спектра защищенных технологий обработки, хранения и передачи информации, а также новых технологий, требующих регулирования отношений, связанных с применением криптографии в значимых отраслях экономики: банковском секторе, мобильной связи, современных телекоммуникационных технологиях и т. д.

Аккумулированный в академии научный потенциал всегда позволял транслировать накопленный опыт для проработки новых направлений: например, активное участие в национальной программе «Цифровая экономика Российской Федерации» еще раз подтвердило возможность академии использовать свой потенциал для решения новых задач.

В современном мире криптографические методы защиты информации не только находят свое применение при решении классических задач — обеспечение конфиденциальности, контроль целостности или аутентификация, но и могут применяться для решения все более актуальных задач: многостороннее конфиденциальное вычисление, разделение секретов, шифрование, сохраняющее формат, и т. д.

Кроме того, криптографические методы защиты информации востребованы для обеспечения информационной безопасности доверенных программно-аппаратных комплексов и российского программного обеспечения, используемого в составе объектов критической информационной инфраструктуры, для обеспечения полноценного соответствия критериям безопасности, надежности и качества. При этом для обеспечения эффективной цифровой трансформации необходимо уделять особое внимание обеспечению информационной безопасности на этапе создания таких цифровых решений.

Опыт проводимых академией исследований механизмов и методов защиты информации в инновационных технологиях, применяемых в финансовой сфере, в системах управления автономным транспортом, в системах выпуска и обращения виртуальных активов, в сетях связи устройств Интернета вещей (IoT), в системах мобильной связи и т. д., показывает, что эффективность обеспечения информационной безопасности и эксплуатационные свойства таких технологий со встроенными механизмами защиты информации существенно выше, по сравнению с цифровыми технологиями, использующими наложенные средства защиты. В этой связи актуальным становится тезис о необходимости внедрения технологий защиты информации и на ранних этапах проектирования и создания цифровых решений.