Применение нейросетей в кибербезопасности обсудили на GIS Days 2023

Осень 2023 года стала крайне насыщенной по проводимым IT-мероприятиям. Сказались накопленный за прошедший год опыт, которым компании сейчас готовы делиться, оживление в бизнес-среде после, как говорят в самой отрасли, шока 2022 года и общее ощущение оптимизма и сплоченности, несмотря на сложные вопросы в области импортозамещения, которые еще предстоит решить. Одним из крупнейших IT-событий года стал форум GIS Days 2023 компании «Газинформсервис», который прошел с 4 по 6 октября сразу в двух городах: Санкт-Петербурге и Москве. “Ъ” пообщался с участниками форума и убедился: у отрасли не только за год накопился колоссальный опыт, но и появились амбициозные планы.

В Санкт-Петербурге и Москве прошел ежегодный форум GIS Days 2023 (Global Information Security Days), который объединил более 170 экспертов в области информационной безопасности, искусственного интеллекта (ИИ) и IT в целом. Организатор форума компания «Газинформсервис» провела GIS Days уже в шестой раз, стилизовав мероприятие под эпоху джаза и выбрав темой события ИИ в кибербезопасности — одну из самых обсуждаемых не только в России, но и во всем мире.

Тема привлекла такое внимание во многом благодаря стремительному росту популярности ChatGPT компании OpenAI, который в силу своей простоты показал, насколько легко обучить нейросети тем или иным задачам. И если для простых пользователей понятный ИИ стал скорее подспорьем, то для мирового сообщества в области кибербезопасности — новой нарастающей угрозой. Хотя в официальных условиях работы того же ChatGPT закреплен запрет на создание вредоносных продуктов, правила были нарушены практически сразу: более опытные пользователи нейросети начали тестировать автоматическое написание вирусных программ и других хакерских инструментов. Это лишь подтвердило опасения специалистов по кибербезопасности как в мире, так и в России.

При этом кибератаки на российскую IT-инфраструктуру за год только возросли: их число увеличилось в два раза относительно прошлого года, а атак хакеров на IT-сектор — в четыре (см. “Ъ” от 29 августа). Такая повестка сделала GIS Days 2023 особенно актуальным событием.

GIS Days 2023 в Москве открыл учредитель компании «Газинформсервис» Валерий Пустарнаков: «Искусственный интеллект — это не просто хайп, а развивающаяся прикладная технология,— сообщил он,— и наша задача как профессионального сообщества — сделать использование ИИ безопасным, и наш форум поможет в этом».

«Газинформсервис» — российский разработчик программных и программно-аппаратных решений для информационной безопасности и комплексной инженерно-технической охраны. Компания была основана в Санкт-Петербурге в 2004 году, через год ей исполнится 20 лет. Ее решениями пользуются госсектор и бизнес не только в России, но и в Киргизии, Белоруссии и Казахстане. Среди клиентов и партнеров компании — ПАО «Газпром» и его дочерние структуры, ГК «Норникель», а также лидеры российского рынка кибербезопасности.

На мероприятии эксперты — как со стороны бизнеса, так и регуляторов и научного сообщества — обсуждали, можно ли использовать нейросети в свою пользу, борясь со злоумышленниками и предугадывая их шаги. В первый день форума, который прошел в Санкт-Петербурге, на Клубе IT-директоров доцент факультета безопасности IT ИТМО, научный руководитель по направлению «Безопасность ИИ» Наталия Волошина рассказала, что в современных технологиях решения для кибербезопасности с элементами ИИ можно использовать только в единой инфраструктуре. «В нее должны быть включены функционал уже имеющихся цифровых решений, ресурсы компании, специалисты, постоянно проходящие обучение, и средства безопасности». И уже в эту целостную IT-инфраструктуру безопасно добавлять элементы ИИ, считает эксперт.

Однако использование нейросетей диктует и другие условия компаниям, которые работают над его развитием.

Например, умение собирать и обрабатывать большие объемы данных, адаптировать их в единый формат для корректного использования и, конечно, гарантировать их безопасность, добавляет эксперт по цифровой трансформации компании «Аквариус» Александр Дмитриев.

Но при правильном использовании данных и IT-решений ИИ позволяет, например, ускорить вычисления, а также обмен данными между пользователями и инфраструктурой, улучшить контроль за качеством информации и даже повысить безопасность их хранения.

Взгляд бизнеса и регулятора: оцениваем риски

Во второй день GIS Days 2023 в Москве, который компания провела в новом пространстве «Кибердом», на пленарной дискуссии «Использование систем искусственного интеллекта: вопросы доверия и информационной безопасности» собрались представители Минцифры, крупного бизнеса и профильных ассоциаций, чтобы обменяться мнениями, где нейросети создают риски и как свести их до минимума.

Заместитель министра цифрового развития, связи и массовых коммуникаций РФ Александр Шойтов сообщил, что замедлять развитие ИИ в России не нужно, важно просто постепенно и осторожно внедрять его в работу. Так как на данный момент Минцифры в первую очередь беспокоят риски неправильного функционирования нейросетей, которые могут быть связаны с некорректными данными или самим алгоритмом. Причем искажены как данные, так и сама технология могут быть намеренно, напоминает Александр Шойтов.

«Критичными ошибки в использовании ИИ становятся, когда люди начинают принимать решения на основании данных, сгенерированных нейросетями»,— напоминает эксперт.

Поэтому сейчас наиболее критичными являются сферы высокотехнологичные, например автоматизированный транспорт, медицина, а также критическая информационная инфраструктура (КИИ, телекоммуникации, промышленность и т. д.). Таким образом, риски возрастают во всех сферах, где специалисты уже передали технологии ИИ ряд вопросов, по которым он может принимать решения.

Еще один значительный риск, связанный с искусственным интеллектом,— это утечки данных в ходе работы с ним, напомнил Александр Шойтов. Для обучения нейросетей необходимы большие объемы данных, и пока единственная возможность защитить их от злоумышленников — это обезличить перед обработкой алгоритмами ИИ. И, конечно, пока нет гарантированной защиты от хакерских атак на саму технологию искусственного интеллекта.

Со стороны бизнес-сообщества президент ГК InfoWatch, председатель правления ассоциации разработчиков программных продуктов «Отечественный софт» Наталья Касперская напомнила, что в первую очередь сейчас важно говорить о машинном обучении как программах, способных самостоятельно усваивать информацию. И именно из-за этого фактора, по мнению Натальи Касперской, возникают основные риски для пользователей. Избежать их полностью не удастся, но можно снизить: «Например, использовать для обучения только доверенные дата-сеты и сертифицировать процесс разработки».

Однако это экспертная оценка рисков на уровне разработчиков технологий с элементами ИИ. А ее уже активно осваивает куда менее скованная законодательными и этическими нормами группа IT-специалистов, напомнил заместитель генерального директора и технический директор «Газинформсервиса» Николай Нашивочников. По его словам, хакеры уже значительно продвинулись в этом направлении, а в чем-то даже превзошли официальных специалистов. ИИ уже сейчас позволяет создавать и автоматизировать написание вредоносных программ и других инструментов злоумышленников, также его можно использовать для сбора общих данных о потенциальной жертве или организации таргетированной фишинговой атаки. По мнению Николая Нашивочникова, чтобы бороться с этой категорией рисков, нужно ни на шаг не отставать от преступных группировок в освоении технологии.

ИИ в помощь замещению

С уходом в 2022 году с российского рынка западных компаний и остановки действия к 2023 году большинства лицензий на зарубежные IT-продукты российская отрасль получила мощный стимул для развития. Через год после GIS Days 2022, где импортозамещение стало главной темой события, а эксперты рынка обсуждали трудности оперативного замещения необходимых продуктов, настроение участников сменилось оптимизмом и осознанием достигнутых результатов.

Как рассказал “Ъ” Николай Нашивочников, «отрасль преодолела зону турбулентности»: полтора года назад многие компании не знали, на чем конкретно сфокусироваться, и в то же время постоянно подвергались кибератакам. Это заставило сместить акцент в сторону результативного кибербеза, а также начать использовать уже имеющийся в России инструментарий для отражения атак, перечисляет Николай Нашивочников. Он также напомнил, что именно в период турбулентности ИБ-отрасль повела себя сплоченно, объединяя усилия для помощи слабозащищенным компаниям, даже если у клиента не было возможности закупить необходимые решения.

В 2023 году многие процессы стали плановыми, продолжает Николай Нашивочников, вендоры окрепли и накопили опыт. И рынок находится в стадии активного импортозамещения, в случае с кибербезопасностью это процесс одновременный с IT-инфраструктурой в целом. Если раньше компании сначала замещали цифровую инфраструктуру, а затем постепенно переходили на российские системы защиты, то в 2023 году эти процессы синхронизировались, рассказал эксперт. И участники рынка делают ставку на проектирование «изначально безопасной цифровой среды» (Secure by design).

В первый день форума в Санкт-Петербурге в рамках Клуба IT-директоров заместитель генерального директора «Газинформсервиса» Роман Пустарнаков отметил, что технологии искусственного интеллекта отведено значительное место и в процессе импортозамещения, где он уже применяется для автоматизации важных задач.

Продемонстрировал это ведущий эксперт нефтегазовой отрасли Fplus Дмитрий Сивокоз. Он рассказал, что в российской промышленности ИИ используется для анализа больших данных: от текста до видеоизображений, выявления аномалий и предотвращения аварийных ситуаций. Что крайне востребовано в том числе в нефтегазовой отрасли.

Одним из наиболее ярких импортозамещающих продуктов, созданных к осени 2023 года и обсуждаемых на GIS Days, стало комплексное решение от компании «Газинформсервис» Efros Defence Operations (Efros DefOps). Оно предназначено для защиты сетевых и оконечных устройств, компонентов сред виртуализации, а также прикладного программного обеспечения: SCADA, RPA и СУБД. Руководитель группы продуктов «Газинформсервиса» Сергей Никитин рассказал “Ъ”, что Efros DefOps был создан на основе уже проверенных компанией технологий, которые решали смежные задачи, однако были разрозненными. Новый продукт предназначен для работы в одном пространстве данных, то есть не нужно будет обслуживать несколько разных хранилищ данных под разные элементы ИТ-инфраструктуры.

«С точки зрения клиента это в первую очередь удобно, так как все подсистемы комплекса предоставляют информацию в рамках "одного окна". В качестве приятного бонуса пользователь получает интеграцию разных продуктов как бы «в подарок». Сергей Никитин подчеркнул, что важно понимать: российские разработчики многое сделали и до 2022 года, в том числе потому, что зарубежные решения не закрывали всех потребностей заказчиков. Но сейчас приоритетом стало создание собственных независимых продуктов, а не интеграции заточенных под Россию решений с западными. Efros Defence Operations — один из результатов усердной работы компании над надежной защитой своих компаний-клиентов. Продукт уже сертифицирован и прошел все необходимые испытания, уточняют в компании, а также включен в единый реестр российских программ для ЭВМ.

На старт: молодые команды на GIS Days 2023

По традиции в родном для «Газинформсервиса» Санкт-Петербурге в рамках GIS Days компания провела студенческий форум и подвела итоги ежегодного конкурса «Биржа ИТ-стартапов». В текущем году на участие в конкурсе было подано почти 300 заявок из 49 городов России, развивающих собственные проекты в разных цифровых сферах.

На вручении члены жюри отметили: при выборе победителей оценивались проработка технологии искусственного интеллекта, маркетинговая составляющая проекта, его востребованность на рынке, а также цель, к которой идет каждая молодая команда. В финал конкурса вышли пять новых команд, каждую из которых, уверены члены жюри, ждет большое будущее.

Главный приз — 1 млн руб. на развитие IT-проекта — получили разработчики платформы для выявления инсульта на базе искусственного интеллекта Invessel AI из Казани. Технология строится на анализе снимков головного мозга с помощью ИИ и оповещает специалистов об обнаруженных нарушениях кровообращения. С помощью платформы диагностика инсульта сокращается с получаса до пяти минут, и шансы на успешный исход лечения повышаются в разы.

Вторую награду от партнеров «Газинформсервиса» — Школы стартапов «Сколково» — получили создатели проекта VISION, который с использованием ИИ проектирует дизайны для различных областей: промышленности, строительства, машиностроения и т. д. VISION за сутки генерирует готовые решения в виде чертежей, 3D-туров, фото- и видеовизуализации, что снижает временные и финансовые затраты на создание моделей.

Также в финал вышла команда разработчиков финансовой системы ТАФС, выявляющей неправомерные финансовые операции. Алгоритм распознает хищения, мошеннические действия, отмывания средств другую подозрительную деятельность клиентов и сотрудников финансовых организаций. Организаторы отметили, что проект стал особенно актуальным с ростом кибератак на российских пользователей в 2023 году. Внимание заслужил и новый цифровой сервис AIINS для управления корпоративным страховым портфелем. Он автоматизирует процесс страхования организаций, сравнивая ключевые параметры полисов при их выборе, анализирует расходы и контролирует необходимые платежи.

«Все участники готовы заявить о себе на рынке уже сейчас»,— констатируют организаторы конкурса.

GIS Days 2023 в цифрах и участниках

К завершению форума GIS DAYS 2023 его увидело более 860 тыс. человек — столько пользователей подключилось к трансляции в соцсетях, а с докладами выступили более 50 топовых спикеров перед широкой профессиональной аудиторией. При этом в 2022 году аудитория форума была около 170 тыс. человек, и такой стремительный рост интереса к теме кибербезопасности и самому мероприятию свидетельствует о динамичном развитии отрасли в разных городах страны.

Среди компаний на форуме присутствовали «Ростелеком», ГК «Солар», Fplus, «Код безопасности», Zecurion, Positive Technologies, Xello, Usergate, «РЕД СОФТ», «АйТи БАСТИОН», «Аладдин Р.Д.», Check Point, «ИнфоТеКС», «Киберпротект» и многие другие. В докладах участников звучали разные точки зрения на искусственный интеллект и кибербезопасность: одни компании видят в технологии ключ к решению сложных вопросов, например дефицита IT-кадров, другие — повышение эффективности уже существующих цифровых решений. Однако ряд экспертов решил выделить именно человеческую составляющую освоения новых технологий.

«Если учесть, что для современных информационных систем характерны размытость периметров защиты, новые векторы для кибератак и затруднительность контроля за инфраструктурой, то мы видим, что для автоматизации работы хакеров с использованием ИИ эти особенности систем только на руку»,— говорит операционный директор Check Point (Russia) Василий Широков. И бороться с этим, считает эксперт, нужно с использованием того, что пока непосильно ИИ: автономного мышления с творческой составляющей, то есть постановкой новых задач, что пока свойственно только людям. А значит, специалисты должны сконцентрироваться на стратегии и системности в подходах к своей работе и грамотной постановке новых целей. Творчество во всех аспектах жизни будет тем, что не сможет заменить и превзойти искусственный интеллект, а значит, преимущество всегда будет на стороне людей, заключает Василий Широков.

И участникам GIS DAYS 2023 хочется в это верить. В противном случае, говорит собеседник “Ъ” на форуме, здесь должны были бы собираться роботы и слушать доклады, сгенерированные искусственным интеллектом. И хорошо, что это пока не так.

Татьяна Исакова