Большинство региональных систем на базе ИИ не отвечают требованиям информбезопасности — Минцифры РФ

Российские регионы активно внедряют системы с использованием технологий искусственного интеллекта (ИИ), но большинство из них не используют доверенные технологии, поэтому находятся в зоне риска, сообщил заместитель министра цифрового развития, связи и массовых коммуникаций РФ Александр Шойтов в ходе форума по информационной безопасности в среду в Тюмени.

«У нас в стране где-то порядка 500 региональных информационных систем, где есть искусственный интеллект. Построены они в разное время и разными разработчиками. По имеющейся у нас информации, в большинстве случаев никаких доверенных технологий информационной безопасности не применялось. Потенциально эти системы могут нести риск, в том числе существенный», — считает Шойтов.

В настоящее время Минцифры работает над заключением соглашений с тремя российскими регионами по тестированию их систем искусственного интеллекта. «Исходя из этого тестирования, разработаем предложения по адекватным, не тяжелым мерам по информационной безопасности для технологий ИИ», — пояснил он.

В последнее время мы наблюдаем тревожную тенденцию — стремительное внедрение технологий искусственного интеллекта в регионах зачастую опережает развитие инфраструктуры информационной безопасности, отмечает член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.

«Без применения доверенных технологий такие системы могут стать уязвимыми как для внешних атак, так и для утечек данных, особенно в случае, если они обрабатывают чувствительную информацию граждан.Проблема усугубляется тем, что многие из этих решений создавались «вручную» и на скорую руку — без единой нормативной базы и без должного аудита безопасности. В результате риски эксплуатации уязвимостей в таких ИИ-системах возрастают многократно, что может привести к серьезнымпоследствиям», - подчеркнул депутат.

Инициатива Минцифры по тестированию региональных ИИ-систем и выработке дифференцированных подходов к их защите выглядит своевременно и рационально. «Необходим индивидуальный подход к каждому типу ИИ в зависимости от его функций, степени автоматизации решений и уровня рисков. Универсальные, жёсткие меры здесь могут только затормозить инновации — важно найти разумный баланс между безопасностью и гибкостью», - отметил Немкин.

В дальнейшем необходимо формирование единого реестра доверенных ИИ-решений, сертификация разработчиков и систем, а также расширение образовательных программ по безопасной разработке. «Системный подход на уровне стратегии, регулирования и кадров обеспечит устойчивое развитие искусственного интеллекта без ущерба для цифрового суверенитета и безопасности государства», - заключил депутат.