На площадке Минцифры почти закончена разработка «Концепции развития регулирования ИИ до 2030 года», рассказали “Коммерсанту” в Минцифры. «Сейчас доработка документа почти завершена, в ближайшее время мы согласуем ее с другими ведомствами», — говорят там. Особое внимание уделяется этике и контролю человека за ИИ в зависимости от их задач.
Тем временем правительство уже приступило к внедрению технологии ИИ в управление, экономику и социальную сферу. Сейчас для внедрения в работу федеральных и региональных ведомств создаются типовые решения на основе доверенного ИИ, рассказали “Коммерсанту” в аппарате вице-премьера Дмитрия Григоренко. «Решения будут универсальными, то есть созданными не под одну локальную задачу», — говорят там.
При этом старший управляющий директор AppSec Solutions Антон Башарин заявил, что ИИ уже стал новым вектором уязвимости при кибератаках. «Уже 43% российских компаний используют ИИ в своих процессах, но только у 36% из них есть хотя бы минимальные политики безопасности. Это делает технологии удобной мишенью для атак», — отмечают в компании. Особенно уязвимыми становятся ИИ-ассистенты, встроенные в корпоративную инфраструктуру. Они получают доступ к клиентским базам, внутренним документам и системам управления и могут стать источником утечек, говорят в AppSec Solutions.
В условиях стремительного внедрения ИИ в экономику, госуправление и повседневную жизнь, наличие понятных и согласованных правил — критически необходимо, говорит член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.
«Однако уже сейчас очевидны вызовы, которые требует не только стратегии, но и оперативного реагирования. ИИ-системы действительно постепенно становятся новым уязвимым звеном в корпоративной безопасности. Речь идёт не просто о технических рисках, а о целостности бизнес-процессов и защите персональных данных. Когда 43% компаний используют ИИ, но лишь треть из них защищена — это тревожный дисбаланс. Атаки на ИИ — это уже не гипотеза, а реальность», - отметил депутат.
Особую опасность представляют собой случаи, когда ИИ обучается на вредоносных или искажённых данных, получая скрытые уязвимости. В условиях ограниченного регулирования такие технологии могут быть внедрены в критические процессы, что повышает риски как для бизнеса, так и для государства. Это требует не только регулирования, но и независимой технической экспертизы, сертификации ИИ-решений и обязательной верификации источников обучающих данных.
«Важно, чтобы «Концепция» стала не декларацией, а основой для комплексной системы: от обязательных стандартов кибербезопасности до развития отечественной ИИ-инфраструктуры и координационного центра, способного объединить усилия федеральных, региональных и частных структур. Только так мы сможем обеспечить безопасное и суверенное развитие искусственного интеллекта, не повторяя западных ошибок и не становясь заложниками чужих технологических решений», - заключил Немкин.
Тем временем правительство уже приступило к внедрению технологии ИИ в управление, экономику и социальную сферу. Сейчас для внедрения в работу федеральных и региональных ведомств создаются типовые решения на основе доверенного ИИ, рассказали “Коммерсанту” в аппарате вице-премьера Дмитрия Григоренко. «Решения будут универсальными, то есть созданными не под одну локальную задачу», — говорят там.
При этом старший управляющий директор AppSec Solutions Антон Башарин заявил, что ИИ уже стал новым вектором уязвимости при кибератаках. «Уже 43% российских компаний используют ИИ в своих процессах, но только у 36% из них есть хотя бы минимальные политики безопасности. Это делает технологии удобной мишенью для атак», — отмечают в компании. Особенно уязвимыми становятся ИИ-ассистенты, встроенные в корпоративную инфраструктуру. Они получают доступ к клиентским базам, внутренним документам и системам управления и могут стать источником утечек, говорят в AppSec Solutions.
В условиях стремительного внедрения ИИ в экономику, госуправление и повседневную жизнь, наличие понятных и согласованных правил — критически необходимо, говорит член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.
«Однако уже сейчас очевидны вызовы, которые требует не только стратегии, но и оперативного реагирования. ИИ-системы действительно постепенно становятся новым уязвимым звеном в корпоративной безопасности. Речь идёт не просто о технических рисках, а о целостности бизнес-процессов и защите персональных данных. Когда 43% компаний используют ИИ, но лишь треть из них защищена — это тревожный дисбаланс. Атаки на ИИ — это уже не гипотеза, а реальность», - отметил депутат.
Особую опасность представляют собой случаи, когда ИИ обучается на вредоносных или искажённых данных, получая скрытые уязвимости. В условиях ограниченного регулирования такие технологии могут быть внедрены в критические процессы, что повышает риски как для бизнеса, так и для государства. Это требует не только регулирования, но и независимой технической экспертизы, сертификации ИИ-решений и обязательной верификации источников обучающих данных.
«Важно, чтобы «Концепция» стала не декларацией, а основой для комплексной системы: от обязательных стандартов кибербезопасности до развития отечественной ИИ-инфраструктуры и координационного центра, способного объединить усилия федеральных, региональных и частных структур. Только так мы сможем обеспечить безопасное и суверенное развитие искусственного интеллекта, не повторяя западных ошибок и не становясь заложниками чужих технологических решений», - заключил Немкин.