Официальный представитель МИД РФ Мария Захарова предупредила о рисках неконтролируемого развития технологий искусственного интеллекта (ИИ), сообщили в ТАСС.
По мнению Захаровой, ИИ может превратиться в абсолютное зло, если выйдет из-под контроля. Она отметила, что аналогичный случай был описан в произведении писателя-фантаста Александра Беляева «Вечный хлеб». По сюжету произведения, люди изобретают бесконечно растущее тесто, которое решает проблему продовольственной безопасности.
«И этот продукт утолял голод, и он решал проблему всего: производства, голода во всем мире, продовольствия и безопасности. Вдруг появился один нюанс, что производство этого продукта вышло из-под контроля, и он из блага превратился в абсолютное зло. И никто не знал, как это остановить», — отметила Мария Захарова.
Риски, с которыми может столкнуться общество при неконтролируемом развитии технологий ИИ, более чем реальны, отметил член комитета Госдумы по информполитике, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин. «С некоторыми из них мы уже сталкиваемся. Во-первых, есть риск принятия дискриминационных решений. Особенно если ИИ-модели обучались на исторических данных, в которых заложены определённые социальные паттерны. Во-вторых – риск принятия неверного решения из-за некачественно обученных моделей. Для сферы здравоохранения такие ошибки могут привести к катастрофическим последствиям. Не только обучение модели, но и этап подготовки данных являются принципиальными для создания ИИ-решений. Но далеко не все разработчики учитывают этот фактор», – отметил депутат.
Помимо этого, искусственный интеллект может кардинальным образом трансформировать сферу киберпреступлений. «Злоумышленники могут использовать ИИ для автоматизации процессов взлома, анализа уязвимостей или поиска новых целей для атак. Уже сегодня искусственный интеллект используется для проведения массированных DDoS-атак. Растет доля применения ИИ в сетевом мошенничестве. ИТ-преступники, к примеру, автоматизируют фишинговые атаки при помощи нейросетей. По данным «Информзащиты», 40% фишинговых сообщений, рассылаемых по электронной почте, сегодня сгенерированы ИИ», – рассказал депутат.
Но искусственный интеллект – только инструмент в руках человека, подчеркнул депутат. «Человек определяет – будет ли технология использована во вред или в интересах общества. Развитие ИИ должно проходить только в контролируемых человеком рамках, в основе на принципы доверенного искусственного интеллекта. Такие модели базируются на действующих моральных и правовых нормах и не могут быть использованы в противоправных целях. К 2027 году в России планируется запустить реестр доверенных ИИ-технологий. В него будут включены решения, которые могут быть безопасно применены в государственных информационных системах и на объектах критической информинфраструктуры. Соответствующую работу над реестром ведет Консорциум по исследованиям безопасности технологий, куда входятведущие технологические компании нашей страны», – рассказал депутат.
Немкин подчеркнул, что темпы внедрения ИИ-решений в ближайшем будущем останутся высокими. «В России средний уровень использования ИИ в приоритетных отраслях экономики уже достиг 43%. В ближайшей перспективе динамика внедрения ИИ-решений только возрастет. Поэтому вендоры уже сегодня при создании решений должны исходить из принципов безопасной разработки продуктов и обеспечивать их полную информационную защиту», – подчеркнул депутат.
По мнению Захаровой, ИИ может превратиться в абсолютное зло, если выйдет из-под контроля. Она отметила, что аналогичный случай был описан в произведении писателя-фантаста Александра Беляева «Вечный хлеб». По сюжету произведения, люди изобретают бесконечно растущее тесто, которое решает проблему продовольственной безопасности.
«И этот продукт утолял голод, и он решал проблему всего: производства, голода во всем мире, продовольствия и безопасности. Вдруг появился один нюанс, что производство этого продукта вышло из-под контроля, и он из блага превратился в абсолютное зло. И никто не знал, как это остановить», — отметила Мария Захарова.
Риски, с которыми может столкнуться общество при неконтролируемом развитии технологий ИИ, более чем реальны, отметил член комитета Госдумы по информполитике, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин. «С некоторыми из них мы уже сталкиваемся. Во-первых, есть риск принятия дискриминационных решений. Особенно если ИИ-модели обучались на исторических данных, в которых заложены определённые социальные паттерны. Во-вторых – риск принятия неверного решения из-за некачественно обученных моделей. Для сферы здравоохранения такие ошибки могут привести к катастрофическим последствиям. Не только обучение модели, но и этап подготовки данных являются принципиальными для создания ИИ-решений. Но далеко не все разработчики учитывают этот фактор», – отметил депутат.
Помимо этого, искусственный интеллект может кардинальным образом трансформировать сферу киберпреступлений. «Злоумышленники могут использовать ИИ для автоматизации процессов взлома, анализа уязвимостей или поиска новых целей для атак. Уже сегодня искусственный интеллект используется для проведения массированных DDoS-атак. Растет доля применения ИИ в сетевом мошенничестве. ИТ-преступники, к примеру, автоматизируют фишинговые атаки при помощи нейросетей. По данным «Информзащиты», 40% фишинговых сообщений, рассылаемых по электронной почте, сегодня сгенерированы ИИ», – рассказал депутат.
Но искусственный интеллект – только инструмент в руках человека, подчеркнул депутат. «Человек определяет – будет ли технология использована во вред или в интересах общества. Развитие ИИ должно проходить только в контролируемых человеком рамках, в основе на принципы доверенного искусственного интеллекта. Такие модели базируются на действующих моральных и правовых нормах и не могут быть использованы в противоправных целях. К 2027 году в России планируется запустить реестр доверенных ИИ-технологий. В него будут включены решения, которые могут быть безопасно применены в государственных информационных системах и на объектах критической информинфраструктуры. Соответствующую работу над реестром ведет Консорциум по исследованиям безопасности технологий, куда входятведущие технологические компании нашей страны», – рассказал депутат.
Немкин подчеркнул, что темпы внедрения ИИ-решений в ближайшем будущем останутся высокими. «В России средний уровень использования ИИ в приоритетных отраслях экономики уже достиг 43%. В ближайшей перспективе динамика внедрения ИИ-решений только возрастет. Поэтому вендоры уже сегодня при создании решений должны исходить из принципов безопасной разработки продуктов и обеспечивать их полную информационную защиту», – подчеркнул депутат.