Риски чат-ботов: о чем нужно помнить пользователям

Станислав Махортов, заместитель начальника отдела специальных проектов и академических программ Научно-технического центра ГРЧЦ рассказал о правилах, которые должны помнить пользователи, используя чат-боты.

- Перед использованием сервисов изучайте документы и правовые акты разработчика. Это позволит получить информацию о наборах обрабатываемых данных и о законности их обработки, а в случае несогласия – защитить свои интересы.

- Минимизируйте набор данных, которые вы предоставляете сервису, тем более иностранному. Мы не знаем, куда идет дальше эта информация, как одно из возможных последствий – всплеск интернет-мошенничества.

- Всегда перепроверяйте любую информацию. Ищите факты и достоверные научные исследования.

Обсуждение рисков, связанных с использованием чат-ботов и ИИ-сервисов, приобретает сегодня особую актуальность. Пользователи должны чётко понимать, что, общаясь с ИИ, они не просто задают вопросы, а передают свои данные, в том числе личные, в цифровую экосистему, отмечает член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.

«Особенно опасны те случаи, когда чат-боты работают на иностранных платформах: в случае утечки или недобросовестного использования данных у россиян практически нет правовых инструментов для защиты. Именно поэтому государственная политика в области цифрового суверенитета и развитие отечественных решений имеет ключевое значение», - добавил депутат.

Отдельное внимание следует уделить рискам «профилирования» — созданию цифровых портретов пользователей, которые могут использоваться для манипуляций, навязчивой рекламы или даже дискриминации. «Пользователи должны быть крайне осторожны в том, какую информацию они доверяют чат-ботам. Но здесь важна не только цифровая гигиена со стороны граждан, но и жесткое регулирование со стороны государства. Нужно закрепить норму: обрабатываются только те данные, которые необходимы строго для исполнения услуг, и ни строкой больше», - пояснил Немкин.

Вопрос дезинформации также нельзя недооценивать. Технологии ИИ способны выдавать убедительно звучащие, но совершенно ложные сведения — от псевдонаучных данных до фальшивых юридических советов. «Это особенно опасно в социально значимых сферах — медицине, праве, образовании. Поэтому критически важно развивать культуру цифровой осведомлённости у пользователей и параллельно внедрять механизмы технической верификации информации, генерируемой ИИ», - считает депутат.

Особую роль в обеспечении цифровой безопасности должно играть государство. «Принцип обработки данных «по согласию» должен быть дополнен — или даже заменён — обязательными отраслевыми стандартами. Иначе под видом согласия операторы будут продолжать собирать избыточные массивы данных. Только детально проработанное, конкретное законодательство, действующее в рамках национального контура, может обеспечить реальную защиту прав граждан в эпоху машинного обучения и интеллектуальных сервисов», - заключил Немкин.