Алгоритм контроля: как Россия и Китай собираются регулировать рекомендательные системы

Москва. 21 февраля. INTERFAX.RU - Китай продолжает вводить законодательные нормы, затрагивающие IT-компании. Вслед за вступившим в силу законом, ограничивающим сбор пользовательских данных онлайн-платформами, Пекин принял документ о регулировании рекомендательных алгоритмов. Он начнет действовать через неделю - с 1 марта.

В России похожую инициативу в декабре анонсировал зампред комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин. Он отмечал, что законопроект находится в разработке, а его внесение в нижнюю палату парламента планируется в первой половине этого года.

Эксперты, в свою очередь, сомневаются в реализации подобных инициатив в России, указывая на отсутствие у регулятора необходимых инструментов.

Как формируются рекомендательные алгоритмы?

Алгоритмы формируют рекомендации товаров в приложениях электронной коммерции и предложения в лентах социальных сетей.

Такие системы создаются за счет сбора больших данных о каждом пользователе, а также их последующего анализа, объясняет основатель информационно-аналитической компании по предупреждению и расследованию преступлений "Интернет-розыск" Игорь Бедеров. Современные электронные устройства, онлайн-сервисы и приложения могут собирать колоссальный объем данных о своих пользователях: имя, пол, возраст, работа, уровень достатка, содержание переписок, поисковые запросы (в том числе речевая информация из голосовых помощников), круг общения, перемещения в пространстве. Весь этот объем информации перерабатывается нейросетью, чтобы предложить рекламодателю наиболее эффективную рекламную кампанию.

Китай регулирует

Эксперты всерьез обеспокоены влиянием таких алгоритмов на людей: подобные системы способны создавать "аномальный интерес" к товарам, услугам или определенному контенту и могут использоваться как во благо, так и во вред обществу, убежден директор АНО "Центр компетенций по глобальной ИТ-кооперации" Вадим Глущенко.

"Стремление государств сформировать правовые рамки для применения рекомендательных сервисов вполне оправданно. Деятельность подобных технологических решений должна быть максимально прозрачной, понятной для пользователей и регулироваться законом", - сказал он "Интерфаксу".

Согласно новому китайскому закону, онлайн-платформам запретят рекомендовать фейковые сообщения. Помимо этого, их обяжут информировать пользователей об основных принципах работы рекомендательных сервисов. В документе также прописано, что пользователи должны получить возможность управлять алгоритмом, изменяя его параметры, или вовсе отказаться от получения предложений.

Закон запрещает компаниям использовать рекомендации алгоритма для противоправных действий, например, для создания угрозы национальной безопасности.

Отдельные статьи закона посвящены регулированию алгоритмов, направленных на детскую аудиторию. Поставщики этих сервисов должны выполнять обязательства по защите несовершеннолетних в интернете. Им запрещается рекомендовать детям информацию, которая может побудить к опасному поведению и негативно повлиять на их физическое и психологическое здоровье.

За несоблюдение правил предусмотрены штрафы от 10 до 100 тыс. юаней (примерно от $1,6 до $16). Вступающие в силу правила затрагивают все компании, которые работают на территории КНР и используют рекомендательные сервисы.

Норма встревожила представителей отрасли: многие утверждали, что закон потребует от компаний реструктурировать бизнес. Однако по мнению Глущенко, следует ожидать скорее корректировку бизнес-моделей, а не глобальную перестройку. "Очевидно, технологическим компаниям придется корректировать свою работу и приводить ее в соответствие с действующим китайским законодательством. Но каких-либо глобальных изменений в структуре их бизнеса я бы не ожидал", - отметил эксперт.

Он убежден, что вступление закона в силу не должно сильно повлиять на доходы технологических компаний. "Тем более, что изменение регуляторики не происходит, что называется, "по щелчку пальцев". У компаний было время на то, чтобы начать перестраивать свою работу с учетом грядущего вступления в силу новых правил", - объяснил Глущенко.

Эксперты по китайскому цифровому законодательству обратили внимание на сложности, которые могут возникнуть с функцией отказа от получения рекомендаций. Эта опция часто глубоко спрятана в настройках конфиденциальности приложений, и пользователи просто могут не обращать не нее внимание. Этим могут воспользоваться компании: добавить на свои сервисы возможность отказа, но пользователи могут о ней даже не узнать.

В свою очередь Горелкин полагает, что китайский законодатель дальше всех продвинулся в вопросе регулирования рекомендательных сервисов, однако требования, сформулированные Пекином, кажутся депутату избыточными.

Россия готовится

Российский законодатель видит в рекомендательных алгоритмах потенциальную угрозу. Горелкин считает, что такие системы лишают пользователей соцсетей возможности контролировать информацию, которую они потребляют, а владельцы ресурсов получают мощный инструмент для манипуляций: от скрытой рекламы до формирования нужного общественного мнения.

Сейчас российский законопроект о регулировании рекомендательных сервисов, по оценкам Горелкина, готов на 95% и скоро будет внесен в Госдуму. Документ направлен в первую очередь, на соцсети и видеохостинги, работающие как на российском, так и на мировом рынках. Однако некоторые посылы, по мнению депутата, могут быть применены и в секторе онлайн-торговли, например, в рамках саморегулирования. Контроль за рекомендательными сервисами онлайн-кинотеатров прорабатывается дополнительно.

Предполагается, что соцсети и видеохостинги будут обязаны информировать пользователей об обработке их данных рекомендательной системой и обеспечить отказ от такой обработки. Также одним из пунктов законопроекта станет требование указывать ответственных за рекомендательные системы.

Как объясняет Горелкин, каждый ресурс должен будет сформулировать и опубликовать правила использования своих рекомендательных алгоритмов. "Замечу: не механизм их работы (мы допускаем, что это может составлять коммерческую тайну), но правила – с обязательным указанием перечня данных пользователя, его предпочтениях, которые использует сервис", - сказал Горелкин "Интерфаксу".

Также в этих правилах должны быть четко прописаны права и обязанности владельцев ресурса при распространении информации с помощью рекомендательных алгоритмов.

Новый законопроект добавляет полномочия Роскомнадзору. Ведомство будет направлять владельцам платформ запросы о проверках вмешательств в работу рекомендательных систем и контролировать соблюдение правил использования алгоритмов. На их работу Роскомнадзору смогут жаловаться сами пользователи.

Помимо этого, большое внимание в законопроекте планируется уделить защите детей. В частности, Горелкин предлагал вовсе отключать рекомендательные алгоритмы для несовершеннолетней аудитории.

В Думе считают, что эти требования сформируют этику работы рекомендательных сервисов и сделают прозрачными правила предоставления пользователям материалов при использовании алгоритмов и технологий искусственного интеллекта.

Начать с инструмента

Однако на деле у российского регулятора могут возникнуть проблемы с контролем онлайн-сервисов. По словам Бедерова, у РКН нет для этого действенных рычагов. "У них нет инструмента как для мониторинга, так и для полноценного удаления контента с сервисов или сайтов. Всегда есть возможность зайти через VPN, посмотреть архивную версию и так далее", - сказал Бедеров.

Причину отсутствия должных способов контроля эксперт видит в недостаточном профессионализме, нежелании понимать основные принципы работы сети, перенимать опыт с других стран и проводить международные расследования.

"Эти нормативно-правовые акты могут управлять только теми, кто готов их исполнять. Остальные уходят в "тень", - уточнил он.

Решить проблему, по мнению Бедерова, может создание системы криминалистического учета и идентификации в интернете, которая будет записывать с веб-сайтов и провайдеров всех электронных цифровых следов.