Развитие технологий искусственного интеллекта привело к возникновению рекомендательных сервисов, которые играют значительную роль в нашей современной информационной жизни. Они опираются на анализ наших предпочтений и поведения в сети, чтобы предложить контент, который может заинтересовать нас. Однако, за этой кажущимся удобством скрываются определенные риски и проблемы.
ФГУП «Главный радиочастотный центр» (ГРЧЦ), организация, подчиненная Роскомнадзору, выразила свою озабоченность относительно рекомендательных сервисов. В аналитической справке, подготовленной ГРЧЦ, отмечается, что такие сервисы могут приводить к политической поляризации общества, а также продвижению фейковых новостей и риторики ненависти. Они предлагают законодательное регулирование для защиты пользователей от непрозрачных алгоритмов отбора контента, которые могут искажать реальность, а также наносить вред здоровью и психике человека.
Работа рекомендательных сервисов основана на использовании искусственного интеллекта, который, в свою очередь, может предпочитать спорную, разжигающую вражду и недостоверную информацию, так как она привлекает больше внимания пользователей и увеличивает их вовлеченность в платформу. Такая тенденция может способствовать появлению политической поляризации и распространению дезинформации.
Примеры из американских данных указывают на роль рекомендательных сервисов в формировании экстремистских групп и перекосе в результате поисковых запросов в пользу определенных политических сил. Эти примеры вызывают обеспокоенность, заставляют задуматься о влиянии таких сервисов на общественное мнение и демократические процессы.
Кроме того, существует риск появления так называемого «эхо-камерного» эффекта, когда пользователи получают информацию, которая соответствует их предпочтениям и мнениям, исключая возможность доступа к альтернативным точкам зрения. Это может привести к дальнейшей политической поляризации и укреплению уже существующих установок.
Для предотвращения указанных рисков ГРЧЦ предлагает внедрить аудит алгоритмов, обеспечить прозрачность работы рекомендательных сервисов, предоставлять пользователям информацию о принципах работы алгоритмов и давать им возможность контролировать обработку своих персональных данных.
Рекомендательные сервисы уже широко используются ведущими интернет-компаниями России, такими как VK и «Яндекс». Они анализируют цифровой след пользователей, предлагают им контент, актуальную рекламу, соответствующую их интересам и предпочтениям.
Вопрос регулирования рекомендательных сервисов обсуждается уже несколько лет, и недавно была разработана инициатива, которая предлагает ввести законодательные нормы. Однако, предложенные меры вызвали критику со стороны участников рынка, которые считают, что такое регулирование может отрицательно повлиять на развитие интернет-отрасли и ограничить свободу информации. Власти рассматривают возможность доработки и усовершенствования инициативы, чтобы достичь баланса между защитой пользователей и сохранением инновационного потенциала интернет-сферы.
Независимо от исхода данного обсуждения, важно учитывать риски и потенциальные негативные последствия, связанные с использованием рекомендательных сервисов. Необходимо найти баланс между свободой выражения мнений и защитой общества от дезинформации, а также риторики ненависти. В конечном счете, цель состоит в создании информационной среды, которая будет способствовать развитию общества, обеспечивать информационную грамотность и поддерживать демократические процессы.
©rt-russian.ru
