Пользователи Instagram смогут помечать ложный контент
dims-11.jpg
Начиная с середины августа, пользователи Instagram могут сообщать о контенте, который они считают ложным. Instagram будет использовать эти пометки, чтобы лучше распознавать дезинформацию на платформе и обучать свои алгоритмы искусственного интеллекта обнаруживать ложный контент.
Со временем Instagram будет использовать обратную связь, а также другие «сигналы» — например, как давно было опубликовано сообщение и предыдущее поведение учётной записи — чтобы определить, должен ли пост проверяться сторонними лицами, осуществляющими проверку фактов. Это немного отличается от пилотной программы Instagram, запущенной в мае, которая позволяет пользователям отмечать ложный контент для просмотра лицами, осуществляющими проверку фактов. Пока что он останется пилотом.
Чтобы пометить ложное содержание, пользователям необходимо кликнуть по меню в виде трёх точек в верхнем правом углу записи в Instagram, выбрать «это неуместно» и далее – «ложная информация». Если сообщение действительно ложное, оно не будет удалено, но оно будет «преуменьшено» на вкладке «Обзор» и страницах с хэштегами. Автор записи не будет уведомлён, когда его контент находится на рассмотрении, и он не будет знать, признает ли проверяющий информацию ложной или нет.
Сообщения в Instagram будут проверяться теми же сторонними лицами, которые проверяют помеченный контент в Facebook. Facebook знает, что у соцсети есть проблема с ложными новостями, и компания использует услуги сторонних лиц для проверки фактов на протяжении многих лет.
Источник: Engadget
Twitter тестирует фильтр потенциально оскорбительных сообщений
1xht19.jpg
Команда Twitter объявила о тестировании фильтра сообщений, содержащих оскорбительный контент. Отсеянные таким образом письма будут отправляться в отдельную папку.
Как это работает
В 2019 году Twitter начала предпринимать первые шаги по определению и блокировке оскорбительных твитов без вмешательства человека. Однако система работает не идеально: в социальной сети всё еще много грязи, а алгоритму присущи ложные срабатывания.
Разработчики выяснили, что большинство «чернухи» приходится на личные сообщения от совершенно незнакомых людей, особенно этому подвержены различные меньшинства и женщины. Новый фильтр должен исправить эту проблему. С ним все потенциально оскорбительные письма будут отправляться в папку «дополнительные сообщения». При этом первые несколько строк будут замазаны пометкой «Это сообщение скрыто, поскольку оно может содержать оскорбительное содержание». Далее всё зависит от пользователя, будет ли ему интересно читать такое сообщение или нет.
Источник: Engadget