Для асессоров, которые оценивают качество выдачи, в руководстве Google появился новый раздел где описывается процедура проверки контента. Так, проверять его будут на наличие оскорблений и корректность. В ближайшее время помеченные документы отправят в качестве обучающей выборки для того, чтобы обучить алгоритмы выявлять указанные проблемы самостоятельно. Инженеры надеются, что скоро эту задумку удастся реализовать и выведение сомнительного контента в топ окажется еще более сложным.

Как отмечается, помечать будут страницы с:

• контентом, провоцирующим ненависть к определенной аудитории и пропагандирующих ненависть к определенной расе, национальности, этносе, религии, гражданстве и сексуальным предпочтениям;
• с резкими оскорбительными словами даже на изображениях;
• изображениями, на которых изображены сцены насилия, жестокое отношение к детям или животным;
• инструкциями по организации незаконной деятельности или изготовлению запрещенных веществ;
• с оскорбительным контентом для людей, проживающих в определенных регионах.

В настоящее время метка Upsetting-Offsensive (т.е. раздражающе-агрессивный контент) не имеет особого веса. Но как только алгоритмы научатся работать с подобными маркерами и различать контент, материалы будут исключаться из выдачи. Примечательно: будет затронута и историческая информация, т.е. отрицающие варианты некоторых исторических событий уберут из выдачи. При этом отмечается, что жесткой «модерации» не будет: так, настырный пользователь все же сможет найти альтернативные варианты и другие точки зрения, касающиеся определенных исторических моментов. Для того чтобы найти такие альтернативы придется тщательно переформулировать поисковые запросы и затрачивать на это много времени. И все же трудно сказать, как это будет возможно, если такие данные в будущем не пропустят даже к размещению.

Стоит отметить, среди асессоров все еще есть люди, придерживающиеся самых различных взглядов. Первое время планируется допускать такую задачу только определенной выборке людей. Аналогичный подход применили в 2016-ом для борьбы с сайтами, которые отрицали Холокост: в то время количество таких сайтов резко возросло.