Российская соцсеть "Одноклассники" внедрила новую технологию для борьбы с агрессивными высказываниями и разжиганием розни в комментариях. Система, построенная на базе нейросети, будет анализировать публичные сообщения на наличие угроз, оскорблений, травли по национальной или религиозной принадлежности и другого токсичного содержимого, после чего направлять их модераторам на проверку.
Проверяться будет не только текст, но и прикрепленные к записи изображения. ИИ проанализирует картинку, а при наличии шокирующего контента и актов насилия — заблокирует ее после проверки.
"Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться", — пояснили "Смотрим" в пресс-службе компании.
Записи будут проверяться в автоматическом режиме. В случае, если будет зафиксировано нарушение, авторам враждебных комментариев временно запретят участвовать в любых дискуссиях. Пользователю, который снова попытается проявить агрессию, покажут уведомление и ссылку на правила поведения в соцсети.
"Миролюбивая" нейросеть уже запущена в десктопной версии "Одноклассников". В приложениях на iOS и Android эта функция заработает в ближайшее время.
