Сотрудники Лаборатории лингвистической конфликтологии разработали критерии оценки творческого контента для Яндекс.Музыки

Это позволит с высокой точностью определять контент для взрослых

Ассоциация музыкальной индустрии (АМИ) и Яндекс Музыка разработали рекомендации для контента на музыкальных сервисах. Рекомендации касаются работы с опасным или неприятным контентом и должны помочь стриминговым сервисам создать комфортную и безопасную среду для слушателей. АМИ выступила с инициативой со стороны индустрии, а Яндекс разработал технологическое решение и внедрил рекомендации в работу Яндекс Музыки.

Для решения этой задачи при Лаборатории лингвистической конфликтологии и коммуникативных практик НИУ ВШЭ был создан экспертный совет под руководством заведующего Лабораторией Максима Кронгауза. В состав экспертного совета вошли доктор политических наук, профессор НИУ ВШЭ Светлана Шомова, кандидат филологических наук, ведущий научный сотрудник Института русского языка им. В. В. Виноградова Ирина Левонтина, член Орфографической комиссии РАН Светлана Друговейко-Должанская, эксперт в области лингвокриминалистики Елена Новожилова, а также ведущий научный сотрудник Лаборатории лингвистической конфликтологии и современных коммуникативных практик Валерий Шульгинов.

По словам Максима Кронгауза, перед экспертным советом стояла нетривиальная задача – создать методологию по определению контента, способного нанести вред, и сделать её максимально объективной и понятной. Любая попытка оценить творчество неизбежно сталкивается с субъективными факторами — личным мнением, восприятием и контекстом произведения. Экспертный совет при Лаборатории разработал критерии оценки творческого контента, с помощью которых можно отличить, например, реальную агрессию от творческого приема, образа или просто особенностей жанра.

«Самое сложное и интересное в этом проекте – необходимость разработать такой инструмент оценки, который был бы максимально удобен асессорам и  позволил бы снизить влияние их музыкальных предпочтений. Именно поэтому значительную часть работы мы посвятили совместному разбору и описанию корпуса текстов, которые потенциально нарушали правила сервиса. На мой взгляд, именно благодаря этому обсуждению и разнообразному бэкграунду, нам удалось выработать действительно эффективное решение»

Валерий Шульгинов

В дальнейшем экспертный совет будет консультировать Яндекс.Музыку по сложным случаям.

Контент будет проверяться на соответствие разработанным правилам по гибридной модели: сначала при помощи технологий машинного обучения, а затем вручную. Это позволит с высокой точностью определить контент для взрослых, маркировать его соответствующим значком Explicit и защитить детей в детском режиме от такого контента. Система будет также использоваться для выявления контента на чувствительные темы, который может вызвать дискомфорт у слушателей. В зависимости от характера контента он может быть отмечен специальными знаками, указывающими на ограничение по возрасту, исключён из рекомендаций или удалён с сервиса.