Новости компаний

ОК сократили токсичность в комментариях почти вдвое с помощью ИИ

ОК сократили токсичность в комментариях почти вдвое с помощью ИИ

Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Одноклассники внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других.

По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Чтобы выяснить, какие комментарии, по мнению пользователей ОК, токсичны и нежелательны, соцсеть провела исследование среди своей аудитории. Запуск ML-модели позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем.

«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — комментирует нововведение Александр Москвичев, директор по продукту ОК.

Ранее в этом году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера. ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, размывают и удаляют фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.

26.11.2024

на печать


Комментарии

Написать комментарий

 Проверочный код

Архив

Пн Вт Ср Чт Пт Сб Вс

Рассылка

Подписка на рассылку

E-mail:
 

Также нашу рассылку вы можете получать через

E-mail:  

на правах рекламы

Есть мнение ...

PR в 2025 году: как изменилась профессия, и кто сможет в ней работатьPR в 2025 году: как изменилась профессия, и кто сможет в ней работать
Владимир Нерюев, заместитель генерального директора коммуникационного агентства Аура поделился мнением, какие изменения произошли или произойдут в профессии PR-специалиста.
Эффективность мобильных кампаний сейчас зависит от грамотного...Эффективность мобильных кампаний сейчас зависит от грамотного...
Генеральный директор агентства мобильного маркетинга Mobisharks (входит в ГК Kokoc Group) — об эффективном мобильном маркетинге и примерах успешных стратегий.
Как банки в рекламе ищут новые смыслы и старые ценностиКак банки в рекламе ищут новые смыслы и старые ценности
За последние пару лет реклама банков изменилась. Появились новые сюжеты и герои. Реклама по-прежнему — не только инструмент продвижения услуг, но и способ формирования доверия к финансовым организациям. Главный тренд, который отмечают  эксперты,— переход от сухого перечисления выгод к эмоционально окрашенным коммуникациям.
Антитренды наружной рекламыАнтитренды наружной рекламы
Антитрендами наружной рекламы в текущем году стали прямолинейность и чрезмерная перегруженность сообщений. Наружная реклама продолжает показывать рост: число рекламных конструкций за последний год увеличилось более чем на 2 тысячи.
Мария Бар-Бирюкова, Sellty: продажи на маркетплейсах не заменят...Мария Бар-Бирюкова, Sellty: продажи на маркетплейсах не заменят...
В компании Sellty спрогнозировали развитие рынка электронной коммерции в сегменте СМБ на ближайший год. По оценке основателя Sellty Марии Бар-Бирюковой, число собственных интернет-магазинов среднего, малого и микробизнеса продолжит расти и увеличится минимум на 40% до конца 2025 года. Компании будут и дальше развиваться на маркетплейсах, но станут чаще комбинировать несколько каналов продаж. 

Книги по дизайну


Энергия шрифтов 2

Энергия шрифтов 2
Энергия шрифтов 2. Книга "Энергия шрифтов 2" предлагает читателю более 1600 различных шрифтов, созданных в самых известных на сегодняшний день дизайн-студиях всего мира для дизайнеров, режиссёров, арт-директоров и типографов, и рассказывает о лучших работах. "Энергия шрифтов 2" поможет Вам найти наиболее высококачественные и современные шрифты. Вы узнаете о таких агентствах, как No Bodoni, Underware, You WorkForThem, а также Parkinson, Holland Fonts и Neufville Digital. Стили шрифтов варьируются от лучших классических работ Франсистека Сторма до новейших работ студии Atomic Media. Полный список дизайнерских мастерских, их веб-сайтов и телефонных номеров позволяет читателю напрямую задать интересующий его вопрос дизайнеру. Не менее полезны окажутся глоссарий терминов по типографике и индекс для быстрого поиска. "Энергия шрифтов 2" издана вместе с диском. Книга и диск - это лучший способ найти универсальный шрифт на все случаи жизни или же особенный экспериментальный шрифт для изысканного проекта.

Репортажи

Дизайн под грифом "секретно"Дизайн под грифом "секретно"
На чем раньше ездили первые лица страны? Эскизы, редкие фотографии и прототипы уникальных машин.
"Наша индустрия – самодостаточна": ГПМ Радио на конференции..."Наша индустрия – самодостаточна": ГПМ Радио на конференции...
Чего не хватает радио, чтобы увеличить свою долю на рекламном рынке? Аудиопиратство: угроза или возможности для отрасли? Каковы первые результаты общероссийской кампании по продвижению индустриального радиоплеера? Эти и другие вопросы были рассмотрены на конференции «Радио в глобальной медиаконкуренции», спикерами и участниками которой стали эксперты ГПМ Радио.
Форум "Матрица рекламы" о технологиях работы в период...Форум "Матрица рекламы" о технологиях работы в период...
Деловая программа 28-й международной специализированной выставки технологий и услуг для производителей и заказчиков рекламы «Реклама-2021» открылась десятым юбилейным форумом «Матрица рекламы». Его организовали КВК «Империя» и «Экспоцентр».
В ЦДХ прошел День социальной рекламыВ ЦДХ прошел День социальной рекламы (3)
28 марта в Центральном доме художника состоялась 25-ая выставка маркетинговых коммуникаций «Дизайн и реклама NEXT». Одним из самых ярких её событий стал День социальной рекламы, который организовала Ассоциация директоров по коммуникациям и корпоративным медиа России (АКМР) совместно с АНО «Лаборатория социальной рекламы» и оргкомитетом LIME.
Форум "Матрица рекламы": к рекламе в интернете особое...Форум "Матрица рекламы": к рекламе в интернете особое... (2)
На VII Международном форуме «Матрица рекламы», прошедшем в ЦВК «Экспоцентр» в рамках международной выставки  «Реклама-2018», большой интерес у профессиональной аудитории вызвала VI Конференция «Интернет-реклама».

Форум

на правах рекламы

07.03.2025 - 03:03
RSS-каналы Advertology.RuRSS    Читать Advertology.Ru ВКонтактеВКонтакте    Читать Advertology.Ru на Twittertwitter   
Advertology.Ru - все о рекламе, маркетинге и PR
реклама

Вход | Регистрация