Модерация что это значит? —

Что такое Модерация на сайте?

Модерация сайта – это постоянный мониторинг всех «узлов» сайта, в переводе на бытовой язык – это постоянное отслеживание нахождения сайта в Интернете, регулярная «чистка» сайта от спама, оперативное обеспечение любых технических изменений сайта.

Что значит находится на модерации?

модерация — и, ж. modération f. устар., дипл. Модерация — Модератор (от лат. moderor умеряю, сдерживаю) человек, имеющий более широкие права по сравнению с обыкновенными пользователями на общественных сетевых ресурсах (чатах, форумах, эхоконференциях), в частности хотя бы одно из прав: право стирать… …

Что такое модерация объявлений?

Модерация рекламных объявлений Модерация — это проверка рекламного объявления и рекламируемого ресурса на предмет соответствия правилам сервиса Kadam. Во время модерации модератор изучает как содержимое рекламного объявления (и текстовое и графическое) так и содержимое прелендинга и лендинга, на который оно ведет. 18 февр. 2019 г.

Что такое модерация фотографий?

модерация фотографий это голосование за фотографию с целью выявления возможности появления ее на страницах на сайте. Ты выкладываешь новую фотографию на проект/сервис, а человек, который посажен следить за корректным поведением людей на этом проектк/сервисе опеределяет, отвечает ли фотография правилам сервиса.20 сент. 2009 г.

Как стать модератором на сайте?

0:07

2:03

Рекомендуемый клип · 116 сек.

Кто такой модератор? Как стать модератором? — YouTube

YouTube

Начало рекомендуемого клипа

Конец рекомендуемого клипа

Что такое модерация комментариев?

Модерация комментариев – это возможность WordPress, позволяющая откладывать публикацию комментариев на сайте до тех пор, пока вы лично не проверите их. Модерация полезна для предотвращения спама в комментариях.

7 июн. 2011 г.

Как пройти модерацию в Контакте?

Рекомендуемый клип · 106 сек.

Как пройти модерацию в ВКонтакте на запрещенные тематики и

YouTube

Начало рекомендуемого клипа

Конец рекомендуемого клипа

Что такое Модерация в тренинге?

Бизнес-определение Итак, модерация — это: а) совокупность техник и методов по организации взаимодействия в группе с целью принятия решений; б) способ системного, структурированного ведения совещания (семинара) с прозрачными методами в целях эффективной подготовки, проведения и подведения итогов встречи.

Сколько времени проходит модерация объявлений в Яндекс Директ?

Директ длится около двух часов. Так написано в помощи яндекса, но по факту это происходит всегда по-разному. Время модерации зависит от разных факторов: Агентские аккаунты проходят модерацию быстрее, чем аккаунты физических лиц.

14 февр. 2016 г.

Кто такой модератор группы и что он делает?

Кто такой модератор и что он делает Модератор — это человек, который следит за порядком в онлайн-беседах, сообществах и пабликах в соцсетях. Он обладает меньшими правами, чем владелец или администратор, но большими, чем рядовой пользователь.28 нояб. 2017 г.

Как стать модератором в VIME World?

Рекомендуемый клип · 87 сек.

КАК СТАТЬ МОДЕРАТОРОМ НА VIMEWORLD? СОВЕТЫ И

YouTube

Начало рекомендуемого клипа

Конец рекомендуемого клипа

Как стать модератором на YouTube?

В разделе «Комментарии»

• Войдите в аккаунт YouTube.
• Нажмите на значок канала в правом верхнем углу и выберите Творческая студия.
• Откройте вкладку Сообщество в меню слева и выберите Комментарии.
• Нажмите на значок рядом с нужным пользователем.
• Выберите Назначить этого пользователя модератором.

Как в вк написать в службу поддержки?

Рекомендуемый клип · 94 сек.

Как Написать в Службу Поддержки Вконтакте в 2018 году

YouTube

Начало рекомендуемого клипа

Конец рекомендуемого клипа

Что такое фасилитация в тренинге?

Фасилитация — это профессиональная организация процесса групповой работы, направленная на прояснение и достижение группой поставленных целей. Фасилитация — это помощь нейтральной стороны, задача которой — облегчение взаимодействия внутри группы.14 янв. 2014 г.

сколько стоит модерация фотографий на сайте у фрилансеров

Профессиональная модерация фотографий подразумевает контроль появляющихся на интернет-порталах и в социальных сетях фотоснимков. Например, если кто-нибудь из пользователей размещает на сайте фотографию, модератор производит ее проверку на предмет соответствия данного вида контента правилам ресурса. Такая работа профессионально выполняется фрилансерами, которые могут находиться в любой стране мира.

Важно, насколько качественно будет выполнена такая работа, поэтому администрация старается нанять профессионала удаленно, который бы мог:

• проверить размещенное фото;
• посмотреть, не содержится ли в нем ничего противозаконного или чего-либо, противоречащего правилам сайта;
• в случае надобности удалить размещенную фотографию.

Услуги модерации фотографий на сайте

Само слово «модерация» происходит от латинского «модерор», что означает «контролировать, сдерживать». Такая работа важна, как правило, на публичных:

• блогах;
• в социальных сетях;
• посещаемых сайтах.

Модерация фотографий мало чем отличается от модерации, скажем, текстов. И там, и там нужно следить за тем, чтобы пользователи размещали качественный контент. Найти такого профессионала можно по объявлениям в Интернете. Подобные услуги можно заказать также на сервисе Юду, где зарегистрированы модераторы со стажем. Там доступна широкая база исполнителей, и у каждого существуют свои расценки.

Тем не менее, всегда есть возможность заказать сотрудника для своего ресурса, который выполнит работу:

• профессионально;
• качественно;
• по доступной для заказчика цене.

Трудно говорить о стоимости подобной услуги. Все зависит от объема работы, профессионализма удаленного сотрудника и известности ресурса, где он будет работать и производить модерацию фото.

Профессиональная модерация сайта с фотографиями

Любой администратор блога или любого другого посещаемого сайта понимает, что модерация фото подразумевает большую ответственность работника. Поэтому заказывать сотрудника нужно только в проверенных местах. Юду является именно таким местом, так как здесь регистрируются многие фрилансеры, предлагающие свои услуги по доступным ценам. Тут можно найти того, кто будет выполнять модерацию фотографий профессионально. Что касается стоимости, особенностей модерации фото и тонкостей работы, это уже обсуждается индивидуально с исполнителем.

На первый взгляд, работа человека, занимающегося модерацией фото на сайте, большой сложности не представляет. Но на самом деле все иначе. От него зависит, в частности, посещаемость ресурса и соблюдение правил поведения. Поэтому лучше нанимать сотрудника с опытом работы в этой сфере.

уроки этикета от Data Scientist’a, часть 2 / Хабр

Привет, Хабр!

Мы продолжаем серию статей про модерацию контента на площадках Центра Развития Финансовых Технологий Россельхозбанка. В прошлой статье мы рассказывали, как решали задачу модерации текста для одной из площадок экосистемы для фермеров “Свое Фермерство”. Почитать немного о самой площадке и о том какой результат мы получили можно здесь.

Если коротко, то нами использовался ансамбль из наивного классификатора (фильтр по словарю) и BERT’a. Тексты, прошедшие фильтр по словарю, пропускались на вход в BERT, где они также проходили проверку.

А мы, совместно с Лабораторией МФТИ, продолжаем улучшать нашу площадку, поставив перед собой более сложную задачу премодерации графической информации. Эта задача оказалась сложнее предыдущей, так как при обработке естественного языка можно обойтись и без применения нейросетевых моделей. С изображениями все сложнее — большинство задач решается с помощью нейронных сетей и подбором их правильной архитектуры. Но и с этой задачей, как нам кажется, мы неплохо справились! А что у нас из этого получилось, читайте далее.

Что хотим?

Итак, поехали! Давайте сразу определимся, что из себя должен представлять инструмент модерации изображений. По аналогии с инструментом модерации текста это должен быть некоторого рода “черный ящик”. Подавая ему на вход изображение, загружаемое продавцами товаров на площадку, мы бы хотели понимать, насколько данное изображение приемлемо для публикации на площадке. Таким образом, получаем задачу: определить подходит ли изображение для публикации на сайте или нет.

Задача премодерации изображений является распространенной, но решение зачастую отличается в зависимости от площадок. Так, изображения внутренних органов могут быть приемлемыми для медицинских форумов, но не подходить для соцсетей. Или, к примеру, изображения разделанных тушек животных допустимо на сайте, где их продают, но вряд ли понравится детям, которые заходят в интернет, чтобы посмотреть Смешариков. Что касается нашей площадки, то для нее были бы приемлемыми изображения сельскохозяйственных товаров (овощи/фрукты, корма для животных, удобрения и т.д). С другой стороны, очевидно, что тематика нашего маркетплейса не подразумевает наличие изображений с различным непотребным или оскорбляющим кого-то контентом.

Для начала мы решили ознакомиться с уже известными решениями задачи и попробовать адаптировать их под нашу площадку. Как правило, многие задачи модерации графического контента сводятся к решению задач класса

NSFW, для которых существует датасет в открытом доступе.
Для решения задач NSFW, как правило, используются классификаторы на базе ResNet, которые показывают качество accuracy > 93%.

Матрица ошибок исходного NSFW классификатора

Хорошо, допустим у нас есть хорошая модель и уже готовый датасет для NSFW, но будет ли этого достаточно для определения приемлемости изображения для площадки? Оказалось, что нет. Обсудив такой первоначальный подход с моделью NSFW с владельцами нашей площадки, мы поняли, что необходимо определять немного больше категорий, а именно:

• людей (изображения с людьми мы не хотим видеть, так как они не соответствуют целям платформы)
• животных (нельзя пропускать мертвых животных, а, к примеру, от спящих их отличить весьма проблематично. Поэтому такие фото мы хотим отправлять дальше на ручную модерацию)
• а также корректно работать с надписями на изображениях (различные неприемлемые надписи нам также ни к чему)

То есть, нам все же пришлось составлять свой датасет и думать какие еще модели могли бы быть полезны.

Тут мы сталкиваемся с частой проблемой машинного обучения: нехваткой данных. Она обусловлена тем, что наша площадка создана не так давно, и на ней нет негативных примеров, то есть размеченных, как неприемлемые. Для её решения нам на помощь приходит метод few-shot learning. Суть этого метода в том, что мы можем дообучить, например, ResNet на небольших, собранных нами датасетах, и получить точность выше, чем если бы делали классификатор с нуля и только с использованием нашего небольшого датасета.

Как делали?

Ниже представлена общая схема нашего решения, начиная от входного изображения и заканчивая результатом детектирования различных категорий, в случае подачи на вход изображения яблока.

Общая схема решения

Рассмотрим каждую часть схемы подробнее.

1 этап: Graffiti detector

Мы ожидаем, что на наш сайт будут загружать товары с текстом на упаковках и, соответственно, возникает задача детектирования надписей и выявления их значения.

Первым этапом мы с помощью библиотеки OpenCV Text Detection находили надписи на упаковках.

OpenCV Text Detection — это инструмент оптического распознавания символов (OCR) для Python. То есть он распознает и «прочитает» текст, встроенный в изображения.

Пример работы EAST детектора

Пример детектирования надписей вы можете видеть на фото. Для выявления bounding box мы использовали модель EAST, но здесь читатель может почувствовать подвох, так как данная модель обучена на распознавание английских текстов, а на наших изображениях тексты на русском языке. Именно поэтому далее используется модель бинарной классификации (граффити/ не граффити) на базе ResNet, доученная до нужного качества на наших данных. Мы взяли ResNet-18, так как эта модель лучше всего показала себя при подборе архитектуры.

В нашей задаче мы бы хотели отличать фото, где надписи являются надписями на упаковках товаров от граффити. Поэтому решили разделить все фото с текстом на два класса: граффити и не граффити

Полученная точность модели составила 95% на заранее отложенной выборке:

Матрица ошибок детектора граффити

Неплохо! Теперь мы умеем вычленять текст на фото и с хорошей вероятностью понимать подходит ли оно для публикации. Но что делать, если текст на фото отсутствует?

2 этап: NSFW detector

Если на картинке мы не обнаруживаем текст это не значит, что она неприемлема, поэтому дальше мы хотим оценить насколько контент на изображении соответствует тематике сайта.

На этом этапе задача состоит в том, чтобы отнести изображение к одной из категорий:

• наркотики (drugs)
• порно (porn)
• животные (animals)
• фото, способные вызвать отторжение (в том числе и рисунки) (gore/drawing_gore)
• хентай (hentai)
• нейтральные изображения (neutral)

При этом важно, чтобы модель возвращала не только категорию, но и степень уверенности в ней алгоритмов.

Для классификации использовали модель на базе NSFW. Она обучена так, что разделяет фото на 7 классов и только один из них мы ожидаем увидеть на сайте. Таким образом, мы оставляем только нейтральные фото.

Результат такой модели — 97% (в терминах accuracy)

Матрица ошибок NSFW детектора

3 этап: Person detector

Но даже после того, как мы научились фильтровать NSFW, задачу еще нельзя считать решенной. Например, фото человека не попадает ни в категорию с NSFW, ни в категорию фото с текстом, но и на сайте мы подобные изображения не хотели бы видеть. Тогда мы добавили в нашу архитектуру еще и модель детекции человека — Single Shot Detector (далее SSD).

Выделение людей или каких-либо других заранее известных объектов также является популярной задачей с широкой областью применения. Мы использовали готовую модель nvidia_ssd из pytorch.

Пример работы алгоритма SSD

Результаты работы модели ниже (accuracy — 96%):

Матрица ошибок детектора человека

Результаты

Мы оценивали качество работы нашего инструмента метриками weighted F1, Precision, Recall. Результаты представлены в таблице:

А вот еще несколько наглядных примеров его работы:

Примеры работы инструмента

Заключение

В процессе решения мы пользовались целым “зоопарком” моделей, которые часто используются для задач компьютерного зрения. Мы научились “читать” текст с фото, находить людей, различать непозволительный контент.

Напоследок, хочется отметить, что рассмотренная задача полезна с точки зрения получения опыта и применения модифицированных классических моделей. Вот некоторые полученные нами инсайты:

1. Можно обходить проблему нехватки данных с помощью метода few-shot learning: большие модели можно доучить до необходимой точности на собственных данных
2. Не нужно стесняться добавлять ручную модерацию: чтобы отличить мертвое животное от спящего необходимы очень сложные модели, которые вряд ли оправдают потраченное на них время
3. Хорошей практикой является использование качественных моделей, обученных на больших датасетах, которые помогут закрыть хотя бы часть потребностей
4. Решать задачи с изображениями становится в разы проще, если удается вычленить из них текст, а значит примерно понимать к какой категории оно относится. Это довольно удобно для сайтов различных магазинов, так как по тексту и фону упаковки, как правило, можно быстро понять является ли товар допустимым или нет
5. Несмотря на то, что задача модерации изображений довольно популярная, ее решение, как и в случае с текстами, может отличаться от площадки к площадке, так как каждая из них рассчитана на разную аудиторию. В нашем случае, к примеру, мы, дополнительно к неприемлемому контенту, детектировали еще животных и людей

Благодарю за внимание и до встречи в следующей статье!

«Яндекс» завизирует фотографии – Газета Коммерсантъ № 71 (5821) от 25.04.2016

«Яндекс» запускает сервис автоматической модерации фотографий для соцсетей, служб знакомств, виртуальных досок объявлений и торговых площадок. Технология позволяет проверить оригинальность снимка, что поможет отсеять недостоверные объявления или обнаружить поддельные товары.

Подразделение «Яндекса» по анализу больших массивов данных Yandex Data Factory (YDF) разработало сервис автоматической модерации изображений, сообщили «Ъ» в «Яндексе». В нем используются технологии компьютерного зрения и искусственного интеллекта, разработанные ранее для нужд поисковика. В компании утверждают, что на основе анализа фотографии можно оценить, соответствует ли изображение правилам сервиса, а также найти его копии в интернете. Это, например, позволит проверить оригинальность загруженной пользователем картинки, что может подтвердить достоверность его объявления, объясняют в компании.

Сервис можно применить для обнаружения поддельных товаров бренда, которые продаются на сторонних сайтах, хотя правообладатели должны будут сами определять легальность использования тех или иных изображений. «Технология, как и поиск «Яндекса» по загруженным изображениям, умеет находить копии фотографий в интернете. Но она не дает возможности определить автоматически, какая из них используется легально, а какая — нет»,— поясняют в компании. Там считают, что сервис будет полезен тем участникам рынка, которые тратят много ресурсов на модерацию контента, загружаемого пользователями: соцсетям, сервисам знакомств, сайтам объявлений, торговым интернет-площадкам. Так, автомодерация от YDF уже применяется в работе «крупного международного сайта знакомств», утверждают в «Яндексе».

Сервис в стандартном виде будет предложен клиентам, которые обрабатывают более 100 тыс. изображений в месяц. При превышении порога 500 тыс. обращений YDF обучает алгоритм для работы с запросом конкретного клиента. Стоимость модерации и поиска копий составит $0,7 за 1 тыс. запросов. Для клиентов, которым необходима обработка более 5 млн запросов в месяц, стоимость услуг рассчитывается индивидуально. При этом YDF гарантирует результат и выставит счет только в том случае, если поставленные ключевые показатели эффективности будут достигнуты, обещают в «Яндексе».

О создании YDF «Яндекс» объявил в декабре 2014 года. Направление решает бизнес-задачи компаний, имеющих дело с большими массивами данных. Среди клиентов и партнеров YDF — CERN, «Вымпелком», Росавтодор, Wargaming, Сбербанк, Intel, Магнитогорский металлургический комбинат, Банк России, «Астразенека» и российское общество клинической онкологии RUSSCO.

Технологии компьютерного зрения и машинного обучения используются широко, говорит директор по маркетингу и развитию бизнеса проекта «Одноклассники» Арсен Исрапилов. «Мы такую работу ведем, но используем только для внутренних нужд и не рассматриваем как внешний продукт»— сказал он. Для Alibaba Group это вряд ли актуально, сомневается глава представительства Alibaba Group в России Марк Завадский. «Все же мы не работаем так плотно с пользовательским контентом»,— говорит он. Президент Sistema VC Алексей Катков считает разработку YDF «перспективной». «Помимо снижения расходов использование автоматической модерации изображений поможет клиентам повысить скорость обслуживания пользователей и качество самого сервиса»,— рассуждает господин Катков. Насколько эта услуга будет популярной, станет понятно в ходе тестов, добавил он.

«Сервис предоставляет возможность видеть историю уже опубликованных изображений в интернете, он их лишь анализирует и данные пользователей не передает»,— рассуждает партнер коллегии адвокатов «Юков и партнеры» Алина Топорнина. По ее словам, с юридической точки зрения конфликта в использовании такой технической модерации нет, и права авторов фотографий, так же как и личное имущественное право на изображение лица, сервис не нарушает.

Роман Рожков

Анализ тональности и модерация контента. Справка

1. Перед началом
2. Создание проекта
3. Добавление пула заданий
4. Загрузка заданий
5. Добавление обучения
6. Запуск пула и получение результатов

Этот подходит для тех случаев, когда нужно проверить текстовый контент на соответствие правилам (англ. content moderation, CM).

Примеры задач, которые поможет решить этот шаблон:

• Модерация комментариев и ников на форуме.

• Проверка объявлений на сайте, отзывов о товарах в магазине, сообщений в соцсетях.

• Наличие упоминания какого-то бренда или компании.

Еще

• Новости. У вас новостной сайт, где посетители оставляют комментарии к новостям. Проанализируйте комментарии и решите, показывать ли их на сайте.

• Социальные сети. Классифицируйте публикации в социальных сетях по нескольким атрибутам.

• Характер текста. Оценить эмоциональную окраску комментария.

• Токсичность комментариев. Оценить, является ли комментарий токсичным.

• Разметка токсичных комментариев. Для каждого комментария выбрать уровень токсичности, соответствующий его содержанию.

• Ценность (полезность) текста. Определить, содержит ли сообщение спам.

• Интернет-магазины: модерация контента. Определить, какое из предложенных значений атрибута лучше подходит для конкретного товара.

• Модерация комментариев, на которые пожаловались. Оценить, запрещать ли комментарии, которые являются недопустимыми по мнению других пользователе социального сервиса.

• Модерация сообщений. Проверить комментарии на оскорбления, нарушения закона, спам и рекламу.

• Модерация спортивных комментариев. Указать, соответствует ли комментарий правилам модерации в определенной сфере или сервисе.

• Конструктивность информации. Проверить комментарии из различных источников на конструктивность и разметить их.

• Разметка комментариев на Яндекс.Маркете.

Например, у вас есть блог и вы хотите провести модерацию комментариев к новой публикации, которая собрала много негатива — проверьте текстовые комментарии на нарушения правил: оскорбления, нарушения закона, спам и рекламу.

Совет.

Сначала запустите проект в Песочнице. Так вы сможете избежать ошибок и потраченных средств, если окажется, что ваше задание не работает.

Пример готового задания

Если у вас сложный проект, зарегистрируйтесь в песочнице и создайте проект там. В ней вы сможете:

1. Протестировать настройки проекта в роли исполнителя.

2. Перенести их в основную версию Яндекс.Толоки.

Так вы избежите ошибок и впустую потраченных средств, если окажется, что ваше задание не работает.

В проекте вы определяете, как будет выглядеть задание у исполнителя.

В интерфейсе:

1. Нажмите кнопку + Создать проект и выберите шаблон Анализ тональности и модерация контента.

2. Заполните общую информацию:

   1. Дайте проекту понятное название и краткое описание. Их увидят исполнители в списке доступных заданий.

   2. По желанию добавьте Приватный комментарий.

   3. Нажмите Сохранить.

3. Отредактируйте интерфейс задания:

   Примечание. В этом туториале показано, как создать интерфейс задания в редакторе HTML/JS/CSS. Вы можете попробовать создать интерфейс задания в Конструкторе шаблонов.
   1. Определите, какие объекты будете передавать исполнителю, а какие получать от него в ответ. Для этого создайте поля входных и выходных данных в блоке Спецификации.

      Что такое входные и выходные данные?

      Входные данные — типы объектов, которые получит исполнитель для выполнения задания. В этом шаблоне вам понадобится текст. В других задачах бывают картинки или географические координаты.

      Выходные данные — типы объектов, которые будут на выходе выполненного задания. Для этого шаблона — один из двух вариантов ответа. При выборе второго ответа откроется список флажков — из них исполнитель должен выбрать подходящие варианты. В других задачах на выходе получают введенный текст или загруженный файл, например.

      Подробнее о полях входных и выходных данных.

      В данном случае:

      • Входные данные — поле comment, текст для проверки.

      • Выходные данные — строка quality, в которую будет записан выбранный вариант из поля «Есть ли в тексте нарушения?». Остальные поля — типы нарушений. Используйте этот список полей или настройте его под свои задачи.

      Входные данные

      {
        "comment": {
          "type": "string",
          "hidden": false,
          "required": true
        }
      }

      Выходные данные

      {
        "insult": {
          "type": "boolean",
          "hidden": false,
          "required": false
        },
        "quality": {
          "type": "string",
          "hidden": false,
          "required": true
        },
        "nonsense": {
          "type": "boolean",
          "hidden": false,
          "required": false
        },
        "profanity": {
          "type": "boolean",
          "hidden": false,
          "required": false
        },
        "advertising": {
          "type": "boolean",
          "hidden": false,
          "required": false
        },
        "law_violation": {
          "type": "boolean",
          "hidden": false,
          "required": false
        }
      }

      Создайте интерфейс задания в блоке HTML. Он описывает, как будут расположены элементы задания.

      В HTML-интерфейсе используются стандартные теги HTML и специальные компоненты в двойных (или тройных, как для поля comment) фигурных скобках для полей входных и выходных данных.

      
      {{{comment}}}
      
      {{ ="quality" ="OK" size="L" ="Всё хорошо" ="1"}}
      {{field type="radio" name="quality" value="BAD" size="L" label="Есть нарушения" hotkey="2"}}
      
      {{field type="checkbox" name="advertising" label="Реклама или спам" hotkey="q"}}
      {{field type="checkbox" name="nonsense" label="Бессмыслица" hotkey="w"}}
      {{field type="checkbox" name="insult" label="Оскорбления" hotkey="e"}}
      {{field type="checkbox" name="law_violation" label="Нарушение закона" hotkey="r"}}
      {{field type="checkbox" name="profanity" label="Ненормативная лексика" hotkey="t"}}
      

      Эта запись означает, что задание будет выглядеть так:

      • сверху текст проверяемого комментария;

      • две кнопки переключателя, выбранное значение будет записано в поле quality;

      • пять флажков, которые появляются, если выбрать второй переключатель. Отмеченные галочками также будут записываться в поля с соответствующим названием в результате.

   2. Нажмите кнопку , чтобы увидеть получившееся задание.

      Примечание. В предварительном просмотре проекта отображается одно задание со стандартными данными. Количество заданий на странице вы сможете настроить далее.

   3. Сохраните изменения.

4. Напишите инструкцию для исполнителей:

   1. Напишите краткую и ясную инструкцию (см. советы). Опишите в ней, что надо сделать, и приведите примеры.

      Вы можете подготовить инструкцию в формате HTML и вставить её в редактор. Чтобы переключиться в режим HTML, нажмите <>.

   2. Нажмите кнопку Завершить.

Пул — это набор оплачиваемых заданий, которые одновременно выдаются исполнителям.

1. На странице вашего нового проекта нажмите Добавить пул.

2. Дайте пулу любое удобное название и описание. Они доступны только вам, исполнитель увидит только название и описание проекта.

3. В блоке Аудитория добавьте Фильтры для отбора исполнителей. Если инструкция, интерфейс задания и сами комментарии на русском языке, воспользуйтесь набором «Русскоязычные исполнители». Если планируете анализировать комментарии еще на английском или другом языке, добавьте к ним фильтр: Языки = Английский.

   Задания в пулах по умолчанию будут доступны для веб-версии Толоки и мобильного приложения. Если вы хотите изменить настройки по умолчанию и ограничить видимость задачи для любой из версий, добавьте фильтр Клиент и выберите нужное значение: Веб-версия Толоки или Мобильная Толока.

4. Соотношение скорости и качества можно не менять.

5. В блоке Цена установите цену за страницу заданий, например $0.02.

   Что такое страница заданий?

   На одной странице может отображаться одно или несколько заданий. Если задания простые, то можно добавлять 10–20 заданий на одну страницу. Не рекомендуем создавать длинные страницы, это снижает скорость загрузки данных у исполнителя.

   Исполнитель получит оплату, только если выполнил все задания на странице.

   Количество заданий на странице вы определите при загрузке заданий.

   Как определить справедливую цену?

   Общее правило формирования цены — чем больше времени исполнитель тратит на выполнение, тем выше цена.

   Зарегистрируйтесь в Яндекс.Толоке как исполнитель и узнайте, сколько платят другие заказчики.

6. Настройте Контроль качества. Правила контроля качества позволяют отсеивать невнимательных исполнителей. Контроль также можно настраивать и в проекте. Отложенная приемка тут не понадобится.

   Типичные настройки для задач по модерации контента:

   Быстрые ответы Добавьте блок и укажите следующие значения:

   Если исполнитель выполнит хотя бы одну страницу заданий быстрее, чем за 20 секунд, он будет заблокирован и не сможет больше выполнять ваши задания 10 дней.

   Совет. Как определить время для быстрых ответов?

   Выполните свое задание и зафиксируйте время. Если блокируете по одному быстрому ответу, то ставьте минимальное время. Если по нескольким — немного увеличивайте.

   Контрольные заданияУкажите следующие значения:

   Если исполнитель даст больше 40% неправильных ответов на контрольные вопросы, то он будет заблокирован и не сможет больше выполнять задания этого проекта в течение 10 дней.

   Дополнительно настройте:

   КапчуПример настройки правила.
   

   Если исполнитель ввел капчу не меньше 5 раз и доля правильных ответов меньше 60%, он будет заблокирован и не сможет выполнять ваши задания 10 дней.

   Мнение большинстваПримеры настройки правила Мнение большинства. Выбирайте подходящие действия и параметры.

7. Настройте обычное или динамическое перекрытие:

   • Перекрытие — количество исполнителей, которые должны выполнить задание. Для заданий модерации контента подходит значение 3-5. В этом случае для проверки достоверности ответов подходит Агрегация результатов.

   • (incremental relabeling, IRL). Оно поможет вам оптимизировать бюджет относительно получения максимально достоверных ответов. Пример настроек.

     Для работы этого параметра задания нужно загружать при помощи Умного смешивания.

8. В блоке Дополнительные настройки укажите Время на выполнение страницы заданий. Его должно быть достаточно, в том числе для чтения инструкции и загрузки задания. Например, 150 секунд.

9. Сохраните пул.

Подготовьте собственный файл с заданиями. Ознакомьтесь с примером в демонстрационном TSV-файле. В интерфейсе Толоки под названием пула есть ссылки на шаблоны TSV-файлов с обычными, контрольными и обучающими заданиями.

1. Нажмите кнопку Загрузить. В открывшемся окне также можно скачать пример TSV-файла по ссылке Пример загрузочного файла.

   Что такое TSV?TSV-файл — это электронная таблица в виде текстового файла, в котором столбцы разделены знаком табуляции.Работайте с ним в текстовом или редакторе электронных таблиц, сохраняйте в нужный формат. Подробнее о работе с TSV-файлом. Существует формат CSV, схожий с TSV, но при загрузке необходимо использовать TSV-файл.

   Примечание. Файл должен быть сохранен в кодировке UTF-8.

2. Добавьте в него входные данные. Заголовок столбца со входными данными содержит слово INPUT. Внесите в него комментарии, которые хотите проверить. Остальные столбцы оставьте пустыми.

   Так выглядит начало файла с заданиями по проверке комментариев:

3. Загрузите задания, выбрав Умное смешивание.

   Что такое «Умное смешивание»?

   Принцип распределения заданий, по которому на одной странице могут быть задания разных типов. Например, на три основных — одно контрольное. Если у вас много комментариев, делайте одно контрольное на 9-10 обычных на странице.

4. Разметьте контрольные задания.

Обучение — это пул бесплатных заданий, на которых исполнитель учится правильно отвечать. Обучающие задания содержат правильный ответ и подсказку, которая будет показана, если исполнитель дал неверный ответ.

Совет. Пишите понятную инструкцию. Критерии хороших и плохих комментариев на разных ресурсах различаются, а пользователям надо объяснить, что и как нужно проверять в заданиях.

1. Откройте страницу , перейдите на вкладку Обучения и нажмите кнопку Добавить обучение.

2. Дайте название обучающему пулу и укажите время на выполнение страницы заданий.

3. Сохраните пул, нажав кнопку Создать обучение.

4. Скачайте Пример загрузочного файла или отредактируйте тот, в котором загружали задания для основного (оплачиваемого) пула.

   Примечание. TSV-файлы для всех пулов одного проекта имеют одинаковую структуру.

5. Добавьте в TSV-файл комментарии, на которых будет проходить обучение.

6. Загрузите файл, указав количество заданий на странице. Например, 2. Это число не должно превышать количество заданий на странице в привязанном пуле.

7. Нажмите Загрузить и укажите количество обучающих заданий на странице.

8. Нажмите Добавить.

9. Нажмите . Далее добавьте правильный ответ и подсказку для всех загруженных заданий. Зачем нужна разметка.

10. После успешной загрузки откройте Предпросмотр и проверьте, что задания отображаются корректно.

11. Привяжите обучение.

    • Откройте основной пул.

    • Нажмите Редактировать.

    • Выберите название обучения, которое вы только что создавали.

12. Установите Уровень прохождения 70. Тогда пул будет доступен исполнителям, допустившим не более 30% ошибок при обучении.

13. Нажмите Сохранить.

Подробнее о создании пула с обучением.

1. Сначала запустите обучающий пул, а потом — обычный. Со страницы пула это можно сделать, нажав кнопку . Со страницы проекта — напротив названия пула.
2. Следите за выполнением в блоке Статистика пула. Если вы создавали проект в песочнице, то можете протестировать его самостоятельно.
3. Когда пул будет полностью выполнен, запустите агрегацию результатов. Рядом с кнопкой Скачать результаты нажмите .

   Так в TSV-файле с агрегированными ответами видна значимость ответа в процентах — поле CONFIDENCE. Это пригодится, чтобы понять, насколько верить в то, что комментарий оценен достоверно. Подробнее об агрегации.

4. Отслеживайте ход агрегации на странице Операции (рядом с кнопкой Скачать результаты: ). По завершении нажмите кнопку Скачать.

Правила загрузки фото на сайт

General rules

We accept any photos showing you, except for images that violate the rules of the service.

All uploaded photos are subject to compulsory moderation. The moderation process takes up to 60 minutes on average.

You must upload at least one photo in which a closeup of your face is clearly visible into the «Only me» album.

The moderator may mark your photo as explicit if you are naked or semi-naked in it. In this case the photo may be hidden from users who have selected the corresponding settings in their profile.

The moderation criteria set out in the rules are not exhaustive. In disputed cases a decision is reached individually by the moderator, in accordance with the internal quality standards accepted on the service.

Good quality photos from your Portfolio, as well as mobile phone photos are accepted in the VIP section. Try to choose a crisp photo where your face is clearly visible.

Reasons for declining photos

The moderator will reject photos for the following reasons:

1. Photos that carry no meaning: a black background, a photo of a table or your shoes, a photo taken in your pocket, etc.;
2. Photos containing generally-understood indecent gestures: the middle finger, etc.;
3. Photos of low quality;
4. Photos that have been heavily processed using graphics editor filters, collage creation programs, or other image editing software;
5. Photos of other people. Pictures will be rejected if there is any suspicion that they show somebody other than yourself. If the moderator’s assessment is wrong, you can contact Support in whatever way is most convenient and present proof that the photo is of you;
6. Photos with improper captions. Photos will be rejected if the signature or the photo itself contains obscene language, addresses or logos belonging to other sites, any contact details including postal addresses and links to social network pages, or any other text that the moderator considers inappropriate or provocative;
7. Photos that reproduce photos you have already posted;
8. Photos containing sex organs (including if they are clothed but clearly distinguishable), parts of them, or sex acts;
9. Photos of naked or semi-naked women/men in provoking poses.
10. Photos of semi-naked women/men that are obviously intended to show nudity (photos in the bathroom, shower, etc.). Exception: beach photos, photos in the gym;
11. Photos, drawings, screenshots (from films, cartoons, computer games) with scenes of sex or violence; photos including indecent objects of a sexual nature (dildos, whips, muzzles, etc. ), weapons, or offensive symbols;
12. Photos containing obscene, physiologically distasteful scenes, such as: bowel and bladder movements, self-inflicted wounds, etc.
13. Photos showing aggression, violence, or cruelty to people or animals;
14. Photos (pictures, screenshots) that violate Russian Federation law, contain forbidden material, or could offend the national or religious feelings or identity of other social groups;
15. Images of children without their parents or images that in any way violate the rights of minors;
16. Any other images that the moderator considers to be vulgar, indecent, disgusting, or incompatible with the aims and the quality standards of our service.

Reasons for photo transfer

Some photos may be accepted for the site with restrictions, and placed in the Miscellaneous album. The moderator will transfer photos from your main album to Miscellaneous for the following reasons:

1. Group photos;
2. Photos with improper contents: photos of animals, objects, or places and other images permitted by the rules in which you are not shown;
3. Photographs of particular parts of the body;
4. Photos in which you are shown from a distance, so that you cannot be clearly seen.

Types of albums

Just me: your main album, where it is sensible only to upload your own good-quality photos. This is the album we advise you to rely on if you want to meet people quickly.

Miscellaneous: this is the place for photos that the moderator transfers here for one of the reasons given under Reasons for photo transfer. This album can be seen by all users.

Messages: this album stores photos you attach to personal messages in your correspondence. Don’t worry, this album is completely private and cannot be accessed by anybody except you.

Support: this album stores images you have sent to Support. It cannot be viewed by other users.

Avatars: this album stores images you have used in anonymous chats. It cannot be seen by other users.

Число фотографий фронтовиков для «Дороги памяти» близко к миллиону — Российская газета

К 75-й годовщине Великой Победы на территории храмового комплекса в парке «Патриот» (Московская область, 55 км Минского шоссе) откроют удивительный мультимедийный музей.

В галерее у Главного храма Вооруженных сил России не только прочитаем фамилии фронтовиков — мы увидим их лица.

На момент написания материала на сайте doroga.mil.ru загружено более 900 тысяч фотографий героев: фронтовиков, партизан, ленинградцев-блокадников, а также людей, работавших в войну на оборонных предприятиях.

Нужно ли торопиться загрузить снимок деда-героя до открытия мультимедийного музея или это можно сделать и позже? Этот и другие вопросы я задал начальнику отдела военных средств массовой информации Главного военно-политического управления Вооруженных сил РФ полковнику Эдуарду Масловскому.

Эдуард Геннадьевич, статистика просто поражает. Когда загружал снимок своего деда-фронтовика — на сайте было 650 тыс. снимков. Через неделю — уже 850 тысяч.

Эдуард Масловский: Бывают дни, когда поступает больше 30 тысяч фото. Помимо фотографий с сайта идет сбор информации и изображений из оцифрованных военных архивов. Собираем данные из военкоматов по месту жительства героев.

У проекта есть зарубежный аналог?

Эдуард Масловский: Проект наш, отечественный, полностью оригинальный. Проводит минобороны, автор идеи — министр обороны генерал армии Сергей Шойгу. «Дорога памяти» — это продолжение огромной работы по оцифровке архива минобороны. В единой базе данных почти 30 млн записей о солдатах и офицерах Красной армии.

Сколько можно разместить фотографий в галерее у Главного военного храма? И когда дедлайн?

Эдуард Масловский: Ограничений нет: ни по количеству изображений, ни по времени, фотографии можно присылать и после 9 Мая.

Центральный академический театр Российской армии: пункт приема документов для «Дороги памяти». Фото: РИА Новости www.ria.ru

Что будет, если фотографию героя попытаются загрузить его родственники из разных уголков страны?

Эдуард Масловский: Система позволит разместить на сайте несколько фотографий. Но модерация, безусловно, будет. Минобороны для этого привлекло IT-специалистов. Обратите внимание: на сайте также есть возможность загрузить копию фронтовых писем. Это трогательный момент: сейчас, когда эпистолярный жанр уходит в прошлое и слово потеряло былую яркость, особенно трепетно воспринимаются строки из фронтовых писем. Многие семьи бережно хранят такие письма — и вот появилась возможность навечно все сохранить.

Людей старшего возраста слова «оцифровка» и «загрузка» пугают.

Эдуард Масловский: Я бы посоветовал сначала воспользоваться поиском в базах данных Минобороны России. Да и сам сайт «Дорога памяти» создан так, что с его помощью возможно искать в других общедоступных базах. Я так делал сам: вписал фамилию, имя и отчество своего героического родственника, кликнул «Искать в базах минобороны». Система выдает карточку, ее можно прикрепить, сделать ссылку. Там все просто и логично. Видишь «Заполнение полей информацией о Герое войны» — заполняешь. Но если все-таки сложно, то можно воспользоваться услугами специалистов на одном из пунктов оцифровки.

Президент в воскресенье в Пскове был на одном из таких?

Эдуард Масловский: Да, это пункт на территории 104-го гвардейско-десантного штурмового полка 76-й воздушно-десантной дивизии. У нас в округах при воинских частях, в Домах офицеров развернуто порядка 500 таких пунктов. Плюс они есть практически во всех отделениях «Почты России». В Москве — на ВДНХ, во многих ведущих столичных вузах. Сейчас прорабатываем интересный проект: через представительства Россотрудничества такие услуги будут оказаны соотечественникам за рубежом.

Из-за границы фото уже присылали?

Эдуард Масловский: Из Армении, Азербайджана, Беларуси, Казахстана, Эстонии. И даже из дальних уголков планеты: из Аргентины, Нидерландов (по линии МИД).

По поводу требований к фотографиям ветеранов. Можно ли расцвечивать черно-белые?

Эдуард Масловский: Для нас это не имеет значения. Родственники представляют разные фотографии, в том числе и расцвеченные.

Каким увидят героев той страшной войны наши потомки — сейчас зависит от нас. Фото: РИА Новости www.ria.ru

Обязательно фотография? Рисунок или коллаж допустимы?

Эдуард Масловский: Допустимы, но только персональная фотография, иначе не понятно, о каком человеке идет речь. Лично я бы использовал максимально аутентичные снимки, а не отрисованные фотографии. Но все — на ваше усмотрение.

Размер галереи в парке «Патриот» описан в шагах: их 1418, то есть порядка одного километра в длину. Огромный комплекс. Как среди миллионов снимков найти своего деда?

Эдуард Масловский: Переводить шаги в метры и километры мы не будем, поскольку шаги имеют важное смысловое значение — по числу дней Великой Отечественной войны. Да, галерея огромная. Найти своего воевавшего родственника можно будет при помощи сенсорной интерактивной панели: набираете фамилию, имя и отчество — и все высветится на большом экране.

Главный храм Вооруженных cил России в парке «Патриот». На территории комплекса создается галерея «Дорога памяти»: здесь разместят десятки миллионов фотографий героев войны.

Как работает модерация фотографий?

Любое изображение, отправленное на ваш веб-сайт из внешнего источника, должно пройти модерацию до или после публикации, чтобы убедиться, что изображение соответствует правилам публикации и общей теме или брендингу вашей страницы.

Модерация фотографий, как и модерация любого контента, осуществляется для поддержания качества и порядка в вашем интернет-сообществе. Что еще более важно, он также защищает ваши онлайн-ресурсы от непроверенной информации, мошеннических заявлений или любого контента, который может нанести ущерб вашей репутации.

Какие изображения можно модерировать?

Любое изображение может быть подвергнуто модерации независимо от его формата или типа. Это могут быть аватары, конкурсные работы, фотоальбомы, скриншоты, видеокадры, макросы изображений, изображения профиля — практически любое цифровое изображение, которое вы размещаете на своем сайте.

• Качество

  Соответствует ли фотография установленным вами критериям? Проверка качества может больше зависеть от технических аспектов изображения, таких как разрешение, цвет или размер.Проверка того, что изображено на изображении, также может подпадать под проверку качества. Это может быть этап процесса, когда ваши модераторы отфильтровывают фотографии, содержащие наготу, ненависть, насилие, употребление наркотиков или ненормативную лексику.

• Точность

  Проверка на точность позволяет убедиться, что все, что изображено на изображении или заявлено о нем заявителем, соответствует действительности. Подписи, темы или метаданные могут быть включены в проверку точности, но рекомендуется также включить проверку оригинальности представления, чтобы избежать возможных обвинений в нарушении прав.
   

Процесс выполняется вручную или автоматизирован?

Это можно сделать в любом случае. Ручная проверка представленных изображений лучше всего подходит для небольшого сообщества или для фотоконкурсов, где требуется сложное и сознательное суждение, чего не могут обеспечить беспилотные программы.

Автоматическая модерация, с другой стороны, полезна, если вы получаете большое количество материалов или если сообщения с изображениями должны публиковаться в режиме реального времени. Вы можете использовать систему модерации фотографий или добавить инструмент в систему модерации контента вашего сайта (CMS) для автоматической сортировки и распознавания пигментов, количества света, фотоэффектов или лиц.

Поскольку подобные программы не могут быть точными на сто процентов, настоятельно рекомендуется иметь аутсорсинговую команду рядом с вашей системой. Интеграция живых модераторов в вашу CMS может дать вам возможность модерировать тысячи изображений в день, не жертвуя человеческими стандартами.

Не позволяйте немодерируемому контенту запятнать репутацию вашего бренда. Open Access BPO, ключевой игрок в индустрии модерации контента, предлагает услуги по созданию и модерации контента в соответствии с потребностями вашего бизнеса.Свяжитесь с нами сегодня, чтобы усилить присутствие вашего бренда в Интернете.

Модерация изображений — Модератор контента — Azure Cognitive Services

• Статья
• 11.01.2022
• 3 минуты на чтение

Полезна ли эта страница?

Пожалуйста, оцените свой опыт

да Нет

Любая дополнительная обратная связь?

Отзыв будет отправлен в Microsoft: при нажатии кнопки отправки ваш отзыв будет использован для улучшения продуктов и услуг Microsoft.Политика конфиденциальности.

Представлять на рассмотрение

В этой статье

Используйте машинную модерацию изображений Content Moderator для модерации изображений для взрослых и непристойного содержания. Сканируйте изображения на текстовое содержимое и извлекайте этот текст, а также обнаруживайте лица. Вы можете сопоставлять изображения с пользовательскими списками и предпринимать дальнейшие действия.

Оценка контента для взрослых и непристойного содержания

Операция Оценить возвращает показатель достоверности от 0 до 1.Он также возвращает логические данные, равные true или false. Эти значения предсказывают, содержит ли изображение потенциально взрослый или расистский контент. Когда вы вызываете API со своим изображением (файлом или URL-адресом), возвращаемый ответ включает следующую информацию:

.

  "Модерация изображения": {
    .............
    "взрослыйClassificationScore": 0,019196987152099609,
    "isImageAdultClassified": ложь,
    "raceClassificationScore": 0,0323326940536,
    "isImageRacyClassified": ложь,
    . ...........
    ],
  

Примечание

• isImageAdultClassified представляет потенциальное присутствие изображений, которые в определенных ситуациях могут считаться откровенно сексуальными или взрослыми.
• isImageRacyClassified представляет собой потенциальное присутствие изображений, которые в определенных ситуациях могут быть сочтены сексуальными или зрелыми.
• Оценки находятся в диапазоне от 0 до 1. Чем выше оценка, тем выше модель прогнозирует, что категория может быть применима.Этот предварительный просмотр основан на статистической модели, а не на результатах, закодированных вручную. Мы рекомендуем протестировать ваш собственный контент, чтобы определить, насколько каждая категория соответствует вашим требованиям.
• Булевы значения являются либо истинными, либо ложными в зависимости от внутренних пороговых значений оценки. Клиенты должны решить, следует ли использовать это значение или принять решение о настраиваемых пороговых значениях на основе их политики в отношении контента.

Обнаружение текста с оптическим распознаванием символов (OCR)

Операция Optical Character Recognition (OCR) прогнозирует наличие текстового содержимого в изображении и извлекает его для модерации текста, среди прочего.Вы можете указать язык. Если вы не укажете язык, по умолчанию будет использоваться английский язык.

Ответ включает следующую информацию:

• Исходный текст.
• Обнаруженные текстовые элементы с их оценкой достоверности.

Пример выписки:

  "Обнаружение текста": {
    "статус": {
        "код": 3000.0,
        "описание": "ОК",
        "исключение": ноль
    },
    .........
    "язык": "анг",
    "text": "ЕСЛИ МЫ СДЕЛАЛИ \r\nВСЕ \r\nТО, \r\nМЫ \r\nСПОСОБНЫ\r\nСДЕЛАТЬ, \r\nМЫ БУДЕМ \r\nБУКВАЛЬНО \r\nПОРАЖЕНЫ \r\nСЕБЯ \ р\н",
    "кандидаты": []
},
  

Обнаружение лиц

Обнаружение лиц помогает обнаруживать личные данные, такие как лица на изображениях. Вы определяете потенциальные лица и количество потенциальных лиц на каждом изображении.

Ответ включает следующую информацию:

• Количество лиц
• Список местоположений обнаруженных лиц

Пример выписки:

  "Обнаружение лиц": {
    ......
    "результат": правда,
    "счет": 2,
    "Дополнительная информация": [
        .....
    ],
    "лица": [
        {
            "низ": 598,
            «слева»: 44,
            "право": 268,
            "сверху": 374
        },
        {
            "низ": 620,
            «слева»: 308,
            "право": 532,
            "сверху": 396
        }
    ]
}
  

Создание настраиваемых списков и управление ими

Во многих интернет-сообществах после того, как пользователи загружают изображения или другой контент, оскорбительные элементы могут публиковаться несколько раз в последующие дни, недели и месяцы.Затраты на повторное сканирование и фильтрацию одного и того же изображения или даже слегка измененных версий изображения из нескольких мест могут быть дорогостоящими и подверженными ошибкам.

Вместо того, чтобы модерировать одно и то же изображение несколько раз, вы добавляете оскорбительные изображения в свой собственный список заблокированного контента. Таким образом, ваша система модерации контента сравнивает входящие изображения с вашими пользовательскими списками и останавливает дальнейшую обработку.

Примечание

Существует максимальное ограничение 5 списков изображений с каждым списком до не более 10000 изображений .

Content Moderator предоставляет полный API управления списками изображений с операциями для управления списками пользовательских изображений. Начните с консоли API списков изображений и используйте примеры кода REST API. Также ознакомьтесь с кратким руководством по Image List .NET, если вы знакомы с Visual Studio и C#.

Сопоставление с вашими пользовательскими списками

Операция Match позволяет выполнять нечеткое сопоставление входящих изображений с любым из ваших настраиваемых списков, созданных и управляемых с помощью операций List.

Если совпадение найдено, операция возвращает идентификатор и теги модерации совпавшего изображения. Ответ включает следующую информацию:

• Счет матча (от 0 до 1)
• Соответствующее изображение
• Теги изображения (присваиваются при предыдущей модерации)
• Ярлыки изображений

Пример выписки:

  {
    ..............,
    "IsMatch": правда,
    "Спички": [
        {
            «Оценка»: 1,0,
            «MatchId»: 169490,
            «Источник»: «169642»,
            "Теги": [],
            «Ярлык»: «Спорт»
        }
    ],
    ....
}
  

Следующие шаги

Протестируйте консоль API модерации изображений и используйте образцы кода REST API.

Автоматическая модерация изображений

Инструмент модерации изображений сокращает время, затрачиваемое на модерацию неприемлемого контента. Вы сможете сосредоточиться на контенте, который вы действительно хотите опубликовать, автоматически отклоняя оскорбительный контент.

 

Что такое оскорбительный контент?

Контент для взрослых будет идентифицирован и классифицирован.Неприемлемые изображения и видео будут заблокированы на платформе, а сомнительный контент будет приостановлен.

Как работает автоматическая модерация изображений?

После того, как вы активировали параметр автоматической модерации изображений, платформа будет модерировать ваш контент и отфильтровывать оскорбительный контент. Подозрительные изображения и видео будут помещены в режим ожидания для просмотра модераторами.

 

Шаг №1

— АКТИВАЦИЯ

Вы можете включить или отключить эту функцию для своей учетной записи (по умолчанию она отключена).

 

Чтобы активировать эту функцию:

• Перейдите к настройкам портала и включите  » Автоматически отклонять оскорбительный контент».
• После активации контент будет модерироваться в режиме реального времени. Получение результатов на платформе займет 1-2 минуты.

Если у вас есть доступ к нескольким разделам , эту функцию необходимо активировать отдельно для каждого раздела.

 

Шаг № 2 — 

МОДЕРАЦИЯ ПЛАТФОРМЫ

После того, как вы активировали « Автоматически отклонять содержимое Office» , платформа присвоит каждому элементу содержимого категорию:

 

Категория Что будет дальше? Для взрослых — очень маловероятно Контент отправлен в галерею модерации для ручной обработки Для взрослых — маловероятно Контент отправлен в галерею модерации для ручной обработки Контент удален с платформы Для взрослых — очень вероятно Контент удален с платформы

 

Шаг № 3

— МОДЕРАЦИЯ   КОНТЕНТ «ОТЛОЖЕН»

Модераторам необходимо будет периодически проверять контент, помещенный в режим ожидания, чтобы отслеживать  взрослый — возможно  контент.

• В галерее модерации выберите «В ожидании» в раскрывающемся списке фильтров
• Умеренный контент, который был классифицирован как «Только для взрослых» путем принятия или удаления изображения/видео.

 

Совет!

 Экономьте время за счет массовой модерации контента.

Модерация контента — Amazon Rekognition

Вы можете использовать Amazon Rekognition для обнаружения неприемлемого, нежелательного или оскорбительного контента.Вы можете использовать API-интерфейсы модерации Rekognition в социальных сетях, вещательных СМИ, рекламе и электронной коммерции, чтобы создать более безопасный пользовательский интерфейс. предоставлять рекламодателям гарантии безопасности бренда и соблюдать местные и глобальные правила.

Сегодня многие компании полностью полагаются на модераторов-людей для проверки стороннего или созданного пользователями контента, в то время как другие просто реагировать на жалобы пользователей, чтобы удалить оскорбительные или неуместные изображения, рекламу или видео. Однако модераторы-люди сами по себе не могут масштабирование для удовлетворения этих потребностей с достаточным качеством или скоростью, что приводит к ухудшению пользовательского опыта, высоким затратам на достижение масштаба или даже потеря репутации бренда.Используя Rekognition для модерации изображений и видео, модераторы-люди могут просматривать меньший набор контента, обычно 1-5% от общего объема, уже отмеченный машинным обучением. Это позволяет им сосредоточиться на более ценные действия и по-прежнему обеспечивают всесторонний охват модерации за долю их существующей стоимости. Установить человеческой рабочей силы и выполнять задачи проверки людьми, вы можете использовать Amazon Augmented AI, который уже интегрирован с Rekognition.

Использование API модерации изображений и видео

В Amazon Rekognition Image API можно использовать операцию DetectModerationLabels для обнаружения неприемлемого или оскорбительного контента в картинки. Вы можете использовать Amazon Rekognition Video API для асинхронного обнаружения неприемлемого контента с помощью StartContentModeration и GetContentModeration операции.

Amazon Rekognition использует двухуровневую иерархическую таксономию для обозначения категорий неприемлемого или оскорбительного контента.Каждая категория верхнего уровня имеет ряд категорий второго уровня.

Категория высшего уровня	Категория второго уровня
откровенная нагота	Нагота
	Графическое изображение мужской наготы
	Графическое изображение женской наготы
	Сексуальная активность
	Иллюстрированная откровенная нагота
	Игрушки для взрослых
Наводит на размышления	Женский купальник или нижнее белье
	Мужской купальный костюм или нижнее белье
	Частичная нагота
	Мужчина с обнаженной грудью
	Раскрытие одежды
	Сексуальные ситуации
Насилие	Графическое изображение насилия или крови
	Физическое насилие
	Насилие с оружием
	Оружие
	Самоповреждение
Визуально тревожный	Изможденные тела
	Трупы
	Подвесной
	Авиакатастрофа
	Взрывы и взрывы
Грубые жесты	Средний палец
Наркотики	Лекарственные препараты
	Употребление наркотиков
	Таблетки
	Принадлежности для наркотиков
Табак	Табачные изделия
	Курение
Алкоголь	Алкоголь
	Алкогольные напитки
Азартные игры	Азартные игры
Символы ненависти	Нацистская партия
	Белое превосходство
	Экстремист

Вы определяете пригодность контента для своего приложения. Например, изображения А. наводящий характер может быть приемлемым, но изображения, содержащие наготу, могут быть неприемлемы. Фильтровать изображений, используйте массив меток ModerationLabel, возвращаемый DetectModerationLabels (изображения) и GetContentModeration (видео).

Вы можете установить порог достоверности, который Amazon Rekognition использует для обнаружения неприемлемого контента, путем указав входной параметр MinConfidence .Ярлыки не возвращаются для неприемлемый контент, который обнаруживается с меньшей достоверностью, чем MinConfidence .

Указание значения для MinConfidence меньше 50 %, скорее всего, возвращать большое количество ложноположительных результатов. Мы рекомендуем вам использовать значение, которое составляет менее 50% только в том случае, если допустимо обнаружение с более низкой точностью. если вы не укажите значение для MinConfidence , Amazon Rekognition возвращает метки для несоответствующих контент, обнаруженный с достоверностью не менее 50 %.

Массив ModerationLabel содержит метки в предыдущих категориях и предполагаемая уверенность в точности распознанного контента. Метка верхнего уровня возвращается вместе со всеми идентифицированными метками второго уровня. Например, Amazon Rekognition. может возвращать «Явная нагота» с высокой оценкой достоверности в качестве метки верхнего уровня. Тот может быть достаточно для ваших нужд фильтрации. Однако, при необходимости, вы можете использовать оценка достоверности ярлыка второго уровня (например, «Графика мужской наготы»), чтобы получить больше гранулированная фильтрация.Пример см. в разделе Обнаружение неприемлемых изображений.

Amazon Rekognition Image и Amazon Rekognition Video возвращают версию модели обнаружения модерации, используется для обнаружения нежелательного контента ( ModerationModelVersion ).

Amazon Rekognition не является авторитетным и никоим образом не претендует на роль исчерпывающего фильтра. неуместного или оскорбительного содержания. Кроме того, API-интерфейсы модерации изображений и видео не обнаруживают содержит ли изображение незаконный контент, например детскую порнографию.

Модерация рекламного спама и неприемлемого контента на фотографиях в масштабе Yelp

Доверие нашего сообщества потребителей и владельцев бизнеса является главным приоритетом Yelp. Мы принимаем значительные меры для поддержания этого доверия с помощью наших современных алгоритмов рекомендаций по обзору, чтобы поддерживать целостность и качество контента на нашем сайте. Несмотря на свою популярность, текст отзыва является лишь одним из многих типов пользовательского контента на Yelp. Фотографии также являются ключевым элементом контента, и они все чаще становятся вектором атаки для спамеров и неуместного или другого нежелательного поведения. В этом сообщении блога мы покажем, как мы создали масштабируемый рабочий процесс модерации фотографий, используя внутренний конвейер Yelp для потоковой передачи и обработки данных в реальном времени, простые эвристики и модели глубокого обучения, чтобы справляться с сотнями тысяч загружаемых фотографий в день.

Миссия Yelp состоит в том, чтобы связывать людей с крупным местным бизнесом. Местные предприятия часто имеют небольшой размер и могут не иметь ресурсов для быстрой идентификации и пометки контента, созданного на их страницах, особенно если он является подрывным или вводящим в заблуждение, что может привести к снижению доверия как к компании, так и к ее клиентам.Доверие глубоко укоренено в двух значениях Yelp:

.

• Защитите источник: прежде всего сообщество и потребители.
• Подлинность: говорить правду. Контент, найденный на Yelp, должен быть надежным и точным.

Yelp гордится своей миссией и ценностями и постоянно стремится развивать и улучшать системы для защиты владельцев бизнеса и пользователей.

Итак, мы рассмотрели два типа фотоспама: рекламный и неприемлемый.

Рекламный спам — это неприемлемое коммерческое сообщение чрезвычайно низкой ценности, которое пытается замаскироваться под контент владельца бизнеса и часто приводит к тому, что пользователь становится мошенником (например,г. показывая поддельный номер службы поддержки). Мы считаем это типом вводящего в заблуждение спама , потому что он подрывает доверие пользователей к нашей платформе.

Примеры рекламного спама.

Неприемлемый спам — это содержимое, которое может быть истолковано как оскорбительное или неприемлемое в конкретном контексте, в котором оно появляется. Контекст особенно важен для этого типа спама, поскольку неприемлемый контент охватывает широкий спектр ситуаций, когда классификация может быть довольно неоднозначной в зависимости от того, где появляется контент или какая политика в отношении контента применяется (Рекомендации Yelp в отношении контента). Мы считаем это типом подрывного спама , потому что он может быть оскорбительным и оскорбительным, если не откровенно тревожным. Примерами этого типа спама являются намеки или явная нагота (например, обнажение одежды, сексуальная активность), насилие (например, оружие, оскорбительные жесты, символы ненависти), наркотики/табак/алкоголь и т. д.

Пользователи и владельцы бизнеса загружают сотни тысяч фотографий каждый день.

В этом масштабе инфраструктура и ресурсы, необходимые для классификации в реальном времени, представляют собой серьезную проблему из-за жестких ограничений времени отклика, необходимых для обеспечения хорошего взаимодействия с пользователем.Кроме того, для обработки фотографий с помощью нейронных сетей требуются дорогостоящие экземпляры графического процессора. Классификация в реальном времени также не является идеальным выбором в состязательной среде, потому что она обеспечивает немедленную обратную связь злоумышленнику, пытающемуся обойти или реконструировать наши системы. Неопределенная задержка между загрузкой контента и модерацией значительно увеличивает временные затраты злоумышленника на перепроектирование системы. И наоборот, нежелательный контент следует модерировать как можно быстрее, чтобы защитить наших пользователей, и, поскольку спам имеет тенденцию генерироваться волнами, если мы не сможем быстро удалить его, мы, вероятно, получим большие объемы небезопасного контента на платформе.

Существуют также проблемы, конкретно связанные с алгоритмами машинного обучения (ML), используемыми для обработки данных изображений. Рекламный и неприемлемый спам довольно редко встречается на Yelp, что создает проблему чрезвычайно несбалансированных данных, что значительно усложняет обучение и оценку алгоритмов машинного обучения. Хотя мы можем использовать интеллектуальные методы выборки для создания сбалансированных наборов данных в учебных целях, оценка в производственной среде сильно искажена, пытаясь свести к минимуму ложные срабатывания, что, в свою очередь, влияет на отзыв спам-контента. Еще одна проблема, которую нам необходимо решить, — это контекст фотографии, особенно в отношении неприемлемого содержания (например, фотография модели нижнего белья в магазине нижнего белья вполне допустима, но не на деловой странице ресторана), а также пространство, которое требует способности быстро реагировать на меняющиеся угрозы и постоянно обновлять наши модели.

Распределение типов контента, крайний правый бар «хороший» контент.

Как мы упоминали выше, любая модерация пользовательского контента должна работать в состязательном пространстве.Поэтому мы решили не использовать какие-либо готовые или сторонние решения, которые мы считали уязвимыми для обратного инжиниринга злоумышленника, потому что они общедоступны, и поэтому злоумышленники могут экспериментировать с ними и научиться обходить их, прежде чем атаковать Yelp. В этом случае развертывание нашей собственной пользовательской системы играет роль безопасности через неизвестность в наших интересах, выигрывая время против злоумышленников, что, в свою очередь, позволяет нам оставаться впереди игры.

Кроме того, мы обсуждали проблему в ML при работе с дисбалансом классов.В нашем решении мы сосредоточились на точности, сохраняя при этом хороший отзыв. Точность и полнота обратно пропорциональны, но мы предпочитаем подход «не навреди», при котором мы минимизируем ложноположительные случаи, которые могут привести к удалению достоверного контента. Это невероятно важно для компаний, на страницах которых мало контента и для которых удаление действующей фотографии будет иметь существенный эффект. Высокоточное решение также сводит к минимуму ручную работу нашей команды по модерации контента. Это помогает справиться с непрерывным ростом Yelp, поскольку ручная модерация не очень хорошо масштабируется и снижает доступ к неприемлемому контенту, который может быть психологически обременительным и потенциально обременительным.

Наконец, при разработке системы мы попытались максимально использовать существующие технологии и системы Yelp, чтобы свести к минимуму затраты на разработку и техническое обслуживание.

После рассмотрения проблем в инфраструктуре, машинном обучении и состязательном пространстве мы остановились на многоэтапном многомодельном подходе , в котором есть два этапа и разные модели для каждого этапа и типа спама. Первый этап используется для определения подмножества фотографий, которые с наибольшей вероятностью содержат спам; модели на этом этапе настроены так, чтобы максимизировать отзыв спама, отфильтровывая большинство безопасных фотографий.По сути, этот шаг изменяет распределение меток данных, подаваемых на второй этап, и при этом значительно снижает дисбаланс классов нежелательной/спамовой почты и устраняет множество потенциальных ложных срабатываний (обратите внимание на следующее: мы не выполняем логический вывод на большом подмножестве фотографий). на втором этапе, а окончательный набор ложных срабатываний ограничен только ложными срабатываниями, сгенерированными на втором этапе, которые могут пересекаться или не пересекаться с ложными срабатываниями, сгенерированными на первом этапе). На втором этапе происходит фактическая классификация контента; модели на этом этапе настроены на точность, потому что мы стремились отправлять лишь небольшое количество контента в очередь ручной модерации и хотели свести ложные срабатывания к минимуму.Кроме того, у нас есть набор эвристик, работающих вместе с моделями машинного обучения, которые ускоряют весь конвейер и быстро настраиваются, чтобы мы могли за короткое время отреагировать на новую угрозу, с которой наши модели не способны справиться, что дает нам время для обновлять наши модели, сохраняя при этом защиту пользователей. Наконец, мы создали пользовательский интерфейс рабочего процесса модерации Review Then Publish (RTP), в котором изображения, идентифицированные как спам, скрыты от пользователей и отправлены нашей группе модерации контента для ручной проверки. После этого команда модерации контента Yelp может решить либо восстановить фотографию, если она является ложным срабатыванием, либо оставить фотографию скрытой, если она является вредоносной.

В следующих разделах мы подробно рассмотрим, как выглядит это решение для каждого типа спама.

Большая часть рекламного спама характеризуется довольно простой графикой, содержащей набор текста, который используется для доставки спам-сообщения. Поэтому используемые на первом этапе модели идентификации спама-изображений пытаются идентифицировать фотографии, содержащие текст или логотипы; эти модели в основном основаны на эвристике и очень ресурсоэффективны. На втором этапе мы извлекаем текст из фотографий с помощью нейронной сети глубокого обучения.Затем выполняется классификация спама для текстового содержимого с использованием регулярного выражения и службы NLP. Быстрый путь, обеспечиваемый регулярными выражениями, позволяет эффективно вспоминать самые вопиющие случаи и дает возможность быстро реагировать на контент, который не фиксируется моделями НЛП.

Неуместный спам

Неприемлемый спам гораздо сложнее рекламного спама, потому что он охватывает широкий спектр контента. Классификация также сильно зависит от контекста, в котором она появляется.Чтобы максимизировать отзыв, первый этап включает две модели: тонкая ResNet, обученная задаче бинарной классификации для выявления неприемлемого контента на фотографиях на основе политик Yelp, и глубокая модель CNN, обученная задаче бинарной классификации для идентификации фотографий, содержащих людей. Эта вторая модель была добавлена ​​специально для максимального запоминания, поскольку многие случаи неприемлемого контента связаны с людьми. Второй этап объединяет модель глубокого обучения, обученную задаче классификации с несколькими метками, где результатом является набор меток и связанных с ними оценок достоверности.Затем модель калибруется на точность на основе оценок достоверности и набора контекстных эвристик (например, бизнес-категории), которые учитывают, где отображается контент.

Борьба со спамом и злоумышленниками

До сих пор мы рассмотрели в основном аспекты системы машинного обучения и лишь вкратце упомянули, как можно использовать эвристики для быстрого улучшения системы, чтобы она могла адаптироваться к изменяющимся угрозам, исходящим от злоумышленников. Спам часто попадает на веб-сайты волнами очень похожего контента, который генерируется с поддельных учетных записей, управляемых ботами.Следовательно, у нас есть рабочий процесс и несколько улучшений инфраструктуры специально для решения этой проблемы. Фотографии, помеченные как спам, отслеживаются службой нечеткого сопоставления. Если пользователь пытается загрузить изображение, и оно соответствует предыдущему образцу спама, оно автоматически отбрасывается. С другой стороны, если нет похожего совпадения со спамом, он проходит через конвейеры, упомянутые выше, и может оказаться в очереди группы модерации контента. В ожидании модерации изображения скрыты от пользователей, чтобы они не подвергались воздействию потенциально небезопасного контента.Группа модерации контента также может воздействовать на целые профили пользователей, а не только на отдельный фрагмент пользовательского контента. Например, если обнаруживается, что пользователь рассылает спам, его профиль пользователя закрывается, а все связанное с ним содержимое удаляется. Это заметно улучшает отзыв спама, потому что нам нужно поймать только одно изображение от пользователя, чтобы иметь возможность удалить весь нежелательный контент, созданный профилем спам-бота. Наконец, существует традиционный канал сообщений пользователей, который предоставляет нам обратную связь для мониторинга эффективности наших систем.

В этом сообщении блога мы рассказали о некоторых решениях, разработанных Yelp для обработки сотен тысяч фотографий в день с использованием двухэтапного конвейера обработки, основанного на современных моделях машинного обучения. Мы также внедрили рабочий процесс модерации RTP, чтобы проблемный контент был скрыт от пользователей до тех пор, пока не пройдет модерация. Наконец, система дает нам возможность быстро реагировать на злоумышленников, поддельные учетные записи и волны спама.

Yelp очень серьезно относится к

Доверию и безопасности, и мы гордимся работой, которую мы делаем для защиты наших пользователей и владельцев бизнеса. В результате Yelp является одной из самых надежных платформ для отзывов в Интернете.

• Спасибо Jeraz Cooper за наставничество, бесчисленные проверки кода и включение поддержки фотографий в пользовательском интерфейсе модерации.
• Спасибо Джонатану Вангу за понимание модели неприемлемого спама.
• Спасибо Правинту Ветанаягаму и Наде Бирути за консультации по дизайну системы и классификаторам людей и логотипов.

Присоединиться к Yelp

Хотите помочь нам сделать Yelp более безопасным местом?

Посмотреть вакансию

Вернуться к блогу

Модерация изображений — React Chat API Docs

Модерация изображений определяет, содержит ли изображение небезопасный контент, например откровенный контент для взрослых или контент с насилием.Сообщения, которые выбранный Stream внешний партнер по модерации изображений считает неприемлемыми, помечаются флажком и отображаются на панели модерации.

Модерация изображений работает путем обнаружения ссылок в сообщениях и передачи содержимого этой ссылки в нашу службу модерации AI. Это означает, что модерация AI не зависит от того, используете ли вы Stream CDN для размещения своих изображений или другое решение для хостинга.

Изображениям присваиваются метки в зависимости от их содержимого. По умолчанию любое изображение, помеченное любым из следующих элементов, помечается как «явная нагота», «насилие» и «визуально тревожное».Затем эти помеченные изображения будут доступны для просмотра на панели модерации, где ваша команда может предпринять такие действия, как удаление сообщения и блокировка пользователя.

Вы можете настроить приложение для использования другого списка меток для модерации изображений. Метки организованы на 2 уровнях, что означает, что метка верхнего уровня будет соответствовать всем меткам 2-го уровня.

графическое насилие или гора, физическое насилие, оружие насилие, оружие , Самоповреждения

Лучший уровень этикетки	2-й уровень этикетки
Натуральная, графическая мужская нагота, графическая женская нагота, сексуальная активность, Иллюстрированная нагота или сексуальная активность, Взрослый Игрушки
Наводящие	Женские купальники или нижнее белье, мужские купальники или нижнее белье, частичная нагота, выявление одежды
насилие
Зрительно тревожащие	Изможденные тела, трупы, повешение

Запутались в «Ограничениях»?

Сообщите нам, как мы можем улучшить нашу документацию:

Модерация AI (в целом) и расширенная модерация из Stream Chat (в частности) — мощные инструменты, но они не волшебные и работают лучше всего, когда вы помните об их ограничениях. По этой причине мы хотим указать на некоторые недостатки модерации изображений ИИ и предложить некоторые рекомендации по их компенсации.

Ограничение 1: Ни Stream (ни используемые нами инструменты) не являются авторитетом в отношении того, что является или не является оскорбительным

Скопировано!

Во-первых, несмотря на то, что мы стремимся создавать инструменты, чувствительные к различным проблемам, мы не являемся экспертами в том, что является или не является опасным. Соответствие содержания является сложным, контекстуальным и развивающимся, что делает невозможным охват всех возможных случаев.

Передовая практика: Будьте готовы к обработке ложных отрицательных результатов (и ложных срабатываний в этом отношении). Поддержите пометку контента и рассмотрите возможность использования нашей расширенной функции модерации, чтобы предоставить модераторам доступ к панели управления модерацией в реальном времени.

Ограничение 2: модерация изображений не может определить, является ли контент незаконным

Скопировано!

Наше распознавание изображений основано на AWS Rekognition и имеет те же ограничения, что и этот сервис. Хотя Rekoginition в целом хорошо определяет, «что» находится на изображении, она не может сказать, является ли содержимое незаконным или нет.

Передовой опыт: Модерация изображений с помощью ИИ как мощный инструмент, повышающий производительность небольшой группы модераторов, а не как комплексное решение.

Важность модерации содержимого изображения

Использование пользовательского контента (UGC) — эффективный способ привлечь аудиторию бренда. Когда пользователи могут размещать контент для оценки продуктов или услуг компании, это создает доверие среди клиентов.

Изображения могут оказать сильное влияние на конечных пользователей, предоставляя образцы и доказательства того, как работают или не работают определенные продукты и услуги.Иногда слов недостаточно, чтобы передать эмоциональный эффект, который изображения могут оказать на клиентов, поэтому использование фотографий является таким эффективным инструментом рекламы и брендинга. Кроме того, изображения могут легко привлечь внимание, привлечь клиентов и помочь компаниям более творчески подойти к своей аудитории.

Почему важна модерация изображений

Контент, предоставленный пользователями в виде изображений, также имеет свои недостатки. Онлайн-брендинг компании может подвергнуться негативному влиянию и даже разрушиться, если он будет связан с откровенными и нездоровыми изображениями.Конечные пользователи могут делиться графическими изображениями, изображающими насилие, порнографию и другие тревожные темы, на платформе обмена сообщениями компании, снижая доверие и вызывая сомнения в сообществе бренда. Эти изображения могут даже привести к юридическим проблемам. Это вероятные риски, которые делают модерацию изображений абсолютно необходимой. Модерация графического контента необходима для привлечения нужной аудитории и сведения к минимуму количества интернет-пользователей, пытающихся подорвать репутацию бизнеса и безопасность его интернет-сообщества.

Важность модерации изображений

Использование некоторой версии модерации изображений гарантирует, что изображения, предоставленные конечными пользователями или теми, кто связан с бизнесом, останутся актуальными для того, что бизнес стремится представлять, защищая бренд и его сообщество.Без мониторинга отправленных фотографий репутация компании может быть запятнана, что приведет к снижению посещаемости, вовлеченности и доверия.

Модерация контента социальных сетей

Социальные сети — это платформа, на которой зрители, клиенты и члены сообщества могут свободно публиковать что угодно в соответствии со своим настроением. Если вы присутствуете на сайтах социальных сетей, вам нужен специальный модератор контента, который просматривает все комментарии, отзывы или обзоры и делает их благоприятными для вашей компании.

Как API помогает модерировать изображения

API означает Интерфейс прикладных программ (API).Это набор инструментов для создания программных приложений, который определяет, как программные компоненты должны взаимодействовать друг с другом, чтобы обеспечить желаемый результат.

API-интерфейсы модерации изображений интегрированы с клиентскими аппаратными и программными компонентами Всякий раз, когда клиент инициирует запрос (ввод) через пользовательский интерфейс, это приводит к вызову API. Он связывается с платформой модерации и отображает результат в виде числового балла (в процентах).

Большинство API, доступных на рынке, имеют хороший показатель точности.Однако контекстуальные ошибки в некоторой степени снижают их эффективность. Следовательно, вам необходимо поддерживать их с модераторами-людьми.

 

.