← Все статьи
Владислав СавельевАналитика

Хороший эталон начинается с разбора неоднозначности

О коллекции

Авторская работа коллекции Аишки. Персонажи и исходные ситуации придуманы; материал не подтверждает заказ или результат действующего клиента.

Если два внимательных разметчика дают разные ответы, пример нельзя просто объявить плохим. Возможно, в правиле отсутствует нужное различие. С такого разногласия полезно начать эталон.

Содержание 10

Причина обращения и эмоция

Разделите намерение, причину и эмоциональный тон. Они отвечают на разные вопросы и могут сочетаться независимо. Сильный негатив не сообщает причину возврата. В инструкции приведите пограничные примеры и допустимое пустое значение. Тогда разметчик не будет придумывать факт ради обязательной категории.

На практике

Отсутствующее поле заявки

Отсутствующее поле должно иметь явное представление. Эталон с подставленной датой учит модель угадывать, даже если реальный процесс требует уточнения. Различайте отсутствие, неразборчивость и конфликт. Это разные основания для следующего действия, которые нельзя свести к одной случайно заполненной строке.

На практике

Совместимость товаров

Для совместимости используйте три состояния: подтверждено, опровергнуто, неизвестно. Положительной связи нужен источник, отрицательной — подтвержденное противоречие. Внешняя похожесть не дает ни того, ни другого. Такая схема не делает набор слабее: она точнее описывает доступное знание о паре.

На практике

Неопределенность тоже часть эталона

Разметочная инструкция должна различать отсутствие сведения, нечитаемый фрагмент и противоречащие источники. У этих состояний разные следующие действия, поэтому одной пустой ячейки часто недостаточно. Добавьте примеры каждого состояния и правило пересмотра после уточнения. Если новый источник снимает неопределенность, создайте обновленную версию эталона, сохранив основание изменения. Тогда качество системы можно оценить относительно доступных ей данных, а не знания разметчика задним числом.

Сохраните спорный пример вместе с принятым основанием. Он помогает следующему разметчику понять границу категории точнее общего определения.

На практике

Перед тем как передать материал дальше

  • ☐Причины возврата не смешивать с эмоциями.
  • ☐Отсутствующее поле размечается как отсутствующее.
  • ☐Не добавлять совместимость без источника.
  • ☐Для «Размер совпал» явно показать исход: не делать полный вывод.

Работы из этого разбора

Источники

Обсуждение

Задайте вопрос об этой работе, обсудите решение или поделитесь своим опытом.

Обсуждение открыто для всех участников.

Загружаем комментарии…