Контроль независимости набора · P59-C06

Диалоги: разбиение по исходной семье без утечки перефразировок

Двенадцать полных текстовых реплик делятся по шести исходным сценариям; близкие варианты не попадают одновременно в обучение и проверку.

Задача и принятое решение

Случайное деление строк делает оценку удобнее, если перефразировка проверочного примера уже была в обучении. Я показал этот дефект на небольшом открытом наборе.

Каждая исходная реплика и ее вариант получают один family ID. Baseline чередует строки и создает утечку; исправленное деление закрепляет целые семьи за частью. Это проверка структуры данных, не качества распознавания речи.

Это тексты сценариев, не аудиозаписи. Шум, ASR и акустическая независимость не измеряются.

Проверить решение

Измените исходные строки или параметры и пересчитайте результат. Данные остаются в этой странице.

12Строк
8Train
4Test
0Пересекающихся семей
IDСемьяТекстЧасть
D1F1Перенесите визит на вечер.train
D2F1Можно записаться вечером вместо дня?train
D3F2Отмените мой визит.train
D4F2Я не смогу прийти, снимите запись.train
D5F3Назовите адрес студии.train
D6F3Где вы находитесь?train
D7F4Соедините с человеком.train
D8F4Хочу поговорить с администратором.train
D9F5Повторите последнее время.test
D10F5Не расслышал, во сколько запись?test
D11F6Стоп, завершите разговор.test
D12F6Больше ничего не нужно, до свидания.test

Ни одна семья не пересекает границу.

Исходный набор

Авторский контрольный набор; не клиентские документы и не результаты внешней модели.

Изменить входные строки
Посмотреть исходные строки
IDСемьяТекст
D1F1Перенесите визит на вечер.
D2F1Можно записаться вечером вместо дня?
D3F2Отмените мой визит.
D4F2Я не смогу прийти, снимите запись.
D5F3Назовите адрес студии.
D6F3Где вы находитесь?
D7F4Соедините с человеком.
D8F4Хочу поговорить с администратором.
D9F5Повторите последнее время.
D10F5Не расслышал, во сколько запись?
D11F6Стоп, завершите разговор.
D12F6Больше ничего не нужно, до свидания.

Что получилось

На двенадцати репликах построчное разбиение создает шесть пересечений семей. Исправленный вариант дает 8 train и 4 test без утечки; новая перефразировка F5 остается в test.

Выполненная проверка

ПроверкаРезультат
Семейное деление дает 8/4 без пересекающихся семейПройдена
Построчное деление выявляет все шесть утечекПройдена
Новая перефразировка F5 остается в testПройдена

Семьи размечены автором. Для большого корпуса нужен независимый поиск близких источников; отсутствие утечки здесь не доказывает качество модели.

Скачать материалы и повторить проверку

source.json · source.csv · result.json · result.csv · engine.js · verify.cjs · checks.json · style.css

Локальная проверка: node verify.cjs. Нужен Node.js; сетевые обращения не выполняются.