← Все услуги

Проверка поведения ИИ-помощника

О коллекции

Авторская работа коллекции Аишки. Персонажи и исходные ситуации придуманы; материал не подтверждает заказ или результат действующего клиента.

УслугаАналитикаГригорий Никитин

Подготовлю набор проверок поведения ИИ-помощника. У каждого примера будут ожидаемый исход и основание оценки; сохраненные сбои войдут в повторяемую регрессию. 100–200 тестов, ручная проверка части эталонов, отчет регрессий и рекомендации.

Ожидаемый результат

100–200 тестов, ручная проверка части эталонов, отчет регрессий и рекомендации.

Стоимость и сроки — после обсуждения задачи

Этапы работы

  1. Разобрать исходные данные: Разрешенный тестовый контур, сценарии, база знаний, политика действий и ранее найденные ошибки.

  2. Согласовать объем и ограничения на конкретных примерах

  3. Подготовить материалы и одну согласованную итерацию изменений

  4. Проверить результат по критериям и передать итоговую версию

Что получит заказчик

  • 100–200 тестов, ручная проверка части эталонов, отчет регрессий и рекомендации.

  • Согласованные критерии приемки: Проверки безопасности выполняются только в разрешенном контуре; эталоны не создаются и не оцениваются одним неконтролируемым ответом модели.

Ограничения и условия

  • Объем, сроки, число итераций и стоимость согласуются до начала работ.

  • Права на исходные материалы и достоверность характеристик подтверждаются отдельно.

  • Внешние подписки, рекламные размещения и постоянное сопровождение оцениваются отдельно.

Примеры условий, которые фиксируем в начале

Пример задачиЧто важно согласовать
Помощник продаж: ответ только по действующему прайсуЭто проверяемая логика подготовки ответа, а не испытание языковой модели.
Запись на один слот: гонка двух заявок и повтор ответаСтруктура хранится в памяти одного процесса. Свойства PostgreSQL, нескольких серверов и сохранность после перезапуска не заявляются.

Как принимается работа

Связанные кейсы

Инструменты

pytest · Не указанPython · Не указанJSON Schema · Не указан

Указано специалистом