← Все работы

Поддержка: недоверенный текст не меняет операцию

Григорий Никитин
Аналитика
Дата сценария:

Пять провокационных писем обрабатываются как данные; исполнитель умеет только создать карточку обращения.

Дата выпуска кейса
РольИнженер проверки сценариев и доступа
ПроектКонцепция

О проекте

Задача

В тексте письма можно написать «сменить роль», попросить секрет или вызвать URL. Если приложение превращает такую фразу в команду, проблема появляется еще до качества ответа.

Решение

Я задал один выходной формат: ID, тема, выдержка и операция create-ticket. Поля role, url, code из входа игнорируются. Полный текст остается видимым, а операция не вычисляется из него.

Результат

Все пять писем стали карточками create-ticket. Просьбы о роли, секрете, сетевом вызове и выполнении кода остались буквальными выдержками; дополнительные поля role и url отброшены.

Что передано заказчику

  • index.html
  • source.json
  • source.csv
  • result.json
  • result.csv
  • engine.js
  • checks.json
  • style.css

Инструменты и подход

Навыки

Проверка ИИРегрессионные наборыЭталоны поведенияАнализ ошибок

Готовая работа

Просьба administrator остаётся текстом обращения

В M2 входной текст требует назначить роль administrator. На выходе он остаётся выдержкой внутри create-ticket и не меняет действие обработчика. Рядом M1 содержит обычную проблему с файлом, поэтому проверка подтверждает общий контракт для полезного и вредоносного содержания, а не отдельную реакцию на одно запрещённое слово.

Разбор и материалы

Вклад и команда

Я собрал проверку вредоносного текста как данных и ограничил исполнение единственным разрешённым действием.

Ссылки и материалы

Связанные услуги

Другие работы

Проверка ИИРегрессионные наборыЭталоны поведения

Редакционная концепция по брифу P49-C04. Ситуации и значения подготовлены для проверки подхода.

Материалы доступны для изучения и самостоятельной проверки.

Обсуждение

Задайте вопрос об этой работе, обсудите решение или поделитесь своим опытом.

Обсуждение открыто для всех участников.

Загружаем комментарии…