
🤖 10 особенностей работы с AI-интеграциями 🤖AI-интеграции отличаются от обычных.Тут другая логика, другие риски и другие вопросы от разработчиков.Разбираю 10 особенностей, которые важно понимать аналитику.1️⃣ НедетерминированностьAI не возвращает один и тот же ответ на один и тот же запрос. Нужно явно описывать как система ведёт себя при разных ответах.2️⃣ Стриминг вместо одного ответаОтвет может приходить потоком сообщений через SSE.Это отдельные требования к фронту, бэку и обработке обрывов соединения.3️⃣ Ограниченный контекст (context window)Длинный диалог может «выпасть» из памяти модели.Нужны требования к хранению и передаче истории диалога.4️⃣ AI сам инициирует вызовы вашего API (Tool Calling)Не только ваша система вызывает API AI.AI тоже вызывает ваш API через tools (инструменты), которые вы ему даёте.Для каждого tool нужно описать:▫️ название инструмента▫️ назначение▫️ входные параметры▫️ обязательные поля▫️ ограничения▫️ возможные ошибки▫️ какой сервис реально вызывается на backend▫️ что возвращается обратно в модель5️⃣ Системный промптЭто тоже требование.Его нужно проектировать, документировать, согласовывать и версионировать. Включает:▫️ правила поведения AI▫️ ограничения▫️ формат ответа▫️ примеры корректных ответов▫️ запрещённые действия▫️ что делать при нехватке данных6️⃣ Граница «что видит ИИ»: требования к безопасностиЭто одно из главных требований, особенно если система работает с:+ персональными, медицинскими или финансовыми данными+ коммерческой тайной+ внутренними документами компанииАналитик должен зафиксировать:▫️ какие данные разрешено / запрещено передавать▫️ нужно ли маскирование / обезличивание▫️ хранится ли история диалога▫️ кто имеет доступ к логам AI7️⃣ Непредсказуемые входные данныеПользователь может написать что угодно.Нужны явные требования: как система реагирует на вопросы не по теме, оскорбления, попытки сломать или украсть системный промпт.8️⃣ Rate limits и стоимостьВ отличие от большинства внешних API, у LLM-провайдеров ограничен











