Разработка ИИ Агентов

PromptingGuide.ai и Learn Prompting - два полезных ресурса, где вы найдёте огромное количество рекомендаций по созданию эффективных промптов к LLM и сценариям их применения.📚 Что есть на PromptingGuide.ai и Learn Prompting?В гайдах собраны структурированные материалы по созданию запросов для ИИ:- Основы промпт-инжиниринга – принципы построения эффективных запросов, элементы промпта и общие советы.- Техники создания промптов – как известные Zero-Shot, Few-Shot, Chain-Of-Thought, так и более сложные и менее известные - Tabular Chain-Of-Thought, Self-Ask, Reflexion, Tree of Thoughts и т.д.- Примеры и кейсы – готовые примеры промптов для разных задач: от генерации кода и резюме текста до ответов на вопросы.- Модели и инструменты – рекомендации по работе с конкретными моделями (например, ChatGPT, GPT-4), обзор полезных инструментов.

GPTResearcher: подход Plan-and-Solve + Retrieval-Augmented GenerationGPTResearcher — это агент на базе LLM, который автоматизирует «исследовательскую» работу. Он разбивает задачу (Plan) на подцели, последовательно решает их (Solve) и использует Retrieval-Augmented Generation (RAG) для актуализации знаний за счёт внешних источников. [https://gptr.dev/]Принцип работы:🔹 Планирование (Plan):GPT-модель формирует список уточняющих вопросов (подзадач), на которые нужно ответить, чтобы раскрыть тему.План сохраняется, чтобы пошагово вести поиск и анализ.🔹 Сбор данных (RAG):К каждому вопросу применяется веб-поиск или запрос к локальной базе документов.Для релевантных результатов создаются краткие конспекты, которые передаются обратно GPT-модели вместе с исходным контекстом.🔹 Ответ (Solve):Собранные факты агрегируются в итоговом отчёте.Модель ссылается на источники, минимизируя выдуманные данные (галлюцинации).Особенности:- Автоматизированный воркфлоу: отдельные модули (планировщик, сборщик данных, генератор ответа) работают последовательно без ручного вмешательства.- Многопоточный поиск: агент может одновременно обрабатывать несколько подтем, сокращая общее время исследования.- Гибкая архитектура: легко заменить поисковый бекенд (например, Bing, Google или внутреннюю базу) и использовать разные LLM через общий интерфейс.- Управляемая память и контекст: GPTResearcher хранит промежуточные результаты и ссылки, поддерживая репликабильность и прозрачный трекинг данных.

🕶 LangSmith: Трассировка и мониторинг для LangChain/LangGraphПри разработке ИИ-агентов важно видеть, как формируются их ответы: какие данные модель получает, какие решения принимает и почему. LangSmith делает этот процесс прозрачным, помогая отлаживать, тестировать и оптимизировать цепочки и агентов.🔹 Трассировка: полная видимость всех шагов цепочки, входов/выходов и вызовов инструментов.🔹 Оптимизация промптов: эксперименты с шаблонами, автоматическая оценка качества.🔹 Мониторинг: анализ задержек, ошибок и пользовательской обратной связи.🔹 Анализ трат на вызовы LLM📌 Достаточно всего нескольких строчек для подключения:pip install -U langsmith openaiimport osos.environ["LANGCHAIN_API_KEY"] = "<API_KEY>"os.environ["LANGSMITH_TRACING"] = "true"os.environ["LANGCHAIN_PROJECT"] = "MyAgentProject"🔗 Подробнее: LangSmith Docs

🦜 А вы знаете, почему на логотипе LangChain изображены попугай и цепь?Большие языковые модели (LLM) часто называют «stochastic parrots» – то есть «стохастическими попугаями». Это связано с тем, что они, как попугаи, умеют воспроизводить огромные объемы данных, имитируя человеческую речь, но без истинного понимания.🔗 Идея логотипа LangChain:- Попугай 🦜 – символ повторения и имитации, присущих LLM.- Цепочка 🔗 – отражает суть фреймворка, который объединяет вызовы моделей в цепочки для получения более точных и полезных результатов.Таким образом, логотип LangChain – это метафора: объединяя «стохастических попугаев», фреймворк помогает создавать интеллектуальных агентов, способных решать сложные задачи.

🦜 Разработка ИИ агентов: прямой вызов API vs. фреймворки LangChain & LangGraphПри создании приложений на базе LLM (больших языковых моделей) прямой вызов API (например, OpenAI) может показаться простым решением. Однако на практике разработчик сталкивается с рядом проблем: - Отсутствие памяти и контекста: каждый запрос обрабатывается изолированно, что требует самостоятельного управления историей диалога. - Управление длинными диалогами: ограничение размера контекстного окна заставляет вручную сокращать историю. - Интеграция с внешними источниками: вызов внешних API (поиск, вычисления, получение данных) требует дополнительной логики. - Многошаговые цепочки вызовов: реализация сложных процессов без готовых решений усложняет код. LangChain и LangGraph помогают решить все эти проблемы.LangChain автоматизирует стандартные задачи: - Организация цепочек вызовов (Chains) для последовательной обработки шагов - Использование шаблонов промптов для упрощения форматирования запросов - Интеграция с внешними инструментами через агенты, что избавляет от ручного парсинга и логики вызова - Встроенное логирование и механизмы памяти для сохранения истории диалогаLangGraph расширяет возможности для более сложных сценариев: - Реализация памяти, для хранения истории общения с LLM- Декларативное описание логики в виде графа, где узлы — это вызовы LLM, инструменты и условия - Координация работы нескольких агентов с централизованным хранением состояния - Обработка ошибок, визуализация цепочек и гибкий контроль выполнения процессов🤖 Итог: Если ваше приложение требует простого «один запрос — один ответ», прямой API-вызов вполне подойдет. Но для диалоговых систем, многошаговых цепочек и сложной логики использование LangChain и LangGraph позволяет сосредоточиться на бизнес-логике, а не на рутинном обслуживании кода.

LangChain Tools - Расширение возможностей AI-агентов 🤖LangChain - это библиотека для создания AI-агентов, которая позволяет моделям не только генерировать текст, но и взаимодействовать с внешним миром. Основной механизм взаимодействия с внешним миром - использование Tools - специальных компонентов для:🔹 вызова API 🔹 выполнения кода (например, через Python REPL) 🔹 запросов к базам данных и получения актуальной информацииПопулярные Tool'ы:🔸 Поисковые системы (Google, Bing, DuckDuckGo) 🔸 Web-Scrapper для обхода страниц в интернете🔸 Wikipedia для извлечения энциклопедических данных 🔸 Python REPL для выполнения кода и сложных вычислений 🔸 Wolfram Alpha для инженерных и научных задач 🔸 HTTP Requests для взаимодействия с REST API 🔸 Интеграции с сервисами (Google Drive, ArXiv, StackExchange, Zapier, DALL.E) и другимиРеальные кейсы• Q&A с веб-поиском: агент использует инструменты поиска для получения проверенной информации • Вычислительный помощник: генерация и выполнение кода для решения сложных задач • Автоматизация действий: интеграция с CRM, Jira, умным домом и другими сервисами для выполнения реальных операцийПример кода:tools = [ Tool( name="Time", # Название Tool'а func=get_current_time, # функция, которая реализует логику # Описание Tool'а, которое прочтет агент и будет использовать при необходимости description="Useful for when you need to know the current time", ),]ЗаключениеИнтеграция Tools в LangChain превращает обычную языковую модель в многофункционального AI-агента, способного действовать в реальном мире. Такой подход снижает риск «галлюцинаций», повышает точность ответов и позволяет взаимодействовать с внешним миром и влиять на него.

LangChain vs LangGraph: Как выбрать фреймворк для AI-агентов? 🤖Разработка интеллектуальных агентов требует гибкого управления потоком задач. Два популярных инструмента — LangChain и LangGraph — предлагают разные подходы.LangChain идеален для линейных сценариев с предсказуемыми шагами:- 🔎 Роутер-агент определяет, нужно ли искать ответ в базе данных (RAG) или вызывать API погоды.- ⚙️ ReAct-агент решает задачи цепочкой действий: «Пользователь спросил о курсе доллара → вызвать API ЦБ → преобразовать данные в текст → отправить ответ».Здесь управление простое, но ограниченное — агент следует жёсткому алгоритму.LangGraph подходит для более сложных процессов, где нужны:- 🧠 Память: агент запоминает контекст (например, история диалога с клиентом в поддержке).- ⚡️ Параллелизм: система обрабатывает заказ в интернет-магазине, запуская одновременно проверку товара, оформление доставки и списание средств.- 🙋‍♂️ Человеческое вмешательство: подтверждение платежа менеджером через чат-бота.Пример: банковский агент анализирует запрос клиента, сверяется с историей операций, запрашивает недостающие данные у колл-центра и только потом формирует ответ.Что выбрать?- LangChain — для задач с чётким алгоритмом: чат-боты, простые RAG-системы.- LangGraph — для динамических сценариев: мультиагентные системы, процессы с ветвлениями и долгосрочной памятью.Практический кейс: Uber Eats использует LangGraph для обработки заказов, где агенты управляют доставкой, обновляют инвентарь и решают конфликты (например, замена блюда), взаимодействуя параллельно. В то же время LangChain достаточно для чат-бота, подбирающего рецепты по ингредиентам.Выбор зависит от сложности задач: LangChain — «автопилот», LangGraph — «оркестр» с настраиваемой логикой.

Что такое ИИ-агент? 🤖ИИ-агент – это программа с искусственным интеллектом, которая может самостоятельно выполнять сложные задачи, разбивая их на шаги и принимая решения по ходу выполнения. Проще говоря, агент получает цель или запрос и сам решает, как его достичь: может искать информацию, использовать инструменты (например, калькулятор или веб-поиск) и поэтапно формировать ответ. В основе такого агента обычно лежит большая языковая модель (например, GPT-4), умеющая понимать человеческие запросы и генерировать осмысленные ответы.LangChain и LangGraph: зачем нужны? ⚙️LangChain – это открытый фреймворк, который упрощает разработку приложений на основе больших языковых моделей. Он позволяет связывать модель с различными «инструментами» (поиск информации, базы знаний, калькулятор и др.), управлять контекстом диалога (памятью) и задавать логику размышлений. Проще говоря, LangChain берёт на себя многое из рутинной работы, чтобы разработчик мог быстрее собрать ИИ-агента из готовых блоков.LangGraph – расширение (надстройка) над LangChain для создания более сложных и надёжных ИИ-агентов. Вместо простой цепочки шагов, LangGraph задаёт логику работы агента в виде графа: разные этапы (или даже несколько агентов) выступают узлами этого графа с сохранением общего состояния. Это даёт больший контроль над поведением: можно приостанавливать и возобновлять выполнение, добавлять долгосрочную память, подключать человека на ключевых этапах (human-in-the-loop) и лучше отлаживать работу системы. LangGraph используют, когда одного простого LLM-агента недостаточно и нужен более «умный» оркестратор для сложных задач.Примеры практических задач 🚀- Помощник по электронной почте – проверяет письма на ошибки и помогает писать ответы. - Кодовый ассистент – анализирует исходный код, находит баги и предлагает исправления. - HR-агент для найма – просматривает резюме кандидатов и проводит первичное чат-интервью для отбора лучших.Пример кода (python):from langchain import OpenAIfrom langchain.agents i

Channel created