SonAgent — расширяемый open-source фреймворк, предназначенный для построения, организации и запуска AI-агентов на Python. Он предоставляет основные модули для хранения памяти, интерфейсов инструментов, логики планирования и асинхронной обработки событий. Разработчики могут регистрировать собственные инструменты, интегрировать языковые модели, управлять долговременной памятью агента и координировать несколько агентов для выполнения сложных задач. Модульный дизайн SonAgent ускоряет разработку разговорных ботов, автоматизаций рабочих процессов и распределенных систем агентов.

FastAPI Agents обеспечивает мощный слой сервиса для разработки агентов на базе LLM, используя веб-фреймворк FastAPI. Он позволяет определить поведение агента с помощью цепочек LangChain, инструментов и систем памяти. Каждый агент может быть представлен как стандартный REST-эндпоинт, поддерживающий асинхронные запросы, потоковые ответы и настраиваемые полезные нагрузки. Интеграция с векторными хранилищами позволяет реализовать расширенное восстановление данных для приложений, основанных на знаниях. Встроенные журналирование, механизмы мониторинга и поддержка Docker позволяют контейнеризовать развертывания. Можно легко расширять агентов новыми инструментами, промежуточным программным обеспечением и аутентификацией. FastAPI Agents ускоряет коммерческую готовность решений на базе ИИ, обеспечивая безопасность, масштабируемость и удобство поддержки.

Agentle предоставляет структурированную среду для разработчиков для построения пользовательских AI-агентов с минимальным количеством шаблонного кода. Он поддерживает определение рабочих процессов в виде последовательности задач, беспрепятственную интеграцию с внешними API и инструментами, управление разговорной памятью для сохранения контекста и встроенное ведение журналов для отслеживаемости. Библиотека также предоставляет хуки для расширения функциональности, координацию нескольких агентов для сложных конвейеров и единый интерфейс для локального запуска или развертывания через HTTP API.

Crayon позволяет разработчикам создавать автономных AI-агентов в JavaScript/Node.js, которые могут вызывать внешние API, поддерживать историю разговоров, планировать многошаговые задачи и управлять асинхронными процессами. В ядре реализован цикл планирования-исполнения, разбивающий общие цели на конкретные действия, интегрирующийся с пользовательскими наборами инструментов и использующий модули памяти для хранения и вспоминания информации между сессиями. Фреймворк поддерживает несколько бекендов памяти, интеграцию инструментов через плагины и расширенную систему логирования для отладки. Разработчики могут конфигурировать поведение агента через подсказки и пайплайны на базе YAML, что позволяет автоматизировать сложные рабочие процессы, такие как сбор данных, формирование отчетов и интерактивные чат-боты. Архитектура Crayon поощряет расширяемость, позволяя командам интегрировать специализированные инструменты и адаптировать агентов под уникальные бизнес-требования.

MIU CS589 API AI-агентов обеспечивает стандартизированный интерфейс для создания пользовательских AI-агентов. Разработчики могут определять поведения агентов, интегрировать внешние инструменты или сервисы и управлять потоковыми или пакетными ответами через HTTP-эндпоинты. Фреймворк обрабатывает аутентификацию, маршрутизацию запросов, обработку ошибок и ведение журналов. Полностью расширяем — пользователи могут регистрировать новые инструменты, настраивать память агента и параметры LLM. Подходит для экспериментов, демонстраций и производственных прототипов, упрощает оркестровку многоинструментных решений и ускоряет разработку AI-агентов без привязки к монолитной платформе.

Notte — это ориентированный на разработчика фреймворк на Python, предназначенный для оркестровки ИИ-агентов, управляемых большими языковыми моделями. Он предоставляет встроенные модули памяти для хранения и получения контекста диалогов, гибкую интеграцию инструментов для внешних API или пользовательских функций и движок планирования, который последовательным образом структурирует задачи. С помощью Notte вы можете быстро создавать прототипы диалоговых ассистентов, ботов анализа данных или автоматизированных рабочих процессов, а также пользоваться преимуществами расширяемости с открытым исходным кодом и поддержки кроссплатформенных решений.

rag-services — это расширяемая платформа, разбивающая пайплайны RAG на отдельные микросервисы. Предоставляет сервис хранения документов, сервис индексирования векторов, сервис embedding, несколько сервисов inference LLM и оркестратор для координации рабочих процессов. Каждый компонент предоставляет REST API, позволяющее сочетать базы данных и поставщиков моделей. Поддержка Docker и Docker Compose позволяет развертывать локально или в кластерах Kubernetes. Фреймворк обеспечивает масштабируемые и отказоустойчивые решения RAG для чатботов, баз знаний и автоматизированных вопросов и ответов.