ChainStream — это библиотека с открытым исходным кодом на C++, которая обеспечивает инференс в реальном времени в потоковом режиме и цепочек субмоделей для больших языковых моделей. Поддерживаются бэкенды ONNX, MNN и TFLite, что позволяет разработчикам легко внедрять низколатентные возможности LLM прямо на устройстве в мобильных и десктопных приложениях.
Lessie AI — это AI-агент для поиска людей, который помогает находить влиятельных лиц, лидов, экспертов, партнеров, инвесторов и многое другое. Он автоматизирует