AnythingLLM

Общайтесь с документами. Автоматизируйте сложные рабочие процессы с помощью AI-агентов. Гибко настраивается, готов к мультипользовательской работе, проверен в боевых условиях — и по умолчанию запускается локально без лишних сложностей.

Обзор продукта

AnythingLLM — универсальное AI-приложение, позволяющее создать приватный полнофункциональный ChatGPT без компромиссов. Подключите любимый локальный или облачный LLM, загрузите документы и начните общаться за считанные минуты. Из коробки доступны встроенные агенты, поддержка нескольких пользователей, векторные базы данных и пайплайны обработки документов — без дополнительной настройки.

AnythingLLM поддерживает нескольких пользователей: вы можете управлять доступом и пользовательским опытом для каждого, не жертвуя безопасностью, приватностью инстанса или интеллектуальной собственностью.

Ключевые возможности AnythingLLM

• Интеллектуальный выбор навыков — подключайте неограниченное количество инструментов для моделей, снижая расход токенов до 80% на запрос
• Конструктор AI-агентов без кода
• Полная совместимость с MCP
• Мультимодальная поддержка (как закрытые, так и открытые LLM!)
• Кастомные AI-агенты
• 👤 Поддержка нескольких пользователей и управление правами доступа (только Docker-версия)
• 🦾 Агенты внутри рабочего пространства (просмотр веба и др.)
• 💬 Встраиваемый чат-виджет для вашего сайта (только Docker-версия)
• 📖 Поддержка множества форматов документов (PDF, TXT, DOCX и др.)
• Интуитивный интерфейс чата с загрузкой файлов перетаскиванием и ссылками на источники
• Готов к продакшн-развёртыванию в любом облаке
• Работает со всеми популярными закрытыми и открытыми LLM-провайдерами
• Встроенные оптимизации для больших наборов документов — меньше затрат и быстрее ответы по сравнению с другими чат-интерфейсами
• Полноценный Developer API для кастомных интеграций!
• ...и многое другое — установите за несколько минут и убедитесь сами.

Поддерживаемые LLM, модели эмбеддингов, речевые модели и векторные базы данных

Большие языковые модели (LLM):

• Любая открытая модель, совместимая с llama.cpp
• OpenAI
• OpenAI (Azure)
• Anthropic
• Google Gemini Pro
• Hugging Face (открытые LLM)
• Ollama (открытые LLM)
• LM Studio (все модели)
• LocalAI (все модели)
• Together AI (открытые LLM)
• Fireworks AI (открытые LLM)
• Perplexity (открытые LLM)
• OpenRouter
• DeepSeek
• Mistral
• Groq
• Cohere
• KoboldCPP
• LiteLLM
• Text Generation Web UI
• Apipie
• xAI
• Novita AI (открытые LLM)
• PPIO

Модели эмбеддингов:

• AnythingLLM Native Embedder (по умолчанию)
• OpenAI
• Azure OpenAI
• LocalAI (все)
• Ollama (все)
• LM Studio (все)
• Cohere

Модели синтеза речи (TTS):

• Встроенный браузерный TTS (по умолчанию)
• OpenAI TTS
• ElevenLabs

Модели распознавания речи (STT):

• Встроенный браузерный STT (по умолчанию)

Векторные базы данных:

• LanceDB (по умолчанию)
• Astra DB
• Pinecone
• Chroma
• Weaviate
• Qdrant
• Milvus
• Zilliz

Технические требования

• yarn или docker на вашей машине
• node 18+ для локального запуска
• Доступ к LLM, который вы хотите использовать в AnythingLLM

Быстрый старт

[!TIP] Хотите запустить AnythingLLM на своём компьютере без Docker или сложной настройки? Скачайте десктопное приложение — это самый простой способ начать.

Docker

Запустите AnythingLLM в Docker одной командой:

docker run -d -p 3001:3001 \
--cap-add SYS_ADMIN \
-v ${HOME}/anythingllm:/app/server/storage \
-v ${HOME}/anythingllm/.env:/app/server/.env \
-e STORAGE_DIR="/app/server/storage" \
mintplexlabs/anythingllm

После запуска откройте http://localhost:3001 в браузере.

Подробнее о Docker-развёртывании — в документации.

Локальная разработка

• server/ — Express.js-бэкенд и логика взаимодействия с LLM
• frontend/ — vite/React-фронтенд
• collector/ — Node.js-сервис для обработки документов

Подробнее о локальной разработке — в документации.

Участие в разработке

• Сообщайте об ошибках
• Создавайте pull request'ы с улучшениями
• Обновляйте документацию
• Делитесь идеями в Discord

См. CONTRIBUTING.md для получения подробной информации.

Лицензия

MIT © Mintplex Labs