mcplinux

Архитектура построения конвейера: FastMCP сервер + Гибридный поиск (ChromaDB + BM25) + Стратегия Parent-Child Retriever + Реранкер Cross-Encoder + Локальная модель Saiga (Llama 3).Для работы интеллектуального парсинга документов (unstructured), извлечения таблиц и оптического распознавания сканов (OCR) требуются системные утилиты. Установите их через пакетный менеджер apt:sudo apt update && sudo apt install -y python3-venv python3-pip tesseract-ocr tesseract-ocr-rus tesseract-ocr-eng poppler-utils libmagic1 curlПерейдите в директорию проекта, создайте и активируйте виртуальное окружениеУстановите серверную часть Ollama на Linux:curl -fsSL https://ollama.com/install.sh | shСкачайте файл весов русифицированной модели Saiga Llama 3 в формате GGUF напрямую с Hugging Face в корень проекта:curl -L -o model-q4_K.gguf "https://huggingface.co/IlyaGusev/saiga_llama3_8b_gguf/resolve/main/model-q4_K.gguf"Инициализируйте и соберите модель внутри Ollama:ollama create saiga -f ModelfileКонвейер индексации полностью переведен на интерактивный CLI-режимpython prepare_data.pyВ появившейся строке ввода укажите полный путь к папке с документамиДля старта диалоговой сессии запустите клиентское приложение:python client.py