Сучасні інструменти для робочих місць часто страждають від розрізненості даних і обмеженого контексту. Рішенням стає NVIDIA AI-Q — відкритий шаблон (blueprint), побудований на базі LangChain, який дозволяє створювати масштабованих та безпечних ШІ-агентів для глибоких досліджень усередині компанії.

Читайте також: Мілла Йовович та «Палац пам’яті»: Актриса випустила open-source конкурента для Mem0 та Zep

Що таке Deep Research Agent (Агент для глибоких досліджень)?

На відміну від звичайних чат-ботів, глибокий агент використовує складну архітектуру для підготовки розлогих звітів із посиланнями на джерела. Він складається з кількох спеціалізованих під-агентів:

• Planner Agent (Планувальник): Створює структурований план дослідження у форматі JSON, включаючи назву звіту та зміст.

• Researcher Agent (Дослідник): Отримує план від планувальника та виконує пошук, не перевантажуючи контекстне вікно зайвими технічними токенами.

• Orchestrator LLM (Оркестратор): Поєднує інструменти, під-агентів та навички для керування загальним процесом.

Ключові можливості архітектури NVIDIA AI-Q

1. Гнучкість моделей: Ви можете використовувати як відкриті моделі (наприклад, Nemotron-3 від NVIDIA), так і передові фронтир-моделі (GPT-5.2) через API.

2. Контроль мислення: У конфігурації можна увімкнути режим enable_thinking для активації ланцюжка міркувань (Chain-of-Thought).

3. Приватність даних: Завдяки використанню самокерованих (self-hosted) моделей, бізнес-дані залишаються в безпечному приватному середовищі.

Швидкий старт: Розгортання через Docker

Проєкт використовує Docker Compose для одночасного запуску трьох сервісів:

• aiq-research-assistant: Бекенд на FastAPI (порт 8000).

• postgres: База даних для збереження стану завдань і діалогів.

• frontend: Веб-інтерфейс на Next.js (порт 3000).

Інтеграція корпоративних джерел даних

Щоб підключити власну базу знань компанії, необхідно реалізувати функцію через NeMo Agent Toolkit:

1. Реалізація функції: Створюється Python-скрипт, який описує підключення до внутрішнього API вашої бази знань.

2. Реєстрація інструменту: Агент автоматично знаходить назву та опис інструменту з документації коду (docstrings).

3. Конфігурація: Нове джерело додається у файл конфігурації YAML, після чого агент зможе звертатися до нього при відповідних запитах.

Моніторинг та оптимізація

Для відстеження продуктивності рекомендується використовувати LangSmith. Це дозволяє бачити повний шлях виконання запиту, аналізувати затримку, використання токенів та виявляти помилки в ланцюжках викликів інструментів.