Перейти до вмісту

LlamaIndex

Матеріал з K2 ERP Wiki

Query Engine має змогу:

Можливі проблеми:

LlamaIndex доступний у Python і TypeScript-екосистемах.; # Evaluation і logging.; LlamaIndex можна використовувати в різних сценаріях.; * паролі;

  • токени доступу;
  • секретні ключі;
  • персональні інформаційні дані;
  • фінансові реквізити;
  • конфіденційні договори;
  • повні дампи баз даних;
  • внутрішні комерційні таємниці.; Суть AI-агента: агент не без ускладнень генерує текст, а має змогу вирішувати, які дії виконати для отримання результату.; * чатботів;
  • AI-помічників;
  • корпоративних knowledge assistants;
  • діалогу з документацією;
  • уточнювальних питань;
  • послідовної роботи з темою;
  • інтерактивного пошуку знань.; Потрібно: parsing, chunking, embeddings, vector store,
  • GitHub;
  • Google Drive;
  • Slack;
  • Notion;
  • вебсторінки;
  • бази даних;
  • файли;
  • API;
  • інші сервіси.; Підказка: перед побудовою складного агента варто спочатку перевірити простий retrieval і якість відповідей без tools.;

Тематичні мітки

Практична порада: найкраще починати з простого RAG-прототипу, а потім поступово додавати reranking, metadata filters, evaluation і agents.; print(response)

LlamaHub

Критично: RAG-система має змогу випадково показати користувачу інформаційні дані, які він не повинен бачити, якщо не налаштовані права доступу і фільтрація.; Суть LlamaHub: це місце, де можна знайти готові інтеграції для підключення даних до LlamaIndex.;== LlamaIndex і Hugging Face ==

  • приймати natural language query;
  • запускати retrieval;
  • передавати контекст до LLM;
  • формувати відповідь;
  • працювати з одним або кількома індексами;
  • комбінувати різні джерела;
  • бути частиною складнішого AI-застосунку.; Увага: якщо LLM генерує SQL або функціонує з базою даних, потрібно контролювати права доступу, безпеку, read-only режим і валідацію запитів.;

Він сприяє:

  • query engine;
  • API-запит;
  • функція Python;
  • калькулятор;
  • пошук;
  • база даних;
  • зовнішній сервіс;
  • обробник документа;
  • кастомна бізнес-функція.;

Створити агента, який має змогу відповідати на питання

GitHub-репозиторій LlamaIndex описує, що lower-level APIs дозволяють розширювати модулі, зокрема data connectors, indices, retrievers, query engines і reranking modules.; До них належать:

Приклад простого використання

</syntaxhighlight>

  • natural language query до таблиць;
  • генерація SQL;
  • пояснення результатів запиту;
  • об’єднання structured і unstructured data;
  • побудова аналітичних помічників;
  • доступ до knowledge base і database одночасно.; LlamaIndex сприяє створити шар між LLM і даними.; :contentReference [oaicite:0]{index=0}
  • шукати схожі фрагменти;
  • використовувати index;
  • працювати з vector store;
  • застосовувати фільтри;
  • повертати top-k результатів;
  • комбінувати різні джерела;
  • бути частиною query engine або chat engine.;

Перевага workflows: складну AI-логіку можна розбити на контрольовані кроки, а не ховати все в одному великому промпті.;

LlamaIndex можна розглядати як data framework для застосунків на базі великих мовних моделей.; Індекс має змогу допомагати:

Аналіз PDF-документів

Не варто без потреби індексувати:

LlamaIndex має змогу використовуватися разом із Hugging Face.; # Document parsing.;
  • перевіряти якість документів;
  • контролювати chunking;
  • підбирати embeddings;
  • тестувати retrieval;
  • додавати evaluation;
  • логувати запити;
  • контролювати доступи;
  • перевіряти відповіді на hallucinations;
  • обмежувати tools для agents;
  • документувати архітектуру;
  • тестувати систему на реальних запитах;
  • перевіряти витрати на LLM і vector store.; Умовний приклад створення індексу і запиту до документів:
    Під час роботи з LlamaIndex часто виникають типові помилки.; Основні переважні аспекти LlamaIndex:

</div>
== Типові сценарії використання ==

== Типова технічна архітектура RAG із LlamaIndex ==

* використання embedding models;
* використання open-source LLM;
* інтеграційні функціональні можливості з Transformers;
* робота з локальними моделями;
* використання моделей із Hugging Face Hub;
* побудова RAG на open-source стеку.;</div>
<div style="background:#e7f3ff; border-left:6px solid #2b7cff; padding:12px; margin:12px 0;">
Vector store застосовується для:
</div>
== LlamaParse ==
== Chat Engine ==

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader

* офіційно затверджений сайт LlamaIndex.; * Документація LlamaIndex.TS.; retriever, query engine, evaluation.; '''Reranking''' — це повторне впорядкування знайдених результатів після первинного retrieval.; # Retriever.;== Embeddings ==
Приклади:

</div>
LlamaIndex має змогу використовуватися для роботи з базами даних у LLM-застосунках.; Оцінювати можна:

користувачів на основі внутрішньої документації.;</div>
</div>
Типовий RAG-процес:

Retriever має змогу:
!LangChain

# Data sources.; '''LlamaParse''' — це сервіс в екосистемі LlamaIndex для обробки складних документів.;</div>

response = query_engine.query("Про що йдеться в документах?")

* вибирати tool;
* викликати API;
* працювати з query engine;
* планувати кроки;
* виконувати багатокрокові задачі;
* використовувати memory;
* комбінувати retrieval і reasoning;
* працювати з workflows.; * Репозиторій LlamaIndex на GitHub.; # користувач системи ставить запитання.;</div>
== Vector store ==

</div>
Документація LlamaIndex описує agent як automated reasoning and decision engine, який має змогу розбивати складне питання на менші, вибирати tool, планувати задачі та використовувати memory module.;== Context augmentation ==
'''істотно:''' якість RAG залежить не лише від LLM, а й від parsing, chunking, embeddings, retrieval, reranking і якості джерел даних.;</div>
LlamaIndex має змогу інтегруватися з різними vector stores і vector databases.; '''Практична роль:''' vector store надає можливість оперативно знаходити релевантні фрагменти серед великої кількості документів.; LlamaIndex має обмеження, які потрібно враховувати.; '''Головна думка:''' LlamaIndex — це інженерний фреймворк для підключення LLM до даних, побудови RAG, агентів і workflows, але якість результату залежить від правильної роботи з джерелами, пошуком, безпекою і тестуванням.; Він орієнтований на витягування інформації з документів, які можуть містити:

!LlamaIndex

'''LlamaHub''' — це каталог інтеграцій і data loaders для LlamaIndex.; # Data connectors.; # Vector store.; # платформа шукає релевантні фрагменти в документах або базі знань.;=== AI-агент із tools ===
!Критерій

<syntaxhighlight lang="text">
'''істотно:''' LlamaIndex не замінює LLM.; :contentReference [oaicite:4]{index=4}

</div>

* збереження embeddings;
* швидкого пошуку схожих фрагментів;
* semantic search;
* масштабування RAG-систем;
* роботи з великими базами знань;
* інтеграції з retrievers;
* побудови production-пошуку.;<div style="background:#fff4e5; border-left:6px solid #f39c12; padding:12px; margin:12px 0;">

== Загальний характеристика ==
Reranking сприяє:

'''Висновок:''' LlamaIndex сильний у data/RAG-сценаріях, а LangChain часто використовують для ширшої оркестрації LLM-застосунків.;<div style="background:#fff4e5; border-left:6px solid #f39c12; padding:12px; margin:12px 0;">
<div style="background:#eafaf1; border-left:6px solid #2ecc71; padding:12px; margin:12px 0;">

== Обмеження LlamaIndex ==

* поставити запитання до власних документів;
* створити чат із базою знань;
* побудувати RAG-застосунок;
* підключити LLM до файлів;
* підключити LLM до бази даних;
* виконувати semantic search;
* створити AI-агента з доступом до tools;
* побудувати workflow для складного AI-сценарію;
* витягувати інформацію з документів;
* створити корпоративного AI-помічника;
* автоматизувати аналіз великих обсягів тексту.; по базі знань, викликати API статусу заявки
Через LlamaHub можна знаходити connectors для різних джерел даних, як ілюстрація:
Рекомендовано:

{| class="wikitable"
LlamaIndex часто порівнюють із LangChain.; LlamaIndex потрібно використовувати як інженерний інструмент, а не як магічне рішення для бізнесу.;<div style="background:#e7f3ff; border-left:6px solid #2b7cff; padding:12px; margin:12px 0;">
<div style="background:#ecfdf5; border-left:6px solid #10b981; padding:12px; margin:12px 0;">

'''Практична цінність:''' якісне розбиття документів на частини впливає на якість пошуку і відповідей у RAG-системі.; * які документи індексуються;
* хто має доступ до індексу;
* чи не потрапили в індекс секрети;
* які LLM-провайдери використовуються;
* чи передаються інформаційні дані зовнішнім API;
* чи потрібне шифрування;
* чи налаштовані права доступу;
* чи можна видалити інформаційні дані з індексу;
* чи логуються запити;
* чи є собою контроль над tools.; :contentReference [oaicite:2]{index=2}
'''Vector store''' — це сховище векторів embeddings.; '''Небезпека:''' RAG-система має змогу давати впевнені, але неправильні відповіді, якщо retrieval знаходить не той контекст або документи погано підготовлені.; Він сприяє завантажувати документи, будувати індекси, створювати embeddings, підключати vector stores, виконувати retrieval, будувати query engines, chat engines, agents і workflows.;</div>
'''Для production:''' вибір vector store впливає на швидкість, масштабованість, фільтрацію, вартість і якість retrieval.; Окремий репозиторій LlamaIndex.TS описує TypeScript-бібліотеки як lightweight set of libraries для інтеграції LLM у застосунки з власними даними.;== Index ==

* таблиці;
* графіки;
* зображення;
* складні layout-структури;
* PDF;
* скановані або змішані матеріали;
* багатосторінкові документи.; * завантажувати інформаційні дані з різних джерел;
* розбивати документи на частини;
* створювати індекси;
* будувати embeddings;
* підключати vector stores;
* виконувати semantic search;
* створювати query engines;
* будувати RAG-системи;
* створювати AI-агентів;
* організовувати workflows;
* працювати з документами;
* інтегрувати LLM із приватними даними.;</div>
Приклади:
'''Пояснення:''' базова ідея LlamaIndex — завантажити інформаційні дані, проіндексувати їх і дозволити ставити до них запитання природною мовою.; '''Agent''' у LlamaIndex — це AI-компонент, який має змогу не лише відповідати, а й приймати рішення для бізнесу щодо використання інструментів.; # Chunking.; # Response generation.; |-
|ключовий фокус
|інформаційні дані, індекси, RAG, retrieval, query engines, document intelligence
|Оркестрація LLM-застосунків, chains, tools, agents, integrations
|-
|Сильна сторона
|Підключення LLM до власних даних
|Побудова складних LLM-процесів і tool orchestration
|-
|Типові сценарії
|Чат із документами, knowledge base, semantic search, RAG
|Agents, chains, tool calling, orchestration, workflows
|-
|Можна використовувати разом
|Так
|Так
|}
Документація LlamaIndex описує retrievers як компоненти, відповідальні за отримання найбільш релевантного контексту для user query або chat message.; * RAG;
* data processing;
* notebooks;
* ML/AI експериментів;
* backend-сервісів;
* agent workflows;
* інтеграцій з ML-бібліотеками.;== LlamaIndex і LangChain ==

</syntaxhighlight>У цьому прикладі:

  • PDF-документів;
  • текстових файлів;
  • баз знань;
  • вебсторінок;
  • таблиць;
  • баз даних;
  • документації;
  • API;
  • репозиторіїв коду;
  • CRM або ERP-систем;
  • внутрішніх корпоративних сховищ.;

Джерела можуть включати:

Просте пояснення: context augmentation — це спосіб дати моделі потрібні матеріали перед тим, як вона відповідатиме.;== Retriever == Workflows можуть бути корисні для:

LlamaIndex особливо корисний для RAG-систем, корпоративних knowledge assistants, чатів із документами, semantic search, document intelligence і застосунків, де LLM має відповідати на основі конкретних джерел даних.;

Чат із документацією

  • починати із простого прототипу;
  • добре готувати документи;
  • перевіряти parsing;
  • підбирати chunk size;
  • додавати metadata;
  • тестувати embeddings;
  • використовувати reranking за потреби;
  • перевіряти query engine на реальних питаннях;
  • додавати evaluation;
  • логувати запити й відповіді;
  • контролювати права доступу;
  • обмежувати tools для agents;
  • документувати архітектуру;
  • контролювати витрати на LLM і vector store.; :contentReference [oaicite:6]{index=6}
  • локальні vector stores;
  • хмарні vector databases;
  • open-source vector databases;
  • managed vector services;
  • спеціалізовані search-системи.;

Python-версія часто застосовується для:

Суть RAG: модель не повинна вигадувати відповідь, якщо потрібна відомості є собою в документах.; Їх розбивають на частини, щоб знаходити лише релевантні фрагменти.;

  • індексувати неочищені документи;
  • не перевіряти parsing PDF;
  • використовувати занадто великі chunks;
  • використовувати занадто дрібні chunks;
  • не додавати metadata;
  • не тестувати retriever;
  • не оцінювати якість відповідей;
  • не контролювати доступи;
  • передавати конфіденційні інформаційні дані зовнішнім API без перевірки;
  • очікувати ідеальних відповідей без evaluation;
  • дозволяти agent tools без обмежень;
  • не контролювати витрати.;
  • локальні файли;
  • PDF;
  • Markdown;
  • HTML;
  • Google Drive;
  • Notion;
  • Slack;
  • GitHub;
  • бази даних;
  • вебсторінки;
  • API;
  • хмарні сховища;
  • кастомні джерела.;

Практична роль: Hugging Face має змогу бути джерелом моделей, а LlamaIndex — інструментом для підключення цих моделей до даних.; Data connectors — це компоненти, які дозволяють завантажувати інформаційні дані з різних джерел у LlamaIndex.; Під час використання LlamaIndex потрібно контролювати інформаційні дані, джерела, індекси і доступи.; * Документація LlamaIndex.; :contentReference [oaicite:1]{index=1}

Рекомендовано:

Головна перевага: LlamaIndex дає готові будівельні блоки для LLM-застосунків, які мають працювати з реальними даними.;== Query Engine ==

Перевага: LlamaIndex надає можливість не писати всю інфраструктуру RAG з нуля, а використовувати готові компоненти для завантаження, індексації, пошуку і відповіді на основі даних.; У практиці ці інструменти можуть доповнювати один одного.;
завдяки наявності Основна ідея: LlamaIndex користувачі можуть підключити LLM до реальних даних: документів, файлів, баз знань, API, таблиць, сховищ і внутрішніх джерел інформації.;

Безпека і приватність

  • чат із PDF-документами;
  • корпоративний knowledge assistant;
  • пошук по документації;
  • question answering над базою знань;
  • AI-помічник для підтримки;
  • аналіз договорів;
  • пошук по репозиторію коду;
  • аналітичний помічник над таблицями;
  • RAG для внутрішньої документації;
  • агент із доступом до tools;
  • document intelligence pipeline;
  • workflow для обробки документів.; Вона має спиратися на знайдений контекст.; Практична роль: data connectors перетворюють різні джерела інформації на документи або структури, з якими має змогу працювати LlamaIndex.; # користувач системи отримує відповідь із урахуванням власної інформації.; Практична перевага: Python зручний для AI-інженерії та експериментів, а TypeScript — для інтеграції LLM у сучасні вебзастосунки.;== Типові помилки користувачів ==
  • масштабування semantic search;
  • швидкого пошуку embeddings;
  • production RAG;
  • роботи з великими колекціями документів;
  • фільтрації за metadata;
  • гібридного пошуку;
  • керування індексами.;== Evaluation ==

Хороші практики роботи з LlamaIndex

Суть індексу: index — це спосіб підготувати інформаційні дані до пошуку і подальшої роботи з LLM.; У LlamaIndex інформаційні дані часто проходять шлях від документа до дрібніших фрагментів.; питання щодо умов, строків, сторін і ризиків.;== Див.; додатково == 

== Відповідальне використання ==

'''Професійний підхід:''' якісний RAG — це не лише код, а робота з даними, пошуком, оцінкою, безпекою і підтримкою.; Tool має змогу бути:

* якість відповіді залежить від даних;
* поганий parsing погіршує RAG;
* невдалий chunking знижує релевантність;
* embeddings можуть не підходити до домену;
* retriever має змогу знаходити не той контекст;
* LLM має змогу неправильно інтерпретувати знайдений текст;
* production-система потребує evaluation;
* agents можуть виконувати небажані дії без контролю;
* API-виклики можуть створювати витрати;
* потрібно контролювати приватність даних.; '''Практична роль:''' tools дозволяють агенту переходити від відповіді текстом до виконання дій або отримання даних із зовнішніх систем.; '''Query Engine''' — це інтерфейс, який надає можливість ставити запитання до даних.; * зручна побудова RAG;
* супровід data connectors;
* індекси для даних;
* retrievers;
* query engines;
* chat engines;
* agents;
* workflows;
* інтеграційні функціональні можливості з vector stores;
* супровід Python і TypeScript;
* document parsing через LlamaParse;
* широка програмний пакет;
* можливість швидкого прототипування;
* гнучкість для production.; '''Chat Engine''' — це компонент для діалогової взаємодії з даними.; :contentReference [oaicite:5]{index=5}<div style="background:#fff7ed; border-left:6px solid #fb923c; padding:12px; margin:12px 0;">
'''Retriever''' — це компонент, який знаходить релевантний контекст для запиту користувача.; RAG зменшує ризик, але не гарантує абсолютну точність.; це фреймворк; додатково реалізовано які працюють із власними, приватними або доменними даними користувача чи організації виступає ключовою рисою побудови LLM-застосунків забезпечується через {{SEO|title=LlamaIndex — фреймворк для RAG, AI-агентів, індексів, пошуку і роботи LLM з даними|description=LlamaIndex — Wiki-стаття про фреймворк для побудови LLM-застосунків, RAG-систем, AI-агентів, індексації даних, retrievers, query engines, data connectors, workflows, document intelligence та інтеграції великих мовних моделей із приватними або доменними даними. Розглянуто призначення LlamaIndex, індекси, embeddings, vector stores, retrieval, RAG, agents, tools, workflows, LlamaParse, Python і TypeScript, переваги, обмеження, безпеку та відповідальне використання.|keywords=LlamaIndex, LlamaIndex Python, LlamaIndex TypeScript, RAG, Retrieval-Augmented Generation, retriever, query engine, index, embeddings, vector store, data connectors, LlamaHub, LlamaParse, AI agents, LLM agents, workflows, context augmentation, large language model, LLM, document intelligence, semantic search, Python, TypeScript, open-source AI, LangChain альтернативи|alternativeTo=ручний пошук по документах; простий чат без доступу до даних; самописний RAG; хаотична інтеграція LLM з файлами; ручне створення індексів; ізольовані AI-чатботи без контексту; складна інтеграція LLM із приватними даними; неструктурована робота з документами}}'''LlamaIndex'''.; index = VectorStoreIndex.from_documents(documents)
<div style="background:#e8f8f5; border-left:6px solid #16a085; padding:12px; margin:12px 0;">
'''істотно:''' chat engine має контролювати контекст діалогу, щоб не змішувати попередні теми з новими запитами.; '''Context augmentation''' — це додавання до запиту LLM додаткового контексту з зовнішніх джерел.; '''Помилка:''' вважати, що додавання LlamaIndex автономно усуває hallucinations.;<syntaxhighlight lang="text">
TypeScript-версія корисна для:
'''Професійний підхід:''' RAG-систему потрібно не лише зібрати, а й регулярно перевіряти на реальних запитах.; '''Node''' — це частина документа, яку можна індексувати, шукати і передавати в LLM як контекст.; '''Головне правило:''' LlamaIndex дає інструменти, але якість AI-застосунку залежить від даних, архітектури, пошуку, тестування і контролю.; * Документація LlamaIndex щодо query engines.; * порівнювати зміст фрагментів;
* знаходити схожі документи;
* виконувати semantic search;
* будувати vector index;
* шукати не лише за точними словами, а й за змістом;
* пов’язувати запит користувача з релевантними фрагментами.; '''Просте пояснення:''' embeddings допомагають системі зрозуміти, які тексти схожі за змістом, навіть якщо в них використані різні слова.; LlamaIndex застосовують, коли потрібно для створення '''RAG-систем''', індексів, retrievers, query engines, AI-агентів, workflows, data connectors, document intelligence-рішень і застосунків, де велика мовна модель має відповідати не лише на основі загальних знань, а й на основі конкретних документів, баз знань, файлів, API або інших джерел даних.; # Query engine або chat engine.;</div>
'''Index''' у LlamaIndex — це структура.; Він корисний для:
Типова технічна архітектура має змогу виглядати так:
'''Практична роль:''' retriever знаходить кандидатів, а reranker сприяє вибрати найкращі з них.;

Можливі сценарії:

Офіційна документація описує LlamaIndex як фреймворк для побудови LLM-powered agents over your data with LLMs and workflows.;

Workflows

Tool — це інструмент, який agent має змогу викликати для виконання конкретної дії.; # Знайдений контекст передається до LLM.; # LLM формує відповідь на основі запиту і знайдених даних.; RAG або Retrieval-Augmented Generation — це підхід, у якому відповідь LLM формується не лише з внутрішніх знань моделі, а й із знайденого контексту в зовнішніх джерелах.;

і формувати коротке пояснення для користувача.; На відміну від одноразового query, chat engine має змогу враховувати історію діалогу.;== Tools ==

Такий підхід потрібен з цієї причини, що великі документи зазвичай не передаються в модель в цілому.; Evaluation — це перевірка якості LlamaIndex-застосунку.;

LlamaIndex потрібен, коли потрібно:

Приклади запитів і задач

Data connectors

Agents

  • складних RAG-сценаріїв;
  • agent pipelines;
  • обробки документів;
  • багатоетапного аналізу;
  • маршрутизації запитів;
  • перевірки відповідей;
  • інтеграції кількох tools;
  • побудови керованих AI-застосунків.; Завантажити набір PDF-договорів, витягнути текст,

Documents і Nodes

Workflows у LlamaIndex — це спосіб організувати багатоетапні AI-процеси.;== LlamaIndex і векторні бази даних ==

  • якість retrieval;
  • релевантність відповіді;
  • groundedness;
  • hallucination rate;
  • faithfulness;
  • точність цитування джерел;
  • повноту відповіді;
  • latency;
  • вартість запиту;
  • стабільність на реальних даних.; істотно перевіряти:

RAG

переважні аспекти LlamaIndex

Це потрібно для:

  • документи завантажуються з папки;
  • створюється vector index;
  • будується query engine;
  • користувач системи ставить запитання;
  • платформа повертає відповідь на основі документів.; Embeddings — це числові вектори, які представляють зміст тексту або іншого об’єкта.; Водночас якість рішення для бізнесу залежить від підготовки даних, parsing, chunking, embeddings, retrieval, evaluation, безпеки і контролю доступу.; Окремо варто відзначити яка організовує інформаційні дані так, щоб їх можна було результативно знаходити і використовувати у відповідях.; проіндексувати фрагменти і дати можливість ставити
  • web-застосунків;
  • Node.js;
  • frontend/backend TypeScript-проєктів;
  • інтеграції LLM у JavaScript-екосистему.;== Python і TypeScript ==

Для чого потрібен LlamaIndex

Приклади типів vector stores:

Reranking

  • підвищити релевантність контексту;
  • прибрати слабкі фрагменти;
  • краще вибрати top results;
  • покращити якість відповіді;
  • зменшити шум у контексті;
  • підвищити точність RAG.; * Документація LlamaIndex щодо agents.; Побудувати RAG-систему, яка відповідає на питання

Контекст має змогу братися з:

Document — це вхідний матеріал, як ілюстрація файл, сторінка, запис або текст.; * Документація LlamaIndex щодо retrievers.;
LlamaIndex — це фреймворк для створення LLM-застосунків, які працюють із власними даними.;

query_engine = index.as_query_engine()

офіційно затверджений сайт LlamaIndex описує LlamaParse як agentic OCR для обробки складних документів із таблицями, charts, images та іншими складними елементами.; Документація LlamaIndex описує query engine як generic interface, що надає можливість ставити питання over your data; зазвичай він побудований на одному або кількох indexes через retrievers.;

Суть retriever: він знаходить матеріали, які LLM має прочитати перед відповіддю.; Agent має змогу:

  • шукати релевантні фрагменти;
  • групувати документи;
  • зберігати embeddings;
  • працювати з vector stores;
  • будувати query engines;
  • організовувати знання;
  • прискорювати retrieval.;== LlamaIndex і бази даних ==

LLM сама по собі не завжди має доступ до потрібних документів, внутрішніх знань або актуальної інформації.;== Джерела == documents = SimpleDirectoryReader("data").load_data()

Висновок

Просте пояснення: query engine — це механізм, який надає можливість “питати” власні інформаційні дані звичайною мовою.; # LLM.; # Embeddings.; Практична роль: якість RAG сильно залежить від якості витягування тексту з документів, з цієї причини parsing є собою критичним етапом.; Він сприяє LLM отримати потрібний контекст із даних і використати його для відповіді.; :contentReference [oaicite:3]{index=3}

Embeddings дозволяють:

Отримано з https://wiki.corp2.eu/index.php?title=LlamaIndex&oldid=1222