Mar 04, 2025●3 reads●Apache 2.0

RAG-With-LangChain-And-FAISS

Ping Chun Wu

⭐ 用 LangChain + FAISS 實作 RAG ⭐

A.　Current Progress

項目	敘述	完成時間
專案上架	-	2025-02-28
Google Gemini	用 Gemini 實作 RAG	2025-02-28
OpenAI ChatGPT	用 ChatGPT 實作 RAG	-
MediaTek Breeze	用 Breeze 實作 RAG	-
Meta LLama	用 LLama 實作 RAG	-
Fine-tung Embedding	嘗試不同 Embedding	-
Fine-tung Vector DB	嘗試不同 Vector DB : ChromaDB	-
Other	連接 Google Cloud Vertex AI 來增強檢索能力	-

B.　RAG Definition

RAG : Retrieval-Augmented Generation
實現方式 : LLM API + Vector Database + Word Embeddings = RAG System
- LLM API : 負責生成回答
- Vector Database : 負責存儲並檢索相關知識
  - FAISS
  - ChromaDB
- Word Embeddings : 負責將文本轉換為向量，讓系統能夠計算相似性
RAG 可讓 LLM 生成更準確的回答，但依舊有幻覺可能性
此法非涉及訓練相關，依舊是以 Prompt Engineering 工程角度來解決問題

C.　Showcase Results

jupyter nbconvert --execute --to html ???.ipynb

Google Gemini + FAISS + embedding-001
OpenAI ChatGPT + FAISS + ???
Breeze2 + FAISS + ???
LLama2 + FAISS + ???

RAG-With-LangChain-And-FAISS

Table of contents

⭐ 用 LangChain + FAISS 實作 RAG ⭐

A.　Current Progress

B.　RAG Definition

RAG : Retrieval-Augmented Generation

實現方式 : LLM API + Vector Database + Word Embeddings = RAG System

LLM API : 負責生成回答

Vector Database : 負責存儲並檢索相關知識

FAISS

ChromaDB

Word Embeddings : 負責將文本轉換為向量，讓系統能夠計算相似性

RAG 可讓 LLM 生成更準確的回答，但依舊有幻覺可能性

此法非涉及訓練相關，依舊是以 Prompt Engineering 工程角度來解決問題

C.　Showcase Results

Google Gemini + FAISS + embedding-001

OpenAI ChatGPT + FAISS + ???

Breeze2 + FAISS + ???

LLama2 + FAISS + ???

Datasets

Models

Models

Datasets

Table of contents

⭐ 用 LangChain + FAISS 實作 RAG ⭐

A. Current Progress

B. RAG Definition

RAG : Retrieval-Augmented Generation

實現方式 : LLM API + Vector Database + Word Embeddings = RAG System

LLM API : 負責生成回答

Vector Database : 負責存儲並檢索相關知識

FAISS

ChromaDB

Word Embeddings : 負責將文本轉換為向量，讓系統能夠計算相似性

RAG 可讓 LLM 生成更準確的回答，但依舊有幻覺可能性

此法非涉及訓練相關，依舊是以 Prompt Engineering 工程角度來解決問題

C. Showcase Results

Google Gemini + FAISS + embedding-001

OpenAI ChatGPT + FAISS + ???

Breeze2 + FAISS + ???

LLama2 + FAISS + ???

Datasets

Models

Models

Datasets

A.　Current Progress

B.　RAG Definition

C.　Showcase Results