LLMs

LLMs là viết tắt của Large Language Model (Mô hình Ngôn ngữ Lớn).

Cách sử dụng: Sử dụng model Ngôn ngữ lớn của Azure OpenAI

Thông tin các tham số:

Code
Temperature: Nhiệt độ của LLMs - chỉ số mặc định là 0.7 (nhiệt độ càng cao thì câu trả lời càng đa dạng, và phải là giá trị số dương)
Model Name
Azure Endpoint
Deployment Name
API Version
API Key: Key dùng để xác thực và truy cập API của OpenAI

Thành phần liên kết

Input node:
- Chains - LLMChain, VB Rewrite Chain
- Agents - Conversation React Agent
- Memories - ConversationEntityMemory, ConversationSummaryMemory
- Tools - Calculator, VB Chainable Tool, Google Search Tool, Knowledge Base Tool
- Utilities - ChainableAdapter, Conditions, VB Edit Memory, VB Requirement, Start Chat, Webhook
- Output Parsers - VB Debug

Cách sử dụng: Sử dụng model Ngôn ngữ lớn của OpenAI

Thông tin các tham số:

Temperature: Nhiệt độ của LLMs - chỉ số mặc định là 0.7 (nhiệt độ càng cao thì câu trả lời càng đa dạng, và phải là giá trị số dương)
OpenAI API Key: Key dùng để xác thực và truy cập API của OpenAI
OpenAI API Base: Dùng để gán URL cho API của OpenAI. Thường là API endpoint do OpenAI cung cấp
Model Name: Tên model của OpenAI sẽ sử dụng
Max Tokens: Số lượng token tối đa

Thành phần liên kết

Input node:
- Chains - LLMChain, VB Rewrite Chain
- Agents - Conversation React Agent
- Memories - ConversationEntityMemory, ConversationSummaryMemory
- Tools - Calculator, VB Chainable Tool, Google Search Tool, Knowledge Base Tool
- Utilities - ChainableAdapter, Conditions, VB Edit Memory, VB Requirement, Start Chat, Webhook
- Output Parsers - VB Debug

Cách sử dụng:

Thông tin các tham số:

Temperature: Nhiệt độ của LLMs - chỉ số mặc định là 0.7 (nhiệt độ càng cao thì câu trả lời càng đa dạng, và phải là giá trị số dương)
OpenAI API Key: Key dùng để xác thực và truy cập API của OpenAI
OpenAI API Base: Dùng để gán URL cho API của OpenAI. Thường là API endpoint do OpenAI cung cấp
Model Name: Tên model của OpenAI sẽ sử dụng
Max Tokens: Số lượng token tối đa

Thành phần liên kết

Input node:
- Chains - LLMChain, VB Rewrite Chain
- Agents - Conversation React Agent
- Memories - ConversationEntityMemory, ConversationSummaryMemory
- Tools - Calculator, VB Chainable Tool, Google Search Tool, Knowledge Base Tool
- Utilities - ChainableAdapter, Conditions, VB Edit Memory, VB Requirement, Start Chat, Webhook
- Output Parsers - VB Debug

Cách sử dụng:

Thông tin các tham số:

Model Name:
- ViGPT-770M: Dùng cho tác vụ Rewrite
- ViGPT-1.6B: Dùng cho các tác vụ Summarization, Rewrite, Function Calling
- ViGPT-7B: TBD

Với model ViGPT-770M dùng cho tác vụ Rewrite hiện chỉ support với prompt theo format cố định như sau:

Task: query rewriting
### Utterance: `{query}`
### Context: `{context}`

Thành phần liên kết

Input node:
- Chains - LLMChain, VB Rewrite Chain
- Agents - Conversation React Agent
- Memories - ConversationEntityMemory, ConversationSummaryMemory
- Tools - Calculator, VB Chainable Tool, Google Search Tool, Knowledge Base Tool
- Utilities - ChainableAdapter, Conditions, VB Edit Memory, VB Requirement, Start Chat, Webhook
- Output Parsers - VB Debug