AI Connections (9Router)
AI Connections (9Router)
Trang AI Connections cho phép bạn quản lý các tích hợp với dịch vụ AI và mô hình ngôn ngữ lớn (LLM). Đây là nơi bạn cấu hình cách các ứng dụng AI kết nối với nhà cung cấp AI.
AI Connections là gì?
AI Connections là các liên kết giữa ứng dụng OpenCloud của bạn và các dịch vụ AI bên ngoài (như GPT của OpenAI, Claude của Anthropic, hoặc các mô hình AI khác). Thay vì cấu hình từng kết nối AI riêng lẻ trong mỗi ứng dụng, bạn có thể quản lý tập trung từ trang này.
OpenCloud sử dụng 9Router — một công cụ proxy và quản lý nhẹ — làm nền tảng cho AI Connections. Nó hoạt động như một trung tâm kết nối giữa ứng dụng của bạn và các nhà cung cấp AI, cho bạn một nơi duy nhất để quản lý tất cả kết nối AI.
Ứng dụng của bạn → 9Router → OpenAI, Anthropic, Google, v.v.
Tính năng chính
| Tính năng | Mô tả |
|---|---|
| Quản lý API tập trung | Cấu hình tất cả API key của nhà cung cấp AI tại một nơi |
| Định tuyến nhà cung cấp | Định tuyến yêu cầu đến các nhà cung cấp AI khác nhau theo quy tắc |
| Cân bằng tải | Phân phối yêu cầu trên nhiều API key hoặc nhà cung cấp |
| Giám sát | Theo dõi tất cả lệnh gọi AI API — xem ứng dụng nào dùng gì, bao nhiêu và khi nào |
| Bí danh mô hình | Tạo tên tắt cho các mô hình AI (ví dụ: "smart" → "gpt-4o") |
| Quản lý API key | Tạo API key cho ứng dụng khi kết nối qua AI Connections |
| Proxy pools | Quản lý nhiều proxy cho kết nối API |
| Bảo vệ đăng nhập | Giao diện quản trị được bảo vệ bằng mật khẩu |
Khi nào nên sử dụng AI Connections?
Sử dụng AI Connections nếu bạn:
- Có nhiều ứng dụng sử dụng mô hình AI
- Muốn quản lý tất cả AI API key tại một nơi
- Cần theo dõi mức sử dụng AI trên các ứng dụng
- Muốn định tuyến giữa các nhà cung cấp (ví dụ: dùng Anthropic cho một số tác vụ, OpenAI cho tác vụ khác)
Yêu cầu trên OpenCloud
| Yêu cầu | Chi tiết |
|---|---|
| Loại | Addon (dịch vụ hệ thống) |
| Cơ sở dữ liệu | Không yêu cầu |
| Gói | Gói addon cố định (1 CPU, 1 GB RAM, ~$0.50/tháng) |
| Cổng mặc định | 20128 |
Cài đặt
Triển khai từng bước
- Triển khai 9Router
9Router được triển khai dưới dạng addon (dịch vụ hệ thống nhẹ):- Trên sidebar, chọn Kết nối AI
- Chọn Bật 9Router
- Chờ vài phút để 9Router được triển khai và sẵn sàng
- Lấy mật khẩu đăng nhập
- Vào ứng dụng 9Router Kết nối AI
- Copy mật khẩu từ bảng Thông tin đăng nhập (được tạo tự động)
- Truy cập 9Router
Mở liên kết 9Router và đăng nhập bằng mật khẩu.
Thiết lập nhà cung cấp AI
Sau khi đăng nhập, thêm các kết nối nhà cung cấp AI:
- Tư sidebar 9Router, chọn Providers
- Nhấn Add Provider
- Chọn nhà cung cấp (OpenAI, Anthropic, Google, v.v.)
- Nhấn + Add Connection để kết nối với nhà cung cấp đã chọn
- Lặp lại cho mỗi nhà cung cấp AI bạn muốn sử dụng
Tạo API key cho ứng dụng
Để cho phép các ứng dụng khác kết nối qua 9Router:
- Từ sidebar 9Router, chọn Endpoint
- Nhấn + Create Key
- Đặt tên (ví dụ: "n8n-key", "openclaw-key")
- Sao chép API Endpoint URL và API key — bạn sẽ cần chúng để cấu hình ứng dụng của mình
Thiết lập combo mô hình
Combo mô hình cho phép bạn sử dụng các mô hình từ nhiều nhà cung cấp dưới một bí danh duy nhất:
- Từ sidebar 9Router, chọn Combos
- Nhấn + Create Combo
- Thêm bí danh:
- Combo Name:
my-combo(hoặc tên bất kỳ) - Models: cho chọn các mô hình từ nhà cung cấp đã kết nối (ví dụ:
gpt-4otừ OpenAI,claude-2từ Anthropic)
- Combo Name:
- Nhấn Create để lưu
- Bây giờ ứng dụng có thể yêu cầu mô hình
my-combovà 9Router sẽ định tuyến đến các nhà cung cấp tương ứng dựa trên cấu hình combo.
Cấu hình
| Thiết lập | Mặc định | Mô tả |
|---|---|---|
INITIAL_PASSWORD | Tự động tạo | Mật khẩu đăng nhập quản trị |
ROUTER_PORT | 20128 | Cổng API/UI |
| Giám sát | Bật | Theo dõi tối đa 1.000 bản ghi lệnh gọi API |
| Yêu cầu đăng nhập | Có | Bảo vệ bằng mật khẩu được bật mặc định |
Giám sát
9Router theo dõi tất cả lệnh gọi API đi qua nó. Trong bảng điều khiển, bạn có thể xem:
- Tổng số lệnh gọi API
- Lệnh gọi theo nhà cung cấp
- Lệnh gọi theo ứng dụng
- Thời gian phản hồi
- Tỷ lệ lỗi
Dữ liệu này giúp bạn hiểu mô hình sử dụng AI và chi phí.
Khắc phục sự cố
| Vấn đề | Giải pháp |
|---|---|
| Không đăng nhập được | Kiểm tra INITIAL_PASSWORD trong biến môi trường |
| Ứng dụng không kết nối được | Xác minh URL 9Router và API key trong cấu hình ứng dụng |
| Lỗi nhà cung cấp | Kiểm tra API key của nhà cung cấp AI có hợp lệ và còn credit |