Nhà cung cấp AI độc lập
Bộ não AI chạy trên hạ tầng của riêng bạn.
Một cổng API tương thích OpenAI, đặt giữa ứng dụng khách hàng và các model như Qwen3 8B, Gemma 3 12B.
curl -X POST /api/public/v1/chat/completions \
-H "Authorization: Bearer tt_sk_..." \
-d '{"model":"qwen3-8b","messages":[{"role":"user","content":"Xin chào"}]}'01
Website & Bảng quản trị
Playground, Benchmark, quản lý model và API key.
02
Tinh Thái API Gateway
Xác thực, phân quyền, giới hạn lượt gọi, ghi nhận hiệu năng.
03
Máy chủ suy luận
llama.cpp trên iMac, máy chủ riêng hoặc GPU cloud — chờ kết nối an toàn.