Arize AX Pro 12 tháng chính chủ – Observability và Eval cho LLM, AI agent

Tracing theo chuẩn OpenTelemetry giúp gì khi debug agent?

Mỗi request của ứng dụng được ghi thành một trace gồm nhiều span: lời gọi model, lần truy xuất tài liệu, lần gọi tool. Arize AX tuân thủ OpenTelemetry và được xây trên OpenInference, chuẩn mở cho observability GenAI do chính đội ngũ Arize khởi xướng.

Trong từng trace, bạn thấy input, output, tool call, độ trễ, số token và chi phí. Arize còn hỗ trợ session cho hội thoại nhiều lượt, tracing đa phương thức (ảnh, giọng nói, PDF) và hiển thị đường đi của agent dạng path hoặc graph. Khi agent trả lời sai, bạn biết chính xác bước nào hỏng thay vì đoán mò.

Signal và Alyx tự động hóa việc soi lỗi ra sao?

Signal là worker có sẵn, quét trace của project theo lịch, gom các lỗi lặp lại thành issue được xếp hạng. Mỗi issue có phần tổng quan, bằng chứng (trace ID) và đề xuất sửa prompt, code, cấu hình hoặc eval. Signal mặc định chạy mỗi 6 giờ và có thể chỉnh từ 3 giờ đến hàng tháng. Theo changelog, Signal ra mắt chính thức ngày 29/07/2026 và có trên mọi gói.

Alyx là AI agent tích hợp sẵn trong Arize AX. Bạn mở bằng Ctrl+L (Windows, Linux) hoặc Cmd+L (macOS), rồi hỏi bằng ngôn ngữ tự nhiên như "tìm các trace mà tool search bị lỗi" hay "dựng dashboard độ trễ theo model". Mặc định Alyx hỏi xác nhận trước khi tạo hoặc sửa (trừ khi bạn bật Auto Accept trong phần cài đặt). Bản cập nhật ngày 09/10/2026 cho phép bấm Create Evaluator ngay trên một issue của Signal để Alyx dựng evaluator chấm điểm trace mới.

Eval, dataset và experiment hoạt động thế nào?

Arize cho chạy eval online trên trace/span và eval offline trên dataset, experiment. Bạn có thể đánh giá cả quỹ đạo agent (trace eval), hội thoại nhiều lượt (session eval), dùng LLM-as-a-judge, kèm gắn nhãn thủ công và hàng đợi gắn nhãn (labeling queue) cho người review.

Cần lưu ý: Arize không giới hạn số lần chạy eval, nhưng eval LLM-as-a-judge và Playground cần bạn kết nối API key của nhà cung cấp LLM (OpenAI, Anthropic...) qua mục AI Provider Integrations, chi phí token do nhà cung cấp đó tính riêng. Tài liệu của Arize gợi ý bắt đầu lấy mẫu khoảng 10-20% trace cho eval online, rồi tăng dần khi đã chắc evaluator chạy đúng.

Quy trình điển hình: gom các trace lỗi vào dataset, sửa prompt hoặc đổi model, chạy lại trên dataset đó thành một experiment rồi so kết quả với phiên bản cũ. Bạn chứng minh được thay đổi có tốt hơn trước khi deploy.

Prompt Playground có gì cho người viết prompt?

Playground cho phép replay một trace thật, so sánh nhiều prompt cùng lúc, quản lý phiên bản prompt và tối ưu bằng Prompt Learning. Bạn không cần copy prompt qua lại giữa code và công cụ chat để thử. Model chạy trong Playground là model của nhà cung cấp bạn đã kết nối.

Kỹ sư AI ở Việt Nam dùng Arize AX Pro thế nào trong thực tế?

Một vài tình huống phổ biến:

• Chatbot chăm sóc khách hàng tiếng Việt: trace lưu nguyên văn câu hỏi và câu trả lời, nên bạn đọc được trực tiếp đoạn hội thoại tiếng Việt bị trả lời sai, gom vào dataset rồi tạo eval kiểm tra lại.
• Hệ thống RAG cho tài liệu nội bộ: xem span retrieval để biết đoạn văn bản nào được lấy ra, từ đó phát hiện lỗi chia chunk hoặc lỗi truy vấn.
• Agent gọi nhiều tool: theo dõi token, độ trễ và chi phí của từng bước để tìm chỗ lãng phí.
• Làm việc cùng coding agent: Arize có AX CLI và bộ skill để coding agent như Claude Code hay Cursor truy vấn trace ngay trong editor.

Giao diện Arize AX và tài liệu chính thức hiện bằng tiếng Anh, Lucifer Tech chưa thấy hãng công bố bản tiếng Việt cho AX. Nội dung bạn gửi lên (prompt, câu trả lời tiếng Việt) vẫn được lưu và hiển thị nguyên văn trong trace.

50k spans mỗi tháng có đủ dùng không?

Một span là một thao tác bên trong trace (lời gọi LLM, lần truy xuất, lần gọi tool), nên agent càng nhiều bước thì mỗi request càng tạo nhiều span. Arize tính usage theo hai trục: số trace span và dung lượng dữ liệu ingest (GB).

• Ví dụ: nếu mỗi request tạo khoảng 10 span, 50k spans tương đương khoảng 5.000 request mỗi tháng. Hãy ước lượng số span mỗi request của bạn trước khi chọn gói.
• Agent nhiều bước chạy production với traffic lớn có thể chạm trần sớm. Bạn nên lấy mẫu (sampling) trace hoặc chỉ instrument những luồng quan trọng.

Trang giá hiện tại của Arize không công bố đơn giá cho phần vượt hạn mức. Hãy theo dõi usage trong mục cài đặt và nhắn Zalo cho Lucifer Tech nếu bạn dự kiến vượt, để được tư vấn trước. Với Signal, khi dùng hết 25 issue trong tháng, Signal tạm dừng lượt chạy mới cho tới tháng sau; hạn mức reset theo tháng dương lịch (giờ UTC).

Arize AX khác gì Phoenix mã nguồn mở?

Phoenix là dự án mã nguồn mở của Arize, bạn tự cài và tự host (ví dụ pip install arize-phoenix), có tracing, eval, dataset, experiment và playground. Đổi lại, bạn tự lo máy chủ, lưu trữ và bảo trì.

Arize AX là bản SaaS được Arize vận hành, thêm hạ tầng lưu trữ trace có sẵn, eval online, Signal, Alyx và quy trình cải thiện liên tục. Cả hai dùng chung chuẩn instrument OpenTelemetry/OpenInference, nên bạn có thể bắt đầu với Phoenix rồi chuyển sang AX mà không phải viết lại phần instrument. Chọn AX Pro khi bạn không muốn tự vận hành server và lưu trữ trace.

Mua Arize AX Pro chính chủ tại Lucifer Tech có lợi gì?

Gói tại Lucifer Tech là hình thức Chính chủ: Lucifer Tech nâng cấp/kích hoạt gói AX Pro cho tài khoản Arize đăng ký bằng email của bạn trên hệ thống chính thức của Arize; bạn đăng nhập bằng chính email đó. Nếu bạn cần quyền quản trị organization (mời thêm thành viên, tạo space), hãy nhắn Zalo hỏi Lucifer Tech trước khi mua.

• Thanh toán bằng VND: chuyển khoản ngân hàng hoặc USDT, không cần thẻ Visa/Mastercard quốc tế.
• Trả một lần cho 12 tháng: 1.500.000đ, không phải lo thanh toán ngoại tệ mỗi tháng.
• Bảo hành 12 tháng: trong suốt thời gian sử dụng, nếu gói gặp sự cố (mất quyền truy cập, bị hạ gói), Lucifer Tech xử lý hoặc cấp đổi miễn phí.
• Hỗ trợ 24/7 qua Zalo: hướng dẫn kích hoạt, giải đáp thắc mắc bằng tiếng Việt.
• Hoàn tiền 100% nếu không nâng cấp được tài khoản.

Nên dùng Arize AX Pro cùng công cụ nào?

Arize tích hợp với hơn 40 model, framework và công cụ AI, gồm OpenAI, Anthropic, Google, Amazon Bedrock, LangGraph, LangChain, LlamaIndex, CrewAI, OpenAI Agents SDK và DSPy. Thư viện instrument có cho Python, TypeScript/JavaScript, Java và .NET/C#.

Nếu bạn viết code bằng Cursor hoặc dùng Claude Code trong gói Claude AI, hãy cài AX CLI và bộ skill của Arize để coding agent tự cấu hình instrument và truy vấn trace ngay trong editor. Luồng làm việc khép kín: agent sửa code, bạn chạy lại, rồi xem trace mới trên Arize AX Pro để kiểm tra chất lượng.

Arize AX Pro có hạn chế gì cần biết?

• Hạn mức theo tháng: 50k spans và 10 GB mỗi tháng có thể không đủ cho traffic lớn; lưu trữ mặc định 30 ngày (Arize có bán add-on lưu 13 tháng cho gói Pro, tính phí riêng, không nằm trong gói này).
• Chi phí model cho eval: eval LLM-as-a-judge và Playground dùng API key nhà cung cấp LLM của bạn, tiền token tính riêng.
• Tính năng chỉ có ở Enterprise: self-host, Enterprise SSO, audit log, HIPAA, custom code evaluator, kết nối repo để Signal mở pull request sửa lỗi, và tự chọn AI provider cho agent.
• Đơn giá phần vượt không công bố: bạn cần tự kiểm soát usage.
• Giao diện tiếng Anh: cần đọc hiểu tài liệu kỹ thuật tiếng Anh.

Có nên mua Arize AX Pro 12 tháng không?

Nếu ứng dụng LLM của bạn đã có người dùng thật, hạn mức bản Free bắt đầu chật, và bạn muốn giữ dữ liệu 30 ngày để so sánh trước sau mỗi lần sửa prompt, AX Pro là bước nâng cấp hợp lý. Gói 12 tháng tại Lucifer Tech giúp bạn bỏ qua rào cản thẻ quốc tế và trả bằng VND.

Bấm mua gói Arize AX Pro 12 tháng, gửi email tài khoản Arize của bạn, và nhắn Zalo nếu cần tư vấn trước khi thanh toán.

Bước 3: Nhận nâng cấp AX Pro

Lucifer Tech xử lý nhanh sau khi thanh toán được xác nhận và nâng cấp/kích hoạt gói AX Pro cho tài khoản đăng ký bằng email của bạn trên hệ thống chính thức của Arize. Bạn đăng nhập bằng chính email đó và kiểm tra lại gói trong phần cài đặt; nếu chưa thấy, nhắn Zalo để được hỗ trợ.

Bước 4: Bắt đầu gửi trace

• Cài thư viện instrument cho ngôn ngữ bạn dùng (Python dùng arize-otel, TypeScript/JavaScript dùng các gói @arizeai/openinference-*).

• Đăng ký tracer provider rồi gắn instrumentor cho framework và cả nhà cung cấp LLM bạn dùng.

• Nếu dùng coding agent như Claude Code hoặc Cursor, có thể cài bộ skill instrument của Arize để agent tự cấu hình.

Chạy ứng dụng vài lần, trace sẽ xuất hiện trong project.

Bước 5: Bật Signal và tạo eval

• Mở project, vào tab Signal và bấm Enable Signal để Arize quét trace định kỳ.

• Muốn chạy eval LLM-as-a-judge hoặc Playground, kết nối API key nhà cung cấp LLM (OpenAI, Anthropic...) trong mục AI Provider Integrations; tiền token do nhà cung cấp đó tính.

• Khi có issue, đọc phần bằng chứng và đề xuất sửa, rồi bấm Create Evaluator để Alyx dựng evaluator chấm điểm trace mới.

• Nhấn Ctrl+L (Windows/Linux) hoặc Cmd+L (macOS) để mở Alyx và hỏi bằng ngôn ngữ tự nhiên khi cần tìm trace lỗi hoặc dựng dashboard.

Bước 6: Theo dõi usage

Định kỳ kiểm tra usage để không vượt 50k spans và 10 GB mỗi tháng. Nếu bạn có quyền quản trị organization, bạn có thể mời thêm thành viên vì gói Pro không giới hạn người dùng.

Lucifer Tech xử lý nhanh sau khi thanh toán được xác nhận. Khi xong, bạn kiểm tra lại gói trong phần cài đặt tài khoản Arize; nếu chưa thấy AX Pro, nhắn Zalo để được hỗ trợ.