Startup phân tích dữ liệu AI: Nguyên mẫu phân tích dữ liệu AI hoạt động được bàn giao trong 8 tuần. Đạt độ chính xác truy vấn SQL trên 80%.

Thách thức

Trước khi cam kết đầu tư vào phát triển sản phẩm hoàn chỉnh, công ty cần trả lời một câu hỏi nền tảng: liệu hướng tiếp cận kỹ thuật này có thực sự khả thi hay không. Có hai trở ngại chính đứng giữa ý tưởng ban đầu và một sản phẩm có thể xây dựng được. Trở ngại đầu tiên là tích hợp mô hình dữ liệu. Các hệ thống ERP — nguồn dữ liệu mà tác nhân AI cần truy vấn — chứa khối lượng dữ liệu lớn, được tổ chức theo những lược đồ rất khác nhau tùy nhà cung cấp và cách triển khai thực tế. Việc xây dựng một tác nhân AI có thể hoạt động đáng tin cậy trên các lược đồ này đòi hỏi một thiết kế mô hình vừa đủ cấu trúc để AI có thể suy luận, vừa đủ linh hoạt để thích ứng với sự đa dạng ngoài thực tế. Các mô tả bảng phải đủ chính xác để dẫn hướng cho tác nhân, đồng thời vẫn có thể chỉnh sửa khi sản phẩm tiếp tục phát triển. Trở ngại thứ hai là độ chính xác. Khi LLM được dùng như bộ chuyển đổi từ ngôn ngữ tự nhiên sang SQL, rủi ro “ảo giác” xuất hiện gần như mặc định: mô hình có thể tạo ra câu SQL hợp lệ về mặt cú pháp nhưng trả về kết quả sai, hoặc hiểu sai thuật ngữ nghiệp vụ theo những cách rất khó phát hiện. Với một sản phẩm lấy phân tích dữ liệu đáng tin cậy làm giá trị cốt lõi, độ chính xác không phải yếu tố phụ mà là điều kiện tiên quyết. Nếu truy vấn SQL tạo ra kết quả không nhất quán hoặc không chính xác, sản phẩm sẽ không thể sử dụng được, dù giao diện có trực quan đến đâu. Khách hàng cần một nguyên mẫu đủ thuyết phục để chứng minh cách tiếp cận là đúng đắn trước khi đầu tư tiếp vào phát triển toàn diện.

Giải pháp

Gradion tham gia với một đội ngũ ba người gồm một Cố vấn Kỹ thuật, một Quản lý Dự án/Chủ sản phẩm và một Kỹ sư AI, trong một sprint khám phá và xây dựng nguyên mẫu kéo dài tám tuần. Đội ngũ bắt đầu bằng một đợt phân tích hiện trạng hệ thống thông tin (IS-Status Analysis), nhằm đánh giá môi trường dữ liệu hiện tại, hiểu cấu trúc lược đồ ERP và xác định những điểm rủi ro lớn nhất liên quan đến độ chính xác và tính nhất quán. Kiến trúc dữ liệu được xây dựng theo mô hình kết hợp giữa một cơ sở dữ liệu SQL chính và một cơ sở dữ liệu vector phụ trợ. Dữ liệu đã được ẩn danh được di chuyển vào môi trường SQL của nguyên mẫu. Cơ sở dữ liệu vector đảm nhiệm một vai trò rất cụ thể: lưu trữ các ví dụ để tác nhân có thể truy xuất trong quá trình sinh truy vấn, từ đó cải thiện độ chính xác bằng ngữ cảnh thay vì chỉ dựa vào khả năng suy luận tổng quát của LLM. Vấn đề độ chính xác được xử lý bằng một cách tiếp cận nhiều lớp. Các ví dụ trong vector database cung cấp nền ngữ cảnh; mô tả bảng giúp tác nhân có một bộ từ vựng rõ ràng cho đúng lược đồ; còn prompt có cấu trúc hướng dẫn quá trình suy luận từng bước khi xây dựng truy vấn. Sự kết hợp này được thiết kế để giảm thiểu “ảo giác” trong quá trình sinh SQL và xử lý đúng các khác biệt ngữ nghĩa mà người dùng nghiệp vụ thực sự quan tâm, chẳng hạn phân biệt chính xác giữa “đơn đặt hàng” và “mua hàng” như hai khái niệm riêng biệt trong mô hình dữ liệu nền. Nguyên mẫu cuối cùng có một giao diện trò chuyện cho phép người dùng nhập truy vấn bằng ngôn ngữ tự nhiên, sinh ra SQL phù hợp với lược đồ bên dưới và trình bày kết quả theo định dạng dễ tiếp cận hơn với người dùng không chuyên kỹ thuật, bao gồm cả lớp biên tập kết quả khi cần thiết.