Khởi nghiệp Phân tích Dữ liệu AI: Nguyên mẫu phân tích dữ liệu AI hoạt động được bàn giao trong 8 tuần. Đạt độ chính xác truy vấn SQL trên 80%.

Thách thức

Trước khi cam kết phát triển sản phẩm hoàn chỉnh, công ty cần trả lời một câu hỏi cốt lõi: liệu phương pháp kỹ thuật có khả thi? Hai thách thức cụ thể đã cản trở việc biến ý tưởng thành một sản phẩm có thể xây dựng được. Thách thức đầu tiên là tích hợp mô hình dữ liệu. Các hệ thống ERP, vốn là nguồn dữ liệu mà tác nhân AI cần truy vấn, chứa lượng lớn dữ liệu được tổ chức theo các lược đồ rất đa dạng tùy thuộc vào nhà cung cấp và cách triển khai. Việc xây dựng một tác nhân AI có thể hoạt động đáng tin cậy trên các lược đồ này đòi hỏi một thiết kế lược đồ mô hình vừa đủ cấu trúc để AI có thể xử lý, vừa đủ linh hoạt để thích ứng với sự đa dạng thực tế của ERP. Các mô tả bảng phải đủ chính xác để hướng dẫn tác nhân, đồng thời vẫn có thể sửa đổi khi sản phẩm phát triển. Thách thức thứ hai là độ chính xác. Các mô hình ngôn ngữ lớn (LLM) hoạt động như bộ chuyển đổi ngôn ngữ tự nhiên sang SQL thường tiềm ẩn rủi ro "ảo giác" (hallucination), vì chúng có thể tạo ra mã SQL hợp lệ về mặt cú pháp nhưng trả về kết quả sai, hoặc hiểu sai thuật ngữ kinh doanh theo những cách khó nhận biết. Đối với một sản phẩm mà giá trị cốt lõi là phân tích dữ liệu đáng tin cậy, độ chính xác không phải là mối quan tâm thứ yếu mà là yếu tố then chốt. Việc tạo ra kết quả SQL không nhất quán hoặc không chính xác sẽ khiến sản phẩm không thể sử dụng được, bất kể giao diện có trực quan đến đâu. Khách hàng cần một nguyên mẫu chứng minh phương pháp tiếp cận là đúng đắn trước khi đầu tư vào phát triển sản phẩm hoàn chỉnh.

Giải pháp

Gradion đã hợp tác với một đội ngũ ba chuyên gia, bao gồm một Cố vấn Kỹ thuật, một Quản lý/Chủ sản phẩm (PM/PO) và một Kỹ sư AI, trong một đợt chạy nước rút khám phá và xây dựng nguyên mẫu kéo dài tám tuần. Đội ngũ bắt đầu với Phân tích Hiện trạng Hệ thống Thông tin (IS-Status Analysis), đánh giá môi trường dữ liệu hiện tại, tìm hiểu cấu trúc lược đồ ERP và xác định các rủi ro về độ chính xác và tính nhất quán nghiêm trọng nhất. Kiến trúc dữ liệu kết hợp cơ sở dữ liệu SQL chính với cơ sở dữ liệu Vector phụ. Dữ liệu đã được ẩn danh được di chuyển vào cơ sở dữ liệu SQL nguyên mẫu. Cơ sở dữ liệu Vector phục vụ một mục đích cụ thể là lưu trữ các ví dụ mà tác nhân có thể truy xuất trong quá trình tạo truy vấn để cải thiện độ chính xác thông qua ngữ cảnh, thay vì chỉ dựa vào khả năng suy luận tổng quát của LLM. Độ chính xác được giải quyết thông qua phương pháp tinh chỉnh đa lớp: các ví dụ vector cung cấp nền tảng ngữ cảnh, mô tả bảng cung cấp cho tác nhân một bộ từ vựng chính xác cho lược đồ cụ thể, và lời nhắc có cấu trúc hướng dẫn quá trình suy luận từng bước của tác nhân trong việc xây dựng truy vấn. Sự kết hợp này được thiết kế để giảm thiểu "ảo giác" (hallucination) trong quá trình tạo SQL và xử lý các khác biệt ngữ nghĩa mà người dùng nghiệp vụ quan tâm, ví dụ, phân biệt chính xác giữa “đơn đặt hàng” (orders) và “mua hàng” (purchases) như những khái niệm riêng biệt trong mô hình dữ liệu cơ bản. Nguyên mẫu cuối cùng có giao diện trò chuyện có thể chấp nhận các truy vấn ngôn ngữ tự nhiên, xây dựng SQL chính xác dựa trên lược đồ cơ bản và trình bày kết quả, với việc biên tập kết quả khi thích hợp, dưới định dạng dễ tiếp cận cho người dùng không chuyên về kỹ thuật.