AI vận hành ngay nơi dữ liệu của bạn tồn tại

Hầu hết các nhà cung cấp AI tạo sinh đều có cùng một câu trả lời cho mọi vấn đề: hãy gửi dữ liệu của bạn lên cloud của chúng tôi. Tuy nhiên, đối với ngày càng nhiều doanh nghiệp tại Châu Âu và Châu Á, câu trả lời này là không thể chấp nhận.

GDPR tạo ra trách nhiệm pháp lý đáng kể khi dữ liệu cá nhân được xử lý bởi hạ tầng đặt tại Mỹ. Các quy định như FINMA, BaFin và các quy định ngành trong tài chính và y tế đều yêu cầu rõ ràng về việc lưu trú dữ liệu. Vượt ra ngoài vấn đề tuân thủ, còn có thực tế cạnh tranh: dữ liệu khách hàng, logic định giá, và mối quan hệ với nhà cung cấp là cốt lõi tạo nên giá trị doanh nghiệp của bạn. Việc huấn luyện AI dựa trên những dữ liệu này mang lại giá trị lớn. Nhưng việc gửi chúng đến một đám mây bên thứ ba mà bạn không kiểm soát là một rủi ro mà hầu hết các ban quản trị sẽ không chấp thuận nếu vấn đề được trình bày rõ ràng.

Gradion xây dựng các hệ thống AI tạo sinh hoạt động ngay tại nơi dữ liệu của bạn tồn tại. Trên máy chủ riêng của bạn. Trên hạ tầng đám mây chủ quyền của EU - như StackIT (đám mây của Schwarz Group, được xây dựng cho các tác vụ doanh nghiệp tuân thủ GDPR), Hetzner, OVHcloud. Hoặc trong môi trường AWS hay Azure hiện có của bạn, trong các giới hạn mà bạn xác định và có thể audit. Lớp model chạy trên các LLM mã nguồn mở - Llama, Mistral, Phi - vốn đạt chuẩn production, tốc độ cao và không yêu cầu bất kỳ byte dữ liệu nào của bạn rời khỏi phạm vi kiểm soát.

Đây không phải là một hạn chế mà chúng tôi phải tìm cách khắc phục, mà là kiến trúc chúng tôi thiết kế ngay từ đầu. Kiến trúc tương tự cũng hoạt động hiệu quả cho các công ty sử dụng public cloud mà không có yêu cầu về lưu trú dữ liệu - cách tiếp cận ưu tiên chủ quyền có nghĩa là hệ thống sẽ hoạt động trong bất kỳ giới hạn nào bạn xác định, dù những giới hạn đó là do quy định hay chỉ đơn thuần là sự thận trọng.

Những Gì Chúng Tôi Xây Dựng

Xử lý tài liệu thông minh

Hợp đồng, hoá đơn, email nhà cung cấp, biểu mẫu scan, thông số kỹ thuật - các tài liệu phi cấu trúc được chuyển thành dữ liệu có cấu trúc, sẵn sàng hành động. Chúng tôi xây dựng quy trình/ pipeline phân loại, trích xuất và xác thực với schema được định nghĩa rõ ràng, kèm cơ chế xử lý ngoại lệ (routing) để con người xem xét. Quy trình chạy bên trong hạ tầng của bạn; đầu ra tích hợp trực tiếp với ERP, CMS hoặc hệ thống lưu trữ của bạn. Với một nhà cung cấp bảo hiểm tại DACH, chúng tôi xây dựng pipeline xử lý hàng nghìn tài liệu yêu cầu bồi thường mỗi tháng, phân loại tự động, trích xuất trường dữ liệu và đinh tuyến ngoại lệ, chạy hoàn toàn trong môi trường Azure hiện có của khách hàng.

Chuyển đổi ngôn ngữ tự nhiên thành dữ liệu

Người dùng doanh nghiệp có thể đặt câu hỏi cho cơ sở dữ liệu (database) của họ bằng ngôn ngữ tự nhiên mà không cần SQL, không cần thông qua chuyên viên phân tích dữ liệu. Chúng tôi xây dựng kiến trúc agent kết nối các truy vấn ngôn ngữ tự nhiên với các nguồn dữ liệu có cấu trúc, với độ chính xác là ưu tiên kỹ thuật hàng đầu. Đối với procelo tosca, chúng tôi đã cung cấp một prototype trong 8 tuần, đạt độ chính xác truy vấn SQL hơn 80% trên các schema ERP phức tạp, xử lý được các khác biệt ngữ nghĩa - như "đơn hàng" so với "mua hàng", "trả hàng" so với "ghi nợ" - những điều mà các phương pháp LLM đơn giản thường xuyên thất bại.

Truy xuất tri thức nội bộ

Các LLM được huấn luyện dựa trên tài liệu nội bộ của bạn: chính sách, danh mục sản phẩm, lịch sử hỗ trợ, hướng dẫn kỹ thuật. Chúng tôi thiết kế kiến trúc truy xuất - chiến lược phân đoạn, mô hình nhúng, kho vector, lắp ráp ngữ cảnh (context assembly) - để các câu trả lời có thể truy xuất nguồn gốc từ tài liệu gốc và model không thể "ảo giác" vượt ra ngoài những gì cơ sở tri thức của bạn chứa đựng. Đối với một nhà điều hành logistics châu Âu, chúng tôi đã xây dựng một hệ thống truy xuất trên hơn 12.000 tài liệu nội bộ, giúp giảm thời gian leo thang hỗ trợ và chạy hoàn toàn tại chỗ mà không cần gọi API bên ngoài.

Tự động hóa nhà cung cấp và nghiệp vụ văn phòng

Xử lý hóa đơn, phân loại email, đối chiếu đơn đặt hàng, quy trình giao tiếp với nhà cung cấp. Cùng một quy trình xử lý 100 hóa đơn mỗi ngày theo cách thủ công, nay có thể xử lý 10.000 hóa đơn với một agent với độ nhất quán cao hơn và nhật ký kiểm toán đầy đủ. Nhà bán lẻ đồ nội thất thiết kế hàng đầu Đức đã giảm 70% công việc giao tiếp thủ công với nhà cung cấp trong một dự án kéo dài 8 tuần bằng cách áp dụng phương pháp này.

Quản trị AI và giám sát đầu ra

Hệ thống LLM vận hành thực tế cần được trang bị công cụ giám sát tương tự như bất kỳ phần mềm sản xuất nào khác. Chúng tôi tích hợp tính năng theo dõi độ trễ, đo lường chất lượng đầu ra, chấm điểm độ chính xác truy xuất và bộ kiểm thử hồi quy vào mọi triển khai. Khi mô hình hoặc dữ liệu cơ bản thay đổi, bạn sẽ nắm bắt được thông tin trước cả người dùng của mình. Đối với các môi trường chịu quy định chặt chẽ, chúng tôi ghi lại toàn bộ chuỗi kiểm toán từ truy vấn của người dùng đến đầu ra của mô hình và tài liệu nguồn. Đây không phải là một tiện ích bổ sung riêng biệt – mà là một phần không thể thiếu trong mọi hệ thống chúng tôi triển khai.

Không phải mọi vấn đề tự động hóa đều cần đến AI.

Nhiều quy trình thủ công như quy trình phê duyệt, định tuyến tài liệu (document routing), nhập liệu từ biểu mẫu có cấu trúc, thông báo trạng thái, sẽ hiệu quả hơn khi sử dụng công cụ tự động hóa quy trình làm việc hoặc tích hợp, thay vì LLM. Nếu quá trình đánh giá xác định các quy trình mà tự động hóa xác định là giải pháp phù hợp, chúng tôi sẽ đề xuất hướng đi đó. Gradion xây dựng cả hai: hệ thống ứng dụng AI khi cần đến trí tuệ, và tự động hóa có cấu trúc khi độ tin cậy và tốc độ là yếu tố then chốt. Quá trình đánh giá sẽ xác định phương pháp nào phù hợp với từng trường hợp sử dụng.

Vấn đề Dữ liệu Luôn Được Ưu Tiên Hàng Đầu

Trước khi bắt đầu bất kỳ công việc nào liên quan đến mô hình, chúng tôi đánh giá dữ liệu hiện có, mức độ sạch của dữ liệu và nơi lưu trữ. Đây là yếu tố quyết định liệu một hệ thống AI có thể vận hành thực tế hay chỉ dừng lại ở bản demo.

Một agent được xây dựng trên dữ liệu sạch, có cấu trúc và dễ truy cập sẽ mang lại kết quả đầu ra có thể dự đoán được. Ngược lại, một agent được xây dựng trên các hệ thống phân mảnh với xung đột nhận dạng chưa được giải quyết và schema không nhất quán sẽ tạo ra lỗi, "ảo giác" và cuối cùng bị ngừng hoạt động. Chúng tôi đã chứng kiến cả hai kết quả này.

Nội dung đánh giá bao gồm: lập bản đồ các nguồn dữ liệu, đánh giá chất lượng và mức độ đầy đủ, xác định những thiếu sót có thể ảnh hưởng đến độ chính xác của mô hình, và đánh giá các điểm tích hợp giữa hệ thống hiện có với AI. Kết quả là một báo cáo sẵn sàng với đầy đủ dữ liệu, cho bạn biết những gì có thể xây dựng ngay, những gì cần công việc kỹ thuật dữ liệu trước tiên, và kỳ vọng thực tế về độ chính xác và hiệu suất cho từng use case.

Khi dữ liệu chưa sẵn sàng: Chúng tôi giúp bạn khắc phục. Kỹ thuật dữ liệu (data engineering) giúp chuẩn hóa schema, loại bỏ trùng lặp, giải quyết nhận dạng, xây dựng data pipeline - thường là khoản đầu tư mang lại hiệu quả cao nhất trước khi bất kỳ công việc AI nào bắt đầu. Chúng tôi xác định đây là một giai đoạn riêng biệt với các kết quả cụ thể, thay vì gộp chung vào dự án AI khiến nó trở nên không rõ ràng và khó quản lý.

Khi nào nên Xây dựng AI Tùy chỉnh – và Khi nào Không

Không phải mọi AI use case đều cần một hệ thống tùy chỉnh. Các sản phẩm có sẵn như Microsoft Copilot, Google Gemini for Workspace, các công cụ AI SaaS chuyên biệt theo ngành đã giải quyết tốt nhiều vấn đề phổ biến. Chi phí xây dựng tùy chỉnh chỉ được cân nhắc khi một hoặc nhiều điều kiện sau đây đúng:

• Dữ liệu của bạn không thể rời khỏi hạ tầng của bạn vì lý do quy định hoặc cạnh tranh. Các sản phẩm AI thương mại xử lý dữ liệu trên máy chủ của riêng họ. Nếu điều này không thể chấp nhận được, giải pháp tùy chỉnh là lựa chọn duy nhất.
• Trường hợp sử dụng đòi hỏi tích hợp sâu với dữ liệu độc quyền của bạn như schema ERP, cơ sở tri thức nội bộ, mạng lưới nhà cung cấp, nơi mà một công cụ đa năng không thể đạt được ngưỡng chính xác mà doanh nghiệp yêu cầu.
• Bạn cần kiểm soát mô hình, các câu lệnh (prompts), logic truy xuất và việc giám sát. Các sản phẩm thương mại thường được thiết kế để không minh bạch. Trong các môi trường chịu quy định, sự thiếu minh bạch là một rủi ro về tuân thủ.

Nếu không có điều nào trong số này áp dụng, một sản phẩm thương mại có thể là lựa chọn phù hợp và chúng tôi sẽ thẳng thắn cho bạn biết điều đó. Giai đoạn đánh giá của Gradion được thiết kế để trả lời câu hỏi này trước khi cam kết xây dựng bất kỳ giải pháp nào.

Kết Quả Thực Tế

procelo tosca – Độ chính xác SQL đạt hơn 80% trong 8 tuần.

Công ty cần người dùng nghiệp vụ có thể truy vấn dữ liệu ERP phức tạp bằng ngôn ngữ tự nhiên mà không cần phụ thuộc vào các nhà phân tích dữ liệu. Gradion đã cung cấp một prototype hoạt động trong 8 tuần, đạt độ chính xác truy vấn SQL hơn 80% trên các schema có độ phức tạp ngữ nghĩa mà các phương pháp LLM chung thường xuyên thất bại như phân biệt đơn hàng với giao dịch mua, hàng trả lại với khoản tín dụng, và xử lý các phép nối đa bảng đòi hỏi hiểu biết chuyên sâu về lĩnh vực. Hệ thống này chạy trong hạ tầng của khách hàng mà không có bất kỳ phụ thuộc API bên ngoài nào.

Nhà bán lẻ nội thất Đức - giảm 70% công việc thủ công với nhà cung cấp

Nhà bán lẻ nội thất thiết kế hàng đầu Đức từng xử lý thủ công giao tiếp nhà cung cấp, đơn đặt hàng và đối chiếu dữ liệu giữa các bộ phận mua sắm, kho bãi và tài chính. Gradion đã xây dựng một quy trình quản lý nhà cung cấp tự động trong 8 tuần. Kết quả là công việc thủ công giảm 70%. Sự phối hợp giữa các nhóm được cải thiện nhờ hệ thống đảm bảo tính nhất quán của dữ liệu trên cả ba chức năng. Quy trình này hiện đang vận hành như một hệ thống sản xuất thực thụ, không phải dự án thử nghiệm.

Nhà cung cấp bảo hiểm DACH - Xử lý tài liệu yêu cầu bồi thường quy mô lớn.

Một nhà cung cấp bảo hiểm chịu sự quản lý chặt chẽ cần tự động hóa việc phân loại và trích xuất tài liệu yêu cầu bồi thường, đồng thời đảm bảo toàn bộ dữ liệu được lưu trữ trong môi trường Azure hiện có của họ. Gradion đã xây dựng một quy trình xử lý hàng ngàn tài liệu mỗi tháng, với khả năng phân loại tự động, trích xuất trường dữ liệu và định tuyến ngoại lệ có sự can thiệp của con người. Không có dữ liệu nào rời khỏi hạ tầng của khách hàng. Nhật ký kiểm toán đáp ứng đầy đủ các yêu cầu về tài liệu theo quy định.

Nhà điều hành logistics châu Âu - Truy xuất thông tin nội bộ từ hơn 12.000 tài liệu.

Một công ty logistics hoạt động tại nhiều quốc gia châu Âu cần hệ thống hóa các chính sách, quy trình nội bộ và tài liệu kỹ thuật để có thể tìm kiếm và trả lời bằng ngôn ngữ tự nhiên. Gradion đã xây dựng một hệ thống tăng cường truy xuất (RAG) dựa trên hơn 12.000 tài liệu, vận hành hoàn toàn tại chỗ (on-premise). Hệ thống này có khả năng truy xuất mọi câu trả lời về tài liệu gốc và không thể tạo ra phản hồi nằm ngoài cơ sở tri thức. Thời gian xử lý các yêu cầu hỗ trợ đã giảm đáng kể.

Nhiều dự án của chúng tôi mang tính bảo mật. Thông tin tham khảo sẽ được cung cấp theo thỏa thuận bảo mật (NDA).

AI Kết Nối Với Các Dịch Vụ Khác Của Gradion Như Thế Nào

Các dự án AI hiếm khi tồn tại độc lập. Đánh giá mức độ sẵn sàng dữ liệu có thể cho thấy các hệ thống nền tảng cần được hiện đại hóa trước khi AI có thể mang lại giá trị - đây là một dự án hiện đại hóa hệ thống cũ hoặc xây dựng lộ trình chuyển đổi. Một CTO bán thời gian (fractional CTO) có thể xác định AI là ưu tiên chiến lược và cần một đội ngũ để triển khai. Một chương trình giảm technical debt có thể phát hiện ra các quy trình mà việc tự động hóa sẽ loại bỏ ngay từ gốc, thay vì chỉ tái cấu trúc (refactor) xung quanh nó.

Bộ phận AI của Gradion hoạt động trong một tổ chức triển khai bao gồm kiến trúc, kỹ thuật và lãnh đạo. Khi một dự án AI yêu cầu công việc nằm ngoài lớp AI, phản ứng của chúng tôi là tức thì và phối hợp chặt chẽ, không phải chuyển giao cho một nhà cung cấp khác.

Cấu Trúc Hợp Tác

Đánh Giá Mức Độ Sẵn Sàng Dữ Liệu: 2–3 tuần.

Chúng tôi đánh giá tổng quan dữ liệu của bạn, phân tích chất lượng và khả năng truy cập, xác định các AIuse case mang lại giá trị cao nhất cho dữ liệu cụ thể của bạn, và cung cấp báo cáo với khuyến nghị rõ ràng về việc tự xây dựng (build) hay mua giải pháp (buy). Nếu khuyến nghị là sử dụng sản phẩm thương mại thay vì xây dựng tùy chỉnh, chúng tôi sẽ thẳng thắn cho bạn biết. Đây là một dự án có chi phí cố định.

Dự Án Thử Nghiệm (PoC): 6–10 tuần.

Một prototype hoạt động được triển khai trong hạ tầng của bạn, không phải một bản trình chiếu hay bản demo trên notebook. PoC tập trung vào một use case duy nhất, được xác định rõ ràng với các ngưỡng độ chính xác có thể đo lường được và được thống nhất trước khi bắt đầu xây dựng. Kết quả là một hệ thống mà bạn có thể đánh giá trong điều kiện thực tế, cùng với ước tính rõ ràng về chi phí và thời gian triển khai sản xuất. Đây là một dự án có chi phí cố định.

Triển Khai Production: 3–6 tháng.

Triển khai đầy đủ hệ thống AI vào môi trường production của bạn bao gồm quản trị, giám sát, tích hợp với các hệ thống hiện có và các công cụ vận hành cần thiết để đảm bảo độ tin cậy liên tục. Bao gồm một giai đoạn bàn giao để đội ngũ của bạn tiếp quản quyền sở hữu hệ thống. Phạm vi dự án được xác định dựa trên độ phức tạp của hệ thống, yêu cầu tích hợp và khối lượng dữ liệu.

Giám Sát và Tối Ưu Hóa Liên Tục

Dành cho các tổ chức muốn Gradion duy trì các hệ thống AI trên production sau khi triển khai. Dịch vụ này bao gồm giám sát hiệu suất mô hình, theo dõi độ chính xác truy xuất, phát hiện lỗi hồi quy và tối ưu hóa định kỳ khi dữ liệu và mô hình sử dụng của bạn thay đổi. Một kỹ sư chuyên trách sẽ đảm bảo tính liên tục cho hệ thống của bạn. Đây là một dịch vụ theo hình thức phí duy trì hàng tháng.