Cách nhìn theo mô hình 3 lớp để triển khai giải pháp AI không "vỡ trận" sau 6 tháng.

Giải pháp AI không rủi ro vì công nghệ, mà vì quyết định quản trị!

Theo các thống kê gần đây thì 80% doanh nghiệp bắt đầu AI bằng một POC nhỏ. Và sự thật thú vị là trong khoản 4–6 tháng triển khai sử dụng thực tế thì phát hiện các vấn đề:

dữ liệu bị lộ,
chi phí tăng không kiểm soát,
hệ thống phụ thuộc vào 1 vendor,
giảm độ chính xác và khả năng đáp ứng khi nhiều dữ liệu mới,

Vấn đề không nằm ở mô hình, mà nằm ở cách nhìn sai ở giải pháp: chỉ nhìn layer ứng dụng, bỏ qua layer dữ liệu và hạ tầng.

Tôi đã giới thiệu mô hình 3 lớp rất chi tiết và mang lại một hiệu quả nhất định khi triển khai, có thể đọc thêm ở đây. [mô hình 3 lớp]

MÔ HÌNH 3 LỚP TRIỂN KHAI AI DOANH NGHIỆP:

Lớp 1 – Application (Ứng dụng AI)

Chatbot, AI nội bộ, Automation, ...

Lớp 2 – Data (Dữ liệu & quyền truy cập)

Dữ liệu nội bộ, knowledge base, logs, quyền truy cập người dùng.

Lớp 3 – Infrastructure (Hạ tầng & mô hình)

Cloud, VPS, Model provider, API, GPU, Network, Bảo mật.

3 rủi ro lớn nhất đều xuất phát từ việc doanh nghiệp không kiểm soát đồng bộ cả 3 lớp này khi ứng dụng một sản phẩm vào thực tiễn ./.

RỦI RO 1: RÒ RỈ DỮ LIỆU NỘI BỘ (Data Governance Failure)

Những biểu hiện dễ nhận thấy khi đội ngũ kỹ sư nội bộ tự xây dựng và triển khai giải pháp AI cho doanh nghiệp:

AI nội bộ trả lời "lộ thông tin phòng ban khác".
Không rõ dữ liệu nào được phép đưa vào model.
Nhân viên copy hợp đồng, báo giá, kế hoạch chiến lược vào ChatGPT.
Không có kiến trúc, cơ chế kiểm soát rõ ràng dữ liệu nội bộ (bảo mật, riêng tư phòng ban, cấp độ chức vụ truy cập),
Không kiểm soát, theo dõi quyền truy cập từ nhân sự,

Một số lý do có thể được liệt kê như:

Chatbot được tích hợp quá rộng, mà kiến trúc thiết kế chấp vả, rườm rà, gây lỗ hỏng trong kiến trúc phần mềm.
Không phân quyền theo role, cấp độ chức vụ, phòng ban.
Không có audit log truy cập,
Sản phẩm AI mà được xây dựng chỉ hướng đến chạy là được, không quan tâm quá nhiều vấn đề khác,
Dữ liệu thì không kiểm soát, phân loại trước, và kiến trúc phần mềm không được quản lý kiểm soát hoàn toàn các loại dữ liệu: công cộng, nội bộ từng phòng ban, hay bảo mật chỉ được đọc bởi chức vụ cao.
Không có cơ chế che đậy các thông tin nhạy cảm, tranh chấp ví dụ Hợp đồng,
Không có cơ chế bảo mật dữ liệu nhạy cảm khi gửi sang API cho bên khác tích hợp,
Không có các ràng buộc hợp đồng về xử lý dữ liệu DPA rõ ràng với các đơn vị cung cấp giải pháp tích hợp,
Chưa có cơ chế triển khai chế độ riêng tư, sandbox trước khi open public.

=> Hệ quả ảnh hưởng tới kinh doanh, liên quan đến vấn đề pháp lý, mất lợi thế kinh doanh, niềm tin khách hàng và cả mất kiểm soát nội bộ trong chính doanh nghiệp của bạn.

Triển khải Sản phẩm AI tốt cần kiểm soát Dữ liệu hoàn toàn!

RỦI RO 2: CHI PHÍ VƯỢT KIỂM SOÁT

Xây dựng và triển khai một Giải pháp/ Sản phẩm AI, ngoài đáp ứng vấn đề cốt lõi:

Giải pháp chạy được, chạy đúng theo ý niệm định hướng xây dựng ban đầu,
Giải pháp hoạt động ổn định,
Đáp ứng khả năng mở rộng với lượng dữ liệu linh hoạt nhiều định dạng khác nhau
Đáp ứng không bị mất kiểm soát thông tin khi lượng dữ liệu nhiều, từ nhiều nguồn,
Giải pháp đáp ứng vấn đề bảo mật về đối tượng tiếp cận và loại dữ liệu bảo mật riêng biệt,

mà còn phải vừa đảm bảo hiệu quả mà vừa tối ưu về chi phí phải bỏ ra để vận hành hệ thống/ phần mềm/ giải pháp AI đó. Dễ nhận thấy một số biểu hiện như:

Chi phí trả cho API gấp 3-5 lần sau 3 tháng vận hành.
Sử dụng model lớn cho tất cả để giải quyết vấn đề không lớn lắm là hướng tiếp cận không phù hợp, gây lãng phí về hạ tầng triển khai, ví dụ điển hình mô hình với số lượng parameter nhiều 7B, 12B, 128B, ... thì cấu hình máy chủ vận hành nó khác nhau để có thể tải (load) mô hình đó lên và hoạt động mượt mà. "Đừng dùng dao mổ trâu để thịt gà"!
Không có giám sát, theo dõi truy cập theo các phòng ban
Không giám sát và giới hạn token trong quá trình vận hành sản phẩm AI
Không tối ưu prompt và dữ liệu đầu vào,
Không tối ưu số lần gọi prompt,
Thiếu tiền retrieval (xử lý dữ liệu), gửi context quá nhiều dẫn tới số token (dữ liệu) đưa cho các API quá lớn, gây chi phí tăng cấp số nhân,
Không tách các use-case theo độ phức tạp từng task riêng, nhu cầu riêng, yêu cầu riêng,
Lựa chọn model API đắt tiền, chưa chắc cứ phải model đắc tiền sẽ ra kết quả tốt hơn, vì nhiều model phù hợp bài toán cụ thể, lựa chọn phù hợp theo từng bài toàn cụ thể.
Chưa có chiến lược rõ ràng về thử nghiệm, tối ưu, scale lớn.
Không có bảng giám sát chi phí vận hành hệ thống gồm quản trị khâu nào ngốn chi phí lớn.

Hệ quả, doanh nghiệp ồ ạt triển khai giải pháp AI để rồi nhận kết đắng ROI giảm dần, CFO quá tải với các bill hàng tháng phải yêu cầu dừng dự án, làm thay đổi nhận định về AI trong việc đem lại hiệu quả cho doanh nghiệp!

Xây dựng và triển khai giải pháp AI cần kiến trúc chi phí ngay từ ban đầu, kiểm soát để tìm được hướng phù hợp trong quá trình xây dựng và triển khai thử nghiệm.

RỦI RO 3: PHỤ THUỘC VÀO NHÀ CUNG CẤP HOẶC MÔ HÌNH DUY NHẤT

Toàn bộ hệ thống giải pháp AI được triển khai dựa vào 1 API duy nhất ví dụ chỉ dùng ChatGPT API, hay chỉ dùng Gemini API, ...

Prompt, workflow, định đạng dữ liệu phụ thuộc vào 1 mô hình cố định.
Không có phương án dự phòng thay thế nếu chi phí vượt mức hoặc chính sách thay đổi,
Không có chiến lược giải pháp AI hỗ trợ được nhiều mô hình, nhà cung cấp API khác nhau,
Thay vì code cố định với một SDK bởi một nhà cung cấp như SDK riêng Chatgpt, Gemini,... thay vào đó nên xây dựng lớp trừu tượng hoá bên trên để luôn sẵn sàng đổi nhà cung cấp API mà không sợ gây ra lỗi.
Định dạng dữ liệu embedding chỉ phù hợp với 1 nhà cung cấp API cố định, mà không lưu dữ liệu thôi đã chuẩn hoá để sẵn sàng sử dụng cho định dạng nhà cung cấp API khác.

Giải pháp AI cần được xây dựng để khả năng tương thích mở rộng, và kiểm soát từ nền móng!

Bài toán đặt ra, không phải là cứ chạy theo áp dụng giải pháp AI vào doanh nghiệp, mà quên đi việc phân tích nhu cầu cụ thể, bài toán cụ thể của doanh nghiệp, và xây dựng giải pháp AI trong khi không đủ khả năng kiểm soát những thứ từ bên trong, sẽ dễ dẫn đến "hậu quả" hoặc là "hiệu quả" từ giải pháp/ sản phẩm AI.

Doanh nghiệp bạn đã và đang chuyển đổi số?

Doanh nghiệp bạn đang tích cực ứng dụng AI vào vận hành hiệu quả?

Hay doanh nghiệp đang chần chờ, chưa biết triển khai thế nào? triển khai vào đâu? có giải pháp AI nào hiệu quả hay không?

Tôi sẵn sàng tư vấn Miễn Phí cho doanh nghiệp của bạn! [liên hệ]