Walmart chính thức triển khai AI Foundry – nhận hơn 3 triệu truy vấn mỗi ngày

Walmart không chỉ dừng lại ở việc ứng dụng AI từ bên ngoài, mà đã quyết định tự phát triển nền tảng riêng để phục vụ hơn 1,5 triệu nhân viên của mình. Được gọi là Element, nền tảng này đóng vai trò như một “foundry” (xưởng sản xuất) cho các ứng dụng AI nội bộ, giúp Walmart trở nên hoàn toàn chủ động trong việc tiếp cận những mô hình ngôn ngữ lớn (LLMs) tốt nhất trên thị trường.

Element không còn là một dự án thử nghiệm: Nó đã được dùng để vận hành ít nhất năm ứng dụng sản xuất thực sự, xử lý hơn 3 triệu truy vấn mỗi ngày từ khoảng 900.000 người dùng hàng tuần. Đáng chú ý, quy trình lập ca làm việc cho người quản lý đã được tối ưu hóa: Thay vì mất 90 phút như trước, giờ đây chỉ còn 30 phút nhờ AI tự động phân tích dữ liệu và tối ưu lịch trình – một minh chứng cho hiệu quả mà xưởng AI này mang lại.

Ảnh: Open to Debate

Element được thiết kế có khả năng lựa chọn LLM tự động, tùy vào từng trường hợp sử dụng, để đạt được sự cân bằng giữa độ chính xác và chi phí. Nhờ vậy Walmart không phụ thuộc vào bất kỳ nhà cung cấp AI nào cụ thể, mà vẫn có thể cập nhật nhanh với các mô hình mới, giữ vị thế cạnh tranh.

Điểm đặc biệt của Element nằm ở chính triết lý sản xuất: thay vì xem mỗi ứng dụng là một dự án riêng biệt, mọi thứ đều vận hành theo chu trình sản xuất chuẩn, giống như nhà máy hiện đại. Mỗi công cụ đều kế thừa “kinh nghiệm” trước đó bao gồm các module hạ tầng, pipeline dữ liệu, cơ chế phản hồi giúp giảm tối đa thời gian và sức lực cần bỏ ra cho triển khai ứng dụng mới.

Dữ liệu vận hành – từ chuỗi cung ứng đến hành động tại cửa hàng đều được liên kết trên nền tảng này, giúp ứng dụng AI dựa trên nguồn dữ liệu đồng nhất, được tối ưu hóa liên tục thông qua các phản hồi thực tế từ người dùng. Điều này không chỉ tăng tốc độ triển khai mà còn đảm bảo chất lượng và khả năng mở rộng.

Tóm lại, Walmart đã tạo ra một mô hình “foundry” AI nội bộ đầy tham vọng – một công xưởng AI liên tục cải tiến, sản xuất nhanh chóng, có khả năng tích hợp đa dạng LLM, và sử dụng dữ liệu thực tế để hoàn thiện sản phẩm. Đây chính là hướng đi mà nhiều doanh nghiệp lớn đang dõi theo, khi họ nhận ra rằng ứng dụng AI hiệu quả không chỉ đến từ công nghệ, mà còn cần sự chủ động trong thiết kế nền tảng và quy trình phát triển.