IBM Granite 3.2: Nâng cao khả năng suy luận và đa phương thức cho doanh nghiệp

IBM vừa công bố phiên bản mới nhất của dòng mô hình ngôn ngữ lớn (LLM) Granite, mang tên Granite 3.2, tại sự kiện ngày 26 tháng 2 năm 2025. Phiên bản này tập trung vào việc cung cấp các giải pháp AI nhỏ gọn, hiệu quả và thực tiễn cho doanh nghiệp.

Granite 3.2 giới thiệu khả năng suy luận theo chuỗi tư duy (chain-of-thought reasoning), giúp mô hình có thể phân tích và giải quyết các vấn đề phức tạp theo từng bước logic. Điều này giúp cải thiện đáng kể khả năng xử lý các tác vụ yêu cầu suy luận nhiều bước, tính toán và ra quyết định. Khả năng này có thể được bật hoặc tắt tùy theo nhu cầu, giúp tối ưu hóa tài nguyên tính toán.

Credit: ZDNET

Granite 3.2 còn bao gồm mô hình ngôn ngữ thị giác (VLM) mới, được thiết kế đặc biệt cho các tác vụ hiểu tài liệu. Mô hình này có hiệu suất tương đương hoặc vượt trội so với các mô hình lớn hơn nhiều như Llama 3.2 11B và Pixtral 12B trên các tiêu chuẩn doanh nghiệp quan trọng như DocVQA, ChartQA, AI2D và OCRBench. IBM đã sử dụng bộ công cụ mã nguồn mở Docling để xử lý 85 triệu tệp PDF và tạo ra 26 triệu cặp câu hỏi-trả lời tổng hợp, nhằm nâng cao khả năng xử lý các quy trình công việc phức tạp liên quan đến tài liệu.

Granite 3.2 cung cấp các tùy chọn kích thước nhỏ gọn cho các mô hình an toàn Granite Guardian, duy trì hiệu suất của các mô hình Granite 3.1 Guardian trước đó nhưng giảm kích thước xuống 30%. Các mô hình Granite 3.2 cũng giới thiệu tính năng mới gọi là “tự tin bằng lời nói” (verbalized confidence), cung cấp đánh giá rủi ro tinh tế hơn và thừa nhận sự mơ hồ trong giám sát an toàn.

Tất cả các mô hình Granite 3.2 đều được phát hành dưới giấy phép Apache 2.0, cho phép sử dụng mã nguồn mở. Các mô hình này hiện có sẵn trên các nền tảng như IBM watsonx.ai, Hugging Face, Ollama, LM Studio và sắp tới là RHEL AI 1.5. Điều này mang lại các khả năng tiên tiến cho doanh nghiệp và cộng đồng mã nguồn mở.

Với Granite 3.2, IBM tiếp tục khẳng định cam kết của mình trong việc cung cấp các mô hình AI nhỏ gọn, hiệu quả và thực tiễn cho doanh nghiệp. Những cải tiến về khả năng suy luận và đa phương thức giúp Granite 3.2 trở thành một công cụ mạnh mẽ, đáp ứng nhu cầu ngày càng cao của các doanh nghiệp trong việc xử lý các tác vụ phức tạp và yêu cầu cao về hiệu suất.