IBM tăng cường nền tảng AI với Mixtral-8x7B để giảm độ trễ
Investing.com | Biên tập viên Rachael Rajan
Ngày đăng 29/02/2024 14:07
ARMONK, N.Y. - IBM (NYSE:IBM) đã mở rộng các dịch vụ trí tuệ nhân tạo của mình bằng cách tích hợp mô hình ngôn ngữ lớn Mixtral-8x7B (LLM) vào nền tảng dữ liệu và AI watsonx của mình. Mô hình này, được phát triển bởi Mistral AI và hiện được IBM tối ưu hóa, được báo cáo là có khả năng giảm độ trễ 35-75%, tùy thuộc vào kích thước lô và tăng thông lượng xử lý dữ liệu lên 50% so với phiên bản tiêu chuẩn.
Hiệu suất được cải thiện là do lượng tử hóa, một quá trình làm giảm kích thước mô hình và yêu cầu bộ nhớ, có thể tăng tốc độ xử lý. Sự cải tiến này dự kiến sẽ làm giảm chi phí và tiêu thụ năng lượng cho các doanh nghiệp sử dụng mô hình.
Việc tích hợp Mixtral-8x7B của IBM nhấn mạnh cam kết cung cấp một loạt các mô hình AI, bao gồm cả những mô hình được phát triển nội bộ, bởi các bên thứ ba và các tùy chọn nguồn mở. Chiến lược đa mô hình của công ty nhằm đáp ứng các nhu cầu khác nhau của khách hàng, cung cấp cho họ sự linh hoạt để mở rộng các giải pháp AI trên các chức năng kinh doanh khác nhau.
Mixtral-8x7B sử dụng mô hình thưa thớt và kỹ thuật Hỗn hợp chuyên gia để xử lý và phân tích các tập dữ liệu lớn một cách hiệu quả, cung cấp thông tin chi tiết liên quan đến ngữ cảnh. Mô hình này là một phần trong sáng kiến rộng lớn hơn của IBM nhằm cung cấp các mô hình nền tảng sẵn sàng cho doanh nghiệp trao quyền cho khách hàng tận dụng AI tạo ra để đổi mới và cải thiện kết quả kinh doanh.
Kareem Yusuf, Tiến sĩ, Phó Chủ tịch Cấp cao về Quản lý & Tăng trưởng Sản phẩm tại IBM Software, nhấn mạnh tầm quan trọng của sự lựa chọn và tính linh hoạt đối với khách hàng triển khai các mô hình AI phù hợp với yêu cầu kinh doanh cụ thể của họ. Nền tảng watsonx được thiết kế để hỗ trợ một hệ sinh thái mạnh mẽ gồm các nhà phát triển AI và lãnh đạo doanh nghiệp trong các ngành khác nhau.
Ngoài ra, trong tuần này IBM đã công bố sự sẵn có của ELYZA-japanese-Llama-2-7b, một mô hình LLM của Nhật Bản từ ELYZA Corporation, trên watsonx. Nền tảng này cũng lưu trữ các mô hình mã nguồn mở của Meta và các mô hình của bên thứ ba khác, với nhiều dự kiến sẽ được bổ sung trong những tháng tới.
Tải ứng dụng
Thông tin trong bài viết này dựa trên một tuyên bố thông cáo báo chí.
Bài viết này được tạo và dịch với sự hỗ trợ của AI và đã được biên tập viên xem xét. Để biết thêm thông tin, hãy xem Điều Kiện & Điều Khoản của chúng tôi.
Được viết bởi: Investing.com
Giao dịch các công cụ tài chính và/hoặc tiền điện tử tiềm ẩn mức độ rủi ro cao, bao gồm rủi ro mất một phần hoặc toàn bộ vốn đầu tư, và có thể không phù hợp với mọi nhà đầu tư. Giá cả tiền điện tử có độ biến động mạnh và có thể chịu tác động từ các yếu tố bên ngoài như các sự kiện tài chính, pháp lý hoặc chính trị. Việc giao dịch theo mức ký quỹ gia tăng rủi ro tài chính.
Trước khi quyết định giao dịch công cụ tài chính hoặc tiền điện tử, bạn cần nắm toàn bộ thông tin về rủi ro và chi phí đi kèm với việc giao dịch trên các thị trường tài chính, thận trọng cân nhắc đối tượng đầu tư, mức độ kinh nghiệm, khẩu vị rủi ro và xin tư vấn chuyên môn nếu cần.
Fusion Media xin nhắc bạn rằng dữ liệu có trên trang web này không nhất thiết là theo thời gian thực hay chính xác. Dữ liệu và giá cả trên trang web không nhất thiết là thông tin do bất kỳ thị trường hay sở giao dịch nào cung cấp, nhưng có thể được cung cấp bởi các nhà tạo lập thị trường, vì vậy, giá cả có thể không chính xác và có khả năng khác với mức giá thực tế tại bất kỳ thị trường nào, điều này có nghĩa các mức giá chỉ là minh họa và không phù hợp cho mục đích giao dịch. Fusion Media và bất kỳ nhà cung cấp dữ liệu nào có trên trang web này đều không chấp nhận bất cứ nghĩa vụ nào trước bất kỳ tổn thất hay thiệt hại nào xảy ra từ kết quả giao dịch của bạn, hoặc trước việc bạn dựa vào thông tin có trong trang web này.
Bạn không được phép sử dụng, lưu trữ, sao chép, hiển thị, sửa đổi, truyền hay phân phối dữ liệu có trên trang web này và chưa nhận được sự cho phép rõ ràng bằng văn bản của Fusion Media và/hoặc nhà cung cấp. Tất cả các quyền sở hữu trí tuệ đều được bảo hộ bởi các nhà cung cấp và/hoặc sở giao dịch cung cấp dữ liệu có trên trang web này.
Fusion Media có thể nhận thù lao từ các đơn vị quảng cáo xuất hiện trên trang web, dựa trên tương tác của bạn với các quảng cáo hoặc đơn vị quảng cáo đó.