Mở rộng danh mục giải pháp Dell AI Factory để tăng tốc ứng dụng AI trong DN

Với việc mở rộng danh mục giải pháp GenAI toàn diện nhất thế giới, Dell mang đến cho các doanh nghiệp (DN) nhiều lựa chọn linh hoạt để ứng dụng AI một cách triệt để.

Ảnh minh hoạ

Dell Technologies mở rộng danh mục giải pháp GenAI toàn diện nhất thế giới với những sản phẩm mới trong Dell AI Factory được “đo ni đóng giày” cho các môi trường AMD. Các giải pháp này mang đến cho DN năng lực AI tiên tiến, bao gồm khả năng mở rộng và linh hoạt tốt hơn, để duy trì khả năng cạnh tranh trong bối cảnh công nghệ không ngừng thay đổi.

Ông Arthur Lewis, Chủ tịch Nhóm Giải pháp Hạ tầng của Dell Technologies, chia sẻ: “Bằng việc tích hợp công nghệ của AMD vào các máy chủ, giải pháp và dịch vụ AI mới nhất của Dell thông qua Dell AI Factory, chúng tôi cung cấp hiệu năng và khả năng tiết kiệm điện mà mọi doanh nghiệp cần hiện tại và trong tương lai”.

Ông Forrest Norrod, Phó Chủ tịch Cấp cao kiêm Tổng Giám đốc Nhóm Giải pháp Trung tâm Dữ liệu của AMD, cho biết: "Các vi xử lý AMD EPYC và bộ tăng tốc Instinct mới nhất cung cấp cho khách hàng của Dell các giải pháp đầu cuối tân tiến với quy mô lớn. Từ đó, các DN có thể tăng tốc triển khai AI và tăng thêm sức mạnh cho hạ tầng công nghệ thông tin quan trọng. Mối quan hệ hợp tác lâu dài giữa chúng tôi và Dell tiếp tục mang đến những giải pháp tiên tiến giúp năng cao hiệu quả vận hành và tối ưu thời gian mang lại giá trị, thúc đẩy sự đổi mới ở các ngành có tính cạnh tranh cao”.

Máy chủ Dell PowerEdge mới thúc đẩy nhu cầu về ứng dụng AI diện rộng

Các máy chủ Dell PowerEdge mới hỗ trợ hàng loạt các trường hợp ứng dụng AI và ứng dụng truyền thống, đồng thời đơn giản hóa quá trình quản lý và bảo mật máy chủ. Các nền tảng cung cấp những giải pháp có thể tùy chỉnh và khai thác năng lượng hiệu quả nhằm đơn giản hóa việc quản lý và hỗ trợ các ứng dụng đòi hỏi hiệu năng cao trong các doanh nghiệp (DN) hiện đại:

Được thiết kế để chạy các ứng dụng AI cấp DN, máy chủ Dell PowerEdge XE7745 hỗ trợ đến 8 GPU chiều rộng hai khe cắm PCIe hoặc 16 GPU chiều rộng tiêu chuẩn với các vi xử lý AMD EPYC thế hệ 5 trong khung máy chủ kích thước 4U làm mát bằng không khí. Được chế tạo để chuyên phục vụ cho suy luận AI (AI inferencing), tinh chỉnh mô hình, và máy tính hiệu năng cao, các khe cắm GPU bên trong được ghép với 8 khe cắm PCIe Gen 5.0 phục vụ kết nối mạng, để tạo ra các cấu hình linh hoạt, mật độ cao với số lượng GPU DW PCIe nhiều hơn gấp đôi.

Máy chủ PowerEdge R6725 và R7725 được tối ưu hóa khả năng mở rộng với các bộ vi xử lý AMD EPYC thế hệ 5 hiệu năng cao. Thiết kế máy chủ DC-MHS mới tăng cường khả năng tản nhiệt bằng không khí và hỗ trợ CPU kép 500W để chinh phục những thử thách khắc nghiệt về nhiệt độ để đạt được hiệu năng cao và tiết kiệm năng lượng hiệu quả.

Với các cấu hình được tối ưu hóa cho việc mở rộng quy mô, những máy chủ này duy trì việc phân tích dữ liệu và xử lý ứng dụng AI một cách chính xác, và mang đến hiệu năng cao nhất khi chạy các ứng dụng về ảo hóa, cơ sở dữ liệu, và AI. Máy chủ R7725 cho hiệu suất cao hơn đến 66%, và khả năng sử dụng điện năng hiệu quả lên đến 33% khi chạy với cấu hình cao nhất.

Cả ba máy chủ mới hỗ trợ số nhân nhiều hơn đến 50%, với hiệu suất trên mỗi nhân tăng đến 37%. Nhờ vậy, hiệu năng xử lý, khả năng tiết kiệm năng lượng, và tổng chi phí sở hữu (TCO) tốt hơn. Những cải tiến này giúp hợp nhất đến 7 máy chủ năm năm tuổi thành một máy chủ ngày nay, nhờ vậy lượng điện năng CPU tiêu thụ giảm đến 65%.

Máy chủ PowerEdge R6715 và R7715 với bộ vi xử lý AMD EPYC thế hệ 5 mang đến hiệu suất và hiệu quả sử dụng năng lượng tốt hơn, đồng thời tăng dung lượng ổ đĩa đến 37%, qua đó cho mật độ lưu trữ cao hơn. Với nhiều tùy chọn, các máy chủ socket đơn hỗ trợ dung lượng bộ nhớ gấp đôi với 24 DIMM (2DPC), đồng thời đáp ứng được nhiều yêu cầu đa dạng từ các ứng dụng và tối ưu hóa hiệu năng trong các khung máy chủ kích thước nhỏ gọn 1U và 2U. Máy chủ R6715 phá vỡ kỷ lục thế giới và hiệu năng khi chạy các tác vụ AI và ảo hóa.

Với những doanh nghiệp triển khai AI diện rộng, Dell Technologies sẽ tiếp tục hỗ trợ các bộ tăng tốc AMD Instinct mới nhất trên các máy chủ Dell PowerEdge XE.

Đội ngũ IT có thể giám sát, quản lý, và nâng cấp máy chủ Dell PowerEdge từ xa thông qua Intergrated Dell Remote Access Controller (iDRAC, bộ điều khiển từ xa được tích hợp sẵn của Dell). Sở hữu bộ vi xử lý có tốc độ nhanh hơn, bộ nhớ nhiều hơn, và bộ đồng xử lý bảo mật chuyên dụng, iDRAC đơn giản hóa việc quản lý máy chủ và bảo mật, hỗ trợ đội ngũ IT đưa ra phản hồi tin cậy và hiệu quả hơn.

Ông Joe Morrow, Giám đốc Dịch vụ Công nghệ, OSF Healthcare, phát biểu: “Hệ thống do Dell Technologies và AMD cung cấp đã giúp OSF Healthcare hỗ trợ các bác sĩ và bệnh nhân tốt hơn, giảm thiểu tổng chi phí và giúp đỡ các cộng đồng đang gặp khó khăn".

Những cải tiến của Dell AI Factory đơn giản hóa và tăng tốc triển khai GenAI

Với danh mục các giải pháp AI toàn diện nhất từ máy tính để bàn, cho đến trung tâm dữ liệu, hay điện toán đám mây, Dell AI Factory được thiết kế để đáp ứng những yêu cầu đa dạng về AI, qua đó giúp các doanh nghiệp tối ưu hóa các khoản đầu tư vào AI:

Giải pháp GenAI kết hợp với AMD sử dụng máy chủ Dell PowerEdge XE9680 và bộ tăng tốc AMD Instinct™ MI300X để cung cấp khả năng suy luận AI, AI tạo sinh có kết hợp truy xuất thông tin ngoài (RAG) và tùy chỉnh theo nhu cầu. Sự tích hợp này không chỉ giúp đơn giản hóa việc triển khai AI, tăng cường bảo mật mà còn hỗ trợ kiến trúc theo dạng mô đun có khả năng mở rộng. Bên cạnh đó, giải pháp này còn giảm thiểu thời gian mang lại giá trị tới 86%, giúp các doanh nghiệp tối ưu hóa khoản đầu tư vào AI.

Dell Enterprise Hub trên Hugging Face hiện hỗ trợ máy chủ Dell PowerEdge XE9680 với bộ tăng tốc AMD Instinct MI300X, cung cấp các container tập lênh tùy chỉnh nhằm triển khai dễ dàng và bảo mật của các mô hình LIama và Mixtral. Các mô hình dạng container này được tối ưu hóa chuyên biệt để tăng cường khả năng suy luận dựa trên mô hình và máy chủ, đồng thời tận dụng phần back-end của giải pháp Suy luận Tạo Văn bản từ Hugging Face (Hugging Face Text Generation Inference - TGI).

Dịch vụ Chuyên môn của Dell (Dell Professional Services) dành cho Generative AI đang mở rộng để hỗ trợ các môi trường AMD. Dịch vụ Triển khai mới của Dell dành cho Nền tảng GenAI sử dụng AMD cung cấp một nền tảng vận hành được thiết kế theo nhu cầu, bao gồm cấu hình Kubernetes, triển khai các bộ khung AI tiên tiến và chuyển giao kiến thức cho khách hàng về các phương pháp để tối đa hóa tỷ suất hoàn vốn (Return on investment, ROI). Từ việc phát triển chiến lược đến chuẩn bị dữ liệu, triển khai nền tảng và mô hình, cũng như mở rộng quy mô giải pháp, các chuyên gia của Dell giúp DN đạt được kết quả kinh doanh với AI trong suốt vòng đời khai thác.

 Theo Dell