'Hiệu quả hoạt động là cốt lõi của năng lực cơ sở hạ tầng AI'

Naver Cloud tự hào về khả năng của trung tâm dữ liệu với GAK ​​Sejong

SEJONG — Naver Cloud đã giới thiệu trung tâm dữ liệu siêu lớn GAK Sejong, thể hiện sự tự tin và hiệu quả trong việc thiết kế và vận hành các trung tâm dữ liệu, cơ sở hạ tầng quan trọng nhất cho các dịch vụ trí tuệ nhân tạo (AI).

Trong sự kiện báo chí tại trung tâm vào thứ Hai, Giám đốc thông tin của Naver Cloud Lee Sang-jun cho biết khả năng cạnh tranh của cơ sở hạ tầng AI không chỉ phụ thuộc vào số lượng bộ xử lý đồ họa (GPU) mà một công ty đảm bảo mà còn phụ thuộc vào mức độ ổn định và hiệu quả vận hành các nguồn lực đó.

Ông cho biết: “Bằng cách duy trì sự cân bằng giữa nguồn cung cấp GPU và nội bộ hóa các công nghệ vận hành, Naver Cloud đang củng cố khả năng cạnh tranh về cơ sở hạ tầng AI của mình”.

“Ngày nay, kinh doanh AI đòi hỏi đầu tư lớn: các trung tâm dữ liệu quy mô lớn như thế này, và lượng điện năng khổng lồ mà chúng tiêu thụ,” Lee nói thêm. “Nhưng việc mở rộng những thứ đó không thể diễn ra trong một sớm một chiều. Không giống như các tập đoàn công nghệ toàn cầu chi tiêu ở quy mô không tưởng, chúng tôi phải theo đuổi phương pháp tiếp cận hiệu quả nhất có thể. Tôi tin rằng thông qua việc nội bộ hóa công nghệ, cuối cùng chúng tôi sẽ đạt được mức đó.”

Tọa lạc trên khu đất rộng 294.000 mét vuông tại khu vực trung tâm phía tây thành phố Sejong, GAK Sejong là trung tâm dữ liệu độc quyền thứ hai của gã khổng lồ cổng thông tin và di động Naver, được nhiều người coi là trung tâm dữ liệu đầu tiên của Hàn Quốc chuyên về việc hỗ trợ các dịch vụ AI. GAK được đặt theo tên của Janggyeonggak, ám chỉ một tòa nhà nơi lưu trữ kinh Phật hoặc Nho giáo.

GAK Sejong bắt đầu hoạt động vào tháng 11 năm 2023 với tư cách là một cơ sở điện toán GPU mật độ cao, có khả năng xử lý đồng thời cả đào tạo AI và suy luận. GAK Sejong được trang bị để chứa tới 600.000 máy chủ sau khi hoàn tất giai đoạn mở rộng, cung cấp tổng dung lượng lưu trữ là 65 exabyte.

GAK Sejong hiện bao gồm một tòa nhà chính và một cánh Bắc đã hoàn thành, với kế hoạch xây dựng thêm một cánh Nam trong những năm tới. Cánh Bắc sẽ trải qua ba giai đoạn mở rộng, tiếp theo là các giai đoạn bốn đến sáu tại cánh Nam. Hiện tại, chỉ có giai đoạn một đang hoạt động, trong khi giai đoạn hai và ba dự kiến​​hoàn thành vào năm 2027 và 2029.

Để đối phó với lượng điện khổng lồ tiêu thụ bởi các máy gia tốc AI, GAK Sejong chỉ cách một trạm biến áp 2 km, được thiết kế để cung cấp tới 275 megawatt điện. Ngoài ra, còn có kế hoạch sử dụng hệ thống làm mát kết hợp không khí trực tiếp, không khí gián tiếp và nước lạnh để duy trì nhiệt độ máy chủ ở mức mong muốn từ 22 đến 26 độ C.

Hệ thống làm mát này thể hiện chuyên môn tích lũy của Naver trong việc nội địa hóa công nghệ.

Các phòng máy chủ giai đoạn đầu hiện đang sử dụng hệ thống làm mát bằng không khí dựa trên thiết kế độc quyền của Naver. Công ty đã phát triển hệ thống phun sương đầu tiên vào năm 2013 cho trung tâm dữ liệu GAK Chuncheon, tiếp theo là Hệ thống Màng khí Naver (NAMU) I vào năm 2014, NAMU II vào năm 2017 và mới nhất là NAMU III, được lắp đặt tại GAK ​​Sejong. NAMU III là một hệ thống kết hợp sử dụng làm mát bằng không khí trực tiếp vào mùa xuân và mùa thu, và làm mát bằng không khí gián tiếp vào mùa hè và mùa đông.

Cánh Bắc hiện đang hoạt động dài khoảng 350 mét và bao gồm năm tầng - ba tầng ngầm và hai tầng nổi. Tòa nhà được thiết kế để chịu được động đất lên đến 7 độ richter và sử dụng không khí bên ngoài để làm mát khoảng 240 ngày một năm nhằm tối đa hóa hiệu quả năng lượng.

Giai đoạn đầu tiên có bốn phòng máy chủ, mỗi phòng có sức chứa tối đa 600 máy chủ. Phóng viên đã đến thăm một trong số đó, nơi các GPU H100 của Nvidia đang hoạt động. Bảng điều khiển giám sát hiển thị mức tiêu thụ điện năng theo thời gian thực của từng máy chủ, và cả hai bức tường của phòng đều được trang bị hệ thống làm mát bằng không khí NAMU III. Phòng luôn duy trì nhiệt độ mát mẻ dễ chịu với làn gió nhẹ, mặc dù độ ồn khá cao.

Roh Sang-min, người đứng đầu GAK Sejong, cho biết giai đoạn mở rộng thứ hai và thứ ba sẽ giới thiệu hệ thống làm mát bằng chất lỏng trực tiếp (DLC), một tính năng cần thiết cho các máy chủ trong tương lai như B200 và B300 của Nvidia.

Cùng với DLC, Roh cho biết Naver cũng đang tiến hành thử nghiệm tính khả thi của phương pháp làm mát ngâm, một phương pháp nhúng máy chủ trực tiếp vào chất lỏng, tại GAK ​​Chuncheon. Mặc dù các máy chủ AI hiện tại của Nvidia không hỗ trợ làm mát ngâm, nhưng gã khổng lồ công nghệ Mỹ có kế hoạch giới thiệu công nghệ này bắt đầu từ các nền tảng thế hệ tiếp theo sau dòng Rubin Ultra.

Roh cho biết, với một phần sáu công suất tối đa theo kế hoạch của GAK Sejong hiện đang hoạt động, chi phí điện hàng năm của cơ sở này đã lên tới khoảng 22 tỷ won (15,34 triệu đô la) và con số này dự kiến ​​sẽ tăng mạnh trong những năm tới, đòi hỏi Naver phải tiếp tục đầu tư nguồn lực vào hoạt động của trung tâm dữ liệu.

“Khi chúng ta bước vào kỷ nguyên của các trung tâm dữ liệu AI, mật độ năng lượng đã tăng lên một mức hoàn toàn khác so với khi chúng ta sử dụng CPU trước đây,” Roh nói. “Hàng trăm GPU hoạt động cùng nhau như một cụm duy nhất, tiêu thụ một lượng điện năng tập trung cao độ, và các phòng máy chủ hiện đang sử dụng không gian nhỏ gọn hơn nhiều.”

“Từ nửa cuối năm nay đến năm sau, các trung tâm dữ liệu trong nước sẽ tiếp tục đối mặt với tình trạng thiếu hụt không gian trống. Bắt đầu từ năm 2027, dung lượng sẽ được mở rộng hơn, nhưng nhu cầu có thể vẫn ở mức cao khó lường. Chúng tôi đã khai trương GAK Sejong vào tháng 11 năm 2023 và hiện đã kín chỗ, vì vậy chúng tôi đang triển khai đồng thời cả giai đoạn mở rộng thứ hai và thứ ba.”

CIO Lee cho biết, xét đến nhu cầu ngày càng tăng, hoạt động kinh doanh GPU dưới dạng dịch vụ (GPUaaS) của Naver Cloud đang cho thấy sự tăng trưởng mạnh mẽ.

“Naver Cloud sẽ tận dụng kinh nghiệm của mình trong vận hành cơ sở hạ tầng AI để mở rộng mô hình GPUaaS và tạo ra một hệ sinh thái nơi các công ty có thể dễ dàng áp dụng AI”, ông nói. “Thông qua đó, chúng tôi đặt mục tiêu biến cơ sở hạ tầng AI không chỉ là tài sản của doanh nghiệp mà còn là nền tảng cho sự phát triển trong nhiều ngành.”