뉴스
- "AI 경쟁 핵심은 인프라…향후 2~3년 AIDC 골든타임" 기존 데이터센터가 CPU와 스토리지 중심이었다면 AIDC에는 대규모 GPU가 투입돼 전력 공급과 냉각 등 인프라의 중요성이 더욱 커진다는 설명이다.그는 “앞으로 고객들은 ‘토큰’을
- 엔비디아가 끌어안은 그로크, 1조원 펀딩으로 ‘AI 추론 클라우드’ 가속 그로크는 속도와 저비용을 앞세워 엔비디아 GPU가 장악한 추론 시장에 도전한다.
- AI 개발·GPU 운영 한번에…오픈소스컨설팅, 신제품 2종 출시 AI 개발환경과 GPU 자원 관리가 서로 다른 시스템에서 운영되면서 관리 복잡도가 커지고 GPU가 필요한 곳에 자원이 제때 배정되지 않는 문제가 지속되고 있다는 게 회사 측 설명이다.오픈소스컨설팅은
- 노키아 "한국은 AI-RAN 가능성 최적화 시장" 클라우드 서비스 제공업체와 새로운 비즈니스 모델을 찾을 수 있다”고 말했다.조 박사는 “SK텔레콤, KT, LG유플러스 등 이통3사 기존 집중 국사에 클라우드 AI-RAN이나 GPU가
- 데이터센터 지으면 지역이 산다? 뭔가 잘못되고 있다 엔비디아 블랙웰 칩을 기준으로 보면 랙 하나는 72개의 GPU가 장착되고 약 120kW의 전력을 소모하는 것으로 알려져 있다. 1GW 규모의 AI 데이터센터를 구현하려면, 최소 축구장
- [AI 고속도로] 인프라 고객서 경쟁사된 메타…네오클라우드 업계 '긴장' 자체 AI 모델 개발과 서비스 운영에도 막대한 GPU가 필요한 만큼 상당 기간 외부 AI 컴퓨팅 자원을 병행 활용할 가능성이 높다는 이유에서다.
- AMD "에이전틱 AI 승부수는 CPU 아닌 '인프라 조화'" 모델과 도구를 조율하며 데이터 이동과 검증을 수행하는 과정에서 CPU의 개입 비중이 크게 늘어나기 때문이다.AMD는 앞으로 데이터센터의 경쟁력은 GPU 수를 늘리는 것보다 CPU와 GPU가
- 100만 GPU 시대, 현실로 만든 중국의 '시스템 엔지니어링' 백만 카드 시대에는 GPU가 병사라면, 데이터센터는 병영이고 전력은 군량이며 네트워크는 보급로입니다. 병사의 숫자만 많다고 전쟁에서 이기는 것은 아닙니다.
- [인터뷰] 씨게이트 "AI가 쏟아내는 데이터, 더 효율적으로 담아야" 것"이라고 전망했다.콜린 프레슬리 부사장은 "AI와 스토리지의 관계는 학습과 추론 과정에서 다르게 나타난다"고 설명했다.학습 단계에서는 HDD에 저장된 대규모 데이터가 CPU와 GPU가
- [르포] 엔비디아 칩 7656장 열기, 물로 식힌다…NHN클라우드 'AI 심장' 가보니 고성능 GPU가 뿜어내는 열을 공기가 아닌 물로 식히는 수랭식 냉각 시스템 덕분이다.NHN클라우드는 지난 6일 팩토리X 서울의 관제실과 데이터홀 등 주요 시설 투어를 진행했다.