Latest posts
-
AI 데이터센터 변압기는 왜 부족할까? GPU보다 늦게 만드는 장비 AI 데이터센터 투자를 보면 대부분 GPU부터 이야기합니다. GPU를 몇만 개 확보했는지, HBM은 충분한지, 네트워크는 800Gbps인지가 관심을 받습니다. 그런데 실제 데이터센터를 짓는 과정에서는 훨씬 오래된 전기장비 때문에 일정이 늦어질 수 있습니다. 바로 Transformer(변압기)입니다. 처음에는 조금 이상하게 느껴질 수 있습니다. 최첨단 AI 데이터센터가 GPU도 아니고 변압기 때문에 늦어진다는…
-
AI 데이터센터 UPS란? 정전 1초가 수십억 손실로 이어지는 이유 AI 데이터센터라고 하면 GPU와 HBM, 초고속 네트워크부터 생각하게 됩니다. 그런데 아무리 좋은 GPU를 수천 개 설치해도 전기가 끊기면 모든 장비가 멈춥니다. 그래서 데이터센터를 살펴보다 보면 GPU보다 훨씬 오래전부터 사용해온 장비 하나가 반드시 등장합니다. UPS(Uninterruptible Power Supply, 무정전 전원장치)입니다. 이름 그대로 전원이 끊겨도 서버에 전기를 계속 공급해주는…
-
AI 데이터센터에서 광통신이 중요한 이유, 구리선의 한계는 어디까지인가
AI 데이터센터 이야기를 계속 따라가다 보면 결국 한 가지 문제에 부딪히게 됩니다. GPU가 빨라지고 네트워크도 400Gbps, 800Gbps까지 올라가는데 이 많은 데이터를 실제로 무엇으로 전달할 것인가 하는 문제입니다. 처음에는 단순하게 생각할 수 있습니다. 서버와 스위치를 케이블로 연결하면 되는 것 아닌가 싶습니다. 그런데 네트워크 속도가 높아질수록 케이블 하나의 역할도 훨씬 복잡해집니다. 짧은 거리에서는 여전히 Copper Cable(구리 케이블)이…
-
InfiniBand란? AI 데이터센터가 일반 이더넷 대신 쓰는 이유
AI 데이터센터에서 GPU를 수백 개, 수천 개씩 연결한다는 이야기를 들으면 처음에는 단순하게 생각하기 쉽습니다. 빠른 GPU를 많이 설치하면 그만큼 AI 학습도 빨라질 것 같습니다. 하지만 실제로는 그렇지 않습니다. GPU 하나의 계산이 끝난 뒤 다른 GPU가 계산한 결과를 기다려야 하는 상황이 계속 발생하기 때문입니다. GPU 8개 정도를 한 서버 안에서 사용하는 것과 수백 대의 서버에 들어…
-
AI 서버용 네트워크는 왜 800Gbps까지 빨라지고 있을까
AI 데이터센터 이야기를 보면 GPU 성능이나 HBM 용량이 가장 먼저 눈에 들어옵니다. 그런데 GPU가 한두 개가 아니라 수백 개, 수천 개로 늘어나기 시작하면 전혀 다른 문제가 생깁니다. 각 GPU가 아무리 빨라도 서로 데이터를 주고받는 속도가 느리면 전체 AI 시스템이 기다려야 하기 때문입니다. 이때 중요한 것이 AI 서버 네트워크입니다. 최근에는 100Gbps나 400Gbps를 넘어 800Gbps급 네트워크까지 등장하고…
-
피지컬 AI시대, 한국이 로봇 20만 대를 보급하려는 이유
피지컬 AI(Physical AI)는 주변 상황을 인식하고, 그에 맞게 행동을 조정하는 인공지능을 실제 기계에 적용하는 기술입니다. 공장에 로봇을 들여놓으면 일이 얼마나 편해질까요. 같은 부품을 같은 위치에서 집어 옮기는 작업이라면 효과를 기대하기 쉽습니다. 그런데 부품이 비스듬히 놓이거나, 포장재가 바뀌거나, 이동 통로에 사람이 들어오면 이야기가 달라집니다. 현장에서는 정해진 동작을 빠르게 반복하는 능력만으로 해결되지 않는 일이 많습니다. Physical AI(피지컬…
-
AI 데이터센터에서 SSD가 중요한 이유, GPU만으로는 안 되는 이유
AI 데이터센터 이야기가 나오면 대부분 GPU부터 떠올립니다. 실제로 AI 학습과 추론에서 GPU가 핵심인 것은 맞습니다. HBM도 중요하고, CPU와 DDR 메모리도 빠질 수 없습니다. 그런데 AI 서버 구조를 조금만 더 들여다보면 의외로 SSD의 역할도 상당히 큽니다. 처음에는 SSD가 단순히 데이터를 저장하는 장치라고 생각하기 쉽습니다. 일반 PC에서도 사진이나 문서, 프로그램을 저장하는 데 쓰이기 때문입니다. 하지만 AI 데이터센터에서는…
-
AI 서버에 일반 DDR 메모리도 중요한 이유
AI 서버 이야기를 보다 보면 대부분 GPU와 HBM에 시선이 갑니다. 실제로도 그렇습니다. 생성형 AI 모델이 커질수록 GPU 연산 성능과 HBM 대역폭이 중요해졌고, 관련 뉴스에서도 이 두 부품이 가장 많이 언급됩니다. 그런데 AI 서버를 조금 더 들여다보면 생각보다 평범한 부품 하나가 계속 중요한 역할을 하고 있습니다. 바로 DDR 메모리입니다. DDR(Double Data Rate, 더블 데이터 전송률 메모리)은…
-
한국 생성형 AI 사용률 40.6%…세계 12위, 1년 새 이렇게 빨라진 이유
한국의 생성형 AI 사용 속도가 생각보다 빠르게 올라가고 있습니다. 마이크로소프트 AI Economy Institute가 공개한 Global AI Diffusion: Q2 2026 Trends and Insights에 따르면 2026년 6월 기준 한국의 AI 사용자 비중은 40.6%로 집계됐습니다. 세계 순위는 1분기 16위에서 12위로 네 계단 올랐고, 사용률은 37.1%에서 40.6%로 3.5%포인트 상승했습니다. 주요 경제권 가운데 가장 큰 상승 폭입니다. 처음 숫자만 보면…
-
CXL이란? AI 서버 메모리 부족을 해결할 차세대 연결 기술
AI 서버 이야기를 보면 GPU와 HBM이 가장 먼저 등장합니다. 그런데 AI 모델이 계속 커지면서 또 하나 중요해지는 문제가 있습니다. 바로 메모리입니다. GPU 성능이 아무리 좋아도 처리해야 할 모델과 데이터가 메모리에 충분히 올라가지 않으면 원하는 성능을 내기 어렵습니다. 서버에 메모리를 계속 추가하면 해결될 것 같지만 실제로는 그렇게 단순하지 않습니다. 어떤 서버는 메모리가 부족한데 다른 서버는 메모리가…
-
CoWoS란? AI 반도체 패키징에서 계속 등장하는 이유
AI 반도체 관련 뉴스를 보다 보면 GPU, HBM과 함께 CoWoS라는 단어가 자주 등장합니다. 처음 보면 반도체 공정 이름인지, 메모리 기술인지 헷갈리기 쉽습니다. CoWoS는 Chip-on-Wafer-on-Substrate의 약자로, 여러 개의 반도체 칩을 하나의 패키지 안에서 아주 가깝게 연결하기 위해 사용하는 첨단 패키징 방식입니다. 쉽게 말하면 GPU와 HBM을 따로 떨어뜨려 놓는 것이 아니라 하나의 패키지 안에서 매우 짧은 거리로…
-
HBM Interposer(HBM 인터포저)란? AI 반도체에서 GPU와 HBM을 연결하는 핵심 부품
AI 반도체 관련 뉴스를 보다 보면 GPU와 HBM이라는 단어는 자주 보게 됩니다. 특히 생성형 AI가 빠르게 성장하면서 GPU 성능뿐 아니라 HBM(High Bandwidth Memory, 고대역폭 메모리)의 중요성도 함께 커졌습니다. 그런데 GPU와 HBM만 있다고 AI 반도체가 완성되는 것은 아닙니다. 두 부품 사이에서 데이터를 빠르게 주고받을 수 있도록 연결해주는 구조가 필요합니다. 이때 중요한 역할을 하는 것이 Interposer(인터포저)입니다. 인터포저는…
-
AI Accelerator ASIC(AI 가속기 전용칩)이란? 엔비디아 GPU를 대체하려는 기업들이 만드는 칩
AI 관련 뉴스를 보다 보면 GPU 이야기와 함께 ASIC이라는 단어도 자주 등장합니다. AI 시장에서는 오랫동안 GPU가 중심 역할을 해왔습니다. 특히 대규모 AI 모델을 학습하거나 서비스하려면 많은 GPU가 필요하고, 이 때문에 AI 데이터센터 투자에서도 GPU가 가장 먼저 언급되는 경우가 많습니다. 그런데 최근에는 모든 AI 계산을 GPU에만 맡기는 것이 과연 가장 효율적인 방법인지 고민하는 기업이 늘고 있습니다.…
-
NPU(신경망 처리장치)란? GPU와 무엇이 다르고 스마트폰에 왜 들어갈까
요즘 스마트폰이나 노트북 신제품을 보면 NPU라는 단어가 자주 등장합니다. 예전에는 CPU와 GPU 정도만 알아도 컴퓨터 성능을 이해하는 데 큰 문제가 없었습니다. 그런데 AI 기능이 늘어나면서 이제는 NPU까지 함께 설명하는 경우가 많아졌습니다. 처음 보면 또 하나의 반도체 이름처럼 느껴질 수 있습니다. 하지만 NPU는 단순히 새로운 칩 하나가 추가된 것이 아니라, AI가 스마트폰이나 PC 안에서 직접 실행되는…
-
Edge AI(엣지 인공지능)란? 클라우드 없이 공장·자동차에서 AI를 돌리는 이유
AI라고 하면 대부분 거대한 데이터센터를 먼저 떠올리게 됩니다. 수많은 GPU가 설치된 서버에서 AI가 계산하고 사용자는 인터넷으로 결과를 받아보는 방식입니다. 그런데 공장이나 자동차, CCTV, 로봇 같은 환경에서는 모든 데이터를 데이터센터로 보내서 처리하는 것이 항상 좋은 방법은 아닙니다. 빠른 판단이 필요하기도 하고 인터넷 연결이 끊길 수도 있으며 영상이나 센서 데이터를 계속 서버로 보내는 데 비용이 많이 들…