본문 바로가기

AI반도체

(13)
Tesla 자율주행의 두뇌, Dojo로 도로를 학습시키다 자동차가 아니라, 움직이는 컴퓨터“테슬라는 자동차 회사가 아니다.” 이 문장은 이제 낯설지 않다. 일론 머스크는 전기차를 팔기 위해 회사를 세운 게 아니다. 그의 목표는 ‘스스로 움직이는 지능’을 만드는 것이었다. 그 핵심에는 배터리도, 디자인도, 전기모터도 아니다. 진짜 심장은 바로 AI 반도체다. 테슬라의 차량은 매일 도로에서 데이터를 수집한다. 각 차량은 수십 개의 카메라와 센서로 주변의 모든 이미지를 초당 수십 프레임으로 저장하고, 그 데이터는 클라우드로 전송되어 AI가 학습하는 재료가 된다. 2023년 기준, 테슬라는 하루에 10억 장 이상의 도로 이미지를 수집한다. 이 방대한 데이터를 실시간으로 학습하려면 GPU 수만 장으로도 부족했다. 그때 일론 머스크가 던진 질문이 모든 걸 바꿨다. “우리..
Google TPU로 AI의 속도를 재정의하다 AI 시대의 근본, 속도와 효율AI의 역사는 결국 속도와 효율의 경쟁이다. 누가 더 많은 데이터를 더 빨리 계산하느냐가 인공지능의 품질을 결정한다. 그런데 이 단순한 원리를 가장 철저하게 이해한 회사가 있다. 바로 구글(Google)이다. 검색엔진으로 시작한 이 회사는, 지금은 AI의 뇌를 직접 설계하는 반도체 기업이기도 하다.CPU와 GPU로는 부족했던 시대2010년대 초, 구글의 내부 엔지니어들은 이상한 문제에 부딪혔다. AI 기술이 급격히 발전하면서, 서버 한 대가 처리해야 하는 연산량이 수백 배로 폭증한 것이다. 특히 음성 인식, 번역, 이미지 검색, 추천 시스템 같은 서비스는 기존의 CPU로는 감당이 되지 않았다. GPU가 대안으로 떠올랐지만, 그래픽 연산 중심으로 설계된 GPU는 전력 소모와 ..
NVIDIA GPU로 AI의 신경망을 설계하다 AI 시대의 근본은 계산이다데이터를 얼마나 빠르고 효율적으로 연결하느냐가 곧 지능의 한계와 속도를 결정한다. 그 중심에는 한 기업이 있다. 그래픽 칩으로 시작해 인공지능의 신경망을 설계한 회사, 엔비디아(NVIDIA).그래픽 칩에서 인공지능의 심장으로1993년, 젠슨 황(Jensen Huang)은 “더 자연스러운 게임 그래픽을 만들겠다”는 단순한 목표로 회사를 세웠다. 그가 만든 GPU는 원래 화면을 그리는 부품이었다. 하지만 그 안의 구조는 달랐다. 수천 개의 작은 계산 유닛이 동시에 움직이며 데이터를 처리했다. 이 병렬 구조는 훗날 인공지능의 연산 방식과 완벽히 맞아떨어졌다. CPU가 한 문제를 차근차근 푸는 ‘논리형 두뇌’라면, GPU는 여러 문제를 동시에 푸는 ‘직관형 두뇌’였다. AI가 필요로 ..
Intel 실패로 혁신을 다시 쓰다 20세기 후반, 컴퓨터는 곧 인텔이었다세계의 모든 데이터는 인텔의 칩을 거쳐 흘렀고, “Intel Inside”라는 네 단어는 기술의 신뢰 그 자체였다. 그러나 제국은 찬란할수록 그림자를 짙게 남긴다. 인텔은 세상을 만들었지만, 그 세상이 바뀌는 순간 스스로의 틀에 갇혔다. 그리고 이제, 실패를 통해 혁신을 다시 쓰는 기업으로 거듭나고 있다.실리콘 밸리의 시작1968년, 로버트 노이스와 고든 무어는 페어차일드를 떠나 “Integrated Electronics” Intel을 세웠다. 3년 후, 세계 최초의 마이크로프로세서 4004를 발표했다. 이 작은 칩 하나가 계산기를 두뇌로 바꾸었고, 전자기기는 생각하기 시작했다. 이후 등장한 8086 프로세서(1978)는 IBM PC의 중심이 되었고, 인텔은 정보화 ..
SK hynix HBM으로 AI의 혈류를 설계한다 AI는 전기를 먹고 자라는 괴물이다이 괴물이 움직이려면 수많은 데이터가 초당 수조 번의 속도로 흘러야 한다. 그 데이터를 공급하는 혈관, 즉 AI의 혈류가 바로 HBM(High Bandwidth Memory)이다. 삼성전자가 반도체 산업의 제국을 세웠다면, SK하이닉스는 그 제국의 피를 흐르게 한 세대다.HBM, 메모리의 패러다임을 바꾸다전통적인 DRAM은 가로로 펼쳐진 도시였다면, HBM은 수직으로 솟은 고층 빌딩이다. 하이닉스는 여러 개의 DRAM 칩을 층층이 쌓고, 그 사이를 TSV(Through-Silicon Via)라는 미세 구멍으로 관통시켜 데이터를 ‘위아래로 흐르게’ 만들었다. 이 설계 하나로 데이터 이동거리가 줄고, 대역폭은 몇 배로 늘었다. 지연은 사라지고 발열은 통제되며, AI 연산 속..