나노기술 및 정책 정보

• 목록

AI 속도를 획기적으로 높이기 위한 연구개발이 더욱 빨라지고 있음. 슈퍼컴퓨터를 통한 하드웨어 방식 뿐만 아니라 CPU를 활용한 소프트웨어 방식까지 다양한 형태로 경쟁이 치열해지고 있음.

미국 스타트업 라이트매터(Lightmatter)는 지금까지 가장 빠르다고 알려진 엔비디아(NVIDIA)의 인공지능 GPU보다 적은 전력 소모와 10배 빠른 속도를 지닌 포토닉 슈퍼컴퓨터를 개발함.

라이트매터는 통합 광학 기술을 사용하는 AI 하드웨어 회사로 MIT 출신 스타트업임.

포브스는 7일(현지시간) 라이트매터 CEO 니콜라스 해리스(Nicholas Harris)와의 인터뷰를 통해 엔비디아보다 빠른 정보 처리가 가능한 슈퍼컴퓨터를 개발했다고 밝힘.

니콜라스는 테크퍼스트(TechFirst) 팟캐스트에 출연해 “자연어처리 신경망인 BERT나 고급 오픈소스 딥러닝 추천모델 DLRM과 비교해 10배 이상 빠르다."라고 말함.

엔비디아 A100은 AI 및 고성능 컴퓨팅을 위한 강력한 가속 서버 플랫폼으로 5 페타 플롭 시스템 체제임. 애플의 새로운 M1 칩은 초당 2.6 테라 플롭임. A100이 출시된 지 1년도 채 안 돼 라이트매터에서 50 페타 플롭의 컴퓨팅 용량을 내세웠음. 1000테라 플롭이 1 페타 플롭임.

컴퓨팅은 전력 소모에 따른 발열도 중요함. 발열은 서버에 영향을 주고 냉각 과정에서 CPU 실행 속도가 느려짐. 라이트매터는 칩에 코어를 추가해 냉각 시간을 단축시켰음.

해리스 CEO는 연말까지 인바이스(Envise)라는 제품으로 포토닉 슈퍼컴퓨터를 출시하는 것을 목표로 한다고 말함.

인바이스는 모든 종류의 신경망을 다루는 광자 컴퓨터로 아마존 챗봇 알렉사나 애플 음성 비서 시리처럼 포토닉 슈퍼 컴퓨터에서 인바이스 가이를 실행할 수 있음. 번역, 이미지 속 개별 사물 식별이 가능함. 개발자가 파이토치(PyTorch), 텐서플로우(TensorFlow)를 사용해 인바이스에서 신경망을 구축할 수 있음.

포브스는 "라이트매터의 기술이 정보 처리 속도가 빨라질수록 발열이 심해지고 전력 소모가 커진다는 전력 추세를 뒤집을 만하다"고 보았음.

한편, AI 소프트웨어 속도 개선을 위한 연구도 진행 중임. 미국 텍사스 주 라이스대학교 연구팀은 7일 CPU를 활용해 GPU보다 15배 빠르게 심층신경망(DNN)을 훈련시키는 인공지능 소프트웨어를 선보임.

전자 기술 전문 미디어 테크 엑스플로어(Tech Xplore)는 7일(현지시간) 라이스대학의 CPU를 활용한 인공지능 소프트웨어를 소개하며 CPU 벡터화 및 메모리 최적화 가속기 연구 발표를 예고함.

심층신경망 훈련은 GPU를 이용해 행렬 곱셈 작업을 하는 것이 일반적이지만 CPU보다 약 3배 비쌈. 라이스대학 CS(Computer Science) 시리바스타바(Shrivastava) 교수는 기계 학습에 드는 비용은 AI 병목 현상이라며, 기업들은 인공지능 훈련과 조정을 위해 수백만 달러를 지출하고 있다고 밝힘.

라이스대학 연구팀은 서브 선형 딥러닝 엔진(SLIDE)을 CPU에서 실행되도록 설계했음. 시리바스타 교수는 "GPU의 행렬 곱셈에 집착하지 않되 CPU 성능을 활용해 알고리즘 개발에 최선을 다함. 그 결과 AI 특수 하드웨어보다 4~15배 빠른 기계 학습이 가능하다."라고 말함.

연구 공동 저자 라이스대학 학부생인 니콜라스 메이스버거(Nicholas Meisburger)는 "CPU는 여전히 널리 사용되는 하드웨어이며, CPU를 인공지능에 접목했을 때의 속도 개선은 과소평가할 수 없는 사실."이라고 말함.