인텔(Intel)은 8월 8일 미국 캘리포니아 주 산타클라라(Santa Clara) 인텔 본사에서 ‘데이터 센트릭 이노베이션 서밋 2018(Data-Centric Innovation Summit 2018)’ 행사를 열고, ‘데이터 중심’ 시대를 위한 인텔의 전략을 소개했다. 이번 행사에서는 인텔의 프로세서 뿐 아니라 메모리, 네트워크 등 데이터센터를 위한 다양한 기술과 관련된 신제품과 전략들이 선보였다.
현재 세계에 존재하는 데이터의 90%는 지난 2년 내에 생성되었으며, 이러한 데이터의 양은 계속 기하급수적으로 증가해, 2025년에는 오늘날의 10배 크기에 해당하는 163ZB에 이를 것으로 예상된다. 하지만 이들 데이터의 1% 정도만이 의사결정을 위해 활용되고 있을 뿐이며, ‘데이터 중심’의 환경은 조직의 경쟁력을 결정하기도 한다. 그리고 인텔은 데이터를 더 빠르게 이동시키고, 더 많은 데이터를 저장하고, 다루는 방법 등 ‘데이터 중심 비즈니스’의 총 유효시장의 규모는 2022년 2,000억 달러로 추산하며, 이는 인텔 역사상 가장 큰 규모의 기회에 해당한다고 소개했다.
인텔은 이번 서밋 기간에 차세대 제온 스케일러블 프로세서 시리즈인 ‘캐스캐이드 레이크(Cascade Lake)’가 새로운 VNNI 명령어 및 DLBoost 기술을 통해 AI 추론 성능을 대폭 향상시킬 것이라고 밝혔다. 또한 ‘옵테인 DC 퍼시스턴트 메모리(Optane DC Persistent Memory)’는 기존 메모리 시스템 기반에서 사용할 수 있는 대용량의 메모리 스토리지 공간을 제공하며, 더욱 효율적인 스토리지 구성을 위해서는 옵테인 DC SSD와 새로운 QLC 3D NAND 기반 신제품들의 조합을 소개했다. 한편 데이터의 더 빠른 이동을 위한 네트워크 측면에서는 ‘실리콘 포토닉스(Silicon Photonics)’와 새로운 SmartNIC 제품 라인을 소개했다.
▲인텔 AI 제품 그룹 아준 반셀 부사장
AI 관련 세션은 인텔의 AI 제품 그룹 아준 반셀(Arjun Bansal) 부사장이 진행했다. 그는 먼저 AI 개발의 전반적인 흐름에 대해, 데이터를 모으고, 연구와 훈련을 거쳐, 최적화를 진행한 이후, 추론 모델로 배포하고 사용을 확장해 가게 된다고 소개했다. 이 때 ‘훈련’은 사실 전체 흐름의 일부일 뿐이다. 그리고 인텔은 이 전반적인 AI 개발의 라이프사이클 전반에서 다양한 기술과 라이브러리를 통해 개발자들을 지원하고 있으며, AI 알고리즘 연구를 위한 연구소 또한 미국과 독일, 이스라엘, 인도, 중국에 두고, 연구 결과는 주요 AI 컨퍼런스에서 발표하고 있다고 덧붙였다.
또한 인텔은 공개적인 AI 연구 진행을 위한 토대 지원을 소개하며, 이에 해당되는 프로젝트로는 ‘RL(Reinforcement Learning) Coach’, ‘NLP Architect’, ‘Distiller’ 를 꼽았다. 이 중 ‘RL Coach’는 강화학습 알고리즘과 관련된 프로젝트로, ‘Carla’ 등 널리 사용되는 시뮬레이터와 함께 사용할 수 있도록 제공되고 있다. 또한 ‘Distiller’는 가지치기(pruning)과 양자화(quantization)를 통해 전체 모델의 크기를 효율적으로 줄이기 위한 방법을 다룬다. 이와 함께, 최신 자연어 처리 알고리즘을 다루는 ‘NLP Architect’에서는 학계와의 협력, 프레임워크와 토폴로지, NLU 컴포넌트와 애플리케이션에 이르는 빌딩블록을 갖춘 NLP 라이브러리의 제공, 산업에서의 실사용 사례를 위한 지원 등이 소개되었다.
또한 AI 모델의 서비스 환경 구축과 최적화에 있어, 제온 프로세서 기반 환경의 역량은 지속적으로 향상되고 있다고 소개되었다. 인텔은 제온 프로세서 기반 환경에 최적화된 MKL(Math Kernel Library), MKL-DNN(Deep Neural Network) 라이브러리를 통해 다양한 AI 기반 환경들이 프로세서의 역량을 최대한 활용할 수 있도록 지원하고 있다고 밝혔다. 이와 함께 차세대 제온 스케일러블 프로세서에서 제공될 ‘DL Boost’ 기능을 통해 현재의 두 배에 이르는 큰 폭의 성능 향상을 제공할 것이며, 현재 인텔과 함께 하고 있는 AI 관련 비즈니스의 시장 규모는 10억 달러 이상이라고 덧붙였다
▲다양한 하드웨어와 프레임워크 사이를 가장 최적의 방법으로 연결하는 ‘nGraph’
▲신경망의 특성에 따라, 구간별로 최적화된 하드웨어를 배치할 수도 있다
딥 러닝 컴파일러 nGraph는 다양한 하드웨어와 프레임워크 사이에서, 다양한 하드웨어들의 역량을 다양한 환경에서 쉽게 활용할 수 있도록 연결해 주는 역할을 한다. 이 컴파일러는 현재 오픈소스로 전환되어 있는 상태이며, 이와 관련해 바이두와 마이크로소프트와도 협력하고 있다고 소개되었다. 한편 제온 스케일러블 프로세서의 듀얼 소켓 구성 시스템 기반에서 구동되는 MXNet 에서 기본 상태 대비 nGraph 최적화를 적용한 상태에서의 추론 성능은 크게는 250% 이상의 성능 향상을 이루어 내기도 한다고 소개했다.
프로덕션 환경을 위한 대규모의 배포와 관련해서는, 아파치 스파크(Apache Spark) 인프라와 통합할 수 있는 BigDL, 모델 최적화와 엔드포인트로의 배포를 위한 OpenVINO 등이 소개되었다. 이 중 아파치 스파크 클러스터를 위한 BigDL의 사용 사례로는, 수많은 사진 데이터 중 사용자의 검색 결과와 비주얼적으로 유사한 이미지를 효과적으로 찾을 수 있게 한 것이 소개되었다. 또한 엣지와 엔드포인트에 최적화된 성능으로 배포를 가능하게 하는 OpenVINO의 사례로는 의료계의 CT 스캔 이미지 분류가 꼽혔는데, 기존 인프라 환경에서도 이 툴킷을 이용해 수 배의 성능 향상을 제공할 수 있었다고 밝혔다.
한편, 인텔은 AI를 위한 기술 전반에 걸쳐 다양한 형태로 지원을 제공하고 있어, 이를 기반으로 애플리케이션을 구축하고, 비즈니스 통찰력을 이끌어 내는 데까지 이어나갈 수 있다. 일례로 NLP 아키텍트의 경우, 라이브러리와 프레임워크, 토폴로지, NLP 컴포넌트와 엔드투엔드 예제, 사용 사례에 이르기까지 전체 스택을 모두 지원한다고 덧붙였다. 한편, 하드웨어와 소프트웨어의 긴밀한 결합은 AI 개발자에게 새로운 경험을 제공할 수 있는데, 예를 들면 하나의 신경망 흐름을 특성에 따라 몇 개로 분리, 최적화된 하드웨어를 배치함으로써 전체 성능을 최적화할 수 있다고 소개했다.
▲인텔 데이터센터 그룹 린 콤프 부사장
비주얼 클라우드에 대한 소개는 인텔 데이터센터 그룹의 린 콤프(Lynn Comp) 부사장이 진행했다. 이 ‘비주얼 클라우드’는 미디어 프로세싱과 전달, 미디어 분석, 몰입형 미디어, 클라우드 그래픽, 클라우드 게이밍 등 크게 다섯 가지의 주요 워크로드를 포함하며, 워크로드의 특성에 따라 인코딩 이외에 디코드, 렌더, 추론 등이 사용되어 크게 네 가지의 코어 빌딩 블록으로 구성된다. 그리고 데이터센터에서 디바이스로의 비주얼 워크로드의 이동에 있어서는, 클라우드 아키텍처 기반의 확장성, 유연성과 함께 네트워크의 변화가 필요하다고 덧붙였다.
비주얼 클라우드의 주요 워크로드들은 그 성격이 꽤 상이한 측면이 있고, 서비스 제공자들이 서비스 구성을 위한 디자인 검토에서 고려해야 할 점으로는 사용자 경험과 인프라 구성, 그리고 비즈니스 모델 등 크게 세 가지 축이 꼽혔다. 그리고 OTT VOD 서비스의 대표 사례인 ‘넷플릭스(Netflix)’에서는, 주문형 콘텐츠 소비 경험, 지역이나 플랫폼 등에 대한 다양한 디바이스 프로파일의 지원이 중요하다고 소개되었다. 이에 데이터센터에서는 제온 스케일러블 프로세서 기반의 서버에서 콘텐츠의 변환과 압축을 수행하고, 네트워크 또한 제온 스케일러블 프로세서 기반의 장비를 활용하며, 디바이스의 디스플레이와 렌더러를 통해 시청자까지 콘텐츠가 전달된다.
실시간 방송 워크로드의 사례로는 ‘트위치(Twitch)’가 꼽혔는데, 이 서비스의 특징은 양방향 커뮤니티의 경험, 그리고 실시간에 가까운 낮은 지연시간을 만족시키기 위해, 워크로드의 위치와 확장성을 갖춘 고성능이 중요하다고 소개했다. 이에 이 때는 네트워크에서 데이터의 변환과 압축 등을 수행하며, 네트워크 엣지 수준에서도 데이터의 변환을 수행함으로써 사용자에 낮은 지연시간의 특성을 효과적으로 제공할 수 있게 한다.
▲클라우드 게이밍 솔루션은 데이터센터와 엣지, 클라이언트의 3개 계층으로 구성되었다
▲인텔은 비주얼 클라우드를 위한 하드웨어, 소프트웨어, 네트워크 부분의 역량을 모두 갖췄다
‘클라우드 게이밍’ 또한 원활한 컨트롤을 위해 15ms 이하의 지연 시간을 달성해야 되며, 이를 위해서는 인프라에서 엣지의 역할이 중요해진다. 이 때 인프라의 구성은 데이터센터에서 사용자의 계정 관리 등을 맡고, 사용자와 가까운 네트워크 엣지 단에서 렌더링과 인코딩 서비스 등을 제공하게 된다. 이 때 라데온 그래픽이 포함된 8세대 코어 프로세서 옵션은 고성능 게이밍 서비스의 제공에 꽤 효율적이라고도 소개되었다. 인텔의 클라우드 게이밍 솔루션은 제온 기반 서버의 VM에서 엣지 단의 GPU 쪽으로 3D API를 포워딩하고, 엣지 단에서는 GPU를 활용해 렌더링과 인코딩을 수행해 클라이언트 단으로 내려 보내는 형태로, 반응성과 성능 양 쪽의 목표를 모두 달성할 수 있다.
한편 인텔은 비주얼 클라우드의 다양한 워크로드를 위한, 하드웨어와 소프트웨어, 네트워크에 걸친 폭넓은 포트폴리오를 갖추고 있다고 소개했다. 하드웨어 측면에서는 제온 프로세서와 비주얼 클라우드 가속기, FPGA, Iris 그래픽 코어, 라데온 그래픽을 통합한 8세대 코어 프로세서 등의 포트폴리오가 마련되어 있으며, 소프트웨어 측면에서는 인코드와 디코드, 추론을 위한 OpenVINO, 그리고 렌더를 위한 도구들 등이 마련되어 있다. 이와 함께 네트워크 측면에서도 인텔 아키텍처의 활용으로 워크로드 컨버전스 환경과 클라우드 레디 네트워크 등에 대응할 수 있다. 이와 함께 워크로드 최적화를 위한 패러렐 스튜디오 XE, 프로페셔널 시각화를 위한 인텔 셀렉트 솔루션도 소개되었다.
▲번하드 프리비 인텔 프로그래머블 솔루션 그룹 마케팅 시니어 디렉터
▲인텔의 제온 프로세서와 FPGA를 위한 솔루션 스택 구성은 이런 형태다
▲공용 개발자 인터페이스의 존재는 FPGA의 활용을 좀 더 수월하게 만든다
인텔 프로그래머블 솔루션 그룹의 번하드 프리비(Bernhard Friebe) 마케팅 시니어 디렉터는 이 자리에서, 프로세서와 ASIC, FPGA로 구성되는 이종 아키텍처에서 FPGA는 다양한 기능의 유연한 정의가 가능하고, 낮은 지연시간과 고성능의 가속이 가능하다는 점을 특징으로 꼽았다. 그리고 FPGA의 활용을 위해서는 오픈소스 커뮤니티 파트너 에코시스템과 함께 언어와 컴파일러, 라이브러리, IP에서부터 프레임워크와 툴, SDK, 분석 솔루션까지 개발을 위한 다양한 도구들을 지원하고 있으며, 고수준 디자인 소프트웨어를 활용할 수 있게 되면서 사용자층이 크게 늘어나고, 솔루션 기반의 활용으로 더 폭넓은 활용이 기대된다고 덧붙였다.
인텔은 제온 프로세서 기반 환경에서 FPGA 활용을 위한 전반적인 스택 구성을 제공하고 있다. 이 구성에는 FPGA 제품을 위한 개발자 인터페이스부터, 워크로드 최적화를 위한 개발 도구들, 성능 최적화를 위한 각종 라이브러리들 등이 포함된다. 이런 환경을 기반으로 업계 표준의 소프트웨어 프레임워크와 사용자 애플리케이션이 인프라에 최적화된 형태로 구성될 수 있다. 한편 ‘랙 레벨 솔루션’은 클라우드 수준의 대규모 환경에서 FPGA를 포함하는 인프라를 운영하는 경우, 전반적인 리소스 관리에서 워크로드 가속을 위한 자원의 동적 할당을 지원하는 등의 기능을 제공한다고 소개했다.
인텔의 프로세서와 FPGA를 활용하는 가속 환경 구성에 있어, FPGA로 구현된 빌딩 블록은 물리적으로는 프로세서와 UPI2나 PCIe로 연결될 수 있고, 논리적으로는 FPGA 인터페이스 매니저(FIM), OPAE 기술을 포함하는 인텔 액셀러레이션 엔진 등의 공용 개발자 인터페이스를 통해 연결될 수 있으며, 이를 통해 소프트웨어와 하드웨어의 개발을 더 빠르게 할 수 있도록 한다. 이와 함께 딥러닝 개발 툴킷 OpenVINO는 개발자들이 딥러닝 프레임워크 기반으로 개발한 애플리케이션에서 FPGA의 장점을 좀 더 효율적으로 활용할 수 있는 방법을 제공한다고 덧붙였다. |
등록안내
