Hailo M.2 AI 가속 모듈 "Hailo-10H M.2"를 발표
Hailo-10H M.2는 M.2 폼 팩터를 채용한 생성 AI 가속기. 기존의 PC 등의 M.2 소켓에 접속하는 것으로, CPU나 GPU의 부하를 억제하면서, AI 성능의 향상을 도모할 수 있다. 최대 40TOPS의 연산 성능을 가지며, 독자적인 구조 구동형 데이터 플로우 아키텍처에 의해, 기존의 솔루션에 비해 높은 비용 효율도 실현했다고 한다.
강력한 소프트웨어 스위트도 준비되어 있으며 최신 딥 러닝 모델과 생성 AI 애플리케이션을 지원합니다. PC나 스마트카, 엣지 디바이스 등에 있어서, 리얼타임으로 저지연, 한편 고효율로의 AI추론을 가능하게 한다고 하고 있다.
폼 팩터는 M.2 2242/2280 Key M, 인터페이스는 PCI Express 3.0 x4. 모듈 위에 8GB LPDDR4도 갖추고 있다.
대응 OS는 Windows, 대응 AI 프레임워크는 TensorFlow, TensorFlow Lite, Keras, PyTorch, ONNX.
Generative AI Accelerator: The Efficient Hailo-10H M.2 Module
The generative AI accelerator Hailo-10H M.2 module improves AI inferencing on edge devices, ideal for PCs, smart cars, and edge computing.
hailo.ai
반응형