헬로티 서재창 기자 |

AI 애플리케이션은 이제 엣지에서 발전하고 있습니다. 엣지 AI는 모든 단계에서 성능, 생산성, 효율성의 향상을 보장합니다. 

개발자는 엣지에서 AI 애플리케이션을 성공적으로 구현하기 위해 애플리케이션마다 다른 하드웨어, AI 네트워크, 프레임워크 옵션에서 어려운 선택에 직면합니다. 클라우드가 아닌 엣지에서 AI를 실행하려면, 개발자는 견고함에 대해 더 깊이 연구해야 하고, 더 많은 과제에 직면하게 됩니다. 

이번에는 엣지와 AI 애플리케이션을 다뤄보려 하는데요. 이번에 다룰 내용은 ‘엔비디아 GPU로 최적의 엣지 AI 구현 : 성능과 SWaP을 모두 충족하기’입니다. 에이디링크는 웨비나에서 다양한 산업 적용 사례를 통해 엣지에서 본격적으로 AI 애플리케이션을 개발하기 위해 주요하게 고려해야 할 사항을 다루고, 시작부터 배포 후 업그레이드까지 AI 구현을 최적화하기 위한 팁을 공유했습니다. 

Q & A

Q : 최적의 엣지라 할 수 있는 조건은 어떻게 되는가?
A : 하드웨어와 소프트웨어의 관점에서 투자 수익을 극대화하는 것이 가장 큰 과제라 할 수 있다. AI 워크로드, 만족스러운 컴퓨팅 성능, 애플리케이션 별 I/O, 크기, 무게 및 전력 제약 조건(SWaP) 충족, 확장 가능한 시스템 설계, 산업용 시스템으로서 신뢰성도 만족해야 한다. 

Q : GPU 솔루션을 가장 효율적으로 사용하는 시스템 환경이나 개발 접근법은?
A : 임베디드 시스템이 가장 효율적인 솔루션이며, OS는 일반적으로 리눅스에서 많이 사용되며, 관련 API 등을 많이 가지고 있다. 

Q : 투자수익(ROI) 극대화 측정이 정량적으로 가능한가? 
A : 생산성 향상, 운영비 절감 등으로 측정할 수 있다. 한 예로, 레스토랑에 엔비디아 젯슨 TX2를 이용한 셀프 체크아웃 시스템을 적용했을 때 계산에 투입된 인력 비용을 줄여 운영비를 절감하고, 계산 속도가 빨라져 더 많은 손님을 유치했다. 

Q : 적용해서 큰 효과를 볼 수 있는 분야는 어디인가?
A : AI 기반 의료진단(병원), AI 기반 공항보안, AI 기반 스마트시티, AI 기반 유통센터, AI 기반 제조 공장 등 다양한 분야가 있다. 

Q : 에이디링크의 Fanless 제품 중 가장 GPU 성능이 높은 제품은?

A : DLAP-8000이 있다. 2장의 RTX8000 카드 설치가 가능하며, 4개의 Hot swap SSD베이도 있으며, 제온 CPU지원 가능한 임베디드 시스템이다. 

Q : GPU 성능에 대비 가격 경쟁력이 가장 좋은 제품은 무엇인가?
A : T4, MXM-T1000 제품 등이 있다. 자사는 엔비디아와 협업하고 있기 때문에 엔비디아 사이트에서 제품을 확인할 때 텐서 코어, 메모리 밴드위트를 보면 된다. 

Q : MIL-STD-810G도 지원하는가?
A : 일반적으로 임베디드 시스템은 산업용 규격을 만족한다. MIL 스펙을 만족한는 제품은 COMe라는 제품이 있다. 임베디드 시스템을 -45℃~85℃ 지원하려면, H/W 수정이 필요하다. 

‘엔비디아 GPU로 최적의 엣지 AI 구현 : 성능과 SWaP을 모두 충족하기’를 주제로 다양한 질의응답이 오고갔습니다. 엣지 AI를 이해하는데 조금이나마 도움이 되셨나요?

해당 주제와 관련해 궁금한 사항은 하단에 있는 댓글창에 댓글로 입력해주세요. 전문가가 직접 답변해드립니다. 이와 더불어 위 내용을 다룬 발표 자료를 공유 받고 싶다면, 댓글창에 메일 주소를 남겨주시길 바랍니다.