사용 목적·용도에 따른 4개 옵션 제공…“IT 인프라 비용 절감 기대”

인공지능(AI) 자동화 솔루션 전문기업 이든티앤에스(대표 김연기)는 HPE의 ‘젠11(GEN11)’ 서버와 자사의 거대언어모델(LLM)인 ‘웍트로 LLM’을 결합한 ‘웍트로 LLM 시너지’를 출시한다고 10일 밝혔다.

웍트로 LLM 시너지는 비즈니스별 특성에 맞게 미세조정(파인튜닝)한 웍트로 LLM 모델을 HPE GEN11 서버에 탑재해 원스탑 공급하는 어플라이언스 제품이다. 사용자는 패키지 구매를 통해 비용 절감은 물론 복잡한 탐색 과정 없이 구축 과정을 간소화할 수 있다.

▲이든티앤에스가 HPE의 젠11 서버와 웍트로 LLM을 결합한 ‘웍트로 LLM 시너지’를 출시한다. (사진=이든티앤에스)

보안이 중요한 기업과 기관에서는 온프레미스 환경에서 AI를 구축하기를 원하는 경우가 많다. 웍트로 LLM 시너지는 하드웨어에 LLM을 직접 설치하는 형태로 제공돼 외부 연결 없이 자체 데이터센터만으로 안전한 AI 구축이 가능하다.

웍트로 LLM 시너지는 언어모델의 규모, 사용 목적 및 용도에 따라 △sLLM(소형언어모델) 추론용 패키지 △LLM 추론용 스탠더드 패키지 △LLM 추론용 엔터프라이즈 패키지 △LLM 전문 학습용 패키지 등 4개의 옵션으로 제공된다.

sLLM 추론용 패키지는 HPE DL360 Gen11을 기반으로 인텔 제온 실버(Intel Xeon Silver) 4410Y 프로세서와 64GB DDR5 메모리를 탑재했다. 또 엔비디아(NVIDIA) L4 24GB PCIe x1 GPU를 장착해 동시접속자 수 50명까지 지원한다.

LLM 추론용 스탠더드 패키지 64GB 메모리와 엔비디아 L40 48GB PCIe x2 GPU를, 엔터프라이즈 패키지는 128GB 메모리와 엔비디아 L40 48GB PCIe x4 GPU를 장착해 최대 200명까지 동시 접속이 가능하다. 두 제품 모두 HPE DL360 Gen11을 기반으로 한다.

LLM 전문 학습용 패키지의 경우 HPE DL380 Gen11과 256GB DDR5 메모리, 엔비디아 H100 NVL 94GB PCIe x4 GPU를 탑재해 최고 수준의 성능을 제공한다.

이든티앤에스 김연기 대표는 “웍트로 LLM 시너지는 많은 기업이 직면한 IT 인프라 구축 비용 절감에 대한 고민을 해결해 줄 것”이라며 “하드웨어와 소프트웨어가 최적화된 통합 제품을 공급함으로써 국내 기업에 새로운 성장 기회를 제공하겠다”고 밝혔다

원문보기 : http://www.itdaily.kr/news/articleView.html?idxno=225011