SK텔레콤이 대규모 그래픽처리장치(GPU) 등 인공지능(AI) 인프라 자원을 최적화하고 AI 개발 환경을 통합 관리할 수 있는 기업 대 기업(B2B) 설루션 'SKT 엔터프라이즈 AI 클라우드 매니저'를 출시했다.

이 제품은 SK텔레콤이 지난달 하나금융티아이와 구축한 대규모 GPU 클러스터에서 GPU 효율 극대화에 활용됐다.

▲ SKT 'AI 클라우드 매니저'.

SK텔레콤은 AI 클라우드 매니저가 GPU 클러스터 특화 설루션으로, 기업 고객이 보유한 GPU 자원을 마치 한 대의 컴퓨터처럼 관리하도록 해 성능을 극대화한다고 설명했다.

프로젝트마다 다른 GPU 사용량과 성능을 실시간으로 모니터링하고, 사용하지 않는 GPU를 감지해 다른 프로젝트에 재분배하는 식으로 자원 효율성을 높인다.

AI 모델 학습 과정에서 대규모 데이터를 다수의 컴퓨터에 분산 처리하는 병렬 학습 환경을 제공해 학습 속도를 향상한다는 설명이다.

소프트웨어를 설치할 필요 없이 '웹 브라우저(Web UI)' 기반으로 사용할 수 있고, 다수의 개발자가 동시에 같은 AI 개발 프로젝트에 접근할 수 있는 협업 환경을 갖췄다.

또, AI 추론에서는 프로젝트나 비용에 최적화된 GPU 종류와 추론 엔진 조합을 사용자가 선택할 수 있도록 하고, 검색 증강 생성(RAG) 기술로 과거 자료를 최신 정보처럼 인식하며 나타나는 '환각 현상(할루시네이션)'을 최소화했다.

윤세훈 기자  press@jeonpa.co.kr

<저작권자 © 전파신문, 무단 전재 및 재배포 금지>