오픈소스 제품
Liwon Ace AI/ML Platform|AI
AI Inference Server
vLLM 기반의 고성능 추론 서버로 하이브리드 클라우드 전반에서 빠르고 비용 효율적인 모델 배포를 실현합니다
OVERVIEW
Red Hat AI Inference Server는 하이브리드 클라우드 전반에서 모델 추론을 최적화하여 더 빠르고 비용 효율적인 모델 배포를 가능하게 하는 AI 추론 솔루션입니다
vLLM 기반 최적화
오픈소스 vLLM 프로젝트 기반으로 GPU 활용률을 극대화하고 더 빠른 응답 시간을 제공합니다
50% 비용 절감
LLM Compressor 기능으로 성능 저하 없이 추론 효율성을 높여 50%의 비용 절감을 실현합니다
유연한 GPU 지원
모든 주요 오픈소스 모델을 지원하고 다양한 GPU 간 이식성을 유지하여 벤더 종속성을 제거합니다
FEATURES
주요 기능
엔터프라이즈급 성능과 안정성
Red Hat은 vLLM의 최대 상업적 기여자 중 하나로서, 깊은 기술 이해도를 바탕으로 엔터프라이즈 AI 목표 달성을 지원합니다
CONTACT
AI Inference Server 도입이 필요하신가요?
리원에이스의 전문가가 최적의 도입 방안을 제안해 드립니다.