kt cloud, AI 학습용 GPU 인프라 구축…'초거대 AI' 시장 노린다
kt cloud 직원들이 하이퍼스케일 AI 존이 구축된 IDC에서 장비를 점검하고 있다. [사진=kt cloud]
[서울경제TV=김수빈기자]kt cloud가 오는 12월까지 KT 대덕2연구센터에 초거대 AI 학습용 그래픽처리장치(GPU)인프라를 구축한다고 25일 밝혔다. 이번 사업으로 HAC(Hyperscale AI Computing) 인프라를 구축해 최적의 성능, 운영 효율성 등을 검증하고, 초거대 AI 사업 시장 공략에 나선다는 전략이다.
초거대 AI란 대용량의 연산이 가능한 GPU 인프라를 바탕으로 대규모 데이터를 학습해 사람처럼 스스로 사고할 수 있도록 설계된 AI다. KT는 GPU 컴퓨팅 인프라를 확보하기 위해 kt cloud의 HAC와 엔비디아의 GPU 어플라이언스를 병행 도입하기로 결정했다.
kt cloud는 이번 KT 인프라 사업 참여로 HAC의 초거대 AI 주요 사업 레퍼런스를 확보하게 됐다. 초거대 AI 학습 성능개선과 재학습결과 등을 검토·보완해 글로벌 탑티어 수준까지 기술력을 끌어올린다는 계획이다. 여기에 AI반도체 회사 ‘리벨리온’과 함께 국산 AI 클라우드 반도체 칩 개발도 추진 중이다.
kt cloud의 HAC는 지난 해 12월 출시된 세계최초 종량제 GPU 서비스다. AI 모델 대형화에 필요한 △비즈니스 민첩성 △비용 효율성 △개발 유연성·연속성 △프로그래밍 호환성의 강점을 갖췄다.
HAC는 여러 대의 GPU를 논리적으로 결합해 하나의 GPU처럼 사용하며, 수백·수천개의 GPU 클러스터링을 지원한다. 대규모 연산이 필요할 때 다중·동적 할당 기술을 통해 원하는 만큼만 GPU 자원을 할당받고, 연산 후 즉시 반납할 수 있어 탄력적으로 서비스 이용이 가능하다.
클라우드 기반으로 GPU를 사용한 기간, 할당된 자원만큼만 비용이 책정되기 때문에 고가의 장비를 구축하는 것에 비해 비용 부담을 획기적으로 줄일 수 있다. 코드 재활용 등 기존 개발 소스를 활용하는 모델 프로그래밍 호환성은 물론, 개발 시 필요한 자원 규모를 탄력적으로 변경하고 과거 학습결과에 이어 진행할 수 있는 유연성과 연속성을 보장한다.
kt cloud가 초거대 AI 언어모델 학습 테스트를 진행한 결과, HAC는 동등한 조건의 기존 구축형 서비스 대비 30~50%의 비용 절감 효과를 내는 것으로 나타났다.
kt cloud는 서버 팜을 지속적으로 증설해 나간다는 계획이다. 향후 최대 10분의 1 수준의 효율적 비용으로 동급 연산 자원을 제공할 것으로 기대하고 있다.
윤동식 kt cloud 대표는 “HAC는 초거대 AI 연구 및 서비스 개발에 필수적인 대규모 인프라를 제공하는 혁신적인 기술이자 서비스”라며 “국내·외 AI 선도기업들과 초거대 AI 산업 성장을 이끌어 갈 것”이라고 말했다. /kimsoup@sedaily.com
[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]
주요뉴스
주간 TOP뉴스
- 1미나 “전화받어” 챌린지, 민원 응대 공무원 보호 캠페인까지 확산
- 2[이슈플러스] “외국인 관광객 회복”…유통업계 기대감↑
- 3전북개발공사 “익산 부송 데시앙 책임지고 준공”
- 4사모펀드發 상폐추진 봇물…‘커넥트웨이브’도 증시 떠난다
- 5강원랜드, 2024년 강원랜드 멘토링 장학생 모집
- 6“에스파와 함께”…미쟝센, ‘퍼펙트세럼’ 신규 광고 온에어
- 7휴니드, 강원권 정비지원센터 개소…“성과기반 군수지원체계 마련”
- 8삼성전자, MSI 열리는 中 청두서 T1과 오디세이 체험 행사 열어
- 9그로쓰리서치"클리오, 인디브랜드 최강자…올해 최대 실적 전망"
- 10고금리에 4대 금융 카드사 실적 '희비'…신한·하나·국민은 선방
공지사항
더보기
핫클립
-
- 종가베팅 할 섹터와 종목은? 화장품주의 아모레퍼시픽과 유리기판주의 필옵틱스!│ 주가,주도주 오늘장 내일장 2024-04-30 (화) 방송
- 염승환's 5월의 촉! SK하이닉스, 美 금리인하 기대감 후퇴, 우주항공청 개청! 5월 강세 업종까지 알아보자 │ 주가, 주도주, 염승환 오늘장 내일장 2024-04-30 (화) 방송
- 내일 시장 원픽 섹터와 종목은? 구리주의 이구산업!│ 주가,특징주 오늘장 내일장 2024-04-30 (화) 방송
- [텐베거 장전관심주] 대원전선 (006340), 조일알미늄 (018470), 라이콤 (388790), 아이엠비디엑스 (461030) 정오의 텐베거 2024-04-30 (화) 방송
-
- 지수상승하면 우량주, 혼조세면 개별주, 하락하면 관망 평택촌놈의 정석투자 2019-03-26 (화) 방송
- 메타버스와 교육이 합쳐진다? 웅진씽크빅 지금이 매수 타이밍!│ 매매전력(웅진씽크빅,교육주,윤석열관련주) 마감임박! 60분의 승부 2021-11-12 (금) 방송
- [내일의 BOOM] 탄소감축 = 원전? 달리는 말 '세보엠이씨' 탑승 전략은? │ 매매전략 (세보엠이씨,원전주,종가베팅) 오늘장 내일장 2021-11-12 (금) 방송
- 2월 25일이 반등 고점은 확실, 이제는 하락 속도의 문제 평택촌놈의 정석투자 2019-03-26 (화) 방송
이 시각 이후 방송
-
19:55베스트 트레이딩 맨 1부
생방송 백민희 PD 김혜연 MC
-
20:55베스트 트레이딩 맨 2부
생방송 신민정 PD 김혜연 MC
-
21:55神들의 매매신호
생방송 박아인 PD 박수연 MC
-
22:55해선시대
생방송 신민정 PD 박수연 MC
오늘의 날씨
2024-05-01(수) 12:00마포구 상암동22.0℃
강수확률 20%