[ACC 2025] 마이클 신 전무 "작게 시작해 확장하는 인프라, AI 플랫폼이 해법"뉴타닉스가 생성형 인공지능(AI) 도입을 망설이는 기업들에게 단순하고 확장 가능한 AI 인프라와 IT 주도형 플랫폼 전략을 해법으로 제시했다.

뉴타닉스 코리아 마이클 신 시스템 엔지니어링 전무는 11일 서울 신라호텔에서 열린 '인공지능(AI)&클라우드 컨퍼런스 2025(ACC 2025)'에서 AI도입 과정의 어려움을 살펴보며 이를 해결하기 위한 도입 전략을 소개했다.

그는 "기업들이 AI를 도입하는 이유는 결국 생산성과 수익성을 높이기 위한 것"이라며 "이 목표를 달성하려면 처음 설계 단계에서부터 인프라와 운영 방식을 함께 생각해야 한다"고 강조했다.

뉴타닉스 마이클 신 전무(사진=남혁우 기자)

신 전무는 AI 도입을 고민하는 기업들이 먼저 스스로에게 던져야 할 질문을 세 가지로 정리했다. ▲어떤 모델을 쓸 것인지 ▲어떤 부서와 업무에 AI를 적용할 것인지 ▲그래픽처리장치(GPU) 수급과 비용 현실 등을 감안해 인프라를 어떻게 확장해 나갈 것인지다.

그는 "지금 당장 수천 개의 GPU를 살 수 있는 기업은 거의 없다"며 "처음부터 크게 시작하는 것보다 작게 시작하되 수요에 맞춰 자연스럽게 확장할 수 있는 구조가 중요하다"고 말했다.  [...]  

뉴타닉스 쿠버네티스 플랫폼은 CNCF 표준을 따르지만 실제 운영과 업그레이드는 뉴타닉스가 책임지는 방식으로 운영된다. 또 IT 인프라팀은 공통 플랫폼만 관리하고, 개발자와 데이터팀은 그 위에서 자유롭게 도구를 선택해 쓸 수 있도록 설계됐다.

신 전무는 내년 이후 본격화될 에이전틱 AI 시대를 대비하기 위해서도 공통 플랫폼이 필수라고 강조했다.

그는 "에이전트 환경에서는 리즈닝, 임베딩, 검색증강생성(RAG), 리랭킹, 가드레일 등 여러 모델이 얽혀 돌아가는데, 애플리케이션마다 따로 GPU와 인프라를 얹어 구성하면 관리와 비용, 보안이 모두 폭증한다"고 지적했다.

뉴타닉스는 에이전트와 툴까지 NAI 안에서 라이브러리 형태로 재사용하고 통제할 수 있도록 하는 기능을 개발 중이며, 이를 통해 에이전틱 AI의 전 과정을 하나의 플랫폼에서 운영하는 것이 목표라고 설명했다.

마이클 신 전무는 "AI 도입에서 중요한 것은 '최고 성능의 모델'을 찾는 것이 아니라 '우리 조직이 감당할 수 있는 단순한 구조와 운영 방식을 먼저 정하는 것'"이라고 강조했다.

이어 "작게 시작하되 확장 가능한 인프라와, IT가 책임지고 운영하는 AI 플랫폼을 갖추는 것이 성공적인 AI 여정의 출발점"이라며 "뉴타닉스가 그 설계와 운영을 함께 고민하는 파트너가 되겠다"고 말했다.

출처: https://n.news.naver.com/mnews/article/092/0002401986