January 20, 2025
4 read min
The Hindu Business Line에 실린 오나인솔루션즈 공동 창업자이자 CEO 차크리 고테무칼라와의 인터뷰를 소개합니다.
o9의 Multi-Model LLM 전략: Public AI와 Private AI를 결합해 더 스마트한 의사결정을 실현하다
오나인솔루션즈의 공동 창업자이자 CEO인 차크리 고테무칼라(Chakri Gottemukkala)는 10년 전 소수의 직원과 함께 공급망 관리 기술 플랫폼을 개발하며 창업의 첫걸음을 내디뎠다. 현재는 29개 산업을 아우르며 직원 수 3,000명 규모로 성장했다. 지난해 1억 1,600만 달러의 투자 유치 이후 약 40억 달러의 기업가치를 인정받은 이 유니콘 기업은 여전히 두 창업자가 지재 지분을 유지하고 있다.
인도 하이데라바드(Hyderabad)에 새로 문을 연 o9 오피스를 직접 방문한 차크리 고테무칼라는 복잡한 거시경제 및 지정학적 환경 속에서 기업들이 직면하는 도전 과제를 알고리즘 기반 솔루션으로 해결하는 방법에 관해 설명했다.
다음은 인터뷰 주요 내용이다.
Q. 공급망 전체에 어떤 어려움이 있다고 보시나요? 특히 팬데믹 이후 거시경제 및 지정학적 이슈가 많은 상황에서, 기술이 이러한 문제들을 어떻게 해결할 수 있을까요?
기업의 가치 손실을 유발하는 주요 요인은 변동성(Volatility)과 복잡성(Complexity)입니다. 변동성은 공급망 혼란, 비즈니스 모델 변화, 지정학적 사건 등으로 수요와 공급 예측을 어렵게 만듭니다. 복잡성은 방대한 제품군, 다양한 시장, 복잡한 공급망 구조에서 비롯됩니다. 변동성과 복잡성이 결합되면 더 지능적인 솔루션과 빠른 의사결정이 필수적입니다.
이러한 문제를 해결하기 위해, 저희는 소프트웨어와 기술을 지속적으로 발전시켜 복잡한 시나리오를 모델링하고 의사결정을 자동화할 수 있도록 하고 있습니다. 예를 들어, 생산, 배송, 고객 주문 이행과 같은 매일 발생하는 의사결정의 초 자동화(Hyper-automation)를 지원합니다. o9 플랫폼은 기업 내 모든 의사결정을 하나로 통합해 주는 디지털 브레인(digital brain)의 역할을 하며, 이로써 지능적이고 연결된 의사결정이 가능해집니다. 이를 통해 기업은 변동성과 복잡성이 높은 오늘날의 비즈니스 환경에서 보다 신속한 시나리오 계획과 대응이 가능해집니다.
Q. 이미 알고리즘을 활용하고 계시는데, LLM이 업무 방식을 어떻게 변화시킬 거라고 보시나요?
저희가 해결하고자 하는 주요 비즈니스 문제는 구현 과정을 단순화하는 것입니다. 현재는 산업별 요구사항에 맞춰 솔루션을 구성하는 데 많은 지식과 시간이 필요합니다. 그러나 LLM을 활용하면 이러한 지식을 디지털화하여 AI 기반 Agents로 변환할 수 있습니다. 이를 통해 계획 담당 및 컨설팅 조직이 더욱 효과적으로 지원받을 수 있습니다. 예를 들어, 매니저가 자연어(영어)로 질문하면, AI 시스템이 해당 요청을 이해하고 적절한 알고리즘을 실행해 답변을 제공합니다. 이를 통해 전문가에 대한 의존도가 줄어들고, 의사결정 속도가 훨씬 빨라집니다.
Q. 하지만 LLM 사용 시 환각(hallucination) 현상과 보안 문제가 있습니다. 이를 어떻게 해결하시나요?
o9은 환각 (Hallucination)문제를 해결하기 위해 LLM이 단독적으로 모든 질문에 직접 답변하는 대신, 이를 시스템이 이해할 수 있는 지능적 질의 (Intelligent Query)로 변환한 후, 우리의 시스템이 정확한 답변을 도출하도록 설계했습니다. 보안 측면에서는 기존에 구축해 둔 데이터 접근 관리 프레임워크를 그대로 적용하여 접근 권한이 승인된 사람만 데이터에 접근할 수 있도록 보장합니다. 이 프레임워크는 자연어 기반의 질의에도 그대로 적용됩니다. 즉, LLM의 자연어 처리 능력을 활용하되, 보안과 신뢰성 있는 연산은 o9의 시스템이 담당하도록 설계했습니다.
Q. 엔지니어가 대부분인 직원들에게, 비즈니스 환경에서 LLM을 더 잘 활용하려면 어떤 방식으로 ‘적절한 질문’을 할 수 있도록 교육할 계획인가요?
기업 내 암묵지(tribal knowledge)를 디지털화하는 것이 핵심입니다. 암묵지는 직원 개개인의 머릿속에만 존재하는 지식으로, 조직 내에서 공유되지 않아 단절될 가능성이 큽니다. 이로 인해 과거 경험에서 충분히 배우지 못하고, 직원이 떠날 경우 중요한 지식이 소실되는 문제가 발생합니다. o9의 디지털 브레인 플랫폼은 조직 내 암묵지를 모두 디지털화된 지식으로 전환할 수 있게 합니다. 즉, 모든 예측, 의사결정, 결과를 저장하고 학습하여 데이터 기반의 의사결정과 지속적인 개선을 가능케 합니다. 또한 개개인의 의사결정 패턴과 편향을 파악해, 조직 전체가 더 신뢰할 수 있고 일관된 의사결정을 내릴 수 있도록 돕습니다. 저희는 이렇게 인간의 사고 과정과 시스템 이해의 간 격차를 메워, 암묵지를 동적이고 진화하는 디지털 지식 자산으로 전환하는 혁신을 실현하고 있습니다.
Q. 직접 LLM을 개발하시는 건가요, 아니면 Third Party LLM을 사용하시나요?
저희는 멀티 모델(Multi-model) 접근 방식을 택하고 있습니다. 퍼블릭 (public) LLM과 도메인 특화 데이터로 학습된 사설 (private) LLM을 동시에 활용할 수 있는 아키텍처를 구축 중입니다. 이를 통해 대형 언어 모델의 일반적인 지식 처리 능력을 활용하는 동시에, 산업별로 복잡한 과제에 대해서는 특화된 모델을 사용하게 됩니다. 궁극적으로 가장 적합한 LLM으로 질문을 지능적으로 자동 라우팅하여 효율성, 정확성, 보안을 모두 극대화하는 시스템 개발을 목표로 하고 있습니다
Q. 향후 1~2년간의 성장 계획은 어떠한가요? IPO도 계획하고 계시는가요?
저희는 2~3년 내 IPO를 목표로 하고 있습니다. 이미 비즈니스의 예측 가능성을 확보하고, 보고 및 감사 절차를 강화하는 등 필요한 프로세스를 체계적으로 구축하고 있습니다. 다만, IPO의 장단점을 충분히 인지하고 있기 때문에, 상장 여부에 대한 최종 결정은 유연하게 검토할 계획입니다. 장기적으로는 향후 5~10년 내 10배 성장을 달성하는 것을 목표로 하고 있으며, 시장 내 광범위한 기회를 고려할 때 충분히 실현 가능하다고 판단하고 있습니다.
About the authors
o9
The Digital Brain Platform
o9 Solutions is a leading AI-powered platform for integrated business planning and decision-making for the enterprise. Whether it is driving demand, aligning demand and supply, or optimizing commercial initiatives, any planning process can be made faster and smarter with o9’s AI-powered digital solutions. o9 brings together technology innovations—such as graph-based enterprise modeling, big data analytics, advanced algorithms for scenario planning, collaborative portals, easy-to-use interfaces and cloud-based delivery—into one platform.
