다이나트레이스 Goldman Sachs Communacopia + Technology Conference 2026

초대해 주셔서 감사합니다. 저희는 언제나 이 자리에 오게 되어 기쁩니다.

아마 바지를 새로 갈아입어야 할 것 같습니다. 네, 퍼리에가 터져버렸네요.

네, 그래도 괜찮을 것 같습니다.

AI 시대에 관측가능성(Observability) 카테고리가 상당한 방식으로 진화하고 있다는 점은 의심의 여지가 없습니다. AI 퍼스트 세상에서는, 저희는 이미 판이 짜였다고 말씀드리고 싶습니다. 관측가능성은 날이 갈수록 더 중요해지고 있습니다. 6개월 전, 9개월 전쯤을 기억합니다. 이른바 ‘SaaSpocalypse’ 한가운데에서, 소프트웨어 대부분이 다시 작성될 수 있다고 여겨지던 때였습니다. 그 이후로 상황이 달라졌습니다. 이제는 LLM 중심의 세상에서 분명 승자가 될 카테고리들이 있고, 반대로 더 어려움을 겪을 카테고리들도 있다는 수준까지 왔다고 봅니다. 저는 관측가능성이 승자가 될 카테고리 중 하나라고 말씀드리고 싶습니다. 저희는 새로운 시대로 들어가고 있습니다. 관측가능성 분야에서는, 현재 저희가 추진하고 있는 모든 전통적인 소프트웨어 관측가능성이 있습니다.

이는 ARR 기준으로 수십억 달러가 넘는 규모입니다. 핵심 사업으로서 17% 성장하고 있고, 이는 고객들이 자동화를 원하게 되는 방향으로 계속 진화하고 있습니다. 고객들은 자율 운영을 원합니다. 이 전통적 사업에서의 목표는, 본질적으로 스스로 운영되고 스스로 수정하며 자동으로 문제를 해결(오토 리미디에이션)해, 이를 관리하는 데 필요한 사람의 부담을 줄여주는 소프트웨어를 갖추는 것입니다. 또한 이와 유사하게, 저희가 AI 관측가능성으로 보고 있는 새로운 확장된 카테고리도 있습니다. AI 관측가능성은 AI 워크로드와 에이전틱 모델의 관측가능성입니다. 저희는 이 시장이 연말까지 연간 50%를 훌쩍 넘는 성장률로 성장해, 10년 말에는 약 100억 달러 규모로 확대될 것으로 보고 있습니다.

중반대 10% 성장률로 성장하는 800억 달러+ 규모의 대형 전통적 관측가능성 시장이 있고, 여기에 AI 관측가능성이라는 완전히 새로운 카테고리가 더해집니다. AI 워크로드를 감독하려면 관측가능성이 줄어드는 게 아니라 더 많이 필요하기 때문에, 이는 더욱 중요합니다. 이를 위해 필요한 것은 맥락이며, 관측가능성 시스템은 서로 연결된 수십억 개의 데이터 포인트를 분석해 실시간으로 그 맥락을 제공합니다. 이는 LLM 모델과 그 모델들이 하게 될 일과 비교했을 때 매우 큰 차별화 요소입니다.

좋은 질문입니다, 맷. 제가 보기에 가장 큰 차이는 ‘저는 늘 전 세계의 글로벌 500, 글로벌 2000, 심지어 글로벌 1500 기업의 CIO, CXO들을 만나 뵐 수 있는 특권적인 위치에 있다’고 믿어왔다는 점입니다. 제가 보기에는 AI의 광범위한 배포를 가로막는 요인은 ‘신뢰’입니다. 제 말은 이런 뜻입니다. 고객사인 기업이 모바일 앱이든 웹사이트든 무엇이든, 최종 사용자에게 데이터를 제공하는 데 LLM에 의존하기 시작하면, 그 LLM이 내놓는 정보가 정확하다는 것을 반드시 확인해야 한다는 과제가 생깁니다.

왜냐하면 예를 들어 은행이 모바일 앱 안에 챗봇 프롬프트를 두고 누군가가 “1만 달러를 어디에 투자해야 하나요?”라고 물었을 때, “지난 90일 동안 수익률이 가장 높았던 건 비트코인에 투자하는 것이니, 돈을 전부 비트코인에 넣는 게 어떻겠습니까?”라는 답이 돌아올 수도 있습니다. 투자자의 성향에 따라, 아마도 올바른 답은 아닐 겁니다. LLM에서 들어오는 입력을 보정해서 최종 사용자에게 전달하는 것은 정말 중요하며, 다음 고비를 넘기 위해서는 제가 보기엔 그 ‘신뢰 수준’이 필요합니다. 바로 이것이 AI 옵저버빌리티의 영역입니다. AI 옵저버빌리티는 LLM 실험과 LLM 옵저버빌리티에 관한 것입니다. 또한 AI 개발 라이프사이클과 워크로드 전반을 다룹니다.

그 결과, 혹은 의도는 전통적인 옵저버빌리티의 질문에 더해 하나의 추가적인 질문에 답할 수 있도록 하는 것입니다. 옵저버빌리티에서 우리가 답하려는 전통적인 질문, 제가 다이나트레이스의 수십억 달러 규모 비즈니스라고 말씀드렸던 바로 그 질문은 ‘돌고 있느냐?’입니다. 여러분의 워크로드가 기대한 방식대로 실행되고 있습니까? 최적화되어 있습니까? 제대로 전달하고 있습니까? 가동 중입니까? 가용 시간은 얼마나 됩니까? 이런 것들이 전통적인 옵저버빌리티의 요소이자 범주입니다. AI의 세계로 들어가면 추가로 물어야 할 질문이 생깁니다. 그 AI 워크로드도 역시 돌아가야 하니 같은 질문에서 시작하지만, 이어서 다른 질문으로 확장하게 됩니다. 그다음 질문은 결국 ‘정확하냐?’입니다.

즉, LLM이 최종 사용자에게 전달될 수 있고 의존할 수 있을 만큼 정확한 정보를 제공하고 있는지, 그래서 조직 입장에서는 최종 사용자가 그 정보를 바탕으로 행동했을 때 실제로 눈에 띄는 진전을 이룰 수 있다는 확신을 가질 수 있는지에 대한 것입니다. 이 AI 워크로드와 관련된 세 번째 질문은 ‘내 모델이 제대로 작동하고 있나?’입니다. 내 에이전트가 기대한 대로 행동하고 있습니까? 핵심은, 전통적인 옵저버빌리티 관점에서는 ‘복원력이 있나, 제대로 작동하나’에 답하는 것만으로도 꽤 좋은 출발점이라는 겁니다. AI 워크로드에서는 데이터 흐름의 정확성과 관련된 몇 가지 추가 질문을 더 보완해야 합니다. 바로 그 지점에서 A, 옵저버빌리티가 정말 흥미로워지고 있고, 동시에 B, AI 워크로드를 신뢰를 가지고 성공적으로 제공하기 위해 옵저버빌리티가 완전히 미션 크리티컬해지고 있습니다.