RANDIT

References

도입 사례

자체 서비스의 prototype 으로 검증된 기 납품 프로젝트.

국내 MSP · 통신/네트워크

NMS · AMS · AI 기술지원 통합 플랫폼

자산관리 + Zabbix 기반 네트워크 관제 + 상용 AI API 기반 AI 기술지원 챗봇을 단일 플랫폼으로 통합. 다중 고객사 단일 NOC 운영 검증.

납품 시점
2025년 운영 시작
대상
다중 고객사 통합 MSP
배포
AWS EC2 + k3d
상태
운영 중

▲ 비즈니스 도전

  • · 다중 고객사 자산·네트워크를 단일 화면에서 통합 관제
  • · 1차 기술지원 자동화 + 엔지니어 부담 경감
  • · 한국형 알림 (카카오 알림톡) + SLA 추적

▲ 우리의 답

  • · Zabbix 코어 + 자체 콘솔 (한글 UI + 멀티테넌시)
  • · 4단계 LLM 라우팅 (분류→응답→대화→요약)
  • · 20회 이상 시 엔지니어 자동 에스컬레이션

▲ 기술 스택

Java 21Spring Boot 3.5ThymeleafMariaDBAWS S3Zabbix상용 AI APIHybrid Routerk3dJenkinsArgoCD
ai-router — production
// 4-단계 LLM 호출 패턴 (Hybrid)
const route = (req: SupportRequest) => {
  // 1. 민감도 분류
  const tier = classifyTier(req); // LIGHT | STD | ADV

  // 2. 라우팅
  if (tier === "LIGHT")
    return localLLM.complete(req); // On-Prem

  // 3. Cloud 호출 + 추적
  return cloudLLM.chat({
    model: "frontier",
    messages: ragContext(req),
    metadata: { user, cost, latency }
  });
};

// ▲ 운영 검증
//    avg latency: 1.4s
//    cost saved : 67%
67%AI 비용 절감 (Local 라우팅)
1.4s평균 응답 latency
20+라운드 후 엔지니어 자동 전환
Multi-tenantMSP 단일 NOC
AX-Asset Enterprise prototypeAX-Net prototypeAIOpsHybrid LLMMSP NOC

추가 사례 준비 중

공공·금융 시큐어코딩 진단 + 코드 수정 사례, 망분리 GitOps 구축 사례 등 정리 중. 미팅 시 별도 공유.

▲ 마케팅이 아닌 운영 검증

우리는 우리가 만든 것을 직접 운영합니다

  • 자체 시스템에서 Hybrid LLM 라우팅 운영 검증
  • 자체 망분리 격리 샌드박스 환경 보유 (고객 환경 사전 테스트)
  • AGPL/GPL 격리 원칙으로 라이선스 안전성 확보
  • GitOps + ArgoCD + Compliance-as-Code 표준 적용