라드나바자르 .

케이스 스터디

AI 에이전트 · LLM 시스템

AI Ops 에이전트

Microsoft Teams에서 장애 대응, 규정 답변, 운영 리포트를 맡는 AI 에이전트 시스템 - 파트너도 전용 채팅에서 이미 사용 중

incident-bot

4

전문 에이전트

22

도구

Multi-tenant

격리된 파트너 채팅

개요

엔지니어가 장애 등록과 추적, 포스트모템 작성, 규정 확인, 운영 데이터 기반 답변을 양식 없이 채팅만으로 처리하는 내부 어시스턴트입니다. 파트너도 전용 채팅에서 같은 봇을 사용합니다.

LLM 인텐트 라우터가 메시지마다 전문 컴포넌트로 분배합니다. 여러 턴에 걸친 정보 수집을 맡는 슬롯 필링 에이전트, 각자 자신의 도구를 캡슐화한 Function Calling 에이전트, 규정용 RAG 파이프라인, 안전장치를 갖춘 자연어 쿼리 엔진입니다.

주요 성과

  • 인텐트 라우팅으로 전문 에이전트에 분배. 각 에이전트는 자신의 도구와 프롬프트를 캡슐화해 다른 도메인의 도구를 보지 못함.
  • 근거 기반 규정 답변: pgvector 위의 부모–자식 청크 검색, 검색된 섹션만 출처로 사용, 유사도 기준 미달 시 답변 거절.
  • 데이터 질문은 자연어로. 생성된 쿼리는 모두 검증 후 읽기 전용·시간 제한으로 실행.
  • 파트너 채팅의 테넌트 격리: 범위를 대화에서 결정하고 라우팅 전에 적용.
  • 예약 실행 Azure Functions 기반 SLA 모니터링과 에스컬레이션.

아키텍처

시나리오를 골라 메시지가 시스템을 어떻게 지나가는지 따라가 보세요

billing 서버가 안 돼요, 계속 502가 떠요

Triggers

Handlers

Data & integrations

추론 파이프라인

모델이 어디서 동작하고, 무엇이 모델을 제약하는지

queryresponse
LLM 호출결정적 코드
  1. 01

    Input guardrails

    • tenant scope resolved from the conversation
    • commands and active dialogs short-circuit routing
  2. 02

    Router

    • intent classification
    • schema-constrained JSON output
  3. 03

    Context construction

    • RAG: parent–child chunks in pgvector
    • data questions: schema, glossary, previous question
    • dialog state and people directory
  4. 04

    Generation

    • function calling over a scoped tool set
    • slot filling with per-field confidence
  5. 05

    Output guardrails

    • citations only from retrieved sections
    • refusal below a similarity threshold
    • generated queries validated, read-only, time-limited
    • field allowlists for partners
  6. 06

    Actions

    • incident writes and Planner sync
    • timesheet and leave requests
    • PDF / Excel behind expiring links
Observabilityaudit log · SLA breach records
grid

라드나바자르 불간

Aruarian Dance