AI агент · LLM систем
AI Ops агент
Microsoft Teams дээр суурилан, олон үүлэн (multi-cloud) орчин дахь осол саатлын хариу арга хэмжээ, дараах дүн шинжилгээ (postmortem), аналитик болон үйл ажиллагааны урсгалуудыг автоматижуулдаг AI агент систем
4
мэргэшсэн агент
22
tools
Multi-tenant
тусгаарлагдсан түншийн чат
Тойм
Инженерүүдэд ямар нэгэн форм бөглөлгүйгээр, зөвхөн чатаар дамжуулан инцидент бүртгэх, мөрдөн хянах, постмортем бичих, дүрэм журам шүүх, мөн үйл ажиллагааны өгөгдөлд тулгуурлан асуултад хариулт авах боломжийг олгодог дотоод туслах систем. Түншүүд ч мөн адил өөрсдийн чатаараа дамжуулан энэхүү ботыг ашигладаг.
LLM-д суурилсан intent router нь мессеж бүрийг тохирох мэргэшсэн агентууд руу хуваарилдаг: олон алхамт мэдээлэл цуглуулах slot-filling агент, тус бүр өөрийн tool-үүдийг бие даан дууддаг агентууд, журмын баримт бичгүүдэд зориулсан RAG pipeline болон guard rail бүхий query engine
Онцлох хэсэг
- Чиглүүлэлт ба агентууд: Мессежийг мэргэшсэн агентууд руу чиглүүлнэ; агент бүр өөрийн гэсэн заавар (prompt) болон tool-ийг тусгаарласан (encapsulated) байдлаар агуулдаг тул загварын аль ч дуудлага нь өөр домэйн дэх хэрэгслүүдийг харах боломжгүй.
- SLA хяналт ба шатлал өсгөх (escalation): Azure Functions дээр суурилан SLA хяналтыг хэрэгжүүлж, шаардлагатай үед автоматаар дээд түвшинд мэдэгдэнэ.
- Бодит баримтад суурилсан журмын хариулт: RAG ашиглан parent-child бүтэцтэйгээр хайлт хийх, зөвхөн олдсон хэсгээс эш татах, харин ижил төстэй байдлын босго үзүүлэлтээс доогуур байвал хариу өгөхөөс татгалзах.
- Түншийн чатуудад зориулсан tenant isolation: Харилцан ярианаас хамрах хүрээг тодорхойлж, чиглүүлэлт хийхээс өмнө бүрэн хэрэгжүүлнэ.
Архитектур
Хувилбар сонгоод мессеж системээр хэрхэн дамждагийг хараарай
billing сервер ажиллахгүй байна, 502 өгөөд байна
Triggers
Handlers
Data & integrations
billing сервер ажиллахгүй байна, 502 өгөөд байна
Inference pipeline
Загвар хаана ажилладаг, түүнийг юу хязгаарладаг
- 01
Input guardrails
- tenant scope resolved from the conversation
- commands and active dialogs short-circuit routing
- 02
Router
- intent classification
- schema-constrained JSON output
- 03
Context construction
- RAG: parent–child chunks in pgvector
- data questions: schema, glossary, previous question
- dialog state and people directory
- 04
Generation
- function calling over a scoped tool set
- slot filling with per-field confidence
- 05
Output guardrails
- citations only from retrieved sections
- refusal below a similarity threshold
- generated queries validated, read-only, time-limited
- field allowlists for partners
- 06
Actions
- incident writes and Planner sync
- timesheet and leave requests
- PDF / Excel behind expiring links
Aruarian Dance
Nujabes