서버는 정상인데 AI 답변은 틀렸다… ‘판단 흐름’ 추적해야 [AI 운영①]

생성형 인공지능(AI)이 기업 업무 시스템으로 들어오면서 운영 관리의 기준도 바뀌고 있다. 기존 모니터링은 서버 장애와 응답 지연을 잡는 데 초점을 맞췄지만, AI 서비스는 정상 응답 안에서도 오답, 환각, 잘못된 근거 문서 사용, 권한 밖 도구 호출이 발생할 수 있다. AI 운영의 새 과제로 떠오른 AI 옵저버빌리티(Observability·관측 가능성)를 기존 애플리케이션 성능 관리(APM)와 비교해 짚고, AI 에이전트 확산에 따른 관측·보안·감사 체계 과제를 살펴본다. [편집자 주]기업의 AI 도입이 단순 챗봇과 검색 수준에