AI가 장애를 고칠수록 엔지니어는 약해질까

반복 장애를 AI가 빠르게 처리하면 당직자의 수면과 평균 복구 시간은 개선된다. 동시에 엔지니어가 시스템의 이상 징후를 몸으로 익힐 기회도 사라진다. 전 LinkedIn SRE Sylvain Kalache의 문제 제기가 Hacker News에서 수백 개 댓글로 이어진 이유는 이 불편한 교환관계 때문이다. 자동화가 풀지 못한 낯선 대형 장애만 사람에게 넘어올 때, 담당자는 예전보다 적은 실전 경험으로 가장 어려운 판단을 해야 한다.

요즘의 장애 대응 에이전트는 경보를 읽고 가설을 세우며, 원격측정 자료와 최근 배포를 대조하고 수정까지 수행한다. 용량 부족처럼 익숙한 문제를 새벽에 처리하는 능력은 분명한 이점이다. 하지만 평범한 장애는 신규 당직자가 서비스의 정상 상태와 실패 양상을 비교하며 직감을 기르는 훈련장이기도 하다. 쉬운 사례가 전부 자동화되면 복잡한 사고에서 필요한 탐색 순서와 의사소통 감각을 쌓기 어렵다.

이 현상은 새롭지 않다. 인간공학 연구자 Lisanne Bainbridge가 1983년 정리한 ‘자동화의 아이러니’는 자동화가 일상 업무의 연습 기회를 줄이는 한편, 새롭고 비정상적인 상황의 책임은 운영자에게 남긴다고 설명한다. 따라서 자동화 이후의 사람은 덜 훈련해도 되는 존재가 아니라 더 높은 숙련과 반복 훈련이 필요한 마지막 방어선이 된다. 평균 장애 복구 시간은 짧아져도 드문 고난도 사고의 해결 시간은 오히려 길어질 수 있다는 전망이다.

비교 대상으로 든 항공업계는 자동비행이 보편화된 뒤에도 엔진 고장과 계기 이상, 이륙 중단 같은 희귀 상황을 시뮬레이터에서 되풀이한다. 실제 운항에서는 한 번도 만나지 않을 수 있는 사건을 안전한 환경에서 연습하는 셈이다. 소프트웨어 팀에도 비슷한 장애 시뮬레이터가 필요하다는 제안이 이어진다. 불완전한 관측 자료를 해석하고, 여러 사람을 조율하며, 압박 속에서 결정을 전달하는 과정까지 재현해야 단순한 복구 절차 암기를 넘어설 수 있다.

AI가 자신이 살핀 신호와 진단 근거를 설명하게 하는 방법도 도움이 된다. 그러나 다른 사람이 해결하는 모습을 보는 것과 직접 명령을 내리고 결과를 감당하는 것은 다르다. 정기적인 탁상 훈련과 chaos engineering, 미리 설계한 장애 주입을 당직 투입 요건에 포함하자는 결론이 나온다. 에이전트가 해결한 사건 가운데 일부를 사람이 사후 재현하고, 자동화가 중단되는 인계 조건도 함께 시험할 필요가 있다.

글쓴이가 장애 관리 기업 Rootly에서 AI Labs와 개발자 관계 업무를 맡고 있고, Rootly가 Uptime Labs와 시뮬레이션을 만들었다는 이해관계는 감안해야 한다. 그럼에도 ‘이해 부채’라는 진단은 특정 제품을 넘어선다. 자동화 성공률만 운영 지표로 삼으면 사람이 직접 조사한 시간과 시스템 지식의 유지 정도는 보이지 않는다. 장애를 없애는 자동화와 장애를 다룰 사람을 기르는 훈련을 같은 운영 계획 안에 놓아야 하는 이유다.