기업 전체가 'AI 심리 착란' 상태에 빠진 것 같다는 경고

Mitchell Hashimoto의 경고

HashiCorp(Vagrant, Terraform) 창업자 Mitchell Hashimoto가 X에 올린 글이 Hacker News에서 1,650점 이상을 기록했다. 그는 '지금 이 순간 AI 심리 착란(AI psychosis) 상태에 빠진 기업 전체가 존재한다고 강하게 믿는다'고 밝혔다.

AI psychosis의 정체

Hashimoto가 묘사하는 AI psychosis의 핵심은 MTTR(평균 복구 시간) 만능주의다. '에이전트가 빠르게, 인간이 할 수 없는 규모로 버그를 고쳐줄 것이니 버그를 출시해도 괜찮다'는 믿음이다. 테스트 커버리지는 올라가고, 버그 리포트는 줄어들고, 모든 지표가 양호해 보이지만, 아무도 이해하지 못하는 방식으로 시스템 전체가 부패해간다는 것이다.

클라우드 전환기에서 배운 교훈

그는 클라우드 자동화 시대의 인프라 논쟁을 비교 사례로 든다. 당시도 'MTTR만 있으면 된다'는 진영과 '복원력 있는 시스템이 필요하다'는 진영이 충돌했다. 결론은 분명했다. MTTR은 훌륭하지만, 복원력 있는 시스템을 완전히 자동화로 대체할 수는 없었다.

이제 같은 논쟁이 소프트웨어 개발 전반, 어쩌면 사회 전체로 확대되고 있다는 것이 그의 주장이다.

왜 반박하기 어려운가

Hashimoto가 가장 우려하는 지점은 대화 불가능성이다. AI psychosis 상태의 사람들에게 이 문제를 제기하면 '테스트 커버리지가 있잖아요', '버그 리포트가 줄었잖아요'라는 반응이 돌아온다. 로컬 지표는 건강해 보이지만 글로벌 리스크는 폭발 직전인 상황, 시스템은 겉으로는 정상이지만 내부에서는 이해 불가능하게 썩어가는 상황이 만들어지고 있다.