MS CEO, "초지능 추구도 인류 통제 하에"…MAI 모델 행동 강령 공개 예고

개요

사티아 나델라 마이크로소프트 CEO가 9월 13일 X에 AI 정렬을 핵심 설계 목표로 삼아야 한다는 입장을 밝히고, 마이크로소프트의 자체 MAI 모델 행동 강령을 다음날 공개 열람에 부친다고 예고했다. Anthropic의 '프런티어 감속' 제안에 이어 업계 주요 기업의 네 번째 지지 선언이다.

주요 내용

• 인류 통제 원칙: "AI가 인류를 돕지 않고 인간의 통제 하에 있지 않다면 추구할 가치가 없다"
• 광범위한 혜택 확산: AI 혜택이 국가·커뮤니티·기업에 걸쳐 폭넓게 분산돼야 한다
• 기업 자율성 보장: 모든 조직이 자체 지식을 모델에 내재화하고 특정 공급자에 종속되지 않을 권리
• 신중한 속도 조율 환영: 정렬을 설계 목표로 삼기 위한 연구·집중·'신중한 속도 조율'을 지지
• MAI 행동 강령: 마이크로소프트 자체 AI 모델의 행동 강령을 공개 열람에 부침

맥락

이 발언은 다리오 아모데이의 에세이 "We Must Pace the Frontier"가 공개된 지 하루 만에 나왔다. 에세이는 같은 날 샘 올트먼(OpenAI)과 일론 머스크(xAI)의 지지를 이끌어냈으며, 나델라의 성명은 공감대가 업계 전반으로 확산됐음을 보여준다.

나델라는 안전 강화가 소수 기업의 통제 하에 이뤄져서는 안 되며, 학계를 포함한 국가·분야별 폭넓은 대표성이 필요하다고 강조했다. 오픈소스와 클로즈드 모델이 공존하는 생태계가 필요하다는 점도 덧붙였다.

출처: 원문 트윗