여론을 '만들어내는' AI swarm 경고, r/artificial이 크게 반응한 이유

r/artificial이 이 글에 반응한 이유는 추상적인 종말론이 아니라, 훨씬 손에 잡히는 위협이 제시됐기 때문이다. ScienceDaily가 소개한 Science 정책 포럼 논문은 AI가 단순히 그럴듯한 문장을 쓰는 수준을 넘어, 사람처럼 보이는 persona를 대규모로 운용해 온라인 토론 공간 안에서 의견 지형 자체를 움직일 수 있다고 경고한다. 핵심은 눈에 띄는 스팸이 아니라, 자연스러운 참여처럼 보이는 침투다.

요약문이 무겁게 읽히는 이유도 여기에 있다. 이 AI persona들은 디지털 커뮤니티에 들어가고, 반응을 보며 메시지를 조정하고, 수천 개 계정에 걸쳐 일관된 서사를 유지할 수 있다고 한다. 더 나아가 어떤 문장이 가장 설득력이 높은지 찾기 위해 수많은 소규모 실험을 돌릴 수 있다. 사람이 보기에는 자발적 합의처럼 보이지만, 실제로는 설계된 합의가 되는 셈이다. 연구진은 미국, 대만, 인도네시아, 인도 선거 대화에서 이미 deepfake와 가짜 뉴스 네트워크 같은 경고 신호가 나타났다고 짚는다.

댓글 흐름도 흥미롭다. 가장 높은 반응은 "이게 진짜 AI 위험"이라는 식의 해석이었다. 다른 이용자는 곧바로 Cambridge Analytica를 떠올리며, 이런 능력은 상업 서비스가 보편화되기 전부터 국가와 군 조직이 먼저 가졌을 가능성을 거론했다. 또 다른 반응은 플랫폼 인센티브 쪽으로 향했다. 봇을 막는 일은 기술보다 의지의 문제인데, 활동량 수치를 키우는 구조 안에서는 서비스들이 늦게 움직일 수 있다는 비판이다.

그래서 이 글은 SF 공포담보다 더 불편하다. 피해는 허위정보 한 줄로 끝나지 않는다. 연구진은 이름 없는 온라인 목소리에 대한 기본 신뢰가 무너질 수 있고, 그 결과 유명인 발언은 더 강해지고 grassroots 메시지는 더 약해질 수 있다고 본다. r/artificial이 이 연구를 크게 밀어 올린 것도 같은 이유다. 너무 먼 미래의 이야기가 아니라, 이미 설계가 가능한 시스템처럼 읽히기 때문이다. 출처는 ScienceDaily 요약, Science 논문, 그리고 Reddit 토론이다.