최고점도 C+, AI Safety Index가 드러낸 안전 약속의 후퇴
Future of Life Institute의 Summer 2026 AI Safety Index에서 9개 frontier AI 기업 중 C+를 넘긴 곳은 없었다. 순위보다 더 큰 신호는 모델 성능과 국방 활용이 커지는 동안 안전 약속의 기준선이 낮아졌다는 점이다.
카테고리
Insights의 AI 기사
Future of Life Institute의 Summer 2026 AI Safety Index에서 9개 frontier AI 기업 중 C+를 넘긴 곳은 없었다. 순위보다 더 큰 신호는 모델 성능과 국방 활용이 커지는 동안 안전 약속의 기준선이 낮아졌다는 점이다.
로봇과 에이전트 계획에서 고정된 world model이 흔들리는 문제를 줄이는 연구다. AdaJEPA는 MPC 재계획마다 관측 전이를 이용해 1번의 gradient step과 최근 5개 전이 버퍼로 모델을 보정한다.
AI video 경쟁의 판이 커졌다. Kuaishou의 Kling이 $2.8B를 조달하며 $18B 밸류에이션을 받았고, 라운드가 $3B까지 커지면 모회사 지분은 68.33%까지 내려갈 수 있다.
AI jailbreak 논쟁이 “성공/실패” 구도를 넘어 심각도 분류로 이동한다. Anthropic은 7월 2일 Fable 5용 새 classifier가 Amazon 보고서의 우회 기법을 99% 이상 차단한다고 밝히고, HackerOne 제보 창구와 severity framework 초안을 공개했다.
AI 생성물 출처 표시가 실험 단계를 넘어 대규모 배포로 이동했다. Google은 SynthID가 이미지와 영상 1000억 건, 오디오 6만 년 분량에 워터마크를 적용했고 검증은 5000만 회를 넘었다고 밝혔다.
Google의 개인 AI 에이전트가 Mac, MCP, 5개 외부 앱 연결로 확장된다. Canva, Dropbox, Instacart, OpenTable, Zillow Rentals까지 붙으면서 Spark는 챗봇보다 작업 실행 도구에 가까워졌다.
Godot의 방침은 “AI를 썼느냐”보다 리뷰 가능한 책임을 묻는다. HN 댓글은 품질 기준과 도구 사용 기준 사이의 긴장을 짚었다.
작동하는 칩, $800M 누적 조달, $1B 이상 고객 계약이 한 번에 공개됐다. Etched의 메시지는 명확하다. AI 인프라 병목이 학습용 GPU 확보에서 대규모 추론을 싸고 빠르게 처리하는 시스템 경쟁으로 이동하고 있다.
$800M 시리즈C와 $8.3B 기업가치는 오픈소스 모델 운영 비용을 낮추는 인프라 경쟁이 본게임에 들어섰다는 신호다. Together AI는 지난 분기 annual bookings가 $1.15B를 넘었고, 향후 5년간 인프라 용량을 약 50배 키우겠다고 제시했다.
음성 에이전트가 실험 기능에서 과금 단위가 보이는 개발 도구로 이동했다. xAI는 Grok Voice 기반 노코드 빌더를 공개하며 분당 $0.05라는 가격을 제시했다.
AI 모델 접근권이 제품 정책만이 아니라 수출통제 판단에 좌우되고 있다. Anthropic은 미국 상무부가 Claude Fable 5와 Mythos 5의 수출통제를 해제했다는 통지를 받았고, 다음 날부터 접근 복구를 시작한다고 밝혔다.
생성형 미디어 모델이 소비자 기능에서 개발자 워크플로로 들어가고 있다. Google DeepMind는 Nano Banana 2 Lite를 이미지 생성·편집용으로, Gemini Omni Flash를 대화형 영상 편집용으로 공개하며 속도와 비용을 전면에 세웠다.