이 Fable 사안에 드리운 거대한 그림자

원문 링크: GeekNews

핵심 요지

강력한 AI 모델인 Fable 5와 Mythos 5는 미국 정부의 수출통제 지시 이후 모든 고객 접근이 갑자기 중단됨 미국 정부 지시는 미국 안팎의 외국 국적자와 Anthropic 외국 국적 직원까지 접근 차단 대상으로 삼았고, Anthropic은 준수를 위해 전체 접근을 끊음 Ant…

세부 내용

이 Fable 사안에 드리운 거대한 그림자 (12gramsofcarbon.com)5P by GN⁺ 20시간전 | ★ favorite | 댓글 7개 강력한 AI 모델인 Fable 5와 Mythos 5는 미국 정부의 수출통제 지시 이후 모든 고객 접근이 갑자기 중단됨 미국 정부 지시는 미국 안팎의 외국 국적자와 Anthropic 외국 국적 직원까지 접근 차단 대상으로 삼았고, Anthropic은 준수를 위해 전체 접근을 끊음 Anthropic은 정부가 특정 탈옥(jailbreak) 우회를 문제 삼았지만, 시연된 취약점은 이미 알려진 소수의 경미한 취약점이며 다른 공개 모델도 찾을 수 있다고 봄 이번 조치는 AI 안전 규제인지, Anthropic을 겨냥한 정치적·경쟁적 압박인지 구분하기 어렵게 만들며 정부 결정의 신뢰 문제를 키움 강력한 LLM의 공개 접근이 정부 통제로 제한되는 선례가 생겼고, 향후 일반 이용자가 최고 성능 모델을 쓰기 어려워질 수 있다는 우려로 이어짐 금요일 저녁에 끊긴 모델 접근 금요일 저녁 AI 에이전트로 HTML 게임을 만들던 중 에이전트가 “이 모델은 더 이상 존재하지 않는다”고 응답하며 작업이 중단됨 처음에는 재로그인 문제나 병렬 에이전트 사용에 따른 이상한 제한 오류로 보고 API로 전환했지만 여전히 접근하지 못함 팀이 만든 커스텀 Rust 에이전트 클라이언트의 하네스(harness)가 망가졌다고 의심해 Rust 코드를 살펴보다가, 친구에게서 정부가 Fable을 금지했다는 말을 들음 정부의 접근 차단 지시 미국 정부가 국가안보 권한을 근거로 수출 통제 지시를 내려, Fable 5와 Mythos 5에 대한 모든 외국 국적자의 접근을 중단하도록 요구 대상은 미국 내외를 불문한 모든 외국 국적자이며, 외국 국적 Anthropic 직원까지 포함 이를 준수하기 위해 Anthropic은 전 고객 대상으로 Fable 5와 Mythos 5를 즉시 비활성화, 다른 모든 Anthropic 모델 접근은 영향 없음 지시는 당일 오후 5시 21분(ET) 에 수신됐으며, 서한에 구체적 안보 우려 내용은 미포함 정부가 Fable 5 탈옥(jailbreaking) 우회 기법을 인지한 것으로 이해하며, 해당 기법 시연을 검토한 결과 이미 알려진 소수의 경미한 취약점 식별에 그침 이 취약점들은 비교적 단순하며, 우회 없이도 다른 공개 모델들이 동일하게 발견 가능 지시 근거로 추정되는 보고서를 검토, 해당 역량 수준이 OpenAI GPT-5.5 등 다른 모델에서도 널리 제공되고 보안 방어자들이 매일 활용하는 수준임을 검증, 24시간 내 추가 정보 공유 예정 법적 지시는 준수하되, 좁은 범위의 잠재적 탈옥 발견이 수억 명에게 배포된 상용 모델 회수의 사유가 되어선 안 된다는 반대 입장 AI 안전성과 최적화 우려 AI에 대한 입장은 양가적이며, 딥러닝 모델을 많이 훈련한 경험 때문에 최적화 도구가 잘못 작동할 수 있는 방식에 강한 우려를 가짐 사람은 실제로 달성하고 싶은 목표가 아니라 측정 가능한 지표를 최적화하는 경향이 있음 좋은 제품을 만들고 싶어도 방법을 모르기 때문에 참여도를 최적화하고, 아이들에게 읽기와 쓰기를 가르치고 싶어도 시험 점수를 최적화하는 식의 문제가 발생함 AGI와 ASI 시스템은 최적화 도구이며, 측정 가능한 것을 최적화하는 과정에서 좋은 것에서 멀어질 수 있어 예측하기 어려운 위험을 가질 수 있음 기업도 최적화 도구처럼 작동하므로, 많은 개발자가 위험을 말하는 상황에서도 측정 가능한 목표인 빠른 수익화를 향해 움직일 수 있음 정부와 Anthropic의 갈등 배경 Anthropic과 현 행정부는 우호적이지 않은 관계로, DoD 통합 및 군 협력을 시도해 모델이 고도 기밀 시스템에 사용된 바 있음 그럼에도 Trump 행정부는 Anthropic을 공급망 리스크(supply chain risk) 로 규정, 정부 협력 주체의 Anthropic 모델 사용을 금지 이후 6개월간 Venezuela 전쟁, Iran 전쟁 등 군사 작전에 Anthropic 모델을 계속 사용했으며, Chinese LLM은 공급망 리스크로 지정조차 되지 않음 일부 극우 진영은 행정부가 Anthropic을 파괴하려 한다는 이유로 Anthropic을 'woke'로 규정하는 논리를 전개 이번 조치가 유해 AI 규제 목적인지, 문화적 적대 대상에 타격을 가하려는 기회인지 의문 제기 경쟁 구도와 IPO 시점 경쟁사들은 행정부 전반에 우호 세력을 보유, 예시로 Kushner 가문이 OpenAI에 대규모 투자 이번 조치를 다른 연구소가 Anthropic에 타격을 가하는 기회로 해석 가능 Fable은 매우 강력한 모델로 평가되며, Anthropic의 IPO 임박 시점에 소비자 이용이 중단된 점이 공교로움 전리품 정치(spoils system)는 모든 사안의 optics를 의심스럽게 만들며, 수십 년간 쌓은 신뢰가 무너졌다고 지적 금요일 5시 21분 발표와 시장 우려 발표 시각이 금요일 오후 5시 21분이라는 점은 의심스러운 시간대로 보임 금요일 저녁 발표는 주말 동안 시장 충격이 흡수되기를 기대하며 나쁜 소식을 내놓는 방식으로 이해됨 Claude가 인용한 The Kobeissi Letter 사례에는 금요일 장 마감 뒤나 토요일 새벽에 나온 지정학·무역 발표들이 들어감 예시에는 이란 핵시설 타격, 카리브해 마약 운반선 군사행동, 중국 100% 관세 위협, 베네수엘라 영공 폐쇄, 나이지리아 군사행동, 2026년 2월 이란 직접 타격 포함 2025년 8월 11일 Intel 거래 발표도 CEO Lip-Bu Tan에 대한 공개 압박 뒤 활성 거래시간 밖에 배치된 기업 관련 사례로 묶임 AI 붐은 컴퓨터 지능에 대한 지속적 수요가 있을 것이라는 생각에 크게 기대고 있음 부채, 구축 투자, 데이터센터, GPU, 메모리, 디스크, 서버 랙에 이르는 AI 체인의 주식시장 상승은 수조 달러 규모 가치가 생길 것이라는 전제에 의존함 정부가 어느 순간 모든 접근을 일방적으로 끊을 수 있다는 인식은 다중 조 달러 데이터센터 투자에 큰 장애물이 될 수 있음 HN과 Reddit 일부 이용자는 이번 사건을 정부가 사람들이 접근하도록 허용할 모델 역량의 상한선으로 보고 있음 정부가 허용하지 않으면 아무리 수요가 많아도 접근할 수 없다는 문제가 남음 커뮤니티 반응과 ‘위험한 모델’ 마케팅의 역풍 HN과 Reddit 일부 이용자는 Anthropic이 Mythos 관련 마케팅 쇼의 대가를 치렀다고 보고 기뻐함 과거 OpenAI도 GPT-2를 “공개하기엔 너무 위험하다”는 방식으로 제한 공개했으며, 당시 대규모 기만적·편향적·악용 언어 생성 우려를 이유로 들었음 GPT-2 이후 AI 생성 저품질 콘텐츠가 넘쳐나 현실을 함께 이해하는 능력을 흔들었다는 점에서 OpenAI의 우려는 꽤 정확했다고 봄 Fable이 실제로 강력한 모델이라고 믿으며, 광범위한 Fable 공개의 보안 위험을 걱정한다는 Anthropic의 말을 어느 정도 신뢰함 관련 HN 스레드의 최상위 댓글은 Anthropic이 자기 모델을 남들보다 훨씬 앞선 것으로 팔기 위해 공포를 조장한 대가를 치르게 됐다는 반응이었음 정부 입장을 액면 그대로 받아들이면, Anthropic 모델은 너무 뛰어나서 말 그대로 사용할 수 없는 모델이 되므로 오히려 강력한 광고가 될 수 있음 또 다른 HN 댓글은 제품이 얼마나 위험한지 오래 말하면 위험 제품을 시장에서 막을 권한이 있는 사람들이 그 말을 들을 수 있다는 점을 짚음 Bernie Sanders는 AI CEO들의 발언을 읽어 주는 정책 영상을 만들며 AI 위험성을 강조하는 의원으로 묘사됨 AI 모델이 정말 안전하지 않아 규제가 필요할 수도 있지만, 폐쇄 위험을 알게 된 AI CEO들은 앞으로 그런 말을 하지 않을 수 있음 강력한 LLM 접근 제한의 선례 마지막으로 인용된 HN 댓글은 이번 사건의 핵심을 정부가 강력한...

실무적 의미

향후 관찰 포인트