펜타곤, 금요일 최후통첩 발행: 앤스로픽은 AI 안전장치를 제거하거나 연방 정부의 개입에 직면해야 함
국방 분야 인공지능(Generative AI, 생성형 AI)의 미래를 결정짓는 중대한 순간에, 국방부는 AI 안전 스타트업 앤스로픽(Anthropic)에 강력한 최후통첩을 보냈습니다. 피트 헤그세스(Pete Hegseth) 국방장관은 이 회사에 2026년 2월 27일 금요일까지 미국 군대에 자사의 플래그십 클로드(Claude) AI 모델에 대한 무제한 접근 권한을 부여하거나, 아니면 심각한 연방 정부의 개입에 직면하라고 통보했습니다.
화요일 헤그세스 장관과 앤스로픽의 CEO 다리오 아모데이(Dario Amodei) 간의 긴박한 비공개 회의 이후 격화된 이번 대립은 AI 시스템에 내장된 윤리적 "가드레일(guardrails)"에 대한 근본적인 견해 차이에 초점을 맞추고 있습니다. 펜타곤은 앤스로픽이 자율 무기 및 국내 감시에 소프트웨어가 사용되는 것을 막는 제한 규정을 제거하지 않을 경우, 국방물자생산법(Defense Production Act, DPA)을 발동하거나 앤스로픽을 "공급망 위험(supply chain risk)"으로 지정하겠다고 위협하고 있습니다. 이는 해당 기업을 연방 시장에서 사실상 퇴출시킬 수 있는 지정입니다.
이곳 Creati.ai에서 우리는 실리콘밸리의 안전 중심 AI 연구소와 미국 국가 안보 기구의 작전상 필수 과제 사이의 사상 최대 충돌을 나타내는 이 대치 상황을 면밀히 모니터링하고 있습니다.
핵심 분쟁: "합법적 사용" 대 윤리적 가드레일
갈등의 핵심은 앤스로픽(Anthropic)이 군사적 활용을 위해 자사의 서비스 약관을 수정하기를 거부한 것입니다. 앤스로픽은 국방부와 2억 달러 규모의 계약을 체결했으며 자사의 클로드 모델이 현재 기밀 펜타곤(Pentagon) 네트워크에서 사용하도록 승인된 유일한 대규모 언어 모델(Large Language Model, LLM)임에도 불구하고, 회사는 기술 배포 방식에 대해 확고한 "레드라인"을 설정했습니다.
구체적으로 앤스로픽은 다음과 같은 용도로 클로드를 사용하는 것을 제한합니다:
- 자율 무기 시스템: 인간의 개입 없이 AI가 표적을 선택하고 교전할 수 있는 애플리케이션.
- 국내 대량 감시(Mass Surveillance): 미국 시민에 대한 데이터를 대규모로 분석하기 위한 AI 사용.
헤그세스 장관과 펜타곤 관계자들은 이러한 민간 기업의 제한이 국가 안보에 불필요한 장애물이라고 주장합니다. 국방부의 입장은 국방부의 작전이 이미 미국 헌법과 연방 법률의 통제를 받고 있으므로, 앤스로픽의 추가적인 윤리 계층은 중복적이며 방해만 된다는 것입니다.
화요일 회의를 잘 아는 소식통에 따르면, 헤그세스는 아모데이에게 군이 "이념적 제약" 없이 "모든 합법적인 목적"을 위해 클로드(Claude)에 접근할 수 있어야 한다고 명시적으로 말했습니다. 이는 군용 AI 시스템이 치명적이고 방해받지 않도록 보장하려는 헤그세스의 더 넓은 이니셔티브와 일치하며, 그는 올해 초 펜타곤의 "AI는 워크(woke, 정치적 올바름에 매몰된)하지 않을 것"이라는 선언으로 이 입장을 요약한 바 있습니다.
극단적 선택: 국방물자생산법 및 블랙리스트 지정
앤스로픽에 전달된 위협은 상업용 AI 부문에서 전례가 없는 일입니다. 만약 금요일 마감 기한이 양보 없이 지나갈 경우, 펜타곤은 앤스로픽의 비즈니스 모델에 파괴적인 결과를 초래할 수 있는 두 가지 잠재적 조치를 개략적으로 설명했습니다.
국방물자생산법(DPA) 발동
1950년 제정된 국방물자생산법(Defense Production Act)은 대통령에게 국내 산업이 정부 계약을 우선시하고 국가 방위를 위해 자원을 할당하도록 강제할 수 있는 광범위한 권한을 부여합니다. 역사적으로 전시나 코로나19 팬데믹과 같은 비상시에 사용되었으나, 소프트웨어 기업에 제품의 안전 코드를 변경하도록 강제하기 위해 DPA를 발동하는 것은 새로운 법적 적용이 될 것입니다. 본질적으로 정부는 앤스로픽이 회사의 안전 헌법을 무시하고 검열되지 않은 버전의 클로드를 제공하도록 법적으로 명령할 수 있습니다.
"공급망 위험" 지정
아마도 훨씬 더 큰 피해를 줄 수 있는 것은 앤스로픽을 "공급망 위험"으로 지정하겠다는 위협입니다. 이 지정은 일반적으로 외국 적대 세력이나 보안이 타협된 개체(화웨이나 카스퍼스키에 취해진 조치와 유사함)에 대해 유보됩니다.
앤스로픽에 이 라벨이 적용될 경우:
- 다른 모든 국방 계약업체(록히드 마틴, 노스롭 그루먼, 팔란티어 등)는 이 스타트업과의 관계를 단절해야 합니다.
- 앤스로픽의 향후 정부 계약 입찰이 사실상 금지될 가능성이 큽니다.
- 상업 시장에 이 회사의 파트너로서의 신뢰성에 대해 부정적인 신호를 보내게 됩니다.
배경: 베네수엘라 작전과 경쟁사의 압박
펜타곤 요구의 시급성은 최근의 작전상 마찰과 관련이 있는 것으로 보입니다. 보고서에 따르면 미군은 2026년 1월 베네수엘라 대통령 니콜라스 마두로(Nicolás Maduro)를 체포한 특수 작전 급습 중에 클로드를 활용했습니다. 작전은 성공적이었으나, 이후 AI 사용이 앤스로픽의 사용 정책을 위반했는지에 대해 분쟁이 발생했으며, 이는 관료들이 "신뢰 결핍"이라고 묘사한 상황으로 이어졌습니다.
나아가 군사 AI의 지형은 급격히 변화하고 있습니다. 앤스로픽이 주저하는 동안 경쟁업체들은 그 공백을 메우기 위해 움직이고 있습니다. 엘론 머스크의 xAI는 펜타곤의 "모든 합법적 사용" 조건에 동의한 것으로 알려졌으며, 해당 모델은 최근 기밀 업무 수행 승인을 받았습니다. 마찬가지로 오픈AI(OpenAI)와 구글(Google)도 국방 예산의 더 큰 점유율을 차지하기 위해 적극적으로 경쟁하고 있습니다.
앤스로픽에게 이 딜레마는 실존적인 문제입니다. CEO 다리오 아모데이는 "안전 우선" 개발을 바탕으로 회사의 명성을 쌓아왔습니다. 자율 무기화 요구에 굴복하는 것은 핵심 연구진을 소외시키고 창립 이념에 반하는 일이 될 것입니다. 그러나 미국 정부라는 고객을 잃고 DPA에 직면하는 것은 재무 상태와 시장 접근성에 치명적인 타격을 줄 수 있습니다.
입장 비교
이번 금요일 마감 기한의 이해관계를 명확히 하기 위해 대립하는 입장을 아래와 같이 정리했습니다.
표: 펜타곤 요구 사항 vs 앤스로픽 정책
---|---|----
핵심 요구 사항|펜타곤 입장|앤스로픽 입장
사용 제한|전투 애플리케이션을 포함한 "모든 합법적 사용 사례" 요구.|자율 표적 설정 및 대량 감시 금지.
감독|미국 법률, 헌법 및 지휘 체계에 의존.|내부 "헌법적 AI(Constitutional AI)" 안전 프로토콜에 의존.
인간의 통제|법적으로 승인될 경우 자율 시스템에 개방적임.|모든 살상 결정에 "인간의 개입(human-in-the-loop)" 요구.
불이행 결과|국방물자생산법 발동; 공급망 블랙리스트 지정.|2억 달러 규모의 계약 손실 가능성; 명성 훼손.
상태|공급업체의 제약 없는 "작전상 우위" 추구.|"책임감 있는 확장" 및 윤리적 경계 수호.
업계에 미치는 영향 및 주목할 점
이 대치 상황의 결과는 미국 정부와 민간 AI 부문 간의 관계에 영구적인 선례를 남길 것입니다. 만약 펜타곤이 DPA를 사용하여 안전 가드레일을 성공적으로 제거한다면, 이는 국방용 AI 모델의 윤리적 표준을 사실상 국영화하는 것입니다. 민간 기업은 더 이상 도덕적 반대를 근거로 특정 군사적 애플리케이션에 대한 서비스 제공을 거부할 권리를 보유하지 못하게 됩니다.
반대로 앤스로픽이 입장을 고수하고 여파에서 살아남는다면, 최고 수준의 AI 역량은 여전히 공급자가 참여 조건을 규정하는 판매자 시장임을 입증하게 됩니다.
금요일 마감 기한은 중요한 분기점 역할을 합니다. 기술 업계는 국가 안보가 기업 정책을 공격적으로 압도하는 바이든-트럼프 전환기 역학 관계가 실리콘밸리의 가장 이상적인 플레이어의 손을 강제로 들어 올릴지 지켜보고 있습니다. 현재 상황에서 앤스로픽은 자사의 지능을 전쟁 기계에 완전히 통합하는 것에 저항하는 유일한 주요 연구소입니다. 이번 주말이 지나면 그 차별성은 더 이상 존재하지 않을 수도 있습니다.
Creati.ai는 마감 기한이 다가옴에 따라 이 소식을 계속해서 업데이트할 예정입니다.
