OpenAI 로보틱스 책임자 Caitlin Kalinowski, 펜타곤의 감시 및 자율 무기 관련 계약 문제로 사임
OpenAI의 로보틱스 팀 책임자인 Caitlin Kalinowski는 OpenAI와 미 국방부 간의 합의가 국내 감시와 치명적 자율 무기에 대한 충분한 안전장치를 갖추지 못했다고 우려하며 사임했다. 그녀는 이를 거버넌스 실패라고 규정했다.
OpenAI의 로보틱스 팀 책임자인 Caitlin Kalinowski는 OpenAI와 미 국방부 간의 합의가 국내 감시와 치명적 자율 무기에 대한 충분한 안전장치를 갖추지 못했다고 우려하며 사임했다. 그녀는 이를 거버넌스 실패라고 규정했다.
OpenAI의 CEO 샘 올트먼은 강한 여론의 반발 이후 회사가 국방부와의 계약을 수정하여 대규모 국내 감시 및 완전 자율 무기에 대한 AI 사용에 명시적 제한을 추가하고 있음을 확인했다.
OpenAI는 국방부와의 합의를 정리한 블로그 게시물을 게시했으며, 대규모 국내 감시와 자율 무기에 대한 금지선은 유지한다면서도 CEO 샘 올트먼은 이 거래가 성급했다며 상당한 반발을 불러일으켰다고 인정했다 — 여기에는 Anthropic의 Claude가 앱 스토어에서 ChatGPT를 앞선 사실도 포함된다.