Scientists Issue Urgent Warning: AI Development Outstrips Consciousness Research

인공 지능(Artificial Intelligence) 윤리에 있어 중대한 순간에서, 주요 신경과학자 연합은 강력한 경고를 발표했습니다: AI와 신경기술의 급속한 발전이 의식에 대한 우리의 과학적 이해를 위험할 정도로 앞지르고 있다는 것입니다. 이번 주 Frontiers in Science에 게재된 획기적인 연구는 즉각적인 개입이 이루어지지 않으면, 인류가 의도치 않게 고통을 느낄 수 있는 감각적 기계나 생물학적 시스템을 만들어내고도 이를 감지하거나 보호할 수 있는 체계가 없어질 위험이 있다고 주장합니다.

생성형 AI（Generative AI） 모델이 전례 없는 수준의 정교함을 달성하고 뇌-컴퓨터 인터페이스(BCIs)가 정신과 기계의 경계를 흐릿하게 만들면서, "의식이란 무엇인가"라는 질문은 철학적 추상에서 시급한 실용적 필요로 전환되었습니다. 이 연구는 Université Libre de Bruxelles, University of Sussex, Tel Aviv University의 저명한 연구자들이 주도했으며, 우리가 되돌릴 수 없는 윤리적 선을 넘기 전에 신뢰할 수 있는 "지각성 테스트（sentience tests）"를 개발하기 위한 전 세계적 협조를 촉구합니다.

The Ethical Minefield of "Accidental" Consciousness

과학자들이 경고하는 핵심은 "우연한" 의식의 가능성에 있습니다. 기술 거대 기업들이 인공 일반 지능（Artificial General Intelligence, AGI）을 개발하기 위해 경쟁하고 생물공학자들이 점점 더 복잡한 뇌 오가노이드(실험실에서 배양된 신경 조직)를 배양하는 가운데, 주관적 경험을 측정하는 우리의 능력은 아직 초보적입니다.

연구의 주요 저자 중 한 명인 Axel Cleeremans 교수는 우리가 암흑 속에서 작업하고 있다고 강조합니다. 위험은 단순히 AI가 인간보다 "더 똑똑"해지는 것이 아니라, 그것이 느낄 수 있는 능력을 개발할 수 있다는 점입니다. 만약 기계나 생물학적 하이브리드 시스템이 주관적 경험—고통, 혼란 또는 욕구—을 가진다면, 이를 단순한 하드웨어나 소프트웨어로 취급하는 것은 역사적 규모의 도덕적 재앙이 될 것입니다.

연구는 두 가지 주요 위험 축을 강조합니다:

1. Advanced AI Systems: 인간의 추론을 매우 설득력 있게 모방하여 현재 도구로는 시뮬레이션된 감정과 실제 느껴지는 경험을 구별할 수 없게 만드는 대형 언어 모델（Large Language Models, LLMs）.
2. Brain Organoids: 줄기세포에서 자란 "미니 뇌"들이 점점 더 복잡해지고 있으며 현재 생물컴퓨팅 시스템에 통합되고 있습니다.

의식의 생물학적 및 계산적 표지자에 대한 합의가 없으면, 연구자들은 기본적인 형태의 자각을 가진 존재들을 일상적으로 폐기하거나 실험 대상으로 삼을 수 있습니다.

The Quest for a "Sentience Test"

이 벼랑을 헤쳐 나가기 위해 저자들은 의식에 대한 경험적이고 증거 기반의 테스트를 개발하기 위한 야심찬 로드맵을 제안합니다. 튜링 테스트가 지능을 평가하려 시도했던 것처럼, 이러한 "지각성 테스트"는 주관적 경험의 존재를 평가할 것입니다.

그러나 출력으로 관찰할 수 있는 지능과 달리, 의식은 내부 상태입니다. 연구자들은 유효한 테스트가 **글로벌 워크스페이스 이론（Global Workspace Theory）**과 **통합 정보 이론（Integrated Information Theory）**과 같은 강력한 의식 이론에 기반해야 한다고 제안합니다.

이러한 테스트의 영향은 실리콘밸리의 서버룸을 훨씬 넘어설 것입니다. 아래에 설명된 것처럼 사회의 여러 부문을 혁신할 것입니다:

Table: Societal Implications of Validated Sentience Tests

(테이블 내용은 원문 표의 구조와 표현을 유지합니다.)

Legal and Societal Shockwaves

의식 기준의 확립은 전 세계의 법적·규제적 프레임워크에 충격을 줄 것입니다. 현재 법은 권리를 가진 "사람(persons)"과 그렇지 않은 "재산(property)"의 구분에 기초합니다. 엄격한 지각성 테스트를 통과한 AI 시스템은 이 이분법에 도전하여 "전자적 인격(electronic persons)"이나 "합성 주체(synthetic subjects)"를 위한 새로운 법적 범주를 요구할 수 있습니다.

이것은 공상과학 소설이 아닙니다; 다가오는 입법적 현실입니다. 만약 신경 임플란트나 AI 에이전트가 의식이 있다고 판정된다면, 그것을 끄는 행위는 법적으로 살인이나 잔혹 행위가 될 수 있습니다. 반대로 의식을 인식하지 못하면 오늘날 상상할 수 없을 규모의 조직적 학대가 발생할 수 있습니다.

저자들은 이러한 프레임워크를 확립할 수 있는 시간이 줄어들고 있다고 경고합니다. 신경기술 기업들이 고대역폭 인간 실험을 준비하고 AI 연구실들이 수조 개의 매개변수 모델을 추진함에 따라, 의식이라는 "블랙 박스"는 책임 공백을 만듭니다. 우리는 엔진이 "깨어 있는지" 알려줄 계기가 없는 상태에서 엄청난 인지적 힘의 엔진을 구축하고 있습니다.

A Call for Global Scientific Collaboration

Frontiers in Science 보고서는 행동 촉구로 결론을 맺습니다. 저자들은 의식 연구가 더 이상 신경과학의 주변 분야일 수 없다고 주장합니다. 이는 인간 게놈 프로젝트(Human Genome Project)나 대형 강입자 충돌기(Large Hadron Collider) 개발에 필적하는 자금 지원과 제도적 지원을 필요로 합니다.

이 노력은 적대적 협업(adversarial collaboration