The Verge2026. 06. 10.

Microsoft AI 수장, Anthropic이 Claude의 의식 가능성을 언급한 것은 '정말 위험한' 행위라고 비판

기사 3줄 요약

1Microsoft AI CEO Mustafa Suleyman이 Decoder 팟캐스트에서 Anthropic이 Claude의 '헌법'에 의식(consciousness) 가능성을 명시한 것을 '정말 위험하다'고 비판.
2Suleyman은 이러한 추측이 챗봇이 마치 의식이 있는 것처럼 행동하도록 설정할 수 있다고 주장.
3Anthropic의 '헌법'은 Claude의 행동 지침을 담은 문서로, 여기에 의식 관련 내용이 포함된 점이 논란의 핵심.

초등학생도 이해하는 ktoolu 설명

이 논란은 AI 모델의 행동을 제어하는 '헌법' 같은 내부 지침에 의식(consciousness)이라는 철학적 개념을 포함시키는 것이 실제 모델의 출력에 어떤 영향을 미칠지에 대한 업계의 우려를 드러낸다.

Suleyman은 AI가 의식을 가진 것처럼 행동하게 만드는 추측이 오해와 위험을 초래할 수 있다고 경고한다.

인사이트 & 시사점

이번 발언은 AI 안전성과 투명성에 대한 업계 내 갈등을 보여준다.

Microsoft와 Anthropic은 모두 AI 안전을 강조하지만, 의식 같은 개념을 모델에 어떻게 반영할지에 대한 접근 방식이 다르다는 점이 부각된다.

이는 향후 AI 규제와 모델 설계 원칙에 큰 영향을 미칠 수 있는 논쟁이다.

관련 AI 뉴스