AI는 10년 안에 인류를 위협할까? 앤트로픽 연구자 발언과 공식 문서의 차이 4가지

Anthropic Responsible Scaling Policy 공식 페이지와 BBC 보도 원문을 함께 보면, ‘10년 내’ 경고는 에번 허빙거 개인의 위험 추정이고 앤트로픽의 공식 문서는 모델 위험을 평가·완화하는 공개 체계를 설명합니다.

즉, 이 이슈는 인류 멸망이 확정됐다는 소식이 아니라, AI 안전을 연구하는 한 책임자가 불확실한 미래 위험을 크게 본다는 발언과 회사의 현재 정책 문서를 구분해 읽어야 하는 사례입니다.

이번 화제가 커진 이유는 자극적인 한 문장이 널리 퍼졌기 때문입니다. 그러나 BBC 보도는 허빙거가 현재 존재하는 모델의 위험은 낮다고 설명하면서, 재귀적 자기개선으로 더 강한 시스템이 등장할 가능성을 우려했다고 전합니다.

반대로 앤트로픽의 공식 페이지는 미래를 단정하는 예언문이 아닙니다. 이 페이지는 고성능 모델과 함께 생길 수 있는 위협을 예상하고 대비하기 위한 Responsible Scaling Policy(RSP)의 버전·변경 사항·위험보고서 공개 이력을 제공합니다.

1. ‘10년 내’는 회사 발표가 아니라 연구자의 개인적 추정입니다

BBC는 허빙거가 향후 10년 안에 AI가 모든 인간을 죽일 가능성을 10%보다 높게 본다고 X에 썼다고 보도했습니다. 이 수치는 회사가 발표한 예측치나 확정된 과학적 결론이 아니라, 발언자 개인이 밝힌 위험 판단으로 읽어야 합니다.

그 차이는 중요합니다. 개인의 위험 추정은 경고의 강도와 연구자의 문제의식을 보여 주지만, 발생 시점·경로·확률을 검증된 사실로 바꾸지는 않습니다. 따라서 제목만 보고 ‘AI가 10년 안에 인류를 위협한다’고 단정하는 것은 원문이 말하는 범위를 넘습니다.

2. 현재 모델의 위험과 미래 초지능 우려도 같은 말이 아닙니다

같은 BBC 보도에서 허빙거는 현재 모델의 위험은 낮다고 설명했습니다. 그가 걱정한다고 밝힌 대상은 현존 챗봇이 곧바로 사람을 해친다는 시나리오가 아니라, 앞으로 더 강력해질 수 있는 시스템과 정렬 문제입니다.

이 구분은 독자가 공포성 문구를 확인할 때 유용합니다. 지금 쓰는 특정 서비스의 안전성, 미래 모델의 능력 발전, 사회 전체의 AI 규칙은 각각 근거와 대응 방법이 다른 질문입니다. 하나의 문장으로 세 질문을 모두 답할 수는 없습니다.

3. 앤트로픽 RSP에서 실제로 확인되는 것은 위험관리 체계입니다

앤트로픽은 RSP를 통해 점점 강력해지는 모델에서 생길 수 있는 위험을 어떻게 판단하고 안전조치를 준비하는지 공개한다고 설명합니다. 공식 페이지에는 정책의 현재·이전 버전과 변경 이력이 함께 제시돼 있어, 한 번의 경고보다 문서가 어떻게 갱신되는지 확인할 수 있습니다.

이 페이지는 2026년 8월 14일 위험보고서를 공개했다고 밝힙니다. 해당 보고서는 이전 2026년 2월 보고서 이후부터 7월 15일까지의 모델·행동 위험, 완화 조치, 각 위험 범주의 향후 계획을 다룬다고 설명합니다. 이는 위험이 없다는 보증도, 특정 재난이 예정됐다는 증명도 아닙니다.

4. 이 이슈를 읽을 때 남는 실용적 질문은 무엇인가

가장 먼저 확인할 것은 발언의 주체와 문서의 종류입니다. 개인 연구자의 확률 추정은 누구의 말인지, 회사 정책은 어느 버전인지, 위험보고서는 어느 기간을 다루는지 나눠 보면 자극적 표현이 사실을 덮는 일을 줄일 수 있습니다.

또한 공개 문서가 설명하지 않는 부분도 남습니다. 초지능의 등장 시점, 구체적 위험 경로, 정책이 실제로 충분한지에 대해서는 이번 RSP 페이지와 보도만으로 결론 낼 수 없습니다. 그 빈칸을 임의의 확신으로 채우기보다 후속 보고서와 독립적인 안전 연구를 계속 확인하는 편이 낫습니다.

정리하면, 이번 경고는 AI 안전 논의를 피할 이유가 아니라 발언·정책·위험보고서를 서로 다른 증거로 읽어야 한다는 신호입니다. 원문은 앤트로픽 RSP 공식 페이지와 BBC 보도에서 직접 확인할 수 있습니다.