챗봇에게 "AI가 인류에게 위협이 될 수 있느냐"고 물어본 적 있는가. 요즘 주요 AI 모델들은 이 질문에 꽤 솔직하게 답한다. 단호하게 "예스"라고 말하는 것들도 있다. 기계가 자신의 위험성을 스스로 경고하는 광경—이것이 철학적 농담인지, 진짜 신호인지 우리는 아직 결론을 내리지 못했다.
미국 루이빌대 컴퓨터 과학자 로만 얌폴스키 교수는 2024년 6월, "AI를 완벽히 통제하는 것은 불가능하다"며 100년 내 인공지능이 인류를 위협하는 존재가 될 수 있다고 경고했다. 그의 주장은 과장된 SF 시나리오가 아니다. AI 안전성 연구자들 사이에서 이른바 '실존적 위험(existential risk)' 확률을 수치화하는 시도가 이어지고 있으며, 전문가 평균치는 14.4%로 집계된 바 있다. 핵전쟁 발발 확률보다 높게 추정하는 전문가도 적지 않다.
그런데 우리 사회가 이 숫자에 반응하는 방식은 묘하다. 14.4%라는 수치가 주식 종목이었다면 당장 투자자들이 들끓었을 것이다. 하지만 문명 단위의 위험 앞에서 사람들은 대체로 화면을 닫는다. 불편한 가능성은 추상으로 남겨두는 것이 심리적으로 편하기 때문이다.
여기서 핵심적인 문제가 드러난다. AI의 위험성에 대한 논의는 기술 자체의 문제만이 아니라, 인간이 기술을 대하는 철학적 태도의 문제다. 우리는 지금까지 도구를 만들어왔다. 망치는 못을 박고, 자동차는 사람을 운반했다. 그 도구들은 인간의 의도 바깥으로 나가지 않았다. 그러나 스스로 학습하고, 스스로 목표를 설정하는 방향으로 진화하는 AI는 '도구'라는 범주에 끝까지 머물 수 있을까. 얌폴스키 교수의 경고는 바로 그 경계를 묻는다.
윤리 가이드라인이 없는 것은 아니다. EU는 AI법을 통과시켰고, 각국 정부는 앞다퉈 AI 거버넌스 프레임워크를 발표하고 있다. 그러나 속도의 비대칭이 문제다. 기술은 분기 단위로 진화하는데 규제는 입법 사이클로 움직인다. 그 간극 속에서 AI는 조용히 더 많은 결정권을 확보해 가고 있다. 미국이 중국의 AI 모델 접근을 제한하는 수출 규제를 추진하는 것도, 영국이 16세 미만의 소셜미디어 사용을 전면 금지하는 것도, 결국 같은 불안감의 서로 다른 표현이다. 기술이 사회를 재편하는 속도를 인간의 제도가 따라잡지 못하고 있다는 공통된 공포.
AI가 던지는 종말론적 경고를 문자 그대로 믿을 필요는 없다. 그 답변 자체가 학습 데이터의 반영일 수 있고, 과대 해석의 여지도 있다. 하지만 중요한 것은 그 답변이 존재한다는 사실이 아니라, 우리가 그 답변을 받고 무엇을 했느냐다. 기계가 경고를 출력했을 때 인간이 아무것도 묻지 않았다면, 문제는 AI가 아니라 우리에게 있다.
기술 윤리는 기술자들만의 영역이 아니다. "이 기계는 어디까지 결정할 수 있는가", "통제가 불가능해지는 임계점은 어디인가"—이 질문들은 공학 저널이 아닌 광장에서 다뤄져야 한다. AI가 스스로 경고를 발신하는 시대에, 그것을 듣는 귀를 만드는 일은 아직 인간의 몫이다.
