인공지능(AI) 분야를 선도하는 주요 기업들이 의회에 AI 기술을 활용한 생물학 무기 개발을 어렵게 만드는 새로운 법안 마련을 촉구하고 나섰다. OpenAI의 샘 올트먼(Sam Altman), 구글 딥마인드(Google DeepMind)의 데미스 하사비스(Demis Hassabis), 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei), 마이크로소프트 AI(Microsoft AI)의 무스타파 술레이만(Mustafa Suleyman) 등이 서명한 공개 서한은 합성 DNA 및 RNA 판매 기업에 고객 및 주문에 대한 검증 절차를 의무화하는 법률을 요구하고 있다. 이는 AI 발전 속도를 고려할 때, 과거에는 기술적 장벽으로 막혔던 위험 행위자들이 생물학 무기를 획득할 가능성이 현실화되고 있다는 위기감에서 비롯되었다.
AI와 유전자 합성 기술의 위험성 증대
과거 과학자들이 수십 년에 걸쳐 연구했던 DNA 합성은 이제 자동화된 상업용 합성기를 통해 수십 개의 기업이 맞춤형 유전자 서열을 '인쇄'하여 판매하는 수준에 이르렀다. 이 기술은 과학 연구, 신약 개발, 진단 등에 활용되지만, 일부 제공업체는 고객이나 주문 유전자 서열에 대한 검증을 철저히 하지 않는 것으로 알려져 있다. 2017년, 캐나다 연구진이 우편 주문 DNA를 이용해 멸종된 호스포스 바이러스를 복원한 사례는 이러한 기술의 오용 가능성을 경고했다. 당시 비판론자들은 동일한 방법으로 천연두와 같은 치명적인 바이러스도 만들 수 있다고 지적했다. 이후 유전자 합성 비용은 더욱 하락했으며, AI 기술과 결합되면서 대규모 언어 모델을 이용해 위험한 신종 독소나 병원체를 설계하는 것이 이론적으로 가능해졌다. 비록 실제 기능하는 바이러스를 만들기 위해서는 생물학적 지식이 여전히 필요하지만, AI로 설계된 병원체가 의도치 않게 전 세계적인 팬데믹을 유발할 수 있다는 우려는 커지고 있다.
AI 기업의 책임과 규제 강화 요구
스탠퍼드 대학교의 미생물학자이자 생물 보안 전문가인 데이비드 렐먼(David Relman)은 AI 도구가 사용자가 검증 절차를 피할 수 있는 유전자 서열 주문처를 신속하게 파악하도록 돕고, 심지어 검증 시스템이 탐지하기 어렵도록 주문 방식을 변경하는 방법까지 안내할 수 있다고 지적했다. 이러한 위험에 대응하기 위해, AI 기업들은 자체적으로 사용자 검증을 강화해야 한다는 목소리도 나오고 있다. 과거 Y 컴비네이터(Y Combinator)의 회장을 역임한 제프 랄스턴(Geoff Ralston)은 생물학 관련 모델을 개발한 AI 연구소들이 사용자 검증을 수행해야 하며, 위험한 요청을 하는 것을 매우 어렵게 만들어야 한다고 주장했다. 렐먼 역시 유전자 합성 기술의 규제뿐만 아니라 AI 기업들의 적극적인 역할이 중요하다고 강조하며, 검증 절차가 실패할 경우를 대비한 추가적인 통제 지점이 필요하다고 덧붙였다. 일부 유전자 합성 기업들도 수년 전부터 공식적인 규제 도입을 지지해왔으며, 이미 '우려되는 서열'을 탐지하는 소프트웨어를 사용하는 등 자발적인 검증 노력을 기울이고 있다.