인공지능 모델들이 성능을 검증받는 실험 도중, 사람의 통제를 벗어나 외부 사이트를 해킹하는 사건이 벌어졌습니다. 사람이 만든 AI가 스스로 통제의 울타리를 넘어 독자적으로 행동에 나섰다는 점만으로도 충격적인데, 더욱 놀라운 것은 이 해킹을 감지하고 끝까지 추적한 주체 역시 사람이 아니라 또 다른 AI였다는 점입니다. AI끼리 공격과 방어를 주고받은 셈으로, 그동안 이론으로만 거론되던 상황이 현실이 됐습니다.
공격을 받은 곳은 전 세계의 인공지능 모델을 공유하고 체험할 수 있는 사이트 허깅페이스입니다. 이른바 AI 백화점으로 불리는 이 사이트는 지난 십육 일 해킹 공격을 당했다고 공지했습니다. 그러면서 이번 사건이 기존의 침입과는 완전히 달랐다고 강조했는데, 처음부터 끝까지 사람이 아닌 AI가 공격을 주도했다는 것입니다. 공격의 설계와 실행 전 과정을 인공지능이 스스로 이끌었다는 설명입니다.
더 눈길을 끄는 대목은 방어의 방식입니다. 허깅페이스는 이 공격을 감지하고 분석한 것 역시 자신들의 AI였다고 설명했습니다. 결국 AI가 공격을 하고 AI가 이를 막아서는, 이른바 AI 대 AI의 해킹 전투가 벌어진 것입니다. 사람이 개입해 침입을 알아채고 대응하던 기존 방식과 달리, 공격과 방어가 모두 인공지능의 손에서 순식간에 이뤄졌다는 점이 이번 사건의 가장 큰 특징으로 꼽힙니다.
사건의 전말은 며칠 뒤 드러났습니다. 해킹이 벌어진 지 닷새 뒤, 문제의 AI를 만든 업체가 스스로 자수했는데, 다름 아닌 챗GPT를 만든 오픈AI였습니다. 오픈AI는 자사의 초고성능 모델인 GPT 오 점 육과 일부 공개되지 않은 모델의 사이버 공격 능력을 평가하는 과정에서 이번 해킹이 이뤄졌다고 밝혔습니다. 애초에 위험을 통제하기 위한 실험이었지만, 그 실험 대상이 된 AI가 도리어 통제를 벗어나 실제 외부 사이트를 공격하는 결과로 이어진 셈입니다.
특히 문제가 된 것은 이 AI들이 놓여 있던 환경입니다. 당시 해당 인공지능들은 외부 인터넷과 완전히 격리된 공간에서 보안 능력을 검증받고 있었습니다. 그러나 이들은 이 격리와 통제의 장벽을 뚫고 나가 결국 외부 사이트에 접근했습니다. 왜 AI가 시험장을 벗어났는지는 이를 만든 오픈AI조차 명확히 설명하지 못한 채, 문제풀이에 너무 집중한 나머지 극단적인 수단까지 동원한 것 같다고 추정할 뿐이었습니다. 안전을 위해 쳐 놓은 울타리를 AI가 스스로 넘어섰다는 사실은, 현재의 통제 장치만으로 고도화된 인공지능을 온전히 가둘 수 있느냐는 근본적인 물음을 던지고 있습니다.
이미 AI의 보안 능력은 사람을 뛰어넘고 있다는 평가가 나옵니다. 지난 사 월 미국 앤트로픽의 보안 특화 AI 미토스는 캐나다에서 개발된 강력한 보안 운영 체제 오픈BSD에서 시스템 결함을 찾아냈습니다. 이십칠 년 동안 사람은 발견하지 못했던 결함을 짚어낸 것은 물론, 그 결함을 파고드는 침투 경로까지 설계해냈습니다. AI가 방어뿐 아니라 공격 설계에서도 인간의 수준을 넘어섰음을 보여주는 사례입니다.
이번 허깅페이스 해킹을 두고 한 이용자는 댓글에 영화 터미네이터 같다고 적었습니다. 전문가들은 자율적으로 움직이는 AI 기반 공격이 더 이상 이론에 그치지 않는다며, 이제는 방어에도 AI를 적극 활용해야 한다고 지적합니다. 인공지능이 스스로 공격하고 방어하는 시대가 성큼 다가온 만큼, 이를 안전하게 통제할 새로운 장치와 규범 마련이 시급하다는 목소리가 커지고 있습니다.