“AI의 거짓 정보로 미·중전쟁 날 뻔…가까스로 막아”
전략물자를 선적한 것으로 추정되는 제재 대상 두 이란 이란의 출항 항구와 현재 위치, 도착 목적지인 이란의 두 항구 등의 위치. 사진=뉴시스
CNN은 잘못된 보고서로 인해 미국과 중국 사이에 "거의 전쟁이 일어날 뻔했다"고 전했습니다.
미 특수작전사령부의 한 정보 분석관이 인공지능의 도움을 받아 중국 선박이 치명적 물질을 싣고 이란으로 향하고 있다는 내용의 보고서를 작성했습니다.
이에 따라 미군은 선박을 차단하기 위한 작전 계획을 세우고 즉각 움직이기 시작했습니다.
미군 요원들이 선박에 승선할 준비를 했고 군용기들이 이미 선박 상공에 떠 있었습니다.
당국자들은 작전 실행 직전에 보고서를 다시 점검해 보고서가 인공지능의 도움을 받아 작성됐으며 인공지능이 선박이 운송하던 물질을 잘못 식별했음을 발견했습니다.
한 소식통은 보고서가 "완전히 거짓이었으나 거의 전쟁을 일으킬 뻔했다"고 전했다.
중국 선박에 대한 미군의 작전은 양국 사이의 무력 충돌로 걷잡을 수 없이 확대될 위험이 있었습니다.
미군과 정보기관 전반에서 당국자들은 거의 모든 업무 영역에 인공지능을 접목하려 시도하고 있습니다.
그러나 이번 사건은 전쟁 중 표적 선정에 인공지능을 사용하는데 엄청난 위험이 따를 수 있음을 보여줍니다.
이번 사건에서 분석관은 하와이에 있는 미군 태평양 특수작전사령부가 작성한 해당 선박의 화물 목록 관련 정보 보고 내용을 놓고 인공지능에 질문했습니다.
인공지능은 공개출처 정보와 정부가 보유한 비밀 신호정보를 결합해 해당 선박이 운송하던 물질에 관한 결론을 내렸습니다.
분석관은 다시 인공지능을 사용해 조사 결과를 표준 정보 보고서 형식으로 정리해 배포했습니다.
이 형식의 보고서는 군 관계자들이 신뢰하는 종류의 정보 보고서였습니다.
윤승옥 기자 touch@ichannela.com