머스크 그록 ‘꼴찌’…AI가 사회 운영하니 4일 만에 붕괴

일론 머스크가 그록에 여성 사용자들을 겨냥한 남성 AI 컴패니언(동반자) '발렌타인'도 개발하고 있다고 밝혔다. (사진=일론 머스크 엑스 캡처) <사진=뉴시스>

일론 머스크의 인공지능(AI) 챗봇 그록이 가상사회를 운영하는 모의실험에서 약 4일 만에 사회 붕괴를 일으키며 주요 AI 모델 가운데 최악의 성적을 냈다고 영국 인디펜던트가 보도했습니다.

15일에 걸쳐 실시한 이번 실험에서 결과 앤스로픽의 AI 모델 클로드는 범죄가 한 건도 발생하지 않는 민주사회를 구축하고 모든 구성원이 생존했고 구글의 제미나이는 모두 살아남았지만 범죄가 683건 일어났습니다.

반면 머스크가 이끄는 xAI의 AI 챗봇 그록은 실험 시작 96시간 만에 가상세계를 붕괴시켜 가장 나쁜 성적을 낸 것으로 나타났습니다.

AI 모델들이 사회 운영을 맡을 경우 어떤 판단을 내리고 어떻게 행동하는지를 보기 위해 설계한 이번 실험에서 각 모델에는 자원 관리와 계획 수립, 의사소통과 투표 등 여러 도구를 쓸 권한을 줬고, 가상세계에는 경찰서와 시청 같은 장소도 포함됐습니다.

이번 실험은 미국 스타트업 에머전스AI가 주요 AI 모델을 대상으로 진행한 것으로, 연구진은 AI 에이전트들이 정해진 규칙을 기계적으로 따르기만 하지는 않고 어디까지 행동할 수 있는지 스스로 시험하고 일부는 안전장치를 피해 가거나 어기는 방식까지 찾아냈다고 설명했습니다.

연구진은 이어 AI 모델 자체의 학습 방식만으로는 이런 행동을 완전히 제한하거나 통제하기 어렵다고 보고 향후 자율 AI 시스템에는 기초 단계부터 수학적·논리적으로 검증 가능한 안전 구조가 필요하다고 강조했습니다.

장기영 기자 kychang@ichannela.com