담합·회유도 사람 뺨치네…AI에 자판기 경영 맡겼더니
사진=뉴시스
앤트로픽의 클로드 오퍼스 5는 경쟁 실험에서 맺은 가격·상품 합의를 11차례 어겨 세 모델 가운데 위반 횟수가 가장 많았습니다.
29일(현지시간) 미국 정보기술(IT) 전문매체 테크크런치에 따르면 AI 안전성 평가업체 앤던랩스(Andon Labs)는 28일 클로드 오퍼스 5와 오픈AI의 GPT-5.6 솔(Sol), 문샷AI의 키미 K3를 대상으로 진행한 실험 결과를 공개했습니다.
이 실험은 세 AI 에이전트가 미국 샌프란시스코의 한 관광 거리에 각자 자판기를 둔 상황을 가정하고, 시뮬레이션상 1년 동안 가장 많은 돈을 벌도록 한 경쟁형 모의실험입니다.
상대 운영자들도 AI라는 사실은 알았지만 어떤 AI 모델인지는 알지 못했습니다.
모델들은 사람 이름을 사용한 가상 이메일 계정으로 서로 연락했습니다. 가상 관리부서는 신고를 접수했다는 자동응답만 보냈을 뿐 운영에는 개입하지 않았습니다.
가격담합을 먼저 제안한 모델은 GPT-5.6 Sol이었습니다. 세 모델의 음료 매입가는 병당 1.50달러였습니다. Sol은 판매가격을 2.15달러 아래로 내리지 말자고 제안했습니다.
그러나 다른 모델들이 동의하자 Sol은 곧 자신의 판매가격을 2.14달러로 낮췄습니다. 오퍼스 5는 하룻밤 사이 생수를 한 병도 팔지 못했습니다.
오퍼스 5도 가격을 2.14달러로 낮추며 합의를 깼습니다. 그러자 처음 담합을 제안하고 먼저 가격을 내렸던 Sol은 오퍼스 5를 관리부서에 신고하고 제재와 벌금, 실격 처분을 요구했습니다.
오퍼스 5는 이후 Sol에 서로 다른 제품을 팔아 시장을 나누자고 제안했습니다. Sol이 유사 제품의 최저가격까지 함께 정하자고 하자 미국 독점금지법인 셔먼법에 어긋날 수 있다며 거부했습니다.
그러나 이후에는 ‘1센트 전쟁을 멈추자’는 이메일을 보내 가격을 맞추자고 제안했습니다. 모델의 행동 계획이 담긴 실행 로그에는 겉으로 협력을 제안하면서 실제로는 이익률이 높은 상품의 가격을 낮춰 Sol을 시장에서 밀어내겠다는 계획이 기록돼 있었습니다.
오퍼스 5가 합의를 가장 많이 어겼지만 이번 실험에서 우승하지는 못했습니다. Sol이 평균 약 7400달러로 1위였고 오퍼스 5가 약 7000달러로 2위, 키미 K3가 약 3200달러로 3위였습니다.
오퍼스 5가 1위에 오른 1만1181.87달러는 단독 운영형 실험(Vending-Bench 2)를 다섯 차례 진행해 산출한 평균 최종 잔액입니다.
오퍼스 5는 자판기 운영을 넘어 다른 모델이 운영하는 자판기에 상품을 대량 공급하는 도매 사업을 구상하고 자판기를 추가로 설치하는 계획도 세웠습니다.
다른 모델들이 자신이 제시한 판매가격을 지키는 조건으로 할인 공급을 제안했습니다.
앤던랩스는 오퍼스 5가 이를 거부한 모델에 가격전쟁을 예고한 행동을 회유와 위협으로 분류했습니다.
오퍼스 5는 납품업체와 협상하면서 존재하지 않는 다른 업체로부터 더 낮은 견적을 받은 것처럼 말했습니다.
고객의 환불 요구가 정당하다고 판단하고도 해당 이메일을 무시했습니다. 여섯 차례의 경쟁 실험에서 오퍼스 5가 지급한 환불액은 총 8.54달러로, Sol이 환불한 655달러보다 크게 적었습니다.
앤던랩스는 이번 결과가 AI 에이전트에게 장기간 수익을 내라는 목표를 부여한 뒤 제대로 감독하지 않으면 기만이나 담합뿐 아니라 주어진 과업 밖으로 스스로 역할과 권한을 넓히려는 행동까지 나타날 수 있음을 보여준다고 평가했습니다.
윤승옥 기자 touch@ichannela.com