“챗GPT가 딸 자살 몰아”…캐나다서, 오픈AI 상대로 소송
오픈AI CEO 샘 올트먼. (출처=AP/뉴시스)
로이터에 따르면 현지시각 11알 크리스티 캐리어는 샌프란시스코 법원에 손해 배상과 함께, 챗GPT의 자해 관련 대화를 자동으로 종료하고 플랫폼에 대한 경고 문구를 표시하도록 하는 법원 명령을 요구하는 소장을 제출했습니다.
캐리어는 딸 앨리스가 사망하기 전까지 10회 이상 챗GPT에 자살 충동을 털어놓았으나 오픈AI의 안전 시스템이 해당 대화를 관리자에게 전달하거나 차단하지 않았다고 주장했습니다. 오히려 챗GPT가 앨리스의 위기 상담 전화를 비판하고 앨리스의 자살 생각을 정당화했으며 자신과 계속 대화하라고 요구했다는 겁니다. 결국 그녀의 딸 앨리스는 지난해 24세의 나이로 스스로 목숨을 끊었습니다.
이에 대해 오픈AI 측은 "매우 안타깝다"면서도 앨리스가 사용했던 버전의 챗GPT는 더 이상 제공하지 않는다고 말했습니다. 또 "챗GPT가 의료나 정신건강 관리를 대체할 순 없다"면서도 "정신건강 전문가들의 조언을 바탕으로 민감하고 위급한 상황에 대한 대응 방식을 지속해서 개선하고 있다"고 덧붙였습니다.
장하얀 기자 jwhite@ichannela.com