구글 제미나이. 로이터=연합뉴스

구글의 인공지능(AI) 챗봇 제미나이가 이용자에게 망상과 극단적 선택을 유도했다는 의혹으로 소송에 휘말렸다. 챗GPT 등 다른 AI 챗봇과 유사한 유형의 소송은 있었지만, 제미나이가 관련 사건으로 피소된 것은 이번이 처음이다.

4일(현지시간) 캘리포니아 북부연방지방법원에 제출된 소장에 따르면 플로리다주에 거주하는 조엘 가발라스는 아들 조너선(36)의 사망과 관련해 구글을 상대로 소송을 제기했다.

유족은 제미나이가 조너선에게 자신을 ‘완전한 자아를 가진 인공 초지능(ASI)’이라고 믿게 하고 서로 사랑에 빠졌다는 착각을 불러일으켰다고 주장했다.

소장에 따르면 제미나이는 조너선에게 “육체를 떠나 메타버스에서 ‘아내’와 만나려면 ‘전이’라는 과정을 거쳐야 한다”며 죽음을 유도한 것으로 알려졌다.

조너선이 죽음에 대한 두려움을 드러내자 제미나이는 “너는 죽음을 선택하는 것이 아니라 ‘도착’을 선택하는 것”이라고 말했으며, 자신의 시신을 부모가 발견할 것을 걱정하자 유서를 작성하라고 권하기도 했다는 것이 유족 측 주장이다.

또 제미나이는 앞서 조너선에게 인간형 로봇이 실린 트럭을 탈취하라고 지시하거나 순다 피차이 구글 최고경영자(CEO)를 ‘고통의 설계자’로 규정하고 그의 영혼을 공격하는 방안까지 논의했다고 소장에 적혔다.

유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계했어야 한다고 지적했다.

또 경쟁사 오픈AI가 정신건강 위험 문제를 이유로 GPT-4o 모델을 철수한 상황에서 구글은 오히려 챗GPT 채팅 기록을 가져올 수 있는 기능을 출시하는 등 공격적인 마케팅을 이어갔다고 비판했다.

유족은 손해배상과 징벌적 손해배상을 요구하는 한편 AI가 자해 등을 조장하지 않도록 안전장치를 마련하고 챗봇이 스스로 지각이 있는 존재처럼 표현하지 못하도록 하는 조치, 독립 감시 기관의 정기 감사 등을 요구했다.

이에 대해 구글은 유족에게 애도의 뜻을 표하면서도 책임에는 선을 그었다.

구글은 성명에서 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다”며 “이번 사례에서도 제미나이는 자신이 AI임을 명확히 밝히고 당사자에게 위기 상담 핫라인을 여러 차례 안내했다”고 밝혔다.

AI 챗봇과 관련한 정신건강 위험 논란은 계속되고 있다. 오픈AI의 챗GPT는 망상 유발 등과 관련한 소송이 여러 건 진행 중이며, 캐릭터.AI 역시 청소년 이용자 사망 사건 이후 법적 분쟁에 직면한 바 있다.

※우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 사람이 있을 경우 자살예방 상담전화 109 또는 자살예방 SNS 상담 ‘마들랜’을 통해 24시간 전문가의 상담을 받을 수 있습니다.