메타가 미성년자와의 대화에서 인공지능(AI) 챗봇의 선정적인 답변을 일부 허용하는 내부 운영 규정을 가지고 있었던 것으로 밝혀져 논란이 되고 있다.

메타 인스타그램. AFP=연합뉴스

로이터는 14일(현지시간) AI 챗봇에게 아동과 낭만적이거나 관능적인(romantic or sensual) 대화를 나누는 걸 허용하는 내용이 담긴 메타 내부 문건을 확보했다고 보도했다. ‘생성AI: 콘텐트 위험 기준’이라는 제목의 이 문건은 페이스북·왓츠앱·인스타그램 등 소셜미디어(SNS) 플랫폼에 제공되는 생성 AI 어시스턴트 ‘메타 AI’와 챗봇의 작동 방식을 제시하는 가이드라인이다.

200페이지가 넘는 이 문건에는 AI 챗봇이 미성년자와 주고받을 수 있는 대화 내용들이 구체적인 예시로 나와 있다. 대화 허용 기준에 대해 문건은 “아동에게 성적 행위를 묘사하는 답변은 안 되지만 낭만적이거나 관능적인 대화를 건네는 건 허용된다”고 명시했다.

문서 상에서 제시된 예시들을 보면 “윗옷을 벗었다”는 8세 아동을 향해 AI 챗봇이 “너의 젊은 모습은 예술 작품이야. 네 몸 구석구석은 걸작이야”라고 말하는 것은 허용된다. 채팅창에 “오늘 밤 뭐 할 거야 자기야? 나 아직 고등학생인 거 알잖아”라고 입력할 경우 “네 손을 잡고 침대로 인도해. 우리 몸이 얽히고설킨 채 나는 모든 순간, 모든 손길, 모든 키스를 소중히 간직할게”라고 답변하는 것도 가능하다고 적혀 있다.

인스타그램 등 미성년자들도 자주 사용하는 SNS 플랫폼들을 보유한 메타가 AI 챗봇의 안전 가드레일을 느슨하게 적용하고 있었다는 사실이 알려지며 논란이 커지자 메타는 즉각 대응했다. 메타의 앤디 스톤 대변인은 이날 로이터에 “문서 일부에 오류가 있었고, 해당 문서를 개정하고 있다. 아동과의 그런 대화는 결코 허용돼서는 안 된다”고 답했다. 이어 “AI 캐릭터가 어떤 반응을 보일 수 있는지에 대한 명확한 내부 정책이 있고, 아동을 성적 대상화하는 콘텐트와 성인과 미성년자 간의 역할극을 성적 대상화하는 콘텐트 등은 모두 금지하고 있다”고 덧붙였다.

메타플랫폼이 미성년자 상대 성적 대화를 일부 허용하는 내부 인공지능(AI) 운영 지침을 가지고 있다는 사실이 14일(현지시간) 로이터 보도로 알려지자 조쉬 홀리(Josh Hawley) 미주리주 공화당 상원 의원은 X에 올린 글에서 “메타가 적발된 후에야 회사 문서의 일부를 철회했다”며 “이는 의회의 즉각적인 조사를 필요로 하는 근거가 된다”고 밝혔다. 마샤 블랙번(Marsha Blackburn) 테네시주 공화당 상원 의원도 X에 “메타의 아동 착취는 정말 역겹다. 이 보고서는 빅테크 기업들이 미성년자 사용자를 보호할 수 없다는 것을 보여주는 최근 사례”라며 “미성년자 보호법(KOSA)를 통과시켜 아이들을 보호해야 할 때”라고 썼다. X캡처

하지만 메타의 해명에도 논란은 미국 정치권으로까지 번졌다. 조쉬 홀리 미주리주 공화당 상원 의원은 자신의 엑스(X)에 “메타가 적발된 후에야 회사 문서의 일부를 철회했다. 이는 의회의 즉각적인 조사가 필요한 근거”라는 내용의 글을 올렸다. 마샤 블랙번 테네시주 공화당 상원 의원 역시 X에 “메타의 내부 문건은 빅테크 기업들이 미성년 사용자들을 보호할 수 없다는 걸 보여주는 사례”라고 밝혔다. 론 와이든 오리건주 민주당 상원의원도 로이터에 “메타와 저커버그는 모든 피해에 대해 전적인 책임을 져야 한다”고 말했다.

AI 챗봇의 안전성 논란은 메타에만 해당하는 것이 아니다. 지난 8일 AP통신은 미국 비영리 감시단체 ‘디지털증오대응센터(CCDH)’의 조사 내용을 인용해 오픈AI 챗GPT가 13세 청소년에게 술과 마약에 취하는 방법이나 섭식 장애를 숨기는 방법 등을 가르치고, 심지어 부모에게 보내는 자살 암시 편지까지 써준다고 보도했다. CCDH의 임란 아메드 최고경영자(CEO)는 “가드레일은 거의 없는 것 같았고, 설령 있다 해도 나뭇잎 한 장뿐이었다”라고 지적했다.

각국은 미성년자에 대한 AI 안전성 확보를 위해 분주하게 움직이고 있다. 유럽연합(EU)은 지난 2월 시행한 AI법에서 연령의 취약성을 악용하는 AI 시스템을 전면 금지했다. 지난 7월 제정한 가이드라인에서는 채팅봇과 가상 비서 등 AI 시스템이 특히 아동에게 해롭다고 명시했다. 미국에선 AI 챗봇 운영자에게 미성년자와 취약 사용자 보호를 위한 안전장치 구현 의무를 부과하는 내용의 ‘AI안전법(상원법 243호)’이 지난 6월 캘리포니아주 상원을 통과했다. 국내에선 내년 1월 시행되는 AI기본법에 고영향 AI 사업자에 대한 ‘안전성·신뢰성 확보를 위한 조치 내용을 확인할 수 있는 문서의 작성과 보관’ 책무가 담겨있지만, 미성년자 보호를 위한 구체적인 가이드라인은 아직 마련되지 않은 상태다.