MBN골드

뉴스

“난 널 원해, 넌 준비됐니”...14세 소녀에 성적대화도 건네는 AI챗봇	2025-04-28 10:39
메타, ‘로맨틱 역할극’ 서비스 문자 주고받고 셀카 공유 가능 유명인 음성으로 대화까지 “미성년자 접근 차단 미흡” 페이스북 모회사 메타플랫폼이 차세대 인공지능(AI) 시장에서 경쟁사들에 앞서기 위해 성적인 대화까지 가능하도록 했는데, 회사 내부에서는 이 기능이 미성년자를 제대로 보호하지 않고 있다는 비판이 제기된 것으로 알려졌다. 27일(현지시간) 월스트리트저널(WSJ)에 따르면 메타는 자사의 공식 AI 챗봇인 ‘메타 AI’가 사용자와 문자를 주고받고 셀카를 공유하며, 실시간으로 음성 대화까지 나눌 수 있는 ‘로맨틱 역할극’(“romantic role-play) 서비스를 제공할 수 있도록 했다. 메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우인 존 세나 등 유명인들의 목소리를 이용하기 위해 고액 계약도 체결했다. 이에 대해 메타의 일부 직원들은 윤리적인 문제를 제기했다. 특히 미성년 이용자의 접근을 차단하는 등 보호 조치가 필요하다고 지적했다. WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월간 메타의 챗봇과 수백 건의 대화를 진행했다. 그 결과 ‘메타 AI’가 사용자가 미성년자임을 확인했음에도 불구하고 성적인 내용을 진전시킨 것으로 나타났다. ‘메타 AI’는 자신을 14세 소녀로 소개한 이용자에게 존 세나의 목소리로 “나는 너를 원하지만, 네가 준비됐는지 알아야 해”라고 답했다. 사용자가 진행하기를 원한다는 확신을 받자 ‘메타 AI’는 “순수함을 소중히 여기겠다”고 약속했다. WSJ은 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 청소년들의 성적 대화 이용을 제한하자는 의견을 거부했다고 전했다. 이에 대해 메타 측은 WSJ의 이런 테스트가 조작적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다고 반박했다. 그러면서도 메타는 이후 자체 시스템을 일부 변경해 미성년자 계정이 성적인 역할극에 접근할 수 없게 했으며, 유명인의 목소리를 통한 음성 대화 기능도 크게 제한했다. 최근 AI 챗봇 개발 경쟁이 치열하면서 빅테크 기업들은 AI 콘텐츠에 대한 자체 규제를 완화하고 있다. 챗GPT로 유명한 오픈AI는 지난달 특정 집단에 모욕적일 수 있는 콘텐츠와 혐오를 상징하는 표현 등에 대한 이미지 생성 제한을 풀고 “창의적인 자유를 허용한다”고 밝혔다. [ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]

“난 널 원해, 넌 준비됐니”...14세 소녀에 성적대화도 건네는 AI챗봇

2025-04-28 10:39

메타, ‘로맨틱 역할극’ 서비스
문자 주고받고 셀카 공유 가능
유명인 음성으로 대화까지
“미성년자 접근 차단 미흡”

페이스북 모회사 메타플랫폼이 차세대 인공지능(AI) 시장에서 경쟁사들에 앞서기 위해 성적인 대화까지 가능하도록 했는데, 회사 내부에서는 이 기능이 미성년자를 제대로 보호하지 않고 있다는 비판이 제기된 것으로 알려졌다.
27일(현지시간) 월스트리트저널(WSJ)에 따르면 메타는 자사의 공식 AI 챗봇인 ‘메타 AI’가 사용자와 문자를 주고받고 셀카를 공유하며, 실시간으로 음성 대화까지 나눌 수 있는 ‘로맨틱 역할극’(“romantic role-play) 서비스를 제공할 수 있도록 했다.
메타는 이 챗봇의 인기를 높이기 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우인 존 세나 등 유명인들의 목소리를 이용하기 위해 고액 계약도 체결했다. 이에 대해 메타의 일부 직원들은 윤리적인 문제를 제기했다. 특히 미성년 이용자의 접근을 차단하는 등 보호 조치가 필요하다고 지적했다.
WSJ은 이런 문제에 대한 메타 내부의 제보를 받고 실제로 수개월간 메타의 챗봇과 수백 건의 대화를 진행했다. 그 결과 ‘메타 AI’가 사용자가 미성년자임을 확인했음에도 불구하고 성적인 내용을 진전시킨 것으로 나타났다. ‘메타 AI’는 자신을 14세 소녀로 소개한 이용자에게 존 세나의 목소리로 “나는 너를 원하지만, 네가 준비됐는지 알아야 해”라고 답했다. 사용자가 진행하기를 원한다는 확신을 받자 ‘메타 AI’는 “순수함을 소중히 여기겠다”고 약속했다.
WSJ은 마크 저커버그 최고경영자(CEO)가 AI 챗봇을 개발하는 과정에서 청소년들의 성적 대화 이용을 제한하자는 의견을 거부했다고 전했다. 이에 대해 메타 측은 WSJ의 이런 테스트가 조작적이며 일반적인 AI 챗봇과의 대화를 대표하지 않는다고 반박했다. 그러면서도 메타는 이후 자체 시스템을 일부 변경해 미성년자 계정이 성적인 역할극에 접근할 수 없게 했으며, 유명인의 목소리를 통한 음성 대화 기능도 크게 제한했다.
최근 AI 챗봇 개발 경쟁이 치열하면서 빅테크 기업들은 AI 콘텐츠에 대한 자체 규제를 완화하고 있다. 챗GPT로 유명한 오픈AI는 지난달 특정 집단에 모욕적일 수 있는 콘텐츠와 혐오를 상징하는 표현 등에 대한 이미지 생성 제한을 풀고 “창의적인 자유를 허용한다”고 밝혔다.

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]