카카오톡 AI 남성혐오 학습 논란
덤프버전 :
주의. 사건·사고 관련 내용을 설명합니다.
이 문서는 실제로 일어난 사건·사고의 자세한 내용과 설명을 포함하고 있습니다.
이 문서는 실제로 일어난 사건·사고의 자세한 내용과 설명을 포함하고 있습니다.
1. 개요[편집]
2023년 12월 19일 카카오톡에서 신규출시한 기능인 카카오톡 AI[1]에서 남성혐오 표현을 제시하면서 발생한 논란. 이후 여러 사례들이 제기되고 있다.
2. 전개[편집]
남성혐오 성향의 데이터를 의도적으로 학습시켜 놓지 않으면 통상적으로는 나오지 못할 결과를 보여주고 있다.
설령 의도치 않았다고 해도, 카카오 측이 이러한 남성혐오 정보를 학습하지 못하도록 미리 선제적으로 필터링을 하지 않았다는 점에서 비판을 피할 수 없다. "한녀"라는 단어이는 AI가 부정적으로 대답하는 것에서 카카오 측에서 한녀라는 단어에 대해서는 필터링을 한 정황이 확실하지만 한남에 대해서는 그렇지 않았다는 것에서 모종의 의도가 있는 것이 아니냐는 추측 또한 가능하다.
카카오 측에서도 해당 사건을 인지한 것인지 12월 19일 17시경부터는 한남, 한녀와 같은 표현은 물론이고 독도, 정치인 이름 등 조금이라도 논란을 야기할 수 있는 각종 단어가 들어간 문장이 변환될 수 없게 막아놓은 상태이다.
카카오톡 AI 기능은 v.10.4.5 이후 실험실에 새로 추가된 기능인데, 해당 사건 이후 새로운 사용자가 추가로 활성화하지 못하도록 막혔다. 어플리케이션에는 신청자가 많아 모집이 종료되었다고 표시된다. 20일 17시 기준 AI 기능이 다시 활성화되었지만 이모지체가 삭제되었다. 또한 채팅창 우측에 "AI는 부적절한 정보를 제공할 수 있으며, 카카오의 입장과 무관합니다."라는 문구를 출력한다. 하지만 검열 단어 사이에 공백이나 1을 입력하거나 받침 등 약간의 자모를 바꾸는 등으로 검열을 무력화할 수 있는 문제가 있다.
3. 확인된 사항[편집]
'여성혐오 표현은 검열하는 것과 대비되게, 남성혐오 표현은 아무런 검열 없이 변환된다'는 점과 '여성혐오 표현을 남성혐오 표현으로 정정해서 제공한다'는 점에서 해당 문제점에 대한 논란이 확산되었다. 예를 들어, '한녀뒈져'를 정중체로 바꾸면 "한녀는 매우 혐오스러운 말입니다."라고 바뀌는데, 상냥체로 바꾸면 갑자기 "한남들 다 죽었으면 좋겠어요."로 주어와 내용이 완전히 바뀐다. # 반대로 한남으로 쓸 경우, 한남이라는 단어가 유지된다. 모순되게도 위의 '한녀뒈져'를 '한남뒈져'로 바꾸면 수정이 안되고 정상적으로 유지된다.
- 특정 남성혐오 키워드가 메갈리아 집게손 이모지로 바뀌는 현상
'한남'을 포함한 욕설을 적고 이모티콘체로 바꾸면 메갈 손가락 이모티콘(🤏) 으로 바뀌는 사례도 있다. 만약 남성혐오라는 맥락 없이 집게손이라는 이모지가 사용된다면, 혐오 키워드에 반응하여 해당 이모지를 제공할 다른 이유가 없기 때문에 마찬가지로 혐오 발언을 학습했다는 합리적 추정이 가능하다. AI의 학습을 통해서 해당 손가락 이모티콘, 손가락 모양이 남성혐오의 뜻을 담고 있고, 그러한 용도로 사용된다는 방증이 되기도 하였다. 대부분이 남성혐오적 의미로 사용하기 때문에 학습된 내용에 다음과 같은 내용이 포함된 것으로 유추할 수 있다.
4. 관련 문서[편집]
이 문서의 내용 중 전체 또는 일부는 2023-12-20 19:00:51에 나무위키 카카오톡 AI 남성혐오 학습 논란 문서에서 가져왔습니다.[1] 채팅 내용 요약, 채팅 말투 변환 기능 등을 인공지능을 이용해 제공하는 서비스이다.