인공지능(AI) 소프트웨어가 전 세계를 휩쓸고 있다. 회사들은 ‘챗GPT’처럼 강력한 챗봇 서비스가 안전할 수 있도록 조정을 담당하는 ‘모더레이터’를 고용했다. AI가 콘텐츠의 극단적 성격을 파악해 사용자 제공을 막을 수 있도록 하는 것이 목적이다.

챗봇 산업은 수십억 달러 규모로 빠르게 성장 중이다. 중국·미국 등 기술 혁신 최전선의 국가뿐 아니라 아프리카·인도·필리핀 등 저소득 국가에서도 수많은 일자리를 창출하고 있다. 하지만 챗봇의 안전망을 만드는 과정은 불쾌한 자료를 확인해야 하는 사람들에게 큰 타격을 입힐 수 있다.

모팟(27)은 “인생이 다 끝난 것 같다”며 “희망이 사라졌고 모든 것을 잃은 느낌"이라고 말했다.
그는 트라우마로 인해 결혼 생활과 인간관계가 망가졌으며 우울증에 걸렸다고 토로했다. 다른 동료들도 외상 후 스트레스 장애(PTSD)를 겪고 있다고 말했다.

모팟은 ‘사마’에서 일했다. 챗GPT를 제공하는 회사와 계약을 맺은 곳이었다.
모팟은 챗봇이 사용자에게 극단적인 콘텐츠를 제공하지 못하도록 동료들과 함께 해당 콘텐츠를 분류하는 작업을 맡았다. ‘데이터 라벨러’라는 직책을 담당해 라벨(표시)이 붙은 모든 자료를 확인하고 적절성을 확인하는 것이 모팟의 업무였다. 모팟은 폭력, 혐오 발언, 자해, 성적 콘텐츠에 관한 글을 매일 봐야 했다.

“정말 끔찍하고 충격적이었습니다.”
“4개월 동안 이런 글을 봤더니 사고방식도 바뀌었습니다.”
"행동도 변해 가족과 아내가 떠났고, 지금까지도 우울감에 시달리고 있습니다."

(중략)

출처: https://www.bbc.com/korean/articles/crg8m6pdrv6o
==================================================================
유튜브, 페이스북 등에서 고어, 포르노, 폭력 선동, (시각적) 혐오물 등 문제성 컨텐츠 거르는 근로자들의 정신적 스트레스가 극심하다던데, 챗봇 라벨링 담당자도 비슷하군요.  

텍스트든 사진이든 영상이든 담력 테스트 같은데 이용될 법한(과거의 엽기물 유행을 생각해 보세요) 컨텐츠들을
누군가는 업무로서 걸러내야 합니다. 호기심으로 취미로 하는 것도 아니라 밥벌이를 위해 의무적으로 다 봐야 합니다.

모 커뮤니티(디씨, 일베는 아닙니다) 소규모 게시판 부운영진으로서 남 일이 아닌게, 가끔씩 게시판에 찾아와 혐짤테러하는 유저들이 있습니다. 삭제 및 유저 차단을 위해서 그 컨텐츠를 봐야해요.  
운이 좋아서 전 정면으로 보진 않았는데 상상만 해도 으으...