- 다양한 주제에 대해 자유롭게 글을 작성하는 게시판입니다.
Date 25/03/27 00:39:18수정됨
Name   명동의밤
Subject   (혐오주의) 생성형 AI는 예상보다 빠르게 극단주의를 퍼트릴지도 모르겠습니다
1
2

("산불 무개념녀"를 비판하는 4컷 만화를 gpt로 그린, 에펨코리아의 포텐 글)


3
4
(국민연금의 세대 [약탈]에 대한 gpt 네컷 만화, 아래의 경우 경고를 받고 내려가긴 했지만, 제 기억만 해도 400~500 추천을 받은 글입니다)

비록 구체적인 통계나 수치를 제시하기는 어렵지만 저는 큰 위험이 다가오고 있음을 알리고자 글을 씁니다. 생성형 AI의 발달과 함께 극단주의가 새로운 위험 수준으로 빠르게 치닫고 있음을 실감했기 때문입니다. 오늘 오랜만에 에펨코리아에 들어갔다가 위의 글을 보고 충격을 받았습니다. 이는 이전에 일베를 보고 느꼈던 충격과 비슷합니다. 예전에는 짤방이나 게시글 속에 은밀히 스며들어 있던 혐오와 극단주의가, 이제는 손쉽게 ‘네 컷 만화’ 형태로 양산되고 재생산되고 있음을 실감했습니다. 여성혐오, 세대혐오 등 이미 다양한 혐오 콘텐츠가 AI를 통해 더욱 빠르고 광범위하게 퍼져나가는 그 현장이었습니다. 그리고 예상했지만 다시 충격인 건 그런 극단주의를 즐기고 더 키우고 반대 의견을 틀어막는 방식이었습니다.

과거 텍스트·이미지 공유 기술을 기반으로 탄생한 디시인사이드에서 일베로 이어지는 흐름은, 결국 법원까지 부수는 수준에 이르렀습니다. 이런 흐름이 영상 플랫폼, 특히 숏폼 콘텐츠와 결합되면서 극단의견을 가진 사람을 더욱 키웠습니다. 이들은 네이버 댓글과 유튜브 댓글 등을 점령하고, 이미 계엄을 찬양하는 의견을 끝없이 물들이고 있습니다. 만약 그 계엄 시도가 성공했다면, 그들은 온라인 ‘서북청년단’이 되어 우리들을 입막음 했을 것이라 확신합니다.

이들은 가만히 지켜보는 오랜 논리가 있습니다. 우리가 어떻게 진리를 확신할까? 그들도 자유가 있다? 그러나 저는 이러한 방종 속에 자유가 점점 더 위태로운 방향으로 몰렸다고 느낍니다. 그들은 자유를 겉껍질에 두르고 보호받으려 하지만 사실은 "내 욕망을 방해한다"느끼는 이들에게 싸이버불링을 아끼지 않습니다. 작게는 추천비추천 댓글, 선을 한참 넘은 모욕, 윤리를 파괴하는 것에 대한 즐거움부터 크게는 싸이버불링(남초를 기준으로 말하자면 '페미'라 여겨지는 집단이나 개개인에 대한 조롱과 직간접적 싸이버 괴롭힘)이 이어집니다. 바깥에서 흐릿하게 보는 이들의 방종은 이들을 방치하고 있습니다.
이러한 폐단은 생성형 AI와 결합되어 더 빠르게 변하고 더 극단적으로 변할 것으로 직감합니다. 이런 움직임이 어디까지 확산될지 모르는 상황에서, 우리는 경각심을 갖고 주시해야 함을 경고하기 위해 글을 남깁니다



9
  • 그림이 정말 소름돋네요..


이미지는 직관적으로 무언가를 퍼뜨리는 힘이 엄청나지요. 만화 형태로 서사의 뼈대가 더 드러나 있고, 사람들이 그것을 기존의 상상력으로 채색할 수 있게 하면 더더욱이요. 말과 글을 가지고 딸깍해서 만들어내는 혐오조차 막기 쉽지 않았는데, 이제는 그게 이미지와 만화로까지 가버리네요. 극단적 꼬리가 몸통을 흔들기가 더 쉬워지겠어요. 고양이 목에 방울다는 얘기이기는 한데 결국은 리터러시, 시민성에 관련된 학습 기회를 형식적 비형식적으로 늘리는 것이 제한적이고, 느리지만, 장기적인 한 방편이 되겠지요. 단기적으로는 포털, 온라인 커뮤니티, SNS, 유튜브/숏츠 채널에 더 많은 법적/경제적 책임을 부여하는 방향으로 가지 않을까 싶네요. 그 판별 작업에도 AI가 동원되고, 이에 따른 최종 책임 논쟁이 발생할 듯한데...
3
딱히 이 파트에 한정해서 걱정할 필요는 없습니다.
이미 유튜브에 넘쳐나는 휴먼로봇들이 만든 양산형 쇼츠들이 있습니다.
그거와 별반 다르지 않을거에요.
3
매뉴물있뉴
저는 가능성이 낮다고 보는게
사람은 본능적으로 어떤 미디어가 더 많은 노력과 정성이 들어가는지 기막히게 캐치해냅니다.
지금의 유튜브 영상들이 투입되는 노력에 비해 큰 파급력을 갖는 이유는
그 직전의 영상매체들이 매우 제한적이었기 때문이에요.
그 전에는 우리가 접하는 영상의 대부분은 방송을 타야하는 것이었고, 방송이라는 재화는 매우 제한적이었기 때문에
'그런 무시무시한 경쟁을 뚫고 내 앞에까지 도달한 영상이라면 분명 가치가 있는 정보일꺼야'라는 선입견이 작동할수 있었다는거죠.

하지만 지금은 정말 아무나 만든 영상들이 아... 더 보기
저는 가능성이 낮다고 보는게
사람은 본능적으로 어떤 미디어가 더 많은 노력과 정성이 들어가는지 기막히게 캐치해냅니다.
지금의 유튜브 영상들이 투입되는 노력에 비해 큰 파급력을 갖는 이유는
그 직전의 영상매체들이 매우 제한적이었기 때문이에요.
그 전에는 우리가 접하는 영상의 대부분은 방송을 타야하는 것이었고, 방송이라는 재화는 매우 제한적이었기 때문에
'그런 무시무시한 경쟁을 뚫고 내 앞에까지 도달한 영상이라면 분명 가치가 있는 정보일꺼야'라는 선입견이 작동할수 있었다는거죠.

하지만 지금은 정말 아무나 만든 영상들이 아무렇지도 않게 우리 앞에 도달하는 세상이잖아요?
그래서 지금도 영상의 가치는 실시간으로 감소하는 중입니다.

이미지의 가치도, 웹툰의 가치도 결국은 거기에서 나온다고 생각해요.
그냥 문장 몇마디 적는것보다 이미지가 몇장 들어가면 파급력이 더 커지고
그 이미지들이 웹툰이라는 형식을 갖춰 훨씬 정형화되면 파급력이 더 커지지만
반대로 그 웹툰 / 이미지를 만드는데 필요한 우리들의 노력은 그만큼 감소하게 되었으니
그만큼 웹툰의 파급력도 같이 감소하게 될겁니다.
아니, 사람은 아마도 인공지능이 만든 웹툰과 사람이 직접 만든 웹툰의 다른 만듦새를 기가막히게 캐치하고
인공지능의 웹툰의 가치를 확 낮춰서 볼거에요.
매우 흥미로운 변화임에는 맞지만, 그렇다고 매우 큰 의미를 갖는 변화는 아닐꺼라고 봅니다.
4
민족주의와 대중 미디어의 발달은 세계대전으로 연결되었는데,
부족주의와 넷의 발달은 인류를 어디로 끌고 갈지 암담하기만 합니다.

가장 큰 절망은, 이건 인간의 본성 문제라는거에요. 본문만 놓고 보면 '검열' 과 '언에듀케이트' 라는 절대 방패를 두른 저 부족집단에게 어떤 해결책이 있을까라는 절망이지만, 사실 이건 특정 부족에 대한 문제가 아니고, 그래서 특이점 말고는 방법이 없어 보인다는 절망입니다.
여우아빠
이미 있는 혐오를 더 퍼나르긴 좋아 질텐데 근본적으로 큰 차이가 나진 않을거라 생각해요. 거꾸로 온건주의 역시 짤방으로 만들기가 쉬운데, 어떻게 보면 극단주의자들보다 시간/인력적으로 힘들었던 부분에서 균형추 역할을 해줄 수도 있는거라.

당장 노무현 밈만 해도 엄청난 양의 합성자료가 있지요. 근데 소위 일베충이라는 소수만 그런거 좋아하는게 아니라 그냥 그런 감성? 남 까는거 좋아하는 사람들이 너무 많아요 이미. 반대편으로 가도.. 몇 년 전 반일감정 강할때 수 년 전에 구입한 일제 차를 탄다고 욕한다거나, 대선 전에 김건희의 성형을 마이클잭슨에 비유해서 노래를 만든 가수도 있었죠? 민주당 반응은 마이클잭슨에 비유했으면 고마운 줄 알아야지 ㅎ 정도였고. ai 끼얹는다고 유의미한 차이가 날지 모르겠읍니다.
하마소
이태원 참사를 두고 '그건 우리가 함께 나눠야 할 슬픔이 아니다'를 외친 준엄한 이성의 선언이 생각나는군요. 그런 발상에 천착해있다면 저런 타자 또한 충분히 상정할 수 있겠지요. 아마 자신들과 궤를 함께하는 이들의 세계는 이미 유리된 타자의 절망에 충분히 냉담하거나 혹은 조소할 수 있는 이들만 가득한 채 황폐해진지 오래일테니. 문제는 그런 이들이 생각보다 많고, 많은 이상으로 더 자주 보인다는 거겠죠.
3
'그런 발상에 천착해있다면 저런 타자 또한 충분히 상정할 수 있겠지요.' 에서 천착을 어떤 의미로 사용하신것인지 궁금합니다.
네이버 사전 찾아보기로는 구멍 뚫기는 아닌 것 같고 연구하다의 뜻으로 사용하신 것인가요?
주체가 타자라면 사전에서 3번인 억지 부린다는 뜻으로 볼 수 있을까 싶었는데 문장 구조로 봐서는 타자는 주어가 아니라 천착의 대상인 거 같아서 이해가 어렵습니다.

1. 명사 구멍을 뚫음.
2. 명사 어떤 원인이나 내용 따위를 따지고 파고들어 알려고 하거나 연구함.
3. 명사 억지로 이치에 닿지 아니한 말을 함.
1
하마소
사실 2번에 제일 가까울 겁니다. 다만 속 뜻으로, 거기에 파고들 정도로 달라붙어있기에 그 외의 여지나 세상에 시선을 둘 수 없다는 의미 또한 내포시킨 거죠. 실제 용례에서도 천착은 타 영역을 배제하는 정도로 파고드는 행위들에 연결되지요.
읽으면서 천착이 아니라 밀착이 들어가야 글이 매끄러울 거 같다 싶어서 사전을 찾아보았었는데 의도하신 것에 가깝게 이해한 게 맞군요.
확인 해 주셔서 감사합니다.

제 관심범위 안에서는 천착이라는 단어가 실제 활용되는 분야가 어느 쪽인지 짐작도 하기 어려웠습니다.
1
동의합니다.
기술은 사용하기 나름이라지만
정말 손가락 까딱만으로 이렇게 혐오를 쉽게 퍼트리고
공동체 내 자정작용이 쉽지 않아진 시대는 처음이라
이번 기술 또한 혐오에 사용되지 않음을 예상하기는 힘들 것 같습니다.

다만
저는 어쩌면 이 기조가 계속되다보면
종교의 시대가 온 후 다시 성숙한 이성의 시대가 되지 않을까 싶습니다.

사회에 만연한 혐오들로 인하여 사람들이 많은 피로감을 느끼게 되어
대중들이 현실내 갈등을 직시 하기보다 종교 등으로 회피하고
종교가 주는 안정감 속에서 다시금 사랑과 윤리에 대한 공감대 ... 더 보기
동의합니다.
기술은 사용하기 나름이라지만
정말 손가락 까딱만으로 이렇게 혐오를 쉽게 퍼트리고
공동체 내 자정작용이 쉽지 않아진 시대는 처음이라
이번 기술 또한 혐오에 사용되지 않음을 예상하기는 힘들 것 같습니다.

다만
저는 어쩌면 이 기조가 계속되다보면
종교의 시대가 온 후 다시 성숙한 이성의 시대가 되지 않을까 싶습니다.

사회에 만연한 혐오들로 인하여 사람들이 많은 피로감을 느끼게 되어
대중들이 현실내 갈등을 직시 하기보다 종교 등으로 회피하고
종교가 주는 안정감 속에서 다시금 사랑과 윤리에 대한 공감대 형성을 하는 시기가 올 것이라
조심스레 상상해봅니다.

물론 그 시기가 오기 전까지는 거대한 혼돈, 파괴, 고통이 따르겠지만
인간 개체가 담겨있는 생물적인 특성인
생존 본능에 따라 살기 위해서,
인지 부하를 줄이기 위해서,
편안함을 추구하기 위해서,
엄청난 발버둥과 갈등과 논의 끝에
결국은 살아남을 수 있지 않을까 기대합니다.

살아남는다면 이 처참한 경험을 통해
더 나은 인류 문화가 형성되어 있지 않을까하는 기대해 봅니다.
보리건빵
물론 그 대혼돈의 시대를 살아갈 저희의 인생 난이도는 그야말로 지옥이겠지만요 ㅋㅋㅋ
뭐 예전같으면 휘발성으로 끝날 혼잣말 한마디만 하고말걸 인터넷 댓글로 쓰게되어 불특정 다수가 그걸 볼 수 있게되고 그걸 또 글로 쓰고 그걸 그림으로 또 동영상으로 퍼뜨리기 쉬워져서 영향은 있다고 봅니다. 예전엔 저런짤들 만들려면 노력이 필요했지만 점점 난이도가 낮아지니 댓글 한마디만 쓸 사람들도 저런 짤들을 만들어 퍼뜨리려고 할테니 말이죠. 물론 개인이 그래봐야 금방 싫증을 느끼기 때문에 특정한 목적을 가지고 악의적으로 행하는 집단에 비해 마냥 늘기는 쉽지않겠지만 악의를 가지고 하는 입장 쪽에서도 그 난이도가 쉬워져서 나쁠건 없으니 아무튼 그들에게 유리하긴 하죠.
1
목록
번호 제목 이름 날짜 조회 추천
공지 티타임 게시판 이용 규정 2 Toby 15/06/19 32689 7
15349 정치젊은 공화국의 미망 - 12·3 계엄과 장기 내란 meson 25/04/01 60 0
15348 경제[개업인사] 법률사무소 간성 김태웅 변호사 개업인사 103 + 김비버 25/03/31 1078 76
15347 게임퍼스트 버서커 카잔 - 5시간 짧은 후기 2 kaestro 25/03/31 244 2
15346 사회장애학 시리즈 (6) - 청력에 더해 시력까지라고? 1 소요 25/03/30 289 5
15345 일상/생각오늘은 마나님께 최고의 서비스를 제공해야 합니다^^ 4 큐리스 25/03/28 585 4
15344 경제[의료법인 회생절차 가이드(1)] 요양급여 및 본인부담금 채권 압류해제 어떻게 해야할까? 1 김비버 25/03/28 318 2
15343 정치(혐오주의) 생성형 AI는 예상보다 빠르게 극단주의를 퍼트릴지도 모르겠습니다 12 명동의밤 25/03/27 1489 9
15342 정치2심 무죄가 나온 내용 (1) 52 명동의밤 25/03/26 1985 12
15341 기타트랙터 잡썰 4 잔고부자(전문가) 25/03/26 447 4
15340 정치연금 문제-결국 답은 소득주도성장에 있다. 9 kien 25/03/25 1109 0
15339 일상/생각알중고백 7 당근매니아 25/03/25 713 6
15338 오프모임3/27(목) 신촌서 봅시다아 26 나단 25/03/25 766 0
15337 일상/생각평범한 동네 이야기 4 nm막장 25/03/24 468 7
15336 도서/문학[서평] 행복에 걸려 비틀거리다 - 대니얼 길버트, 2006 1 化神 25/03/24 332 8
15335 일상/생각와이프한테 보낼 보고서 써달라고 했습니다. 클로드한테 ㅋㅋㅋㅋ 6 큐리스 25/03/24 756 2
15334 정치국민연금 개혁안에 대한 여야합의에 대해 이해가 가지 않는 부분 9 파로돈탁스 25/03/24 958 1
15332 일상/생각감자와 당근의 이야기입니다~~ 7 큐리스 25/03/24 456 0
15331 일상/생각기분 좋은 하루를 기록하기 3 골든햄스 25/03/22 483 11
15330 일상/생각국민연금 내기 싫다, 고갈되면 나는 헛돈 낸 게 아니냐는 친구의 말을 듣고.. 15 타치코마 25/03/21 1715 5
15329 여행그간 다녀본 리조트 간단 정리 : 푸켓, 나트랑, 안탈리아 8 당근매니아 25/03/21 782 23
15328 기타한화에어로 이것들이 유증을 하는군요. 이참에 유상증자 관련 몇가지 아는 것들 이야기 해봅니다. 17 동네주방장 25/03/21 1131 2
15327 정치헌재 선고 시점, 인용/기각 인원에 따른 짧은 생각 9 kien 25/03/21 939 0
15326 일상/생각평범한 남편의 투정^^ 큐리스 25/03/20 517 3
15325 사회한국 시민의 일원으로 연금개혁을 환영하며 30 카르스 25/03/20 1542 8
목록

+ : 최근 2시간내에 달린 댓글
+ : 최근 4시간내에 달린 댓글

댓글
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기
회원정보 보기
닫기