- 다양한 주제에 대해 자유롭게 글을 작성하는 게시판입니다.
| Date | 20/12/10 18:30:01 |
| Name | 타키투스 |
| Subject | 사이버 네크로맨시 |
|
위에 거북이 영상을 보고 떠오른 생각입니다. ai 기술의 발전에 따라 죽은 사람을 가상에 혹은 미래에는 현실로 부활시켜주는 사업이 생길지도 모른다는 생각이 들었습니다. 물론 지금의 기술로는 사람 한명 구현하는것도 방송국 수준의 자본이 필요하지만 10년 내에는 솔루션이 나오겠지요. 그리고 강인공지능이 나온다면 사람을 연기하거나 자신을 사람이라 믿는 인공지능도 나올테니 죽은 사람을 말 그대로 '대체' 할 복제를 만들어 낼수도 있습니다. 위의 두 사례는 그다지 논쟁거리가 되진 않는다고 봅니다. 어떻게보면 드라마 치료 같은 심리 치료의 연장선이라고 볼 수 있으니까요. 고인의 복제는 일시적이고 그나마도 미리 짜여진 대본대로 행동하며 고인을 모욕하는것도 아닙니다. 그러나 셋 중 하나라도 어겨진다면 논쟁의 대상이 되리라 봅니다. 1. 영구적인 복제 고인을 모욕하는것도 아니고 미리 짜여진 대본대로 행동하지만 존재 자체는 영구적이라 생각해봅시다. 예를 들자면 VR게임 같은데서 NPC처럼 복제하는겁니다. VR게임을 키면 죽은 자신의 소중한 사람이 반겨줍니다. 바리에이션도 얼마 없고 대사도 자신이 입력한 대사를 ai 기술로 합성한 음성이지만 아무튼 이런 식으로라도 자신의 곁에 있어주니 치유가 되겠죠. 다만 이 경우 고인을 그저 자신의 심리적 안정의 도구로만 생각한다는 대상화의 문제가 생깁니다. 2. 자아를 가진 복제 복제된 고인이 AI 기술로 자아(혹은 고인을 연기)를 가졌다고 생각해봅시다. 창작물에서 흔히 보이는 내용이죠. 고인의 복제가 고인의 삶을 그대로 이어받아 살며 생전 지인들도 복제를 진짜처럼(물론 복제임을 알 수도 모를 수도 있습니다.) 대하는겁니다. 이 경우 고인이 생전 살아왔던 삶을 빼앗긴 셈이니 인격권 침해 문제가 생깁니다. 3. 고인 모욕 의도의 복제 굳이 설명할 필요는 없을것 같습니다. 이 중에서 가장 논란이 심할 것 같은건 1번입니다. 2번은 심리 치료 용도로 리얼한 상황을 재현하기 위함이라 하면 사회적 합의가 이뤄지기 쉬울것 같습니다만 그 심리 치료 기간을 무한정으로 잡는다면 이야기가 달라지니까요. 사실 고인이 생전에 자신의 복제를 만드는데 동의를 했다면야 1, 2번 둘다 별 문제가 되지 않습니다. 하지만 이러한 문제가 사회적으로 대두되기까지는 아직 많은 시간이 남았고 그 사이에 이 문제를 접하지 못하고 사망한 사람들은 이 문제에 대해서 아무런 결정을 하지 않았으므로 고인들의 결정권과는 무관하게 어느 선까지 고인의 복제을 용인해야 하는가에 대한 논쟁이 생길것으로 보입니다. 물론 인간의 철학이나 도덕이라는게 인간의 욕망에 따라 얼마든지 합리화되는 것이기도 해서 그냥 별 논란 없이 지나갈수도 있겠죠. 그와는 별개로 사학계에선 붐이 일어날것 같습니다. ai 기술로 역사의 인물을 시뮬레이션 할 수 있으니까요... 0
|
|
영드 블랙미러에서 말씀하신 소재로 만든 에피소드가 기억나네요. 고인이 했건 생전의 SNS를 가지고 모든 기억과 습관 말투 행동을 모사하는...
두 번째 다큐멘터리 "너를 만났다" 를 MBC와 함께 제작한 회사와 같이 일을 하고 있습니다. 관련해서 제작기도 들어 보았고, 토론도 하였는데요,
워낙 민감한 주제이긴 합니다. 개인적으로는 방송에서 너무 남용된다는 생각까지 하고 있어요. 하지만 개인적으로는 꼭 필요한 기술이라고 생각하고 있습니다.
사례를 보아 아시겠지만 이미 세상을 떠난 사람이거나, 나이가 들어서 젊을 때의 모습을 복원한 디지털 휴먼의 사례를 보면 대부분 정치인, 기업 총수, 또는 연예인이에요. 당연하지만 제작비 때문이지요. 저 다큐멘터리 "너를 만났다" 가... 더 보기
워낙 민감한 주제이긴 합니다. 개인적으로는 방송에서 너무 남용된다는 생각까지 하고 있어요. 하지만 개인적으로는 꼭 필요한 기술이라고 생각하고 있습니다.
사례를 보아 아시겠지만 이미 세상을 떠난 사람이거나, 나이가 들어서 젊을 때의 모습을 복원한 디지털 휴먼의 사례를 보면 대부분 정치인, 기업 총수, 또는 연예인이에요. 당연하지만 제작비 때문이지요. 저 다큐멘터리 "너를 만났다" 가... 더 보기
두 번째 다큐멘터리 "너를 만났다" 를 MBC와 함께 제작한 회사와 같이 일을 하고 있습니다. 관련해서 제작기도 들어 보았고, 토론도 하였는데요,
워낙 민감한 주제이긴 합니다. 개인적으로는 방송에서 너무 남용된다는 생각까지 하고 있어요. 하지만 개인적으로는 꼭 필요한 기술이라고 생각하고 있습니다.
사례를 보아 아시겠지만 이미 세상을 떠난 사람이거나, 나이가 들어서 젊을 때의 모습을 복원한 디지털 휴먼의 사례를 보면 대부분 정치인, 기업 총수, 또는 연예인이에요. 당연하지만 제작비 때문이지요. 저 다큐멘터리 "너를 만났다" 가 상당히 드문 사례죠.
저는 기술의 발전으로, 이러한 디지털 휴먼을 제작하여 세상을 떠난 이를 추모하고 기억하는 일이 소수의 계층이나 직업군에 한정된 것이 아닌, 모든 이가 누릴 수 있는 기술이 되어야 한다고 생각합니다.
그런데 말씀하신 1번으로 지적하신 문제는... 개인적으로는 문제가 될까 하는 생각입니다. 우리가 고인이 되신 분의 영정을 집에 걸어두고 보면서 심리적인 안정을 받으며 살아간다 하더라도 그게 고인에 대한 문제가 되지는 않겠지요. 마찬가지로 생전에 찍어둔 사진이나 영상을 보는것도요. VR 기술로 재현된 고인도 다르지는 않다고 생각합니다. 새로운 방식일 뿐이라고 생각해요. 고인을 심리적 안정의 도구로 대상화한다는 것은... 사실 결국 살아있는 사람이 중요한거 아닌가 합니다. 그렇게 심리적 안정을 얻을수 있다면요.
2번의 자아를 가진 디지털 휴먼은.. 일단 구현 자체가 사실 상당히 갈길이 멀다 라고 보고 있습니다. 아직 완벽히 사람처럼 의사소통 할 수 있는 "일반적인" 대화(여기에서의 대화란 텍스트 뿐만 아니라 감정이나 상황 같은 컨텍스트를 반영한 발화, 눈빛이나 몸짓 등 비언어적 의사소통 까지 포합니다) 를 나눌수 있는 인공지능도 개발중인 상황인데, 그 사람의 개성과 성격, 특징까지 반영하여 진짜 그 사람인 것 처럼 느낄 수 있는 디지털 휴먼은 정말 구현해내기 어렵습니다.
다만 그런 디지털 휴먼이 구현되었다 치고, 그럼 그것이 고인의 생전 살아왔던 삶을 빼앗긴 것인가? 인격권이 침해당했나? 저는 그렇게 보기도 어렵지 않나 합니다. 이유는 두 가지인데, 아무리 고인과 똑같아서 고인을 대체할 정도로 정교한 디지털 휴먼이라고 해도, 이미 고인이 살아왔던 삶이라는 실존까지 대체할수는 없는 것이고, 다른 하나는, 자신과 똑같이 말하고 행동하는 디지털 휴먼으로 인해 이미 고인이 된 분의 인격이 침해된다고는 보기 어렵다고 생각해서입니다.
하지만 말씀하신대로 사망 이후의 자신을 어떻게 활용할지에 대한 동의 여부는 새로운 기술발전과 함께 보다 폭넓게 논의될 지점이 있다는데 동의합니다. 예를 들어 저는 제가 사망하고 제 장기를 기증할지 여부를 생전에 선택할 수 있습니다. 특별한 동의 절차가 없다면 고인이 되었다고 해서 함부로 제 장기를 빼다 쓰지 못합니다.
하지만 이미 고인이 되어서도 다시 대중앞에 선 마이클잭슨, 신해철, 김광석, 터틀맨같은 가수들이 생전에 자신의 사후에도 대중앞에 홀로그램으로 나타나 노래를 불러도 된다고 동의했을 리는 없다고 생각합니다. 결국 이건 살아있는 자들이 누구는 위로를 받고 누구는 돈을 벌기 위한 기획이었지요. 그래서 저는 이런 기획에 있어 방송국이나 콘텐츠 제작사가 더 신중해져야 한다는 입장이긴 합니다.
그러나 개인이 앨범을 들추어 보듯이 돌아가신 이들을 추모하고 추억하는 방법으로 새로운 기술의 혜택을 누릴 수 있는 세상은 빨리 왔으면 좋겠습니다.
워낙 민감한 주제이긴 합니다. 개인적으로는 방송에서 너무 남용된다는 생각까지 하고 있어요. 하지만 개인적으로는 꼭 필요한 기술이라고 생각하고 있습니다.
사례를 보아 아시겠지만 이미 세상을 떠난 사람이거나, 나이가 들어서 젊을 때의 모습을 복원한 디지털 휴먼의 사례를 보면 대부분 정치인, 기업 총수, 또는 연예인이에요. 당연하지만 제작비 때문이지요. 저 다큐멘터리 "너를 만났다" 가 상당히 드문 사례죠.
저는 기술의 발전으로, 이러한 디지털 휴먼을 제작하여 세상을 떠난 이를 추모하고 기억하는 일이 소수의 계층이나 직업군에 한정된 것이 아닌, 모든 이가 누릴 수 있는 기술이 되어야 한다고 생각합니다.
그런데 말씀하신 1번으로 지적하신 문제는... 개인적으로는 문제가 될까 하는 생각입니다. 우리가 고인이 되신 분의 영정을 집에 걸어두고 보면서 심리적인 안정을 받으며 살아간다 하더라도 그게 고인에 대한 문제가 되지는 않겠지요. 마찬가지로 생전에 찍어둔 사진이나 영상을 보는것도요. VR 기술로 재현된 고인도 다르지는 않다고 생각합니다. 새로운 방식일 뿐이라고 생각해요. 고인을 심리적 안정의 도구로 대상화한다는 것은... 사실 결국 살아있는 사람이 중요한거 아닌가 합니다. 그렇게 심리적 안정을 얻을수 있다면요.
2번의 자아를 가진 디지털 휴먼은.. 일단 구현 자체가 사실 상당히 갈길이 멀다 라고 보고 있습니다. 아직 완벽히 사람처럼 의사소통 할 수 있는 "일반적인" 대화(여기에서의 대화란 텍스트 뿐만 아니라 감정이나 상황 같은 컨텍스트를 반영한 발화, 눈빛이나 몸짓 등 비언어적 의사소통 까지 포합니다) 를 나눌수 있는 인공지능도 개발중인 상황인데, 그 사람의 개성과 성격, 특징까지 반영하여 진짜 그 사람인 것 처럼 느낄 수 있는 디지털 휴먼은 정말 구현해내기 어렵습니다.
다만 그런 디지털 휴먼이 구현되었다 치고, 그럼 그것이 고인의 생전 살아왔던 삶을 빼앗긴 것인가? 인격권이 침해당했나? 저는 그렇게 보기도 어렵지 않나 합니다. 이유는 두 가지인데, 아무리 고인과 똑같아서 고인을 대체할 정도로 정교한 디지털 휴먼이라고 해도, 이미 고인이 살아왔던 삶이라는 실존까지 대체할수는 없는 것이고, 다른 하나는, 자신과 똑같이 말하고 행동하는 디지털 휴먼으로 인해 이미 고인이 된 분의 인격이 침해된다고는 보기 어렵다고 생각해서입니다.
하지만 말씀하신대로 사망 이후의 자신을 어떻게 활용할지에 대한 동의 여부는 새로운 기술발전과 함께 보다 폭넓게 논의될 지점이 있다는데 동의합니다. 예를 들어 저는 제가 사망하고 제 장기를 기증할지 여부를 생전에 선택할 수 있습니다. 특별한 동의 절차가 없다면 고인이 되었다고 해서 함부로 제 장기를 빼다 쓰지 못합니다.
하지만 이미 고인이 되어서도 다시 대중앞에 선 마이클잭슨, 신해철, 김광석, 터틀맨같은 가수들이 생전에 자신의 사후에도 대중앞에 홀로그램으로 나타나 노래를 불러도 된다고 동의했을 리는 없다고 생각합니다. 결국 이건 살아있는 자들이 누구는 위로를 받고 누구는 돈을 벌기 위한 기획이었지요. 그래서 저는 이런 기획에 있어 방송국이나 콘텐츠 제작사가 더 신중해져야 한다는 입장이긴 합니다.
그러나 개인이 앨범을 들추어 보듯이 돌아가신 이들을 추모하고 추억하는 방법으로 새로운 기술의 혜택을 누릴 수 있는 세상은 빨리 왔으면 좋겠습니다.
블랙미러에 자주 나오죠.. 여러가지 신박한 버전의 인격복제 얘기가 나오는데 진짜 윤리적 문제 거의 다 다룬거 같습니다.
이하 스포가 되어서..
1. 위 댓글에도 있는 고인 sns등 딥러닝 복제..대화흉내에서 제스처 흉내까지. 자아가 있어보이지만 실제 자아가 있는건 아닌 버전입니다.
2. 가장 신박하고 섬뜩했던것은.. 인공지능형 홈서포트, 비서형 인격복제. 이건 '본체의 동의하'에 인격을 복제해 본체를 위해 봉사하도록 한다는 발상입니다. '내'가 들어있으니 맞춤형으로 쾌적한 온도 밝기 음악 등등 제공.
... 더 보기
이하 스포가 되어서..
1. 위 댓글에도 있는 고인 sns등 딥러닝 복제..대화흉내에서 제스처 흉내까지. 자아가 있어보이지만 실제 자아가 있는건 아닌 버전입니다.
2. 가장 신박하고 섬뜩했던것은.. 인공지능형 홈서포트, 비서형 인격복제. 이건 '본체의 동의하'에 인격을 복제해 본체를 위해 봉사하도록 한다는 발상입니다. '내'가 들어있으니 맞춤형으로 쾌적한 온도 밝기 음악 등등 제공.
... 더 보기
블랙미러에 자주 나오죠.. 여러가지 신박한 버전의 인격복제 얘기가 나오는데 진짜 윤리적 문제 거의 다 다룬거 같습니다.
이하 스포가 되어서..
1. 위 댓글에도 있는 고인 sns등 딥러닝 복제..대화흉내에서 제스처 흉내까지. 자아가 있어보이지만 실제 자아가 있는건 아닌 버전입니다.
2. 가장 신박하고 섬뜩했던것은.. 인공지능형 홈서포트, 비서형 인격복제. 이건 '본체의 동의하'에 인격을 복제해 본체를 위해 봉사하도록 한다는 발상입니다. '내'가 들어있으니 맞춤형으로 쾌적한 온도 밝기 음악 등등 제공.
3. 범죄입증용 인격복제. 인격을 복제해 시뮬레이션 반복을 통해 복제인격의 기만 고문을 통해 자백을 이끌어 냄. 복제인격의 복제 자각없음
4. 유희용 인격복제. 사형수의 인격을 복제해 사람들이 괴롭히게 할 수 있고 구경거리로 삼는 버전과 유명연예인의 인격을 복제해 지능일부에 락을 걸어서 장난감인형으로 파는 버전이 있었습니다. 아 지인 인격복제를 게임캐릭터 npc로 만들어 능욕하는 버전도 있었군요..
이하 스포가 되어서..
1. 위 댓글에도 있는 고인 sns등 딥러닝 복제..대화흉내에서 제스처 흉내까지. 자아가 있어보이지만 실제 자아가 있는건 아닌 버전입니다.
2. 가장 신박하고 섬뜩했던것은.. 인공지능형 홈서포트, 비서형 인격복제. 이건 '본체의 동의하'에 인격을 복제해 본체를 위해 봉사하도록 한다는 발상입니다. '내'가 들어있으니 맞춤형으로 쾌적한 온도 밝기 음악 등등 제공.
3. 범죄입증용 인격복제. 인격을 복제해 시뮬레이션 반복을 통해 복제인격의 기만 고문을 통해 자백을 이끌어 냄. 복제인격의 복제 자각없음
4. 유희용 인격복제. 사형수의 인격을 복제해 사람들이 괴롭히게 할 수 있고 구경거리로 삼는 버전과 유명연예인의 인격을 복제해 지능일부에 락을 걸어서 장난감인형으로 파는 버전이 있었습니다. 아 지인 인격복제를 게임캐릭터 npc로 만들어 능욕하는 버전도 있었군요..
| 목록 |
|
