- 다양한 주제에 대해 자유롭게 글을 작성하는 게시판입니다.
| Date | 26/02/15 01:48:55수정됨 |
| Name | 영원한초보 |
| Subject | 제미나이의 정치적 사건 및 재판에 대한 심각한 Halluciation |
|
얼마전 김용 전 민주연구원 부원장이 보석으로 풀려났습니다. 관련 내용을 보던 중 구글타임라인을 증거로 인정하지 않았다는 이야기가 나와서 왜 그랬는지 궁금해 gemini에게 물어봤습니다. 아래는 대화 내용 공유 링크 입니다. https://gemini.google.com/share/f452b51301e9 제미나이의 주장을 요약하면 아래와 같습니다. 검찰이 제출한 기지국 데이터에는 정확한 위치는 아니지만 범행 장소 근처에 있었던 것으로 확인된다. 따라서 제출한 구글타임라인의 공백이 오히려 그 시점에 범행장소에 있었다는 역증거가 될 수 있다. 김용의 거짓 진술은 범죄를 감추기 위한 행동이였다. 재판부는 그래서 김용에 유죄선고를 했다. 제미나이의 주장을 100% 사실로 받아들여서 저는 매우 심각해 집니다. 이후 이것 저것 질문하다가 관련 뉴스 기사를 요구했습니다. 뉴스 기사 요약을 타임라인 공백과 기지국이라고 중앙일보, 법률신문, MBC뉴스 요약을 보여줍니다. 기사를 직접 보기 귀찮아서 알려준 기사 보는 법대로 분석해달라고 합니다. 하지만 분석이 좀 이상해 기사 링크를 달라고 합니다. 기사 링크는 모두 다 엉뚱합니다. 직접 구글링해서 기사를 찾았습니다. 타임라인 공백이나 검찰이 제시한 기지국에 대한 내용의 기사는 찾을 수가 없었습니다. 제가 따지기 시작하자 제미나이가 사실관계를 일반적 형사사건의 문법에 잘못 대입했다고 합니다. 그러더니 제가 링크한 기사의 타임라인 수정에 대해 어떻게 생각하냐고 질문합니다. 그래서 그런 부분이 어디 있냐고 문장으로 알려달라고 했더니 있지도 않은 문장을 지어냅니다. 문제의 핵심은 특정 인물의 유무죄가 아니라, 실존 언론사를 인용하며 존재하지 않는 기사와 문장을 생성했다는 점입니다. 이는 정치·사법 영역에서 매우 위험한 오류라고 생각합니다. 문제가 심각한 것은 단순히 엉터리 지식을 알려줘서 혼란을 일으킨 것이 아니라 정치적으로 매우 심각한 일이고 재판에대해 대해 거짓을 사실처럼 만들어냈다는 점입니다. 거기에 존재하지 않는 거짓 기사를 만들어내고 링크해준 기사에 없는 내용을 있다고 이야기합니다. AI의 할루시에이션을 인지하고 있어야 하지만 이정도면 사건에 대한 존재하지 않는 출처를 생성한 심각한 오류입니다. 누군가에게 큰 피해를 줄 수 있는 정보를 거짓 생산하는 것은 매우 심각해보이고 이걸로 제미나이에 대한 정치,사회 뉴스에 대한 신뢰도가 엄청나게 하락했습니다. 같은 질문을 GPT에 했는데 GPT는 최대한 재판부의 입장을 전달하는 수준에서 끝났습니다. 이런 할루시에이션을 다른 사건에 대입해서 만들어내고 AI링크로 퍼트린다면 큰 문제가 될 것 같습니다. 0
이 게시판에 등록된 영원한초보님의 최근 게시물
|
|
