- 새로운 뉴스를 올려주세요.
- 게시 가능한 언론사 화이트리스트를 적용중입니다. 관련 공지보기
Date 21/01/15 22:21:55수정됨
Name   구밀복검
Subject   100억 건 개인정보 침해로 차별과 혐오를 ‘이루다’
https://slownews.kr/79128
https://1boon.daum.net/slownews/79128

대화형 챗봇 ‘이루다’를 개발하고 운영하는 스캐터랩은 2013년 ‘텍스트앳’, 2016년 ‘연애의 과학’ 등의 어플리케이션을 운영하며 카카오톡 등 메신저의 대화 내용을 수집해왔고
이를 자사 다른 제품인 대화형 챗봇 ‘이루다’의 학습용 데이터로 이용했습니다..

..연애의 과학 로그인 페이지에서 “로그인함으로써 개인정보 처리방침에 동의합니다”로 간주하는 것은 ‘각각의 사항’을 알리고 명시적으로 동의를 받도록 한 개인정보보호법 위반입니다(제15조 제2항 또는 제39조의3제1항 및 제22조 위반).. 적법한 동의에 해당하기 위해서는 이용자가 개인정보에 관한 결정권을 충분히 자유롭게 행사할 수 있도록, 통상의 이용자라면 손쉽게 법정 고지사항의 구체적 내용을 알아볼 수 있을 정도로 법정 고지사항 전부를 명확하게 게재해야 합니다. 이처럼 정보주체에게 충분히 설명하지 않고 충분히 인지되지 않은 동의는 제대로 된 동의라고 보기 어렵습니다..

..사용자들이 분석을 위해 제공한 카카오톡 대화는 2인 이상의 대화입니다. 개인정보 보호법 제15조 또는 제39조의3제1항에 따라 마땅히 받아야 할 대화 상대방에 대한 동의 절차는 어디에도 없었습니다. 지난 12일 스캐터랩은 논란이 지속되자 서비스를 중지하고 사과의 뜻을 밝혔지만, 대화 상대방의 동의 부존재에 대해선 한 마디 언급도 없었습니다.. 이러한 데이터는 원본과 가명 정보 모두 폐기해야 마땅합니다.

‘텍스트앳’, ‘연애의 과학’ 서비스는 카카오톡 등 메신저를 통한 사적인 대화 내용을 수집하는 바, 이에는 이름과 연락처, 주소 등 개인의 신원이 드러날 수 있는 다양한 개인정보와 더불어 더 민감한 다른 정보도 포함되어 있습니다. 자신의 사상, 신념, 정치적 견해, 건강상태, 성생활에 대한 정보, 인종과 민족에 대한 정보 등은 민감정보입니다. 숫자뿐 아니라 한글과 이미지 등 다른 형태로 표시된 여권번호, 운전면허번호, 외국인등록번호는 고유식별정보입니다. 민감정보와 고유식별정보는 정보주체의 명시적인 동의나 법령상 허용조항 없이는 누구도 수집하거나 이용할 수 없는데 ‘연애의 과학’은 이에 대한 별도 동의를 받지 않았으며 실제로 성생활 등에 대한 정보가 수집 이용된 것으로 보입니다(제23조제1항 및 제24조 제1항 위반).. 이러한 내용은 스캐터랩과 어플리케이션의 유료 기능의 개인정보 처리방침 어디에도 고지되지 않았습니다..

..이름, 주소 등이 노출되는 사례가 등장하고 있는 것은 스캐터랩의 비식별화 또는 가명처리의 수준이 적정하지 않았다는 점을 분명히 드러내고 있으며, 스캐터랩은 얼마 전까지 연애의 과학에서 추출된 일부 대화 내용을 오픈소스 플랫폼에 훈련 데이터셋으로 공개하기도 했습니다. 해당 데이터셋의 경우 이름, 건강 상태, 직장 등의 개인정보가 비식별화되지 않은 상태였습니다..

..눈에 두드러지는 숫자, 영문, 이름 등만 개인정보인 것이 아닙니다. 다른 정보와 쉽게 결합하여 알아볼 수 있으면 개인정보로서 똑같은 보호 대상입니다. 성명은 지웠지만 여성이고, 이십대라는 점을 알고 있으며, 숫자와 영문은 삭제되었지만, 서울 성북구에 살고, 특정 은행에 계좌가 있고, 특정 대학교 특정 학과 또는 특정 기숙사를 출입한다면 개인을 특정할 수 있습니다..

..이번 이루다 논란은 기업을 위한 데이터3법이 자초한 문제이기도 합니다. 시민사회는 데이터3법이 기업들로 하여금 개인정보를 가명처리한 후 정보주체의 동의 없이 인공지능 제품 등 기업의 상품개발에 거의 무한대로 이용할 수 있도록 허용한 데 대하여 비판해 왔습니다. 공익적 학술 연구 등에 정보주체의 동의 없이 가명정보를 사용할 수 있도록 하는 유럽연합 등의 사례가 있지만, 기업의 상업적인 제품 개발을 위해 정보주체의 기본권을 무시하며 가명정보를 무제한적으로 이용하는 것은 위헌적입니다..

..구속력 있는 ‘법’이나 ‘제도’가 아니라 단순한 자율 규범으로, 아무런 강제성이 존재하지 않는 가이드라인으로 인공지능 제품의 악영향을 막을 수 없을 것입니다. 인공지능 제품과 그 학습 데이터의 편향성의 문제는 윤리가 아니라 법률 규범의 문제입니다. 세계 각국은 인공지능 제품과 그 학습 데이터에 대하여 제조물 책임법, 소비자 보호법, 정보공개법, 개인정보 보호법, 평등법 등 현행법을 정교하게 적용하기 위해 노력하고 있습니다.

유럽연합의 경우 인공지능 제품과 서비스에 대해 기존 법률의 준수는 물론이고, 추가적으로 ‘고위험’ 인공지능에 해당할 경우 훈련데이터, 기록 보존, 정보공개, 견고성, 인적 감독 등의 법적 의무를 추진하고 있습니다. 이 때 공공적으로 법적인 효과를 낳거나 의료, 운수, 에너지 분야에서 중대한 손상을 야기하거나 노동자나 소비자의 권리에 영향을 미치는 인공지능 제품과 서비스는 ‘고위험’에 해당합니다. 이 중 훈련 데이터에 대한 법적 의무로는
△충분히 광범위한 데이터셋에 기반해 훈련하는 등 그 안전을 합리적으로 보장할 것
△금지된 차별을 수반하는 결과로 이어지지 않도록 합리적인 조치를 취할 것
△제품과 서비스를 사용하는 동안 사생활과 개인정보를 적절히 보호할 것
등을 요구할 예정입니다.
캐나다는 이미 2019년부터 공공기관 자동화된 의사결정에 대한 지침(정부 훈령)을 제정하고 모든 공공기관 인공지능 알고리즘에 대하여 영향 평가를 실시하고, 생산 전에 훈련 데이터가 의도하지 않은 데이터 편향을 드러내거나 결과에 부당하게 영향을 미칠 수 있는 요소가 있는지 검사 절차를 거치고 있습니다. 심지어 자율규제의 나라 미국에서도, 법 집행기관의 인공지능 사용과 채용을 위한 인공지능 사용 등 특정 영역을 강하게 규제하는 법이 제정되고 있습니다.



파면 팔수록 괴담에 가깝네요. 스캐터랩이 아니라 (신상) 스크랩이네
자체 어플 이용자들이 어플 쓰면서 제공한 대화록과 신원 정보 긁어가지고 인공지능 채팅봇 데이터로 써먹는다니.. 이거 뭐 완전 흥신소 수준



2


목록
번호 제목 이름 날짜 조회 추천
24189 IT/컴퓨터문자 메시지 보내기 취소 가능해진다.. 알뜰폰은 제외 3 다군 21/05/11 573 1
24184 IT/컴퓨터"여친에게 등산 얘기했더니 등산화 광고가" 스마트폰이 사생활 엿듣네 16 칼리스타 21/05/10 993 0
24162 IT/컴퓨터'갤버즈 프로' 무슨 일이?…다수 사용자 외이도염·주변소리듣기 불량 호소 3 BLACK 21/05/07 689 2
24085 IT/컴퓨터'싸이월드 부활' 카운트다운 돌입…5월25일 오후 1시 오픈 예고 9 swear 21/04/28 595 0
24052 IT/컴퓨터KT 설치기사가 말하는 인터넷 속도 느린 ‘진짜 이유’ 1 다군 21/04/23 393 0
23989 IT/컴퓨터출근 시작하자마자…엔씨, 직원 코로나 확진에 전사 재택근무 재돌입 2 empier 21/04/19 615 0
23982 IT/컴퓨터'폰 따로 요금제 따로' 커지는 자급제 시장..골치 아픈 이통사 9 먹이 21/04/18 872 0
23915 IT/컴퓨터한국은 줌(Zoom) 없으면 원격수업도 못하나요? 46 맥주만땅 21/04/12 1503 0
23871 IT/컴퓨터애플, 이달중 iOS 업데이트…허락없는 개인정보 추적 막는다 4 다군 21/04/07 630 2
23856 IT/컴퓨터10년 끈 구글 대 오라클 '자바 사용료' 소송, 구글 최종 승리(종합) 2 다군 21/04/06 556 2
23851 IT/컴퓨터LG전자, 모바일 사업 철수...'생산·판매 종료' 공시 5 revofpla 21/04/05 602 0
23840 IT/컴퓨터 "계약때보다 3배 비싼 요금"…노인 울리는 휴대전화 약정 주의보 1 swear 21/04/03 738 1
23789 IT/컴퓨터애플 AS 강화…사설업체서도 정품부품으로 아이폰 수리(종합) 1 다군 21/03/30 479 0
23725 IT/컴퓨터네이버 뉴스·카페·블로그 등 서비스 오후 한때 장애(종합) 3 다군 21/03/24 467 0
23678 IT/컴퓨터'돈 벌며 난방한다'…'비트코인 채굴기 겸 보일러' 등장 5 맥주만땅 21/03/21 684 0
23622 IT/컴퓨터"5년차에 연봉 1억 수두룩"…판교는 지금 딴세상 12 Leeka 21/03/16 1142 0
23554 IT/컴퓨터"코로나 백신접종 예약, 카톡으로" 3 empier 21/03/10 545 0
23499 IT/컴퓨터‘게임 조작’ 시인한 넥슨 "모든 아이템 확률, 실시간으로 공개하겠다" 8 이그나티우스 21/03/05 655 0
23416 IT/컴퓨터삼성전자, 올 하반기 '엑시노스 윈도10 PC' 출시 7 맥주만땅 21/02/24 1374 2
23222 IT/컴퓨터“이거 하려고 중고 아이폰 샀어요”…SNS의 SNS ‘클럽하우스’ 뭐길래 3 짬니 21/02/05 1007 0
23206 IT/컴퓨터영어 음성 인식률 90%.. 초등학생들 'AI펭톡'으로 영어회화 배운다 2 empier 21/02/05 699 0
23200 IT/컴퓨터네이버, 논란의 '실검' 전격 폐지 10 swear 21/02/04 916 0
23167 IT/컴퓨터싸이월드, 3월에 부활…10억 원에 인수 6 swear 21/02/02 660 0
23150 IT/컴퓨터넥슨, 초봉 5천만원으로 올린다…전사원 연봉 800만원 인상 7 empier 21/02/01 793 0
23149 IT/컴퓨터‘엔진 없는’ 전기차의 역습…2030년 생산직 60%는 사라진다 15 먹이 21/02/01 1634 0
목록 이전 다음

+ : 최근 6시간내에 달린 댓글
+ : 최근 12시간내에 달린 댓글

댓글