- 다양한 주제에 대해 자유롭게 글을 작성하는 게시판입니다.
Date 24/08/26 00:56:43
Name   삼성그룹
Subject   카드사 스크래핑을 해볼까?
안녕하세요..
보잘껏 없는 사람이지만 닉네임은 국내 1위 머기업으로 만든.. 삼성그룹입니다..

어쩌다보니 카드사 상품에 관심이 있어서 군복무시절에 맨날 카드상품중에 날로 먹을게 뭐가 있나 싸지방에서 검색하고 있던 사람이
카드사 홈페이지 스크래핑 소스도 만들고.. 뭐 그러다보니 취업도 그쪽으로 하게됬네요 허허..
(아 물론 그 전에 정말 최악이라고 할 정도의 10개월간의 시절이 있었지만요..)

글을 너무 두서없게.. 의식의 흐름대로 적는 스타일인데, 끄적여 볼까 합니다..

1. 카드사 승인내역이랑 혜택 받은 내역을 넣어서 나만의 가계부 프로그램을 만들까?
2022년 즈음이었던걸로 기억합니다만 우울감에 빠져서 살던 저는 막연하게 내가 쓴 카드내역을 자동으로 가져와서 가공할 수 없을까? 라는 생각을 하게됩니다.
그냥 막연한 생각으로 컴퓨터 앞에 앉아서 이것저것 검색해보았죠.
사실 맨처음엔 그냥 코로나가 기승을 부리던 시절 지원금 사용이랑 할인혜택을 동시에 받을 생각이었습니다.
카드사에서 가맹점을 검색해서 사용여부를 알 수 있었고, 카드상품의 전통시장 할인 혜택은 '국세청 등록 기준'으로 가맹점 혜택을 받는다고 하길래 국세청 전통시장정보랑 매칭시켜서 보여주면 좋겠다에서 시작했죠.
그러다가 내가 쓴 내역이랑 할인금액 정리가 되면 가계부같은 프로그램을 만들 수 있지 않나 라는 결론에 도달했습니다.

2. 근데 카드사 로그인은 어떻게 하려고?
맨 처음 난관에 빠졌던건 여기였습니다.
어쨌든 자동으로 내 정보로 로그인이 되어야 하는데 너무나 당연하게도 selenium에서 제공되는 키입력옵션으로 로그인은 불가능했죠.
그래서 맨땅에 헤딩하는 식으로 대책을 생각했는데..
1) 모바일 페이지는 비밀번호 처리가 PC 사이트보단 편리하게 되어있다..
  - 모 카드사들은 PC 사이트 외에 모바일 페이지를 가지고 있는데, 로그인이 PC보단 어렵지 않았습니다. 그래서 어떻게 하다보니 로그인을 할 수 있었죠.
    아 물론 PC 사이트와 세션 유지는 안되기 때문에 모바일 페이지에서 내역을 받아와야 했습니다. 웃긴건 모 카드사는 PC사이트랑 모바일이랑 혜택 조회 기간이 다르더라구요..

2) PC 사이트의 경우에는 가상 키보드가 있으면 그걸로 해결한다.
  - 일부 카드사들은 보안 키보드가 있어서 그걸로 비밀번호 입력을 하면 로그인이 됩니다. 이 경우는 매우 수월했죠.

3) 공동인증서로 로그인을 해야한다.
   - 이 경우에 모 카드사는 인증서 정보가 웹에서 제어가 안되고 보안 모듈쪽을 연결해서 처리해야하는 경우가 하나 있었습니다만, 어렵진 않았네요. 근데 이 경우에 웹서핑이나 다른 작업이       불가하니까 그건 좀 불편했습니다.
   - 웹에서 제어가 되는 경우도 키입력을 selenium에서 해도 되는 경우, 가상 키보드를 써야하는 경우가 있었는데, 키 입력에 시간제한이 있다면 요것도 생각을 해야하긴 합니다..

4) 금융인증서, 클라우드 인증서가 지원된다면 금융인증서로..
   - 공동인증서 로그인중에 모듈쪽 연결만 해야하는 케이스가 아니면 금융인증서, 클라우드 인증서가 지원된다면 그 쪽으로 로그인하는것도 좋습니다.
     물론 기존에 등록이 되어 있어야 되고 인증을 매번 해줘야하는게 그렇지만 이것도 안드로이드 폰 연결해서 처리하면 자동으로 넘어갈 수 있긴 하더라구요..

5) 이걸 해보면서 얻은것
    - 이걸 해본 경험으로 취업을 했다는것..? (지금은 이직을 생각중이지만.. 하 이직하고 싶다..)
    - 다양한 처리방식을 생각해봤다는것..
    - 수집된 데이터를 DB에 적재한 이후에 조회할 때 사용한 조악한 SQL문 작성실력..?

6) 앞으로 해볼거..
   - DB를 웹이랑 연동시켜서 수정/삭제 등의 API나 웹에서 볼 수 있는 웹 페이지를 만들어볼까..? 정도네요..

개발실력은 여전히 보잘껏 없다고 생각합니다만은..
그래도 얻은게 없는건 아닌거 같아서 자기위안을 해봅니다..






5
  • 카드를 아무렇게나 막 쓰는 입장에서 대단하시다고 생각합니다.


목록
번호 제목 이름 날짜 조회 추천
14533 역사연개소문 최후의 전쟁, 최대의 승첩: 6. 고구려의 ‘이일대로’ meson 24/03/14 1013 3
14328 음악[팝송] 페이지 새 앨범 "King Clown" 김치찌개 23/12/13 1019 0
14552 음악[팝송] 저스틴 팀버레이크 새 앨범 "Everything I Thought It Was" 김치찌개 24/03/22 1019 1
14904 정치지금이 한국 정치사의 분기점일지도 모른다 5 meson 24/09/07 1019 8
15015 기타[불판] 빅스마일데이 쓱데이 쵸이스데이 그랜드십일절 행사 17 swear 24/11/01 1020 3
14683 일상/생각작고 소중한 28회의 클릭 2 kaestro 24/05/16 1024 4
14182 게임[LOL] 10월 9일 월요일 오늘의 일정 발그레 아이네꼬 23/10/11 1026 0
14322 음악[팝송] 알렌 워커 새 앨범 "Walkerworld" 김치찌개 23/12/10 1027 0
14843 스포츠[미리보는 24 한국시리즈] 기아의 굳히기 vs 엘지의 혹시 8 아재 24/08/16 1029 0
14696 게임공격, 수비, 죽음을 중심으로 살펴본 게임 속 두려움의 활용 kaestro 24/05/21 1040 2
14614 IT/컴퓨터re: 제로부터 시작하는 기술 블로그(1) 2 kaestro 24/04/22 1041 1
14638 기타드라마 눈물의 여왕 김치찌개 24/05/01 1042 0
14867 IT/컴퓨터카드사 스크래핑을 해볼까? 3 삼성그룹 24/08/26 1046 5
14819 일상/생각책 스캔을 하고 있습니다 4 야얌 24/08/04 1047 4
14921 일상/생각뉴스는 이제 못믿겠고 3 후니112 24/09/12 1047 0
14869 일상/생각등 굽은 사람들 3 후니112 24/08/26 1049 0
14691 게임다크 소울과 마리오를 필두로 한 게임에서 두려움을 다루는 방법 4 kaestro 24/05/20 1049 2
14823 음악This fine social scene 6 골든햄스 24/08/04 1051 2
15006 오프모임공약은 지켜보겠읍니다.(기아 우승) 35 송파사랑 24/10/29 1052 11
14923 기타줌번개해요. 오늘 밤 10:45 부터 19 풀잎 24/09/13 1055 2
14980 도서/문학소년이 온다를 읽고 있는데요.ㅠㅠㅠ 3 큐리스 24/10/14 1062 0
14745 게임스타여캠단신) 우끼끼즈의 테란 에이스 3 알료사 24/06/16 1064 6
14541 역사연개소문 최후의 전쟁, 최대의 승첩: 8. 태산봉선(泰山封禪) meson 24/03/16 1068 1
14830 일상/생각내 마음의 안정은 언제쯤 5 셀레네 24/08/07 1074 1
15022 기타[긴급이벤트] 티타임 따봉 대작전 (종료) 19 dolmusa 24/11/05 1075 31
목록

+ : 최근 2시간내에 달린 댓글
+ : 최근 4시간내에 달린 댓글

댓글