우리 사이의 봇 - 단톡방 챗봇이 가져오는 개인정보 침해 - Hsu-Chun Hsiao (NTU 교수)
[seminar] 2 min read
- 원격 강의
- 안전한 단톡방
- 메시지는 서버에 저장
- end-to-end 암호화 (E2EE) 위해, 끊김없는 그룹 키 동의 (CGKA) 프로토콜 필요
- 키는 업데이트되어야 함
- 4가지 프로토콜
- 비밀 (secure)
- 비동기적
- 현재 키 전후 키도 비밀
- 챗봇
- 텔레그램은 1천만 개, 디스코드는 43만 개
- e.g. Line의 Mei-Yu-Yi: 가짜 정보를 감지 (e.g. 감과 게를 같이 먹으면 건강에 안 좋다)
- privacy policy 를 제공하는 챗봇은 겨우 5%
- technical challenge
- 챗봇에 필요한 기능
- E2EE (챗봇 포함)
- 챗봇에게 꼭 필요한 메시지만 확인 (selective message access)
- 메시지 보낸 이 정보를 숨김 (sender anonymity)
- 중요한 이유: 여러 채팅방에 걸친 내 메시지를 수집 가능
- 기능을 모두 갖춘 앱 (플랫폼) 없음
- 라인, 디스코드, 텔레그램, 시그널 등 확인
- 카카오톡은 조사 안해봤지만..
- Q: E2EE + 챗봇지원이라면은, 봇도 키를 가지나?
- A: GKA 프로토콜을 바꿔서 사용. USENIX ‘25 논문
- 챗봇이 문제인 chatbot adversary
- 문제1: key update leaks sender info
- 이유: 현 프로토콜은 key update를 한 사람을 알아야 함
- 시그널의 sender keys protocol
- 문제2: 챗봇이 일부 메시지만 확인한다면, 매 메시지마다 업데이트되는 key를 놓친다
- 해결: SnoopGuard
- 가정: 챗봇을 위한 메시지가 잘 선별됨
- 압축 여러-루트 트리 (CMRT)
- 챗봇마다, 그룹 메시지와 interact하는 G 노드를 만듦
- 챗봇을 위한 G 노드와 챗봇 노드는 각 챗봇을 위한 루트로 연결됨
- 루트에서, 챗봇과 유저를 위한 비밀 키가 저장됨
- 챗봇이 메시지를 볼 때마다 비밀 키가 업데이트
- 챗봇이 메시지를 보낼 때마다 …. (이해 못함)
- Q. each bot get a key in their root node for them to access, which are updated every time they see or send a message. what is the role of a g node?
- A. user가 메시지를 보낼 때, 원하는 봇에만 보내는 데 사용된다. 각 노드가 다 키를 가지고 있는 것이다.
- 챗봇에 필요한 기능
- human-centric challenge: 개인정보 보호 관해 유저의 기대와 현실이 다름
- 문제3: 유저가 단톡방 들어갈때, 챗봇의 존재를 모르거나, 그 권한을 모름
- 문제4: 근데 알게 되면 개인정보 침해를 걱정함
- 문제5: 플랫폼 디자인 분석
- e.g. 어드민이 맘대로 챗봇 추가 가능
- e.g. 챗봇이 메시지를 읽을 때 알려줘야 함
- e.g. 챗봇 닉네임에 봇이라는 표시가 알기 쉽게 보여야 함
- 해결: enhancing usability, designing permission models, active intervention (e.g. user chat에서 privacy risk인 요소를 제거하는 자동 툴)
- Q (조셉 시어링). 내 학생들도 discord bot을 많이 만든다. 혹시 trigger, rule for access, bot이 제대로 moderate하기 위해서는 정보를 많이 알아야 하는데, privacy와 어떻게 타협할 것인가?
- Q (강민석). video converence등에서도 여기서 논의된 privacy risk 비슷한 게 있을까? 우리가 마침 그런 연구를 하고 있다.
- A. video 에 unique한 그런게 뭐가 있을까?.. third-party program이 더 많은 info.를 가질 듯하며..
- Q (한준). 안녕?
- A.