2025.1.20, DeepSeek-R1이라는 생성형 AI 서비스를 중국 기업이 출시했다. 전 세계는 챗GPT 등 생성형 AI 서비스와는 달리 저렴한 개발비에도 불구하고 속도가 빠르고 답변도 상세해 전 세계에 충격을 주었다. 무려 7일 만에 사용자 수가 1억 명을 넘어섰다. 그럼에도 불구하고 미국, 호주, EU는 물론 우리나라도 국가 차원에서 금지령을 내렸다.

그러면 왜 사용을 중지시키게 됐나? 다름 아닌 개인정보의 과도한 유출을 우려해서다. DeepSeek는 사용자의 IP주소 및 위치정보, 입력한 텍스트 내용, 타이핑 패턴 분석을 하는데, 이 중 타이핑을 분석한다는 점 때문이다. 사람마다 키보드 입력 방식이 각기 다르다. 키보드 사용 속도, 리듬, 키 누르는 습관 등의 데이터를 분석하면 사람을 특정할 수 있는 생체 인식 데이터가 될 수 있다. 즉, 사용자의 행동 패턴으로 특정인 추적이 가능하다는 것이다. 개인정보보호위원회는 DeepSeek 측에 정보 수집 목적을 공식적으로 요청한 상태이다.

얼마 전 국정원은 ‘챗GPT 등 생성형 AI 활용 가이드라인’을 제작해 공개하였다. 동 가이드라인에서는 다양한 보안 위협과 대책을 상세하게 설명하고 있다. 생성형 AI 서비스를 사용할 때 주의 사항, 서비스와의 대화 시 주의 사항, 서비스 플러그인 사용 시 주의 사항, 서비스 확장 프로그램 사용 시 주의 사항, AI 모델 생성 기반 공격 대처 방안을 제시했고, 생성형 AI 활용을 위한 보안수칙으로 챗GPT 등 생성형 AI 활용 보안수칙, 민감한 정보(非공개 정보, 개인정보 등) 입력 금지, 생성물에 대한 정확성·윤리성·적합성 등 再검증, 가짜뉴스 유포·불법물 제작·해킹 등 범죄에 악용 금지, 생성물 활용 시 지적 재산권·저작권 등 법률 침해·위반 여부 확인, 악의적으로 거짓 정보를 입력·학습 유도하는 등 非윤리적 활용 금지, 연계·확장프로그램 사용 시 보안 취약여부 등 안전성 확인, 로그인 계정에 대한 보안설정 강화 및 보안관리 철저를 제시하고 있다.

생성형 AI가 우리에게 많은 편리함과 지식을 주고는 있지만 항상 편리함 뒤에는 불편함도 뒤따른다. 보안에 대한 경각심이 필요하다.

이강신(융합보안학과) 교수