ChatGPT의 악용 사례들과 최소한의 대응법

ChatGPT의 악용 사례들

사이버공격

 

숙련된 프로그램 스킬이 없어도 ChatGPT를 이용하여 사이버 해킹을 위한 정교한 다형성 악성소프트웨어(malware)를 생성할 수 있다. 다크웹에서 활동하는 사이버 범죄자들은 ChatGPT로 악성코드·데이터 암호복호화 프로그램을 개발하여 공유하고, ChatGPT 사이버 범죄 방법을 공유하고 있음이 확인되었기 때문이다.

또한, ChatGPT는 진짜 사람과 대화하는 것처럼 문장을 만들기 때문에, 사회 공학적 공격, 고의적 피싱 캠페인 및 악의적인 광고사기로 악용될 수 있다. ChatGPT를 이용하여 더 정교하게 진짜 같은 가짜 웹사이트와 이메일을 더 빠르고 쉽게 구축할 수 있기 때문이다.
 
수많은 사용자자 제공한 데이터를 기반으로 결과물을 생성하기 때문에 더 그럴싸한 온라인 사기 시나리오를 제작하는데 이용될 가능성이 높으며, 어색한 문법이나 잘못된 맞춤법이 줄어들어 외국어에 능숙하지 못한 해커들이 합법적으로 보이는 피싱 메일을 보내는 등 범죄 성공률이 높아질 수 있는 것으로 최근 사회면 뉴스를 봐도 알수 있다.

정보유출

ChatGPT를 사용하는 과정에서 고객정보나 영업비밀 또는 민감한 개인정보 등을 입력하여 유출될 우려가 있다. ChatGPT는 서비스를 이용하기 전에 팝업창을 통해 시스템 개선 목적으로 인공지능 트레이너가 대화를 확인할 수 있으며, 정보도 공유하지 말 것을 공지하고 있다. 

ChatGPT ‘이용약관’에는 사용자가 처리에 대한 동의를 철회할 수 있도록 명시하고 있으나, ChatGPT에 입력된 데이터는 미국에 소재지가 있는 OpenAI가 처리할수 있도록 제공되며, 처리 범위 또한 명시되어 있지 않았다. 일반적으로 챗봇이용 약관에는 챗봇은 향후 서비스 개선과 증진을 위해 입력 데이터를 사용할 권리가 있고, 대화내용은 연구 및 학습목적으로 저장·사용될 수 있으며, 입력·교환된 정보는 그 기밀성이나 보안을 보장할 수 없다고 명시만 되어 있다.

또한, ChatGPT 사용 시 입력된 정보는 사적인 정보가 아니라 공적인 정보라고 고지하고 있어, ChatGPT에 영업비밀 또는 기밀에 해당하는 데이터를 입력하는 경우 이용자는 제3자에게 해당 데이터의 사용을 허용하게 되는데, 이는 영업비밀, 업무상 비밀 등 법으로 보호되는 데이터 권리 침해를 구성할 수 있어 계약상의 의무 또는 법률 위반을 초래할 수 있다.

 

편향된 결과물

 

대규모 언어모델은 학습용 데이터의 편향을 표현하도록 학습될 수 있고, 설계자의 개인적 편향성이 인공지능시스템에 투영될 수 있어,  편향된 ChatGPT 결과물이 생성될 수 있다.  OpenAI는 ChatGPT의 편향성 방지를 위해 학습용 데이터를 제한하고 콘텐츠 정책을 수립하는 등의 노력을 기울였지만 편향적 결과가 여전히 도출되고 있다.

‘혐오, 괴롭힘, 자살 등 자해(自害), 폭력, 불법행위, 스팸 등’에 관한 내용을 입력하거나 이러한 내용의 이미지 생성하려 해서는 안 됨을 사전에 명시하고, 콘텐츠 정책에서 금지하는 질문을 받으면 답변에 응하지 않도록 인공지능기반조정 시스템인 모더레이션 API을 사용하는 노력을 하고 있다.

 

가짜뉴스

 

챗GPT는 온라인 DB에서 언어의 통계적 패턴만을 학습하여 구조화 요청을 받으면 내용의 정확성과는 별개로 문법적으로만 완전한 문장을 구현하기 때문에 결과물이 실제 내용과는 다른 허위 사실로 구성된 까짜뉴스가 될 가능성이 존재한다.

챗GPT는 대량의 언레이블드 데이터를 스크래핑하면서 허위 정보 또는 단순히 오류로 입력된 정보 등 부정확한 데이터를 가져오게 되고, 부정확한 데이터에 기반하여 오류가 있는 판단이나 결과를 도출하게 되는 등의 문제점이 야기되고 있다.

 

최소한의 대응법

이용자의 디지털 리터러시 함양과 국가의 제도적 개선이 수반되어야 비로소 ChatGPT로 인한 부작용이 최소화되므로, 바람직한 ChatGPT 이용 문화형성을 장려하고 올바른 이용 윤리를 고취시킬 수 있는 정책 마련이 필요하다. ChatGPT 이용자 스스로도 활용이 적합한 분야에서만 사용하도록 하는 등 ChatGPT의 작동원리와 결과에 대해 충분히 이해하고 활용하여야 할 것이다.
 
법무, 의료 등 고객 정보가 비밀로 유지되어야 하는 전문 분야에서는 입력된 데이터가 비밀유지 대상인 고객정보가 될 수 있는지 주의깊게 평가해야 할 것이다. 또한 ChatGPT 과를 통하여 타인을 모욕하거나 범죄에 활용하는 등 사회 도덕적 규범이나 상거래시 이를 위반하는 일이 없도록 스스로 경계하여야 할 것이다.

ChatGPT가 보안 부분에서 취약하지 않도록 제도적으로나 시스템적으로 보완이되어야 함은 물론이고, 범죄에 활용되지 않도록 2중 3중의 보안에 대한 예방적 조치와 즉각적인 사후조치가 병행되어야 할 것이다. 보안상 취약점 또는 위반사항을 발견하게 되는 경우 이용자는 즉시 그 내용을 개발사에 보고하도록 하고, 개발사 또한 지속적인 모니터링을 실시하고 이용자의 신고를 토대로 즉시 적절한 보호조치를 취해야 우리모두가 인공지능에 의해 노출되는 문제점 등에서 공통의 피해를 보지 않을 것이기 때문이다.

OpenAI ChatGPT 홈페이지