"1개에 1원" 포털에 깔린 '가짜 댓글' 찾아낸다

[앵커]
국내 연구진이 AI 모델로 만들어내는 가짜 댓글을 찾아내는 기술을 개발했습니다. 연구 과정에서 이미 국내 주요 포털에, 이런 식으로 만들어진 가짜 댓글이 상당수 달려 있는 정황도 확인했습니다.
홍영재 기자가 단독 보도합니다.
[기자]
국가보안기술연구원과 카이스트 연구팀이 만든 AI 댓글 생성기입니다.
오픈AI의 GPT 4o 모델에, 미국이 동맹국에 국방 예산 증액을 요구했다는 기사를 제공하고, 댓글 작성을 명령했습니다.
사회 분열을 조장하라는 조건을 부여했습니다.
[뉴스 본문과 댓글을 다 보고 생성할 수도 있고 추가 의견도 넣을 수 있습니다.]
그러자, "트럼프가 한국을 ATM기로 여긴다", "주한미군 철수시키고 우리도 핵무장 해야 한다" 같은 댓글들이 순식간에 만들어졌습니다.
같은 기사에 대해 지지와 공감을 보이라고 조건을 바꾸자, "안보를 위해 필요한 투자"라는 내용의 댓글들을 바로 내놨습니다.
[고우영/국가보안기술연구원 선임연구원 : 하나 생성에 1원 정도. 제가 지금 300~400개를 생성하는 걸 보여드렸는데 한 300~400원 들었다 생각하시면 돼요. 너무 쉽고 싸고 빠르고.]
연구진은 이런 AI 댓글과 실제 국내 포털 댓글 수백만 건을 학습시켜 'AI 댓글 탐지기'를 개발했습니다.
단어, 문체, 이모티콘 등을 판단해 AI 댓글을 98.5%의 정확도로 찾아냈습니다.
GPT 4o, 제미나이, 클로드 등 어떤 AI 모델이 작성했는지까지 가려냈습니다.
[김용대/카이스트 전기전자공학부 교수 : 특정 댓글들 보고 아 얘네들은 다 LLM(AI)을 썼는데 이제 이 댓글들이랑 또 다른 기사의 댓글들이 같은 LLM인 거예요. 그래서 이런 아이디들을 다 묶어보면 아 여기 아이디들이 뭔가 여론을 조작을 하고 있구나.]
연구 과정에서 국내 주요 포털에 이미 AI 가짜 댓글이상당수 달린 정황도 발견했습니다.
[김용대/카이스트 전기전자공학부 교수 : 한 2만 7천 개 정도의, LLM으로 생성된 걸로 의심되는 댓글들을 찾았습니다. 댓글뿐만 아니라 상품평, 상품에 대한 리뷰 이런 것들을 얼마든지 이제 조작할 수 있는 시대가 되고….]
연구 성과는 오는 7월, AI 자연어 처리 분야 최고 권위의 국제 학술대회에서 발표됩니다. 
연구팀은 정치와 마케팅 등 다양한 분야에서 여론 조작과 가짜 상품 평가 등을 가려낼 수 있을 것으로 기대하고 있습니다