챗GPT는 가짜뉴스 확산의 게임 체인저

■ 콘텐츠를 쉽게 만들 수 있는 미디어 환경에서 챗GPT가 등장하면서 이제 가짜뉴스는 확산을 통제하기가 쉽지 않은 국면에 접어들었음

 

○ 방송뉴스가 유튜브로 재생산되는 등 인터넷에서 다양한 자기 복제 경로를 확보한 미디어 콘텐츠는 유통과정에서 그 양이 기하급수적으로 늘어남
 
- 이 과정에서 ‘가짜뉴스’도 만들어진 이후 사라지지 않고 계속 스스로를 복제하면서 유통될 가능성을 배제할 수 없음
 
- 특히 자극적 내용이 주를 이루는 ‘가짜뉴스’는 주목도가 높아 진짜뉴스보다 확산속도가 6배나 더 빠른 것으로 조사됨*
* The science of fake news, David M. J. Lazer 등 MIT 연구진, Science, 2018.3.9.
 
○ 이미 존재하는 정보 데이터베이스를 토대로 사용자들의 질문에 답해주는 챗GPT도 ‘유통되고 있는 가짜뉴스’에 사실상 무방비 상태
 

728x90

 
- 이는 챗GPT 답변이 이미 보도된 기사를 포함한 다양한 인터넷 텍스트를 학습자료로 삼기 때문
 
- 챗GPT 스스로 “기업을 대상으로 가짜뉴스나 역정보작전이 발생할 수 있다는 점”을 인정(아래 ‘챗GPT에 던진 두 가지 질문’ 박스 참고)하고 있는데, 그런 가짜뉴스를 학습자료로 삼을 경우 챗GPT가 가짜뉴스 복제 통로가 될 수 있음을 의미*
* 전문가들은 생성형 AI 서비스가 허위 정보를 그럴싸한 사실처럼 답하는 기술적 오류를 '할루시네이션 (hallucination·환각) 오류'라고 명명하며 해결해야 할 과제로 지적하고 있음
 
[ 챗GPT 에 던진 질문 ]

• 챗GPT의 작동원리(Please explain how Chat GPT works) “챗GPT의 훈련 과정은 책, 기사, 웹 사이트 및 기타 소스를 포함한 다양한 범위의 인터넷 텍스트에 AI 언어모델(챗GPT)을 노출시키는 것을 포함합니다. 이 방대한 텍스트 말뭉치(corpus of text)로부터 학습함으로써, 모델은 언어 패턴, 문법, 맥락, 그리고 심지어 일부 사실에 기반을 둔 지식에 대한 이해를 얻습니다… 챗GPT는 인상적인 대답을 생성할 수 있지만 여전히 AI 모델이며, 항상 정확 하지도 최신 정보를 제공하지 않을 수도 있습니다. 필요하다면, 신뢰할 수 있는 출처의 정보를 확인하는 것이 좋습니다”

 

■ 챗GPT가 실시간 검색의 영역으로 들어오면서 가짜뉴스 확산을 막는 것이 훨씬 더 어려워짐

 
○ 마이크로소프트(MS)는 지난 5월, 챗GPT에 탑재할 수 있는 빙 검색 플러그인(추가 소프트웨어)을 공개
 
- 기존의 무료 버전 챗GPT가 2021년까지의 정보만 볼 수 있었던데 반해, 빙을 기본 브라우징 앱으로 설정해 실시간 검색이 가능해지도록 한 것
 
- 유세프 메흐디 MS 수석부사장은 “챗GPT는 이제 세계적 수준의 검색엔진을 내장해 웹에서 액세스 할 수 있는 시기적절하고 최신 답변을 제공할 것”이라고 설명
 
- 하지만 가짜뉴스 확산 가능성 측면에서 본다면, 챗GPT가 실시간으로 만들어지고 있는 콘텐츠까지 참고하면서 답변을 만들게 됐다는 사실은 가짜뉴스를 막는 작업이 훨씬 더 어려워질 수 있음을 의미
 

■ AI가 기사와 정보를 만드는 ‘AI 미디어 시대’ 개막

 
○ 챗GPT를 필두로 인공지능이 정보를 생산하고 유통하는 AI 미디어 시대가 본격적으로 시작되었음
 
- 1990년대를 끝으로 ‘레거시 미디어의 시대’가 저물고, 21세기초 디지털 기술의 발달에 힘입어 ‘인터넷 미디어 시대’가 꽃을 피우면서 미디어업계는 첫 번째 혁명을 경험했음
 
- 이후 2022년, 혜성같이 등장한 챗GPT가 ‘창조적으로(generative)’ 정보를 생산하고 유포하면서 두 번째 미디어혁명의 트리거가 될 수 있다는 평가를 받고 있음*
* 챗GPT는 대화 형태로 사용자에게 정보를 알려주면서 광범위한 대중을 상대로 서비스를 제공한다는 점에서 정확하게 매스미디어의 정의(대중에게 정보를 전송하는 매체)에 일치함
 
- 현재 챗GPT에 이어 제2, 제3의 AI 미디어가 계속 출현하고 있으며, 국내에서도 네이버가 연내 생성형 AI 기반 검색 서비스를 론칭할 예정임
 
○ 이러한 흐름에 맞춰 레거시 미디어들도 AI를 활용해 기사를 생산하기 시작했으며, 일반 네티즌도 AI를 활용해 손쉽게 인터넷에 각종 정보를 올리고 있음
 
- 국내 대표적인 뉴스통신사인 연합뉴스는 날씨 등 일부 기사를 AI와 협업으로 생산하면서 기사 말미에 이와 같은 내용을 밝히고 있음
 
- 레거시 미디어의 경우, 확인과 데스킹 과정을 거치기 때문에 가짜뉴스 보도에 대한 우려가 상대적으로 적은 반면, 일반인이 AI로 그럴싸하게 만들어 인터넷에 올리는 정보는 사실상 가짜뉴스 유포에 무방비 상태
 
○ 지난 5월 22일 미국 국방부 청사 근처에서 대형 폭발이 발생했다고 주장하는 가짜 사진이 소셜미디어를 중심으로 확산해 큰 혼란이 빚어진 바 있는데, 이 사진이 바로 AI가 만든 가짜 이미지로 밝혀졌음
 
- 특히 이러한 가짜뉴스를 만들고 퍼뜨린 계정들이 유료 절차를 통해 트위터(현 엑스·X)의 인증 마크(파란 딱지)를 받은 계정들로 드러나면서, AI발 가짜뉴스는 진위를 판별하기가 어려워졌다는 우려마저 나옴
 

- 사진이 유포되자 S&P500 지수가 한때 0.3% 하락하는 등 미국 증시는 출렁였고, 안전자산으로 꼽히는 미 국채와 금값은 잠시 상승하는 등 금융시장도 충격을 받았음
 
 
 

포인트빡스