AI가 가짜뉴스를 만드는 시대, 무엇을 믿어야 할까?
인류 역사는 정보의 발전과 궤를 같이해 왔다. 활판 인쇄술의 발명이 지식의 대중화를 이끌었고, 인터넷의 보급이 정보의 폭발적 증가를 불러왔다면, 최근 주목받는 생성형 인공지능(AI)의 등장은 정보 생산 및 유통 방식의 근본적인 패러다임 전환을 가져왔다. 명령어 한 줄이면 몇 초 만에 논리정연한 글이 작성되고, 실제와 구별하기 힘든 고화질 이미지나 영상이 실시간으로 만들어진다.
그러나 이 혁신적인 기술 뒤편에는 어두운 그림자가 깊게 드리워져 있다. 진실과 거짓의 경계가 흐려지는 '신뢰의 위기'가 찾아온 것이다. 과거의 가짜 뉴스는 주로 허술한 합성 사진이나 조잡한 문장, 혹은 자극적인 제목을 통한 우발적 유포가 많았다. 반면 오늘날 AI가 생성하는 왜곡된 정보는 기승전결이 완벽하며, 실제 인물의 말투, 음성, 표정까지 완벽하게 복제하여 전문가조차 감쪽같이 속아 넘어갈 만큼 정교하다. 그렇다면 가짜 뉴스와 오정보가 넘쳐나는 AI 시대에 우리는 무엇을 기준으로 사실을 판단하고, 누구를 믿어야 하는가?
1. AI 기술이 초래한 정보의 위험성: 실제 사례를 중심으로
AI가 만들어내는 왜곡된 정보는 크게 AI 기술 자체의 한계로 인해 발생하는 '환각 현상(Hallucination)'과, 특정 의도를 가지고 악의적으로 제작되는 '가짜 뉴스(Fake News)'로 구분할 수 있다.
(1) 기술적 한계가 부른 부작용: 법정을 속인 AI 환각 현상
AI 환각 현상이란 대규모 언어 모델(LLM)이 수집된 데이터를 바탕으로 답변을 생성하는 과정에서, 사실이 아닌 정보를 마치 진실인 것처럼 그럴듯하게 거짓으로 만들어내는 현상을 말한다. AI는 인간처럼 의미를 진정으로 이해하고 답하는 것이 아니라, 확률적으로 다음에 올 가능성이 가장 높은 단어를 조합하기 때문에 이러한 오류가 발생한다.
이 환각 현상이 사회적으로 큰 파장을 일으킨 대표적인 사건이 미국 법정에서 발생했다. 한 변호사가 법원에 제출할 변론 서면을 작성하는 과정에서 생성형 AI 챗봇을 활용하였다. AI는 판례와 논거가 완벽히 들어맞는 세련된 법률 문장을 제출했고, 변호사는 이를 신뢰하여 그대로 재판부에 제출했다. 그러나 재판 결과, AI가 제시한 수많은 관련 판례와 사건 번호, 판사의 판결문 구절 등은 현실에 존재하지 않는 AI의 완전한 창작물로 밝혀졌다. AI는 사실 여부에 관심이 없었지만, 그것을 검증 없이 사용한 전문 직업인은 법적·윤리적 처벌을 받게 되었다. 이는 AI가 가진 기술적 한계가 개인의 신뢰성을 파괴하고 사회적 시스템을 혼란에 빠뜨릴 수 있음을 경고한 명확한 사례다.
(2) 악의적 조작의 위험성: AI 합성 대화록을 활용한 연예인 사생활 폭로 사건
기술적 한계를 넘어, AI를 악의적으로 악용한 가짜 뉴스 유포 사례도 급증하고 있다. 특히 대중적 인지도가 높은 공인이나 연예인을 타깃으로 한 AI 기반 허위 사실 유포 사건이 큰 사회적 문제가 되고 있다.
최근 한 유명 배우는 인공지능 기술로 조작된 가짜 카카오톡 대화록과 일상 사진 유포로 인해 심각한 명예훼손 피해를 입었다. 한 누리꾼이 AI 툴을 활용하여 실제 해당 배우의 말투와 비공개 사진, 그리고 사적인 대화 구성을 정교하게 합성하여 마치 실제 사생활 폭로인 것처럼 메신저 캡처 화면을 제작해 유포한 것이다. 비속어와 자극적인 내용이 담긴 이 가짜 대화록은 소셜 미디어를 통해 삽시간에 확산되었고, 대중은 이를 사실로 받아들이며 연예인에 대한 거센 비난을 퍼부었다.
논란이 걷잡을 수 없이 커지며 소속사 측에서 강력한 법적 대응을 예고하자, 최초 유포자는 그제야 "AI를 활용해 만들어낸 자작극이자 장난이었다"고 실토하며 사과문을 올렸다. 유포자의 가벼운 장난에서 시작된 거짓 정보였지만, 단 며칠 만에 한 인간의 인격과 커리어를 벼랑 끝으로 몰아세웠다. 이는 텍스트, 이미지, 음성 등 모든 형태의 디지털 매체가 이제는 언제든 조작될 수 있다는 현실을 여실히 보여준다.
2. 혼란의 시대, 우리는 어떻게 대비해야 하는가?
가짜 뉴스와 AI 환각 현상이 가져오는 혼란으로부터 개인과 사회를 보호하기 위해서는 다각적인 대비책이 병행되어야 한다.
(1) 개인적 차원: '크로스 체크'와 비판적 미디어 리터러시가장 강력한 1차 방어선은 정보를 소비하는 주체인 개인이 갖추어야 할 비판적 사고다.
• 다중 출처 교차 검증(Cross-check): 소셜 미디어나 단일 플랫폼에서 접한 자극적인 정보는 절대로 즉시 신뢰해서는 안 된다. 공인된 언론사, 정부 기관, 공식 연구소 등 검증된 다수의 매체에서도 동일하게 다루고 있는지 반드시 확인하는 습관을 가져야 한다.
• 디지털 콘텐츠의 미세 오류 관찰: AI가 생성해낸 이미지나 영상은 완벽해 보이지만, 인물의 손가락 모양, 빛과 그림자의 방향, 텍스트의 어색함 등 미세한 디테일에서 왜곡이 나타나는 경우가 많다. 무심코 정보를 수용하기보다 의구심을 가지고 세심히 살피는 미디어 리터러시 교육이 필요하다.
• 비판적 시각 유지: 자극적이거나 감정을 강하게 자극하는 뉴스일수록 허위 정보일 가능성이 높다는 점을 명심하고, 정보에 대한 맹목적인 공유나 전파를 자제해야 한다.
(2) 기술적 차원: 식별 기술 및 detection 시스템의 도입기술로 발생한 문제는 기술로 풀어내야 한다.
• 디지털 워터마크 의무화: 빅테크 기업 및 AI 개발사는 생성형 AI가 출력해내는 모든 결과물(텍스트, 이미지, 영상, 음성)에 식별 가능한 암호화된 '디지털 워터마크'를 의무적으로 내장하도록 시스템을 구축해야 한다.
• AI 딥페이크 탐지 알고리즘 개발: AI가 생성한 가짜 콘텐츠인지 여부를 실시간으로 판별해 내는 탐지(Detection) 기술을 고도화하여 메신저나 SNS 플랫폼에 탑재할 수 있도록 해야 한다.
(3) 제도적 차원: 법적 처벌 강화 및 AI 기본법 정비기술의 발전 속도에 맞춰 윤리적·법적 가이드라인이 신속하게 마련되어야 한다.
• 악의적 악용에 대한 처벌 강화: AI 기술을 악용하여 타인의 명예를 훼손하거나 사기, 정치적 선동 등의 범죄를 저지르는 행위에 대해 강력한 법적 처벌 기준을 마련해야 한다.
• 책임성 명확화: AI 생성물로 인해 사회적 폐해가 발생했을 때 개발사, 유포자, 플랫폼 사업자가 지켜야 할 윤리적·법적 책임 소재를 법적으로 명확히 체계화해야 한다.
3. 결론 : 기술을 뛰어넘는 인간의 비판적 지성
'눈으로 본 것도 믿을 수 없는 시대'가 되었다. 하지만 이것이 기술의 진보를 거부하거나 무조건적인 불신과 허무주의에 빠져야 함을 의미하지는 않는다. 기술 자체는 중립적이다. 그것이 도구가 될지 무기가 될지는 사용자와 이를 다루는 사회의 역량에 달려 있다.
결국 AI 시대에 우리가 진정으로 믿고 의지해야 할 것은 AI가 가져다주는 편리함이 아니라, 정보를 스스로 의심하고 검증해 내는 개인의 비판적 사고력과 지성이다. 스스로 질문을 던지고 진실을 추적하는 신중한 태도야말로 거짓 정보가 범람하는 디지털 바다에서 길을 잃지 않게 해줄 가장 확실한 나침반이 될 것이다.
이 글을 쓰는 이유는, 여행과 투어 그리고 맛집 기행에서도 AI의 정보에 크게 의지하는 여행객들에게 경종을 울릴 필요가 있어서이다. AI의 환각현상이 일어날 경우 여행지에서 엉뚱한 선택을 할 가능성이 매우 높기 때문이다. 그렇기에 자동화된 AI의 정보에 100% 의지하기 보다는 아날로그 방식도 병행해야 낮설은 여행지에서 마주할 각종 위험한 상황을 헤쳐나갈수가 있기 때문이다.
피지컬AI (사진출처 : pexels)
댓글 쓰기