AI가 만든 '가짜 지옥도', 두바이 불타는 영상의 충격적인 진실
AI가 그린 두바이의 불타는 풍경, 그 충격적인 실체
최근 소셜 미디어에서 두바이의 상징인 부르즈 할리파가 화염에 휩싸이고, 바레인의 고층 건물이 이란의 공격으로 무너지는 듯한 충격적인 영상이 확산되었습니다. 하지만 이 모든 장면은 인공지능(AI)이 만들어낸 '가짜'였습니다. 이러한 AI 생성 영상이 대중을 속이고 있다는 사실에 많은 이들이 경악하며, '우리 사회가 디스토피아로 가고 있다'는 우려의 목소리가 나오고 있습니다. AI 기술의 발전은 우리가 접하는 정보의 진실성을 끊임없이 시험대에 올리고 있습니다.
SNS를 뒤덮은 AI 생성 전쟁 콘텐츠의 확산
미국 CNN과 AP 통신 등은 생성형 AI를 이용해 만들어진 전쟁 관련 사진 및 영상이 소셜 미디어에서 기승을 부리고 있다고 보도했습니다. 중동 국가의 유명 장소가 공격받거나 사람들이 폭탄을 피해 달아나는 모습 등이 담긴 영상들이 퍼져나가고 있습니다. AP 통신은 이러한 영상에서 건물이 두 개로 겹쳐 보이는 등 AI의 '환각 현상(hallucination)'이 나타난다고 지적했습니다. 틱톡에서는 두바이 국제공항이 파손된 것처럼 보이는 AI 생성 영상이 약 3만 5천 건의 조회수를 기록하기도 했습니다.
AI 영상 생성 기술의 놀라운 발전과 위험성
중국의 미디어 기업 바이트댄스가 공개한 AI 영상 생성 모델 '시댄스 2.0'은 유명 배우들이 등장하는 영상을 만들어내며 논란을 일으켰습니다. 또한, AI 에이전트 플랫폼 '젠스파크'는 텍스트 설명만으로 짧게는 15분 안에 영상을 제작할 수 있습니다. 이러한 기술 발전은 긍정적인 활용 가능성도 있지만, 동시에 조작된 영상을 통해 수익을 창출하거나 여론을 왜곡하려는 악의적인 목적으로 이용될 수 있다는 점에서 심각한 우려를 낳고 있습니다. 에반겔로스 카눌라스 암스테르담대 교수는 AI가 원본보다 더 실감 나는 이미지를 만들어 특정 사건에 대한 내러티브를 강화할 수 있다고 경고했습니다.
가짜 정보 시대, 우리는 어떻게 대처해야 할까?
AI 기술의 발전으로 인해 영상의 조작 여부를 판별하기가 점점 더 어려워지고 있습니다. 캘리포니아대 하니 파리드 교수는 '불과 몇 달 전의 AI 조작 식별 요령이 쓸모없어진 상황'이라며, 소셜 미디어에서 정보를 접할 때 AI 조작 가능성을 항상 염두에 두어야 한다고 강조했습니다. 그는 SNS에서 게시물을 훑어보는 것보다 언론 등 신뢰할 수 있는 매체를 통해 소식을 접하는 것이 중요하다고 조언했습니다. 진실과 거짓을 분별하는 능력이 그 어느 때보다 중요해진 시대입니다.
AI가 만든 가짜 뉴스, 진실을 분별하는 현명한 자세
AI 기술이 만들어낸 충격적인 가짜 영상들이 소셜 미디어를 통해 확산되고 있습니다. 두바이 불타는 영상처럼, AI는 현실보다 더 그럴듯한 허구를 만들어내며 우리를 혼란에 빠뜨릴 수 있습니다. 이러한 가짜 정보의 홍수 속에서 우리는 비판적인 시각을 유지하고, 신뢰할 수 있는 출처를 통해 정보를 습득하는 현명한 자세가 필요합니다.
AI 생성 콘텐츠, 궁금해하실 만한 점들
Q.AI가 만든 영상과 실제 영상의 차이점은 무엇인가요?
A.AI 생성 영상은 종종 물리 법칙을 무시하거나, 사물이 겹쳐 보이거나, 비정상적인 디테일(예: 손가락 개수 오류)을 보이는 등 '환각 현상'을 나타낼 수 있습니다. 하지만 기술이 발전함에 따라 이러한 차이점은 점점 미묘해지고 있습니다.
Q.AI 조작 영상을 식별할 수 있는 방법이 있나요?
A.과거에는 특정 패턴이나 오류를 통해 식별이 가능했지만, 현재 AI 기술은 매우 정교해져서 일반인이 육안으로 식별하기는 매우 어렵습니다. 따라서 신뢰할 수 있는 언론 매체를 통해 정보를 확인하는 것이 가장 중요합니다.
Q.AI 생성 콘텐츠가 악용될 경우 어떤 문제가 발생할 수 있나요?
A.AI 생성 콘텐츠는 가짜 뉴스 확산, 여론 조작, 사기, 명예 훼손 등 다양한 방식으로 악용될 수 있습니다. 특히 전쟁이나 정치적 이슈와 관련된 조작 영상은 사회적 혼란을 야기할 수 있습니다.
