[디지털비즈온 이호선 기자] AI 기반 프로그램은 비디오, 오디오 및 사진을 적용하여 정치 지도자의 딥 페이크를 만드는데 사용된다. 이러한 딥 페이크는 사회에 불화의 씨앗을 뿌리고 시장에 혼란을 일으키는 데 사용될 수 있다.

AI는 또한 한 줄 프롬프트를 기반으로 기사, 시 및 에세이를 작성할 수 있는 GPT-3과 같은 언어 모델을 사용하여 인간과 유사한 콘텐츠를 생성하는 데 더 능숙해지고 점점 진화되고 있는 실정이다.

AI를 통해 모든유형의 콘텐츠를 완벽하게 처리하여 페이스 스왑(aceSwap)및 딥페이스랩(eepFaceLab) 같은 오픈소스 소프트웨어를 통해 아마추어라도 사회적 부조화의 진원지가 될수있다고 인도의 프로그래머 ‘아리짓 고스와미(Arijit Goswami)’ 는 경고했다.

페이스 스왑은 안면 교체 기술은 이용자들이 틱톡, 스냅챗 등 소셜네트워크서비스(SNS)에서 본인의 얼굴을 촬영한 뒤 다른 얼굴로 바꾸는 데 쓰이고 있다. 얼굴을 바꾼다는 개념에서 딥페이크와 비슷하지만 작동 원리는 다른 기술이다.

딥페이스랩은, AI 머신 러닝을 사용하여 얼굴이 바뀐 비디오를 만드는 인기 있는 Windows용 딥페이크 소프트웨어로, 미국 대선에서 오바마 대통령이 트럼프를 욕하는 딥페이크 영상이 나오면서 큰 논란거리가 되었다.

전문가도 몰라볼정도로 너무나도 정교하고 진짜같은 기술이기 때문에 앞으로도 큰 문제가 되고 있는 기술이다. 음성 역시 시간이 흐를수록 정교해지고 있다. 인공지능이 몇 시간 만 학습해도 손석희 JTBC 사장이나 문재인 대통령의 목소리를 그럴 듯하게 흉내 낸다.

또한 스웨덴의 한 연구원은 AI알고리즘 ‘GPT-3’ 프로그램으로 과학연구 논문을 2시간만에 스스로 작성했다.

생성적 사전학습 변환기-3(Generative Pre-trained Transformer-3) 즉 ‘GPT-3’는 OpenAI에서 만든 인공지능이다. 비 지도 학습(Unsupervised Learning)과 생성적 사전학습(generative pre-training)기법, 변환기(transformer)를 적용하였다. 번역과 대화, 작문을 할 수 있으며 GPT-2에 비해 훨씬 인간이 쓴 글인지 기계가 쓴 글인지 구분하기 힘들다는 전문가들의 의견이다.

가짜 뉴스와 진짜 뉴스가 소셜 네트워크를 통해 이동하는 방식에는 현저한 차이가 있었다. MIT의 연구원 들은 가짜 뉴스가 진짜 뉴스보다 6배 더 빠르게 이동하여 트위터에서 1,500명의 사람들에게 도달한다고 제안했다.

더욱이 진짜 뉴스의 체인 길이는 10을 넘지 않았지만 가짜 뉴스의 경우 19로 증가했다. 이는 부분적으로 가짜 이야기를 퍼뜨리기 위해 악의적인 요소에 의해 배포된 챗봇(chatbot) 때문이라 판단했다.

◇EU, 가짜뉴스 검색하는 프로그램 개발중

유럽연합집행위원회는 웹사이트를 통해서 ‘GoodNews’를 소개하면서 ‘GoodNews’는 AI 엔진을 사용하여 참여 메트릭을 사용하여 가짜 뉴스를 식별한다고 소개했다.

GoodNews의 알고리즘 코어는 ERC 프로젝트 LEMAN(Learning on Manifolds and Graphs)에서 개발된 새로운 종류의 기하학적 딥 러닝 알고리즘을 기반으로 했다.

유럽연합 연구그룹은 세계 최초로 인기 있는 컨볼루션 신경망 아키텍처를 소셜 네트워크와 같은 그래프 구조 데이터에 대한 일반화를 제안, 구현 및 특허화하여 그래프에서 딥 러닝을 수행할 수 있도록 하는 프로그램이다.

소셜 네트워크에서 가짜 뉴스 확산 패턴을 학습하는 능력은 자동화된 가짜 뉴스 탐지 작업에서 필요한 돌파구를 제공할 것이라 홈페이지를 통해서 밝혔다.

GoodNews는 기하학적 딥 러닝 기술을 소셜 미디어에서 가짜 뉴스 탐지의 상용 응용 프로그램으로 변환한다. 프로젝트의 초점은 세 가지로 소셜 미디어의 실제 데이터를 사용하여 가짜 뉴스 탐지를 위한 데모 시스템 개발과 시장을 분석하고 재정적인 사업 계획을 수립후 상용 제품을 개발하는 것을 목표로 했다.