인공지능이 너무 발달해도 문제 : 안면인식기술 사기

중국은 세계에서 가장 큰 안면 인식 기술 시장 중 하나입니다. 2021년 중국의 안면 인식 기술 시장 규모는 142억 달러로, 2026년까지 279억 달러로 성장할 것으로 예상됩니다. 중국의 안면 인식 기술 시장 성장은 정부의 적극적인 지원과 기술 기업의 투자 증가에 기인합니다.코로나 기간중 가장 큰 효과를 본 곳이 중국이였습니다. 또한 범죄자를 찾는데에도 안면인식 기술이 효과적으로 작용하였습니다.

중국 정부는 안면 인식 기술을 범죄 예방, 보안 강화, 교통 관리 등 다양한 분야에 활용하고 있습니다. 또한, 중국 정부는 안면 인식 기술 개발 및 상용화를 위해 2016년부터 "안면 인식 산업 발전 계획"을 시행하고 있습니다. 이 계획은 2020년까지 안면 인식 기술 시장 규모를 1000억 위안(약 15조 원)으로 확대하였습니다.

중국의 기술 기업들은 안면 인식 기술을 개발하고 상용화하는 데 적극적으로 투자하고 있습니다. 대표적인 기업으로는 메이주(Megvii), 센스타임(SenseTime), 이큐아이(iQIYI) 등이 있습니다. 이 기업들은 안면 인식 기술을 스마트폰, 스마트 홈, 보안 등 다양한 분야에 적용하고 있습니다.

 

인공지능과 안면인식 기술이 발달한 중국에서 이를 악용한 사기 범죄가 잇따르고 있습니다. 지인의 얼굴과 목소리까지 감쪽같이 위조하기 때문인데 우리도 대비가 필요해 보입니다.

최근 중국에서 화제가 된 영상입니다. 손짓 한 번에 얼굴이 순식간에 바뀝니다.

휴대전화에 앱만 설치하면, 간단하게 여러 사람의 얼굴로 변신 가능한데, 인공지능 AI 기술이 적용됐습니다.

한 드라마의 경우 출연 배우 2명의 사생활 문제가 불거지자, 배우의 얼굴을 아예 다른 사람 것으로 바꿔 방영하고 있습니다.세계적 수준인 중국의 인공지능과 안면인식 기술 때문에 가능한 일입니다.

문제는 첨단 기술을 악용한 범죄입니다.지난달 한 IT업체 대표마저, 영상통화를 걸어온 사람이 친구인 줄 알고, 8억 원을 송금하는 사기 피해가 발생했습니다.

사기 조직이 SNS를 해킹해 대표 지인의 영상을 확보한 뒤 AI 기술로 얼굴과 목소리를 똑같이 위조했기 때문입니다.

[AI 얼굴 변형 사기 사건 피해자 : 돈을 요구하면 나도 원래 믿지 않죠. 그런데 그 사람이 영상통화를 걸어왔어요. 딱 봐도 친구가 맞아요. 그래서 믿었죠.]

상품을 판매하는 라이브 커머스에서도 유명배우가 진짜 출연한 것처럼 얼굴을 감쪽같이 위조해 논란이 됐습니다.여기에 사용된 기술이 딥페이크라는 방식인데요 딥페이크(Deepfake)는 인공지능(AI) 기술인 딥러닝을 이용하여 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 만드는 기술입니다. 딥페이크 기술은 2017년 처음 등장한 이후로 빠르게 발전하고 있으며, 정치, 사회, 경제 등 다양한 분야에 악용되고 있습니다.

딥페이크 기술의 주요 악용 사례는 다음과 같습니다.

가짜 뉴스: 유명인사나 정치인의 얼굴을 합성하여 가짜 뉴스를 만드는 것
명예훼손: 유명인사나 정치인의 얼굴을 합성하여 명예훼손을 하는 것
사기: 유명인사나 정치인의 얼굴을 합성하여 사기를 치는 것
테러: 테러리스트의 얼굴을 합성하여 테러를 조장하는 것

딥페이크 기술의 악용 사례는 갈수록 심각해지고 있습니다. 딥페이크 기술을 악용하여 선거에 영향을 미치거나, 기업의 이미지를 훼손하거나, 심지어 테러를 조장하는 등 사회에 큰 혼란을 야기할 수 있습니다

비상이 걸린 공안 당국은 영상통화로 누군가 돈을 요청하면 신분증 등 여러 방법으로 신원을 확인하고, 정면 얼굴이나 지문, 목소리가 잘 드러나는 사진이나 영상은 SNS에 올리지 말라고 권고하고 있습니다.

중국 내 조직과 연계된 보이스피싱 범죄가 국내에서도 잇따르는 만큼 AI를 악용한 신종 사기에 대비가 필요해 보입니다. 

 

 

딥페이크와 함께 3D기술을 접목한 방법이 적용되면서 실제와 가상을 구분하기가 점점 어려워지고 있습니다.