딥페이크의 증가는 이번 주에 진짜 콘텐츠를 식별하는 새로운 방식이 공개됨에 따라 도전을 받게 될 것입니다.

JPEG Trust로 알려진 새로운 표준은 사진과 비디오에 '태그'를 지정하고 인증을 실시할 수 있도록 하여 사용자와 제작자가 미디어 콘텐츠에 대한 신뢰를 구축할 수 있도록 합니다.

딥페이크는 종종 인공지능을 이용해 디지털 방식으로 조작된 미디어로, 믿을 수 없을 만큼 실제와 비슷한 사람의 모습을 만들어냅니다.

사기를 저지르기 위해 신원을 모방하고 '거짓 뉴스'를 퍼뜨리기 위해 가짜 영상을 조작하는 것은 딥페이크가 어떻게 악의적으로 사용되는지에 대한 몇 가지 예일 뿐이며, 잠재적으로 매우 해로운 결과를 초래할 수 있습니다.

전 세계적으로 50번의 국가 선거가 치러진 1년 후, 딥페이크가 잘못된 정보를 유포하고 유권자를 흔들어 상당한 피해를 입히는 데 사용되었을 것이라는 우려가 일반적이었습니다. 이는 전적으로 실현되지는 않았지만, 딥페이크 사용이 증가함에 따라 현실과의 관계가 왜곡되고 편견이 강화되며 사람들에게 그들이 믿고 싶어하는 진실이 보여지고 있다는 우려가 있습니다.

많은 전문가와 조직이 딥페이크를 식별하고 예방하고자 노력하고 있지만, 기술이 너무 정교해지고 있어서 이를 감지하도록 훈련받은 전문가조차도 머지않아 실패하게 될 것입니다.

JPEG Trust는 ISO/IEC 21617로도 알려져 있으며, ISO/IEC JTC 1의 하위 위원회 SC 29의 공동 IEC, ISO 및 ITU 공동 사진 전문가 그룹(JPEG)에서 개발했습니다. 오디오, 사진, 멀티미디어 및 하이퍼미디어 정보의 코딩. 이는 30년 이상 매일 수십억 개의 이미지를 사용하고 공유할 수 있도록 전 세계가 지원한 JPEG 기술을 뒷받침하는 위원회와 동일합니다.

JPEG 위원장인 투라지 에브라히미 교수는 딥페이크를 감지하는 기술이 발전하는 것처럼, 딥페이크를 만드는 기술도 함께 발전한다고 말했습니다.

"AI의 두 가지 용도가 경쟁하는 것과 같습니다. 하나는 딥페이크를 생성하는 용도이고 다른 하나는 그것을 감지하는 용도입니다. 그것은 경쟁, 선을 위한 경쟁입니다. 하지만 다른 해결책을 찾지 못하면 우리는 그것을 잃을 위험이 있습니다."

새롭고 혁신적인 솔루션은 JPEG Trust입니다. 식별 및 인증을 통해 공유 미디어에 대한 신뢰를 높이는 것을 목표로 하는 JPEG Trust는 미디어와 모든 수정 사항을 태그하는 안전하고 신뢰할 수 있는 방법을 가능하게 하는 표준입니다. 진위성, 출처 및 무결성을 중심으로 '신뢰 지표'를 특징으로 하므로 콘텐츠 사용자는 콘텐츠가 어디에서 왔는지, 변조되었는지 여부를 확인할 수 있습니다.

표준의 첫 번째 버전인 핵심 기반이 막 공개되었으며, 기술이 발전함에 따라 시간이 지남에 따라 더욱 발전할 것으로 예상됩니다.

JPEG Trust의 장점은 한두 기관에 의해 관리되는 것이 아니라 전 세계 다양한 이해 관계자가 엄격한 규칙과 합의 및 협력 절차에 따라 표준을 관리한다는 점이라고 에브라히미 교수는 말했습니다.

이는 모든 곳에서 상호 운용성과 일관성을 보장합니다. 이 접근 방식과 일반적인 국제 표준화의 가치에 대한 한 가지 예는 JPEG 자체에 있다고 그는 말했습니다.

"JPEG는 30년이 넘었지만, 이미지가 사용되는 많은 장치와 애플리케이션은 30년 전에 만들어진 이미지를 여전히 디코딩할 수 있습니다. 이는 이를 관리하는 국제적으로 합의된 표준 덕분입니다. JPEG Trust도 마찬가지일 것입니다."

이 표준은 기술적 요구 사항뿐만 아니라 현재 및 미래의 규제 요구 사항, 윤리 및 개인정보 보호 문제, 사회적 경향 및 소비자 행동까지 다루므로 관련성이 높고 널리 채택될 수 있습니다.

또한 효과적일 만큼 규범적이지만 광범위한 기술과 관할권에서 사용할 만큼 광범위합니다. 모든 정부가 AI를 규제하려는 시대에 JPEG Trust가 방정식의 일부가 되기를 바랍니다.

"AI는 사회와 콘텐츠 제작자에게 많은 이점을 가져다 줄 수 있고 실제로 가져다 주지만, 그것은 우리가 생산된 것을 신뢰할 수 있을 때에만 가능합니다. JPEG Trust는 그것을 달성하는 수단입니다."

JPEG Trust는 제네바에서 열린 최근 AI for Good 정상회담의 초점이었습니다. 이 토론은 딥페이크와 생성 AI의 과제를 해결하기 위한 더 광범위한 세계 표준 협력 프로젝트 발표로 이어졌습니다.

AI에 대한 신뢰를 구축하고 책임 있는 배포를 보장하는 것은 IEC의 비전과 사명의 핵심 요소입니다. 딥페이크 감지에서 IEC 표준의 역할과 IEC가 AI를 안전하고 신뢰할 수 있게 유지하는 데 기여하는 다른 방법에 대해 자세히 알아보세요.