생성형 AI는 이제 AI가 생성한 인플루언서들이 코첼라 소셜 미디어 전반에 등장할 정도로 발전했으며, 실제와 합성된 존재의 경계를 흐리고 있다.

획기적인 연구는 딥페이크 사기가 산업적 규모로 확산되고 있음을 폭로하며, AI가 생성한 합성 미디어가 야기하는 시급한 사이버보안 위협을 강조합니다.

한국은 포괄적인 AI 법을 시행한 세계 최초의 국가가 되었으며, 이 법에는 기업이 허위정보와 딥페이크에 대응하기 위해 AI가 생성한 콘텐츠에 보이지 않는 워터마크를 추가하도록 의무화하는 조항이 포함되어 있다.

조사 결과 수백만 명의 이용자가 텔레그램에서 AI 도구를 사용해 동의 없는 딥페이크 누드를 만들고 공유하고 있는 것으로 밝혀졌으며, 이는 AI 기반 디지털 학대의 전 세계적 확산을 부각합니다.