페북·인스타, 딥페이크에 AI 딱지 붙인다. 합성이네…

메타는 공식 홈페이지를 통해 몇 달 안에 페이스북, 인스타그램, 스레드에서 AI로 생성된 이미지에 라벨을 붙일 계획이라고 밝혔다.

메타는 그동안 자체 도구인 메타AI에서 만든 AI 이미지에 라벨을 붙여왔는데 이를 모든 게시물로 확대하는 것이다. 
서비스 출시를 위해 파트너사와 막바지 작업 중이다.

메타는  (AI 기술 발달로) 실제 사람의 모습과 합성한 모습의 차이를 가리기 어려워졌다면서 이용자들은 진위와 경계를 알고 싶어 한다고 했다. 그러면서 이용자들이 접한 콘텐츠가 AI를 사용해 언제 만들어졌는지 알 수 있도록 도우려 한다고 덧붙였다.

메타는 전 세계에서 치러질 선거를 언급하면서 라벨 서비스가 필요하다고 강조했다. 
선거 정국에서 딥페이크가 악용될 소지가 다분해서다.

 

 

 

 

 

 

 

오는 11월 미국 대선을 앞두고 인공지능(AI) 기업들이 자사 AI를 활용한 정치적 이미지 생성을 금지하는 방안을 검토하고 있다.

 AI 이미지 생성 기업 미드저니는 조 바이든 대통령이나 도널드 트럼프 전 대통령에 대한 정치적 이미지를 생성하지 못하도록 막는 방안을 고려 중이다. 

데이비드 홀츠 미드저니 최고경영자(CEO)는 향후 12개월 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 밝혔다.

또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇 '파이'가 특정 정치 후보를 지지하는 발언을 하지 못하도록 조치한다고 예고했다.

페이스북 모회사 메타는 지난주 자사 AI로 생성된 이미지에 라벨을 부착해 특정 이미지 출처를 구별할 수 있도록 하겠다고 했다. 대선을 앞두고 잘못된 정보 유통을 막기 위한 조치다. 

오픈AI도 딥페이크(AI를 활용한 이미지·음성 합성기술)에 워터마크(AI가 만들었다는 표식)를 부착하겠다고 예고했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 최근 내가 가장 걱정하는 것은 AI의 새로운 능력이라며 2020년보다 더 나은 딥페이크가 있을 것이라고 우려했다.

미국 테크 기업들의 이 같은 움직임은 최근 딥페이크에 대한 규제를 강화해야 한다는 목소리가 커지는 가운데 나왔다. 

 

최근 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령 등 AI로 생성된 가짜 이미지가 유통되며 선거와 민주주의를 위협할 수 있다는 목소리가 커졌다.

비영리단체인 올 테크 이즈 휴먼 대표인 데이비드 라이언 폴가르는 우리는 급속도로 진행되는 혁신과 우리가 해야 할 일을 이해하기 위한 우리 사회의 능력 사이의 간극을 깨닫고 있다며 (우리는) 여전히 고통스러울 정도로 느리게 움직이고 있다고 지적했다.

 

 

 

 

 

 

순수창작자들이 대우 받기를 바란다

가짜를 만드는 조작자들을 퇴출시키자

 

딥페이크에 AI 딱지를 붙이는것에 찬성이다

가짜와 진짜를 구별해서 보는것은 좋다

속이고 속는세상에 사는것이 불행하다

진실된 세상을 보고 싶다

 

해악이나 풍자는 다른 영역이다