Meta, Instagram에서 논란이 된 AI 기능 철회

Meta는 사용자가 공개된 Instagram 프로필의 이미지를 인공지능을 통해 수정할 수 있게 해준 논란이 된 기능을 삭제했습니다. 이 도구는 이번 주 초 다른 AI 업데이트와 함께 출시되었지만, 회사에 따르면 “목표를 놓쳤고” 이제 사용할 수 없습니다.
이번 주 초 Meta는 Meta Superintelligence Labs 부서에서 개발한 AI 이미지 생성기인 Muse Image를 소개했습니다. 이 플랫폼은 참조용으로 공개 Instagram 계정을 @-mention하여 이미지를 생성할 수 있는 기능을 강조했습니다. 이 기능은 사진이 사용될 때 사용자에게 알리지 않았으며, 즉각적인 반발을 불러일으켰습니다.
TechCrunch은 사용자가 이 기능을 비활성화하는 방법을 설명하는 가이드를 게시했습니다.
Meta는 이후 결정을 번복했습니다. 회사는 금요일 블로그 게시를 통해 이 기능을 삭제한다고 발표했으며, 이 조치는 Puck News의 창립 파트너인 Dylan Byers에 의해 먼저 보도되었습니다.
“우리의 의도는 유용한 창작 도구를 제공하고 사람들이 자신의 공개 콘텐츠가 이러한 방식으로 참조될 수 있는지 여부를 통제할 수 있도록 하는 것이었습니다.”라고 회사는 블로그에 밝혔습니다. “우리는 이 기능이 목표를 놓쳤다는 피드백을 들었으므로, 이제 더 이상 사용할 수 없습니다.”
TechCrunch은 Meta에 추가 정보를 요청했으며, 응답을 받을 경우 이 기사를 업데이트할 예정입니다.
소셜 미디어와 통합된 이후로 AI는 광범위하게 오용되어 왔으며—종종 여성 유명인의 선정적인 이미지를 생성하는 데 사용되었습니다. 플랫폼들은 이러한 경향을 억제하려고 시도했지만, 그들의 안전장치는 종종 불충분한 것으로 입증되었습니다.
Meta의 경우, 삭제된 기능은 이러한 오용에 명백히 취약했습니다. Byers가 지적했듯이, 이를 폐기하기로 한 결정은 CAA를 포함한 사용자 및 연예인 에이전시들의 감시 속에서 내려졌습니다.
관련 기사
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
마크 저커버그는 정말로 AI가 모든 사람을 위한 것이라고 믿을까요?
플레이어 로딩 중…메타는 이번 주 글리머(Glimmer)를 공개했습니다. 이는 누구나 다운로드하여 개인용 하드웨어에서 실행할 수 있는 오픈 가중치 AI 모델로, 자체 API를 통해서만 접근 가능한 메타의 더 강력한 모델 ‘뮤즈 스파크(Muse Spark)’와 뚜렷한 대비를 이룹니다. 이번 출시와 함께 마크 주커버그는 AI가 소수의 연구소에 의해 독점되기보다 모든 사람에게 접근 가능해야 한다는 내용의 서한을 발표했습니다. 그러나 이코노미(Equ
페이스북, 크리에이터를 위한 AI 동반자 앱 출시
페이스북은 수요일, 크리에이터 스튜디오를 전용 AI 보조 앱으로 전환해 크리에이터들이 플랫폼 내에서 영향력을 확대할 수 있도록 지원할 것이라고 밝혔다.메타는 이 AI 기반 도구를 제공함으로써 틱톡(TikTok)과 유튜브(YouTube)와의 치열한 경쟁 속에서도 크리에이터들이 페이스북에 계속 머물도록 유도하고자 한다. 또한 이 앱을 통해 콘텐츠 아이디어 구상
관련 특별 주제 추천
의견 (0)
0/500

Meta는 사용자가 공개된 Instagram 프로필의 이미지를 인공지능을 통해 수정할 수 있게 해준 논란이 된 기능을 삭제했습니다. 이 도구는 이번 주 초 다른 AI 업데이트와 함께 출시되었지만, 회사에 따르면 “목표를 놓쳤고” 이제 사용할 수 없습니다.
이번 주 초 Meta는 Meta Superintelligence Labs 부서에서 개발한 AI 이미지 생성기인 Muse Image를 소개했습니다. 이 플랫폼은 참조용으로 공개 Instagram 계정을 @-mention하여 이미지를 생성할 수 있는 기능을 강조했습니다. 이 기능은 사진이 사용될 때 사용자에게 알리지 않았으며, 즉각적인 반발을 불러일으켰습니다.
TechCrunch은 사용자가 이 기능을 비활성화하는 방법을 설명하는 가이드를 게시했습니다.
Meta는 이후 결정을 번복했습니다. 회사는 금요일 블로그 게시를 통해 이 기능을 삭제한다고 발표했으며, 이 조치는 Puck News의 창립 파트너인 Dylan Byers에 의해 먼저 보도되었습니다.
“우리의 의도는 유용한 창작 도구를 제공하고 사람들이 자신의 공개 콘텐츠가 이러한 방식으로 참조될 수 있는지 여부를 통제할 수 있도록 하는 것이었습니다.”라고 회사는 블로그에 밝혔습니다. “우리는 이 기능이 목표를 놓쳤다는 피드백을 들었으므로, 이제 더 이상 사용할 수 없습니다.”
TechCrunch은 Meta에 추가 정보를 요청했으며, 응답을 받을 경우 이 기사를 업데이트할 예정입니다.
소셜 미디어와 통합된 이후로 AI는 광범위하게 오용되어 왔으며—종종 여성 유명인의 선정적인 이미지를 생성하는 데 사용되었습니다. 플랫폼들은 이러한 경향을 억제하려고 시도했지만, 그들의 안전장치는 종종 불충분한 것으로 입증되었습니다.
Meta의 경우, 삭제된 기능은 이러한 오용에 명백히 취약했습니다. Byers가 지적했듯이, 이를 폐기하기로 한 결정은 CAA를 포함한 사용자 및 연예인 에이전시들의 감시 속에서 내려졌습니다.
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
마크 저커버그는 정말로 AI가 모든 사람을 위한 것이라고 믿을까요?
플레이어 로딩 중…메타는 이번 주 글리머(Glimmer)를 공개했습니다. 이는 누구나 다운로드하여 개인용 하드웨어에서 실행할 수 있는 오픈 가중치 AI 모델로, 자체 API를 통해서만 접근 가능한 메타의 더 강력한 모델 ‘뮤즈 스파크(Muse Spark)’와 뚜렷한 대비를 이룹니다. 이번 출시와 함께 마크 주커버그는 AI가 소수의 연구소에 의해 독점되기보다 모든 사람에게 접근 가능해야 한다는 내용의 서한을 발표했습니다. 그러나 이코노미(Equ
페이스북, 크리에이터를 위한 AI 동반자 앱 출시
페이스북은 수요일, 크리에이터 스튜디오를 전용 AI 보조 앱으로 전환해 크리에이터들이 플랫폼 내에서 영향력을 확대할 수 있도록 지원할 것이라고 밝혔다.메타는 이 AI 기반 도구를 제공함으로써 틱톡(TikTok)과 유튜브(YouTube)와의 치열한 경쟁 속에서도 크리에이터들이 페이스북에 계속 머물도록 유도하고자 한다. 또한 이 앱을 통해 콘텐츠 아이디어 구상





집






