메타, 제3자 공급업체에 대한 의존도를 낮추면서 새로운 AI 콘텐츠 관리 시스템을 도입
메타는 목요일, 외부 업체에 대한 의존도를 낮추기 위해 콘텐츠 검토를 위한 보다 정교한 AI 시스템 도입을 시작한다고 발표했다. 이 시스템들은 테러, 아동 착취, 마약, 사기 및 사기 행위와 관련된 콘텐츠를 식별하고 삭제하는 등의 업무를 수행할 예정이다.
메타는 이러한 첨단 AI 도구가 기존의 콘텐츠 규제 방식보다 일관되게 우수한 성과를 보이면 자사 애플리케이션 전반에 통합될 것이라고 밝혔다. 동시에 메타는 이러한 콘텐츠 관리 업무에 대한 외부 업체 의존도를 낮출 계획이다.
메타는 블로그 게시물을 통해 “인간 검토자가 여전히 프로세스의 일부로 남겠지만, 이 시스템들은 선정적인 콘텐츠에 대한 반복적인 검토나 불법 마약 판매, 사기 등 악의적인 행위자들이 수시로 수법을 바꾸는 분야와 같이 기술에 더 적합한 업무를 처리할 것”이라고 설명했다.
메타는 이러한 AI 시스템이 더 높은 정확도로 더 많은 위반 사항을 탐지하고, 사기를 더 효과적으로 방지하며, 실제 사건에 더 신속하게 대응하고, 과도한 규제 적용을 줄일 수 있다고 주장한다.
AI 시스템에 대한 초기 테스트 결과, 인간 검토 팀보다 두 배 더 많은 성인 성매매 유인 위반 콘텐츠를 탐지하는 동시에 오류율을 60% 이상 줄이는 등 유망한 성과를 보였습니다. 또한 이 시스템은 유명인 및 기타 주목받는 인물을 사칭하는 계정을 더 많이 식별하고 방지하며, 새로운 위치에서의 로그인, 비밀번호 변경, 프로필 수정 등의 신호를 감지하여 계정 탈취를 차단하는 데 도움을 줍니다.
또한 메타는 이 시스템이 사기꾼들이 사용자를 속여 로그인 자격 증명을 유출하도록 유도하는 사기 시도를 하루 약 5,000건 식별하고 차단할 수 있다고 밝혔습니다.
메타는 블로그 게시물을 통해 “전문가들이 당사의 AI 시스템을 설계, 훈련, 감독 및 평가하며, 성능을 측정하고 가장 복잡하고 중대한 영향을 미치는 결정을 내릴 것”이라고 밝혔습니다. “예를 들어, 계정 정지 이의 제기나 법 집행 기관에의 신고와 같이 위험이 가장 높고 중대한 결정을 내리는 데 있어서는 여전히 사람이 핵심적인 역할을 수행할 것입니다.”

이번 조치는 도널드 트럼프 전 대통령의 복귀와 맞물려, 지난 1년간 메타가 콘텐츠 관리 규정을 완화해 온 데 따른 것입니다. 작년, 메타는 X(구 트위터)와 유사한 ‘커뮤니티 노트(Community Notes)’ 방식의 모델을 채택하기 위해 제3자 사실 확인 프로그램을 종료했다. 또한 “주류 담론의 일부인 주제”에 대한 제한을 해제하고, 사용자들이 정치 콘텐츠에 대해 “개인 맞춤형” 접근 방식을 취하도록 장려했다.
이러한 변화는 메타를 비롯한 주요 기술 기업들이 아동 및 청소년 사용자에게 가해진 피해에 대해 소셜 미디어 플랫폼의 책임을 묻는 다수의 소송에 직면한 가운데 이루어졌다.
메타는 또한 목요일, 사용자에게 연중무휴 24시간 지원을 제공하는 ‘메타 AI 지원 어시스턴트’를 출시한다고 발표했다. 이 어시스턴트는 iOS 및 안드로이드용 페이스북과 인스타그램 앱은 물론, 데스크톱 사용자를 위한 페이스북 및 인스타그램의 도움말 센터를 통해 전 세계적으로 순차적으로 제공될 예정이다.
관련 기사
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
마크 저커버그는 정말로 AI가 모든 사람을 위한 것이라고 믿을까요?
플레이어 로딩 중…메타는 이번 주 글리머(Glimmer)를 공개했습니다. 이는 누구나 다운로드하여 개인용 하드웨어에서 실행할 수 있는 오픈 가중치 AI 모델로, 자체 API를 통해서만 접근 가능한 메타의 더 강력한 모델 ‘뮤즈 스파크(Muse Spark)’와 뚜렷한 대비를 이룹니다. 이번 출시와 함께 마크 주커버그는 AI가 소수의 연구소에 의해 독점되기보다 모든 사람에게 접근 가능해야 한다는 내용의 서한을 발표했습니다. 그러나 이코노미(Equ
페이스북, 크리에이터를 위한 AI 동반자 앱 출시
페이스북은 수요일, 크리에이터 스튜디오를 전용 AI 보조 앱으로 전환해 크리에이터들이 플랫폼 내에서 영향력을 확대할 수 있도록 지원할 것이라고 밝혔다.메타는 이 AI 기반 도구를 제공함으로써 틱톡(TikTok)과 유튜브(YouTube)와의 치열한 경쟁 속에서도 크리에이터들이 페이스북에 계속 머물도록 유도하고자 한다. 또한 이 앱을 통해 콘텐츠 아이디어 구상
관련 특별 주제 추천
의견 (0)
0/500
메타는 목요일, 외부 업체에 대한 의존도를 낮추기 위해 콘텐츠 검토를 위한 보다 정교한 AI 시스템 도입을 시작한다고 발표했다. 이 시스템들은 테러, 아동 착취, 마약, 사기 및 사기 행위와 관련된 콘텐츠를 식별하고 삭제하는 등의 업무를 수행할 예정이다.
메타는 이러한 첨단 AI 도구가 기존의 콘텐츠 규제 방식보다 일관되게 우수한 성과를 보이면 자사 애플리케이션 전반에 통합될 것이라고 밝혔다. 동시에 메타는 이러한 콘텐츠 관리 업무에 대한 외부 업체 의존도를 낮출 계획이다.
메타는 블로그 게시물을 통해 “인간 검토자가 여전히 프로세스의 일부로 남겠지만, 이 시스템들은 선정적인 콘텐츠에 대한 반복적인 검토나 불법 마약 판매, 사기 등 악의적인 행위자들이 수시로 수법을 바꾸는 분야와 같이 기술에 더 적합한 업무를 처리할 것”이라고 설명했다.
메타는 이러한 AI 시스템이 더 높은 정확도로 더 많은 위반 사항을 탐지하고, 사기를 더 효과적으로 방지하며, 실제 사건에 더 신속하게 대응하고, 과도한 규제 적용을 줄일 수 있다고 주장한다.
AI 시스템에 대한 초기 테스트 결과, 인간 검토 팀보다 두 배 더 많은 성인 성매매 유인 위반 콘텐츠를 탐지하는 동시에 오류율을 60% 이상 줄이는 등 유망한 성과를 보였습니다. 또한 이 시스템은 유명인 및 기타 주목받는 인물을 사칭하는 계정을 더 많이 식별하고 방지하며, 새로운 위치에서의 로그인, 비밀번호 변경, 프로필 수정 등의 신호를 감지하여 계정 탈취를 차단하는 데 도움을 줍니다.
또한 메타는 이 시스템이 사기꾼들이 사용자를 속여 로그인 자격 증명을 유출하도록 유도하는 사기 시도를 하루 약 5,000건 식별하고 차단할 수 있다고 밝혔습니다.
메타는 블로그 게시물을 통해 “전문가들이 당사의 AI 시스템을 설계, 훈련, 감독 및 평가하며, 성능을 측정하고 가장 복잡하고 중대한 영향을 미치는 결정을 내릴 것”이라고 밝혔습니다. “예를 들어, 계정 정지 이의 제기나 법 집행 기관에의 신고와 같이 위험이 가장 높고 중대한 결정을 내리는 데 있어서는 여전히 사람이 핵심적인 역할을 수행할 것입니다.”

이번 조치는 도널드 트럼프 전 대통령의 복귀와 맞물려, 지난 1년간 메타가 콘텐츠 관리 규정을 완화해 온 데 따른 것입니다. 작년, 메타는 X(구 트위터)와 유사한 ‘커뮤니티 노트(Community Notes)’ 방식의 모델을 채택하기 위해 제3자 사실 확인 프로그램을 종료했다. 또한 “주류 담론의 일부인 주제”에 대한 제한을 해제하고, 사용자들이 정치 콘텐츠에 대해 “개인 맞춤형” 접근 방식을 취하도록 장려했다.
이러한 변화는 메타를 비롯한 주요 기술 기업들이 아동 및 청소년 사용자에게 가해진 피해에 대해 소셜 미디어 플랫폼의 책임을 묻는 다수의 소송에 직면한 가운데 이루어졌다.
메타는 또한 목요일, 사용자에게 연중무휴 24시간 지원을 제공하는 ‘메타 AI 지원 어시스턴트’를 출시한다고 발표했다. 이 어시스턴트는 iOS 및 안드로이드용 페이스북과 인스타그램 앱은 물론, 데스크톱 사용자를 위한 페이스북 및 인스타그램의 도움말 센터를 통해 전 세계적으로 순차적으로 제공될 예정이다.
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
마크 저커버그는 정말로 AI가 모든 사람을 위한 것이라고 믿을까요?
플레이어 로딩 중…메타는 이번 주 글리머(Glimmer)를 공개했습니다. 이는 누구나 다운로드하여 개인용 하드웨어에서 실행할 수 있는 오픈 가중치 AI 모델로, 자체 API를 통해서만 접근 가능한 메타의 더 강력한 모델 ‘뮤즈 스파크(Muse Spark)’와 뚜렷한 대비를 이룹니다. 이번 출시와 함께 마크 주커버그는 AI가 소수의 연구소에 의해 독점되기보다 모든 사람에게 접근 가능해야 한다는 내용의 서한을 발표했습니다. 그러나 이코노미(Equ
페이스북, 크리에이터를 위한 AI 동반자 앱 출시
페이스북은 수요일, 크리에이터 스튜디오를 전용 AI 보조 앱으로 전환해 크리에이터들이 플랫폼 내에서 영향력을 확대할 수 있도록 지원할 것이라고 밝혔다.메타는 이 AI 기반 도구를 제공함으로써 틱톡(TikTok)과 유튜브(YouTube)와의 치열한 경쟁 속에서도 크리에이터들이 페이스북에 계속 머물도록 유도하고자 한다. 또한 이 앱을 통해 콘텐츠 아이디어 구상





집






