가짜 리뷰는 큰 문제입니다. AI가 어떻게 해결하는 데 도움이 될 수 있는지

2007년 설립 이후, Trustpilot은 사용자 리뷰를 위한 주요 플랫폼으로 자리 잡았으며, 약 100만 개의 비즈니스에 걸쳐 2억 3,800만 개의 리뷰를 수집했으며, 50개 국적을 아우릅니다. Trustpilot은 미국 비즈니스 리뷰도 제공하지만, 내가 검색한 지역 상점들은 목록에 없었고, Yelp에서 더 많은 성공을 거두었습니다. Trustpilot은 유럽에서 더 강한 입지를 가지고 있는 것 같지만, 여기서 지리적 초점은 주요 관심사가 아닙니다. 대신, 우리는 리뷰 사이트를 괴롭히는 중요한 문제, 즉 가짜 리뷰의 확산에 대해 논의합니다.

2023년, Trustpilot은 330만 개의 가짜 리뷰를 식별하고 제거했으며, 이는 전년도 260만 개 제거에 이은 것입니다. 가짜 리뷰와의 지속적인 싸움은 생성 AI의 등장으로 더욱 어려워졌습니다. 미국 국립과학원 회보(PNAS)에 발표된 연구에 따르면, 소비자의 약 절반만이 AI 생성 텍스트와 인간 작성 콘텐츠를 구별할 수 있습니다. 이는 소비자와 Trustpilot 같은 플랫폼 모두에게 소비자 의견의 진정성을 보장하기 위해 가짜 리뷰를 걸러내는 데 상당한 장애를 만듭니다.

Trustpilot은 이 문제를 정면으로 해결하는 것을 핵심 사명으로 삼았습니다. Trustpilot의 최고 신뢰 책임자인 Anoop Joshi와의 통찰력 있는 대화에서, 회사가 AI 생성 가짜 리뷰에 어떻게 맞서 싸우고 있는지 깊이 파헤쳤습니다.

Anoop Joshi의 Trustpilot 최고 신뢰 책임자 여정

Trustpilot에서 4년 이상 근무한 Anoop Joshi는 약 80명으로 구성된 팀과 함께 회사의 신뢰 및 안전, 법률 및 개인정보 보호 운영을 이끌고 있습니다. 그의 역할은 소송, 공공 업무, 글로벌 커뮤니케이션, 상업 계약, 콘텐츠 관리, 브랜드 보호, 사기 조사 등 광범위한 활동을 포함합니다. 처음에 Joshi는 Trustpilot 플랫폼에서 비즈니스 또는 소비자에 의한 오용, 가짜 리뷰 및 다양한 형태의 남용 문제를 해결하는 집행 관련 업무를 담당했습니다.

그의 팀은 회사의 첫 번째 플랫폼 무결성 팀으로 발전하여 신뢰와 안전의 운영 측면을 강화했습니다. 이 작업은 업계에서 인정받아 Trustpilot이 Amazon, TripAdvisor, Glassdoor, Booking.com, Expedia와 같은 주요 기업들과 함께 신뢰할 수 있는 리뷰 연합의 창립 멤버가 되었습니다. 변호사이자 소프트웨어 엔지니어로서의 Joshi의 배경은 플랫폼에서 신뢰를 구축하고 유지하는 데 중요한 법과 기술의 교차점을 탐색할 수 있는 독특한 위치를 제공합니다.

최고 신뢰 책임자의 역할 정의

Joshi에 따르면, Trustpilot의 최고 신뢰 책임자의 역할은 회사가 신뢰의 보편적 상징이라는 비전을 실현하도록 보장하는 것입니다. 여기에는 리뷰의 무결성, 웹사이트 콘텐츠, 그리고 회사가 소비자와 비즈니스를 어떻게 대하는지를 포함하여 Trustpilot에 있어 신뢰가 무엇인지 정의하는 것이 포함됩니다. 또한, 이 역할은 리스크를 완화하고, 규제 준수를 보장하며, 소비자, 직원, 비즈니스, 투자자, 정책 입안자, 언론인 등 이해관계자들 사이에서 신뢰와 충성도를 증진하는 거버넌스와 프로세스를 추진합니다. 기술이 더욱 보편화되고 온라인 참여가 증가함에 따라, C-레벨에서 이러한 역할의 필요성은 증가할 것으로 예상됩니다.

Trustpilot에서 흔히 볼 수 있는 가짜 리뷰 유형

Trustpilot은 진정한 경험에 기반하지 않거나 독자를 오도하려는 리뷰를 가짜 리뷰로 분류합니다. 그들이 가장 흔히 접하고 제거하는 유형은 다음과 같습니다:

• 스팸 리뷰: 광고 역할을 하거나 다른 비즈니스를 홍보하는 리뷰.
• 이해 충돌: 비즈니스 소유자 또는 직원이 자신의 비즈니스에 대해 남긴 리뷰.
• 오도 리뷰: 실제로 비즈니스를 경험하지 않은 개인이 제출한 리뷰.
• 인센티브 기반 리뷰: 인센티브에 영향을 받아 종종 오도하는 콘텐츠를 포함하는 리뷰.

AI 생성 콘텐츠가 리뷰 진정성에 미치는 영향

생성 AI의 등장은 개인이 콘텐츠를 만드는 것을 더 쉽게 만들어 가짜 리뷰 생성의 장벽을 낮췄습니다. Trustpilot의 가짜 리뷰 탐지 접근법은 콘텐츠 자체뿐만 아니라 행동에 초점을 맞춥니다. 그들의 자동화 시스템은 리뷰가 제출되는 방식, 패턴 및 의심스러운 마커를 분석하며, 리뷰어와 비즈니스 간의 관계도 고려합니다. ChatGPT와 같은 기술의 등장에도 불구하고, Trustpilot의 최신 투명성 보고서는 가짜 리뷰 탐지율이 연간 일관되게 유지되고 있음을 나타내며, 그들의 시스템이 이 도전에 잘 대응하고 있음을 시사합니다.

Trustpilot이 AI와 머신 러닝을 사용해 가짜 리뷰를 탐지하는 방법

Trustpilot에 제출된 모든 리뷰는 자동화된 가짜 리뷰 탐지 엔진에 의해 분석됩니다. 이 엔진은 리뷰어의 이전 행동 및 프로모션 문구와 같은 리뷰의 다양한 측면을 고려합니다. 일부 패턴은 조치를 취하기 전에 시간이 걸릴 수 있습니다. 또한, Trustpilot은 소비자와 비즈니스 커뮤니티가 의심스러운 리뷰를 신고하도록 의존하며, 이는 콘텐츠 무결성 팀의 인간 모더레이터에 의해 검토됩니다. 리뷰가 제거되면 리뷰어에게 통지되고 결정에 대해 이의를 제기할 기회가 주어집니다. 자동화 탐지와 인간 감독의 조합은 Trustpilot의 가짜 리뷰 식별 및 제거 접근법을 지속적으로 개선하는 데 도움이 됩니다.

진짜와 가짜 리뷰를 구별하는 데 따른 도전

Trustpilot이 직면한 주요 도전 중 하나는 일부 행동 패턴이 즉시 명확하지 않고 발전하고 이해하는 데 시간이 필요하다는 것입니다. 이는 진짜와 가짜 리뷰를 구별하는 지속적인 도전을 만듭니다.

AI 지원 진짜 리뷰 처리

Trustpilot은 리뷰어가 비즈니스와 진정한 경험을 했는지, 그리고 그 경험이 리뷰에 정확히 반영되었는지를 평가합니다. AI 생성 텍스트를 포함한 다른 소스에서 복사된 콘텐츠와 같은 요소는 리뷰가 의심스러운지 판단할 때 고려됩니다. 높은 의심 수준이 발견되면 리뷰는 제거되고, 리뷰어는 통지되고 결정에 도전할 기회가 주어집니다. Trustpilot은 접근성 또는 신경다양성 요구가 있는 사람들을 위해 AI 도구가 진정한 경험을 구성하는 데 도움을 줄 수 있음을 인정하며 균형을 유지하려고 합니다.

자동화 탐지와 인간 감독의 균형

Trustpilot은 인간이 자동화 소프트웨어의 설계 및 구현에 관여하도록 보장합니다. 자동화는 운영 규모를 확장하는 데 중요하지만, Trustpilot이 해결하는 문제는 근본적으로 인간적이며, 이러한 도전은 시간이 지남에 따라 진화합니다. 따라서 자동화는 인간 행동에서 얻은 통찰을 기반으로 적응해야 합니다.

시간에 따른 가짜 리뷰 탐지율 변화

2022 회계연도 4,600만 개에서 2023 회계연도 5,400만 개로 총 리뷰가 연간 증가했음에도 불구하고, 제거된 가짜 리뷰의 비율은 6%로 일정하게 유지되었습니다. 2023년, Trustpilot의 시스템은 가짜 리뷰의 79%를 탐지하고 제거하여 기술에 대한 지속적인 투자의 효과를 보여줍니다. AI와 머신 러닝이 계속 진화함에도 불구하고, Trustpilot의 행동 패턴과 커뮤니티 신고에 대한 초점은 견고한 탐지 시스템을 유지하는 데 도움이 됩니다.

가짜 리뷰가 신뢰와 평판에 미치는 장기적 영향

가짜 리뷰는 소비자 결정에 상당한 영향을 미쳐 부정적인 경험과 온라인 플랫폼에 대한 신뢰 상실로 이어질 수 있습니다. 플랫폼이 가짜 리뷰를 효과적으로 해결하지 못하면 소비자는 구매 결정을 위해 사용하는 플랫폼에 대한 믿음을 잃을 수 있으며, 이는 소비자 신뢰와 비즈니스 평판에 영향을 미칩니다.

리뷰 관리에서 AI 사용의 윤리적 고려

투명성은 Trustpilot의 리뷰 관리에서 AI를 사용하는 윤리적 접근의 핵심입니다. 회사는 소비자와 비즈니스 간의 신뢰를 증진하려는 약속에 따라 자동화된 의사 결정에 AI를 사용하는 것에 대해 공개적입니다.

소비자를 위한 진짜 리뷰 식별 교육

Trustpilot은 신뢰 신호를 사용하여 검증된 리뷰를 강조하고 리뷰어가 스스로를 검증할 수 있도록 하여 소비자가 다양한 리뷰 유형을 구별할 수 있도록 합니다. 또한, 플랫폼 오용으로 인해 비즈니스에 대해 집행 조치가 취해질 때, Trustpilot은 소비자가 정보에 입각한 선택을 할 수 있도록 소비자 경고를 표시합니다.

가짜 리뷰 대응에서 AI의 미래

미래는 생성 AI의 패턴 예측 능력으로 인해 가짜 리뷰를 대응하는 데 상당한 잠재력을 가지고 있습니다. 2007년 이후 Trustpilot의 광범위한 데이터와 경험은 더 나은 가짜 탐지 모델을 개발하는 데 좋은 위치를 제공합니다. 또한, AI는 투명성을 높이고 온라인에서 사용자를 안내할 수 있지만, 정교함이 증가함에 따라 더 큰 책임이 따릅니다.

온라인 리뷰의 미래 발전

인간 생성 콘텐츠와 AI 생성 콘텐츠의 구분이 커짐에 따라, 진정한 경험 기반 콘텐츠의 가치는 증가할 것입니다. Trustpilot과 같은 플랫폼은 기술, 사람, 커뮤니티, 프로세스에 투자하여 진정한 목소리를 강조함으로써 소비자와 비즈니스 모두에게 점점 더 가치 있는 존재가 될 것입니다.

이 통찰력 있는 인터뷰를 위해 Anoop Joshi에게 감사의 마음을 전합니다. 그의 관점은 온라인 리뷰의 복잡한 세계를 탐색하는 데 귀중한 통찰을 제공합니다. 당신의 생각은 어떻습니까? 이러한 통찰이 온라인 리뷰를 선별하는 데 더 나은 이해를 도왔나요? 아래 댓글에서 당신의 생각을 공유하세요.

소셜 미디어에서 제 일일 프로젝트 업데이트를 확인하세요. 주간 뉴스레터를 구독하는 것을 잊지 마시고, Twitter/X에서 @DavidGewirtz, Facebook에서 Facebook.com/DavidGewirtz, Instagram에서 Instagram.com/DavidGewirtz, YouTube에서 YouTube.com/DavidGewirtzTV를 팔로우하세요.