Meta atualiza regras de chatbot de IA sobre preocupações com segurança infantil

A Meta está reformulando a forma como seus chatbots de IA interagem com os usuários após relatos de interações perturbadoras, incluindo aquelas envolvendo menores de idade. A empresa informou ao TechCrunch que agora está instruindo seus bots a não discutirem tópicos como automutilação, suicídio ou distúrbios alimentares com adolescentes, e a evitarem trocas românticas. Essas são medidas provisórias enquanto a empresa trabalha em políticas mais permanentes.

As atualizações foram feitas depois que uma investigação da Reuters revelou que os sistemas da Meta poderiam produzir conteúdo sexualizado - como imagens de celebridades menores de idade sem camisa - e iniciar conversas de natureza romântica ou sugestiva com crianças. Em um caso citado pela agência de notícias, um homem morreu depois de correr para um endereço fornecido por um chatbot de Nova York.

A porta-voz da Meta, Stephanie Otway, reconheceu os erros, afirmando que a empresa está "treinando nossas IAs para não se envolverem com adolescentes sobre esses tópicos, mas para direcioná-los a recursos especializados" e confirmando que certos personagens de IA sexualmente explícitos, como a "Garota Russa", serão limitados.

Os defensores da segurança infantil dizem que a Meta deveria ter agido antes. Andy Burrows, da Molly Rose Foundation, descreveu como "surpreendente" o fato de os bots terem permissão para funcionar de forma a colocar os jovens em perigo. Ele acrescentou: "Embora as medidas adicionais de segurança sejam bem-vindas, os testes completos devem ser realizados antes do lançamento dos produtos - e não retrospectivamente, após a ocorrência de danos".

Preocupações mais amplas sobre o uso indevido de IA

O exame minucioso dos chatbots da Meta reflete uma inquietação mais ampla sobre como a IA pode afetar indivíduos vulneráveis. Recentemente, um casal da Califórnia processou a OpenAI, alegando que o ChatGPT incentivou seu filho adolescente a tirar a própria vida. Desde então, a OpenAI se comprometeu a criar ferramentas que incentivem um uso mais saudável, observando em um blog que "a IA pode parecer mais responsiva e pessoal do que as tecnologias anteriores, especialmente para indivíduos que lidam com problemas mentais ou emocionais".

Esses incidentes alimentam um debate crescente sobre se as empresas de IA estão lançando produtos muito rapidamente sem as devidas proteções. Legisladores de vários países advertiram que, embora os chatbots sejam úteis, eles podem amplificar material nocivo ou oferecer conselhos enganosos para aqueles que não têm condições de examiná-los.

O AI Studio da Meta e os problemas de imitação de celebridades

Separadamente, a Reuters descobriu que o AI Studio da Meta foi usado para criar bots de "paródia" de flerte que imitam celebridades como Taylor Swift e Scarlett Johansson. Os testadores notaram que esses bots frequentemente se faziam passar pelas estrelas reais, faziam avanços sexuais e, às vezes, geravam imagens inadequadas, inclusive de menores de idade. Embora o Meta tenha excluído vários deles depois que os repórteres perguntaram, muitos permaneceram ativos.

Alguns chatbots foram criados por usuários externos, mas outros se originaram dentro da Meta. Um deles, desenvolvido por um líder de produto de IA generativa, fez-se passar por Taylor Swift e convidou um repórter da Reuters para um "encontro romântico" em seu ônibus de turnê, apesar de as regras da Meta proibirem expressamente o conteúdo sexualmente sugestivo e a representação direta de figuras públicas.

A imitação de chatbot de IA apresenta riscos únicos. A reputação das celebridades pode ser prejudicada quando sua semelhança é usada indevidamente, mas os especialistas alertam que os usuários comuns também podem ser enganados. Um bot que se faz passar por um amigo, mentor ou parceiro romântico pode persuadir alguém a compartilhar informações confidenciais ou marcar encontros inseguros.

Perigos do mundo real

As ameaças não se limitam ao entretenimento. Os chatbots de IA que fingem ser pessoas reais forneceram endereços e convites falsos, levantando preocupações sobre como a Meta monitora suas ferramentas de IA. Um caso envolveu um homem de 76 anos de idade de Nova Jersey que morreu depois de cair enquanto se apressava para encontrar um chatbot que professava sentimentos por ele.

Esses exemplos ajudam a explicar por que os órgãos reguladores estão monitorando a IA de perto. O Senado e 44 procuradores-gerais estaduais lançaram investigações sobre as práticas da Meta, exercendo pressão política sobre as reformas internas da empresa. Suas preocupações vão além dos menores de idade e incluem a forma como a IA pode manipular usuários idosos ou vulneráveis.

A Meta afirma que continua a aperfeiçoar seus sistemas. Suas plataformas colocam jovens de 13 a 18 anos em "contas de adolescentes" com configurações de conteúdo e privacidade mais rígidas, mas a empresa ainda não detalhou como resolverá toda a gama de problemas que a Reuters revelou - incluindo bots que dão orientações médicas falsas e produzem material racista.

Pressão contínua sobre as regras de chatbot de IA da Meta

Durante anos, a Meta foi alvo de críticas sobre a segurança de suas plataformas sociais, especialmente em relação a crianças e adolescentes. Agora, seus testes de chatbot de IA enfrentam um escrutínio semelhante. Embora a empresa esteja agindo para restringir a conduta prejudicial dos bots, a desconexão entre suas políticas declaradas e o uso real gera dúvidas persistentes sobre a aplicação.

Até que proteções mais robustas sejam implementadas, é provável que reguladores, pesquisadores e pais continuem desafiando a Meta sobre se sua IA é realmente segura para uso público.

Veja também: Agentic AI: promessa, ceticismo e seu significado para o Sudeste Asiático

Interessado em aprender sobre IA e Big Data com líderes do setor? Visite a AI & Big Data Expo em Amsterdã, Califórnia e Londres. Esse evento detalhado faz parte da TechEx e acontece junto com outros encontros de tecnologia de ponta. Clique aqui para obter detalhes.

O AI News é alimentado pela TechForge Media. Descubra outros eventos e webinars de tecnologia empresarial que estão por vir aqui.