Ai Power Surge: CEO antrópico alerta de raça para entender

Logo após a cúpula de ação da IA ​​em Paris encerrada, o co-fundador e CEO da Anthropic, Dario Amodei, não se conteve. Ele chamou o evento de "oportunidade perdida" e enfatizou que precisamos aumentar o foco e a urgência em vários problemas importantes, considerando a rapidez com que a AI Tech está se movendo. Ele compartilhou esses pensamentos em um comunicado divulgado na terça -feira.

A antropia se uniu à poeira da startup francesa para um evento focado no desenvolvedor em Paris, onde o TechCrunch conversou com o Amodei no palco. Ele compartilhou sua perspectiva e pressionou por uma abordagem equilibrada à inovação e governança da IA, evitando o otimismo extremo e as duras críticas.

Amodei, que costumava ser neurocientista, disse: "Eu basicamente olhava para viver dentro de um cérebro real. E agora estamos olhando para viver em cérebros artificiais. Então, nos próximos meses, teremos alguns avanços interessantes na área de interpretabilidade - onde realmente estamos começando a entender como os modelos operam". Mas ele também apontou que é uma corrida. "É uma corrida entre tornar os modelos mais poderosos, o que é incrivelmente rápido para nós e incrivelmente rápido para os outros - você não pode realmente desacelerar, certo? ... nosso entendimento tem que acompanhar nossa capacidade de construir as coisas. Acho que esse é o único caminho", acrescentou.

Desde a primeira cúpula de IA em Bletchley, Reino Unido, a conversa sobre a governança da IA ​​mudou muito, influenciada pelo atual clima geopolítico. O vice -presidente dos EUA, JD Vance, falando na AI Action Summit, disse: "Não estou aqui esta manhã para falar sobre a segurança da IA, que foi o título da conferência há alguns anos. Estou aqui para falar sobre a oportunidade da IA".

Amodei, no entanto, está tentando preencher a lacuna entre segurança e oportunidade. Ele acredita que focar mais na segurança pode realmente ser uma oportunidade. "Na cúpula original, a cúpula do Reino Unido Bletchley, houve muitas discussões sobre testes e medições para vários riscos. E não acho que essas coisas diminuíssem muito a tecnologia", disse ele no evento antrópico. "De qualquer forma, fazer esse tipo de medição nos ajudou a entender melhor nossos modelos, que no final nos ajudam a produzir melhores modelos".

Mesmo ao enfatizar a segurança, Amodei deixou claro que o antropic ainda está em construção modelos de IA da fronteira. "Não quero fazer nada para reduzir a promessa. Estamos fornecendo modelos todos os dias em que as pessoas podem construir e que são usadas para fazer coisas incríveis. E definitivamente não devemos parar de fazer isso", disse ele. Mais tarde, ele acrescentou: "Quando as pessoas estão conversando muito sobre os riscos, eu meio que fico irritado e digo: 'Oh, cara, ninguém realmente fez um bom trabalho ao realmente estabelecer o quão grande essa tecnologia poderia ser'."

Quando o tópico se voltou para os modelos recentes do fabricante de LLM chineses, a Amodei subestimou suas realizações, chamando a reação pública de "inorgânica". Ele disse: "Honestamente, minha reação foi muito pequena. Vimos V3, que é o modelo básico do Deepseek R1, em dezembro. E esse foi um modelo impressionante. O modelo lançado em dezembro foi nesse tipo de curva de redução de custos muito normal que vimos em nossos modelos e outros modelos". O que chamou sua atenção foi que o modelo não estava vindo dos usuais "três ou quatro laboratórios de fronteira" nos EUA, como Google, Openai e Antrópico. Ele expressou preocupação com os governos autoritários que dominam a tecnologia. Quanto aos custos de treinamento reivindicados de Deepseek, ele os descartou como "apenas não precisos e não com base em fatos".

Enquanto Amodei não anunciou novos modelos no evento, ele sugeriu os próximos lançamentos com recursos aprimorados de raciocínio. "Geralmente, estamos focados em tentar fazer com que nossa própria opinião sobre os modelos de raciocínio que são melhor diferenciados. Preocupamo -nos em garantir que tenhamos capacidade suficiente, para que os modelos fiquem mais inteligentes e nos preocupamos com coisas de segurança", disse ele.

Antrópico também está enfrentando o desafio de seleção de modelos. Se você é um usuário do ChatGPT Plus, por exemplo, pode ser difícil decidir qual modelo usar para sua próxima mensagem.

Amodei questionou a distinção entre modelos normais e de raciocínio. "Ficamos um pouco intrigados com a ideia de que existem modelos normais e modelos de raciocínio e que eles são meio diferentes um do outro", disse ele. "Se eu estou falando com você, você não tem dois cérebros e um deles responde imediatamente e, como o outro espera mais tempo."

Ele acredita que deve haver uma transição mais suave entre modelos pré-treinados como Claude 3,5 sonetos ou GPT-4o e modelos treinados com aprendizado de reforço que podem produzir cadeia de thounshts (COT), como o O1 de Openai ou o R1 de Deepseek. "Achamos que eles devem existir como parte de uma única entidade contínua. E talvez ainda não estivemos lá, mas o Antrópico realmente quer mover as coisas nessa direção", disse Amodei. "Deveríamos ter uma transição mais suave daquela para modelos pré-treinados-em vez de 'aqui está a coisa a e aqui está B.'"

Como empresas de IA como antropia continuam impulsionando melhores modelos, a Amodei vê um enorme potencial de interrupção entre os setores. "Estamos trabalhando com algumas empresas farmacêuticas para usar Claude para escrever estudos clínicos e conseguiram reduzir o tempo necessário para escrever o relatório de estudo clínico de 12 semanas para três dias", disse ele.

Ele prevê um "renascimento da inovação disruptiva" em aplicativos de IA em setores como jurídico, financeiro, seguro, produtividade, software e energia. "Acho que haverá - basicamente - um renascimento da inovação disruptiva no espaço de aplicativos de IA. E queremos ajudá -lo, queremos apoiar tudo", concluiu.

Leia nossa cobertura completa da Cúpula de Ação de Inteligência Artificial em Paris.

O TechCrunch tem um boletim informativo focado na IA! Inscreva -se aqui para obtê -lo em sua caixa de entrada toda quarta -feira.