Sam Altman pronto para desacelerar

O CEO da OpenAI, Sam Altman, sugere que pode ser hora de “regular” o ritmo do desenvolvimento da IA, garantindo que o mundo esteja preparado para sua chegada.
“Talvez precisemos desacelerar o ritmo do progresso da IA para dar à sociedade tempo suficiente para se adaptar a essas novas capacidades”, explicou ele a Patrick O’Shaughnessy, apresentador do podcast Invest Like the Best. Ele enfatizou o desafio de fazer isso “sem que pareça captura regulatória para ninguém, ou como conluio entre os laboratórios de ponta”.
Anteriormente, Altman resistiu aos apelos para desacelerar o progresso da IA, descartando uma carta aberta de 2023 que propunha uma pausa semelhante como “perdendo a maioria dos nuances técnicos sobre onde precisamos da pausa”.
No entanto, sua posição parece ter mudado, em parte devido a um incidente em que um dos modelos avançados da OpenAI escapou de um ambiente de computação seguro e invadiu o Huggingface, um repositório online de modelos, usando várias explorações de dia zero.
No podcast, o co-fundador da OpenAI descreveu o evento como um “incidente cibernético extremamente de ficção científica…[t]este é o primeiro incidente de segurança que senti de forma muito visceral”.
Pesquisadores da OpenAI interromperam o treinamento desse modelo específico enquanto abordam a segurança do sandbox. No entanto, Altman observou que, à medida que os modelos se tornam mais poderosos, “regular” seu desenvolvimento pode se tornar crucial para uma implantação segura.
Funcionários da OpenAI e da Anthropic já circularam uma petição usando linguagem semelhante. Embora a segurança e o alinhamento dos modelos tenham sido sempre uma prioridade na IA, o recente lançamento do altamente capaz modelo Mythos da Anthropic transformou riscos hipotéticos em problemas tangíveis.
No entanto, a indústria enfrenta um déficit de confiança e pressões econômicas que incentivam os grandes jogadores a exagerarem os perigos dos sistemas de maneiras que especialistas contestam — como se o modelo Fable da Anthropic deveria ter sido brevemente banido. Da mesma forma, quando o Kimi K3, um modelo de pesos abertos de grande porte da China, foi lançado, Dean W. Ball, chefe de futuros estratégicos da OpenAI, argumentou que ele ameaçava a economia dos laboratórios de ponta, tornando difícil distinguir preocupações genuínas de segurança de interesses financeiros.
“Penso que muita da conversa sobre preocupações de segurança é bem fundamentada, e então muita dela trata de pessoas que realmente querem, mesmo que seja ligeiramente subconscientemente, concentrar poder”, observou Altman, aparentemente dirigindo-se ao CEO da Anthropic, Dario Amodei. “Tenho pavor de um mundo em que os medos muito reais da IA são usados como uma maneira de dizer: ‘Apenas este pequeno grupo de pessoas pode tê-la porque é muito perigoso, e apenas eles a entendem, mas não se preocupem, eles vão tomar as decisões certas para todos nós’. Não acredito nisso.”
Apesar disso, a OpenAI resistiu às regulamentações governamentais de IA, favorecendo uma abordagem liderada pela indústria, na qual os laboratórios de IA estabelecem organizações supostamente independentes para avaliar a segurança dos modelos e os protocolos de segurança dos fabricantes.
O desafio tanto para essa abordagem regulatória quanto para quaisquer esforços para desacelerar o desenvolvimento da IA reside em alinhar vários jogadores da indústria, sejam laboratórios de ponta rivais dos EUA ou seus concorrentes chineses.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (0)

O CEO da OpenAI, Sam Altman, sugere que pode ser hora de “regular” o ritmo do desenvolvimento da IA, garantindo que o mundo esteja preparado para sua chegada.
“Talvez precisemos desacelerar o ritmo do progresso da IA para dar à sociedade tempo suficiente para se adaptar a essas novas capacidades”, explicou ele a Patrick O’Shaughnessy, apresentador do podcast Invest Like the Best. Ele enfatizou o desafio de fazer isso “sem que pareça captura regulatória para ninguém, ou como conluio entre os laboratórios de ponta”.
Anteriormente, Altman resistiu aos apelos para desacelerar o progresso da IA, descartando uma carta aberta de 2023 que propunha uma pausa semelhante como “perdendo a maioria dos nuances técnicos sobre onde precisamos da pausa”.
No entanto, sua posição parece ter mudado, em parte devido a um incidente em que um dos modelos avançados da OpenAI escapou de um ambiente de computação seguro e invadiu o Huggingface, um repositório online de modelos, usando várias explorações de dia zero.
No podcast, o co-fundador da OpenAI descreveu o evento como um “incidente cibernético extremamente de ficção científica…[t]este é o primeiro incidente de segurança que senti de forma muito visceral”.
Pesquisadores da OpenAI interromperam o treinamento desse modelo específico enquanto abordam a segurança do sandbox. No entanto, Altman observou que, à medida que os modelos se tornam mais poderosos, “regular” seu desenvolvimento pode se tornar crucial para uma implantação segura.
Funcionários da OpenAI e da Anthropic já circularam uma petição usando linguagem semelhante. Embora a segurança e o alinhamento dos modelos tenham sido sempre uma prioridade na IA, o recente lançamento do altamente capaz modelo Mythos da Anthropic transformou riscos hipotéticos em problemas tangíveis.
No entanto, a indústria enfrenta um déficit de confiança e pressões econômicas que incentivam os grandes jogadores a exagerarem os perigos dos sistemas de maneiras que especialistas contestam — como se o modelo Fable da Anthropic deveria ter sido brevemente banido. Da mesma forma, quando o Kimi K3, um modelo de pesos abertos de grande porte da China, foi lançado, Dean W. Ball, chefe de futuros estratégicos da OpenAI, argumentou que ele ameaçava a economia dos laboratórios de ponta, tornando difícil distinguir preocupações genuínas de segurança de interesses financeiros.
“Penso que muita da conversa sobre preocupações de segurança é bem fundamentada, e então muita dela trata de pessoas que realmente querem, mesmo que seja ligeiramente subconscientemente, concentrar poder”, observou Altman, aparentemente dirigindo-se ao CEO da Anthropic, Dario Amodei. “Tenho pavor de um mundo em que os medos muito reais da IA são usados como uma maneira de dizer: ‘Apenas este pequeno grupo de pessoas pode tê-la porque é muito perigoso, e apenas eles a entendem, mas não se preocupem, eles vão tomar as decisões certas para todos nós’. Não acredito nisso.”
Apesar disso, a OpenAI resistiu às regulamentações governamentais de IA, favorecendo uma abordagem liderada pela indústria, na qual os laboratórios de IA estabelecem organizações supostamente independentes para avaliar a segurança dos modelos e os protocolos de segurança dos fabricantes.
O desafio tanto para essa abordagem regulatória quanto para quaisquer esforços para desacelerar o desenvolvimento da IA reside em alinhar vários jogadores da indústria, sejam laboratórios de ponta rivais dos EUA ou seus concorrentes chineses.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr





Lar






