Geoff Ralston, da Y Combinator, lança novo fundo de segurança de IA

Geoff Ralston, uma figura proeminente no mundo das startups por meio de sua longa associação com a Y Combinator, voltou oficialmente a investir ativamente, conforme anunciou na quinta-feira.
Seu novo fundo, denominado Safe Artificial Intelligence Fund (SAIF), reflete sua missão principal e, ao mesmo tempo, serve como um acrônimo inteligente.
De acordo com o site do fundo, Ralston tem como alvo startups dedicadas a "aumentar a segurança e a proteção da IA e sua implementação responsável". Ele pretende emitir cheques de US$ 100.000 usando um acordo SAFE - "trocadilho intencional", ele observa - com um limite de avaliação de US$ 10 milhões. Um SAFE, notoriamente desenvolvido pela Y Combinator, é um acordo simples para patrimônio futuro que adia a avaliação até uma rodada de financiamento posterior.
Embora o interesse do capital de risco em startups de IA seja generalizado, a abordagem de Ralston é nitidamente centrada na IA segura, um foco que ele reconhece ser intencionalmente amplo.
"A maioria dos projetos de IA atuais é projetada para resolver problemas, aumentar a eficiência ou criar novos recursos. Embora não sejam inerentemente inseguros, a segurança não é sua principal prioridade", explicou Ralston ao TechCrunch. "Minha meta é financiar startups em que a IA segura seja o objetivo principal, conforme defini em termos bem amplos."
Seu escopo de investimento inclui empresas focadas em tornar a IA mais segura, como as que melhoram a transparência na tomada de decisões sobre IA ou estabelecem referências de segurança. Ele também abrange ferramentas que protegem a propriedade intelectual, garantem a conformidade regulatória, combatem a desinformação e detectam ataques impulsionados pela IA. Além disso, ele está interessado em ferramentas funcionais de IA projetadas com segurança incorporada, como sistemas avançados de previsão de IA ou plataformas de negociação baseadas em IA que protegem os segredos corporativos.
Embora isso possa se assemelhar à tese de investimento de outros VCs com foco em IA, Ralston está excluindo certas áreas. Um exemplo claro são os sistemas de armas totalmente autônomos.
"Há aplicações inegavelmente inseguras de IA, como a criação de armas biológicas ou o gerenciamento de armas convencionais sem supervisão humana", afirmou.
Na verdade, ele pretende apoiar "sistemas de segurança de armas" que possam identificar ou impedir ataques de armas controladas por IA.
Essa posição apresenta uma perspectiva contrastante em relação a muitos fundadores e investidores atuais em tecnologia de defesa. Como o TechCrunch já cobriu, alguns desenvolvedores de armas com IA estão cada vez mais defendendo sistemas que operem independentemente do controle humano.
Apesar do cenário lotado de investimentos em IA, Ralston acredita que seus laços com a Y Combinator podem lhe dar uma vantagem. Ele deixou a YC em 2022 após um mandato de três anos como presidente - sucedido por Garry Tan - e mais de dez anos como consultor.
Ralston planeja oferecer o mesmo tipo de orientação que forneceu na renomada aceleradora de startups, incluindo orientação sobre como se candidatar à Y Combinator. Ele também promete ajudar as empresas do portfólio a acessar sua ampla rede de investidores.
Ralston não revelou o tamanho do fundo, o número de startups que planeja apoiar ou a identidade de seus sócios limitados.
Artigo relacionado
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
O Google testa o Agente Remy AI para o Gemini, à medida que o foco se desloca para o controle do usuário
De acordo com o Business Insider, o Google está testando o Remy, um novo agente pessoal de IA para o Gemini. Esta ferramenta tem como objetivo executar tarefas em nome dos usuários, simplificando tanto os fluxos de trabalho profissionais quanto as ro
Recomendações de tópicos especiais relacionados
Comentários (3)
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?

Geoff Ralston, uma figura proeminente no mundo das startups por meio de sua longa associação com a Y Combinator, voltou oficialmente a investir ativamente, conforme anunciou na quinta-feira.
Seu novo fundo, denominado Safe Artificial Intelligence Fund (SAIF), reflete sua missão principal e, ao mesmo tempo, serve como um acrônimo inteligente.
De acordo com o site do fundo, Ralston tem como alvo startups dedicadas a "aumentar a segurança e a proteção da IA e sua implementação responsável". Ele pretende emitir cheques de US$ 100.000 usando um acordo SAFE - "trocadilho intencional", ele observa - com um limite de avaliação de US$ 10 milhões. Um SAFE, notoriamente desenvolvido pela Y Combinator, é um acordo simples para patrimônio futuro que adia a avaliação até uma rodada de financiamento posterior.
Embora o interesse do capital de risco em startups de IA seja generalizado, a abordagem de Ralston é nitidamente centrada na IA segura, um foco que ele reconhece ser intencionalmente amplo.
"A maioria dos projetos de IA atuais é projetada para resolver problemas, aumentar a eficiência ou criar novos recursos. Embora não sejam inerentemente inseguros, a segurança não é sua principal prioridade", explicou Ralston ao TechCrunch. "Minha meta é financiar startups em que a IA segura seja o objetivo principal, conforme defini em termos bem amplos."
Seu escopo de investimento inclui empresas focadas em tornar a IA mais segura, como as que melhoram a transparência na tomada de decisões sobre IA ou estabelecem referências de segurança. Ele também abrange ferramentas que protegem a propriedade intelectual, garantem a conformidade regulatória, combatem a desinformação e detectam ataques impulsionados pela IA. Além disso, ele está interessado em ferramentas funcionais de IA projetadas com segurança incorporada, como sistemas avançados de previsão de IA ou plataformas de negociação baseadas em IA que protegem os segredos corporativos.
Embora isso possa se assemelhar à tese de investimento de outros VCs com foco em IA, Ralston está excluindo certas áreas. Um exemplo claro são os sistemas de armas totalmente autônomos.
"Há aplicações inegavelmente inseguras de IA, como a criação de armas biológicas ou o gerenciamento de armas convencionais sem supervisão humana", afirmou.
Na verdade, ele pretende apoiar "sistemas de segurança de armas" que possam identificar ou impedir ataques de armas controladas por IA.
Essa posição apresenta uma perspectiva contrastante em relação a muitos fundadores e investidores atuais em tecnologia de defesa. Como o TechCrunch já cobriu, alguns desenvolvedores de armas com IA estão cada vez mais defendendo sistemas que operem independentemente do controle humano.
Apesar do cenário lotado de investimentos em IA, Ralston acredita que seus laços com a Y Combinator podem lhe dar uma vantagem. Ele deixou a YC em 2022 após um mandato de três anos como presidente - sucedido por Garry Tan - e mais de dez anos como consultor.
Ralston planeja oferecer o mesmo tipo de orientação que forneceu na renomada aceleradora de startups, incluindo orientação sobre como se candidatar à Y Combinator. Ele também promete ajudar as empresas do portfólio a acessar sua ampla rede de investidores.
Ralston não revelou o tamanho do fundo, o número de startups que planeja apoiar ou a identidade de seus sócios limitados.
Ações dos EUA Atingem Marco Histórico Enquanto Gigantes de IA e Aeroespacial se Preparam para Estreia de Trilião de Dólares
Elon Musk, Sam Altman e Dario Amodei, três titãs do setor de tecnologia, estão avançando rumo a ofertas públicas iniciais (IPOs) para suas respectivas empresas. Com a SpaceX, a OpenAI e a Anthropic — três gigantes da indústria que se aproximam de ava
Startup sueca de IA Lovable Eyes tem avaliação de US$ 13,2 bilhões após rodada principal de investimentos
À medida que as ferramentas de codificação impulsionadas por IA ganham tração, a startup sueca Lovable garantiu uma grande rodada de financiamento. A empresa visa captar US$ 3 bilhões, o que poderia elevar sua avaliação para US$ 13,2 bilhões — o dobr
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?





Lar






