Джефф Ралстон из Y Combinator запускает новый фонд безопасности ИИ

Джефф Ролстон, известная фигура в мире стартапов благодаря своему долгому сотрудничеству с Y Combinator, официально вернулся к активному инвестированию, о чем он объявил в четверг.
Его новый фонд, названный Safe Artificial Intelligence Fund (SAIF), отражает его основную миссию и одновременно служит умной аббревиатурой.
Как сообщается на сайте фонда, Ралстон нацелился на стартапы, занимающиеся "повышением надежности, безопасности и ответственным внедрением ИИ". Он намерен выдавать чеки на 100 000 долларов, используя соглашение SAFE - "каламбур, конечно", - с предельной оценкой в 10 миллионов долларов. SAFE, известная разработка Y Combinator, - это простое соглашение о будущем акционерном капитале, которое откладывает оценку стоимости до более позднего раунда финансирования.
Хотя интерес венчурного капитала к стартапам в области ИИ широко распространен, подход Ралстона сосредоточен на безопасном ИИ, и он признает, что этот фокус намеренно широк.
"Большинство проектов ИИ сегодня направлены на решение проблем, повышение эффективности или создание новых возможностей. Хотя по своей сути они небезопасны, безопасность не является их главным приоритетом", - объяснил Ральстон изданию TechCrunch. "Моя цель - финансировать стартапы, для которых безопасный ИИ является главной задачей, как я это определяю в очень широком смысле".
В сферу его инвестиций входят компании, нацеленные на повышение безопасности ИИ, например, те, которые повышают прозрачность принятия решений в области ИИ или устанавливают контрольные показатели безопасности. В сферу его интересов также входят инструменты для защиты интеллектуальной собственности, обеспечения соответствия нормативным требованиям, борьбы с дезинформацией и обнаружения атак на основе ИИ. Кроме того, его интересуют функциональные инструменты ИИ со встроенной системой безопасности, такие как передовые системы прогнозирования ИИ или переговорные платформы на базе ИИ, защищающие корпоративные секреты.
Хотя это может напоминать инвестиционный тезис других венчурных фондов, ориентированных на ИИ, Ралстон исключает некоторые области. Один из ярких примеров - полностью автономные системы вооружений.
"Существуют, безусловно, небезопасные области применения ИИ, такие как разработка биооружия или управление обычными вооружениями без контроля со стороны человека", - заявил он.
Фактически, он стремится поддержать "системы безопасности оружия", которые смогут выявлять или предотвращать атаки со стороны оружия, управляемого ИИ.
Эта позиция представляет собой контрастную перспективу для многих нынешних основателей и инвесторов оборонных технологий. Как уже рассказывал TechCrunch, некоторые разработчики ИИ-оружия все чаще выступают за системы, работающие независимо от человеческого контроля.
Несмотря на переполненный инвестиционный ландшафт ИИ, Ралстон считает, что его связи в Y Combinator могут дать ему преимущество. Он покинул YC в 2022 году после трехлетнего пребывания на посту президента - его сменил Гэрри Тан - и более десяти лет работы в качестве советника.
Ролстон планирует предложить то же самое наставничество, которое он обеспечивал в известном стартап-акселераторе, включая рекомендации по подаче заявки в Y Combinator. Он также обещает помочь портфельным компаниям получить доступ к своей обширной сети инвесторов.
Ральстон не раскрывает размер фонда, количество стартапов, которые он планирует поддержать, а также имена своих партнеров.
Связанная статья
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Рекомендации по связанным специальным темам
Комментарии (3)
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?

Джефф Ролстон, известная фигура в мире стартапов благодаря своему долгому сотрудничеству с Y Combinator, официально вернулся к активному инвестированию, о чем он объявил в четверг.
Его новый фонд, названный Safe Artificial Intelligence Fund (SAIF), отражает его основную миссию и одновременно служит умной аббревиатурой.
Как сообщается на сайте фонда, Ралстон нацелился на стартапы, занимающиеся "повышением надежности, безопасности и ответственным внедрением ИИ". Он намерен выдавать чеки на 100 000 долларов, используя соглашение SAFE - "каламбур, конечно", - с предельной оценкой в 10 миллионов долларов. SAFE, известная разработка Y Combinator, - это простое соглашение о будущем акционерном капитале, которое откладывает оценку стоимости до более позднего раунда финансирования.
Хотя интерес венчурного капитала к стартапам в области ИИ широко распространен, подход Ралстона сосредоточен на безопасном ИИ, и он признает, что этот фокус намеренно широк.
"Большинство проектов ИИ сегодня направлены на решение проблем, повышение эффективности или создание новых возможностей. Хотя по своей сути они небезопасны, безопасность не является их главным приоритетом", - объяснил Ральстон изданию TechCrunch. "Моя цель - финансировать стартапы, для которых безопасный ИИ является главной задачей, как я это определяю в очень широком смысле".
В сферу его инвестиций входят компании, нацеленные на повышение безопасности ИИ, например, те, которые повышают прозрачность принятия решений в области ИИ или устанавливают контрольные показатели безопасности. В сферу его интересов также входят инструменты для защиты интеллектуальной собственности, обеспечения соответствия нормативным требованиям, борьбы с дезинформацией и обнаружения атак на основе ИИ. Кроме того, его интересуют функциональные инструменты ИИ со встроенной системой безопасности, такие как передовые системы прогнозирования ИИ или переговорные платформы на базе ИИ, защищающие корпоративные секреты.
Хотя это может напоминать инвестиционный тезис других венчурных фондов, ориентированных на ИИ, Ралстон исключает некоторые области. Один из ярких примеров - полностью автономные системы вооружений.
"Существуют, безусловно, небезопасные области применения ИИ, такие как разработка биооружия или управление обычными вооружениями без контроля со стороны человека", - заявил он.
Фактически, он стремится поддержать "системы безопасности оружия", которые смогут выявлять или предотвращать атаки со стороны оружия, управляемого ИИ.
Эта позиция представляет собой контрастную перспективу для многих нынешних основателей и инвесторов оборонных технологий. Как уже рассказывал TechCrunch, некоторые разработчики ИИ-оружия все чаще выступают за системы, работающие независимо от человеческого контроля.
Несмотря на переполненный инвестиционный ландшафт ИИ, Ралстон считает, что его связи в Y Combinator могут дать ему преимущество. Он покинул YC в 2022 году после трехлетнего пребывания на посту президента - его сменил Гэрри Тан - и более десяти лет работы в качестве советника.
Ролстон планирует предложить то же самое наставничество, которое он обеспечивал в известном стартап-акселераторе, включая рекомендации по подаче заявки в Y Combinator. Он также обещает помочь портфельным компаниям получить доступ к своей обширной сети инвесторов.
Ральстон не раскрывает размер фонда, количество стартапов, которые он планирует поддержать, а также имена своих партнеров.
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Y CombinatorのGeoff RalstonがAI安全基金を設立か。最近のAI開発のスピードを考えると、安全性への投資は必須だね。🤖 技術の進歩だけでなく、倫理面でのガードレールがしっかりしているか気になるところ。投資家としての目利きも期待したい! #AI #Safety
Great to see someone with Ralston's track record focusing on AI safety. But is a dedicated fund enough to actually steer the industry away from potential dangers? 🤔 Curious how they'll vet startups – just another buzzword or real accountability?





Дом






