ДомГруппа Fei-Fei Li побуждает превентивное законодательство о безопасности ИИ
Новый отчет калифорнийской политической группы, возглавляемой пионером ИИ Фей-Фей Ли, предлагает законодателям учитывать риски ИИ, которые еще не наблюдались в реальном мире, при создании регулирующих политик в области ИИ. Этот промежуточный отчет на 41 странице, опубликованный во вторник, подготовлен Совместной калифорнийской рабочей группой по передовым моделям ИИ, созданной губернатором Гэвином Ньюсомом после того, как он наложил вето на спорный законопроект Калифорнии о безопасности ИИ, SB 1047. Ньюсом считал, что SB 1047 не совсем соответствует цели, но признал необходимость более глубокого изучения рисков ИИ для руководства законодателями.
В отчете Ли, совместно с соавторами Дженнифер Чейз, деканом Колледжа вычислительных наук Калифорнийского университета в Беркли, и Мариано-Флорентино Куэльяром, президентом Фонда Карнеги за международный мир, настаивают на принятии законов, которые сделали бы более прозрачной деятельность передовых лабораторий ИИ, таких как OpenAI. Перед публикацией отчет был рассмотрен представителями индустрии из разных сфер, включая убежденных сторонников безопасности ИИ, таких как лауреат премии Тьюринга Йошуа Бенжио, и тех, кто выступал против SB 1047, например, сооснователь Databricks Ион Стоика.
В отчете указано, что новые риски от систем ИИ могут потребовать принятия законов, обязывающих разработчиков моделей ИИ делиться с общественностью результатами своих тестов безопасности, информацией о том, как они получают данные, и мерами безопасности. Также предлагается разработать лучшие стандарты для сторонних проверок этих аспектов и корпоративных политик, а также усилить защиту для сотрудников и подрядчиков компаний ИИ, которые сигнализируют о нарушениях.
Ли и ее соавторы отмечают, что пока недостаточно доказательств того, что ИИ может способствовать кибератакам, созданию биологического оружия или другим «экстремальным» опасностям. Однако они также подчеркивают, что политика в области ИИ не должна ограничиваться только текущими проблемами; она должна учитывать, что может произойти в будущем, если не будет достаточных мер безопасности.
В отчете используется пример ядерного оружия: «Нам не нужно видеть, как взрывается ядерное оружие, чтобы знать, что оно может нанести огромный ущерб». Далее говорится: «Если те, кто говорит о наихудших рисках, окажутся правы — а мы не уверены, будет ли это так, — то бездействие в отношении передовых моделей ИИ сейчас может обойтись очень дорого».
Чтобы сделать разработку моделей ИИ более открытой, в отчете предлагается подход «доверяй, но проверяй». Разработчики моделей ИИ и их сотрудники должны иметь возможность сообщать общественности о важных аспектах, таких как внутренние тесты безопасности, а также обязаны подвергать свои заявления о тестировании проверке третьими сторонами.
Хотя отчет, который будет завершен в июне 2025 года, не поддерживает конкретные законы, он получил положительные отзывы от экспертов по обе стороны дебатов о политике в области ИИ.
Дин Болл, научный сотрудник Университета Джорджа Мейсона, специализирующийся на ИИ и не поддерживающий SB 1047, заявил на X, что отчет является шагом вперед для правил безопасности ИИ в Калифорнии. Это также победа для сторонников безопасности ИИ, по словам сенатора штата Калифорния Скотта Винера, который представил SB 1047 в прошлом году. Винер заявил в пресс-релизе, что отчет дополняет «срочные обсуждения управления ИИ, которые мы начали в законодательном органе в 2024 году».
Отчет, похоже, согласуется с частями SB 1047 и следующего законопроекта Винера, SB 53, такими как требование к разработчикам моделей ИИ отчитываться о результатах тестов безопасности. В более широкой перспективе это выглядит как столь необходимая победа для сторонников безопасности ИИ, чьи идеи теряли популярность в течение последнего года.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
SEO
Лучшие инструменты для анализа результатов поиска с помощью ИИ при разработке поисковой стратегии
XIX.AI подготовила подборку лучших и наиболее высокооцененных инструментов для анализа результатов поиска с помощью ИИ (2026 г.) на основе тщательных тестов в реальных условиях и еженедельно обновляемого рейтинга. Эти мощные инструменты помогут вам раскрыть скрытые возможности оптимизации, повысить эффективность контента и получить конкурентное преимущество в поиске. Найдите свой идеальный инструмент, чтобы уже сегодня усовершенствовать свою поисковую стратегию. Ознакомьтесь с ними прямо сейчас!
13 инструментов
xix.ai
Анализ данных
Лучшие инструменты ИИ для обнаружения аномалий при мониторинге KPI в командах SaaS и электронной коммерции
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
письмо
Лучшие генераторы конспектов на базе ИИ для длинных статей, оптимизированных для SEO
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
Образование и обучение
Инструменты на базе искусственного интеллекта для выполнения домашних заданий и подготовки к экзаменам
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
Музыкальная композиция
Инструменты для создания вокальных демо на основе ИИ для авторов песен, создания хуков, написания тоpline-мелодий и проведения многоязычных черновых сессий
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
Бизнес
Лучшие инструменты для анализа конкурентов на основе искусственного интеллекта для малого бизнеса
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
Комментарии (39)
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
Новый отчет калифорнийской политической группы, возглавляемой пионером ИИ Фей-Фей Ли, предлагает законодателям учитывать риски ИИ, которые еще не наблюдались в реальном мире, при создании регулирующих политик в области ИИ. Этот промежуточный отчет на 41 странице, опубликованный во вторник, подготовлен Совместной калифорнийской рабочей группой по передовым моделям ИИ, созданной губернатором Гэвином Ньюсомом после того, как он наложил вето на спорный законопроект Калифорнии о безопасности ИИ, SB 1047. Ньюсом считал, что SB 1047 не совсем соответствует цели, но признал необходимость более глубокого изучения рисков ИИ для руководства законодателями.
В отчете Ли, совместно с соавторами Дженнифер Чейз, деканом Колледжа вычислительных наук Калифорнийского университета в Беркли, и Мариано-Флорентино Куэльяром, президентом Фонда Карнеги за международный мир, настаивают на принятии законов, которые сделали бы более прозрачной деятельность передовых лабораторий ИИ, таких как OpenAI. Перед публикацией отчет был рассмотрен представителями индустрии из разных сфер, включая убежденных сторонников безопасности ИИ, таких как лауреат премии Тьюринга Йошуа Бенжио, и тех, кто выступал против SB 1047, например, сооснователь Databricks Ион Стоика.
В отчете указано, что новые риски от систем ИИ могут потребовать принятия законов, обязывающих разработчиков моделей ИИ делиться с общественностью результатами своих тестов безопасности, информацией о том, как они получают данные, и мерами безопасности. Также предлагается разработать лучшие стандарты для сторонних проверок этих аспектов и корпоративных политик, а также усилить защиту для сотрудников и подрядчиков компаний ИИ, которые сигнализируют о нарушениях.
Ли и ее соавторы отмечают, что пока недостаточно доказательств того, что ИИ может способствовать кибератакам, созданию биологического оружия или другим «экстремальным» опасностям. Однако они также подчеркивают, что политика в области ИИ не должна ограничиваться только текущими проблемами; она должна учитывать, что может произойти в будущем, если не будет достаточных мер безопасности.
В отчете используется пример ядерного оружия: «Нам не нужно видеть, как взрывается ядерное оружие, чтобы знать, что оно может нанести огромный ущерб». Далее говорится: «Если те, кто говорит о наихудших рисках, окажутся правы — а мы не уверены, будет ли это так, — то бездействие в отношении передовых моделей ИИ сейчас может обойтись очень дорого».
Чтобы сделать разработку моделей ИИ более открытой, в отчете предлагается подход «доверяй, но проверяй». Разработчики моделей ИИ и их сотрудники должны иметь возможность сообщать общественности о важных аспектах, таких как внутренние тесты безопасности, а также обязаны подвергать свои заявления о тестировании проверке третьими сторонами.
Хотя отчет, который будет завершен в июне 2025 года, не поддерживает конкретные законы, он получил положительные отзывы от экспертов по обе стороны дебатов о политике в области ИИ.
Дин Болл, научный сотрудник Университета Джорджа Мейсона, специализирующийся на ИИ и не поддерживающий SB 1047, заявил на X, что отчет является шагом вперед для правил безопасности ИИ в Калифорнии. Это также победа для сторонников безопасности ИИ, по словам сенатора штата Калифорния Скотта Винера, который представил SB 1047 в прошлом году. Винер заявил в пресс-релизе, что отчет дополняет «срочные обсуждения управления ИИ, которые мы начали в законодательном органе в 2024 году».
Отчет, похоже, согласуется с частями SB 1047 и следующего законопроекта Винера, SB 53, такими как требование к разработчикам моделей ИИ отчитываться о результатах тестов безопасности. В более широкой перспективе это выглядит как столь необходимая победа для сторонников безопасности ИИ, чьи идеи теряли популярность в течение последнего года.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
XIX.AI подготовила подборку лучших и наиболее высокооцененных инструментов для анализа результатов поиска с помощью ИИ (2026 г.) на основе тщательных тестов в реальных условиях и еженедельно обновляемого рейтинга. Эти мощные инструменты помогут вам раскрыть скрытые возможности оптимизации, повысить эффективность контента и получить конкурентное преимущество в поиске. Найдите свой идеальный инструмент, чтобы уже сегодня усовершенствовать свою поисковую стратегию. Ознакомьтесь с ними прямо сейчас!
13 инструментов
xix.ai
2026 г. Лучшие новейшие высокооцененные инструменты ИИ для обнаружения аномалий в мониторинге KPI для команд SaaS и электронной коммерции! XIX.AI подготовила мощную, меняющую правила игры коллекцию на основе строгих реальных тестов и еженедельно обновляемых рейтингов. Вы найдете подробные сравнительные данные по бесплатным и платным решениям, которые помогут вам определить обязательное к использованию решение, повышающее производительность и раскрывающее ваш потенциал в области ИИ. Исследуйте сейчас!
10 инструментов
xix.ai
2026 год: лучшие и самые высокооцененные генераторы конспектов на базе ИИ для длинных SEO-статей, тщательно отобранные XIX.AI. Эти мощные инструменты обеспечивают революционную помощь в быстром создании высококачественного контента, значительно повышая эффективность написания текстов. Ознакомьтесь со сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, которые помогут вам найти вариант, который обязательно стоит попробовать и который соответствует вашим потребностям. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ.
8 инструментов
xix.ai
2026: лучшие современные инструменты на базе ИИ для выполнения домашних заданий и подготовки к экзаменам! XIX.AI подготовило рейтинг самых эффективных и революционных инструментов, которые помогают учащимся повысить продуктивность, оптимизировать выполнение домашних заданий и сдавать экзамены на «отлично», проходя проверку в реальных условиях. Получите сравнение бесплатных и платных версий, подробные рейтинги и варианты, которые обязательно стоит попробовать, чтобы раскрыть свой потенциал с помощью ИИ. Узнайте больше прямо сейчас!
10 инструментов
xix.ai
2026 г. лучшие инструменты для демо-записи вокала на базе ИИ для авторов песен, создателей хуков и команд, работающих с контентом на нескольких языках! XIX.AI подготовил список высокооцененных мощных инструментов, изменивших правила игры, прошедших строгие реальные тесты. Вы найдёте подробные данные сравнения бесплатных и платных версий, комплексные рейтинги и обязательные к использованию варианты, которые помогут повысить эффективность написания и раскрыть ваш творческий потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для всех ваших задач по созданию контента!
9 инструментов
xix.ai
2026: новейшие, лучшие и самые высокооцененные инструменты для анализа конкурентов на базе ИИ для малого бизнеса! XIX.AI подготовила чрезвычайно мощную подборку, способную кардинально изменить ситуацию на рынке, которая еженедельно обновляется на основе тщательных тестов в реальных условиях и подробных рейтингов. Вы найдете здесь исчерпывающее сравнение бесплатных и платных версий, которое поможет вам определить инструменты, которые обязательно стоит попробовать, чтобы повысить свою продуктивность и получить конкурентное преимущество. Ознакомьтесь с ней прямо сейчас, чтобы найти идеальный инструмент для себя!
9 инструментов
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
