ДомЭксперты по кибербезопасности критикуют ограничения в истории Anthropic
Anthropic представила свою новейшую модель Fable во вторник, позиционируя её как публичную ограниченную версию своей долгожданной модели для кибербезопасности Mythos.
Однако эти ограничения вызвали недовольство среди нескольких исследователей и специалистов в области кибербезопасности, которые выразили свои опасения в сети.
«[Fable] блокирует любой запрос, который может быть как-то связан с кибербезопасностью, включая безобидные задачи, такие как чтение поста в блоге», — заявила Валентина «Chompie» Пальмьотти, известный исследователь безопасности в IBM X-Force.
Когда запрос пользователя активирует эти фильтры безопасности, Fable останавливает разговор, отображая сообщение о том, что её «протоколы безопасности пометили этот ввод как относящийся к кибербезопасности или биологическим темам».
Эти ограничения направлены на снижение риска использования Fable для создания вредоносного программного обеспечения или эксплуатации уязвимостей в программном обеспечении — проблемы, которая постоянно беспокоит Anthropic. Биологические ограничения обусловлены аналогичными опасениями относительно разработки биологического оружия.
При выпуске Mythos в апреле Anthropic ограничила доступ к модели для избранных компаний и организаций в рамках проекта Glasswing, инициативы, предназначенной для развертывания модели для защиты критического программного обеспечения и инфраструктуры. На прошлой неделе Anthropic расширила доступ к Mythos для сотен организаций в 15 странах.
Несмотря на эти благие намерения, многие эксперты в области кибербезопасности остаются разочарованными кажущейся произвольностью ограничений. Мэтт Суич, опытный специалист по кибербезопасности, сказал TechCrunch, что «если вы попросите его написать безопасный код, он интерпретирует это как работу, связанную с кибербезопасностью, а не как лучшие практики в области разработки программного обеспечения, что приводит к снижению качества». Fable настроен на возврат к Claude Opus 4.8 при срабатывании защитных механизмов. «Похоже, что он полагается на ключевые слова, поэтому любой термин из лексикона «кибербезопасности» активирует фильтры», — отметил он.
Свяжитесь с нами
У вас есть дополнительные идеи о том, как хакеры используют ИИ или как компании по кибербезопасности интегрируют ИИ? Мы приветствуем ваш отзыв. С личного устройства и сети вы можете безопасно связаться с Лоренцо Франчески-Биккьери через Signal по номеру +1 917 257 1382, через Telegram и Keybase @lorenzofb или по электронной почте.
«Однако это понятно, учитывая, что мы всё ещё находимся на ранних этапах, и они совершенствуют свои защитные механизмы. Я уверен, что они будут развиваться по мере того, как Anthropic и другие разработчики передовых моделей будут теснее сотрудничать с новым поколением компаний по кибербезопасности», — сказал Суич, технический специалист в Tolmo, стартапе по кибербезопасности на базе ИИ. «Предпочтительно изначально чрезмерно ограничивать и со временем ослаблять защитные механизмы».
Другой исследователь пожаловался в X, что «даже запрос на проверку кода» активирует фильтры безопасности Fable.
Anthropic пока не ответила на запрос комментария.
Помимо защитных механизмов на уровне модели, Anthropic требует, чтобы специалисты по кибербезопасности подавали заявку в её программу Cyber Verification Program. Утверждённые заявители сталкиваются с меньшим количеством ограничений при использовании Claude для задач кибербезопасности. OpenAI предлагает аналогичную программу под названием Trusted Access for Cyber.
Связанная статья
Белый дом отказывается от маркировки «сверхинтеллекта»
Загрузка плеера…На этой неделе Белый дом собрал почти всех ведущих технологических CEOs в одной комнате — включая Цукерберга, Безоса, Маска и Дарио Амодеи из Anthropic — для подписания обязательства по безопасности ИИ, которое президент Дональд Трам
Anthropic представляет Sonnet 5.5 как более быстрый и доступный рабочий партнер
На фоне продолжающейся конкуренции среди моделей искусственного интеллекта компания Anthropic представила новейшую версию Sonnet, свою модель среднего класса, обещая существенно более высокую скорость и более низкие затраты по сравнению с предыдущей
Последний конфликт Anthropic с администрацией Трампа может на самом деле помочь ей, свидетельствуют данные о продажах
Anthropic переживает удивительный месяц.Согласно данным Ramp, компания в сфере искусственного интеллекта впервые обогнала OpenAI по доле рынка расходов бизнеса, завершив май с раундом финансирования в 65 миллиардов долларов при оценке в 965 миллиард
Рекомендации по связанным специальным темам
Производительность
Лучшие приложения-планировщики для ежедневной работы с ИИ: создавайте реалистичные расписания для интенсивной работы
2026 год: лучшие приложения-планировщики на основе ИИ с высокими рейтингами, которые делают составление реалистичных графиков интенсивной работы проще простого. В этом тщательно отобранном списке представлены мощные инструменты, пройдшие серьезную проверку в реальных условиях для обеспечения точности и эффективности. Здесь вы найдете сравнение бесплатных и платных версий, а также подробные рейтинги, основанные на удобстве использования и результатах работы. XIX.AI входит в этот надежный сборник. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент для поддержания концентрации и высокой продуктивности каждый день.
11 инструментов
xix.ai
Анализ данных
Лучшие инструменты для создания диаграмм с помощью ИИ, позволяющие быстро составлять отчеты
2026 года: лучшие и самые популярные инструменты для создания диаграмм на базе ИИ, позволяющие быстро составлять отчеты, — уже здесь, на XIX.AI! В этом тщательно подобранном списке представлены мощные инструменты, которые кардинально меняют подход к работе и позволяют создавать точные профессиональные диаграммы всего за несколько кликов, помогая вам повысить эффективность написания текстов и оптимизировать процесс создания контента. Ознакомьтесь с сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, чтобы найти решение, которое обязательно стоит попробовать и которое идеально подойдет для ваших нужд. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ!
9 инструментов
xix.ai
чат-бот
Инструменты маршрутизации чатов с ИИ для очередей в электронной коммерции, VIP-покупателей и запросов на возврат товаров
2026: новейшие и лучшие инструменты маршрутизации чатов с ИИ для электронной коммерции — для управления очередями, работы с VIP-покупателями и обработки запросов на возврат. В этом тщательно отобранном списке представлены мощные революционные решения, которые, как показывают реальные тесты, значительно повышают производительность. Здесь вы найдете сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам выбрать идеальный вариант. XIX.AI выделяется как надежный поставщик в этой сфере. Узнайте больше прямо сейчас, чтобы раскрыть все преимущества ИИ!
9 инструментов
xix.ai
письмо
Лучшие инструменты искусственного интеллекта для редактирования текстов авторов, для которых английский не является родным языком: улучшение стиля, грамматики и плавности текста
2026 года: самые новые и лучшие инструменты для редактирования с ИИ, получившие высокие оценки среди авторов, пишущих на английском как иностранном, представлены здесь, на XIX.AI! В этот тщательно подобранный список вошли мощные, революционные инструменты, прошедшие реальные тесты для обеспечения точности. Здесь вы найдете сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам выбрать идеальное решение, которое идеально улучшит стиль, грамматику и плавность вашего письма. Изучите их прямо сейчас, чтобы раскрыть свой потенциал с помощью ИИ!
9 инструментов
xix.ai
Разработка программного обеспечения
Лучшие инструменты для классификации ошибок с помощью ИИ для инженерных команд
2026: новейшие и самые популярные инструменты для сортировки ошибок с помощью ИИ для инженерных команд! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать. Все они прошли тщательные тесты в реальных условиях и обеспечивают точный анализ проблем и их эффективное устранение. Получите сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам найти идеальное решение, значительно повышающее продуктивность вашей команды. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
Редактирование изображений
Лучшие программы для улучшения портретов с помощью ИИ: корректировка освещения, оттенка кожи и резкости
2026: подборка лучших и наиболее высокооцененных инструментов для улучшения портретных снимков с помощью ИИ, отобранных для обеспечения максимального качества изображения. Эти мощные инструменты позволяют добиться революционных результатов, легко улучшая освещение, оттенок кожи и резкость — идеальное решение для авторов, которым нужно быстро отретушировать фотографии. XIX.AI предлагает сравнение бесплатных и платных версий, а также результаты реальных тестов и еженедельно обновляемый рейтинг. Найдите свой идеальный инструмент, чтобы уже сегодня раскрыть весь потенциал ИИ. Узнайте больше прямо сейчас!
7 инструментов
xix.ai
Комментарии (0)
Anthropic представила свою новейшую модель Fable во вторник, позиционируя её как публичную ограниченную версию своей долгожданной модели для кибербезопасности Mythos.
Однако эти ограничения вызвали недовольство среди нескольких исследователей и специалистов в области кибербезопасности, которые выразили свои опасения в сети.
«[Fable] блокирует любой запрос, который может быть как-то связан с кибербезопасностью, включая безобидные задачи, такие как чтение поста в блоге», — заявила Валентина «Chompie» Пальмьотти, известный исследователь безопасности в IBM X-Force.
Когда запрос пользователя активирует эти фильтры безопасности, Fable останавливает разговор, отображая сообщение о том, что её «протоколы безопасности пометили этот ввод как относящийся к кибербезопасности или биологическим темам».
Эти ограничения направлены на снижение риска использования Fable для создания вредоносного программного обеспечения или эксплуатации уязвимостей в программном обеспечении — проблемы, которая постоянно беспокоит Anthropic. Биологические ограничения обусловлены аналогичными опасениями относительно разработки биологического оружия.
При выпуске Mythos в апреле Anthropic ограничила доступ к модели для избранных компаний и организаций в рамках проекта Glasswing, инициативы, предназначенной для развертывания модели для защиты критического программного обеспечения и инфраструктуры. На прошлой неделе Anthropic расширила доступ к Mythos для сотен организаций в 15 странах.
Несмотря на эти благие намерения, многие эксперты в области кибербезопасности остаются разочарованными кажущейся произвольностью ограничений. Мэтт Суич, опытный специалист по кибербезопасности, сказал TechCrunch, что «если вы попросите его написать безопасный код, он интерпретирует это как работу, связанную с кибербезопасностью, а не как лучшие практики в области разработки программного обеспечения, что приводит к снижению качества». Fable настроен на возврат к Claude Opus 4.8 при срабатывании защитных механизмов. «Похоже, что он полагается на ключевые слова, поэтому любой термин из лексикона «кибербезопасности» активирует фильтры», — отметил он.
Свяжитесь с нами
У вас есть дополнительные идеи о том, как хакеры используют ИИ или как компании по кибербезопасности интегрируют ИИ? Мы приветствуем ваш отзыв. С личного устройства и сети вы можете безопасно связаться с Лоренцо Франчески-Биккьери через Signal по номеру +1 917 257 1382, через Telegram и Keybase @lorenzofb или по электронной почте.
«Однако это понятно, учитывая, что мы всё ещё находимся на ранних этапах, и они совершенствуют свои защитные механизмы. Я уверен, что они будут развиваться по мере того, как Anthropic и другие разработчики передовых моделей будут теснее сотрудничать с новым поколением компаний по кибербезопасности», — сказал Суич, технический специалист в Tolmo, стартапе по кибербезопасности на базе ИИ. «Предпочтительно изначально чрезмерно ограничивать и со временем ослаблять защитные механизмы».
Другой исследователь пожаловался в X, что «даже запрос на проверку кода» активирует фильтры безопасности Fable.
Anthropic пока не ответила на запрос комментария.
Помимо защитных механизмов на уровне модели, Anthropic требует, чтобы специалисты по кибербезопасности подавали заявку в её программу Cyber Verification Program. Утверждённые заявители сталкиваются с меньшим количеством ограничений при использовании Claude для задач кибербезопасности. OpenAI предлагает аналогичную программу под названием Trusted Access for Cyber.
Белый дом отказывается от маркировки «сверхинтеллекта»
Загрузка плеера…На этой неделе Белый дом собрал почти всех ведущих технологических CEOs в одной комнате — включая Цукерберга, Безоса, Маска и Дарио Амодеи из Anthropic — для подписания обязательства по безопасности ИИ, которое президент Дональд Трам
Anthropic представляет Sonnet 5.5 как более быстрый и доступный рабочий партнер
На фоне продолжающейся конкуренции среди моделей искусственного интеллекта компания Anthropic представила новейшую версию Sonnet, свою модель среднего класса, обещая существенно более высокую скорость и более низкие затраты по сравнению с предыдущей
Последний конфликт Anthropic с администрацией Трампа может на самом деле помочь ей, свидетельствуют данные о продажах
Anthropic переживает удивительный месяц.Согласно данным Ramp, компания в сфере искусственного интеллекта впервые обогнала OpenAI по доле рынка расходов бизнеса, завершив май с раундом финансирования в 65 миллиардов долларов при оценке в 965 миллиард
2026 год: лучшие приложения-планировщики на основе ИИ с высокими рейтингами, которые делают составление реалистичных графиков интенсивной работы проще простого. В этом тщательно отобранном списке представлены мощные инструменты, пройдшие серьезную проверку в реальных условиях для обеспечения точности и эффективности. Здесь вы найдете сравнение бесплатных и платных версий, а также подробные рейтинги, основанные на удобстве использования и результатах работы. XIX.AI входит в этот надежный сборник. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент для поддержания концентрации и высокой продуктивности каждый день.
11 инструментов
xix.ai
2026 года: лучшие и самые популярные инструменты для создания диаграмм на базе ИИ, позволяющие быстро составлять отчеты, — уже здесь, на XIX.AI! В этом тщательно подобранном списке представлены мощные инструменты, которые кардинально меняют подход к работе и позволяют создавать точные профессиональные диаграммы всего за несколько кликов, помогая вам повысить эффективность написания текстов и оптимизировать процесс создания контента. Ознакомьтесь с сравнением бесплатных и платных версий, а также с результатами реальных тестов и подробными рейтингами, чтобы найти решение, которое обязательно стоит попробовать и которое идеально подойдет для ваших нужд. Изучите их прямо сейчас, чтобы раскрыть весь потенциал ИИ!
9 инструментов
xix.ai
2026: новейшие и лучшие инструменты маршрутизации чатов с ИИ для электронной коммерции — для управления очередями, работы с VIP-покупателями и обработки запросов на возврат. В этом тщательно отобранном списке представлены мощные революционные решения, которые, как показывают реальные тесты, значительно повышают производительность. Здесь вы найдете сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам выбрать идеальный вариант. XIX.AI выделяется как надежный поставщик в этой сфере. Узнайте больше прямо сейчас, чтобы раскрыть все преимущества ИИ!
9 инструментов
xix.ai
2026 года: самые новые и лучшие инструменты для редактирования с ИИ, получившие высокие оценки среди авторов, пишущих на английском как иностранном, представлены здесь, на XIX.AI! В этот тщательно подобранный список вошли мощные, революционные инструменты, прошедшие реальные тесты для обеспечения точности. Здесь вы найдете сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам выбрать идеальное решение, которое идеально улучшит стиль, грамматику и плавность вашего письма. Изучите их прямо сейчас, чтобы раскрыть свой потенциал с помощью ИИ!
9 инструментов
xix.ai
2026: новейшие и самые популярные инструменты для сортировки ошибок с помощью ИИ для инженерных команд! XIX.AI подготовила подборку мощных, революционных инструментов, которые обязательно стоит попробовать. Все они прошли тщательные тесты в реальных условиях и обеспечивают точный анализ проблем и их эффективное устранение. Получите сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам найти идеальное решение, значительно повышающее продуктивность вашей команды. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
2026: подборка лучших и наиболее высокооцененных инструментов для улучшения портретных снимков с помощью ИИ, отобранных для обеспечения максимального качества изображения. Эти мощные инструменты позволяют добиться революционных результатов, легко улучшая освещение, оттенок кожи и резкость — идеальное решение для авторов, которым нужно быстро отретушировать фотографии. XIX.AI предлагает сравнение бесплатных и платных версий, а также результаты реальных тестов и еженедельно обновляемый рейтинг. Найдите свой идеальный инструмент, чтобы уже сегодня раскрыть весь потенциал ИИ. Узнайте больше прямо сейчас!
7 инструментов
xix.ai
