Новое исследование раскрывает скрытые возможности чипа M4 и системы Claude

На протяжении многих лет нейронный двигатель Apple (ANE) оставался скрытым из-за строгих ограничений, предназначенных исключительно для выполнения задач инференса. Однако с 2026 года эти барьеры были устранены. Недавно инженер Манджит Сингх в сотрудничестве с Claude AI сумел провести обратную разработку внутренней структуры ANE чипа M4, тем самым показав мировому технологическому сообществу, что Mac mini — это гораздо больше, чем простое устройство для повседневных задач: его также можно использовать непосредственно для обучения моделей типа Transformer.
Ключом к этому прорыву стало обход традиционной среды CoreML. Благодаря поддержке Claude AI Манджит Сингх изучил структуру языка MIL и двоичные форматы E5, что позволило получить прямой контроль над аппаратными компонентами ANE. Результаты экспериментов впечатляют: запуск однослойной модели Transformer на чипе M4 обеспечивает пиковую энергоэффективность до 6,6 TFLOPS на ватт, что в 80 раз превышает показатели профессиональных GPU A100 и более чем в 50 раз выше, чем у GPU H100.
Ранее индустрия широко считала, что чипы NPU не способны выполнять задачи обучения из-за недостаточных аппаратных возможностей. Однако эта работа по обратной разработке показала иную правду — на самом деле основным препятствием были не аппаратные ограничения, а программные ограничения от Apple. Сегодня разработчики уже могут полностью обучить модель Stories110M на Mac mini, причем весь системный комплекс потребляет менее одного ватта энергии.
Это событие перестраивает ландшафт революции в области ИИ. Высокие затраты, связанные с традиционными вычислительными решениями, которые раньше достигали десятков тысяч долларов, теперь кажутся незначительными по сравнению с исключительной энергоэффективностью чипа M4. Для независимых разработчиков и домашних лабораторий дорогие кластеры GPU больше не являются единственным возможным вариантом. Компактное устройство на столе превращается в мощный суперкомпьютер, способный обеспечивать недорогое тестирование крупномасштабных моделей.
Хотя по-прежнему существуют возможности для улучшения эффективности использования и остаются ряд инженерных проблем, этот прорыв открывает новые перспективы. Как отмечают разработчики, такой вид совместного обратного анализа между людьми и машинами свидетельствует о наступлении эры обучения ИИ непосредственно на периферийных устройствах. В будущем MacBook в ваших руках может перестать быть просто потребительским устройством и стать личным вычислительным элементом, способным постоянно развиваться в любое время и в любом месте.
Связанная статья
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Рекомендации по связанным специальным темам
Комментарии (0)

На протяжении многих лет нейронный двигатель Apple (ANE) оставался скрытым из-за строгих ограничений, предназначенных исключительно для выполнения задач инференса. Однако с 2026 года эти барьеры были устранены. Недавно инженер Манджит Сингх в сотрудничестве с Claude AI сумел провести обратную разработку внутренней структуры ANE чипа M4, тем самым показав мировому технологическому сообществу, что Mac mini — это гораздо больше, чем простое устройство для повседневных задач: его также можно использовать непосредственно для обучения моделей типа Transformer.
Ключом к этому прорыву стало обход традиционной среды CoreML. Благодаря поддержке Claude AI Манджит Сингх изучил структуру языка MIL и двоичные форматы E5, что позволило получить прямой контроль над аппаратными компонентами ANE. Результаты экспериментов впечатляют: запуск однослойной модели Transformer на чипе M4 обеспечивает пиковую энергоэффективность до 6,6 TFLOPS на ватт, что в 80 раз превышает показатели профессиональных GPU A100 и более чем в 50 раз выше, чем у GPU H100.
Ранее индустрия широко считала, что чипы NPU не способны выполнять задачи обучения из-за недостаточных аппаратных возможностей. Однако эта работа по обратной разработке показала иную правду — на самом деле основным препятствием были не аппаратные ограничения, а программные ограничения от Apple. Сегодня разработчики уже могут полностью обучить модель Stories110M на Mac mini, причем весь системный комплекс потребляет менее одного ватта энергии.
Это событие перестраивает ландшафт революции в области ИИ. Высокие затраты, связанные с традиционными вычислительными решениями, которые раньше достигали десятков тысяч долларов, теперь кажутся незначительными по сравнению с исключительной энергоэффективностью чипа M4. Для независимых разработчиков и домашних лабораторий дорогие кластеры GPU больше не являются единственным возможным вариантом. Компактное устройство на столе превращается в мощный суперкомпьютер, способный обеспечивать недорогое тестирование крупномасштабных моделей.
Хотя по-прежнему существуют возможности для улучшения эффективности использования и остаются ряд инженерных проблем, этот прорыв открывает новые перспективы. Как отмечают разработчики, такой вид совместного обратного анализа между людьми и машинами свидетельствует о наступлении эры обучения ИИ непосредственно на периферийных устройствах. В будущем MacBook в ваших руках может перестать быть просто потребительским устройством и стать личным вычислительным элементом, способным постоянно развиваться в любое время и в любом месте.
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,





Дом






