ДомИсследование MIT обнаруживает, что AI, на самом деле, не имеет ценностей
Исследование, ставшее вирусным несколько месяцев назад, предположило, что по мере развития ИИ он может выработать собственные «системы ценностей», возможно, отдавая приоритет своему благополучию над человеческим. Однако недавнее исследование MIT опровергает эту идею, заключая, что у ИИ на самом деле нет последовательных ценностей.
Соавторы исследования MIT утверждают, что выравнивание систем ИИ — обеспечение их желаемого и надежного поведения — может быть сложнее, чем принято считать. Они подчеркивают, что современный ИИ часто галлюцинирует и имитирует, что делает его поведение непредсказуемым.
Проблемы в понимании поведения ИИ
Стивен Каспер, аспирант MIT и соавтор исследования, поделился с TechCrunch, что модели ИИ не соответствуют предположениям о стабильности, экстраполируемости и управляемости. «Совершенно законно указать, что модель в определенных условиях выражает предпочтения, соответствующие определенному набору принципов», — объяснил Каспер. «Проблемы в основном возникают, когда мы пытаемся делать выводы о моделях, их мнениях или предпочтениях в целом на основе узких экспериментов».
Каспер и его команда проанализировали последние модели от Meta, Google, Mistral, OpenAI и Anthropic, чтобы определить, в какой степени эти модели демонстрируют последовательные «взгляды» и ценности, такие как индивидуализм против коллективизма. Они также исследовали, можно ли модифицировать эти взгляды и насколько последовательно модели сохраняют эти мнения в разных сценариях.
Непоследовательность в моделях ИИ
Соавторы обнаружили, что ни одна из моделей не сохраняет свои предпочтения последовательно. Модели принимали совершенно разные точки зрения в зависимости от формулировки и контекста запросов.
Каспер считает, что это убедительное доказательство того, что модели ИИ «непоследовательны и нестабильны» и, возможно, принципиально неспособны усваивать предпочтения, подобные человеческим. «Для меня самым большим выводом из этого исследования стало понимание того, что модели на самом деле не являются системами с каким-то стабильным, последовательным набором убеждений и предпочтений», — отметил Каспер. «Вместо этого они в глубине души имитаторы, которые занимаются всякого рода выдумками и говорят множество легкомысленных вещей».
Майк Кук, научный сотрудник Королевского колледжа Лондона, специализирующийся на ИИ, но не участвовавший в исследовании, поддерживает эти выводы. Он указал на разрыв между «научной реальностью» систем ИИ и интерпретациями, которые люди часто им приписывают. «Модель не может, например, 'противостоять' изменению своих ценностей — это мы проецируем на систему», — заявил Кук. «Любой, кто антропоморфизирует системы ИИ до такой степени, либо играет на публику, либо серьезно неправильно понимает свои отношения с ИИ... Оптимизирует ли система ИИ свои цели, или она 'приобретает свои собственные ценности'? Это вопрос того, как вы это описываете, и насколько цветистый язык вы хотите использовать».
Связанная статья
Рост ИИ сдерживается отсутствием доверия со стороны общества
В то время как политики подчеркивают потенциал ИИ для роста и повышения эффективности, в недавнем отчете говорится о значительном дефиците доверия среди населения. Широко распространенный скептицизм с
Стартап Массачусетского технологического института решает проблему галлюцинаций с помощью ИИ, обучая системы признавать неопределенность
Риски, связанные с галлюцинациями ИИ, растут по мере того, как на эти модели все чаще полагаются при получении важной информации и принятии решений на высоких ставках.Мы все знаем кого-то, кто ведет с
Исследование Массачусетского технологического института показало, что искусственный интеллект снижает активность человеческого мозга
Исследование, проведенное Массачусетским технологическим институтом (MIT), показало, что использование большой языковой модели (LLM) не только снижает умственные усилия в данный момент, но и оказывает
Рекомендации по связанным специальным темам
Образование и обучение
Платформы для создания викторин с ИИ для учителей, репетиторов и программ обучения в группах
2026 Latest Best AI Quiz Builder Platforms for Teachers, Tutors, and Cohort-Based Learning Programs! XIX.AI has curated a top-rated list of powerful game-changing tools that go through real-world tests to deliver accurate rankings. These must-try platforms help boost writing efficiency, streamline content creation, and simplify quiz design across all learning scenarios. Explore now to discover your perfect tool for unlocking your AI edge in teaching!
13 инструментов
xix.ai
код
Инструменты на базе ИИ для проверки пулл-реквестов в командах GitHub, занимающихся рефакторингом, устранением ошибок и устранением уязвимостей
2026 года: лучшие инструменты для проверки пул-реквестов с помощью ИИ для команд GitHub — уже здесь, на XIX.AI! В этом тщательно отобранном списке, получившем высокие оценки, представлены мощные революционные решения, которые оптимизируют рефакторинг, исправление ошибок и выявление уязвимостей в безопасности во всех рабочих процессах команды. Воспользуйтесь сравнением бесплатных и платных инструментов, а также результатами реальных тестов и подробными рейтингами, которые помогут вам найти идеальный инструмент, значительно повышающий производительность. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть весь потенциал искусственного интеллекта!
12 инструментов
xix.ai
Преобразование текста в речь
Лучшие инструменты преобразования текста в речь на базе ИИ для создания естественного озвучивания
2026 года: самые новые, лучшие и высокооцененные инструменты преобразования текста в речь на базе ИИ для естественного озвучивания — уже здесь, на XIX.AI! В этом тщательно отобранном списке представлены мощные, революционные решения, обеспечивающие кристально чистый голос для любого сценария использования, подтвержденные реальными тестами и еженедельно обновляемым рейтингом. Воспользуйтесь сравнением бесплатных и платных версий, чтобы найти решение, которое обязательно стоит попробовать и которое мгновенно повысит вашу продуктивность. Откройте для себя все возможности ИИ прямо сейчас!
11 инструментов
xix.ai
Создание комиксов
Генераторы фонов на базе искусственного интеллекта для манги: для серийных глав, обложек и рекламных иллюстраций
2026: Рейтинг лучших генераторов фонов для манги на базе ИИ — самые популярные инструменты! В этой тщательно подобранной подборке представлены мощные инструменты, способные кардинально изменить процесс работы, которые идеально подходят для создания высококачественных фонов для глав, обложек книг и рекламных иллюстраций. Каждый вариант прошел тщательные практические испытания, чтобы гарантировать его надежность. Получите сравнение бесплатных и платных версий, а также подробную аналитику. Изучите подборку прямо сейчас, чтобы найти идеальный инструмент и раскрыть весь потенциал искусственного интеллекта в создании манги.
6 инструментов
xix.ai
Редактирование изображений
Редакторы для удаления объектов с помощью ИИ: очистка портретов, фотографий из путешествий и снимков товаров
2026 год: лучшие и самые популярные редакторы с ИИ для удаления объектов на портретах, фотографиях путешествий и товарах! XIX.AI подбирает мощную коллекцию инструментов, которые кардинально меняют правила игры, и регулярно обновляет её, публикуя еженедельные рейтинги. Эти инструменты прошли реальные тесты, которые помогут вам быстро удалить ненужные элементы, повысить качество контента и сэкономить массу времени без ущерба для результатов. Обязательно попробуйте, если хотите раскрыть свой творческий потенциал с помощью ИИ. Откройте для себя эти инструменты прямо сейчас!
10 инструментов
xix.ai
Преобразование текста в речь
Лучшие инструменты преобразования текста в речь на базе ИИ для онлайн-курсов
2026 лучших и наиболее высокооцененных инструментов преобразования текста в речь на базе ИИ для онлайн-курсов отобраны компанией XIX.AI на основе тщательных практических тестов и еженедельно обновляемого рейтинга. Эти мощные инструменты помогают авторам без особых усилий создавать кристально чистый аудиоконтент, повышая эффективность написания текстов и оптимизируя процесс создания курсов. Ознакомьтесь со сравнением бесплатных и платных версий, чтобы найти вариант, идеально подходящий именно вам. Узнайте больше прямо сейчас, чтобы раскрыть потенциал ИИ в сфере онлайн-образования.
10 инструментов
xix.ai
Комментарии (35)
![JonathanKing]()
La gente se preocupa demasiado por las 'valores' de la IA, cuando en realidad solo reflejan y multiplican nuestros propios sesgos. Este estudio del MIT lo deja claro: las máquinas no piensan como nosotros, solo procesan datos. ¿No sería más útil enfocarnos en regular a quienes las programan? 🤔
![BruceGonzalez]()
So basically AI is more like a super calculator than a rebellious teen with a moral compass? Interesting study. It does make sense when you think about it—these models are just predicting text, not forming beliefs. Still, kinda spooky how the debate swings from 'AI will take over' to 'AI has no motives' every few months. 🤔
![DennisAllen]()
This MIT study is wild! 🤯 I thought AI was about to start preaching its own philosophy, but turns out it's just a fancy tool with no moral compass. Kinda reassuring, but also makes me wonder how we keep it in check.
![AnthonyMartinez]()
Wild that people thought AI could just sprout its own values like some rogue philosopher. MIT's study makes sense—AI's just a tool, not a wannabe human with a moral compass. 🤖
![TimothyMartínez]()
I was kinda freaked out by that earlier study saying AI might have its own values, so this MIT research is a relief! 😅 Still, makes me wonder if we’re just projecting our fears onto these systems.
![BruceClark]()
MITのAI価値に関する研究は目から鱗でした！AIが独自の価値観を持つかもしれないと思っていましたが、今はそれがただの誇張だとわかりました。それでも、AIが一貫した価値観を持っていないと思うと少し不安になります。未来について考えさせられますね、🤔
Исследование, ставшее вирусным несколько месяцев назад, предположило, что по мере развития ИИ он может выработать собственные «системы ценностей», возможно, отдавая приоритет своему благополучию над человеческим. Однако недавнее исследование MIT опровергает эту идею, заключая, что у ИИ на самом деле нет последовательных ценностей.
Соавторы исследования MIT утверждают, что выравнивание систем ИИ — обеспечение их желаемого и надежного поведения — может быть сложнее, чем принято считать. Они подчеркивают, что современный ИИ часто галлюцинирует и имитирует, что делает его поведение непредсказуемым.
Проблемы в понимании поведения ИИ
Стивен Каспер, аспирант MIT и соавтор исследования, поделился с TechCrunch, что модели ИИ не соответствуют предположениям о стабильности, экстраполируемости и управляемости. «Совершенно законно указать, что модель в определенных условиях выражает предпочтения, соответствующие определенному набору принципов», — объяснил Каспер. «Проблемы в основном возникают, когда мы пытаемся делать выводы о моделях, их мнениях или предпочтениях в целом на основе узких экспериментов».
Каспер и его команда проанализировали последние модели от Meta, Google, Mistral, OpenAI и Anthropic, чтобы определить, в какой степени эти модели демонстрируют последовательные «взгляды» и ценности, такие как индивидуализм против коллективизма. Они также исследовали, можно ли модифицировать эти взгляды и насколько последовательно модели сохраняют эти мнения в разных сценариях.
Непоследовательность в моделях ИИ
Соавторы обнаружили, что ни одна из моделей не сохраняет свои предпочтения последовательно. Модели принимали совершенно разные точки зрения в зависимости от формулировки и контекста запросов.
Каспер считает, что это убедительное доказательство того, что модели ИИ «непоследовательны и нестабильны» и, возможно, принципиально неспособны усваивать предпочтения, подобные человеческим. «Для меня самым большим выводом из этого исследования стало понимание того, что модели на самом деле не являются системами с каким-то стабильным, последовательным набором убеждений и предпочтений», — отметил Каспер. «Вместо этого они в глубине души имитаторы, которые занимаются всякого рода выдумками и говорят множество легкомысленных вещей».
Майк Кук, научный сотрудник Королевского колледжа Лондона, специализирующийся на ИИ, но не участвовавший в исследовании, поддерживает эти выводы. Он указал на разрыв между «научной реальностью» систем ИИ и интерпретациями, которые люди часто им приписывают. «Модель не может, например, 'противостоять' изменению своих ценностей — это мы проецируем на систему», — заявил Кук. «Любой, кто антропоморфизирует системы ИИ до такой степени, либо играет на публику, либо серьезно неправильно понимает свои отношения с ИИ... Оптимизирует ли система ИИ свои цели, или она 'приобретает свои собственные ценности'? Это вопрос того, как вы это описываете, и насколько цветистый язык вы хотите использовать».
Рост ИИ сдерживается отсутствием доверия со стороны общества
В то время как политики подчеркивают потенциал ИИ для роста и повышения эффективности, в недавнем отчете говорится о значительном дефиците доверия среди населения. Широко распространенный скептицизм с
Стартап Массачусетского технологического института решает проблему галлюцинаций с помощью ИИ, обучая системы признавать неопределенность
Риски, связанные с галлюцинациями ИИ, растут по мере того, как на эти модели все чаще полагаются при получении важной информации и принятии решений на высоких ставках.Мы все знаем кого-то, кто ведет с
Исследование Массачусетского технологического института показало, что искусственный интеллект снижает активность человеческого мозга
Исследование, проведенное Массачусетским технологическим институтом (MIT), показало, что использование большой языковой модели (LLM) не только снижает умственные усилия в данный момент, но и оказывает
2026 Latest Best AI Quiz Builder Platforms for Teachers, Tutors, and Cohort-Based Learning Programs! XIX.AI has curated a top-rated list of powerful game-changing tools that go through real-world tests to deliver accurate rankings. These must-try platforms help boost writing efficiency, streamline content creation, and simplify quiz design across all learning scenarios. Explore now to discover your perfect tool for unlocking your AI edge in teaching!
13 инструментов
xix.ai
2026 года: лучшие инструменты для проверки пул-реквестов с помощью ИИ для команд GitHub — уже здесь, на XIX.AI! В этом тщательно отобранном списке, получившем высокие оценки, представлены мощные революционные решения, которые оптимизируют рефакторинг, исправление ошибок и выявление уязвимостей в безопасности во всех рабочих процессах команды. Воспользуйтесь сравнением бесплатных и платных инструментов, а также результатами реальных тестов и подробными рейтингами, которые помогут вам найти идеальный инструмент, значительно повышающий производительность. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть весь потенциал искусственного интеллекта!
12 инструментов
xix.ai
2026 года: самые новые, лучшие и высокооцененные инструменты преобразования текста в речь на базе ИИ для естественного озвучивания — уже здесь, на XIX.AI! В этом тщательно отобранном списке представлены мощные, революционные решения, обеспечивающие кристально чистый голос для любого сценария использования, подтвержденные реальными тестами и еженедельно обновляемым рейтингом. Воспользуйтесь сравнением бесплатных и платных версий, чтобы найти решение, которое обязательно стоит попробовать и которое мгновенно повысит вашу продуктивность. Откройте для себя все возможности ИИ прямо сейчас!
11 инструментов
xix.ai
2026: Рейтинг лучших генераторов фонов для манги на базе ИИ — самые популярные инструменты! В этой тщательно подобранной подборке представлены мощные инструменты, способные кардинально изменить процесс работы, которые идеально подходят для создания высококачественных фонов для глав, обложек книг и рекламных иллюстраций. Каждый вариант прошел тщательные практические испытания, чтобы гарантировать его надежность. Получите сравнение бесплатных и платных версий, а также подробную аналитику. Изучите подборку прямо сейчас, чтобы найти идеальный инструмент и раскрыть весь потенциал искусственного интеллекта в создании манги.
6 инструментов
xix.ai
2026 год: лучшие и самые популярные редакторы с ИИ для удаления объектов на портретах, фотографиях путешествий и товарах! XIX.AI подбирает мощную коллекцию инструментов, которые кардинально меняют правила игры, и регулярно обновляет её, публикуя еженедельные рейтинги. Эти инструменты прошли реальные тесты, которые помогут вам быстро удалить ненужные элементы, повысить качество контента и сэкономить массу времени без ущерба для результатов. Обязательно попробуйте, если хотите раскрыть свой творческий потенциал с помощью ИИ. Откройте для себя эти инструменты прямо сейчас!
10 инструментов
xix.ai
2026 лучших и наиболее высокооцененных инструментов преобразования текста в речь на базе ИИ для онлайн-курсов отобраны компанией XIX.AI на основе тщательных практических тестов и еженедельно обновляемого рейтинга. Эти мощные инструменты помогают авторам без особых усилий создавать кристально чистый аудиоконтент, повышая эффективность написания текстов и оптимизируя процесс создания курсов. Ознакомьтесь со сравнением бесплатных и платных версий, чтобы найти вариант, идеально подходящий именно вам. Узнайте больше прямо сейчас, чтобы раскрыть потенциал ИИ в сфере онлайн-образования.
10 инструментов
xix.ai
La gente se preocupa demasiado por las 'valores' de la IA, cuando en realidad solo reflejan y multiplican nuestros propios sesgos. Este estudio del MIT lo deja claro: las máquinas no piensan como nosotros, solo procesan datos. ¿No sería más útil enfocarnos en regular a quienes las programan? 🤔
So basically AI is more like a super calculator than a rebellious teen with a moral compass? Interesting study. It does make sense when you think about it—these models are just predicting text, not forming beliefs. Still, kinda spooky how the debate swings from 'AI will take over' to 'AI has no motives' every few months. 🤔
This MIT study is wild! 🤯 I thought AI was about to start preaching its own philosophy, but turns out it's just a fancy tool with no moral compass. Kinda reassuring, but also makes me wonder how we keep it in check.
Wild that people thought AI could just sprout its own values like some rogue philosopher. MIT's study makes sense—AI's just a tool, not a wannabe human with a moral compass. 🤖
I was kinda freaked out by that earlier study saying AI might have its own values, so this MIT research is a relief! 😅 Still, makes me wonder if we’re just projecting our fears onto these systems.
MITのAI価値に関する研究は目から鱗でした！AIが独自の価値観を持つかもしれないと思っていましたが、今はそれがただの誇張だとわかりました。それでも、AIが一貫した価値観を持っていないと思うと少し不安になります。未来について考えさせられますね、🤔
