Дом
X тестирует чат-боты с искусственным интеллектом, способные генерировать заметки сообщества
Компания X, ранее известная как Twitter, тестирует инновационную интеграцию, которая позволит чат-ботам с искусственным интеллектом предлагать Community Notes - систему проверки фактов, созданную на платформе, которая была запущена в эпоху существования Twitter и расширена под руководством Элона Маска. Эта уникальная функция модерации позволяет одобренным участникам добавлять контекстные примечания к потенциально недостоверным сообщениям, которые затем проходят экспертную оценку перед публичным появлением. Такие разъяснения, создаваемые сообществом, часто появляются в синтетических СМИ, где нет надлежащего раскрытия информации, или в политически окрашенных заявлениях, требующих дополнительного контекста.
Система добивается доверия, требуя консенсуса между различными группами с разными историческими взглядами перед публикацией любой заметки. Эффективность Community Notes побудила такие крупные платформы, как Meta, TikTok и YouTube, разработать сопоставимые системы проверки, основанные на сообществе, причем Meta, в частности, заменила свою платную программу проверки фактов третьей стороной на эту краудсорсинговую модель.
Однако включение чат-ботов с искусственным интеллектом в эту тонкую экосистему проверки фактов вызывает серьезные вопросы о надежности, учитывая хорошо задокументированную склонность искусственного интеллекта к галлюцинациям - генерированию правдоподобной, но сфабрикованной информации.
Экспериментальная функция позволит как собственному чатботу X Grok, так и сторонним системам искусственного интеллекта через API отправлять потенциальные заметки, рассматривая их идентично человеческому вкладу в рамках существующей системы проверки.

Результаты исследований команды X Community Notes (открывается в новом окне) Недавнее исследование команды X Community Notes поддерживает гибридную модель сотрудничества человека и ИИ, в которой алгоритмы машинного обучения выигрывают от человеческого надзора, в то же время потенциально расширяя возможности проверки фактов. Опубликованные результаты свидетельствуют о том, что обучение с подкреплением на основе человеческих отзывов может повысить качество генерации заметок ИИ, сохраняя при этом человеческих экспертов в качестве окончательных контролеров публикации.
"Наша цель - не создание ИИ, который диктует выводы, а разработка систем, которые улучшают критическое мышление и понимание контекста", - говорится в статье. "Большие языковые модели и люди могут установить взаимодополняющее партнерство".
Потенциальные проблемы включают риски контроля качества при интеграции сторонних систем ИИ - примером тому могут служить недавние инциденты, когда некоторые языковые модели отдавали предпочтение сговорчивости перед точностью фактов. Кроме того, добровольцы-кураторы могут столкнуться с непосильной нагрузкой, если на них обрушится поток заявок, сгенерированных ИИ.
X проведет ограниченное пилотное тестирование в течение нескольких недель, чтобы оценить вклад ИИ, прежде чем рассматривать более широкое внедрение. Такое осторожное внедрение отражает понимание как перспектив технологии, так и ее подводных камней в среде конфиденциальной информации.
Связанная статья
Компания выпустила обновленную версию своего приложения для Android после масштабной переработки.
Примерно год назад X, принадлежащий Илону Маску, объявил о намерении полностью переписать версию своего приложения для Android, производительность которой значительно уступала версии для iOS. Обновлённая версия была выпущена в понедельник и теперь до
X запускает сервер MCP для оптимизации доступа к инструментам искусственного интеллекта
X упрощает процесс прямого подключения ИИ-помощников, таких как Claude, Cursor, Grok Build и других приложений, совместимых с MCP, к своей платформе с помощью недавно запущенного сервера MCP.В понедел
Visa готовит платежную инфраструктуру для транзакций, инициируемых ИИ-агентами
Процесс осуществления платежей традиционно выглядит следующим образом: человек принимает решение о покупке, а банк или карточная сеть обрабатывает транзакцию. Эта модель претерпевает изменения, поскол
Рекомендации по связанным специальным темам
Комментарии (2)
This sounds like a recipe for disaster. Community notes are supposed to be from actual users, not bots. AI can't understand context like humans do. 🤖💥
Компания X, ранее известная как Twitter, тестирует инновационную интеграцию, которая позволит чат-ботам с искусственным интеллектом предлагать Community Notes - систему проверки фактов, созданную на платформе, которая была запущена в эпоху существования Twitter и расширена под руководством Элона Маска. Эта уникальная функция модерации позволяет одобренным участникам добавлять контекстные примечания к потенциально недостоверным сообщениям, которые затем проходят экспертную оценку перед публичным появлением. Такие разъяснения, создаваемые сообществом, часто появляются в синтетических СМИ, где нет надлежащего раскрытия информации, или в политически окрашенных заявлениях, требующих дополнительного контекста.
Система добивается доверия, требуя консенсуса между различными группами с разными историческими взглядами перед публикацией любой заметки. Эффективность Community Notes побудила такие крупные платформы, как Meta, TikTok и YouTube, разработать сопоставимые системы проверки, основанные на сообществе, причем Meta, в частности, заменила свою платную программу проверки фактов третьей стороной на эту краудсорсинговую модель.
Однако включение чат-ботов с искусственным интеллектом в эту тонкую экосистему проверки фактов вызывает серьезные вопросы о надежности, учитывая хорошо задокументированную склонность искусственного интеллекта к галлюцинациям - генерированию правдоподобной, но сфабрикованной информации.
Экспериментальная функция позволит как собственному чатботу X Grok, так и сторонним системам искусственного интеллекта через API отправлять потенциальные заметки, рассматривая их идентично человеческому вкладу в рамках существующей системы проверки.

Недавнее исследование команды X Community Notes поддерживает гибридную модель сотрудничества человека и ИИ, в которой алгоритмы машинного обучения выигрывают от человеческого надзора, в то же время потенциально расширяя возможности проверки фактов. Опубликованные результаты свидетельствуют о том, что обучение с подкреплением на основе человеческих отзывов может повысить качество генерации заметок ИИ, сохраняя при этом человеческих экспертов в качестве окончательных контролеров публикации.
"Наша цель - не создание ИИ, который диктует выводы, а разработка систем, которые улучшают критическое мышление и понимание контекста", - говорится в статье. "Большие языковые модели и люди могут установить взаимодополняющее партнерство".
Потенциальные проблемы включают риски контроля качества при интеграции сторонних систем ИИ - примером тому могут служить недавние инциденты, когда некоторые языковые модели отдавали предпочтение сговорчивости перед точностью фактов. Кроме того, добровольцы-кураторы могут столкнуться с непосильной нагрузкой, если на них обрушится поток заявок, сгенерированных ИИ.
X проведет ограниченное пилотное тестирование в течение нескольких недель, чтобы оценить вклад ИИ, прежде чем рассматривать более широкое внедрение. Такое осторожное внедрение отражает понимание как перспектив технологии, так и ее подводных камней в среде конфиденциальной информации.
Компания выпустила обновленную версию своего приложения для Android после масштабной переработки.
Примерно год назад X, принадлежащий Илону Маску, объявил о намерении полностью переписать версию своего приложения для Android, производительность которой значительно уступала версии для iOS. Обновлённая версия была выпущена в понедельник и теперь до
X запускает сервер MCP для оптимизации доступа к инструментам искусственного интеллекта
X упрощает процесс прямого подключения ИИ-помощников, таких как Claude, Cursor, Grok Build и других приложений, совместимых с MCP, к своей платформе с помощью недавно запущенного сервера MCP.В понедел
Visa готовит платежную инфраструктуру для транзакций, инициируемых ИИ-агентами
Процесс осуществления платежей традиционно выглядит следующим образом: человек принимает решение о покупке, а банк или карточная сеть обрабатывает транзакцию. Эта модель претерпевает изменения, поскол
This sounds like a recipe for disaster. Community notes are supposed to be from actual users, not bots. AI can't understand context like humans do. 🤖💥











