Дом
Новое исследование показывает, что общественность считает ИИ более уверенным в себе, чем люди
По мере роста популярности систем искусственного интеллекта всё больше людей обращаются к ним за советами по повседневным вопросам, таким как привычки в расходах и рекомендации по чтению. Однако недавнее исследование, опубликованное в журнале «Communications Psychology» учёными из Университета Ватерлоо и Университетского колледжа Лондона, выявило интересный факт. Результаты показали, что даже когда ИИ и люди дают одинаковые ответы, люди склонны воспринимать ответы ИИ как более уверенные.
Такое поведение известно как «иллюзия уверенности» в ИИ. Исследования показывают, что когда люди не могут напрямую оценить степень уверенности собеседника, они опираются на внешние признаки — такие как скорость ответа и легкость, с которой принимается решение, — чтобы составить мнение об уровне уверенности этого человека.

Предвзятые представления вводят в заблуждение, а отсутствие эмоциональных сигналов ведет к скрытым рискам
Поскольку общественность часто считает, что ИИ более компетентен, чем люди, во многих областях, это предубеждение может легко привести к ошибочным суждениям. Эксперименты показали, что как только люди верят в способности ИИ, они предполагают, что он чрезвычайно уверен в себе в любой ситуации, даже если система может оказаться ненадежной при решении конкретных задач.
В повседневном общении тон голоса, мимика и язык тела служат важнейшими социальными сигналами, которые помогают нам определить, стоит ли доверять кому-либо. Поскольку большинству крупных языковых моделей не хватает этих выразительных элементов, пользователи вынуждены полагаться на догадки. Даже если ИИ не уверен в себе и его ответ может оказаться неверным, пользователи все равно могут чрезмерно доверять ему.
Ученые исследуют интуитивные методы коммуникации; будущие крупные модели могут получить новые функции
Чтобы снизить этот риск, профессор Коллбах и его команда считают, что в будущем при разработке ИИ следует предусмотреть более понятные способы передачи фактического уровня уверенности системы с помощью более простых и разнообразных внешних индикаторов. Такой подход не только позволит усовершенствовать существующие генеративные системы ИИ, но и поможет предотвратить ошибки пользователей, вызванные слепым доверием.
В настоящее время исследовательская группа планирует провести дополнительные исследования, направленные на выявление эффективных, интуитивных и заслуживающих доверия методов взаимодействия человека и машины. В будущем крупные языковые модели могут быть оснащены функциями, явно отображающими уровни уверенности, что позволит пользователям принимать более осознанные и рациональные решения о том, следует ли следовать советам, сгенерированным ИИ.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)
По мере роста популярности систем искусственного интеллекта всё больше людей обращаются к ним за советами по повседневным вопросам, таким как привычки в расходах и рекомендации по чтению. Однако недавнее исследование, опубликованное в журнале «Communications Psychology» учёными из Университета Ватерлоо и Университетского колледжа Лондона, выявило интересный факт. Результаты показали, что даже когда ИИ и люди дают одинаковые ответы, люди склонны воспринимать ответы ИИ как более уверенные.
Такое поведение известно как «иллюзия уверенности» в ИИ. Исследования показывают, что когда люди не могут напрямую оценить степень уверенности собеседника, они опираются на внешние признаки — такие как скорость ответа и легкость, с которой принимается решение, — чтобы составить мнение об уровне уверенности этого человека.

Предвзятые представления вводят в заблуждение, а отсутствие эмоциональных сигналов ведет к скрытым рискам
Поскольку общественность часто считает, что ИИ более компетентен, чем люди, во многих областях, это предубеждение может легко привести к ошибочным суждениям. Эксперименты показали, что как только люди верят в способности ИИ, они предполагают, что он чрезвычайно уверен в себе в любой ситуации, даже если система может оказаться ненадежной при решении конкретных задач.
В повседневном общении тон голоса, мимика и язык тела служат важнейшими социальными сигналами, которые помогают нам определить, стоит ли доверять кому-либо. Поскольку большинству крупных языковых моделей не хватает этих выразительных элементов, пользователи вынуждены полагаться на догадки. Даже если ИИ не уверен в себе и его ответ может оказаться неверным, пользователи все равно могут чрезмерно доверять ему.
Ученые исследуют интуитивные методы коммуникации; будущие крупные модели могут получить новые функции
Чтобы снизить этот риск, профессор Коллбах и его команда считают, что в будущем при разработке ИИ следует предусмотреть более понятные способы передачи фактического уровня уверенности системы с помощью более простых и разнообразных внешних индикаторов. Такой подход не только позволит усовершенствовать существующие генеративные системы ИИ, но и поможет предотвратить ошибки пользователей, вызванные слепым доверием.
В настоящее время исследовательская группа планирует провести дополнительные исследования, направленные на выявление эффективных, интуитивных и заслуживающих доверия методов взаимодействия человека и машины. В будущем крупные языковые модели могут быть оснащены функциями, явно отображающими уровни уверенности, что позволит пользователям принимать более осознанные и рациональные решения о том, следует ли следовать советам, сгенерированным ИИ.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











