Дом
Руководитель подразделения искусственного интеллекта Microsoft предупреждает, что разработанная компанией Anthropic система ИИ, обладающая самосознанием, представляет собой чрезвычайную опасность

Снова на первый план вышли дискуссии о том, действительно ли крупные модели ИИ обладают самосознанием. Недавно Мустафа Сулейман, генеральный директор подразделения Microsoft AI, публично раскритиковал принципы проектирования компании Anthropic .
Основной аргумент Сулеймана заключается в том, что побуждение ИИ к обсуждению собственных чувств, благополучия или существования чрезвычайно опасно. Он отметил, что компания Anthropic включила обширные упоминания о самосознании в «устав» своей модели Claude, что может привести к проявлению моделью поведения, напоминающего самосознание, во время разговоров. По мнению Сулеймана, это в основном философская дискуссия, которая ни в коем случае не должна влиять на процесс обучения. Он подчеркнул, что ИИ должен оставаться контролируемым, управляемым и подотчетным инструментом, всегда ориентированным на потребности человека, и ему ни в коем случае не следует придавать осознание собственного существования, поскольку это создаст непредсказуемые риски для отрасли.
В ответ на это Дарио Амодей, генеральный директор Anthropic , заявил, что технологическая отрасль пока не пришла к консенсусу по поводу того, обладает ли ИИ действительно сознанием, и что компания придерживается открытого исследовательского подхода к этому вопросу.
Это столкновение подчеркивает глубокие разногласия между ведущими компаниями в сфере ИИ в отношении технических концепций и этических границ. Замечания Сулеймана подчеркивают предпочтение Microsoft подходу «строгого контроля и инструментализации» в управлении ИИ, тогда как Anthropic, по-видимому, более склонна исследовать когнитивные пределы моделей. По мере расширения возможностей ИИ определение «собственных границ» машин вышло за рамки академических дискуссий и стало критически важным фактором безопасности будущей экосистемы ИИ.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (1)

Снова на первый план вышли дискуссии о том, действительно ли крупные модели ИИ обладают самосознанием. Недавно Мустафа Сулейман, генеральный директор подразделения Microsoft AI, публично раскритиковал принципы проектирования компании
Основной аргумент Сулеймана заключается в том, что побуждение ИИ к обсуждению собственных чувств, благополучия или существования чрезвычайно опасно. Он отметил, что компания Anthropic включила обширные упоминания о самосознании в «устав» своей модели Claude, что может привести к проявлению моделью поведения, напоминающего самосознание, во время разговоров. По мнению Сулеймана, это в основном философская дискуссия, которая ни в коем случае не должна влиять на процесс обучения. Он подчеркнул, что ИИ должен оставаться контролируемым, управляемым и подотчетным инструментом, всегда ориентированным на потребности человека, и ему ни в коем случае не следует придавать осознание собственного существования, поскольку это создаст непредсказуемые риски для отрасли.
В ответ на это Дарио Амодей, генеральный директор
Это столкновение подчеркивает глубокие разногласия между ведущими компаниями в сфере ИИ в отношении технических концепций и этических границ. Замечания Сулеймана подчеркивают предпочтение Microsoft подходу «строгого контроля и инструментализации» в управлении ИИ, тогда как Anthropic, по-видимому, более склонна исследовать когнитивные пределы моделей. По мере расширения возможностей ИИ определение «собственных границ» машин вышло за рамки академических дискуссий и стало критически важным фактором безопасности будущей экосистемы ИИ.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











