Дом
TikTok отключил функцию создания видеорезюме с помощью ИИ из-за частых «голубичных» галлюцинаций
TikTok недавно объявил, что приостановил тестирование экспериментальной функции искусственного интеллекта, предназначенной для автоматического создания текстовых аннотаций к видео, и переориентирует усилия по разработке на более конкретные сценарии использования. Эта функция, известная как «AI Overviews», в течение нескольких месяцев тестировалась в небольшом масштабе на таких рынках, как США. Первоначально планировалось использовать собственные мультимодальные модели TikTok или сторонние модели для предоставления контекста о видео и рекомендаций по продуктам.

Однако на практике функция демонстрировала серьезные «галлюцинации», которые привлекли значительное внимание: она ошибочно идентифицировала появление Чарли Д'Амелио в видео как «коллекцию черники с различными ингредиентами», интерпретировала учебник по дрессировке собак как «искусство оригами» и даже описала рекламный короткометражный фильм Шакиры как «движущиеся синие фигуры».
Столкнувшись с серьезными пробелами в алгоритмическом понимании, представитель TikTok подтвердил, что соответствующее тестирование было приостановлено на основании отзывов, и пояснил, что теперь функция будет сосредоточена на идентификации конкретных продуктов в видео, а не на попытках обобщить весь видеоконтент. Это решение подчеркивает текущие технические препятствия, с которыми по-прежнему сталкивается генеративный ИИ при обработке динамической визуальной информации, включая логические несоответствия и семантические ошибки.
Отраслевые наблюдатели рассматривают этот инцидент как еще один примечательный случай «галлюцинаций» ИИ, последовавший за эпизодом с «пиццей из клея» от Google. Хотя последние данные свидетельствуют о том, что точность обзора ИИ от крупных компаний, таких как Google, улучшилась, неудача TikTok подчеркивает, что в высокоплотной, неструктурированной среде коротких видеороликов способность к обобщению мультимодальных крупных моделей остается недостаточной для надежного автоматизированного повествования. В ближайшей перспективе отрасль переходит от стремления к широким «всеобъемлющим описаниям» к более сфокусированным «вертикальным приложениям», повышая практическую полезность и коммерческую надежность инструментов ИИ за счет сужения когнитивного охвата.
Связанная статья
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,
Рекомендации по связанным специальным темам
Комментарии (0)
TikTok недавно объявил, что приостановил тестирование экспериментальной функции искусственного интеллекта, предназначенной для автоматического создания текстовых аннотаций к видео, и переориентирует усилия по разработке на более конкретные сценарии использования. Эта функция, известная как «AI Overviews», в течение нескольких месяцев тестировалась в небольшом масштабе на таких рынках, как США. Первоначально планировалось использовать собственные мультимодальные модели TikTok или сторонние модели для предоставления контекста о видео и рекомендаций по продуктам.

Однако на практике функция демонстрировала серьезные «галлюцинации», которые привлекли значительное внимание: она ошибочно идентифицировала появление Чарли Д'Амелио в видео как «коллекцию черники с различными ингредиентами», интерпретировала учебник по дрессировке собак как «искусство оригами» и даже описала рекламный короткометражный фильм Шакиры как «движущиеся синие фигуры».
Столкнувшись с серьезными пробелами в алгоритмическом понимании, представитель TikTok подтвердил, что соответствующее тестирование было приостановлено на основании отзывов, и пояснил, что теперь функция будет сосредоточена на идентификации конкретных продуктов в видео, а не на попытках обобщить весь видеоконтент. Это решение подчеркивает текущие технические препятствия, с которыми по-прежнему сталкивается генеративный ИИ при обработке динамической визуальной информации, включая логические несоответствия и семантические ошибки.
Отраслевые наблюдатели рассматривают этот инцидент как еще один примечательный случай «галлюцинаций» ИИ, последовавший за эпизодом с «пиццей из клея» от Google. Хотя последние данные свидетельствуют о том, что точность обзора ИИ от крупных компаний, таких как Google, улучшилась, неудача TikTok подчеркивает, что в высокоплотной, неструктурированной среде коротких видеороликов способность к обобщению мультимодальных крупных моделей остается недостаточной для надежного автоматизированного повествования. В ближайшей перспективе отрасль переходит от стремления к широким «всеобъемлющим описаниям» к более сфокусированным «вертикальным приложениям», повышая практическую полезность и коммерческую надежность инструментов ИИ за счет сужения когнитивного охвата.
ByteDance’s Seed запускает глобальную кампанию по набору сотрудников в кампусах, предлагая виртуальные акции для привлечения лучших специалистов по крупным языковым моделям
В условиях конкурентной борьбы крупных языковых моделей привлечение высококвалифицированных специалистов остается самым важным стратегическим активом.1 апреля ByteDance объявил о запуске глобальной программы набора на кампусы Seed, являющейся частью
Suno добавляет водяные знаки на песни в ходе судебных разбирательств
Suno, платформа, позволяющая пользователям создавать музыку с помощью искусственного интеллекта, представила новые функции для маркировки треков, созданных на платформе, ограничения на скачивание и обновления стандартов сообщества для борьбы с несанк
Маск признал, что утечка кода Grok привела к раскрытию пользовательских данных, и пообещал стереть всю историческую информацию.
Илон Маск напрямую отреагировал на скандал с конфиденциальностью вокруг Grok Build, начав с простого «Да», чтобы подтвердить достоверность инцидента. Он пообещал, что все данные пользователей, ранее загруженные в SpaceXAI, будут безвозвратно удалены,











