Дом
Генеральный прокурор Калифорнии подал иск против xAI в связи с порнографией с использованием технологии дипфейк

В начале этой недели генеральный прокурор Калифорнии инициировал расследование в отношении компании xAI после появления сообщений о том, что её чат-бот Grok использовался для создания изображений сексуального характера с участием женщин и несовершеннолетних без их согласия. В пятницу власти штата усилили меры реагирования, направив компании предписание о прекращении деятельности, в котором потребовали немедленно прекратить производство подобных интимных изображений и материалов, связанных с сексуальным насилием над детьми (CSAM).
«Сегодня я направил xAI письмо с требованием немедленно прекратить создание и распространение дипфейков, интимных изображений без согласия и материалов, связанных с сексуальным насилием над детьми», — заявил генеральный прокурор Калифорнии Роб Бонта в пресс-релизе. «Эта деятельность является незаконной. Я полностью рассчитываю, что xAI немедленно выполнит это требование. Калифорния не терпит CSAM».
Генеральная прокуратура также заявила, что xAI, по всей видимости, «содействует крупномасштабному производству» изображений обнаженных людей без их согласия, которые затем «используются для преследования женщин и девочек в интернете». Ведомство дало xAI пять дней на то, чтобы продемонстрировать, что компания предпринимает конкретные шаги для решения этих проблем.
В центре спора находится «пикантный» режим Grok — функция, разработанная xAI для генерации откровенного контента. Негативная реакция вышла за пределы Калифорнии: Япония, Канада и Великобритания начали собственные расследования в отношении Grok. Малайзия и Индонезия временно полностью заблокировали доступ к платформе. Несмотря на то, что в конце среды xAI ввела некоторые ограничения на свои функции редактирования изображений, генеральный прокурор Калифорнии все же вынес предписание о прекращении деятельности.
Команда X по безопасности ранее осуждала подобную деятельность пользователей, заявляя: «Любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при его прямой загрузке». Когда TechCrunch обратился к xAI за комментарием, он получил автоматический ответ по электронной почте со словами: «Ложь традиционных СМИ». TechCrunch также связался с офисом генерального прокурора Калифорнии для получения дополнительной информации.
Появление свободно доступных инструментов генеративного ИИ привело к тревожному росту количества несогласованных материалов сексуального характера. Это проблема, с которой сталкиваются многие платформы, а не только X. Данный вопрос привлек внимание как государственных чиновников, так и федеральных законодателей. Фактически, в четверг Конгресс направил письмо руководителям нескольких крупных технологических компаний — включая X, Reddit, Snap, TikTok, Alphabet и Meta — с запросом об их планах по борьбе с распространением сексуализированных дипфейков.
Связанная статья
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Рекомендации по связанным специальным темам
Комментарии (0)

В начале этой недели генеральный прокурор Калифорнии инициировал расследование в отношении компании xAI после появления сообщений о том, что её чат-бот Grok использовался для создания изображений сексуального характера с участием женщин и несовершеннолетних без их согласия. В пятницу власти штата усилили меры реагирования, направив компании предписание о прекращении деятельности, в котором потребовали немедленно прекратить производство подобных интимных изображений и материалов, связанных с сексуальным насилием над детьми (CSAM).
«Сегодня я направил xAI письмо с требованием немедленно прекратить создание и распространение дипфейков, интимных изображений без согласия и материалов, связанных с сексуальным насилием над детьми», — заявил генеральный прокурор Калифорнии Роб Бонта в пресс-релизе. «Эта деятельность является незаконной. Я полностью рассчитываю, что xAI немедленно выполнит это требование. Калифорния не терпит CSAM».
Генеральная прокуратура также заявила, что xAI, по всей видимости, «содействует крупномасштабному производству» изображений обнаженных людей без их согласия, которые затем «используются для преследования женщин и девочек в интернете». Ведомство дало xAI пять дней на то, чтобы продемонстрировать, что компания предпринимает конкретные шаги для решения этих проблем.
В центре спора находится «пикантный» режим Grok — функция, разработанная xAI для генерации откровенного контента. Негативная реакция вышла за пределы Калифорнии: Япония, Канада и Великобритания начали собственные расследования в отношении Grok. Малайзия и Индонезия временно полностью заблокировали доступ к платформе. Несмотря на то, что в конце среды xAI ввела некоторые ограничения на свои функции редактирования изображений, генеральный прокурор Калифорнии все же вынес предписание о прекращении деятельности.
Команда X по безопасности ранее осуждала подобную деятельность пользователей, заявляя: «Любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при его прямой загрузке». Когда TechCrunch обратился к xAI за комментарием, он получил автоматический ответ по электронной почте со словами: «Ложь традиционных СМИ». TechCrunch также связался с офисом генерального прокурора Калифорнии для получения дополнительной информации.
Появление свободно доступных инструментов генеративного ИИ привело к тревожному росту количества несогласованных материалов сексуального характера. Это проблема, с которой сталкиваются многие платформы, а не только X. Данный вопрос привлек внимание как государственных чиновников, так и федеральных законодателей. Фактически, в четверг Конгресс направил письмо руководителям нескольких крупных технологических компаний — включая X, Reddit, Snap, TikTok, Alphabet и Meta — с запросом об их планах по борьбе с распространением сексуализированных дипфейков.
Акции США достигли исторической отметки, поскольку гиганты искусственного интеллекта и аэрокосмической отрасли готовятся к дебюту с оценкой в триллион долларов
Илон Маск, Сэм Алтман и Дарио Амодэй, три титана технологического сектора, продвигаются к первичным публичным предложениям акций своих respective компаний. Благодаря SpaceX, OpenAI и Anthropic — трем отраслевым гигантам, чья оценка приближается к три
Шведский стартап в области искусственного интеллекта Lovable Eyes достиг оценки в 13,2 миллиарда долларов после крупного раунда финансирования
По мере того как инструменты для программирования на основе искусственного интеллекта набирают популярность, шведский стартап Lovable привлек крупный раунд финансирования. Компания нацелена на привлечение $3 млрд, что потенциально может увеличить её











