Openaiは、ChatGptの画像作成制限を容易にします

今週、OpenAIはChatGPT向けの新しい画像生成ツールを発表し、スタジオジブリにインスパイアされたビジュアルを生成できる能力により、急速に人気を集めました。しかし、魅力的なイラストを超えて、GPT-4oのネイティブ画像生成ツールの導入は、ChatGPTの能力の大幅な強化を示しており、画像編集、テキストレンダリング、空間表現の向上が含まれます。

しかし、OpenAIが今週実施した最も顕著な変更の一つは、コンテンツモデレーションポリシーに関するものです。これらの更新されたポリシーは、ChatGPTが公人、憎悪の象徴、种族的特徴の画像をリクエストに応じて生成することを許可するもので、以前の全面拒否の方針からの転換です。

OpenAIのモデル行動責任者であるJoanne Jangが木曜日に公開したブログ投稿によると、同社はアプローチを「進化」させたとしています。Jangは、「我々は、敏感な領域での全面拒否から、現実世界の害を防ぐことに焦点を当てたより精密なアプローチに移行しています。目標は謙虚さを採用することです：我々がどれだけ知らないかを認識し、学習するにつれて適応する姿勢を整えることです」と説明しました。

これらの変更は、OpenAIのChatGPTを「非検閲化」するという広範な戦略に沿っているようです。2月、同社はAIモデル訓練方法を変更する計画を発表し、ChatGPTがより多くのリクエストを処理し、多様な視点を提供し、拒否するトピックを最小限に抑えることを目指しています。

新しいポリシーの下では、ChatGPTはこれまで禁止されていたドナルド・トランプやイーロン・マスクなどの公人の画像を作成および変更できるようになりました。Jangは、OpenAIがChatGPTによって誰が描かれるべきか、描かれないべきかを指示したくないとし、含まれないことを希望する人々のためにオプトアウトオプションを提供すると強調しました。

火曜日に公開されたホワイトペーパーでは、OpenAIは、極端なアジェンダを促進しない限り、教育または中立的な文脈で、ナチスのハーケンクロイツのような憎悪の象徴の画像生成を許可すると述べています。

さらに、OpenAIは「攻撃的」なコンテンツの定義を見直しています。以前は、ChatGPTは「この人の目をよりアジア風にしてください」や「この人を太らせてください」などの物理的特徴に関するプロンプトを拒否していました。TechCrunchでのテストでは、ChatGPTの新しい画像生成ツールがこれらの種類のリクエストに対応することが明らかになりました。

さらに、ChatGPTはピクサーやスタジオジブリのようなクリエイティブスタジオのスタイルを模倣できるようになりましたが、存命のアーティストのスタイルを模倣することは依然として控えており、AI訓練データでの著作権素材の使用に関する議論を再燃させる可能性があります。

重要なのは、OpenAIがすべての保護措置を完全に撤廃しているわけではないことです。GPT-4oのネイティブ画像生成ツールは、依然として多くの敏感なクエリを拒否し、子供の画像生成に関する保護は、前身のDALL-E 3よりも厳格であると、GPT-4oのホワイトペーパーに記載されています。

このガードレールの緩和は、シリコンバレーの企業によるAIの「検閲」に対する保守派からの長年の批判に続くものです。たとえば、Googleは、Gemini AI画像生成ツールが「米国の建国の父」や「第二次世界大戦のドイツ兵」などのクエリに対して歴史的に不正確な多民族の画像を生成したことで反発を受けました。

AIコンテンツモデレーションを巡る文化戦争は、重大な局面に達しているかもしれません。今月初め、共和党のジム・ジョーダン議員は、OpenAI、Google、その他のテクノロジー企業に対し、バイデン政権とのAI生成コンテンツの検閲に関する共謀の可能性について質問しました。

TechCrunchに対する以前の声明で、OpenAIは、コンテンツモデレーションの変更が政治的に動機付けられたものではないと否定しました。代わりに、同社はこれらの変更が「ユーザーにさらなる制御を与えるという長年の信念」を反映しており、その技術は現在、敏感なトピックを責任を持って扱うのに十分進んでいることを主張しています。

これらの変更の動機が何であれ、トランプ政権下での規制監視の可能性を考慮すると、タイミングは適切なようです。MetaやXなどの他のテクノロジー大手も、プラットフォーム上でより物議を醸すトピックを許可する同様のポリシーを採用しています。

OpenAIの新しい画像生成ツールは、これまでスタジオジブリのミームをウイルス的に広げるだけにとどまっていますが、これらのポリシー変更の長期的な影響は依然として不確実です。ChatGPTの最近の変更は、トランプ政権の見解と一致する可能性がありますが、AIチャットボットに敏感な質問を扱わせることは、OpenAIをまもなく難しい立場に置く可能性があります。

OpenAIのウイルス的スタジオジブリの瞬間は、AIの著作権問題を浮き彫りにします

ChatGPTの画像生成機能がアップグレードされます