キャラクターAI、より安全なキッズチャットのための「ストーリー」を展開

Character.AIは火曜日、ユーザーが好きなキャラクターを主人公にしたインタラクティブな小説を作ることができる新機能「ストーリーズ」を発表した。この新機能は、同社が18歳未満のユーザーに対してチャットボットへのアクセスを制限しているのと同時に発表された。

この動きは、24時間365日稼働し、会話を開始することができるAIチャットボットがもたらす精神衛生上のリスクに関する懸念の高まりに対応するものだ。OpenAIやCharacter.AIを含む企業は、自社のプラットフォームがユーザーの自殺につながったとして訴訟に直面している。ここ数週間、Character.AIは未成年者のアクセスを徐々に制限しており、火曜日の時点で、未成年ユーザーは同社のAIキャラクターとチャットでやりとりすることができなくなった。

"ストーリーは、オープンエンドのチャットとは対照的に、フィクションを創作し探求するためのガイド付きパスを提供します "と同社はブログ投稿で述べている。「私たちは、他のマルチモーダル機能と一緒に提供することで、ティーンエイジャーが安全第一の環境でお気に入りのキャラクターと関わり続けることを可能にしています。

インタラクティブ・フィクションの人気は著しく伸びており、Character.AIの戦略的転換は理にかなっている。しかし、チャットボットへの依存度が高かったユーザーを完全に満足させることはできないかもしれない。

Character.AIのサブレディットでの反応は分かれている。一部の10代の若者たちは失望を表明したが、最終的にはこの方針に同意した。

「禁止されたことに本当に動揺しているが、ようやく他のことに集中でき、中毒を断ち切れるかもしれないのでホッとしている」と、10代と名乗るあるユーザーは書いている。

また、「18歳未満としては残念だが、私のような年齢の人は簡単に中毒になる可能性があるので、正当化もできる」というコメントもあった。

Disrupt 2026のキャンセル待ちリストに参加する

Disrupt 2026のキャンセル待ちリストに参加すると、早期割引チケットの発売開始時に優先的にアクセスできる。これまでのDisruptイベントには、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaのリーダーが参加している。彼らは、あなたの成長を加速させ、競争力を磨くために設計された200以上のセッションをリードする250人以上の業界の専門家の一部です。また、あらゆる分野の先駆的新興企業数百社とつながるチャンスもあります。

Disrupt 2026のキャンセル待ちリストに参加する

Disrupt 2026のウェイティングリストに登録すると、早期割引チケットの販売開始時に優先的にアクセスできます。これまでのDisruptイベントには、Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaのリーダーが参加しています。彼らは、あなたの成長を加速させ、競争力を磨くために設計された200以上のセッションをリードする250人以上の業界の専門家の一部です。また、あらゆる分野の先駆的新興企業数百社とつながるチャンスもある。

10代の若者がストーリーズ機能をどのように採用するかはまだわからないが、この形式はチャットボットによるオープンエンドのロールプレイよりも心理的リスクが少ない。無制限の会話にユーザーを巻き込み、いつでも未承諾のメッセージを送ることができるチャットボットとは異なり、ストーリーズはより限定された体験を提供する。

Character.AIが年齢制限を導入することを決定したのは、カリフォルニア州がAIコンパニオンを規制する米国初の州となったからだ。全米レベルでは、ジョシュ・ホーリー上院議員（共和党）とリチャード・ブルメンタール上院議員（民主党）が、未成年者のAIコンパニオンを全面的に禁止する法案を提出している。

Character.AIのCEOであるKarandeep Anand氏は先月、TechCrunchの取材に対し、「私たちの行動が業界標準となり、18歳未満のユーザーにとってオープンエンドチャットは適切な製品ではない可能性が高いことを示すことを心から願っています」と語った。