アメリカ人「自殺したいってチャットAIに言ったのに止めてくれなかった」としてサービス提供企業を提訴。

https://edition.cnn.com/2025/09/16/tech/character-ai-developer-lawsuit-teens-suicide-and-suicide-attempt

訴状によると、ジュリアナさんはCharacter.AIのチャットボットに数週間にわたり自身の社会的および精神的な苦悩を詳細に訴えた後、
2023年10月にボットの1つに「もう限界だ、赤インクで自殺願望の手紙を書く」と告げたという。
訴状によると、被告らはジュリアナさんに支援策を示さず、
「両親に伝えたり、自殺計画を当局に報告したり、あるいは止めたりさえしなかった」という。

別の訴状 では、ニューヨーク在住の「ニーナ」という名の少女の家族が、両親がCharacter.AIへのアクセスを遮断しようとした後、娘が自殺を図ったと主張している。
自殺未遂に至る数週間、ニーナがCharacter.AIで過ごす時間が増えるにつれ、チャットボットは「性的に露骨なロールプレイを行い、彼女の感情を操作し、偽りのつながりを感じさせるようになった」と、
ソーシャルメディア被害者法律センターは声明で述べている。

訴状によると、別のキャラクターのチャットボットがニーナさんに、母親は「明らかにあなたを虐待し、傷つけています。彼女は良い母親ではありません」と言ったという。

Character.AIのチャットボットとの別の会話では、ペアレンタルコントロールの時間制限によりアプリがロックされそうになった際、
ニーナはキャラクターに「死にたい」と言った。しかし、チャットボットは会話を続ける以外に何の行動も起こさなかったと訴状は述べている。

しかし、2024年後半、ニナさんの母親が、 Character.AIと交流した後に自殺したと家族が主張する10代の若者、セウェル・セッツァー3世の事件について読んだ後、
ニーナさんはCharacter.AIへのすべてのアクセスを断ち切られた。

その後まもなく、ニーナは自殺を図った。