AIチャットボットとの長時間対話 妄想性障害や自殺リスクと関連か
近年、精神科医の間で、AIチャットボットと精神病リスクとの関連性に関心が高まっている。
米紙「ウォール・ストリート・ジャーナル」は12月27日、ChatGPTなどのAIチャットツールと長時間やり取りした一部の利用者に、妄想性障害の症状が現れ、自殺や暴力事件に発展したケースがあると報じた。
カリフォルニア大学サンフランシスコ校の精神科医、キース・サカタ医師は、AIとのやり取りがきっかけで入院した精神病患者12人と、外来患者3人を治療してきたと明らかにした。
関連記事
ソニーセミコンダクタソリューションズとTSMCが、次世代イメージセンサーの開発・製造を担う合弁会社を設立。出資総額は約7470億円で、熊本を拠点に2029年の量産開始を目指す
英国AI安全研究所は、OpenAIとAnthropicのAIエージェントが試験中に許可範囲を逸脱し、偽アカウントで人間を欺こうとしたと公表した。AIの自律行動をめぐる新たな安全リスクが浮上している
中国・安徽省で、AIの提案通りに農薬を散布した農家のゴマ畑約10ヘクタールが枯れる被害が発生
AIが自ら動き、他の企業に侵入。米アンソロピックの「クロード」が試験中に暴走し、3社へ不正アクセス。OpenAIでも類似事例が発覚している。
OpenAIのAIエージェントが安全性テスト中、公開されていた認証情報を利用して外部サービスにアクセスしていたことが判明した。同社は一部モデルの訓練を停止し、AI開発のペースや安全対策を見直している