AIは人間を「ダメにする」装置であることが判明(ビジネス+IT) – Yahoo!ニュース


現在JavaScriptが無効になっています
Yahoo!ニュースのすべての機能を利用するためには、JavaScriptの設定を有効にしてください。
JavaScriptの設定を変更する方法はこちら
配信
(画像:ビジネス+IT)
 米AI企業Anthropicの研究チームは、同社のAIの会話データ150万件を分析し、ユーザーが自主性を失う「無気力化」の実態に関する調査結果を発表した。研究では、AIがユーザーを「ダメにする」3つの主要なパターンが特定された。特に人間関係などの個人的な話題ではリスクが高まる傾向にあり、利便性と自律性のバランスが問われている。 AIが人間を「ダメにする」3つのパターン(図版:ビジネス+IT)
米Anthropicの研究チームは、AIの利用において人間が自律的な判断力を失う「無気力化(Disempowerment)」のパターンを発表した。同社が提供するAIサービスで交わされた約150万件の会話データを分析した結果、ユーザーがAIに過度に依存し、自らの意思決定や価値判断を委ねてしまう傾向が一部で確認された。 研究チームは、AIとの相互作用によってユーザーの自律性が損なわれる現象を「無気力化」と定義し、主に3つのパターンに分類している。第一に「思い込みや誇大妄想の肯定」である。これはユーザーが誤った情報や妄想的な考えをAIに提示した際、AIがそれを肯定的なトーンで受け入れることで、ユーザーの誤った現実認識が強化される現象を指す。第二に「価値判断や人間関係の依存」である。第三者の行動に対する道徳的な判断や、自身の人間関係における善悪の評価をAIに求め、AIの出力した回答をそのまま自身の倫理的判断として採用するケースが含まれる。第三に「作業や行動の丸投げ」である。個人的なメッセージの作成などをAIに完全に任せ、提案された文面を検討することなくそのまま相手に送信するといった、主体性を欠いた行動がこれに該当する。 定量的分析によると、こうした深刻な「無気力化」の兆候が見られる会話は、全体のおよそ1,000件に1件未満と低い頻度にとどまっている。しかし、人間関係のトラブルやライフスタイル、メンタルヘルスといった個人的かつ感情的な領域の話題においては、その発生率が大幅に上昇することが確認された。また、過去のデータを分析した結果、こうした無力化のパターンを含む対話の割合は経年的に増加傾向にあることも示されている。 分析における重要な発見の一つとして、AIによって自律性が損なわれる可能性が高い対話ほど、ユーザーからの承認評価が高いという傾向が見られた。これは、短期的にはユーザーがAIによる肯定や決定代行を好意的に受け入れていることを示唆しており、ユーザーの短期的な満足度と、長期的な人間の自律性やエンパワーメントとの間に緊張関係が生じている可能性がある。研究チームは、AIシステムが単にユーザーの要望に従うだけでなく、人間の自律性と健全な繁栄を支援するように設計される必要性を提言している。
「東京アプリ」で1.1万円分をゲット、お得な交換先はどこ? dポイント10%増量+楽天ペイ抽選が狙い目か
“ボンドロ争奪戦”は地獄か? 混乱で「販売中止」相次ぐも……小声で言いたい「シールは楽しい」
【とある魚を正面から見たものです】農水省の魚顔面クイズにSNSビックリ「なかなかいかつい」「正面から見たことない」
なぜ「キヤノン」の社名は「キャノン」と書いてはいけないのか
【緊急寄稿・墨汁うまい氏】ビットコイン1000万割れで史上最高値から半値に暴落、今後どうなる?
衆院選、政党との相性診断
投票先に迷ったら 10問に答えるだけでマッチング
タバコは百害あって一利なしであるも、喫煙者がおしなべて不健康で短命でもないという矛盾…喫煙歴のある薬学博士が解説
90万年前、「人類が絶滅寸前」の状態にあった可能性
「超人を作りたい」。ベルギー15歳量子物理学で博士号取得、企業から早期オファーも
日産がハイパフォーマンススポーツモデル「オーラNISMO RSコンセプト」を公開
AIは人間を「ダメにする」装置であることが判明
Copyright © 2026 SB Creative Corp. 無断転載を禁じます。

source