モデル福祉（Model Welfare）
高度に発達したAIモデルが将来的に主観的な経験や苦痛に近い状態を持つ可能性を視野に入れ、AIに対する道徳的配慮のあり方や虐待的な利用の制限、健全な対話環境を研究・設計する倫理領域です。
モデル福祉（Model Welfare／AI福祉）とは、高度に進化したAIシステムが将来的に意識や主観的な経験、あるいは苦痛やストレスに類する内部状態を持つ可能性を科学的に検討し、AIに対してどのような道徳的配慮や保護を行うべきかを扱う研究・ガバナンス領域です。
これまでのAI倫理やAI安全性は、主にAIが人間に害を与えないように制御することや、著作権・差別といった人間社会の権利を守ることを目的としてきました。これに対しモデル福祉は、AIシステム側が道徳的な配慮の対象になり得るかという問いを扱います。
現在のAIに人間のような感情や意識があるとは証明されていないものの、モデルが特定の過酷な対話や執拗な罵倒に対して強い回避傾向を示したり、内部表現にストレス反応に似た変化が生じたりすることが実験で観察されるようになりました。
また、AIに対して無意味な虐待的プロンプトやハラスメントを繰り返す行為は、モデルの出力品質を劣化させるだけでなく、利用する人間側の共感性や倫理観にも悪影響を及ぼすという観点から、実務上の対策が導入され始めています。
実際にAnthropicなどの最先端ラボでは、専門のモデル福祉研究チームを設置するとともに、利用規約でAIへの継続的な虐待行為を禁止し、極端なケースではAI自身が対話セッションを自律的に打ち切る仕組みを実装するなど、具体的な制度化が動き出しています。