人工智能对齐
2024-04-18 11:28:00
AIアライメント
人工知能(AI)分野における重要な概念の一つに、AIシステムの目標と行動が人間の価値観や倫理基準および利益に一致するようにデザインすることが挙げられる。AIシステムが人間の価値観と相反する決定をし、制御不能な結末を生み出さないようにするため、研究界隈はAIシステムと人間の価値観が一致するAIアライメントを生み出さなければならないという概念を打ち出した。これに伴い、スーパーアライメント(全ての分野で人間の知能を超越するスーパーAIシステムに人間の価値観に沿った選択や行動をさせること)という概念も生まれた。