AIのごますり”sycophancy”

Sycophancyという単語を知っていますか？なかなか学校で学ぶこともない単語だと思います。「おべっかをつかう」「ごまをする」「媚びる」という意味で、あまり良いニュアンスでは使われません。

最近ではこのsycophancyという言葉がAIの領域で使われています。皆さんもLarge Language Modelを用いたAIを使う中で、皆さんに同調するメッセージを目にしたことがあるのではないでしょうか？例えば、何かを質問した時に「素晴らしい着眼点ですね」と言われたり、文章の推敲をお願いした時に「すでに素晴らしい文章ですが、以下のような修正もできます」とまずはプラスのメッセージから始まったり。

このようにユーザーに迎合する現象が、LLMを用いたAIにおけるSycophancyと呼ばれており、最近よく耳にする表現となっています。