株式会社豆蔵(本社：東京都新宿区、代表取締役社長：中原 徹也、以下 豆蔵)が生成AIの研究論文を発表したことをお知らせいたします。豆蔵のAIテクニカルセクター所属の石川 真之介、藤堂 真登、立教大学大学院人工知能科学研究科(所在地：東京都豊島区、研究科委員長：大西 立顕)による研究グループは、大規模言語モデル(Large Language Model, LLM)が、与えられた情報に対し、実際には存在しない誤った規則性を見出してしまうことがあると発見しました。特筆すべきは、そのような誤った規則性についてLLM自身に検証を行わせたところ、「その規則性は存在しない」と正しく判断できる場合も少なくないことが分かりました。つまり、LLMは自ら誤りであると判断できる規則性を、存在すると主張してしまうことがあるということです。

株式会社豆蔵(本社：東京都新宿区、代表取締役社長：中原 徹也、以下 豆蔵)が生成AIの研究論文を発表したことをお知らせいたします。豆蔵のAIテクニカルセクター所属の石川 真之介、藤堂 真登、立教大学大学院人工知能科学研究科(所在地：東京都豊島区、研究科委員長：大西 立顕)による研究グループは、大規模言語モデル(Large Language Model, LLM)が、与えられた情報に対し、実際には存在しない誤った規則性を見出してしまうことがあると発見しました。特筆すべきは、そのような誤った規則性についてLLM自身に検証を行わせたところ、「その規則性は存在しない」と正しく判断できる場合も少なくないことが分かりました。つまり、LLMは自ら誤りであると判断できる規則性を、存在すると主張してしまうことがあるということです。