Sakana AI LLMがより良いLLMトレーニング方法を発明できるか

Sakana AI 2024-06-13

Sakana AIは、進化的アルゴリズムを利用してLLMのトレーニングアルゴリズムを改善する研究を発表しました。このプロセスで発見された新しい損失関数「DiscoPOP」は、既存の方法を上回る性能を示しました。研究は進化的アプローチを使用し、LLM自身が新しいアルゴリズムを提案・実装する方法を開発しました。

引用元(公開日時: 2024年6月13日)


コメント

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です