【お知らせ】プログラミング記事の投稿はQiitaに移行しました。

AIで論文を読む: Your Transformer is Secretly Linear

次の論文を Claude 3 Sonnet に読み込ませて、質問しました。

  • Razzhigaev, A., Mikhalchuk, M., Goncharova, E., Gerasimenko, N., Oseledets, I., Dimitrov, D., & Kuznetsov, A. (2024). Your Transformer is Secretly Linear. Retrieved from http://arxiv.org/abs/2405.12250

【注意】AI の説明には誤りが含まれる可能性があり、正確さは保証できません。詳細は原論文を確認してください。

続きを読む

LLM交換形式と人工言語の可能性

LLMの影響は人工言語にも及ぶのではないかという着想に基いて、Claude 3 Sonnetと対話を進めました。その結果を論文風のスタイルにまとめて公開します。AIが生成した文章そのままではなく、最低限の意味が通るように修正しました。具体的な設計を示しているわけではなく、実際に自分で手掛けることも難しいのですが、このような方向性もあり得るのではないかと予想しています。

続きを読む