nanochatで理解するLLM製造工程
■ Karpathyのnanochat(約8,000行)を1冊で読み切る ■ tokenizer訓練→事前学習→SFT→強化学習→評価→推論エンジンの全工程をコードで追う ■ 2019年に$43,000だったGPT-2級の訓練が、いまいくらで手に入るのか ■ MacBookでも動かせる極小体験(runcpu.sh)まで案内 全8章。LLMを「使う側」から「工程を所有する側」へ渡るための一冊です。
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
この話題に関連する、TOEの実践・観測記録
AI解体新書
帳票読み取りAIに「考えさせる」のは必要か？推論なしが0.411、推論ありが0.303だった検証
請求書や財務書類をAIに読ませるとき、推論（思考）ステップは本当に要るのか。4Bの小型モデルを追加学習した論文では、推論なしのF1が0.411、推論ありが0.303と逆転した。自社ドメイン内では汎用クラウドAIも上回る一方、未知の様式では負ける。中小企業の帳票業務にとって何を意味するかを整理する。
続きを読む →
AI解体新書
AIエージェントは作業を完了しても、途中の安全ルールを守れているのか（507件の検証で安全遵守率0.16〜0.40）
VLMで動くエージェントを507件の課題で検証した研究では、易しい条件では成功率0.83〜0.94・安全遵守率最大0.91だったのに、物の上下や中身が絡む配置では成功率0.52〜0.73・安全遵守率0.16〜0.40まで落ちました。結果だけ見る検収では足りない理由を、中小企業の実務に置き換えて読み解きます。
続きを読む →
AI解体新書
正解データなしでAIの採点基準は作れるか──質問1つから基準を育てて平均精度80.36%
AIの出力が良いか悪いかを判定する採点基準を、人間が正解例を用意せずに質問1つから自動生成する手法が報告されました。平均ペアワイズ判定精度は素朴な生成の73.45%に対して80.36%。中小企業がAIチェッカーを社内に入れる際の「判定基準づくり」の人件費に直結する話として読み解きます。
続きを読む →