「\bLLM\b」タグが付いたAI Pulseの更新一覧です。
11 件のシグナルIn the era of base LLM scaling (2022-2024), I believed the LLM line of research would reach a capability plateau (as later seen with base LLMs). In late 2024, after the o3 test-time compute demo, I changed my views: the
ClaudeやChatGPTのようなLLMの構築を学ぶために2年を無駄にしないでください。 スタンフォード大学は、LLMをゼロから構築する方法に関する2時間のコースを公開しました。 • 00:00 - LLMのトークン化 • 25:44 - LLMがユーザープロンプトをデコードする方法 • 35:40 - LLMのトレーニングパイプライン • 1:16:47 - LLMアーキテクチャから
最も安いトークンは、送信しないトークンです。 ほとんどのAIエージェントは、同じコンテキストをLLMに送り続けています。 CodeModeは実行をコードサンドボックス内に保ち、次の決定に必要なものだけを送信します。 より少ないトークン。より低いコスト。より速いエージェント。 https:// datalayer.ai/guide #AI
RGB画像入力を備えたCodexはこれを行うことができました。 LLMエージェントはほとんどの人が考えていたよりも優れています。
理想気体の法則とLLMのトレーニングは同じ方程式です。サスキンドの導出は自由エネルギーから始まります：F = E - TS。固定温度と体積で最小化します。微積分を進めると、圧力は一定のTとNの下でp = -(∂F/∂V)として現れます。理想気体の場合、
アムステルダムの博士課程の学生が、自分のObsidian Vaultを、彼女が眠っている間に働く研究アシスタントに変えた。 3,200件のノート。 1週間で47本の論文。 彼女自身の思考の中に潜んでいた12の矛盾に気づかなかった。 それはKarpathyのLLM Wikiのアイデアから始まった。 チャットボットではない。
ローカルLLM PC市場が非常に現実的になった
ある開発者が、中古の2019年Mac ProにAMDのeGPUを1台接続し、総額3,000ドル未満で35BパラメータのローカルLLMサーバーに改造し、毎秒52トークンの処理速度を実現しました。彼は机の下にあるMac Proと、RX 6800を搭載したPaladin eGPUエンクロージャに接続された1本のThunderboltケーブルの動画を投稿しています。
それで私はほとんど追加しました - 家庭用GPUリグ 自給自足には良いかもしれませんが、繰り返しになりますが、ローカルの LLM のものは、品質、パフォーマンス (速度)、コストのいずれにおいてもクラウドにさえ及ばないと私はまだ考えています。 家を自給自足できるようにするのは良いことですが、私は次のことを考えています。 - テスラ パワーウォール 2 台 (27
1/ コストのかかる人間による評価をスケールアップするために、LLM 審査員を採用しています。しかし、LLM の裁判官を信頼するには、人間による評価が必要です。 私たちの新しいプレプリントは、この循環性に取り組んでいます:「メトリクスの一致: LLM ジャッジの信頼性を評価するためのサブセット選択アプローチ」
「で @databricks 、エンタープライズ グレードの LLM 移行を 30 日以内に実行できるようになりました。 That used to take as long as 3+ years." Databricks co-founder Arsalan Tavakoli