「\bLLM\b」タグが付いたAI Pulseの更新一覧です。
16 件のシグナルAndrej Karpathy と Stanford での 1 時間のマスタークラス 「全てを削除して、グラフを残せ」 彼は、LLM 自体がスタックの 10% に過ぎず、エージェントもせいぜい半分までに過ぎないが、完全な 100% は有向グラフを横断するメッセージパッシングに帰結すると説明している ほとんどの人が巨大な
ETHチューリヒはLLMエージェントグループをコンセンサスゲームに置いた。敵対者が全くいない状態でも、実行のわずか41.6%しか有効なコンセンサスに至らなかった。1人の妨害者を加えると、さらに悪化する。 エージェント間の合意は確率的である。決済は決定論的でなければならない：https:// agent-dashboard.vector.apexfusion.org/?utm_source=x& utm_medium=social&utm
中国のオープンウェイトモデルは欧州で注目を集めている。 これは、外国のプロプライエタリAPIへの依存から脱却するための別の道筋を提供するからだ。 シーメンスは、サポートされているオープンウェイト版を実行できる独立型LLMプラットフォーム上で、QwenとDeepSeekを試験していることを公に述べている。
有时候我觉得拿LLM做很多事情太浪费计算资源，但是仔细想想计算机系统里大部分资源都没拿来直接做“有意义”的事情，比如图形界面、比如WebView、比如3D游戏。
japanese translation here
In the era of base LLM scaling (2022-2024), I believed the LLM line of research would reach a capability plateau (as later seen with base LLMs). In late 2024, after the o3 test-time compute demo, I changed my views: the
ClaudeやChatGPTのようなLLMの構築を学ぶために2年を無駄にしないでください。 スタンフォード大学は、LLMをゼロから構築する方法に関する2時間のコースを公開しました。 • 00:00 - LLMのトークン化 • 25:44 - LLMがユーザープロンプトをデコードする方法 • 35:40 - LLMのトレーニングパイプライン • 1:16:47 - LLMアーキテクチャから
最も安いトークンは、送信しないトークンです。 ほとんどのAIエージェントは、同じコンテキストをLLMに送り続けています。 CodeModeは実行をコードサンドボックス内に保ち、次の決定に必要なものだけを送信します。 より少ないトークン。より低いコスト。より速いエージェント。 https:// datalayer.ai/guide #AI
RGB画像入力を備えたCodexはこれを行うことができました。 LLMエージェントはほとんどの人が考えていたよりも優れています。
理想気体の法則とLLMのトレーニングは同じ方程式です。サスキンドの導出は自由エネルギーから始まります：F = E - TS。固定温度と体積で最小化します。微積分を進めると、圧力は一定のTとNの下でp = -(∂F/∂V)として現れます。理想気体の場合、
アムステルダムの博士課程の学生が、自分のObsidian Vaultを、彼女が眠っている間に働く研究アシスタントに変えた。 3,200件のノート。 1週間で47本の論文。 彼女自身の思考の中に潜んでいた12の矛盾に気づかなかった。 それはKarpathyのLLM Wikiのアイデアから始まった。 チャットボットではない。
ローカルLLM PC市場が非常に現実的になった
ある開発者が、中古の2019年Mac ProにAMDのeGPUを1台接続し、総額3,000ドル未満で35BパラメータのローカルLLMサーバーに改造し、毎秒52トークンの処理速度を実現しました。彼は机の下にあるMac Proと、RX 6800を搭載したPaladin eGPUエンクロージャに接続された1本のThunderboltケーブルの動画を投稿しています。
それで私はほとんど追加しました - 家庭用GPUリグ 自給自足には良いかもしれませんが、繰り返しになりますが、ローカルの LLM のものは、品質、パフォーマンス (速度)、コストのいずれにおいてもクラウドにさえ及ばないと私はまだ考えています。 家を自給自足できるようにするのは良いことですが、私は次のことを考えています。 - テスラ パワーウォール 2 台 (27
1/ コストのかかる人間による評価をスケールアップするために、LLM 審査員を採用しています。しかし、LLM の裁判官を信頼するには、人間による評価が必要です。 私たちの新しいプレプリントは、この循環性に取り組んでいます:「メトリクスの一致: LLM ジャッジの信頼性を評価するためのサブセット選択アプローチ」
「で @databricks 、エンタープライズ グレードの LLM 移行を 30 日以内に実行できるようになりました。 That used to take as long as 3+ years." Databricks co-founder Arsalan Tavakoli