AI Pulseに戻るTAG COLLECTIONdoublenickk
「doublenickk」タグが付いたAI Pulseの更新一覧です。
2 件のシグナルUnsloth AI は Kimi K3 を 1-bit に圧縮し、4 基の B200 上で 1 秒あたり 36 トークンの速度で複雑な物理シミュレーションをローカル実行しており、崩壊も...
Unsloth AI は Kimi K3 を 1-bit に圧縮し、4 基の B200 上で 1 秒あたり 36 トークンの速度で複雑な物理シミュレーションをローカル実行しており、崩壊もしていない 重みを 1-bit に縮めると、以前はモデルが完全に役立たなくなっていた Unsloth のカスタムカーネルはその壁を打ち破り、VRAM 需要を大幅に削減し
人々は彼がこのMac Miniのバッテリーテストを偽造したと非難した 彼がローカルAIを実行中にデスクランプよりも消費電力が少ないことを証明するまでは ほとんどの開発者は、ローカルLLM...
人々は彼がこのMac Miniのバッテリーテストを偽造したと非難した 彼がローカルAIを実行中にデスクランプよりも消費電力が少ないことを証明するまでは ほとんどの開発者は、ローカルLLMを実行するには、壁から直接500ワットを消費する騒々しい3,000ドルのGPUリグが必要だと考えている。 このクリエイターは接続した