TAG COLLECTION

\bGPU\b

所有带有「\bGPU\b」标签的 AI 情报。

16 条情报

X.com07/27 00:47基础设施

人们指责他伪造了这次Mac Mini的电池测试直到他证明它在运行本地AI时消耗的电力比台灯还少大多数开发者认为运行本地大语言模型需要一个噪音大、直接从墙上消耗500瓦电力的价值300...

人们指责他伪造了这次Mac Mini的电池测试直到他证明它在运行本地AI时消耗的电力比台灯还少大多数开发者认为运行本地大语言模型需要一个噪音大、直接从墙上消耗500瓦电力的价值3000美元的GPU设备。这位创作者连接了一个

X 基础设施 doublenickk \bAI\b

信号强度 41查看原文

X.com07/22 23:46基础设施

四张英特尔锐炫Pro B60显卡将本地AI PC转变为192GB显存池，用于处理单张GPU无法容纳的模型。对于运行周期性内部代码或文档任务的运维人员而言，租用容量在成为模型问题之前，首先...

四张英特尔锐炫Pro B60显卡将本地AI PC转变为192GB显存池，用于处理单张GPU无法容纳的模型。对于运行周期性内部代码或文档任务的运维人员而言，租用容量在成为模型问题之前，首先是一个调度问题。四张双板英特尔

X 基础设施 kocer_eth \bAI\b

信号强度 88查看原文

X.com07/22 23:01基础设施

中国开发者将完整GPU绑在120美元迷你PC上，去年赚了19万美元，而他的前联合创始人却将A轮融资烧在了Anthropic账单上

X 基础设施 0xKnzo \bAnthropic\b

信号强度 42查看原文

X.com07/02 00:46基础设施

THIS DEVELOPER ADMITS HE'S GPU POOR WITH A 4-YEAR-OLD RTX 3090 - AND TESTS EVERY VRAM TIER SO...

THIS DEVELOPER ADMITS HE'S GPU POOR WITH A 4-YEAR-OLD RTX 3090 - AND TESTS EVERY VRAM TIER SO YOU KNOW EXACTLY WHAT YOUR HARDWARE CAN DO RTX 3060 with 12GB vs AMD BC250 with 16GB - one is a dedicated GPU with extra CPU a

X 基础设施 Sprytixl \bGPU\b

信号强度 49查看原文

X.com06/30 23:16开源项目

如何管理和监控一个拥有超过10,000个GPU的集群？

如何管理和监控一个拥有超过10,000个GPU的集群？腾讯团队开源了一个名为ARGUS的解决方案——令人印象深刻！训练大型模型成本极高；对于一个10,000个GPU的集群，单日的电费和硬件折旧可能轻易达到

X 开源项目 vista8 \bGPU\b

信号强度 43查看原文

X.com06/30 21:16基础设施

一位29岁的丹佛开发者花42,000美元购买了一台NVIDIA H100设备，该设备去年新品售价为400,000美元，现在每月通过微调服务赚取43,200美元。伊桑29岁，在丹佛地下室办...

一位29岁的丹佛开发者花42,000美元购买了一台NVIDIA H100设备，该设备去年新品售价为400,000美元，现在每月通过微调服务赚取43,200美元。伊桑29岁，在丹佛地下室办公室的绿色熨衣板下工作，从桑尼韦尔一家AI初创公司赢得了一台NVIDIA HGX H100 8 GPU服务器。

X 基础设施 Flandermaxx \bAI\b

信号强度 27查看原文

X.com06/30 20:16基础设施

这位中国建造者将8块退役的Tesla P40显卡改造成了一台192GB的私人AI服务器，每月可运行5,760 GPU小时。00:06 他举起一块二手Tesla P40，身后还有七块，然后...

这位中国建造者将8块退役的Tesla P40显卡改造成了一台192GB的私人AI服务器，每月可运行5,760 GPU小时。00:06 他举起一块二手Tesla P40，身后还有七块，然后将整套设备安装在一个巨大的双路Xeon服务器机箱内。每块显卡

X 基础设施 gippp69 \bAI\b

信号强度 66查看原文

X.com06/30 19:16基础设施

Meta的PyTorch核心工程师在13分钟内将CUDA内核编写变成了一项运动——比1500美元的GPU编程训练营更胜一筹。分析内核→找到瓶颈→重写→基准测试→将优胜代码合并到PyTor...

Meta的PyTorch核心工程师在13分钟内将CUDA内核编写变成了一项运动——比1500美元的GPU编程训练营更胜一筹。分析内核→找到瓶颈→重写→基准测试→将优胜代码合并到PyTorch。这个循环就是开源社区现在的工作方式。

X 基础设施 h100envy \bGPU\b

信号强度 23查看原文

X.com06/30 19:16基础设施

你599美元的Mac Mini在关键性能上击败了3800美元的GPU。统一内存意味着模型只需加载一次，两个处理器从同一内存池读取数据。而价格翻倍的Windows机器仍需在RAM和VRAM...

你599美元的Mac Mini在关键性能上击败了3800美元的GPU。统一内存意味着模型只需加载一次，两个处理器从同一内存池读取数据。而价格翻倍的Windows机器仍需在RAM和VRAM之间复制数据，且性能受限。2015年的130美元Tesla M40。

X 基础设施 vanvster \bGPU\b

信号强度 29查看原文

X.com06/25 22:45Agent

NVIDIA 刚刚为特工打造了一款人工智能计算机大多数人仍然认为人工智能代理生活在云端该视频展示了 NVIDIA 将堆栈移至您的桌面上：RTX Spark，这是一款微型 AI 计算机...

NVIDIA 刚刚为特工打造了一款人工智能计算机大多数人仍然认为人工智能代理生活在云端该视频展示了 NVIDIA 将堆栈移至您的桌面上：RTX Spark，这是一款微型 AI 计算机，配备 Grace CPU、Blackwell GPU 和 128GB 统一内存，专为运行本地

X Agent scrygg \bAI\b

信号强度 20查看原文

X.com06/25 22:35基础设施

所以我几乎加上了 - 家用 GPU 装备这对于自给自足来说可能很好，但我仍然不认为本地 LLM 的东西在质量、性能（速度）或成本方面甚至无法接近云让你的家自给自足是件好事，我有： -...

所以我几乎加上了 - 家用 GPU 装备这对于自给自足来说可能很好，但我仍然不认为本地 LLM 的东西在质量、性能（速度）或成本方面甚至无法接近云让你的家自给自足是件好事，我有： - 2x Tesla Powerwall (27

X 基础设施 levelsio \bLLM\b

信号强度 54查看原文

X.com06/25 22:03基础设施

这位中国企业家建造了一个仓库规模的 GPU 农场，现在每月向人工智能初创公司提供 400 万美元的租金沃尔玛大小的仓库中有 4,000 个 GPU - 电力合同和冷却已经就位 - 以及...

这位中国企业家建造了一个仓库规模的 GPU 农场，现在每月向人工智能初创公司提供 400 万美元的租金沃尔玛大小的仓库中有 4,000 个 GPU - 电力合同和冷却已经就位 - 以及一个身高 6 英尺 6 英寸的操作员以太坊将于 2022 年 9 月合并

X 基础设施 Sprytixl \bAI\b

信号强度 16查看原文

X.com06/23 19:45基础设施

每月 220 美元的 AI 账单。他想都没想就付了两年的钱。

每月 220 美元的 AI 账单。他想都没想就付了两年的钱。然后一位客户问了一个问题，90 秒内拿走了 5,000 美元。 0点21分观看。他指着桌子下面的 GPU 的位置。其中一台使用 RTX 3090。24GB VRAM。以 1,050 美元的价格购买二手货。

X 基础设施 kurtetti \bAI\b

信号强度 51查看原文

X.com06/18 05:45基础设施

2026 年的超级计算机是 MAC MINI 的仓库。您办公桌上的 KIMI API 可在 15 分钟内提供 300 欧元的研究报告大多数人认为运行人工智能意味着需要 10,000 美...

2026 年的超级计算机是 MAC MINI 的仓库。您办公桌上的 KIMI API 可在 15 分钟内提供 300 欧元的研究报告大多数人认为运行人工智能意味着需要 10,000 美元的 GPU 服务器或每个月都在增长的云账单。开发人员建立真正的业务使用单一

X 基础设施 starmexxx \bAI\b

信号强度 28查看原文

X.com06/15 19:15基础设施

这就是本地人工智能不再是玩具时的样子他拿着一台基于 AMD Strix Halo 构建的 128GB AI 迷你电脑。

这就是本地人工智能不再是玩具时的样子他拿着一台基于 AMD Strix Halo 构建的 128GB AI 迷你电脑。这就是整个转变。多年来，大型模型的答案很简单：租用云。支付 API 费用。等待GPU。看表。现在的模型

X 基础设施 xmyttle \bAI\b

信号强度 19查看原文

X.com06/10 23:18产品更新

NVIDIA刚刚发布了0.6B参数的语音识别模型名为Nemotron-3.5-ASR 支持40多种语言，实时流式输出——无需GPU，纯CPU即可运行速度是官方Nemo运行时的2.5倍...

NVIDIA刚刚发布了0.6B参数的语音识别模型名为Nemotron-3.5-ASR 支持40多种语言，实时流式输出——无需GPU，纯CPU即可运行速度是官方Nemo运行时的2.5倍，识别结果完全一致可以

X 产品更新 kfk_ai \bspeech recognition\b

信号强度 100查看原文