这家伙把30台599美元的Mac Mini改造成了一个静音AI机架,每月在线成本约120美元。每个M4节点配备16GB统一内存,可运行小型本地模型、转录、私有搜索和轻量级代理,无需将所有...
这家伙把30台599美元的Mac Mini改造成了一个静音AI机架,每月在线成本约120美元。每个M4节点配备16GB统一内存,可运行小型本地模型、转录、私有搜索和轻量级代理,无需将所有任务发送到云端。
所有带有「fleyta88」标签的 AI 情报。
2 条情报这家伙把30台599美元的Mac Mini改造成了一个静音AI机架,每月在线成本约120美元。每个M4节点配备16GB统一内存,可运行小型本地模型、转录、私有搜索和轻量级代理,无需将所有任务发送到云端。
这个团队将30多台Mac Mini变成了一个私有AI集群,可以24/7不间断运行数百个任务。每台Mac Mini负责一个狭窄的角色。有些收集数据,有些转录音频、运行代理、检查输出或将完成文件移入最终数据库。