LeCun:用理解替代 LLM 的知识堆砌
Yann LeCun 认为 LLM 靠堆积陈述性知识回答更多问题,因此参数与内存需求很高;JEPA 世界模型尝试以“理解”替代这种积累。
所有带有「LLM」标签的 AI 情报。
34 条情报Yann LeCun 认为 LLM 靠堆积陈述性知识回答更多问题,因此参数与内存需求很高;JEPA 世界模型尝试以“理解”替代这种积累。
本地模型已发展到可每晚读取全部数字化生活的程度。Sentient OS 推出端侧 AI,用本地 LLM 夜间读取消息、文件和笔记,并把学到的内容写入文件夹。
GitHub 项目 WolfTweezers/ollma-without-restrictions 自称提供 Windows 上大模型本地推理环境,强调简化部署与硬件绑定配置。
TokenGate 通过让 LLM 有条件地略读上下文 token,实现最高 11.3 倍的 prefill 加速,并大幅降低长上下文任务的峰值显存占用。
作者跳过文献与线上争论,用自己的身体做实验,讨论当前LLM缺乏传感器等条件下,“意识感受”应如何理解。
mlabonne 的 llm-course 登上 GitHub Trending,提供进入大语言模型领域的路线图和配套 Colab 笔记本,适合系统学习 LLM。
该思路建议对进入系统的内容先做分类与排序,只在需要时调用LLM,以减少不必要的大模型请求并提升处理效率。
TokenSpeed 是一个追求极致速度的 LLM 推理引擎,目前已登上 GitHub Trending,项目使用 Python 开发。
TypeSafe AI发布首个System One模型Jev,决策速度比前沿LLM快100倍、成本低100倍。TypeSafe列出9个可用Jev工程取代昂贵LLM调用的工作场景。
Karpathy 认为这类模型处于 LLM 帕累托最优曲线上的巨大潜在需求区间:无需思考、单 token、低延迟、智能可接受,但因竞相追逐更高智能而投入不足。
谷歌论文称,把工作流放入可从执行中学习的可编辑程序图,而非埋在聊天历史,能减少长任务中遗忘、重复调用工具等问题。
LLMs still produce bugs, but those bugs are different than what they used to be. It’s less off-by-ones and more about system design, ui usability, missing broader context. Some kinds of coding has been solved, but not al
我喜欢把湾区的房屋平面图丢给LLM,要求它们以不同的美学风格重新设计,这次是京都风格。模型在3D方面已经变得非常出色。
这过去需要数年时间,联合创始人Arsalan Tavakoli表示。
小型AI PC正在作为真正的本地LLM机器出售。
“排名第三的闭源法学硕士遇到的麻烦最多。 随着企业采用模型路由,他们越来越多地在顶级专有模型和快速改进的开源替代方案之间进行选择。 这使得排名第三的闭源提供商受到双方的挤压,
专为支持 ChatGPT 和未来产品而构建。
一个被低估的良好启动开发工具想法的来源:采用旧的无聊API,将其设为代理本机+oss,并让法学硕士推荐。
扬·乐昆 ( @ylecun )在接受彭博社采访时解释了为什么法学硕士在现实世界的情报方面受到限制。 “语言是对世界的一种非常近似、简化、量化和简化的描述,法学硕士只能处理离散的符号序列。世界
大多数用户无法说出每个阶段的名称。
意大利的莱昂纳多超级计算机数据中心有足够的算力来训练非常大的LLM。
Andrej Karpathy表示,法学硕士文化可以视为一个巨大的草稿本,供LLM编辑。
结合所有的法学硕士比单一模型更具优势。
现在,树莓派可以运行聊天机器人,MacBook Air 可与 GPT-3.5 匹敌。
他在拼图旁边编写 Python 游戏,显示出超越大多数成年人的能力。
这家公司能将成本降低约一半,并与客户分成,市场潜力巨大。
将记忆工作移出模型,提升智能表现,优化搜索代理使用方式。
在本地运行LLMs的桌面应用中,Nemotron 3 Ultra表现相似但成本低。
新工具可减少处理PDF时的token消耗,提升效率。
新课程探讨如何以低延迟和合理成本服务多个用户。课程由@RedHat和@cedricclyburn共同开发。
Cloudflare与xAI合作,将Grok引入AI网关,简化用户体验。
越来越多用户请求LLM以特定风格回答问题,显示出AI在语言生成中的广泛应用。
Suno 获得超过 4 亿美元融资,旨在为人们带来更多创意满足,吸引了多家投资者。
研究令牌优化和模型路由,提出应对推理成本和需求的优化方法。