#local-llm
带有「local-llm」标签的教程、项目案例和资讯,共 5 篇。
英伟达挖矿卡里藏着一颗 A100,有人把它完整解锁出来了
硬件安全研究者 Kate 公开研究:英伟达 CMP 170HX 挖矿卡和数据中心的 A100 用的是同一颗芯片,她用电压故障注入绕过熔丝限制,把大多数卡解锁到 80GB 显存和更多计算单元,实测半精度算力高于零售版 A100。门槛很高,有把卡弄坏的风险。
Strata 为兼容各种显卡做了妥协
Strata 要同时支持 NVIDIA、AMD、Intel、苹果等多种硬件,只能走通用路线,没法针对某一代显卡榨干性能。我们判断以后可能出专门针对 40 系、30 系的版本,可能更快;现在用 30、40 系照样能用。
VoxCPM 在自己电脑上打字出声音和克隆音色推荐
当用户要配音、文字转语音、设计新音色或克隆自己的声音时使用。用开源的 VoxCPM2 在本地生成 48kHz 语音,支持一句话描述音色和短录音克隆,Apache-2.0 可免费商用。需要 NVIDIA 显卡;只克隆本人或已同意的声音。 应用场景: 本地免费生成配音:打字出声音、一句话设计音色、用自己的录音克隆声音。
本地跑大模型和调 API 哪个更省钱推荐
一篇经验(会员可读):偶尔用(聊天、写文案、改代码)API 更便宜;高频批量(每天转写、分类、处理大量资料、固定工作流)本地可能更划算。核心分界线是每月 Token 消耗量,加上任务是否需要顶级模型质量。文中把两边的账和隐性成本算给你看。
