#inference

带有「inference」标签的教程、项目案例和资讯,共 1 篇。

Strata 为兼容各种显卡做了妥协

Strata 要同时支持 NVIDIA、AMD、Intel、苹果等多种硬件,只能走通用路线,没法针对某一代显卡榨干性能。我们判断以后可能出专门针对 40 系、30 系的版本,可能更快;现在用 30、40 系照样能用。

经验·入门·1 分钟·会员stratalocal-llmgpuinference