2024/2/29•8 分钟•0 条评论
关于本地模型的一些分享和探讨
关键要素
是否用本地模型的关键要素只有一个:成本
本地模型决策逻辑还包括厂商想要建立自己的护城河,害怕自己只是管道化而被替代,所以在本地设备上需要一定的能力,而如果本地设备一旦用户又是必须的,那不如就在本地设备上也集成模型能力。
云端的成本目前都由产品提供,用户或产品付费,端侧能力暂时闲置;
关键要素
是否用本地模型的关键要素只有一个:成本
本地模型决策逻辑还包括厂商想要建立自己的护城河,害怕自己只是管道化而被替代,所以在本地设备上需要一定的能力,而如果本地设备一旦用户又是必须的,那不如就在本地设备上也集成模型能力。
云端的成本目前都由产品提供,用户或产品付费,端侧能力暂时闲置;