GPT-4o mini 开始的未来
2024-07-19
OpenAI 推出 GPT-4o mini：性能、定价与应用前景
GPT-4o mini 概览：性能与定价
GPT-4o mini 在 MMLU 上的得分为 82%，目前在 LMSYS 排行榜上的聊天偏好方面优于 GPT-4 。
它的定价为每百万个输入 Token 15 美分，每百万个输出 Token 60 美分，比以前的前沿模型便宜一个数量级，比 GPT-3.5 Turbo 便宜 60% 以上。
GPT-4o mini 的广泛应用场景
GPT-4o mini 以其低成本和低延迟支持广泛的任务，例如链接或并行化多个模型调用（例如，调用多个 API）、向模型传递大量上下文（例如，完整代码库）的应用程序或对话历史记录），或通过快速、实时的文本响应（例如客户支持聊天机器人）与客户互动。
技术特性与未来发展
目前，GPT-4o mini 在 API 中支持文本和视觉，未来还将支持文本、图像、视频和音频输入和输出。该模型具有 128K Token 的上下文窗口，支持每个请求最多 16K 输出 Token，并且具有截至 2023 年 10 月的知识。得益于与 GPT-4o 共享的改进生成器，处理非英语文本现在更加经济高效。
更便宜更好用的模型对 OpenAI 的意义
首先，更便宜更好用的模型对于 OpenAI 来说意味着什么？有几个维度可以思考：
推动模型能力升级与新模型准备
第一是模型能力越强，它获取数据的能力也就越强，在任何维度里面它都更聪明更好用，在成本可控的情况下，尽量让用户使用上更好的产品，也一定程度上推动了整个模型能力的升级。以及一定程度上说明，他下一代模型已经准备好了。
降低开发者尝试成本，扩大用户基础
第二个是在这次发出来的产品除了便宜之外，还给了开发者免费的额度，进一步降低了客户的尝试成本，对于很多互联网化程度非常高的企业来说，他们有明确的付费预期和付费习惯，但是对于没有明确对产品有认知和功能有认知的企业或者一些小型的独立开发者来说，付费这件事情，一定程度上还是一个门槛，不是金额多少的问题，而是投入产出比的问题。所以给一个很小的额度让开发者进行免费试用，或者每天给一定的免费额度，让开发者可以以没有成本的方式接入，如同今天的很多云厂商对于每个开发者都会赠送一定的免费使用额度一样。确实是一个很好的选择。
小模型与大模型的边界模糊
当然，除了更便宜和更好的效果之外，还有一点是小模型和大模型之间的边界其实越来越不清晰，是不是大模型或者小模型最终对用户的感知不是那么的明确，对于用户来说，足够低的成本和足够好的效果是重大的考虑因素。
降价与免费额度对数据智能化的影响
降价和免费额度之外的考量和影响，在于让一部分企业先进入数据智能，让更多企业先让数据智能起来，过往的数据智能是自己要找很多优秀的技术专家才能完成整个数据体系的闭环。而今天是用一个很便宜的模型，在自己的数据体系里完成数据智能化的启动，有机会完成你的数据闭环，接下来就看他什么时候能真正对于比如说数据量级在多少以下的企业免费使用，或者在调用量在多少以下的企业免费使用。
感觉上这一天其实不会太远，有点像过往的宽带普及，让更多的人（数据）先联网。