新闻动态

NEWS

Azure OpenAI 模型(包括 GPT-4)无法正确识别“正在运行什么模型”是预期行为。


那么为何发生这种情况?


最终,模型将执行下一个令牌预测来回答你的问题。该模型没有任何本机功能来查询当前运行的是哪个模型版本,因此无法回答你的问题。要回答这个问题,始终可以转到 Azure OpenAI Studio >“管理”>“部署”,然后查阅模型名称列,确认哪个模型当前与给定部署名称相关联。


“你运行的是哪个模型?”或“OpenAI 的最新模型是什么?”这样的问题与问模型今天天气怎么样所产生的结果的质量差不多。它可能会返回正确的结果,但这纯粹是偶然的。除训练/训练数据的那部分之外,模型本身没有实际信息。就 GPT-4 而言,截至 2023 年 8 月,基础训练数据只截止到 2021 年 9 月。GPT-4 在 2023 年 3 月才发布,因此,除非 OpenAI 发布使用更新后训练数据的新版本,或发布经过微调可回答这些特定问题的新版本,否则 GPT-4 的预期行为是,回复说 GPT-3 是 OpenAI 的最新模型版本。


如果你希望帮助基于 GPT 的模型准确回答“你正在运行什么模型?”这个问题,则需要通过模型系统消息的提示工程和检索增强生成 (RAG)(这是 Azure OpenAI 对数据所使用的技术,采用该技术,查询时会将最新信息注入到系统消息中)等技术向模型提供该信息,或者通过微调来微调模型的特定版本,以便根据模型版本以某种方式回答该问题。