搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

2个月前 48观看

GPT-4o mini模型自己承认是基于GPT-3.5架构的模型,有图有真相:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

一.GPT-4o mini官网简介

GPT-4o mini("o"代表"omni")是小型型号类别中最先进的型号,也是OpenAI迄今为止最便宜的型号。它是多模态的(接受文本或图像输入并输出文本),具有比 gpt-3.5-turbo 更高的智能,但速度同样快。它旨在用于较小的任务,包括视觉任务。建议在之前使用 gpt-3.5-turbo 的地方选择 gpt-4o-mini ,因为此模型功能更强大且更便宜。C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

模型描述上下文窗口训练数据
gpt-4o-mini新款 GPT-4o-mini经济实惠且智能的小型型号,适用于快速、轻量级的任务。 GPT-4o mini 比 GPT-3.5 Turbo 更便宜、功能更强大。当前指向 gpt-4o-mini-2024-07-18 。128,000 tokensUp to Oct 2023
gpt-4o-mini-2024-07-18gpt-4o-mini 当前指向此版本。128,000 tokensUp to Oct 2023

二.Dify中接入gpt-4o-mini

1.openrouter下的gpt-4o-mini配置

在Dify 0.6.14版本中没有包含gpt-4o-mini,因为当时还没发布。C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

在Dify官方仓库发现已经有人提交了,不过看清楚是提交给openrouter供应商的。C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)
搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

2.openai下的gpt-4o-mini配置

(1)_position.yaml文件C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

接下来修改下提交给openai供应商。主要是修改dify/api/core/model_runtime/model_providers/openai/llm/_position.yaml文件增加gpt-4o-mini如下:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

(2)gpt-4o-mini.yaml文件C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

然后在dify/api/core/model_runtime/model_providers/openai/llm目录增加gpt-4o-mini.yaml文件即可:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

具体就不详细解释了,仿照gpt-4o.yaml写一个,主要是修改模型的名字,以及价格。C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

model: gpt-4o-miniC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
label:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
zh_Hans: gpt-4o-miniC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
en_US: gpt-4o-miniC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
model_type: llmC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
features:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- multi-tool-callC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- agent-thoughtC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- stream-tool-callC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- visionC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
model_properties:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
mode: chatC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
context_size: 128000C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
parameter_rules:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- name: temperatureC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
use_template: temperatureC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- name: top_pC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
use_template: top_pC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- name: presence_penaltyC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
use_template: presence_penaltyC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- name: frequency_penaltyC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
use_template: frequency_penaltyC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- name: max_tokensC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
use_template: max_tokensC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
default: 512C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
min: 1C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
max: 4096C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- name: response_formatC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
label:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
zh_Hans: 回复格式C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
en_US: response_formatC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
type: stringC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
help:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
zh_Hans: 指定模型必须输出的格式C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
en_US: specifying the format that the model must outputC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
required: falseC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
options:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- textC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
- json_objectC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
pricing:C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
input: "0.15"C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
output: "0.60"C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
unit: "0.000001"C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany
currency: USDC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

3.模型供应商查看和对话测试

搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)
搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

参考文献

[1] gpt-4o-mini.yaml:https://github.com/sinomoe/dify/commit/9ba76915187cef8914c0bd5f6d920c82456ffcceC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

[2] https://platform.openai.com/docs/models/gpt-4o-miniC3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

 C3M莫卡妮生活网-记录每日创新科技时尚娱乐生活Mocany

本文链接:http://www.mocany.com/showinfo-1-49620-0.html搞了半天原来GPT-4o-mini是基于GPT-3.5架构的模型(Dify中接入GPT-4o mini模型)

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com。天上从来不会掉馅饼,请大家时刻谨防诈骗