官方 deepspeek v3 api 开始阉割了
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 17:00:30') }}
#0
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 17:00:30') }}
#0
前几天我用 deepspeek 给商品分类。效果挺不错的。
接口速度平均 10s,但是不需要速度,分类了一万个商品。
程序运行几分钟就停止了,看打印速度也不对劲。
5 秒? 太快了
分类分数居然有 0.8? 之前我见过最低都是 0.9 。
我就猜测是阉割了。
他有时候返回:"content":"```json\n{\"id\":821,\"name\":\"奶茶\",\"score\":0.9}\n```"}
导致我 json 解析失败。
于是我给他加上一条:- 禁止返回带```的
还是没效果,照样返回 ```json```。
之前一万个商品都返回正常,现在每隔几十个商品就带```json```。
估计分类也没之前准确。
{{ getUsernameByUid(728) }}
发布{{ getTimeInfo('2025-03-26 17:05:10') }}
#1
{{ getUsernameByUid(728) }}
发布{{ getTimeInfo('2025-03-26 17:05:10') }}
#1
v3 昨天更新了新版本 v3-0324 ，可能有关系
{{ getUsernameByUid(9248) }}
发布{{ getTimeInfo('2025-03-26 17:05:22') }}
#2
{{ getUsernameByUid(9248) }}
发布{{ getTimeInfo('2025-03-26 17:05:22') }}
#2
不是阉割了, 是 v3 换版本了
{{ getUsernameByUid(7150) }}
发布{{ getTimeInfo('2025-03-26 17:09:47') }}
#3
{{ getUsernameByUid(7150) }}
发布{{ getTimeInfo('2025-03-26 17:09:47') }}
#3
应该是 v3 更新导致的，可以试试深度思考，还是基于之前的 v3 版本
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 17:15:04') }}
#4
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 17:15:04') }}
#4
估计就是 v3 更新导致的。
虽然速度快了,但是我又没要求。
更新了,对我来说: 变智障了
虽然速度快了,但是我又没要求。
更新了,对我来说: 变智障了
{{ getUsernameByUid(14825) }}
发布{{ getTimeInfo('2025-03-26 17:26:15') }}
#5
{{ getUsernameByUid(14825) }}
发布{{ getTimeInfo('2025-03-26 17:26:15') }}
#5
你试一下改温度？ https://api-docs.deepseek.com/zh-cn/quick_start/parameter_settings
{{ getUsernameByUid(3029) }}
发布{{ getTimeInfo('2025-03-26 17:30:46') }}
#6
{{ getUsernameByUid(3029) }}
发布{{ getTimeInfo('2025-03-26 17:30:46') }}
#6
用 vLLM 跑的 qwen 可以指定 JSON 输出格式：
https://www.v2ex.com/t/1101310
https://www.v2ex.com/t/1101310
{{ getUsernameByUid(5868) }}
发布{{ getTimeInfo('2025-03-26 17:41:49') }}
#7
{{ getUsernameByUid(5868) }}
发布{{ getTimeInfo('2025-03-26 17:41:49') }}
#7
API 不是可以指定输出 json 吗，还会出现这种情况吗
{{ getUsernameByUid(14826) }}
发布{{ getTimeInfo('2025-03-26 17:51:07') }}
#8
{{ getUsernameByUid(14826) }}
发布{{ getTimeInfo('2025-03-26 17:51:07') }}
#8
AI 解析日常操作 replace("```json", "").replace("```","")
顺便推荐一个 python 库： https://github.com/mangiucugna/json_repair 。能够实现 JSON 补全，stream 返回有用。
顺便推荐一个 python 库： https://github.com/mangiucugna/json_repair 。能够实现 JSON 补全，stream 返回有用。
{{ getUsernameByUid(14826) }}
发布{{ getTimeInfo('2025-03-26 17:52:09') }}
#9
{{ getUsernameByUid(14826) }}
发布{{ getTimeInfo('2025-03-26 17:52:09') }}
#9
还是会遇到，可能官方也是使用 prompt 实现的，保证不了稳定性。。。
{{ getUsernameByUid(7128) }}
发布{{ getTimeInfo('2025-03-26 18:00:10') }}
#10
{{ getUsernameByUid(7128) }}
发布{{ getTimeInfo('2025-03-26 18:00:10') }}
#10
可以试试这个逻辑：
···
# 尝试解析 JSON 结果
try:
# 如果结果包含在 ```json ``` 中，提取内部内容
if "```json" in translated_text:
translated_text = translated_text.split("```json")[1].split("```")[0].strip()
elif "```" in translated_text:
translated_text = translated_text.split("```")[1].split("```")[0].strip()
import re
json_match = re.search(r'```json\s*([\s\S]*?)\s*```|({[\s\S]*})', translated_text)
if json_match:
json_str = json_match.group(1) or json_match.group(2)
result = json.loads(json_str)
else:
# 如果没有找到 JSON 格式，尝试直接解析
result = json.loads(translated_text)
···
···
# 尝试解析 JSON 结果
try:
# 如果结果包含在 ```json ``` 中，提取内部内容
if "```json" in translated_text:
translated_text = translated_text.split("```json")[1].split("```")[0].strip()
elif "```" in translated_text:
translated_text = translated_text.split("```")[1].split("```")[0].strip()
import re
json_match = re.search(r'```json\s*([\s\S]*?)\s*```|({[\s\S]*})', translated_text)
if json_match:
json_str = json_match.group(1) or json_match.group(2)
result = json.loads(json_str)
else:
# 如果没有找到 JSON 格式，尝试直接解析
result = json.loads(translated_text)
···
{{ getUsernameByUid(14528) }}
发布{{ getTimeInfo('2025-03-26 18:00:46') }}
#11
{{ getUsernameByUid(14528) }}
发布{{ getTimeInfo('2025-03-26 18:00:46') }}
#11
我还以为依赖 AI 输出 JSON 就我一个呢，原来都在这么干。
我就是感觉不管是 DeepSeek 还是通义或者别的什么 AI ，就很不稳定，有时候会输出些别的乱七八糟的东西，还以为是我提示词问题或者根本就不应该这么用……
我就是感觉不管是 DeepSeek 还是通义或者别的什么 AI ，就很不稳定，有时候会输出些别的乱七八糟的东西，还以为是我提示词问题或者根本就不应该这么用……
{{ getUsernameByUid(9525) }}
发布{{ getTimeInfo('2025-03-26 18:06:04') }}
#12
{{ getUsernameByUid(9525) }}
发布{{ getTimeInfo('2025-03-26 18:06:04') }}
#12
直接用上面提到的 json_repair ，不用搞奇技淫巧
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 18:06:33') }}
#13
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 18:06:33') }}
#13
文档有说的,我压根没看。
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 18:08:58') }}
#14
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-26 18:08:58') }}
#14
```
5. 返回格式必须严格按照以下 JSON 格式，不要添加任何其他内容：
{"id": number, "name": "string", "score": number}
注意：
- id 必须是数字类型，不能带引号
- name 必须是字符串类型，必须带引号
- score 必须是 0-1 之间的小数，表示分类的可能性
- 不要返回 markdown 格式或其他任何格式
EOT],
['role' => 'user', 'content' => "请为商品\"{$product_name}\"选择最合适的分类"]
],
'temperature' => 0.1
]);
```
我这样给的,之前稳定。
现在不行,估计加`{type:'json_object'}`就行了。
(temperature => 0.1 curosr 帮我改的... 压根没这个)
5. 返回格式必须严格按照以下 JSON 格式，不要添加任何其他内容：
{"id": number, "name": "string", "score": number}
注意：
- id 必须是数字类型，不能带引号
- name 必须是字符串类型，必须带引号
- score 必须是 0-1 之间的小数，表示分类的可能性
- 不要返回 markdown 格式或其他任何格式
EOT],
['role' => 'user', 'content' => "请为商品\"{$product_name}\"选择最合适的分类"]
],
'temperature' => 0.1
]);
```
我这样给的,之前稳定。
现在不行,估计加`{type:'json_object'}`就行了。
(temperature => 0.1 curosr 帮我改的... 压根没这个)
{{ getUsernameByUid(9833) }}
发布{{ getTimeInfo('2025-03-26 18:14:33') }}
#15
{{ getUsernameByUid(9833) }}
发布{{ getTimeInfo('2025-03-26 18:14:33') }}
#15
插个题外话问个，现在其他家谁家有新版 v3api 可用了嘛？官网的充不了钱呀
{{ getUsernameByUid(5032) }}
发布{{ getTimeInfo('2025-03-26 19:00:56') }}
#16
{{ getUsernameByUid(5032) }}
发布{{ getTimeInfo('2025-03-26 19:00:56') }}
#16
官网 api 慢得很，欧派和火山的 api 比较快。欧派有新版 v3 了, 不过限流比较严格。
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-27 09:09:39') }}
#17
{{ getUsernameByUid(2936) }}
发布{{ getTimeInfo('2025-03-27 09:09:39') }}
#17
官网已经可以充钱了啊
{{ getUsernameByUid(post.updatedByUid) }}
编辑于 {{ getTimeInfo(post.UpdatedAt) }}
{{ getUsernameByUid(post.uid) }}
发布于 {{ getTimeInfo(post.CreatedAt) }}
# {{post.num}}
{{ getUsernameByUid(post.updatedByUid) }}
编辑于 {{ getTimeInfo(post.UpdatedAt) }}
{{ getUsernameByUid(post.uid) }}
发布于 {{ getTimeInfo(post.CreatedAt) }}
# {{post.num}}
#{{nav.post.anchor}}