全部建议 > 建议详情
  • 预审中
  • 2 预审不通过

【用户体验】【HCDE体验官第三期】first token时间过长 预审不通过 编辑 删除

  • AI开发平台ModelArts
  • EI基础平台

场景描述:

ModelArts Studio-模型体验,模型对话框中大模型回答first token时间过长,有时候长达7-8秒钟。

 

 

建议方案:

尽管后续tokens的输出速度较快,但是first token输出速度太慢,影响用户体验,尤其是对实时性要求较高的场景。

 

7 7 发布于 2024-12-02 15:39:24 2024-12-02

24 3

0%
0人赞同
0%
0人不赞同

全部评论(3

评论(3

  • 【云声小管家】 子规 2024-12-03 10:58:47

    非常抱歉给您带来这么多不便,您的建议我们已经收到,需要您这边在云声重新补充编辑后点击一下再次提交,目前您反馈的这个云声单是“驳回待澄清状态”,给您造成不便,敬请谅解!再次感谢您的支持与关注,期待提出更多建议!

  • 7 2024-12-03 09:11:49

    1、请提供当前场景涉及的模型名称。ModelArts Studio-模型体验,文本对话场景,模型名称Qwen2.5-72B-32K-1128。
    2、我们当前不支持文生成图,图生成图模型体验的。例子不是文生图,是让模型用python实现把pdf转换成png图片的代码。

    单击图片可查看原图
  • 【云声小管家】 子规 2024-12-02 17:38:43

    非常感谢您的反馈,为了能更准确的定位反馈内容,1、请提供当前场景涉及的模型名称;2、我们当前不支持文生成图,图生成图模型体验的。方便时尽量附带截图以及链接地址等,以便我们尽快核实并推动解决,感谢您对华为云的支持!

登录后可评论,请 注册

0/1000

+ 插入图片0/4

仅支持JPG、JPEG、PNG、GIF,数量不超过4张且每张大小不超过2MB

评论
发表评论...
取消 发表

0/1000

评论成功

+ 插入图片0/4

仅支持JPG、JPEG、PNG、GIF,数量不超过4张且每张大小不超过2MB

删除建议

设置昵称

在此一键设置昵称,即可发表云声建议!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。