跳到主要内容

能力

助手的大部分能力都在对话里使用:你的用户提问,助手自己决定用什么——一次搜索、看一眼用户发来的照片、记下一件以后用得上的事——并把结果流式返回,每一步都以 task.progress 帧发送。媒体、语音和语音转文字也可以单独调用。

在对话里​

这些能力不用你逐个调用:助手按对话需要使用它们,控制台的调用记录页会列出每一次使用。

搜索与调研​

能力给用户的结果
网页搜索从当前网页中得出的回答,附带出处。
新闻某个话题的最新新闻。
公开讨论公开社交平台上人们对某个话题的讨论。
学术论文论文及其信息:作者、年份、摘要。
商品商品及其价格和商家链接。
图片网上符合描述的图片。
视频视频平台上与话题相关的视频。
地点按名称或类别找地点,可以在某个位置附近找,也可以不限范围。
读网页一个公开网址上页面的主要内容。
深度调研就一个问题综合多个来源写成的带出处的报告,以文件形式交付,并附摘要。耗时几分钟;助手会自己跟进到完成。

理解​

能力给用户的结果
图片用户发来的照片里有什么:物体、文字、细节——以及对相关问题的回答。
视频用户发来的视频里发生了什么,以及对相关问题的回答。

记忆​

助手会记住用户分享的、值得记住的事——一个偏好、一个计划、一条关于他们的信息——并在之后的对话里想起或检索。每个终端用户的记忆只属于他自己:无论是你项目里的还是其他项目的用户,都无法读到。

创作​

在对话里,助手会按用户的要求生成和编辑图片、视频和音乐,结果以 media.updated 帧送达。这些能力也有自己的接口——见下文。

为会话选择能力​

创建会话时——无论是文字会话还是语音会话——你可以决定助手在这个会话里能用哪些能力。二选一传:

  • capabilities——只开这些。以后新增的能力不会进到这个会话。
  • exclude_capabilities——除了这些,其余全开。以后新增的能力,会在新增之后你再创建的会话里打开。

两个都不传就全部打开。无论哪种写法,会话的能力都在创建时定下,并在整个生命周期里不变;会话的 capabilities 字段会写明实际开了哪些。用户要求用会话没开的能力时,助手会说明这里不提供,也不会为此计费。记忆不是一项能力:每个会话都有。

能力包括
search上面所有搜索,以及读网页。
deep_research深度调研报告。
understanding仔细查看用户发来的图片,以及看懂用户发来的视频。不开时,助手仍然能看到用户发来的照片。
image_generation在对话里生成和编辑图片。
video_generation在对话里生成和编辑视频。
music_generation在对话里生成音乐。
documents助手为用户制作的文件——PDF、文档、表格、演示文稿——以及对用户发来的文件做较重的处理。

想让会话固定在一组能力上——比如你的应用目前能展示的那些——就在 capabilities 里列出来。想在新能力推出时自动用上,就用 exclude_capabilities 只列出不要的。生成图片、视频或音乐,为用户制作文件,以及深度调研,都会产出媒体或文件:你的应用展示不了的,就不要开。

以后可能会增加新的能力。以下请求会被拒绝,返回 422 validation_failed:写了不在这张表里的能力名(param 指出是哪一项,比如 capabilities[1]);两个字段同时传(param 为 exclude_capabilities);重新加入语音会话时带了其中任一字段——重新加入的会话沿用它创建时的能力(param 指出是哪个字段)。会话里没开的能力,它自己的接口照常可用。

有自己接口的能力​

能力接口
图片:按描述生成,或编辑一张图片生成
视频:按描述、首帧或尾帧、参考图片、视频与音频生成;编辑视频的一部分、重拍一条、动作迁移、改画幅、配乐生成
音乐:按描述生成一首歌生成
语音:实时语音对话实时语音
语音转文字:把录音转成文字语音转文字
语音对话的纪要会话纪要
由你的应用渲染的界面,开放 A2UI 格式A2UI 回复

每种能力都以积分计费,从项目余额里扣——见积分与计费。