com.huaweicloud.pangu.dev.sdk.api.callback

Interface StreamCallBack

All Known Implementing Classes:

AbstractAgent.StreamAgentLlmCallBack

public interface StreamCallBack

流式的回调接口

Since:

2023-06-25

Method Summary

Modifier and Type	Method and Description
default void	onEnd(String callBackId, StreamResult streamResult, LLMResp llmResp) 结束调用，LLM流式调用结束后回调
default void	onError(String callBackId, StreamResult streamResult) 调用出错，LLM流式调用出错时回调
default void	onNewToken(String callBackId, LLMResp llmResp) LLM流式调用返回新的结果时回调
default void	onStart(String callBackId) 开始调用，在给LLM发送流式调用请求后回调

Method Detail

onStart

default void onStart(String callBackId)

开始调用，在给LLM发送流式调用请求后回调

Parameters:

callBackId - 一次回调过程中的唯一ID

onEnd

default void onEnd(String callBackId,
                   StreamResult streamResult,
                   LLMResp llmResp)

结束调用，LLM流式调用结束后回调

Parameters:

callBackId - 一次回调过程中的唯一ID

streamResult - 流式请求的结果

llmResp - LLM完整的返回结果

onError

default void onError(String callBackId,
                     StreamResult streamResult)

调用出错，LLM流式调用出错时回调

Parameters:

callBackId - 一次回调过程中的唯一ID

streamResult - 流式请求的结果

onNewToken

default void onNewToken(String callBackId,
                        LLMResp llmResp)

LLM流式调用返回新的结果时回调

Parameters:

callBackId - 一次回调过程中的唯一ID

llmResp - 一次LLM返回