pangukitsappdev.llms.response package

Submodules

pangukitsappdev.llms.response.gallery_text_resp module

class pangukitsappdev.llms.response.gallery_text_resp.GalleryTextChoice(*, index: Optional[int] = None, text: Optional[str] = None)

基类：BaseModel

第三方模型生成的补全信息的列表 Attributes:

index: 补全的索引，从0开始 text: 补全的文本内容

index: Optional[int]
text: Optional[str]
class pangukitsappdev.llms.response.gallery_text_resp.GalleryTextResp(*, id: Optional[str] = None, created: Optional[str] = None, choices: Optional[List[GalleryTextChoice]] = None, usage: Optional[GalleryUsage] = None)

基类：BaseModel

第三方模型返回的response Attributes:

id: 用来标识每个响应的唯一字符串 created: 响应生成的时间 choices: 生成的补全信息的列表 usage: 模型资源使用情况

choices: Optional[List[GalleryTextChoice]]
created: Optional[str]
id: Optional[str]
usage: Optional[GalleryUsage]
class pangukitsappdev.llms.response.gallery_text_resp.GalleryUsage(*, completion_tokens: Optional[int] = None, prompt_tokens: Optional[int] = None, total_tokens: Optional[int] = None)

基类：BaseModel

第三方模型资源使用情况 Attributes:

completion_tokens: 表示模型生成的答案中包含的tokens的数量 prompt_tokens: 表示生成结果时使用的提示文本的tokens的数量 total_tokens: 对话过程中使用的tokens总数

completion_tokens: Optional[int]
prompt_tokens: Optional[int]
total_tokens: Optional[int]

pangukitsappdev.llms.response.llm_response_openai module

class pangukitsappdev.llms.response.llm_response_openai.LLMRespOpenAI(*, answer: str, is_from_cache: bool = False, openai_text_resp: OpenAITextResp)

基类：LLMResp

OpenAI response封装结构体 Attributes:

openai_text_resp: openai sdk返回结构体

openai_text_resp: OpenAITextResp

pangukitsappdev.llms.response.llm_response_pangu module

class pangukitsappdev.llms.response.llm_response_pangu.LLMRespPangu(*, answer: str, is_from_cache: bool = False, pangu_text_resp: PanguTextResp)

基类：LLMResp

Pangu response封装结构体 Attributes:

pangu_text_resp: api返回response结构体

pangu_text_resp: PanguTextResp

pangukitsappdev.llms.response.openai_text_resp module

class pangukitsappdev.llms.response.openai_text_resp.OpenAITextResp(*, model: Optional[str] = None, usage: Optional[OpenAIUsage] = None)

基类：BaseModel

OpenAI模型返回的response Attributes:

model: 模型名 usage: 模型资源使用情况

model: Optional[str]
usage: Optional[OpenAIUsage]
class pangukitsappdev.llms.response.openai_text_resp.OpenAIUsage(*, completion_tokens: Optional[int] = None, prompt_tokens: Optional[int] = None, total_tokens: Optional[int] = None)

基类：BaseModel

OpenAI模型资源使用情况 Attributes:

completion_tokens: 表示模型生成的答案中包含的tokens的数量 prompt_tokens: 表示生成结果时使用的提示文本的tokens的数量 total_tokens: 对话过程中使用的tokens总数

completion_tokens: Optional[int]
prompt_tokens: Optional[int]
total_tokens: Optional[int]

pangukitsappdev.llms.response.pangu_text_resp module

class pangukitsappdev.llms.response.pangu_text_resp.PanguTextChoice(*, index: Optional[int] = None, text: Optional[str] = None)

基类：BaseModel

pangu模型生成的补全信息的列表 Attributes:

index: 补全的索引，从0开始 text: 补全的文本内容

index: Optional[int]
text: Optional[str]
class pangukitsappdev.llms.response.pangu_text_resp.PanguTextResp(*, id: Optional[str] = None, created: Optional[str] = None, choices: Optional[List[PanguTextChoice]] = None, usage: Optional[PanguUsage] = None)

基类：BaseModel

pangu模型返回的response Attributes:

id: 用来标识每个响应的唯一字符串 created: 响应生成的时间 choices: 生成的补全信息的列表 usage: 模型资源使用情况

choices: Optional[List[PanguTextChoice]]
created: Optional[str]
id: Optional[str]
usage: Optional[PanguUsage]
class pangukitsappdev.llms.response.pangu_text_resp.PanguUsage(*, completion_tokens: Optional[int] = None, prompt_tokens: Optional[int] = None, total_tokens: Optional[int] = None)

基类：BaseModel

pangu模型资源使用情况 Attributes:

completion_tokens: 表示模型生成的答案中包含的tokens的数量 prompt_tokens: 表示生成结果时使用的提示文本的tokens的数量 total_tokens: 对话过程中使用的tokens总数

completion_tokens: Optional[int]
prompt_tokens: Optional[int]
total_tokens: Optional[int]

Module contents