com.huaweicloud.pangu.dev.sdk.api.memory.cache

Interface Cache

All Known Implementing Classes:

InMemoryCache, RedisCache, SqlCache, VectorSemanticCache

public interface Cache

功能描述

Since:

2023-06-19

Method Summary

Modifier and Type	Method and Description
void	clear() 清空缓存数据。不同存储方式，实现方式有差异，会存在一定的性能问题。 如 redis缓存， 会遍历查找所有key，性能较差
LLMResp	lookup(String prompt) 查询
void	setSessionTag(String sessionTag) 设置会话标识
void	update(String prompt, LLMResp value) 更新

Method Detail

lookup

LLMResp lookup(String prompt)

查询

Parameters:

prompt - 提示词

Returns:

查询结果

update

void update(String prompt,
            LLMResp value)

更新

Parameters:

prompt - 提示词

value - 回答结果

clear

void clear()

清空缓存数据。不同存储方式，实现方式有差异，会存在一定的性能问题。 如 redis缓存， 会遍历查找所有key，性能较差

setSessionTag

void setSessionTag(String sessionTag)

设置会话标识

Parameters:

sessionTag - 标识