使用上下文缓存

您可以使用 REST API 或 Python SDK 引用在生成式 AI 应用的上下文缓存中存储的内容。您必须先创建上下文缓存，然后才能使用该缓存。

您在代码中使用的上下文缓存对象包括以下属性：

  • name - 上下文缓存资源名称。其格式为 projects/PROJECT_NUMBER/locations/LOCATION/cachedContents/CACHE_ID。创建上下文缓存时，您可以在响应中找到其资源名称。项目编号是您的项目的唯一标识符。缓存 ID 是缓存的 ID。在代码中指定上下文缓存时，您必须使用完整的上下文缓存资源名称。以下示例演示了如何在请求正文中指定缓存的内容资源名称：

    "cached_content": "projects/123456789012/locations/us-central1/123456789012345678"

  • model - 用于创建缓存的模型的资源名称。其格式为 projects/PROJECT_NUMBER/locations/LOCATION/cachedContents/CACHE_ID。

  • createTime - 用于指定上下文缓存的创建时间的 Timestamp。

  • updateTime - 用于指定上下文缓存的最近更新时间的 Timestamp。在创建上下文缓存后，在更新之前，其 createTime 和 updateTime 相同。

  • expireTime - 用于指定上下文缓存何时失效的 Timestamp。默认 expireTime 是 createTime 之后 60 分钟。您可以使用新的到期时间更新缓存。如需了解详情，请参阅更新上下文缓存。
    缓存过期后，系统会将其标记为待删除，您不应假定它可以使用或更新。如果您需要使用已过期的上下文缓存，则需要使用适当的到期时间重新创建它。

上下文缓存使用限制

创建上下文缓存时，可以指定以下功能。您不应在请求中再次指定以下字段：

  • GenerativeModel.system_instructions 属性。此属性用于指定在模型收到用户指令之前向模型提供的指令。如需了解详情，请参阅系统指令。

  • GenerativeModel.tool_config 属性。tool_config 属性用于指定 Gemini 模型使用的工具，例如函数调用功能使用的工具。

  • GenerativeModel.tools 属性。GenerativeModel.tools 属性用于指定用于创建函数调用应用的函数。如需了解详情，请参阅函数调用。

使用上下文缓存示例

下面演示了如何使用上下文缓存。使用上下文缓存时，您无法指定以下属性：

  • GenerativeModel.system_instructions
  • GenerativeModel.tool_config
  • GenerativeModel.tools

Python

如需了解如何安装或更新 Python 版 Vertex AI SDK，请参阅安装 Python 版 Vertex AI SDK。如需了解详情，请参阅 Vertex AI SDK for Python API 参考文档。

流式回答和非流式回答

您可以选择模型是生成流式回答还是非流式回答。 对于流式回答，您将在生成每个响应的输出词元后立即收到响应。对于非流式回答，您将在生成所有输出词元后收到所有响应。

对于流式回答，请使用 generate_content 中的 stream 参数。

  response = model.generate_content(contents=[...], stream = True)

对于非流式回答，请移除该参数或将参数设置为 False。

示例代码

import vertexai

from vertexai.preview.generative_models import GenerativeModel
from vertexai.preview import caching

# TODO(developer): Update and un-comment below lines
# project_id = "PROJECT_ID"
# cache_id = "CACHE_ID"

vertexai.init(project=project_id, location="us-central1")

cached_content = caching.CachedContent(cached_content_name=cache_id)

model = GenerativeModel.from_cached_content(cached_content=cached_content)

response = model.generate_content("What are the papers about?")

print(response.text)

REST

您可以借助 REST 通过提示使用上下文缓存，方法是使用 Vertex AI API 向发布方模型端点发送 POST 请求。

在使用任何请求数据之前，请先进行以下替换：

HTTP 方法和网址：

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/gemini-1.5-pro-001:generateContent

请求 JSON 正文： 

{
  "cached_content": "projects/PROJECT_NUMBER/locations/LOCATION/CACHE_ID",
  "contents": [
      {"role":"user","parts":[{"text":"PROMPT_TEXT"}]}
  ],
  "generationConfig": {
      "maxOutputTokens": 8192,
      "temperature": 1,
      "topP": 0.95,
  },
  "safetySettings": [
      {
          "category": "HARM_CATEGORY_HATE_SPEECH",
          "threshold": "BLOCK_MEDIUM_AND_ABOVE"
      },
      {
          "category": "HARM_CATEGORY_DANGEROUS_CONTENT",
          "threshold": "BLOCK_MEDIUM_AND_ABOVE"
      },
      {
          "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
          "threshold": "BLOCK_MEDIUM_AND_ABOVE"
      },
      {
          "category": "HARM_CATEGORY_HARASSMENT",
          "threshold": "BLOCK_MEDIUM_AND_ABOVE"
      }
  ],
}

如需发送请求，请选择以下方式之一：

curl

将请求正文保存在名为 request.json 的文件中，然后执行以下命令： 

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/gemini-1.5-pro-001:generateContent"

PowerShell

将请求正文保存在名为 request.json 的文件中，然后执行以下命令： 

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/gemini-1.5-pro-001:generateContent" | Select-Object -Expand Content

您应该收到类似以下内容的 JSON 响应。

示例 curl 命令

LOCATION="us-central1"
MODEL_ID="gemini-1.5-pro-001"
PROJECT_ID="test-project"

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://${LOCATION}-aiplatform.googleapis.com/v1/projects/${PROJECT_ID}/locations/${LOCATION}/publishers/google/models/${MODEL_ID}:generateContent" -d \
'{
  "cached_content": "projects/${PROJECT_NUMBER}/locations/${LOCATION}/cachedContents/${CACHE_ID}",
  "contents": [
      {"role":"user","parts":[{"text":"What are the benefits of exercise?"}]}
  ],
  "generationConfig": {
      "maxOutputTokens": 8192,
      "temperature": 1,
      "topP": 0.95,
  },
  "safetySettings": [
    {
      "category": "HARM_CATEGORY_HATE_SPEECH",
      "threshold": "BLOCK_MEDIUM_AND_ABOVE"
    },
    {
      "category": "HARM_CATEGORY_DANGEROUS_CONTENT",
      "threshold": "BLOCK_MEDIUM_AND_ABOVE"
    },
    {
      "category": "HARM_CATEGORY_SEXUALLY_EXPLICIT",
      "threshold": "BLOCK_MEDIUM_AND_ABOVE"
    },
    {
      "category": "HARM_CATEGORY_HARASSMENT",
      "threshold": "BLOCK_MEDIUM_AND_ABOVE"
    }
  ],
}'