VertexAI Embeddings
Generative Language PaLM API 允许开发人员使用 PaLM 模型构建生成式 AI 应用程序。大语言模型 (LLM) 是一种功能强大且用途广泛的机器学习模型类型，它使计算机能够通过一系列提示理解和生成自然语言。PaLM API 基于 Google 的下一代 LLM，PaLM。它擅长各种不同的任务，如代码生成、推理和写作。你可以使用 PaLM API 为内容生成、对话代理、摘要和分类系统等用例构建生成式 AI 应用程序。 基于 Models REST API。
Prerequisites
要访问 PaLM2 REST API，你需要获取 makersuite 的访问 API KEY 表单。
|
目前 PaLM API 在美国境外不可用，但您可以使用 VPN 进行测试。 |
Spring AI 项目定义了一个名为 spring.ai.vertex.ai.api-key 的配置属性，你应该将其设置为获得的 API Key 的值。导出环境变量是设置该配置属性的一种方法：
export SPRING_AI_VERTEX_AI_API_KEY=<INSERT KEY HERE>Add Repositories and BOM
Spring AI 工件发布在 Spring Milestone 和 Snapshot 存储库中。有关将这些存储库添加到你的构建系统的说明，请参阅 Repositories 部分。
为了帮助进行依赖项管理，Spring AI 提供了一个 BOM（物料清单）以确保在整个项目中使用一致版本的 Spring AI。有关将 Spring AI BOM 添加到你的构建系统的说明，请参阅 Dependency Management 部分。
Auto-configuration
Spring AI 为 VertexAI Embedding 客户端提供了 Spring Boot 自动配置。要启用它，请将以下依赖项添加到项目的 Maven pom.xml 文件：
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-vertex-ai-palm2-spring-boot-starter</artifactId>
</dependency>或添加到 Gradle build.gradle 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-vertex-ai-palm2-spring-boot-starter'
}
|
Embedding Properties
前缀 spring.ai.vertex.ai 用作属性前缀，它允许你连接到 VertexAI。
| Property | Description | Default |
|---|---|---|
spring.ai.vertex.ai.ai.base-url |
连接到的 URL |
[role="bare"]https://generativelanguage.googleapis.com/v1beta3 |
spring.ai.vertex.ai.api-key |
The API Key |
- |
前缀 spring.ai.vertex.ai.embedding 是一个属性前缀，可让您为 VertexAI Chat 配置嵌入客户端实现。
| Property | Description | Default |
|---|---|---|
spring.ai.vertex.ai.embedding.enabled |
启用 Vertex AI PaLM API 嵌入客户端。 |
true |
spring.ai.vertex.ai.embedding.model |
这是要使用的 Vertex Embedding model。 |
embedding-gecko-001 |
Sample Controller (Auto-configuration)
Create 一个新的 Spring Boot 项目，并将 spring-ai-vertex-ai-palm2-spring-boot-starter 添加到你的 pom（或 gradle）依赖项。
在 src/main/resources 目录下添加一个 application.properties 文件，以启用并配置 VertexAi Chat 客户端：
spring.ai.vertex.ai.api-key=YOUR_API_KEY
spring.ai.vertex.ai.embedding.model=embedding-gecko-001|
将 |
这会创建一个您可以注入到类中的 VertexAiPaLm2EmbeddingClient 实现。以下是一个使用嵌入客户端进行文本生成的简单 @Controller 类的示例。
@RestController
public class EmbeddingController {
private final EmbeddingClient embeddingClient;
@Autowired
public EmbeddingController(EmbeddingClient embeddingClient) {
this.embeddingClient = embeddingClient;
}
@GetMapping("/ai/embedding")
public Map embed(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
EmbeddingResponse embeddingResponse = this.embeddingClient.embedForResponse(List.of(message));
return Map.of("embedding", embeddingResponse);
}
}Manual Configuration
VertexAiPaLm2EmbeddingClient实现`EmbeddingClient`，并且使用Low-level VertexAiPaLm2Api Client连接到VertexAI服务。
将 spring-ai-vertex-ai 依赖项添加到项目的 Maven pom.xml 文件：
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-vertex-ai-palm2</artifactId>
</dependency>或添加到 Gradle build.gradle 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-vertex-ai-palm2'
}
|
接下来，创建一个 VertexAiPaLm2EmbeddingClient 并将它用于文本生成：
VertexAiPaLm2Api vertexAiApi = new VertexAiPaLm2Api(< YOUR PALM_API_KEY>);
var embeddingClient = new VertexAiPaLm2EmbeddingClient(vertexAiApi);
EmbeddingResponse embeddingResponse = embeddingClient
.embedForResponse(List.of("Hello World", "World is big and salvation is near"));Low-level VertexAiPaLm2Api Client
VertexAiPaLm2Api 为 VertexAiPaLm2Api Chat API 提供轻量级 Java 客户端。
下方的类图阐释了 VertexAiPaLm2Api 嵌入接口和构建模块：
下面是一个简单的片段，说明如何以编程方式使用 API：
VertexAiPaLm2Api vertexAiApi = new VertexAiPaLm2Api(< YOUR PALM_API_KEY>);
// Generate
var prompt = new MessagePrompt(List.of(new Message("0", "Hello, how are you?")));
GenerateMessageRequest request = new GenerateMessageRequest(prompt);
GenerateMessageResponse response = vertexAiApi.generateMessage(request);
// Embed text
Embedding embedding = vertexAiApi.embedText("Hello, how are you?");
// Batch embedding
List<Embedding> embeddings = vertexAiApi.batchEmbedText(List.of("Hello, how are you?", "I am fine, thank you!"));