Nhân viên hỗ trợ GenAI để kiểm thử chất lượng qua tài liệu và lệnh gọi API

1. Tổng quan

Trong lớp học lập trình này, bạn sẽ tạo một Tác nhân GenAI, kết nối tác nhân đó với ứng dụng Cloud Run và tích hợp tác nhân vào không gian làm việc của Slack.

8541c95a7fbc9be7.png

Kiến thức bạn sẽ học được

Lớp học lập trình này có một số phần chính:

  • Triển khai ứng dụng Cloud Run để tích hợp với các API Gemini
  • Tạo và triển khai Tác nhân Vertex AI
  • Tích hợp Trợ lý vào Slack
  • Định cấu hình kho dữ liệu cho phần Hỏi và đáp qua tài liệu PDF

Điều kiện tiên quyết

  • Học phần này giả định rằng bạn đã quen thuộc với môi trường Cloud Console và Cloud Shell.

2. Cách thiết lập và các yêu cầu

Thiết lập dự án trên Cloud

  1. Đăng nhập vào Google Cloud Console rồi tạo một dự án mới hoặc sử dụng lại một dự án hiện có. Nếu chưa có tài khoản Gmail hoặc Google Workspace, bạn phải tạo một tài khoản.

fbef9caa1602edd0.png

a99b7ace416376c4.png

5e3ff691252acf41.png

  • Tên dự án là tên hiển thị cho người tham gia dự án này. Đây là một chuỗi ký tự không được API của Google sử dụng. Bạn luôn có thể cập nhật thông tin này.
  • Mã dự án là duy nhất trên tất cả các dự án Google Cloud và không thể thay đổi (không thể thay đổi sau khi đặt). Cloud Console sẽ tự động tạo một chuỗi duy nhất; thường thì bạn không cần quan tâm đến chuỗi này. Trong hầu hết các lớp học lập trình, bạn sẽ cần tham chiếu đến Mã dự án (thường được xác định là PROJECT_ID). Nếu không thích mã được tạo, bạn có thể tạo một mã ngẫu nhiên khác. Ngoài ra, bạn có thể thử dùng email của riêng mình để xem có thể sử dụng hay không. Bạn không thể thay đổi thông tin này sau bước này và thông tin này sẽ được giữ nguyên trong suốt thời gian diễn ra dự án.
  • Xin lưu ý rằng có một giá trị thứ ba là Mã dự án mà một số API sử dụng. Tìm hiểu thêm về cả ba giá trị này trong tài liệu.
  1. Tiếp theo, bạn cần bật tính năng thanh toán trong Cloud Console để sử dụng các tài nguyên/API trên Cloud. Việc tham gia lớp học lập trình này sẽ không tốn kém nhiều chi phí, nếu có. Để tắt các tài nguyên nhằm tránh bị tính phí sau khi hoàn tất hướng dẫn này, bạn có thể xoá các tài nguyên đã tạo hoặc xoá dự án. Người dùng mới của Google Cloud đủ điều kiện tham gia chương trình Dùng thử miễn phí 300 USD.

Thiết lập môi trường

Mở cuộc trò chuyện trên Gemini.

e1e9ad314691368a.png

Bật Cloud AI Companion API:

66cb6e561e384bbf.png

Nhấp vào "Start chatting" rồi làm theo một trong các câu hỏi mẫu hoặc nhập câu lệnh của riêng bạn để thử.

5482c153eef23126.png

Các câu lệnh bạn có thể thử:

  • Giải thích Cloud Run trong 5 điểm chính.
  • Bạn là Nhà quản lý sản phẩm Google Cloud Run, hãy giải thích về Cloud Run cho học viên trong 5 điểm chính ngắn gọn.
  • Bạn là Nhà quản lý sản phẩm Cloud Run của Google, hãy giải thích về Cloud Run cho một Nhà phát triển Kubernetes được chứng nhận trong 5 điểm chính ngắn gọn.
  • Bạn là Nhà quản lý sản phẩm Google Cloud Run, hãy giải thích cho một Nhà phát triển cấp cao về thời điểm bạn sẽ sử dụng Cloud Run so với GKE trong 5 điểm chính ngắn gọn.

Hãy xem Hướng dẫn về câu lệnh để tìm hiểu thêm về cách viết câu lệnh hiệu quả hơn.

Cách Gemini cho Google Cloud sử dụng dữ liệu của bạn

Cam kết của Google về quyền riêng tư

Google là một trong những công ty đầu tiên trong ngành công bố cam kết về quyền riêng tư liên quan đến AI/ML. Cam kết này nêu rõ quan điểm của chúng tôi rằng khách hàng phải có mức độ bảo mật và quyền kiểm soát cao nhất đối với dữ liệu của họ được lưu trữ trên đám mây.

Dữ liệu bạn gửi và nhận

Những câu hỏi mà bạn đặt cho Gemini, bao gồm mọi thông tin đầu vào hoặc mã mà bạn gửi cho Gemini để phân tích hoặc hoàn thành, được gọi là câu lệnh. Câu trả lời hoặc mã hoàn chỉnh mà bạn nhận được từ Gemini được gọi là phản hồi. Gemini không dùng câu lệnh của bạn hoặc câu trả lời của Gemini làm dữ liệu để huấn luyện các mô hình của mình.

Mã hoá lời nhắc

Khi bạn gửi câu lệnh cho Gemini, dữ liệu của bạn sẽ được mã hoá trong quá trình truyền dữ liệu dưới dạng dữ liệu đầu vào cho mô hình cơ bản trong Gemini.

Dữ liệu chương trình được tạo từ Gemini

Gemini được huấn luyện dựa trên mã Google Cloud của bên thứ nhất cũng như mã bên thứ ba đã chọn. Bạn chịu trách nhiệm về tính bảo mật, hoạt động kiểm thử và hiệu quả của mã, bao gồm cả mọi hoạt động hoàn tất, tạo hoặc phân tích mã mà Gemini cung cấp cho bạn.

Tìm hiểu thêm về cách Google xử lý lời nhắc của bạn.

3. Các lựa chọn để kiểm thử lời nhắc

Bạn có một số cách để kiểm thử câu lệnh.

Vertex AI Studio là một phần của nền tảng Vertex AI của Google Cloud, được thiết kế riêng để đơn giản hoá và đẩy nhanh quá trình phát triển cũng như sử dụng các mô hình AI tạo sinh.

AI Studio của Google là một công cụ dựa trên web để tạo nguyên mẫu và thử nghiệm kỹ thuật câu lệnh cũng như API Gemini.

Ứng dụng web Google Gemini (gemini.google.com) là một công cụ dựa trên web được thiết kế để giúp bạn khám phá và khai thác sức mạnh của các mô hình AI Gemini của Google.

4. Sao chép kho lưu trữ

Quay lại Google Cloud Console và kích hoạt Cloud Shell bằng cách nhấp vào biểu tượng ở bên phải thanh tìm kiếm.

3e0c761ca41f315e.png

Trong cửa sổ dòng lệnh đã mở, hãy chạy các lệnh sau

git clone https://github.com/GoogleCloudPlatform/genai-for-developers.git

cd genai-for-developers

git checkout slack-agent-jira-lab

Nhấp vào "Mở trình chỉnh sửa"

63e838aebfdd2423.png

Sử dụng mục trình đơn "File / Open Folder", hãy mở "genai-for-developers".

e3b9bd9682acf539.png

Mở một cửa sổ dòng lệnh mới

62dccf5c78880ed9.png

5. Tạo tài khoản dịch vụ

Tạo một tài khoản dịch vụ và khoá mới.

Bạn sẽ sử dụng tài khoản dịch vụ này để thực hiện các lệnh gọi API đến API Gemini của Vertex AI từ ứng dụng Cloud Run.

Định cấu hình thông tin dự án bằng thông tin dự án qwiklabs.

Ví dụ: qwiklabs-gcp-00-2c10937585bb

gcloud config set project YOUR_QWIKLABS_PROJECT_ID

Tạo tài khoản dịch vụ và cấp vai trò.

export LOCATION=us-central1
export PROJECT_ID=$(gcloud config get-value project)
export SERVICE_ACCOUNT_NAME='vertex-client'
export DISPLAY_NAME='Vertex Client'
export KEY_FILE_NAME='vertex-client-key'

gcloud iam service-accounts create $SERVICE_ACCOUNT_NAME --project $PROJECT_ID --display-name "$DISPLAY_NAME"

gcloud projects add-iam-policy-binding $PROJECT_ID --member="serviceAccount:$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com" --role="roles/aiplatform.admin"

gcloud projects add-iam-policy-binding $PROJECT_ID --member="serviceAccount:$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com" --role="roles/aiplatform.user"

gcloud projects add-iam-policy-binding $PROJECT_ID --member="serviceAccount:$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com" --role="roles/cloudbuild.builds.editor"

gcloud projects add-iam-policy-binding $PROJECT_ID --member="serviceAccount:$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com" --role="roles/artifactregistry.admin"

gcloud projects add-iam-policy-binding $PROJECT_ID --member="serviceAccount:$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com" --role="roles/storage.admin"

gcloud projects add-iam-policy-binding $PROJECT_ID --member="serviceAccount:$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com" --role="roles/run.admin"

gcloud projects add-iam-policy-binding $PROJECT_ID --member="serviceAccount:$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com" --role="roles/secretmanager.secretAccessor"


gcloud iam service-accounts keys create $KEY_FILE_NAME.json --iam-account=$SERVICE_ACCOUNT_NAME@$PROJECT_ID.iam.gserviceaccount.com

Nếu bạn được nhắc uỷ quyền, hãy nhấp vào "Uỷ quyền" để tiếp tục.

6356559df3eccdda.png

Bật các dịch vụ bắt buộc để sử dụng API Vertex AI và tính năng trò chuyện trên Gemini.

gcloud services enable \
    generativelanguage.googleapis.com \
    aiplatform.googleapis.com \
    cloudaicompanion.googleapis.com \
    run.googleapis.com \
    cloudresourcemanager.googleapis.com

Bật các dịch vụ bắt buộc để sử dụng API Vertex AI và tính năng trò chuyện trên Gemini.

gcloud services enable \
    artifactregistry.googleapis.com \
    cloudbuild.googleapis.com \
    runapps.googleapis.com \
    workstations.googleapis.com \
    servicemanagement.googleapis.com \
    secretmanager.googleapis.com \
    containerscanning.googleapis.com

Bật tính năng Gemini Code Assist

Nhấp vào biểu tượng "Gemini", ở góc dưới cùng bên phải, hãy nhấp vào "Sign-in" và "Select Google Cloud project".

4a7f4640f66037f.png

8b4405d7366d2cad.png

bd07352707166136.png

Trong cửa sổ bật lên, hãy chọn dự án qwiklabs của bạn.

Ví dụ:

70ae6837db397e2a.png

Mở tệp "devai-api/app/routes.py", sau đó nhấp chuột phải vào vị trí bất kỳ trong tệp rồi chọn "Gemini Code Assist > Explain this" trên trình đơn theo bối cảnh.

e54daef175df3cf0.png

Xem nội dung giải thích của Gemini về tệp đã chọn.

e666676dce8b94d6.png

6. Triển khai Devai-API cho Cloud Run

Kiểm tra để đảm bảo bạn đang ở đúng thư mục.

cd ~/genai-for-developers/devai-api

Đối với lớp học này, chúng ta sẽ làm theo các phương pháp hay nhất và sử dụng Trình quản lý bí mật để lưu trữ và tham chiếu các giá trị Mã thông báo truy cập và Khoá API LangChain trong Cloud Run.

Đặt biến môi trường.

export JIRA_API_TOKEN=your-jira-token
export JIRA_USERNAME="YOUR-EMAIL"
export JIRA_INSTANCE_URL="https://YOUR-JIRA-PROJECT.atlassian.net"
export JIRA_PROJECT_KEY="YOUR-JIRA-PROJECT-KEY"
export JIRA_CLOUD=true

export GITLAB_PERSONAL_ACCESS_TOKEN=your-gitlab-token
export GITLAB_URL="https://gitlab.com"
export GITLAB_BRANCH="devai"
export GITLAB_BASE_BRANCH="main"
export GITLAB_REPOSITORY="GITLAB-USERID/GITLAB-REPO"

export LANGCHAIN_API_KEY=your-langchain-key
export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_ENDPOINT="https://api.smith.langchain.com"

Lưu trữ Mã truy cập JIRA trong Trình quản lý bí mật.

echo -n $JIRA_API_TOKEN | \
 gcloud secrets create JIRA_API_TOKEN \
 --data-file=-

Lưu trữ mã truy cập GitLab trong Trình quản lý bí mật.

echo -n $GITLAB_PERSONAL_ACCESS_TOKEN | \
 gcloud secrets create GITLAB_PERSONAL_ACCESS_TOKEN \
 --data-file=-

Lưu trữ Khoá API LangChain trong Trình quản lý khoá.

echo -n $LANGCHAIN_API_KEY | \
 gcloud secrets create LANGCHAIN_API_KEY \
 --data-file=-

Triển khai ứng dụng lên Cloud Run.

gcloud run deploy devai-api \
  --source=. \
  --region="$LOCATION" \
  --allow-unauthenticated \
  --service-account vertex-client \
  --set-env-vars PROJECT_ID="$PROJECT_ID" \
  --set-env-vars LOCATION="$LOCATION" \
  --set-env-vars GITLAB_URL="$GITLAB_URL" \
  --set-env-vars GITLAB_REPOSITORY="$GITLAB_REPOSITORY" \
  --set-env-vars GITLAB_BRANCH="$GITLAB_BRANCH" \
  --set-env-vars GITLAB_BASE_BRANCH="$GITLAB_BASE_BRANCH" \
  --set-env-vars JIRA_USERNAME="$JIRA_USERNAME" \
  --set-env-vars JIRA_INSTANCE_URL="$JIRA_INSTANCE_URL" \
  --set-env-vars JIRA_PROJECT_KEY="$JIRA_PROJECT_KEY" \
  --set-env-vars JIRA_CLOUD="$JIRA_CLOUD" \
  --set-env-vars LANGCHAIN_TRACING_V2="$LANGCHAIN_TRACING_V2" \
  --update-secrets="LANGCHAIN_API_KEY=LANGCHAIN_API_KEY:latest" \
  --update-secrets="GITLAB_PERSONAL_ACCESS_TOKEN=GITLAB_PERSONAL_ACCESS_TOKEN:latest" \
  --update-secrets="JIRA_API_TOKEN=JIRA_API_TOKEN:latest" \
  --min-instances=1 \
  --max-instances=3

Trả lời Y để tạo kho lưu trữ Docker của Artifact Registry.

Deploying from source requires an Artifact Registry Docker repository to store built containers. A repository named [cloud-run-source-deploy] in 
region [us-central1] will be created.

Do you want to continue (Y/n)?  y

Yêu cầu Gemini giải thích lệnh:

94d5487568b08dd2.png

Xem lại quy trình gcloud run deploy SERVICE_NAME --source=. bên dưới. Tìm hiểu thêm.

5c122a89dd11822e.png

Trong nền, lệnh này sử dụng buildpacksCloud Build của Google Cloud để tự động tạo hình ảnh vùng chứa từ mã nguồn của bạn mà không cần cài đặt Docker trên máy hoặc thiết lập gói bản dựng hoặc Cloud Build. Tức là một lệnh duy nhất được mô tả ở trên sẽ thực hiện những việc mà trước đây cần có các lệnh gcloud builds submitgcloud run deploy.

Nếu bạn đã cung cấp Dockerfile(như chúng tôi đã làm trong kho lưu trữ này), thì Cloud Build sẽ sử dụng tệp này để tạo hình ảnh vùng chứa thay vì dựa vào các gói bản dựng để tự động phát hiện và tạo hình ảnh vùng chứa. Để tìm hiểu thêm về gói xây dựng, hãy xem tài liệu.

Xem lại nhật ký Cloud Build trong Console.

Xem lại hình ảnh Docker đã tạo trong Artifact Registry (Cơ sở lưu trữ cấu phần phần mềm).

Mở cloud-run-source-deploy/devai-api và xem xét các lỗ hổng được phát hiện tự động. Kiểm tra những lỗi có cách khắc phục và xem cách khắc phục dựa trên nội dung mô tả.

d00c9434b511be44.png

Xem lại thông tin chi tiết về phiên bản Cloud Run trong Cloud Console.

Kiểm thử điểm cuối bằng cách chạy lệnh curl.

curl -X POST \
   -H "Content-Type: application/json" \
   -d '{"prompt": "PROJECT-100"}' \
   $(gcloud  run services list --filter="(devai-api)" --format="value(URL)")/generate

Xem lại kết quả:

bda86deaa1c449a8.png

7. Trình tạo tác nhân Vertex AI

Tìm và mở "Trình tạo tác nhân".

b99ae5b6ca1d6340.png

Kích hoạt API

4bf2b240bd51db8.png

Tạo ứng dụng nhân viên hỗ trợ:

2e50007e454b504.png

Nhập "Đại lý" cho Tên hiển thị rồi nhấp vào "Đồng ý và tạo".

6c49a874c48d0401.png

Đặt tên tác nhân:

Agent

Đặt mục tiêu:

Help user with questions about JIRA project

Đặt hướng dẫn:

- Greet the users, then ask how you can help them today.
- Summarize the user's request and ask them to confirm that you understood correctly.
  - If necessary, seek clarifying details.
- Thank the user for their business and say goodbye.

Nhấp vào "Lưu":

6ef0ca47100008e0.png

Kiểm thử Trợ lý bằng tính năng trò chuyện trên trình mô phỏng ở bên phải:

32f49a9791302535.png

Mở trình đơn Công cụ và tạo một Công cụ mới:

c236b95409dfedc3.png

Chọn OpenAPI trong trình đơn thả xuống Loại.

Đặt tên công cụ:

jira-project-status

Mô tả nhóm:

Returns JIRA project status

Đặt giản đồ (YAML) – thay thế URL CLOUD RUN CỦA BẠN.

openapi: 3.0.0
info:
 title: CR API
 version: 1.0.0
 description: >-
   This is the OpenAPI specification of a service.
servers:
 - url: 'https://YOUR CLOUD RUN URL'
paths:
 /create-jira-issue:
   post:
     summary: Request impl
     operationId: create-jira-issue
     requestBody:
       description: Request impl
       required: true
       content:
         application/json:
           schema:
             $ref: '#/components/schemas/Prompt'
     responses:
       '200':
         description: Generated
         content:
           application/json:
             schema:
               type: string
 /generate:
   post:
     summary: Request impl
     operationId: generate
     requestBody:
       description: Request impl
       required: true
       content:
         application/json:
           schema:
             $ref: '#/components/schemas/Prompt'
     responses:
       '200':
         description: Generated
         content:
           application/json:
             schema:
               type: string

 /test:
   get:
     summary: Request impl
     operationId: test
     responses:
       '200':
         description: Generated
         content:
           application/json:
             schema:
               type: string                    
components:
 schemas:
   Prompt:
     type: object
     required:
       - prompt
     properties:
       prompt:
         type: string

Lưu cấu hình Công cụ:

f99ce79ba79e3a4b.png

Quay lại phần Cấu hình của tác nhân và cập nhật hướng dẫn để sử dụng công cụ:

Thêm hướng dẫn sử dụng công cụ mới:

- Use ${TOOL: jira-project-status} to help the user with JIRA project status.

4dabf135b37b044b.png

Chuyển sang thẻ Ví dụ và thêm ví dụ mới:

5b1fb22e49500362.png

Đặt tên hiển thị:

jira-project-flow

Sử dụng trình đơn ở dưới cùng, hãy lập mô hình cuộc trò chuyện giữa người dùng và nhân viên hỗ trợ:

54ffb5e7744a0772.png

14cced6461a65811.png

Cấu hình gọi công cụ:

82af695d2f21c4f0.png

Nhấp vào Lưu và Huỷ. Quay lại trình mô phỏng Agent và kiểm thử quy trình.

ec137f71bf6075e2.png

f76fd38c32e29f0a.png

Xem lại Các phương pháp hay nhất cho Tác nhân Vertex AI

Cài đặt tác nhân

564dd5371999a3f1.png

b5b04f282fcee3e8.png

Cài đặt ghi nhật ký

af30487d72c1cfa2.png

Cấu hình mô hình.

53191049428693c7.png

Tích hợp GitGub để đẩy và khôi phục cấu hình của Tác nhân.

7170649a9c027857.png

Các chế độ điều khiển trình mô phỏng tác nhân:

59fd8b2343e89513.png

8. Tích hợp Slack

Mở trình đơn Tích hợp rồi nhấp vào "Kết nối" trên thẻ Slack.

36f3992134479a37.png

e7ee0826668bfa2b.png

c3e36f4dacbe3f9b.png

Mở đường liên kết và tạo một ứng dụng Slack mới tại https://api.slack.com/apps

cbf13edc1b284899.png

Chọn trong "Tệp kê khai":

64fa9c75afecdb3e.png

Chọn một không gian làm việc để phát triển ứng dụng

99a3d5b37cdf8f76.png

Chuyển sang YAML và dán tệp kê khai này:

display_information:
  name: Agent
  description: Agent
  background_color: "#1148b8"
features:
  app_home:
    home_tab_enabled: false
    messages_tab_enabled: true
    messages_tab_read_only_enabled: false
  bot_user:
    display_name: Agent
    always_online: true
oauth_config:
  scopes:
    bot:
      - app_mentions:read
      - chat:write
      - im:history
      - im:read
      - im:write
      - incoming-webhook
settings:
  event_subscriptions:
    request_url: https://dialogflow-slack-4vnhuutqka-uc.a.run.app
    bot_events:
      - app_mention
      - message.im
  org_deploy_enabled: false
  socket_mode_enabled: false
  token_rotation_enabled: false

Nhấp vào "Tạo":

5f0b3d2c44022eb9.png

Cài đặt vào Workspace:

aa1c2ea1b700c838.png

Chọn kênh "#general" rồi nhấp vào "Cho phép"

18eba659946fc65f.png

Trong phần "Thông tin cơ bản / Thông tin xác thực ứng dụng", hãy sao chép "Khoá bí mật ký" rồi đặt khoá này trong chế độ tích hợp với Slack.

31d62babb57e523d.png

bd9f7e3be3b9ea4e.png

Mở phần "OAuth & Permissions" (OAuth và quyền), sao chép "Bot User OAuth Token" (Mã thông báo OAuth của người dùng bot) rồi đặt mã này trong phần tích hợp với Slack.

e74c7e003c31258.png

Thiết lập các trường bắt buộc rồi nhấp vào "Bắt đầu".

Giá trị "Mã truy cập" của tác nhân là "Mã OAUth của người dùng bot" từ Slack.

Giá trị "Signing Token" (Mã thông báo ký) của tác nhân là "Signing Secret" (Khoá bí mật ký) từ Slack.

a00d22bdaeed3ab8.png

7e71e37750fd063a.png

Sao chép "URL webhook" rồi quay lại phần cấu hình ứng dụng Slack.

Mở phần "Đăng ký sự kiện" rồi dán URL.

a1e7271934c714d9.png

Lưu các thay đổi.

e6d9b43b3787b6e7.png

Mở "Slack" rồi thêm một nhân viên hỗ trợ bằng cách nhập "@Agent".

Ví dụ: thêm một ứng dụng có tên "@CX".

72313066707f947b.png

63becbd80824f8d8.png

c98e193062b096f0.png

Yêu cầu nhân viên hỗ trợ cung cấp bản tóm tắt dự án JIRA.

6edfdb74760548ad.png

9. Hỏi đáp về tài liệu PDF

Tạo bộ chứa Cloud Storage

Mở GCS trong Cloud Console: https://console.cloud.google.com/storage/browser

Tạo một bộ chứa mới.

Đối với loại tên bộ chứa: "pdf-docs" + 5 chữ số cuối cùng của dự án GCP.

Loại vị trí: multi-region, us.

Lớp bộ nhớ: Standard

Kiểm soát quyền truy cập: Uniform

Bảo vệ dữ liệu: uncheck soft delete policy

Nhấp vào "Create".

Xác nhận "Sẽ ngăn chặn quyền truy cập công khai".

Tải báo cáo PDF xuống rồi tải báo cáo đó lên bộ chứa. https://services.google.com/fh/files/misc/exec_guide_gen_ai.pdf

Bộ chứa có chế độ xem tệp đã tải lên:

ff09ac8da88fb680.png

Cấu hình kho dữ liệu

Quay lại Agent Console rồi mở "Agent", di chuyển xuống rồi nhấp vào "+ Data store".

e20b69db922e37d7.png

Sử dụng các giá trị sau:

Tên công cụ: pdf-docs

Loại: Data store

Thông tin mô tả: pdf-docs

Nhấp vào "Save"

c5bc7a2e458213ba.png

Nhấp vào "Create a data store" ở cuối trang.

Nhấp vào "AGREE" khi được hỏi "Bạn có đồng ý lưu trữ dữ liệu tìm kiếm và cuộc trò chuyện của mình ở khu vực Hoa Kỳ không?"

Nhập "Google" vào trường "Cung cấp công ty".

Trên màn hình tiếp theo, hãy nhấp vào "CREATE DATA STORE".

Chọn "Cloud Storage" làm nguồn dữ liệu.

Chuẩn bị dữ liệu để nhập

https://cloud.google.com/generative-ai-app-builder/docs/prepare-data

Tệp HTML và TXT phải có kích thước 2,5 MB trở xuống.

Tệp PDF, PPTX và DOCX phải có kích thước từ 100 MB trở xuống.

Bạn có thể nhập tối đa 100.000 tệp cùng một lúc.

Chọn: unstructured documents

Sau đó, hãy chọn bộ chứa/thư mục GCS.

e8534a921059e3a2.png

Nhấp vào tiếp tục: ed5ad1fabe9503a4.png

Đối với loại tên kho dữ liệu: "pdf-docs"

Chọn "Digital parser" trong trình đơn thả xuống.

Bật tính năng phân đoạn nâng cao.

Bật tiêu đề gốc trong các đoạn.

Nhấp vào "Create".

1a5222b86ee6c58e.png

3119b5fec43c9294.png

Chọn kho dữ liệu rồi nhấp vào "Create"

43d5be0a0aca6f8.png

9fd7fc7c1462d114.png

Nhấp vào kho dữ liệu rồi xem lại Tài liệu, Hoạt động và Cấu hình xử lý.

872d9142615e90c9.png

Quá trình nhập sẽ mất khoảng 5 đến 10 phút để hoàn tất.

d9739a4af2244e03.png

Các tuỳ chọn phân tích cú pháp và phân đoạn

Bạn có thể kiểm soát việc phân tích cú pháp nội dung theo các cách sau:

  • Trình phân tích cú pháp kỹ thuật số. Trình phân tích cú pháp kỹ thuật số được bật theo mặc định cho tất cả các loại tệp, trừ phi bạn chỉ định một loại trình phân tích cú pháp khác. Trình phân tích cú pháp kỹ thuật số sẽ xử lý các tài liệu đã nhập nếu không có trình phân tích cú pháp mặc định nào khác được chỉ định cho kho dữ liệu hoặc nếu trình phân tích cú pháp được chỉ định không hỗ trợ loại tệp của tài liệu đã nhập.
  • Phân tích cú pháp OCR cho tệp PDF. Bản dùng thử công khai. Nếu dự định tải tệp PDF đã quét hoặc tệp PDF có văn bản bên trong hình ảnh lên, bạn có thể bật trình phân tích cú pháp OCR để cải thiện việc lập chỉ mục tệp PDF. Xem bài viết Giới thiệu về tính năng phân tích cú pháp OCR cho tệp PDF.
  • Trình phân tích cú pháp bố cục. Bản dùng thử công khai. Bật trình phân tích cú pháp bố cục cho tệp HTML, PDF hoặc DOCX nếu bạn dự định sử dụng tính năng Tìm kiếm Vertex AI cho RAG. Hãy xem Tài liệu về Chunk cho RAG để biết thông tin về trình phân tích cú pháp này và cách bật trình phân tích cú pháp.

Tìm hiểu thêm về cách phân tích cú pháp và phân đoạn tài liệu.

Cấu hình công cụ

Quay lại thẻ có cấu hình Công cụ.

Làm mới trình duyệt rồi chọn "pdf-docs" trong trình đơn thả xuống Không có cấu trúc.

71323e788b35ca66.png

Định cấu hình nối đất.

Nhập "Google" làm tên công ty.

Cài đặt tải trọng – đánh dấu vào "Include snippets in the response payload"

b0cb701d13ad4264.png

Nhấp vào "Save".

91a546957bdfe029.png

7535b85cfc7febe6.png

Cấu hình hướng dẫn của nhân viên hỗ trợ

Quay lại phần Cấu hình tác nhân.

Thêm hướng dẫn mới:

- Provide detailed answer to users questions about the exec guide to gen ai using information in the ${TOOL:pdf-docs}

9b9548497ddaccbd.png

Lưu cấu hình.

Tạo ví dụ cho công cụ PDF-Docs

Chuyển sang thẻ Ví dụ. Tạo một ví dụ mới.

Sử dụng thao tác "+":

4da93695907c97ad.png

Thêm "Dữ liệu đầu vào của người dùng":

What are the main capabilities?

Thêm "Sử dụng công cụ".

  • Công cụ và hành động: "pdf-docs"

Dữ liệu đầu vào (requestBody)

{
  "query": "Main capabilities",
  "filter": "",
  "userMetadata": {},
  "fallback": ""
}

Đầu ra công cụ:

{
  "answer": "Detailed answer about main capabilities",
  "snippets": [
    {
      "uri": "https://storage.cloud.google.com/pdf-docs-49ca4/exec_guide_gen_ai.pdf",
      "text": "Detailed answer about main capabilities",
      "title": "exec_guide_gen_ai"
    }
  ]
}

Thêm "Phản hồi của nhân viên hỗ trợ"

Detailed answer about main capabilities. 

https://storage.cloud.google.com/pdf-docs-49ca4/exec_guide_gen_ai.pdf

Ví dụ về cấu hình:

2968363e05f3325e.png

Cấu hình gọi công cụ:

658316bb29ac352d.png

Kiểm thử cấu hình bằng cách gửi câu hỏi đến Trợ lý trong trình mô phỏng.

Câu hỏi:

What are the 10 steps in the exec guide?

5b2329c494ad0d17.png

Chọn "Agent" rồi nhấp vào "Save example".

e79c86aa04a9572f.png

Đặt tên là "user-question-flow" rồi lưu.

Định dạng phản hồi của tác nhân và đưa đường liên kết đến tài liệu pdf từ phần đầu ra của công cụ.

50f2bcee082ac38d.png

Lưu ví dụ.

Quay lại trình mô phỏng rồi nhấp vào "Replay conversation". Kiểm tra định dạng phản hồi đã cập nhật.

8db40e424f448a2d.png

Đặt câu hỏi khác:

What are the main capabilities in the exec guide?

6f103fdac8ec4cda.png

Tài liệu PDF nguồn.

5b3e6d2ceda99247.png

Câu hỏi:

What should I consider when evaluating projects?

ec7e0f5884772385.png

Tài liệu PDF nguồn.

57a0d331aa91f04b.png

Câu hỏi:

What are the priority use cases in Retail and CPG in the exec guide?

7a18ba3ca0fe90c5.png

Tài liệu PDF nguồn.

b4d07e6e7d9adc00.png

10. Nhân viên hỗ trợ tạo sẵn

Khám phá các Trợ lý tạo sẵn trong trình đơn ở bên trái.

5720dc5343aede65.png

Chọn một trong các tác nhân rồi triển khai tác nhân đó. Khám phá hướng dẫn, công cụ và cách thiết lập Agent.

2a3db1129b5a1461.png

11. Xin chúc mừng!

Xin chúc mừng, bạn đã hoàn thành lớp học lập trình!

Nội dung chúng ta đã đề cập:

  • Cách triển khai ứng dụng Cloud Run để tích hợp với các API Gemini
  • Cách tạo và triển khai Tác nhân Vertex AI
  • Cách thêm tính năng tích hợp Slack cho Trợ lý
  • Cách định cấu hình kho dữ liệu cho phần Hỏi và đáp qua tài liệu PDF

Bước tiếp theo:

Dọn dẹp

Để tránh bị tính phí cho tài khoản Google Cloud của bạn đối với các tài nguyên được sử dụng trong hướng dẫn này, hãy xoá dự án chứa các tài nguyên đó hoặc giữ lại dự án và xoá từng tài nguyên.

Xoá dự án

Cách dễ nhất để loại bỏ tính năng thanh toán là xoá dự án mà bạn đã tạo cho hướng dẫn này.

©2024 Google LLC Mọi quyền được bảo lưu. Google và biểu trưng Google là các nhãn hiệu của Google LLC. Tất cả các tên công ty và sản phẩm khác có thể là nhãn hiệu của công ty liên quan tương ứng.