۱. مقدمه
این آزمایشگاه کد نشان میدهد که چگونه میتوان یک تابع ابری (Cloud Function) را فراخوانی کرد که ماژول Vertex AI را مقداردهی اولیه میکند و سپس یک نقطه پایانی برای فراخوانی مدل PaLM Text Bison فراهم میکند. این تابع ابری با زبان پایتون نوشته شده است. لیست سرویسهای مورد استفاده در زیر آمده است:
- توابع ابری
- رابط برنامهنویسی کاربردی Vertex AI و PaLM
آنچه خواهید ساخت
شما یک تابع ابری ایجاد و مستقر خواهید کرد که یک نقطه پایانی برای فراخوانی مدل PaLM Text Bison فراهم میکند.
۲. الزامات
۳. قبل از شروع
- در کنسول گوگل کلود ، در صفحه انتخاب پروژه، یک پروژه گوگل کلود را انتخاب یا ایجاد کنید
- مطمئن شوید که صورتحساب برای پروژه Google Cloud شما فعال است. یاد بگیرید که چگونه بررسی کنید که آیا صورتحساب در یک پروژه فعال است یا خیر
- با دنبال کردن دستورالعملهای اینجا ، Cloud Shell را از کنسول Google Cloud فعال کنید.
- اگر پروژه شما تنظیم نشده است، از دستور زیر برای تنظیم آن استفاده کنید:
gcloud config set project <YOUR_PROJECT_ID>
- در Cloud Shell، متغیرهای محیطی زیر را تنظیم کنید:
export GCP_PROJECT=<YOUR_PROJECT_ID>
export GCP_REGION=us-central1
- با اجرای دستورات زیر در ترمینال Cloud Shell، API های لازم Google Cloud را فعال کنید:
gcloud services enable cloudbuild.googleapis.com cloudfunctions.googleapis.com run.googleapis.com logging.googleapis.com storage-component.googleapis.com aiplatform.googleapis.com
۴. عملکرد ابری را مستقر کنید
برای ایجاد و استقرار توابع ابری، مراحل زیر را دنبال کنید:
- با اجرای دستور زیر در ترمینال Cloud Shell خود، کد را از مخزن https://github.com/rominirani/genai-apptemplates-googlecloud کپی کنید:
git clone https://github.com/rominirani/genai-apptemplates-googlecloud
- این دستور محتویات مخزن را در پوشه genai-templates-googlecloud کپی میکند.
- با اجرای دستور زیر از ترمینال Cloud Shell به پوشه پروژه مورد نظر خود بروید:
cd genai-apptemplates-googlecloud/text-predict-cloudfunction
- شما باید با اجرای دستور dir یا با رفتن به ویرایشگر Cloud Shell، هر دو فایل main.py و requirements.txt را در پوشه text-predict-cloudfunction مشاهده کنید.
- برای استقرار تابع ابری، دستور gcloud functions deploy را اجرا کنید:
gcloud functions deploy predictText --gen2 --runtime=python311 --region=$GCP_REGION --source=. --entry-point=predictText --trigger-http --set-env-vars=GCP_PROJECT=$GCP_PROJECT,GCP_REGION=$GCP_REGION --allow-unauthenticated --max-instances=1
پس از اینکه تابع ابری را مستقر کردید، آدرس اینترنتی تابع ابری که مستقر شده است در ترمینال پوسته ابری نمایش داده میشود. این آدرس اینترنتی به شکل زیر است:
https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText
۵. تابع Cloud را فراخوانی کنید
از آنجا که این تابع ابری با یک تریگر HTTP مستقر شده است، میتوانید مستقیماً آن را فراخوانی کنید. در اینجا یک نمونه فراخوانی آمده است:
curl -m 70 -X POST https://$GCP_REGION-$GCP_PROJECT.cloudfunctions.net/predictText \
-H "Content-Type: application/json" \
-d '{
"prompt": "What are the best places to visit in the United States?"
}'
خروجی به این شکل است:
۶. تمیز کردن
برای جلوگیری از تحمیل هزینه به حساب Google Cloud خود برای منابع استفاده شده در این پست، این مراحل را دنبال کنید:
- در کنسول گوگل کلود، به صفحه مدیریت منابع بروید.
- در لیست پروژهها، پروژهای را که میخواهید حذف کنید انتخاب کنید و سپس روی حذف کلیک کنید.
- در کادر محاورهای، شناسه پروژه را تایپ کنید و سپس برای حذف پروژه، روی خاموش کردن کلیک کنید.
- اگر میخواهید پروژه خود را حفظ کنید، مراحل بالا را رد کنید و با رفتن به Cloud Functions و از لیست توابع، تابع Cloud را که میخواهید حذف کنید، حذف کنید و روی DELETE کلیک کنید.
۷. تبریک
تبریک! شما با موفقیت از یک تابع ابری که مدل PaLM Text Bison را در بر میگیرد، استفاده کردید. برای کسب اطلاعات بیشتر در مورد مدلهای موجود ، مستندات محصول Vertex AI LLM را بررسی کنید.