১. ভূমিকা
ভার্টেক্স এআই মডেল গার্ডেন থেকে ডেপ্লয় করা মডেলগুলির জন্য সুরক্ষিত ও ব্যক্তিগত অ্যাক্সেস প্রতিষ্ঠা করতে প্রাইভেট সার্ভিস কানেক্ট ব্যবহার করুন। একটি পাবলিক এন্ডপয়েন্ট উন্মুক্ত করার পরিবর্তে, এই পদ্ধতিটি আপনাকে আপনার মডেলটিকে একটি ব্যক্তিগত ভার্টেক্স এআই এন্ডপয়েন্টে ডেপ্লয় করার সুযোগ দেয়, যা শুধুমাত্র আপনার ভার্চুয়াল প্রাইভেট ক্লাউড (VPC)-এর মধ্যেই অ্যাক্সেসযোগ্য।
প্রাইভেট সার্ভিস কানেক্ট আপনার ভিপিসি-র (VPC) ভিতরে একটি অভ্যন্তরীণ আইপি অ্যাড্রেস সহ একটি এন্ডপয়েন্ট তৈরি করে, যা আপনার মডেল হোস্টকারী গুগল-পরিচালিত ভার্টেক্স এআই (Vertex AI) পরিষেবার সাথে সরাসরি সংযুক্ত হয়। এটি আপনার ভিপিসি এবং অন-প্রিমিসেস এনভায়রনমেন্টের অ্যাপ্লিকেশনগুলিকে (ক্লাউড ভিপিএন বা ইন্টারকানেক্টের মাধ্যমে) প্রাইভেট আইপি ব্যবহার করে ইনফারেন্স রিকোয়েস্ট পাঠাতে সক্ষম করে। সমস্ত নেটওয়ার্ক ট্র্যাফিক গুগলের নেটওয়ার্কেই থাকে, যা নিরাপত্তা বাড়ায়, ল্যাটেন্সি কমায় এবং আপনার মডেলের সার্ভিং এন্ডপয়েন্টকে পাবলিক ইন্টারনেট থেকে সম্পূর্ণরূপে বিচ্ছিন্ন রাখে।
আপনি যা তৈরি করবেন
এই টিউটোরিয়ালে, আপনি মডেল গার্ডেন থেকে জেমা ৩ (Gemma 3) ডাউনলোড করবেন, যা ভার্টেক্স এআই অনলাইন ইনফারেন্স (Vertex AI Online Inference)-এ একটি প্রাইভেট এন্ডপয়েন্ট হিসেবে হোস্ট করা আছে এবং প্রাইভেট সার্ভিস কানেক্ট (Private Service Connect)-এর মাধ্যমে অ্যাক্সেসযোগ্য। আপনার এন্ড-টু-এন্ড সেটআপে অন্তর্ভুক্ত থাকবে:
- মডেল গার্ডেন মডেল: আপনি ভার্টেক্স এআই মডেল গার্ডেন থেকে জেমা ৩ নির্বাচন করবেন এবং এটিকে একটি প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্টে স্থাপন করবেন।
- প্রাইভেট সার্ভিস কানেক্ট: আপনি আপনার ভার্চুয়াল প্রাইভেট ক্লাউড (VPC)-এ একটি কনজিউমার এন্ডপয়েন্ট কনফিগার করবেন, যা আপনার নিজস্ব নেটওয়ার্কের মধ্যে একটি অভ্যন্তরীণ আইপি অ্যাড্রেস ব্যবহার করবে।
- ভার্টেক্স এআই-এর সাথে সুরক্ষিত সংযোগ: পিএসসি এন্ডপয়েন্টটি আপনার প্রাইভেট মডেল ডেপ্লয়মেন্টের জন্য ভার্টেক্স এআই দ্বারা স্বয়ংক্রিয়ভাবে তৈরি সার্ভিস অ্যাটাচমেন্টকে টার্গেট করবে। এটি একটি প্রাইভেট সংযোগ স্থাপন করে, যা নিশ্চিত করে যে আপনার ভিপিসি এবং মডেল সার্ভিং এন্ডপয়েন্টের মধ্যেকার ট্র্যাফিক পাবলিক ইন্টারনেটের মধ্য দিয়ে যায় না।
- আপনার VPC-এর মধ্যে ক্লায়েন্ট কনফিগারেশন: আপনি PSC এন্ডপয়েন্টের অভ্যন্তরীণ IP অ্যাড্রেস ব্যবহার করে ডেপ্লয় করা মডেলে ইনফারেন্স রিকোয়েস্ট পাঠানোর জন্য আপনার VPC-এর মধ্যে একটি ক্লায়েন্ট (যেমন, Compute Engine VM) সেট আপ করবেন।
সবশেষে, আপনার কাছে একটি মডেল গার্ডেন মডেলের কার্যকরী উদাহরণ থাকবে, যা ব্যক্তিগতভাবে পরিবেশিত হবে এবং শুধুমাত্র আপনার নির্ধারিত VPC নেটওয়ার্কের ভেতর থেকেই অ্যাক্সেসযোগ্য হবে।
আপনি যা শিখবেন
এই টিউটোরিয়ালে, আপনি শিখবেন কীভাবে ভার্টেক্স এআই মডেল গার্ডেন থেকে একটি মডেল ডেপ্লয় করতে হয় এবং প্রাইভেট সার্ভিস কানেক্ট (PSC) ব্যবহার করে সেটিকে আপনার ভার্চুয়াল প্রাইভেট ক্লাউড (VPC) থেকে নিরাপদে অ্যাক্সেসযোগ্য করে তুলতে হয়। এই পদ্ধতিটি আপনার VPC-এর ভেতরের অ্যাপ্লিকেশনগুলোকে (কনজিউমার) পাবলিক ইন্টারনেট ব্যবহার না করেই ব্যক্তিগতভাবে ভার্টেক্স এআই মডেল এন্ডপয়েন্টের (প্রডিউসার সার্ভিস) সাথে সংযোগ স্থাপন করতে দেয়।
বিশেষভাবে, আপনি শিখবেন:
- ভার্টেক্স এআই-এর জন্য পিএসসি বোঝা: কীভাবে পিএসসি ব্যক্তিগত এবং সুরক্ষিত কনজিউমার-টু-প্রডিউসার সংযোগ সক্ষম করে। আপনার ভিপিসি অভ্যন্তরীণ আইপি অ্যাড্রেস ব্যবহার করে ডেপ্লয় করা মডেল গার্ডেন মডেলটি অ্যাক্সেস করতে পারে।
- প্রাইভেট অ্যাক্সেস সহ একটি মডেল স্থাপন: আপনার মডেল গার্ডেন মডেলের জন্য কীভাবে একটি ভার্টেক্স এআই এন্ডপয়েন্ট কনফিগার করে সেটিকে PSC ব্যবহার করার মাধ্যমে একটি প্রাইভেট এন্ডপয়েন্টে পরিণত করবেন।
- সার্ভিস অ্যাটাচমেন্টের ভূমিকা: যখন আপনি একটি প্রাইভেট ভার্টেক্স এআই এন্ডপয়েন্টে কোনো মডেল ডেপ্লয় করেন, তখন গুগল ক্লাউড স্বয়ংক্রিয়ভাবে একটি গুগল-পরিচালিত টেন্যান্ট প্রোজেক্টে একটি সার্ভিস অ্যাটাচমেন্ট তৈরি করে। এই সার্ভিস অ্যাটাচমেন্টটি মডেল সার্ভিং সার্ভিসটিকে কনজিউমার নেটওয়ার্কের কাছে উন্মুক্ত করে।
- আপনার VPC-তে একটি PSC এন্ডপয়েন্ট তৈরি করা:
- আপনার ডেপ্লয় করা Vertex AI Endpoint-এর বিবরণ থেকে অনন্য Service Attachment URI কীভাবে পাবেন।
- আপনার VPC-তে নির্বাচিত সাবনেটের মধ্যে কীভাবে একটি অভ্যন্তরীণ আইপি অ্যাড্রেস রিজার্ভ করবেন।
- আপনার VPC-তে কীভাবে একটি ফরওয়ার্ডিং রুল তৈরি করবেন যা PSC এন্ডপয়েন্ট হিসেবে কাজ করে এবং Vertex AI সার্ভিস অ্যাটাচমেন্টকে টার্গেট করে। এই এন্ডপয়েন্টটি সংরক্ষিত অভ্যন্তরীণ IP-এর মাধ্যমে মডেলটিকে অ্যাক্সেসযোগ্য করে তোলে।
- ব্যক্তিগত সংযোগ স্থাপন: আপনার VPC-তে থাকা PSC এন্ডপয়েন্ট কীভাবে সার্ভিস অ্যাটাচমেন্টের সাথে সংযুক্ত হয়ে আপনার নেটওয়ার্ককে Vertex AI পরিষেবার সাথে নিরাপদে যুক্ত করে।
- ব্যক্তিগতভাবে ইনফারেন্স অনুরোধ পাঠানো: আপনার VPC-এর মধ্যে থাকা রিসোর্স (যেমন Compute Engine VM) থেকে PSC Endpoint-এর অভ্যন্তরীণ IP অ্যাড্রেসে কীভাবে প্রেডিকশন অনুরোধ পাঠাবেন।
- যাচাইকরণ: প্রাইভেট কানেকশনের মাধ্যমে আপনার VPC থেকে ডেপ্লয় করা মডেল গার্ডেন মডেলে আপনি সফলভাবে ইনফারেন্স রিকোয়েস্ট পাঠাতে পারছেন কি না, তা পরীক্ষা ও নিশ্চিত করার ধাপসমূহ।
এটি সম্পন্ন করার মাধ্যমে, আপনি মডেল গার্ডেন থেকে এমন মডেল হোস্ট করতে পারবেন যেগুলো শুধুমাত্র আপনার ব্যক্তিগত নেটওয়ার্ক পরিকাঠামো থেকেই অ্যাক্সেসযোগ্য হবে।
আপনার যা যা লাগবে
গুগল ক্লাউড প্রজেক্ট
আইএএম অনুমতি
- এআই প্ল্যাটফর্ম অ্যাডমিন (ভূমিকা/এমএল.অ্যাডমিন)
- কম্পিউট নেটওয়ার্ক অ্যাডমিন (roles/compute.networkAdmin)
- কম্পিউট ইনস্ট্যান্স অ্যাডমিন (roles/compute.instanceAdmin)
- কম্পিউট সিকিউরিটি অ্যাডমিন (roles/compute.securityAdmin)
- ডিএনএস প্রশাসক (ভূমিকা/ডিএনএস.অ্যাডমিন)
- IAP-সুরক্ষিত টানেল ব্যবহারকারী (roles/iap.tunnelResourceAccessor)
- লগিং অ্যাডমিন (roles/logging.admin)
- নোটবুক অ্যাডমিন (roles/notebooks.admin)
- প্রজেক্ট আইএএম অ্যাডমিন (roles/resourcemanager.projectIamAdmin)
- সার্ভিস অ্যাকাউন্ট অ্যাডমিন (roles/iam.serviceAccountAdmin)
- পরিষেবা ব্যবহার প্রশাসক (roles/serviceusage.serviceUsageAdmin)
২. শুরু করার আগে
টিউটোরিয়ালটি সমর্থন করার জন্য প্রজেক্টটি আপডেট করুন।
এই টিউটোরিয়ালটিতে ক্লাউড শেলে gcloud কনফিগারেশন বাস্তবায়নে সহায়তার জন্য $variables ব্যবহার করা হয়েছে।
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud config list project
gcloud config set project [YOUR-PROJECT-ID]
projectid=[YOUR-PROJECT-ID]
echo $projectid
এপিআই সক্ষমকরণ
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud services enable "compute.googleapis.com"
gcloud services enable "aiplatform.googleapis.com"
gcloud services enable "serviceusage.googleapis.com"
৩. মডেল স্থাপন করুন
মডেল গার্ডেন থেকে আপনার মডেলটি স্থাপন করতে নিচের ধাপগুলো অনুসরণ করুন।
গুগল ক্লাউড কনসোলে, মডেল গার্ডেন-এ যান এবং জেমা ৩ (Gemma 3) অনুসন্ধান করে নির্বাচন করুন।
ডিপ্লয় অপশনগুলিতে ক্লিক করুন এবং ভার্টেক্স এআই নির্বাচন করুন।
Deploy on Vertex AI প্যানে, Advanced নির্বাচন করুন। আগে থেকে পূরণ করা অঞ্চল এবং মেশিন স্পেক উপলব্ধ ক্ষমতার উপর ভিত্তি করে নির্বাচিত হয়। আপনি এই মানগুলি পরিবর্তন করতে পারেন, যদিও কোডল্যাবটি us-central1-এর জন্য বিশেষভাবে তৈরি করা হয়েছে।
Deploy on Vertex AI প্যানে, Endpoint Access-কে Private Service Connect হিসেবে কনফিগার করা আছে কিনা তা নিশ্চিত করুন, তারপর আপনার প্রজেক্টটি নির্বাচন করুন।
অন্যান্য বিকল্পগুলির জন্য সমস্ত ডিফল্ট অপরিবর্তিত রাখুন, তারপর নীচে থাকা 'Deploy' নির্বাচন করুন এবং ডেপ্লয়মেন্টের অবস্থা জানতে আপনার নোটিফিকেশনগুলি দেখুন।
Garden মডেলে, us-central1 অঞ্চলটি নির্বাচন করুন, যা Gemma 3 মডেল এবং এন্ডপয়েন্ট সরবরাহ করে। মডেল স্থাপন করতে প্রায় ৫ মিনিট সময় লাগে।
৩০ মিনিটের মধ্যে কাজটি সম্পন্ন হলে এন্ডপয়েন্টটি "সক্রিয়" অবস্থায় পরিবর্তিত হবে।
এন্ডপয়েন্টটি নির্বাচন করে এন্ডপয়েন্ট আইডিটি সংগ্রহ করুন এবং লিখে রাখুন।
ক্লাউড শেল খুলুন এবং প্রাইভেট সার্ভিস কানেক্ট সার্ভিস অ্যাটাচমেন্ট ইউআরআই (Private Service Connect Service Attachment URI) পেতে নিম্নলিখিত পদক্ষেপগুলো অনুসরণ করুন। একটি পিএসসি কনজিউমার এন্ডপয়েন্ট (PSC consumer endpoint) স্থাপন করার সময় কনজিউমার এই ইউআরআই স্ট্রিংটি ব্যবহার করে।
ক্লাউড শেলের ভিতরে এন্ডপয়েন্ট আইডি আপডেট করুন, তারপর নিম্নলিখিত কমান্ডটি দিন।
gcloud ai endpoints describe [Endpoint ID] --region=us-central1 | grep -i serviceAttachment:
নীচে একটি উদাহরণ দেওয়া হল:
user@cloudshell:$ gcloud ai endpoints describe 2124795225560842240 --region=us-central1 | grep -i serviceAttachment:
Using endpoint [https://us-central1-aiplatform.googleapis.com/]
serviceAttachment: projects/o9457b320a852208e-tp/regions/us-central1/serviceAttachments/gkedpm-52065579567eaf39bfe24f25f7981d
serviceAttachment-এর পরের বিষয়বস্তুগুলো "Service_attachment" নামের একটি ভেরিয়েবলে কপি করুন, পরবর্তীতে PSC কানেকশন তৈরি করার সময় আপনার এটি প্রয়োজন হবে।
user@cloudshell:$ Service_attachment=projects/o9457b320a852208e-tp/regions/us-central1/serviceAttachments/gkedpm-52065579567eaf39bfe24f25f7981d
৪. গ্রাহক সেটআপ
কনজিউমার ভিপিসি তৈরি করুন
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud compute networks create consumer-vpc --project=$projectid --subnet-mode=custom
কনজিউমার ভিএম সাবনেট তৈরি করুন
ক্লাউড শেলের ভিতরে, নিম্নলিখিতগুলি সম্পাদন করুন:
gcloud compute networks subnets create consumer-vm-subnet --project=$projectid --range=192.168.1.0/24 --network=consumer-vpc --region=us-central1 --enable-private-ip-google-access
PSC এন্ডপয়েন্ট সাবনেট তৈরি করুন
gcloud compute networks subnets create pscendpoint-subnet --project=$projectid --range=10.10.10.0/28 --network=consumer-vpc --region=us-central1
৫. আইএপি সক্রিয় করুন
আপনার VM ইনস্ট্যান্সগুলিতে IAP-কে সংযোগ করার অনুমতি দিতে, এমন একটি ফায়ারওয়াল নিয়ম তৈরি করুন যা:
- এটি সেই সমস্ত VM ইনস্ট্যান্সের ক্ষেত্রে প্রযোজ্য, যেগুলোকে আপনি IAP ব্যবহার করে অ্যাক্সেসযোগ্য করতে চান।
- 35.235.240.0/20 আইপি রেঞ্জ থেকে ইনগ্রেস ট্র্যাফিকের অনুমতি দেয়। এই রেঞ্জে সেই সমস্ত আইপি অ্যাড্রেস রয়েছে যা IAP টিসিপি ফরওয়ার্ডিংয়ের জন্য ব্যবহার করে।
ক্লাউড শেলের ভিতরে IAP ফায়ারওয়াল নিয়মটি তৈরি করুন।
gcloud compute firewall-rules create ssh-iap-consumer \
--network consumer-vpc \
--allow tcp:22 \
--source-ranges=35.235.240.0/20
৬. কনজিউমার ভিএম ইনস্ট্যান্স তৈরি করুন
ক্লাউড শেলের ভিতরে, কনজিউমার ভিএম ইনস্ট্যান্স, consumer-vm তৈরি করুন।
gcloud compute instances create consumer-vm \
--project=$projectid \
--machine-type=e2-micro \
--image-family debian-11 \
--no-address \
--shielded-secure-boot \
--image-project debian-cloud \
--zone us-central1-a \
--subnet=consumer-vm-subnet
৭. ব্যক্তিগত সার্ভিস কানেক্ট এন্ডপয়েন্ট
কনজিউমার তাদের ভিপিসি-র মধ্যে একটি অভ্যন্তরীণ আইপি অ্যাড্রেস ব্যবহার করে একটি কনজিউমার এন্ডপয়েন্ট (ফরওয়ার্ডিং রুল) তৈরি করে। এই পিএসসি এন্ডপয়েন্টটি প্রডিউসারের সার্ভিস অ্যাটাচমেন্টকে টার্গেট করে। কনজিউমার ভিপিসি বা হাইব্রিড নেটওয়ার্কের ক্লায়েন্টরা প্রডিউসারের সার্ভিসে পৌঁছানোর জন্য এই অভ্যন্তরীণ আইপি অ্যাড্রেসে ট্র্যাফিক পাঠাতে পারে।
কনজিউমার এন্ডপয়েন্টের জন্য একটি আইপি অ্যাড্রেস রিজার্ভ করুন।
ক্লাউড শেলের ভিতরে ফরওয়ার্ডিং নিয়মটি তৈরি করুন।
gcloud compute addresses create psc-address \
--project=$projectid \
--region=us-central1 \
--subnet=pscendpoint-subnet \
--addresses=10.10.10.6
আইপি ঠিকানাটি সংরক্ষিত কিনা তা যাচাই করুন।
ক্লাউড শেলের ভিতরে, সংরক্ষিত আইপি অ্যাড্রেসটি তালিকাভুক্ত করুন।
gcloud compute addresses list
আপনি দেখবেন যে 10.10.10.6 আইপি অ্যাড্রেসটি সংরক্ষিত আছে।
পূর্ববর্তী ধাপের 'মডেল স্থাপন' বিভাগে আপনার সংগ্রহ করা সার্ভিস অ্যাটাচমেন্ট ইউআরআই, টার্গেট-সার্ভিস-অ্যাটাচমেন্ট, উল্লেখ করে কনজিউমার এন্ডপয়েন্টটি তৈরি করুন।
ক্লাউড শেলের ভিতরে নেটওয়ার্ক সংযুক্তিটি বর্ণনা করুন।
gcloud compute forwarding-rules create psc-consumer-ep \
--network=consumer-vpc \
--address=psc-address \
--region=us-central1 \
--target-service-attachment=$Service_attachment \
--project=$projectid
যাচাই করুন যে পরিষেবা সংযুক্তিটি এন্ডপয়েন্টটি গ্রহণ করে।
gcloud compute forwarding-rules describe psc-consumer-ep \
--project=$projectid \
--region=us-central1 \
প্রতিক্রিয়ায়, pscConnectionStatus ফিল্ডে একটি "ACCEPTED" স্ট্যাটাস দেখা যাচ্ছে কিনা তা যাচাই করুন।
৮. কনজিউমার ভিএম থেকে পরীক্ষা
ভার্টেক্স মডেল গার্ডেন এপিআই (Vertex Model Garden API) অ্যাক্সেস করার জন্য কনজিউমার ভিএম-কে (Consumer VM) অ্যাক্সেস প্রদান করতে ক্লাউড শেল-এ (Cloud Shell) নিম্নলিখিত ধাপগুলি অনুসরণ করুন।
কনজিউমার ভিএম-এ SSH করুন
অ্যাপ্লিকেশনের ডিফল্ট ক্রেডেনশিয়াল ব্যবহার করে পুনরায় প্রমাণীকরণ করুন এবং ভার্টেক্স এআই স্কোপগুলো নির্দিষ্ট করুন।
gcloud auth application-default login
--scopes=https://www.googleapis.com/auth/cloud-platform
একটি CURL কমান্ড তৈরি করতে নিচের সারণিটি ব্যবহার করুন, আপনার পরিবেশ অনুযায়ী এটি পরিবর্তন করে নিন।
বৈশিষ্ট্য | মূল্য |
প্রোটোকল | HTTP |
অবস্থান | ইউএস-সেন্ট্রাল১ |
অনলাইন পূর্বাভাস এন্ডপয়েন্ট | 2133539641536544768 |
প্রকল্প আইডি | টেস্ট৪-৪৭৩৪১৯ |
মডেল | জেম্মা-৩-১২বি-আইটি |
প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্ট আইপি | ১০.১০.১০.৬ |
বার্তা | [{"role": "user","content": "১ পাউন্ড পালক নাকি পাথর, কোনটির ওজন বেশি?"}] |
আপনার পরিবেশের বিবরণ অনুযায়ী কার্ল (curl) কমান্ডটি আপডেট ও কার্যকর করুন:
curl -k -v -X POST -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" http://[PSC-IP]/v1/projects/[Project-ID]/locations/us-central1/endpoints/[Predictions Endpoint]/chat/completions -d '{"model": "google/gemma-3-12b-it", "messages": [{"role": "user","content": "What weighs more 1 pound of feathers or rocks?"}] }'
উদাহরণ:
curl -k -v -X POST -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" http://10.10.10.6/v1/projects/test4-473419/locations/us-central1/endpoints/2133539641536544768/chat/completions -d '{"model": "google/gemma-3-12b-it", "messages": [{"role": "user","content": "What weighs more 1 pound of feathers or rocks?"}] }'
চূড়ান্ত ফলাফল - সফল!!!
আউটপুটের একেবারে নিচে আপনি জেমা ৩-এর প্রেডিকশন দেখতে পাবেন, যা প্রমাণ করে যে আপনি PSC এন্ডপয়েন্টের মাধ্যমে ব্যক্তিগতভাবে API এন্ডপয়েন্টটিতে অ্যাক্সেস করতে সক্ষম হয়েছেন।
Connection #0 to host 10.10.10.6 left intact
{"id":"chatcmpl-9e941821-65b3-44e4-876c-37d81baf62e0","object":"chat.completion","created":1759009221,"model":"google/gemma-3-12b-it","choices":[{"index":0,"message":{"role":"assistant","reasoning_content":null,"content":"This is a classic trick question! They weigh the same. One pound is one pound, regardless of the material. 😊\n\n\n\n","tool_calls":[]},"logprobs":null,"finish_reason":"stop","stop_reason":106}],"usage":{"prompt_tokens":20,"total_tokens":46,"completion_tokens":26,"prompt_tokens_details":null},"prompt_logprobs":null
৯. পরিষ্কার করুন
ক্লাউড শেল থেকে টিউটোরিয়াল উপাদানগুলো মুছে ফেলুন।
gcloud ai endpoints undeploy-model ENDPOINT_ID --deployed-model-id=DEPLOYED_MODEL_ID --region=us-central1 --quiet
gcloud ai endpoints delete $ENDPOINT_ID --project=$projectid --region=us-central1 --quiet
gcloud ai models delete $MODEL_ID --project=$projectid --region=us-central1 --quiet
gcloud compute instances delete consumer-vm --zone=us-central1-a --quiet
gcloud compute forwarding-rules delete psc-consumer-ep --region=us-central1 --project=$projectid --quiet
gcloud compute addresses delete psc-address --region=us-central1 --project=$projectid --quiet
gcloud compute networks subnets delete pscendpoint-subnet consumer-vm-subnet --region=us-central1 --quiet
gcloud compute firewall-rules delete ssh-iap-consumer --project=$projectid
gcloud compute networks delete consumer-vpc --project=$projectid --quiet
gcloud projects delete $projectid --quiet
১০. অভিনন্দন
অভিনন্দন, আপনি একটি প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্ট ব্যবহার করে ভার্টেক্স এআই প্রেডিকশন-এ হোস্ট করা জেমা ৩ এপিআই-এর ব্যক্তিগত অ্যাক্সেস সফলভাবে কনফিগার এবং যাচাই করেছেন।
আপনি আপনার ভিপিসি-র (VPC) মধ্যে একটি অভ্যন্তরীণ আইপি অ্যাড্রেস সংরক্ষণ এবং একটি প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্ট (একটি ফরওয়ার্ডিং রুল) কনফিগার করা সহ কনজিউমার ইনফ্রাস্ট্রাকচার তৈরি করেছেন। এই এন্ডপয়েন্টটি আপনার ডেপ্লয় করা জেমা ৩ (Gemma 3) মডেলের সাথে যুক্ত সার্ভিস অ্যাটাচমেন্টকে টার্গেট করে ভার্টেক্স এআই (Vertex AI) সার্ভিসের সাথে নিরাপদে সংযুক্ত হয়। এই সেটআপটি আপনার ভিপিসি বা সংযুক্ত নেটওয়ার্কের ভেতরের অ্যাপ্লিকেশনগুলোকে একটি অভ্যন্তরীণ আইপি অ্যাড্রেস ব্যবহার করে ব্যক্তিগতভাবে এবং নিরাপদে জেমা ৩ এপিআই (Gemma 3 API)-এর সাথে ইন্টারঅ্যাক্ট করার সুযোগ দেয়, যার জন্য ট্র্যাফিককে পাবলিক ইন্টারনেটের মধ্য দিয়ে যেতে হয় না।