প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্টের মাধ্যমে পাইথন sdk সহ Vertex AI-তে অ্যানথ্রপিক ক্লড অ্যাক্সেস করুন

1. ওভারভিউ

Vertex AI API ইন্টারনেটের মাধ্যমে অ্যাক্সেস করা যেতে পারে, তবে, আপনার এন্টারপ্রাইজে আপনি ইন্টারনেটে না গিয়ে ব্যক্তিগতভাবে Vertex AI API-এর অ্যাক্সেস করতে চাইতে পারেন। এই ল্যাবে আপনি প্রথমে পাবলিক ইন্টারনেটের মাধ্যমে ভিএম ইনস্ট্যান্সে চলমান পাইথন sdk-এর মাধ্যমে Vertex-এর Anthropic Claude-এ অ্যাক্সেস করতে পারবেন।

তারপর আপনি Googleapis-এ একটি প্রাইভেট সার্ভিস কানেক্ট এন্ডপয়েন্ট তৈরি করবেন এবং ভার্টেক্স এপিআই-এর সাথে সংযোগ করতে প্রাইভেট এন্ডপয়েন্ট ব্যবহার করতে ট্রাফিক প্রবাহ পরিবর্তন করবেন।

এই ল্যাবে, আপনি নিম্নলিখিত প্যাটার্ন তৈরি করতে যাচ্ছেন।

চিত্র 1.

2. উদ্দেশ্য

এই ল্যাবে আপনি নিম্নলিখিত কাজগুলি কীভাবে সম্পাদন করবেন তা শিখবেন:

• পাইথন এসডিকে ব্যবহার করতে ভিএম ইনস্ট্যান্স সেট আপ করুন
• পাইথন স্ক্রিপ্টের মাধ্যমে নৃতাত্ত্বিক ক্লড চ্যাটে সংযোগ করুন
• Googleapis এর সাথে সংযোগ করতে PSC এন্ডপয়েন্ট কনফিগার করুন
• ম্যানুয়াল DNS এন্ট্রি কনফিগার করুন
• Googleais-এ সংযোগের পথ যাচাই করুন

ল্যাব সেটআপ

স্ব-গতিসম্পন্ন পরিবেশ সেটআপ

1. Google ক্লাউড কনসোলে সাইন-ইন করুন এবং একটি নতুন প্রকল্প তৈরি করুন বা বিদ্যমান একটি পুনরায় ব্যবহার করুন৷ আপনার যদি ইতিমধ্যেই একটি Gmail বা Google Workspace অ্যাকাউন্ট না থাকে, তাহলে আপনাকে অবশ্যই একটি তৈরি করতে হবে।

• প্রকল্পের নাম এই প্রকল্পের অংশগ্রহণকারীদের জন্য প্রদর্শনের নাম। এটি একটি অক্ষর স্ট্রিং যা Google API দ্বারা ব্যবহৃত হয় না। আপনি সবসময় এটি আপডেট করতে পারেন.
• প্রোজেক্ট আইডি সমস্ত Google ক্লাউড প্রোজেক্ট জুড়ে অনন্য এবং অপরিবর্তনীয় (সেট করার পরে পরিবর্তন করা যাবে না)। ক্লাউড কনসোল স্বয়ংক্রিয়ভাবে একটি অনন্য স্ট্রিং তৈরি করে; সাধারণত আপনি এটা কি যত্ন না. বেশিরভাগ কোডল্যাবে, আপনাকে আপনার প্রকল্প আইডি উল্লেখ করতে হবে (সাধারণত PROJECT_ID হিসাবে চিহ্নিত)। আপনি যদি জেনারেট করা আইডি পছন্দ না করেন, তাহলে আপনি অন্য একটি এলোমেলো আইডি তৈরি করতে পারেন। বিকল্পভাবে, আপনি নিজের চেষ্টা করতে পারেন, এবং এটি উপলব্ধ কিনা দেখতে পারেন। এই ধাপের পরে এটি পরিবর্তন করা যাবে না এবং প্রকল্পের সময়কালের জন্য থাকে।
• আপনার তথ্যের জন্য, একটি তৃতীয় মান আছে, একটি প্রকল্প নম্বর , যা কিছু API ব্যবহার করে। ডকুমেন্টেশনে এই তিনটি মান সম্পর্কে আরও জানুন।

সতর্কতা: একটি প্রকল্প আইডি বিশ্বব্যাপী অনন্য এবং আপনি এটি নির্বাচন করার পরে অন্য কেউ ব্যবহার করতে পারবেন না। আপনি সেই আইডির একমাত্র ব্যবহারকারী। এমনকি একটি প্রকল্প মুছে ফেলা হলেও, আইডিটি আবার ব্যবহার করা যাবে না

দ্রষ্টব্য: আপনি যদি একটি Gmail অ্যাকাউন্ট ব্যবহার করেন, আপনি ডিফল্ট অবস্থানটি কোন প্রতিষ্ঠানে সেট করতে পারেন। আপনি যদি একটি Google Workspace অ্যাকাউন্ট ব্যবহার করেন, তাহলে এমন একটি লোকেশন বেছে নিন যা আপনার প্রতিষ্ঠানের জন্য উপযুক্ত।

2. এরপরে, ক্লাউড রিসোর্স/এপিআই ব্যবহার করতে আপনাকে ক্লাউড কনসোলে বিলিং সক্ষম করতে হবে। এই কোডল্যাবের মাধ্যমে চালানোর জন্য খুব বেশি খরচ হবে না, যদি কিছু হয়। এই টিউটোরিয়ালের বাইরে বিলিং এড়াতে সংস্থানগুলি বন্ধ করতে, আপনি আপনার তৈরি করা সংস্থানগুলি মুছতে বা প্রকল্প মুছতে পারেন। নতুন Google ক্লাউড ব্যবহারকারীরা $300 USD বিনামূল্যের ট্রায়াল প্রোগ্রামের জন্য যোগ্য৷

ক্লাউড শেল শুরু করুন

যদিও Google ক্লাউড আপনার ল্যাপটপ থেকে দূরবর্তীভাবে পরিচালিত হতে পারে, এই কোডল্যাবে আপনি Google ক্লাউড শেল ব্যবহার করবেন, একটি কমান্ড লাইন পরিবেশ যা ক্লাউডে চলছে।

Google ক্লাউড কনসোল থেকে, উপরের ডানদিকে টুলবারে ক্লাউড শেল আইকনে ক্লিক করুন:

পরিবেশের ব্যবস্থা করতে এবং সংযোগ করতে এটি শুধুমাত্র কয়েক মুহূর্ত নিতে হবে। এটি সমাপ্ত হলে, আপনি এই মত কিছু দেখতে হবে:

এই ভার্চুয়াল মেশিনটি আপনার প্রয়োজনীয় সমস্ত ডেভেলপমেন্ট টুল দিয়ে লোড করা হয়েছে। এটি একটি ক্রমাগত 5GB হোম ডিরেক্টরি অফার করে এবং Google ক্লাউডে চলে, যা নেটওয়ার্ক কর্মক্ষমতা এবং প্রমাণীকরণকে ব্যাপকভাবে উন্নত করে। এই কোডল্যাবে আপনার সমস্ত কাজ একটি ব্রাউজারে করা যেতে পারে। আপনার কিছু ইন্সটল করার দরকার নেই।

3. টাস্ক 1. সেটআপ এনভায়রনমেন্ট

আপনি যদি প্রচারমূলক স্তর ব্যবহার না করেন তাহলে অনুগ্রহ করে সচেতন থাকুন যে কিছু সম্পদ আপনার সক্ষম করার জন্য কিছু খরচ করতে হবে। খরচ কমানোর জন্য ল্যাব সম্পূর্ণ হওয়ার পরে সম্পদ ধ্বংস করা হয় তা নিশ্চিত করুন। আমরা আপনার বিলিং পরীক্ষা করার এবং অনুশীলনটি আপনার জন্য গ্রহণযোগ্য কিনা তা নিশ্চিত করার পরামর্শ দিই।

আমরা ফায়ারওয়াল নিয়ম সহ একটি কাস্টম ভিপিসি তৈরি করব। আপনার যদি ইতিমধ্যে একটি VPC এবং প্রকল্প থাকে তবে আপনি এই অংশটি এড়িয়ে যেতে পারেন।

ডানদিকে আপনার কনসোলের শীর্ষে অবস্থিত ক্লাউড শেল খুলুন। এবং নিম্নরূপ কনফিগার করুন:

1. আমরা এই ল্যাবে ব্যবহার করব এমন কিছু apis সক্ষম করুন

gcloud services enable dns.googleapis.com
gcloud services enable aiplatform.googleapis.com
gcloud services enable servicedirectory.googleapis.com

2. কিছু ভেরিয়েবল সেট করুন। এই ভেরিয়েবলগুলি হল কাস্টম ভিপিসির প্রোজেক্ট আইডি এবং নেটওয়ার্ক আইডি (আপনি ধাপ 4 এ ভিপিসি তৈরি করবেন)।

projectid=$(gcloud config get-value project)
networkid=anthropic-net 
echo $projectid
echo $networkid
clear

3. এখন anthropic-net নামে একটি কাস্টম VPC তৈরি করুন।

gcloud compute networks create $networkid \
--project=$projectid \
--subnet-mode=custom \
--mtu=1460 \
--bgp-routing-mode=global

4. নতুন ভিপিসিতে vm1-সাবনেট তৈরি করুন

gcloud compute networks subnets create vm-subnet \
--project=$projectid --range=10.0.88.0/24 \
--stack-type=IPV4_ONLY --network=$networkid \
--region=us-east1

5. আপনার ভিপিসিতে ICMP ফায়ারওয়াল নিয়ম যোগ করুন

gcloud compute firewall-rules create $networkid-allow-icmp --project=$projectid \
--network=$networkid \
--description="Allows ICMP connections from any source to any instance on the network." \
--direction=INGRESS \
--priority=65534 \
--source-ranges=0.0.0.0/0 \
--action=ALLOW \
--rules=icmp

6. আপনার ভিপিসিতে SSH ফায়ারওয়াল নিয়ম যোগ করুন

gcloud compute firewall-rules create $networkid-allow-ssh \
--project=$projectid \
--network=$networkid \
--description="Allows TCP connections from any source to any instance on the network using port 22." \
--direction=INGRESS --priority=65534 \
--source-ranges=0.0.0.0/0 --action=ALLOW \
--rules=tcp:22

4. টাস্ক 2. ভার্টেক্স মডেল বাগানে অ্যানথ্রপিক সক্ষম করুন

আমাদের ইন্টারনেটে আউটবাউন্ড বাহ্যিক অ্যাক্সেস মঞ্জুর করতে হবে তাই একটি ক্লাউড NAT গেটওয়ে তৈরি করুন এবং এটি সংযুক্ত করুন।

1. Vertex AI এ যান এবং মডেল গার্ডেন নির্বাচন করুন
2. অ্যানথ্রোপিক অনুসন্ধান করুন এবং ক্লাউড 3.5 সনেট নির্বাচন করুন

3. সক্ষম করুন নির্বাচন করুন, আপনাকে কিছু তথ্য পূরণ করতে হবে। ফর্ম পূরণ করুন এবং পরবর্তী নির্বাচন করুন
4. চূড়ান্ত পৃষ্ঠায় Claude 3.5 সনেট সক্ষম করতে সম্মত নির্বাচন করুন

দ্রষ্টব্য: প্রক্রিয়াটি যে কোনও মডেলের জন্য একই হওয়া উচিত

5. টাস্ক 3. NAT গেটওয়ে এবং VM তৈরি করুন

আমাদের ইন্টারনেটে আউটবাউন্ড বাহ্যিক অ্যাক্সেস মঞ্জুর করতে হবে তাই একটি ক্লাউড NAT গেটওয়ে তৈরি করুন এবং এটি সংযুক্ত করুন।

ক্লাউড শেলে নিম্নলিখিত কমান্ডগুলি ব্যবহার করুন

1. ক্লাউড NAT তৈরি করুন।

gcloud compute routers create anthro-out-nat \
    --network $networkid \
    --region us-east1 

2. Cloud NAT গেটওয়ে তৈরি করুন।

gcloud compute routers nats create anthro-out-nat-gw \
    --router-region us-east1 \
    --router anthro-out-nat \
    --nat-all-subnet-ip-ranges \
    --auto-allocate-nat-external-ips

এখন পাইথন SDK-এর মাধ্যমে Vertex AI-তে Anthropic অ্যাক্সেস করার জন্য একটি VM তৈরি করা যাক।

আমরা নিম্নলিখিত প্যাকেজ ইনস্টল করার সাথে পরীক্ষা করার জন্য একটি vm তৈরি করতে যাচ্ছি

1. একই ক্লাউড শেল সেশনে নিম্নলিখিত ব্যবহার করে anthro-vm তৈরি করুন।

gcloud compute instances create anthro-vm \
--project=$projectid \
--zone=us-east1-b \
--network-interface=stack-type=IPV4_ONLY,subnet=vm-subnet,no-address,network=$networkid \
--metadata startup-script="#! /bin/bash    
      sudo apt-get update
      sudo apt-get install python3 python3-dev python3-venv -y
      sudo apt-get install tcpdump dnsutils -y
      sudo -i
      sudo mkdir -p ~/py-anthro-env
      cd ~/py-anthro-env
      python3 -m venv env
      source env/bin/activate
      pip install -U ipython google-cloud-aiplatform 'anthropic[vertex]'"

আপনি কোন পাবলিক আইপি ঠিকানা ছাড়া তৈরি একটি VM দেখতে হবে. এখন ভিএম কনফিগার করা যাক

6. টাস্ক 4. VM কনফিগার করুন এবং পরীক্ষা করুন

1. VM দৃষ্টান্তগুলিতে নেভিগেট করুন। anthro-vm দিয়ে শুরু হওয়া vm নির্বাচন করুন। SSH নির্বাচন করুন।
2. আপনি একবার anthro-vm-এ SSH করলে, sudo -i লিখে রুট সক্রিয় করুন
3. আপনার venv পরিবেশ সক্রিয় করুন:

cd py-anthro-env
source env/bin/activate

4. এখন এর পরে কিছু পরীক্ষা করার জন্য এটি প্রমাণীকরণ করা যাক। VM-এ নিম্নলিখিত কমান্ডটি চালান, অনুরোধ করা হলে y টিপুন।

gcloud auth application-default login

5. পরবর্তীতে https:// দিয়ে শুরু হওয়া ইউআরএলটি কপি করুন আপনার ল্যাব ব্রাউজার উইন্ডোতে একটি নতুন ট্যাব খুলুন এবং ইউআরএলটি পেস্ট করুন। প্রম্পটগুলি গ্রহণ করুন।
6. যখন আপনি নিম্নলিখিত নির্বাচনী অনুলিপিটি দেখতে পান, vm anthro-vm সেশনে ফিরে যান এবং অনুমোদন কোড লিখুন: আপনার কপি করা কোডটি আটকান এবং প্রমাণীকরণের জন্য এন্টার টিপুন।

7. এখন আসুন আমরা Vertex Gemini API-এর সাথে সংযোগ করতে পারি কিনা তা দেখার জন্য একটি দ্রুত পরীক্ষা করি, এটি us-east5-aiplatform.googleapis.com ব্যবহার করে তাই ট্র্যাফিক রুটগুলি কীভাবে তা দেখতে আমরা সেই ঠিকানায় একটি dig করব।

dig us-east5-aiplatform.googleapis.com

8. আপনি অনুরূপ কিছু দেখতে হবে (ঠিকানা ভিন্ন হবে)। নোট করুন পাথটি সর্বজনীন আইপি ঠিকানার মাধ্যমে হয় যেহেতু API একটি সর্বজনীন API।

; <<>> DiG 9.16.48-Debian <<>> us-east5-aiplatform.googleapis.com
;; global options: +cmd
;; Got answer:
;; ->>HEADER<<- opcode: QUERY, status: NOERROR, id: 9117
;; flags: qr rd ra; QUERY: 1, ANSWER: 16, AUTHORITY: 0, ADDITIONAL: 1

;; OPT PSEUDOSECTION:
; EDNS: version: 0, flags:; udp: 512
;; QUESTION SECTION:
;us-east5-aiplatform.googleapis.com. IN A

;; ANSWER SECTION:
us-east5-aiplatform.googleapis.com. 300 IN A 173.194.210.95
us-east5-aiplatform.googleapis.com. 300 IN A 173.194.211.95
us-east5-aiplatform.googleapis.com. 300 IN A 173.194.212.95
us-east5-aiplatform.googleapis.com. 300 IN A 173.194.213.95
us-east5-aiplatform.googleapis.com. 300 IN A 173.194.215.95
us-east5-aiplatform.googleapis.com. 300 IN A 173.194.216.95
us-east5-aiplatform.googleapis.com. 300 IN A 108.177.12.95
us-east5-aiplatform.googleapis.com. 300 IN A 108.177.13.95
us-east5-aiplatform.googleapis.com. 300 IN A 74.125.26.95

9. এখন পাইথন ব্যবহার করা যাক। ipython ইন্টারফেস সক্রিয় করতে ipython টাইপ করুন।

ipython

10. এবার নিচেরটা কপি করে পেস্ট করুন। এটি ক্লদকে জিজ্ঞাসা করে " 2024 সালে অলিম্পিক কোথায় অনুষ্ঠিত হচ্ছে! "। ps আপনার প্রজেক্ট আইডি- এর নামের সাথে YOUR-Project-ID-Here প্রতিস্থাপন করুন

from anthropic import AnthropicVertex

project_id = "YOUR-Project-ID-Here"
region = "us-east5"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-3-5-sonnet@20240620",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "Where is the olympics being held in 2024!",
        }
    ],
)
print(message)

11. রান করার জন্য এন্টার টিপুন এবং ফলাফল দেখুন।
12. এই অনুরোধটি Vertex পাবলিক API এর মাধ্যমে Anthropic অ্যাক্সেস করেছে।
13. বন্ধ SSH অধিবেশন চলুন চালিয়ে যান.

দ্রষ্টব্য: আপনি প্রম্পট প্রশ্নটিকে অন্য কিছুতে পরিবর্তন করতে পারেন।

7. টাস্ক 5. googleapis-এ PSC এন্ডপয়েন্ট তৈরি করুন

আমাদের Vertex API এন্ডপয়েন্টে ব্যক্তিগত সংযোগ সক্ষম করতে আমরা googleapis-এর জন্য একটি Private Service Connect endpoint তৈরি করব। এটি আমাদের একটি ব্যক্তিগত আইপি ঠিকানা ব্যবহার করার অনুমতি দেবে যা আমরা আমাদের প্রয়োজনীয় googleapis-এ ট্রাফিক রুট করার জন্য বরাদ্দ করি, এই ক্ষেত্রে Vertex Gemini।

1. ইতিমধ্যে খোলা না থাকলে ক্লাউড শেল খুলুন। PSC এন্ডপয়েন্টের জন্য একটি আইপি তৈরি করুন। আমরা এই ক্ষেত্রে 192.168.255.230 ব্যবহার করব।

gcloud compute addresses create anthro-ip \
    --global \
    --purpose=PRIVATE_SERVICE_CONNECT \
    --addresses=192.168.255.230 \
    --network=$networkid

2. আইপি তৈরি করা যাচাই করুন

gcloud compute addresses list --filter="name=( 'anthro-ip' ...)"

3. এরপর PSC এন্ডপয়েন্ট তৈরি করুন

gcloud compute forwarding-rules create pscanthrovertex \
    --global \
    --network=$networkid \
    --address=anthro-ip \
    --target-google-apis-bundle=all-apis

4. এটি একটি এন্ডপয়েন্ট এবং একটি পরিষেবা ডিরেক্টরি এন্ট্রি তৈরি করবে। শেষ বিন্দু বিদ্যমান যাচাই করুন

gcloud compute forwarding-rules describe pscanthrovertex --global

8. টাস্ক 6. স্বয়ংক্রিয় পরিষেবা ডিরেক্টরি জোনের মাধ্যমে এন্ডপয়েন্ট সংযোগ যাচাই করুন

মিথুনের সাথে সংযোগ করতে ব্যক্তিগত এন্ডপয়েন্ট ব্যবহার করে সংযোগ করা যাক।

1. VM ইনস্ট্যান্স anthro-vm1 এ যান। VM-এ SSH এবং SSH নির্বাচন করুন
2. sudo -i টাইপ করে রুট অ্যাক্সেস লাভ করুন
3. dig কমান্ড ব্যবহার করে aiplatform-pscanthrovertex.p.googleapis.com- এর সংযোগ পথটি পরীক্ষা করুন। আপনার পিএসসি শেষ পয়েন্টের আইপি দেখতে হবে

dig aiplatform-pscanthrovertex.p.googleapis.com

9. টাস্ক 7. googleapis-এ ম্যানুয়াল DNS এন্ট্রি তৈরি করুন (ঐচ্ছিক)

আপনি ব্যক্তিগত DNS ব্যবহার করে PSC এন্ডপয়েন্টে নির্দেশ করতে একটি ম্যানুয়াল DNS এন্ট্রি তৈরি করতে পারেন। এটি আপনার দ্বারা নির্ধারিত সমস্ত নেটওয়ার্ককে প্রভাবিত করবে৷

1. নেটওয়ার্ক পরিষেবাগুলিতে নেভিগেট করুন এবং ক্লাউড ডিএনএস নির্বাচন করুন।
2. অঞ্চলগুলিতে আপনি Google API-এর জন্য ব্যক্তিগত পরিষেবা সংযোগের জন্য একটি স্বয়ংক্রিয়ভাবে তৈরি অঞ্চল দেখতে পাবেন, জোন প্রকার পরিষেবা ডিরেক্টরি সহ। এটি ** SERVICE-ENDPOINT ফরম্যাটের সাথে PSC এন্ডপয়েন্টের সাথে সংযোগ করতে ব্যবহার করা যেতে পারে। p.googleapis.com উদাহরণ aiplatform-pscvertexgemini.p.googleapis.com
3. এই ক্ষেত্রে আমরা ম্যানুয়ালি একটি ব্যক্তিগত DNS এন্ট্রি তৈরি করতে চাই। ক্লাউড ডিএনএস-এ যান এবং অঞ্চল তৈরি করুন নির্বাচন করুন
4. নিম্নরূপ কনফিগার করুন

কনফিগারেশন	নাম
জোন প্রকার	ব্যক্তিগত
জোনের নাম	googleapis-private
DNS নাম	googleapis.com
নেটওয়ার্ক যোগ করুন (যোগ করা হলে সম্পন্ন নির্বাচন করুন)	anthropic-নেট
নির্বাচন সম্পূর্ণ করতে	তৈরি করুন

5. জোন বিশদ এলাকায় একটি রেকর্ড যোগ করতে মান যুক্ত করুন নির্বাচন করুন

কনফিগারেশন	নাম
রিসোর্স রেকর্ডের ধরন	ক
IPv4 ঠিকানা (এন্ডপয়েন্টের IP ঠিকানা যোগ করুন)	192.168.255.230
নির্বাচন সম্পূর্ণ করতে	তৈরি করুন

6. জোন বিশদ এলাকায় একটি CNAME রেকর্ড যোগ করতে স্ট্যান্ডার্ড যোগ করুন নির্বাচন করুন

কনফিগারেশন	নাম
DNS নাম	*
রেকর্ড রিসোর্স টাইপ	CNAME
ক্যানোনিকাল নাম 1	googleapis.com
নির্বাচন সম্পূর্ণ করতে	তৈরি করুন

7. আপনি একটি A রেকর্ডের সাথে একটি সেট আপ দেখতে পাবেন এবং এইরকম CNAME দেখতে হবে৷
8. পরবর্তীতে আমরা anthro-vm- এ এই পরিবর্তনগুলির সাথে সংযোগ যাচাই করি

10. টাস্ক 8. আইপি ঠিকানার মাধ্যমে এন্ডপয়েন্ট সংযোগ যাচাই করুন (ঐচ্ছিক)

মিথুনের সাথে সংযোগ করতে ব্যক্তিগত এন্ডপয়েন্ট ব্যবহার করে সংযোগ করা যাক।

দ্রষ্টব্য: VM-এ কোনো ম্যানুয়াল কনফিগারেশনের প্রয়োজন নেই।

1. VM ইনস্ট্যান্স anthro-vm এ যান। VM-এ SSH এবং SSH নির্বাচন করুন
2. sudo -i টাইপ করে রুট অ্যাক্সেস লাভ করুন
3. ping কমান্ড ব্যবহার করে us-east5-aiplatform.googleapis.com এ সংযোগের পথটি পরীক্ষা করুন। এটি ব্যক্তিগত DNS-এ IP ঠিকানাকে পিং করবে, Googleapis-এর জন্য একটি রেকর্ড। এই IP একটি PSC এন্ডপয়েন্ট এবং আপনার পিংস ব্যর্থ হবে।

ping -c 2 us-east5-aiplatform.googleapis.com

4. aiplatform-pscanthrovertex.p.googleapis.com এর সাথে PSC Google API-এর জন্য স্বয়ংক্রিয়ভাবে তৈরি DNS এন্ট্রি ব্যবহার করে একটি ping দিয়ে সংযোগের পথ পরীক্ষা করুন। এটি PSC এন্ডপয়েন্টের IP ঠিকানা নির্দেশ করে এবং আপনার পিংগুলি ব্যর্থ হবে।

ping -c 2 aiplatform-pscanthrovertex.p.googleapis.com

5. dig কমান্ড ব্যবহার করে us-east5-aiplatform.googleapis.com- এর সংযোগ পথটি পরীক্ষা করুন। এটি PSC এন্ডপয়েন্টের IP ঠিকানা হওয়া উচিত।

dig us-east5-aiplatform.googleapis.com

6. কনসোলে ফিরে যান এবং VM ইনস্ট্যান্স anthro-vm- এর আরেকটি উদাহরণ খুলুন। VM-এ SSH এবং SSH নির্বাচন করুন
7. sudo -i টাইপ করে রুট অ্যাক্সেস লাভ করুন
8. একটি TCP ডাম্পে সংযোগ দেখতে অনুসরণ কমান্ডটি চালান

sudo tcpdump -i any port 53 -n or host us-east5-aiplatform.googleapis.com

9. এখন VM ইনস্ট্যান্স anthro-vm- এর প্রথম SSH ইনস্ট্যান্সে ফিরে যান
10. ব্যবহার করে env সক্রিয় করুন

cd py-gem-env
source env/bin/activate

11. এখন পাইথন পরীক্ষা করা যাক। ipython ইন্টারফেস সক্রিয় করতে ipython টাইপ করুন।

ipython

12. এবার নিচেরটা কপি করে পেস্ট করুন। এটি ক্লদকে জিজ্ঞাসা করে " রোটি কি? " ps আপনার প্রজেক্ট আইডি- এর নামের সাথে YOUR-Project-ID-Here প্রতিস্থাপন করুন

from anthropic import AnthropicVertex

project_id = "YOUR-Project-ID-Here"
region = "us-east5"

client = AnthropicVertex(project_id=project_id, region=region)

message = client.messages.create(
    model="claude-3-5-sonnet@20240620",
    max_tokens=100,
    messages=[
        {
            "role": "user",
            "content": "What is a roti?",
        }
    ],
)
print(message)

13. রান করার জন্য এন্টার টিপুন এবং ফলাফল দেখুন।
14. VM ইনস্ট্যান্স anthro-vm-এর দ্বিতীয় দৃষ্টান্তে ফিরে যান। আপনি TCPDUMP এর ফলাফল দেখতে হবে। আপনি ভিতরে এবং বাইরে লক্ষ্য করবেন এবং VM-এর IP ঠিকানা PSC এন্ডপয়েন্ট IP ঠিকানা ব্যবহার করছে us-east5-aiplatform.googleapis.com- এর সাথে সংযোগ করতে

VM ইনস্ট্যান্স anthro-vm- এ সমস্ত SSH সেশন বন্ধ করুন

11. অভিনন্দন

অভিনন্দন, আপনি সফলভাবে পাবলিক API ঠিকানা ব্যবহার করে এবং Googleapis-এর জন্য ব্যক্তিগত পরিষেবা কানেক্ট এন্ডপয়েন্ট উভয়ই ব্যবহার করে Vertex-এ Anthropic-এর সাথে সংযুক্ত হয়েছেন। এই কার্যকারিতাটি আপনার অন-প্রিম/অন্যান্য ক্লাউড পরিবেশে ব্যক্তিগত API সংযোগ প্রসারিত করতে পারে যা (ইন্টারকানেক্ট, ক্রস-ক্লাউড ইন্টারকানেক্ট এবং ভিপিসি) এর মাধ্যমে সংযুক্ত।

পরিষ্কার করুন

gcloud compute instances delete anthro-vm --zone=us-east1-b --quiet

gcloud compute routers nats delete anthro-out-nat-gw --router=anthro-out-nat --region=us-east1 --quiet

gcloud compute routers delete anthro-out-nat --region=us-east1 --quiet

gcloud compute firewall-rules delete anthropic-net-allow-icmp anthropic-net-allow-ssh --quiet

gcloud compute forwarding-rules delete pscanthrovertex --global

gcloud dns record-sets delete googleapis.com. --zone googleapis-private --type A

gcloud dns record-sets delete *.googleapis.com --zone googleapis-private --type CNAME

gcloud dns managed-zones delete googleapis-private

gcloud compute addresses delete anthro-ip --global


gcloud compute networks subnets delete vm-subnet --region=us-east1 --quiet

gcloud compute networks delete anthropic-net --quiet

আপনি Vertex AI নেটওয়ার্কিং সম্পর্কে আরও পড়তে পারেন