1. نظرة عامة
تتطلّب تطبيقات الذكاء الاصطناعي التوليدي إمكانية المراقبة مثل أي تطبيقات أخرى. هل هناك تقنيات مراقبة خاصة مطلوبة للذكاء الاصطناعي التوليدي؟
في هذا التمرين المعملي، ستُنشئ تطبيقًا بسيطًا مستندًا إلى الذكاء الاصطناعي التوليدي. انشر التطبيق على Cloud Run. ويمكنك تجهيزها بإمكانات المراقبة والتسجيل الأساسية باستخدام خدمات ومنتجات مراقبة Google Cloud.
ما ستتعرّف عليه
- كتابة تطبيق يستخدم Vertex AI باستخدام محرِّر Cloud Shell
- تخزين رمز تطبيقك في GitHub
- استخدام gcloud CLI لنشر رمز تطبيقك المصدر إلى Cloud Run
- إضافة إمكانات المراقبة والتسجيل إلى تطبيق الذكاء الاصطناعي التوليدي
- استخدام المقاييس المستندة إلى السجلّات
- تنفيذ التسجيل والمراقبة باستخدام حزمة تطوير البرامج (SDK) Open Telemetry
- الحصول على إحصاءات حول التعامل المسؤول مع بيانات الذكاء الاصطناعي
2. المتطلبات الأساسية
إذا لم يكن لديك حساب على Google، عليك إنشاء حساب جديد.
3- إعداد المشروع
- سجِّل الدخول إلى Google Cloud Console باستخدام حسابك على Google.
- أنشئ مشروعًا جديدًا أو اختَر إعادة استخدام مشروع حالي. اكتب رقم تعريف المشروع الذي أنشأته أو اخترته للتو.
- فعِّل الفوترة للمشروع.
- من المفترض أن تبلغ تكلفة إكمال هذا الدرس التطبيقي أقل من 5 دولار أمريكي (أو ما يعادله بالعملة المحلية) في تكاليف الفوترة.
- يمكنك اتّباع الخطوات الواردة في نهاية هذا البرنامج التدريبي لحذف الموارد لتجنُّب تحصيل المزيد من الرسوم.
- يكون المستخدمون الجدد مؤهّلين للاستفادة من فترة تجريبية مجانية بقيمة 300 دولار أمريكي.
- تأكَّد من تفعيل الفوترة في مشاريعي في "الفوترة في Google Cloud".
- إذا كان مشروعك الجديد يعرض الرمز
Billing is disabled
في عمودBilling account
:- انقر على النقاط الثلاث في عمود
Actions
. - انقر على تغيير الفوترة.
- اختَر حساب الفوترة الذي تريد استخدامه.
- انقر على النقاط الثلاث في عمود
- إذا كنت تشارك في حدث مباشر، من المرجّح أن يكون اسم الحساب حساب فوترة الفترة التجريبية في Google Cloud Platform.
- إذا كان مشروعك الجديد يعرض الرمز
4. إعداد محرِّر Cloud Shell
- انتقِل إلى محرِّر Cloud Shell. إذا ظهرت لك الرسالة التالية تطلب منك تفويض Cloud Shell للاتصال بـ gcloud باستخدام بيانات اعتمادك، انقر على تفويض للمتابعة.
- افتح نافذة المحطة الطرفية
- .
- انقر على قائمة الخطوط الثلاثة
.
- انقر على Terminal (الوحدة الطرفية).
- انقر على وحدة تحكّم جديدة
.
- انقر على قائمة الخطوط الثلاثة
- في المحطة الطرفية، اضبط رقم تعريف المشروع:
استبدِلgcloud config set project [PROJECT_ID]
[PROJECT_ID]
بمعرّف مشروعك. على سبيل المثال، إذا كان رقم تعريف مشروعك هوlab-example-project
، سيكون الأمر على النحو التالي: إذا ظهرت لك الرسالة التالية التي تفيد بأنّ gcloud تطلب بيانات اعتمادك لـ GCPI API، انقر على تفويض للمتابعة.gcloud config set project lab-project-id-example
عند التنفيذ الناجح، من المفترض أن تظهر لك الرسالة التالية: إذا ظهر لك رمزUpdated property [core/project].
WARNING
وتلقّيت رسالةDo you want to continue (Y/N)?
، هذا يعني على الأرجح أنّك أدخلت رقم تعريف المشروع بشكل غير صحيح. اضغط علىN
، ثم اضغط علىEnter
، وحاول تنفيذ الأمرgcloud config set project
مرة أخرى بعد العثور على رقم تعريف المشروع الصحيح. - (اختياري) إذا كنت تواجه مشكلة في العثور على رقم تعريف المشروع، يمكنك تنفيذ الأمر التالي للاطّلاع على رقم تعريف جميع مشاريعك مرتبة حسب وقت الإنشاء بترتيب تنازلي:
gcloud projects list \ --format='value(projectId,createTime)' \ --sort-by=~createTime
5- تفعيل Google APIs
في الوحدة الطرفية، فعِّل واجهات برمجة تطبيقات Google المطلوبة لهذا التمرين:
gcloud services enable \
run.googleapis.com \
cloudbuild.googleapis.com \
aiplatform.googleapis.com \
logging.googleapis.com \
monitoring.googleapis.com \
cloudtrace.googleapis.com
سيستغرق تنفيذ هذا الأمر بعض الوقت. في النهاية، ستظهر رسالة نجاح مشابهة لما يلي:
Operation "operations/acf.p2-73d90d00-47ee-447a-b600" finished successfully.
إذا ظهرت لك رسالة خطأ تبدأ بالرمز ERROR: (gcloud.services.enable) HttpError accessing
وتتضمّن تفاصيل الخطأ كما هو موضّح أدناه، أعِد محاولة تنفيذ الأمر بعد تأخير يتراوح بين دقيقة ودقيقتين.
"error": { "code": 429, "message": "Quota exceeded for quota metric 'Mutate requests' and limit 'Mutate requests per minute' of service 'serviceusage.googleapis.com' ...", "status": "RESOURCE_EXHAUSTED", ... }
6- إنشاء تطبيق للذكاء الاصطناعي التوليدي
في هذه الخطوة، ستكتب رمزًا للتطبيق البسيط المستنِد إلى الطلبات والذي يستخدم نموذج Gemini لعرض 10 حقائق ممتعة عن حيوان من اختيارك. اتّبِع الخطوات التالية لإنشاء رمز التطبيق.
- في الوحدة الطرفية، أنشئ الدليل
codelab-o11y
:mkdir "${HOME}/codelab-o11y"
- تغيير الدليل الحالي إلى
codelab-o11y
:cd "${HOME}/codelab-o11y"
- نزِّل رمز bootstrap لتطبيق Java باستخدام أداة بدء إطار عمل Spring:
curl https://start.spring.io/starter.zip \ -d dependencies=web \ -d javaVersion=17 \ -d type=maven-project \ -d bootVersion=3.4.1 -o java-starter.zip
- أزِل ترميز bootstrap من الأرشيف وأدرِجه في المجلد الحالي:
unzip java-starter.zip
- وأزِل ملف الأرشيف من المجلد:
rm java-starter.zip
- أنشئ ملف
project.toml
لتحديد إصدار Java Runtime الذي سيتم استخدامه عند نشر الرمز إلى Cloud Run:cat > "${HOME}/codelab-o11y/project.toml" << EOF [[build.env]] name = "GOOGLE_RUNTIME_VERSION" value = "17" EOF
- أضِف العناصر الاعتمادية لحزمة Google Cloud SDK إلى ملف
pom.xml
:- أضِف حزمة Google Cloud Core:
sed -i 's/<dependencies>/<dependencies>\ \ <dependency>\ <groupId>com.google.cloud<\/groupId>\ <artifactId>google-cloud-core<\/artifactId>\ <version>2.49.1<\/version>\ <\/dependency>\ /g' "${HOME}/codelab-o11y/pom.xml"
- أضِف حزمة Google Cloud Vertex AI:
sed -i 's/<dependencies>/<dependencies>\ \ <dependency>\ <groupId>com.google.cloud<\/groupId>\ <artifactId>google-cloud-vertexai<\/artifactId>\ <version>1.16.0<\/version>\ <\/dependency>\ /g' "${HOME}/codelab-o11y/pom.xml"
- أضِف حزمة Google Cloud Core:
- افتح ملف
DemoApplication.java
في محرِّر Cloud Shell: من المفترض أن يظهر الآن رمز مصدر تم إعداده مسبقًا للملفcloudshell edit "${HOME}/codelab-o11y/src/main/java/com/example/demo/DemoApplication.java"
DemoApplication.java
في نافذة المحرِّر أعلى المحطة الطرفية. سيكون رمز المصدر للملف مشابهًا لما يلي:package com.example.demo; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; @SpringBootApplication public class DemoApplication { public static void main(String[] args) { SpringApplication.run(DemoApplication.class, args); } }
- استبدِل الرمز في المحرِّر بالإصدار المعروض أدناه. لاستبدال الرمز، احذف محتوى الملف ثم انسخ الرمز أدناه إلى المحرِّر:
بعد بضع ثوانٍ، سيحفظ محرِّر Cloud Shell الرمز تلقائيًا.package com.example.demo; import java.io.IOException; import java.util.Collections; import javax.annotation.PostConstruct; import javax.annotation.PreDestroy; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import com.google.cloud.ServiceOptions; import com.google.cloud.vertexai.VertexAI; import com.google.cloud.vertexai.api.GenerateContentResponse; import com.google.cloud.vertexai.generativeai.GenerativeModel; import com.google.cloud.vertexai.generativeai.ResponseHandler; @SpringBootApplication public class DemoApplication { public static void main(String[] args) { String port = System.getenv().getOrDefault("PORT", "8080"); SpringApplication app = new SpringApplication(DemoApplication.class); app.setDefaultProperties(Collections.singletonMap("server.port", port)); app.run(args); } } @RestController class HelloController { private final String projectId = ServiceOptions.getDefaultProjectId(); private VertexAI vertexAI; private GenerativeModel model; @PostConstruct public void init() { vertexAI = new VertexAI(projectId, "us-central1"); model = new GenerativeModel("gemini-1.5-flash", vertexAI); } @PreDestroy public void destroy() { vertexAI.close(); } @GetMapping("/") public String getFacts(@RequestParam(defaultValue = "dog") String animal) throws IOException { String prompt = "Give me 10 fun facts about " + animal + ". Return this as html without backticks."; GenerateContentResponse response = model.generateContent(prompt); return ResponseHandler.getText(response); } }
نشر رمز تطبيق الذكاء الاصطناعي التوليدي على Cloud Run
- في نافذة الوحدة الطرفية، شغِّل الأمر لنشر رمز المصدر للتطبيق على Cloud Run.
إذا ظهرت لك رسالة مثل ما يلي، تُعلمك بأنّ الأمر سيؤدي إلى إنشاء مستودع جديد. انقر علىgcloud run deploy codelab-o11y-service \ --source="${HOME}/codelab-o11y/" \ --region=us-central1 \ --allow-unauthenticated
Enter
. قد تستغرق عملية النشر بضع دقائق. بعد اكتمال عملية النشر، ستظهر لك نتيجة مثل:Deploying from source requires an Artifact Registry Docker repository to store built containers. A repository named [cloud-run-source-deploy] in region [us-central1] will be created. Do you want to continue (Y/n)?
Service [codelab-o11y-service] revision [codelab-o11y-service-00001-t2q] has been deployed and is serving 100 percent of traffic. Service URL: https://codelab-o11y-service-12345678901.us-central1.run.app
- انسخ عنوان URL المعروض لخدمة Cloud Run إلى علامة تبويب أو نافذة منفصلة في المتصفّح. بدلاً من ذلك، يمكنك تنفيذ الأمر التالي في وحدة التحكّم الطرفية لطباعة عنوان URL للخدمة والنقر على عنوان URL المعروض مع الضغط مع الاستمرار على مفتاح Ctrl لفتح عنوان URL:
عند فتح عنوان URL، قد يظهر لك الخطأ 500 أو تظهر لك الرسالة التالية:gcloud run services list \ --format='value(URL)' \ --filter='SERVICE:"codelab-o11y-service"'
يعني ذلك أنّه لم يتم الانتهاء من نشر الخدمات. يُرجى الانتظار بضع دقائق وإعادة تحميل الصفحة. في النهاية، سيظهر لك نص يبدأ بعبارة معلومات طريفة عن الكلاب ويحتوي على 10 معلومات طريفة عن الكلاب.Sorry, this is just a placeholder...
يمكنك التفاعل مع التطبيق للحصول على حقائق ممتعة عن الحيوانات المختلفة. لإجراء ذلك، أضِف المَعلمة animal
إلى عنوان URL، مثل ?animal=[ANIMAL]
حيث يكون [ANIMAL]
اسم حيوان. على سبيل المثال، يمكنك إضافة ?animal=cat
للحصول على 10 حقائق طريفة عن القطط أو ?animal=sea turtle
للحصول على 10 حقائق طريفة عن السلاحف البحرية.
7- تدقيق طلبات البيانات من واجهة برمجة التطبيقات في Vertex
توفّر التدقيق في طلبات البيانات من Google API إجابات عن أسئلة مثل "من يطلب بيانات من واجهة برمجة تطبيقات معيّنة، وأين، ومتى؟". من المهم إجراء التدقيق عند تحديد المشاكل في تطبيقك وحلّها أو التحقيق في استهلاك الموارد أو إجراء تحليل للبرامج الجنائية.
تتيح لك سجلّات التدقيق تتبُّع الأنشطة الإدارية وأنشطة النظام، بالإضافة إلى تسجيل طلبات البيانات إلى عمليات واجهة برمجة التطبيقات "قراءة البيانات" و "كتابة البيانات". لتدقيق طلبات Vertex AI لإنشاء المحتوى، عليك تفعيل سجلّات تدقيق "قراءة البيانات" في وحدة تحكّم Cloud.
- انقر على الزر أدناه لفتح صفحة "سجلّات التدقيق" في وحدة تحكّم Cloud.
- تأكَّد من أنّ الصفحة تتضمّن المشروع الذي أنشأته لهذا البرنامج التدريبي. يظهر المشروع المحدّد في أعلى يمين الصفحة مباشرةً من قائمة الهامبرغر:
إذا لزم الأمر، اختَر المشروع الصحيح من مربّع الاختيار. - في جدول إعداد سجلّات التدقيق في الوصول إلى البيانات، ابحث عن خدمة
Vertex AI API
في عمود "الخدمة" واختَرها من خلال وضع علامة في مربّع الاختيار على يمين اسم الخدمة. - في لوحة المعلومات على يسار الصفحة، اختَر نوع التدقيق "قراءة البيانات".
- انقر على حفظ.
لإنشاء سجلّات التدقيق، افتح عنوان URL للخدمة. أعِد تحميل الصفحة مع تغيير قيمة المَعلمة ?animal=
للحصول على نتائج مختلفة.
استكشاف سجلّات التدقيق
- انقر على الزر أدناه لفتح صفحة "مستكشف السجلّات" في وحدة تحكّم Cloud:
- الصِق الفلتر التالي في لوحة "الطلب".
لوحة "طلبات البحث" هي محرِّر يقع بالقرب من أعلى صفحة "مستكشف السجلات":LOG_ID("cloudaudit.googleapis.com%2Fdata_access") AND protoPayload.serviceName="aiplatform.googleapis.com"
- انقر على Run query (تنفيذ طلب البحث).
- اختَر إحدى إدخالات سجلّ التدقيق وسِّع الحقول لفحص المعلومات المسجّلة في السجلّ.
يمكنك الاطّلاع على تفاصيل حول طلب البيانات من واجهة برمجة التطبيقات Vertex API، بما في ذلك الطريقة والنموذج المستخدَمَين. يمكنك أيضًا الاطّلاع على هوية المُستخدِم الذي بدأ الطلب والأذونات التي سمحت بإجراء الطلب.
8. تسجيل التفاعلات باستخدام الذكاء الاصطناعي التوليدي
لا يمكنك العثور على مَعلمات طلب البيانات من واجهة برمجة التطبيقات أو بيانات الاستجابة في سجلّات التدقيق. ومع ذلك، يمكن أن تكون هذه المعلومات مهمة لتحديد المشاكل وحلّها في ما يتعلّق بتحليل سير العمل والتطبيقات. في هذه الخطوة، نسدّ هذه الفجوة من خلال إضافة تسجيل التطبيق.
يستخدم التنفيذ Logback مع Spring Boot لطباعة سجلات التطبيق في الإخراج العادي. تُظهر هذه الطريقة قدرة Cloud Run على تسجيل المعلومات المطبوعة في الإخراج العادي ومعالجتها في Cloud Logging تلقائيًا. لتسجيل المعلومات كبيانات منظَّمة، يجب تنسيق السجلات المطبوعة وفقًا لذلك. اتّبِع التعليمات التالية لإضافة إمكانات التسجيل المُنظَّم إلى التطبيق.
- ارجع إلى نافذة (أو علامة التبويب) Cloud Shell في المتصفّح.
- أنشئ ملفًا جديدًا
LoggingEventGoogleCloudEncoder.java
وافتحه في محرِّر Cloud Shell:cloudshell edit "${HOME}/codelab-o11y/src/main/java/com/example/demo/LoggingEventGoogleCloudEncoder.java"
- انسخ الرمز البرمجي التالي والصقه لتنفيذ برنامج ترميز Logback الذي يُشفِّر السجلّ كسلسلة JSON وفقًا لتنسيق السجلّات منظَّمة في Google Cloud:
package com.example.demo; import static ch.qos.logback.core.CoreConstants.UTF_8_CHARSET; import java.time.Instant; import ch.qos.logback.core.encoder.EncoderBase; import ch.qos.logback.classic.Level; import ch.qos.logback.classic.spi.ILoggingEvent; import java.util.HashMap; import com.google.gson.Gson; public class LoggingEventGoogleCloudEncoder extends EncoderBase<ILoggingEvent> { private static final byte[] EMPTY_BYTES = new byte[0]; private final Gson gson = new Gson(); @Override public byte[] headerBytes() { return EMPTY_BYTES; } @Override public byte[] encode(ILoggingEvent e) { var timestamp = Instant.ofEpochMilli(e.getTimeStamp()); var fields = new HashMap<String, Object>() { { put("timestamp", timestamp.toString()); put("severity", severityFor(e.getLevel())); put("message", e.getMessage()); } }; var params = e.getKeyValuePairs(); if (params != null && params.size() > 0) { params.forEach(kv -> fields.putIfAbsent(kv.key, kv.value)); } var data = gson.toJson(fields) + "\n"; return data.getBytes(UTF_8_CHARSET); } @Override public byte[] footerBytes() { return EMPTY_BYTES; } private static String severityFor(Level level) { switch (level.toInt()) { case Level.TRACE_INT: return "DEBUG"; case Level.DEBUG_INT: return "DEBUG"; case Level.INFO_INT: return "INFO"; case Level.WARN_INT: return "WARNING"; case Level.ERROR_INT: return "ERROR"; default: return "DEFAULT"; } } }
- أنشئ ملفًا جديدًا
logback.xml
وافتحه في محرِّر Cloud Shell:cloudshell edit "${HOME}/codelab-o11y/src/main/resources/logback.xml"
- انسخ ملف XML التالي والصقه لضبط Logback لاستخدام برنامج الترميز مع ملحق Logback الذي يطبع السجلات في الإخراج العادي:
<?xml version="1.0" encoding="UTF-8"?> <configuration debug="true"> <appender name="Console" class="ch.qos.logback.core.ConsoleAppender"> <encoder class="com.example.demo.LoggingEventGoogleCloudEncoder"/> </appender> <root level="info"> <appender-ref ref="Console" /> </root> </configuration>
- أعِد فتح ملف
DemoApplication.java
في محرِّر Cloud Shell:cloudshell edit "${HOME}/codelab-o11y/src/main/java/com/example/demo/DemoApplication.java"
- استبدِل الرمز في المحرِّر بالإصدار الظاهر أدناه لتسجيل طلب الذكاء الاصطناعي لإنشاء المحتوى واستجابته. لاستبدال الرمز، احذف محتوى الملف ثم انسخ الرمز أدناه إلى المحرِّر:
package com.example.demo; import java.io.IOException; import java.util.Collections; import javax.annotation.PostConstruct; import javax.annotation.PreDestroy; import org.slf4j.Logger; import org.slf4j.LoggerFactory; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import com.google.cloud.ServiceOptions; import com.google.cloud.vertexai.VertexAI; import com.google.cloud.vertexai.api.GenerateContentResponse; import com.google.cloud.vertexai.generativeai.GenerativeModel; import com.google.cloud.vertexai.generativeai.ResponseHandler; @SpringBootApplication public class DemoApplication { public static void main(String[] args) { String port = System.getenv().getOrDefault("PORT", "8080"); SpringApplication app = new SpringApplication(DemoApplication.class); app.setDefaultProperties(Collections.singletonMap("server.port", port)); app.run(args); } } @RestController class HelloController { private final String projectId = ServiceOptions.getDefaultProjectId(); private VertexAI vertexAI; private GenerativeModel model; private final Logger LOGGER = LoggerFactory.getLogger(HelloController.class); @PostConstruct public void init() { vertexAI = new VertexAI(projectId, "us-central1"); model = new GenerativeModel("gemini-1.5-flash", vertexAI); } @PreDestroy public void destroy() { vertexAI.close(); } @GetMapping("/") public String getFacts(@RequestParam(defaultValue = "dog") String animal) throws IOException { String prompt = "Give me 10 fun facts about " + animal + ". Return this as html without backticks."; GenerateContentResponse response = model.generateContent(prompt); LOGGER.atInfo() .addKeyValue("animal", animal) .addKeyValue("prompt", prompt) .addKeyValue("response", response) .log("Content is generated"); return ResponseHandler.getText(response); } }
بعد بضع ثوانٍ، يحفظ محرِّر Cloud Shell التغييرات تلقائيًا.
نشر رمز تطبيق الذكاء الاصطناعي التوليدي على Cloud Run
- في نافذة الوحدة الطرفية، شغِّل الأمر لنشر رمز المصدر للتطبيق على Cloud Run.
إذا ظهرت لك رسالة مثل ما يلي، تُعلمك بأنّ الأمر سيؤدي إلى إنشاء مستودع جديد. انقر علىgcloud run deploy codelab-o11y-service \ --source="${HOME}/codelab-o11y/" \ --region=us-central1 \ --allow-unauthenticated
Enter
. قد تستغرق عملية النشر بضع دقائق. بعد اكتمال عملية النشر، ستظهر لك نتيجة مثل:Deploying from source requires an Artifact Registry Docker repository to store built containers. A repository named [cloud-run-source-deploy] in region [us-central1] will be created. Do you want to continue (Y/n)?
Service [codelab-o11y-service] revision [codelab-o11y-service-00001-t2q] has been deployed and is serving 100 percent of traffic. Service URL: https://codelab-o11y-service-12345678901.us-central1.run.app
- انسخ عنوان URL المعروض لخدمة Cloud Run إلى علامة تبويب أو نافذة منفصلة في المتصفّح. بدلاً من ذلك، يمكنك تنفيذ الأمر التالي في وحدة التحكّم الطرفية لطباعة عنوان URL للخدمة والنقر على عنوان URL المعروض مع الضغط مع الاستمرار على مفتاح Ctrl لفتح عنوان URL:
عند فتح عنوان URL، قد يظهر لك الخطأ 500 أو تظهر لك الرسالة التالية:gcloud run services list \ --format='value(URL)' \ --filter='SERVICE:"codelab-o11y-service"'
يعني ذلك أنّه لم يتم الانتهاء من نشر الخدمات. يُرجى الانتظار بضع دقائق وإعادة تحميل الصفحة. في النهاية، سيظهر لك نص يبدأ بعبارة معلومات طريفة عن الكلاب ويحتوي على 10 معلومات طريفة عن الكلاب.Sorry, this is just a placeholder...
لإنشاء سجلات التطبيقات، افتح عنوان URL للخدمة. أعِد تحميل الصفحة مع تغيير قيمة المَعلمة ?animal=
للحصول على نتائج مختلفة.
للاطّلاع على سجلّات التطبيق، اتّبِع الخطوات التالية:
- انقر على الزر أدناه لفتح صفحة "مستكشف السجلّات" في وحدة تحكّم Cloud:
- الصِق الفلتر التالي في لوحة "طلبات البحث" (#2 في واجهة "مستكشف السجلّات"):
LOG_ID("run.googleapis.com%2Fstdout") AND severity=DEBUG
- انقر على Run query (تنفيذ طلب البحث).
تعرض نتيجة طلب البحث السجلات التي تتضمّن الطلب وردّ Vertex AI، بما في ذلك تقييمات السلامة.
9. احتساب التفاعلات باستخدام الذكاء الاصطناعي التوليدي
تُسجِّل Cloud Run مقاييس مُدارة يمكن استخدامها لمراقبة الخدمات المنشورة. توفّر مقاييس المراقبة التي يديرها المستخدمون إمكانية التحكّم بشكل أكبر في البيانات ومعدّل تكرار تعديل المقياس. يتطلّب تنفيذ هذا المقياس كتابة رمز برمجي يجمع البيانات ويكتبها في مراقبة السحابة الإلكترونية. اطّلِع على الخطوة التالية (اختيارية) لمعرفة كيفية تنفيذها باستخدام حزمة تطوير البرامج (SDK) OpenTelemetry.
تعرض هذه الخطوة بديلاً لتنفيذ مقياس المستخدِم في الرمز البرمجي، وهو المقاييس المستندة إلى السجلّ. تتيح لك المقاييس المستندة إلى السجلّات إنشاء مقاييس مراقبة من إدخالات السجلّات التي يكتبها تطبيقك في "تسجيلات Cloud". سنستخدم سجلات التطبيقات التي نفّذناها في الخطوة السابقة لتحديد مقياس يستند إلى السجلّات لعداد الأنواع. سيحتسِب المقياس عدد طلبات البيانات الناجحة من Vertex API.
- اطّلِع على نافذة مستكشف السجلّات التي استخدمناها في الخطوة السابقة. ضمن لوحة "طلب البحث"، ابحث عن القائمة المنسدلة الإجراءات وانقر عليها لفتحها. اطّلِع على لقطة الشاشة أدناه للعثور على القائمة:
- في القائمة التي تم فتحها، اختَر إنشاء مقياس لفتح لوحة إنشاء مقياس مستند إلى السجلّ.
- اتّبِع الخطوات التالية لضبط مقياس عداد جديد في لوحة إنشاء مقياس مستند إلى السجلّ:
- اضبط نوع المقياس: اختَر المعدّل.
- اضبط الحقول التالية في قسم التفاصيل:
- اسم مقياس التسجيل: اضبط الاسم على
model_interaction_count
. تسري بعض القيود على اختيار الأسماء. اطّلِع على تحديد المشاكل وحلّها المتعلّقة بقيود اختيار الأسماء لمعرفة التفاصيل. - الوصف: أدخِل وصفًا للمقياس. على سبيل المثال،
Number of log entries capturing successful call to model inference.
- الوحدات: اترك هذا الحقل فارغًا أو أدخِل الرقم
1
.
- اسم مقياس التسجيل: اضبط الاسم على
- اترك القيم في قسم اختيار الفلتر. يُرجى العلم أنّ حقل فلتر الإنشاء يحتوي على الفلتر نفسه الذي استخدمناه للاطّلاع على سجلات التطبيقات.
- (اختياري) أضِف تصنيفًا يساعد في احتساب عدد المكالمات لكل حيوان. ملاحظة: يمكن أن يؤدي هذا التصنيف إلى زيادة عدد القيم الفريدة للمقياس بشكل كبير، ولا يُنصح باستخدامه في مرحلة الإنتاج:
- انقر على إضافة تصنيف.
- اضبط الحقول التالية في قسم التصنيفات:
- اسم التصنيف: اضبط الاسم على
animal
. - الوصف: أدخِل وصف التصنيف. مثلاً:
Animal parameter
- نوع التصنيف: اختَر
STRING
. - اسم الحقل: اكتب
jsonPayload.animal
. - التعبير العادي: اترك هذا الحقل فارغًا.
- اسم التصنيف: اضبط الاسم على
- 3. انقر على تم.
- انقر على إنشاء مقياس لإنشاء المقياس.
يمكنك أيضًا إنشاء مقياس مستند إلى السجلّات من صفحة المقاييس المستندة إلى السجلّات، باستخدام gcloud logging metrics create
سطر أوامر واجهة سطر الأوامر أو باستخدام google_logging_metric
مورد Terraform.
لإنشاء بيانات المقاييس، افتح عنوان URL للخدمة. أعِد تحميل الصفحة المفتوحة عدة مرات لإجراء طلبات متعددة إلى النموذج. كما في السابق، حاوِل استخدام حيوانات مختلفة في المَعلمة.
أدخِل طلب PromQL للبحث عن بيانات المقياس المستندة إلى السجلّ. لإدخال طلب بحث PromQL، اتّبِع الخطوات التالية:
- انقر على الزر أدناه لفتح صفحة "مستكشف المقاييس" في Cloud Console:
- في شريط أدوات لوحة "أداة إنشاء طلبات البحث"، انقر على الزر الذي يحمل الاسم < > MQL أو < > PromQL. يمكنك الاطّلاع على الصورة أدناه لمعرفة مكان الزر.
- تأكَّد من اختيار PromQL في زر الإيقاف/التفعيل اللغة. يمكنك العثور على زر تبديل اللغة في شريط الأدوات نفسه الذي يتيح لك تنسيق طلب البحث.
- أدخِل طلب البحث في محرِّر طلبات البحث:
لمزيد من المعلومات حول استخدام PromQL، اطّلِع على PromQL في مراقبة السحابة الإلكترونية.sum(rate(logging_googleapis_com:user_model_interaction_count{monitored_resource="cloud_run_revision"}[${__interval}]))
- انقر على تنفيذ الطلب. سيظهر لك رسم بياني خطي مشابه لصورة الشاشة هذه:
يُرجى العِلم أنّه عند تفعيل زر الإيقاف/التفعيل التشغيل التلقائي، لا يظهر الزر تنفيذ الطلب.
10. (اختياري) استخدام Open Telemetry للمراقبة والتتبُّع
كما ذكرنا في الخطوة السابقة، من الممكن تنفيذ المقاييس باستخدام حزمة تطوير البرامج (SDK) OpenTelemetry (Otel). يُنصح باستخدام OTel في التصاميم المعمارية للخدمات المتعدّدة. توضّح هذه الخطوة كيفية إضافة أدوات قياس OTel إلى تطبيق Spring Boot. في هذه الخطوة، عليك تنفيذ ما يلي:
- تجهيز تطبيق Spring Boot بإمكانات التتبُّع التلقائي
- تنفيذ مقياس احتسابي لرصد عدد طلبات النماذج الناجحة
- ربط التتبُّع بسجلات التطبيقات
البنية الهندسية المقترَحة للخدمات على مستوى المنتج هي استخدام OTel collector لجمع جميع بيانات المراقبة ومعالجتها من خدمات متعدّدة. لا يستخدم الرمز البرمجي في هذه الخطوة أداة جمع البيانات بهدف التبسيط. بدلاً من ذلك، يستخدم عمليات تصدير OTel التي تُسجِّل البيانات مباشرةً في Google Cloud.
إعداد تطبيق Spring Boot باستخدام مكوّنات OTel والتتبّع التلقائي
- ارجع إلى نافذة (أو علامة التبويب) Cloud Shell في المتصفّح.
- في المحطة الطرفية، عدِّل ملف
application.permissions
باستخدام مَعلمات ضبط إضافية: تحدِّد هذه المَعلمات تصدير بيانات المراقبة إلى Cloud Trace وCloud Monitoring وتفرض أخذ عيّنات من كل عمليات التتبُّع.cat >> "${HOME}/codelab-o11y/src/main/resources/application.properties" << EOF otel.logs.exporter=none otel.traces.exporter=google_cloud_trace otel.metrics.exporter=google_cloud_monitoring otel.resource.attributes.service.name=codelab-o11y-service otel.traces.sampler=always_on EOF
- أضِف التبعيات المطلوبة لـ OpenTelemetry إلى ملف
pom.xml
:sed -i 's/<dependencies>/<dependencies>\ \ <dependency>\ <groupId>io.opentelemetry.instrumentation<\/groupId>\ <artifactId>opentelemetry-spring-boot-starter<\/artifactId>\ <\/dependency>\ <dependency>\ <groupId>com.google.cloud.opentelemetry<\/groupId>\ <artifactId>exporter-auto<\/artifactId>\ <version>0.33.0-alpha<\/version>\ <\/dependency>\ <dependency>\ <groupId>com.google.cloud.opentelemetry<\/groupId>\ <artifactId>exporter-trace<\/artifactId>\ <version>0.33.0<\/version>\ <\/dependency>\ <dependency>\ <groupId>com.google.cloud.opentelemetry<\/groupId>\ <artifactId>exporter-metrics<\/artifactId>\ <version>0.33.0<\/version>\ <\/dependency>\ /g' "${HOME}/codelab-o11y/pom.xml"
- أضِف ملف OpenTelemetry BOM إلى ملف
pom.xml
:sed -i 's/<\/properties>/<\/properties>\ <dependencyManagement>\ <dependencies>\ <dependency>\ <groupId>io.opentelemetry.instrumentation<\/groupId>\ <artifactId>opentelemetry-instrumentation-bom<\/artifactId>\ <version>2.12.0<\/version>\ <type>pom<\/type>\ <scope>import<\/scope>\ <\/dependency>\ <\/dependencies>\ <\/dependencyManagement>\ /g' "${HOME}/codelab-o11y/pom.xml"
- أعِد فتح ملف
DemoApplication.java
في محرِّر Cloud Shell:cloudshell edit "${HOME}/codelab-o11y/src/main/java/com/example/demo/DemoApplication.java"
- استبدِل الرمز الحالي بالإصدار الذي يزيد مقياس الأداء. لاستبدال الرمز، احذف محتوى الملف ثم انسخ الرمز أدناه إلى المحرِّر:
package com.example.demo; import io.opentelemetry.api.common.AttributeKey; import io.opentelemetry.api.common.Attributes; import io.opentelemetry.api.OpenTelemetry; import io.opentelemetry.api.metrics.LongCounter; import java.io.IOException; import java.util.Collections; import javax.annotation.PostConstruct; import javax.annotation.PreDestroy; import org.slf4j.Logger; import org.slf4j.LoggerFactory; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.web.bind.annotation.GetMapping; import org.springframework.web.bind.annotation.RequestParam; import org.springframework.web.bind.annotation.RestController; import com.google.cloud.ServiceOptions; import com.google.cloud.vertexai.VertexAI; import com.google.cloud.vertexai.api.GenerateContentResponse; import com.google.cloud.vertexai.generativeai.GenerativeModel; import com.google.cloud.vertexai.generativeai.ResponseHandler; @SpringBootApplication public class DemoApplication { public static void main(String[] args) { String port = System.getenv().getOrDefault("PORT", "8080"); SpringApplication app = new SpringApplication(DemoApplication.class); app.setDefaultProperties(Collections.singletonMap("server.port", port)); app.run(args); } } @RestController class HelloController { private final String projectId = ServiceOptions.getDefaultProjectId(); private VertexAI vertexAI; private GenerativeModel model; private final Logger LOGGER = LoggerFactory.getLogger(HelloController.class); private static final String INSTRUMENTATION_NAME = "genai-o11y/java/workshop/example"; private static final AttributeKey<String> ANIMAL = AttributeKey.stringKey("animal"); private final LongCounter counter; public HelloController(OpenTelemetry openTelemetry) { this.counter = openTelemetry.getMeter(INSTRUMENTATION_NAME) .counterBuilder("model_call_counter") .setDescription("Number of successful model calls") .build(); } @PostConstruct public void init() { vertexAI = new VertexAI(projectId, "us-central1"); model = new GenerativeModel("gemini-1.5-flash", vertexAI); } @PreDestroy public void destroy() { vertexAI.close(); } @GetMapping("/") public String getFacts(@RequestParam(defaultValue = "dog") String animal) throws IOException { String prompt = "Give me 10 fun facts about " + animal + ". Return this as html without backticks."; GenerateContentResponse response = model.generateContent(prompt); LOGGER.atInfo() .addKeyValue("animal", animal) .addKeyValue("prompt", prompt) .addKeyValue("response", response) .log("Content is generated"); counter.add(1, Attributes.of(ANIMAL, animal)); return ResponseHandler.getText(response); } }
- أعِد فتح ملف
LoggingEventGoogleCloudEncoder.java
في محرِّر Cloud Shell:cloudshell edit "${HOME}/codelab-o11y/src/main/java/com/example/demo/LoggingEventGoogleCloudEncoder.java"
- استبدِل الرمز الحالي بالإصدار الذي يضيف سمات التتبُّع إلى السجلات المكتوبة. تتيح إضافة السمات ربط السجلات بمسافات التتبّع الصحيحة. لاستبدال الرمز، احذف محتوى الملف ثم انسخ الرمز أدناه إلى المحرِّر:
package com.example.demo; import static ch.qos.logback.core.CoreConstants.UTF_8_CHARSET; import java.time.Instant; import java.util.HashMap; import ch.qos.logback.core.encoder.EncoderBase; import ch.qos.logback.classic.Level; import ch.qos.logback.classic.spi.ILoggingEvent; import com.google.cloud.ServiceOptions; import io.opentelemetry.api.trace.Span; import io.opentelemetry.api.trace.SpanContext; import io.opentelemetry.context.Context; import com.google.gson.Gson; public class LoggingEventGoogleCloudEncoder extends EncoderBase<ILoggingEvent> { private static final byte[] EMPTY_BYTES = new byte[0]; private final Gson gson; private final String projectId; private final String tracePrefix; public LoggingEventGoogleCloudEncoder() { this.gson = new Gson(); this.projectId = lookUpProjectId(); this.tracePrefix = "projects/" + (projectId == null ? "" : projectId) + "/traces/"; } private static String lookUpProjectId() { return ServiceOptions.getDefaultProjectId(); } @Override public byte[] headerBytes() { return EMPTY_BYTES; } @Override public byte[] encode(ILoggingEvent e) { var timestamp = Instant.ofEpochMilli(e.getTimeStamp()); var fields = new HashMap<String, Object>() { { put("timestamp", timestamp.toString()); put("severity", severityFor(e.getLevel())); put("message", e.getMessage()); SpanContext context = Span.fromContext(Context.current()).getSpanContext(); if (context.isValid()) { put("logging.googleapis.com/trace", tracePrefix + context.getTraceId()); put("logging.googleapis.com/spanId", context.getSpanId()); put("logging.googleapis.com/trace_sampled", Boolean.toString(context.isSampled())); } } }; var params = e.getKeyValuePairs(); if (params != null && params.size() > 0) { params.forEach(kv -> fields.putIfAbsent(kv.key, kv.value)); } var data = gson.toJson(fields) + "\n"; return data.getBytes(UTF_8_CHARSET); } @Override public byte[] footerBytes() { return EMPTY_BYTES; } private static String severityFor(Level level) { switch (level.toInt()) { case Level.TRACE_INT: return "DEBUG"; case Level.DEBUG_INT: return "DEBUG"; case Level.INFO_INT: return "INFO"; case Level.WARN_INT: return "WARNING"; case Level.ERROR_INT: return "ERROR"; default: return "DEFAULT"; } } }
بعد بضع ثوانٍ، يحفظ محرِّر Cloud Shell التغييرات تلقائيًا.
نشر رمز تطبيق الذكاء الاصطناعي التوليدي على Cloud Run
- في نافذة الوحدة الطرفية، شغِّل الأمر لنشر رمز المصدر للتطبيق على Cloud Run.
إذا ظهرت لك رسالة مثل ما يلي، تُعلمك بأنّ الأمر سيؤدي إلى إنشاء مستودع جديد. انقر علىgcloud run deploy codelab-o11y-service \ --source="${HOME}/codelab-o11y/" \ --region=us-central1 \ --allow-unauthenticated
Enter
. قد تستغرق عملية النشر بضع دقائق. بعد اكتمال عملية النشر، ستظهر لك نتيجة مثل:Deploying from source requires an Artifact Registry Docker repository to store built containers. A repository named [cloud-run-source-deploy] in region [us-central1] will be created. Do you want to continue (Y/n)?
Service [codelab-o11y-service] revision [codelab-o11y-service-00001-t2q] has been deployed and is serving 100 percent of traffic. Service URL: https://codelab-o11y-service-12345678901.us-central1.run.app
- انسخ عنوان URL المعروض لخدمة Cloud Run إلى علامة تبويب أو نافذة منفصلة في المتصفّح. بدلاً من ذلك، يمكنك تنفيذ الأمر التالي في وحدة التحكّم الطرفية لطباعة عنوان URL للخدمة والنقر على عنوان URL المعروض مع الضغط مع الاستمرار على مفتاح Ctrl لفتح عنوان URL:
عند فتح عنوان URL، قد يظهر لك الخطأ 500 أو تظهر لك الرسالة التالية:gcloud run services list \ --format='value(URL)' \ --filter='SERVICE:"codelab-o11y-service"'
يعني ذلك أنّه لم يتم الانتهاء من نشر الخدمات. يُرجى الانتظار بضع دقائق وإعادة تحميل الصفحة. في النهاية، سيظهر لك نص يبدأ بعبارة معلومات طريفة عن الكلاب ويحتوي على 10 معلومات طريفة عن الكلاب.Sorry, this is just a placeholder...
لإنشاء بيانات القياس عن بُعد، افتح عنوان URL للخدمة. أعِد تحميل الصفحة مع تغيير قيمة المَعلمة ?animal=
للحصول على نتائج مختلفة.
استكشاف عمليات تتبُّع التطبيقات
- انقر على الزر أدناه لفتح صفحة "مستكشِف التتبُّع" في Cloud Console:
- اختَر أحد أحدث عمليات التتبّع. من المفترض أن تظهر لك 5 أو 6 مقاطع تشبه تلك الواردة في لقطة الشاشة أدناه.
- ابحث عن العنصر الذي يتتبّع طلب الاتصال بمعالج الحدث (طريقة
fun_facts
). سيكون هذا هو النطاق الأخير الذي يحمل الاسم/
. - في لوحة تفاصيل التتبُّع، اختَر السجلّات والأحداث. ستظهر لك سجلات التطبيقات المرتبطة بهذا النطاق المحدّد. يتم رصد الارتباط باستخدام معرّفات التتبُّع والمسار في التتبُّع والسجلّ. من المفترض أن يظهر لك سجلّ التطبيق الذي كتب الطلب وردّ Vertex API.
استكشاف مقياس العداد
- انقر على الزر أدناه لفتح صفحة "مستكشف المقاييس" في Cloud Console:
- في شريط أدوات لوحة "أداة إنشاء طلبات البحث"، انقر على الزر الذي يحمل الاسم < > MQL أو < > PromQL. يمكنك الاطّلاع على الصورة أدناه لمعرفة مكان الزر.
- تأكَّد من اختيار PromQL في زر الإيقاف/التفعيل اللغة. يمكنك العثور على زر تبديل اللغة في شريط الأدوات نفسه الذي يتيح لك تنسيق طلب البحث.
- أدخِل طلب البحث في محرِّر طلبات البحث:
sum(rate(workload_googleapis_com:model_call_counter{monitored_resource="generic_task"}[${__interval}]))
- انقر على تنفيذ طلب البحث.عند تفعيل زر الإيقاف/التفعيل التشغيل التلقائي، لا يظهر الزر تنفيذ طلب البحث.
11. (اختياري) المعلومات الحسّاسة المشوشة من السجلات
في الخطوة 10، سجّلنا معلومات عن تفاعل التطبيق مع نموذج Gemini. وتشمل هذه المعلومات اسم الحيوان والطلب الفعلي وردّة الفعل من النموذج. على الرغم من أنّ تخزين هذه المعلومات في السجلّ من المفترض أن يكون آمنًا، إلا أنّ ذلك قد لا يكون صحيحًا في العديد من السيناريوهات الأخرى. قد تتضمّن المطالبة بعض المعلومات الشخصية أو الحسّاسة التي لا يريد المستخدم تخزينها. لحلّ هذه المشكلة، يمكنك تشويش البيانات الحسّاسة التي يتم كتابتها في "سجلّات Cloud". للحدّ من تعديلات الرموز البرمجية، ننصحك بالحلّ التالي.
- إنشاء موضوع PubSub لتخزين إدخالات السجلّ الواردة
- أنشئ أداة لتجميع السجلّات تعيد توجيه السجلّات التي تم نقلها إلى موضوع PubSub.
- أنشئ مسار بيانات Dataflow يعدّل السجلات التي تتم إعادة توجيهها إلى موضوع PubSub باتّباع الخطوات التالية:
- قراءة إدخال سجلّ من موضوع PubSub
- فحص الحمولة في الإدخال بحثًا عن معلومات حسّاسة باستخدام DLP inspection API
- إخفاء المعلومات الحساسة في الحمولة باستخدام إحدى طرق إخفاء البيانات في ميزة "منع فقدان البيانات"
- كتابة إدخال السجلّ المشوش في "تسجيلات Cloud"
- نشر مسار التعلّم
12. (اختياري) التنظيف
لتجنُّب التعرّض لرسوم مقابل الموارد وواجهات برمجة التطبيقات المستخدَمة في ورشة التطوير، ننصحك بحذفها بعد الانتهاء من الورشة. إنّ أسهل طريقة لإيقاف الفوترة هي حذف المشروع الذي أنشأته في ورشة إعداد الرمز البرمجي.
- لحذف المشروع، نفِّذ الأمر delete project في وحدة التحكّم الطرفية:
يؤدي حذف مشروعك على Cloud إلى إيقاف الفوترة لجميع الموارد وواجهات برمجة التطبيقات المستخدَمة في ذلك المشروع. من المفترض أن تظهر لك هذه الرسالة التي سيحلّ فيهاPROJECT_ID=$(gcloud config get-value project) gcloud projects delete ${PROJECT_ID} --quiet
PROJECT_ID
محلّ رقم تعريف مشروعك:Deleted [https://cloudresourcemanager.googleapis.com/v1/projects/PROJECT_ID]. You can undo this operation for a limited period by running the command below. $ gcloud projects undelete PROJECT_ID See https://cloud.google.com/resource-manager/docs/creating-managing-projects for information on shutting down projects.
- (اختياري) إذا ظهرت لك رسالة خطأ، راجِع الخطوة 5 للعثور على رقم تعريف المشروع الذي استخدمته أثناء البرنامج التدريبي. استبدِله بالأمر الوارد في التعليمات الأولى. على سبيل المثال، إذا كان رقم تعريف مشروعك هو
lab-example-project
، سيكون الأمر على النحو التالي:gcloud projects delete lab-project-id-example --quiet
13. تهانينا
في هذا التمرين المعملي، أنشأت تطبيقًا للذكاء الاصطناعي التوليدي يستخدم نموذج Gemini لوضع التوقّعات. وزوّدنا التطبيق بإمكانات أساسية للمراقبة والتسجيل. لقد نشرت التطبيق وأجريت التغييرات من الرمز المصدر إلى Cloud Run. بعد ذلك، يمكنك استخدام منتجات مراقبة Google Cloud لتتبُّع أداء التطبيق، ما يضمن لك موثوقية التطبيق.
إذا كنت مهتمًا بالمشاركة في دراسة بحثية حول تجربة المستخدم لتحسين المنتجات التي استخدمتها اليوم، يُرجى التسجيل هنا.
في ما يلي بعض الخيارات لمواصلة التعلّم:
- درس تطبيقي حول الترميز كيفية نشر تطبيق محادثات يستند إلى Gemini على Cloud Run
- كيفية استخدام ميزة "استدعاء وظائف Gemini" مع Cloud Run
- كيفية استخدام واجهة برمجة التطبيقات Video Intelligence API في Cloud Run Jobs لمعالجة الفيديو مشهدًا تلو الآخر
- ورشة عمل عند الطلب الانضمام إلى Google Kubernetes Engine
- اطّلِع على مزيد من المعلومات عن ضبط مقاييس العداد والتوزيع باستخدام سجلات التطبيقات.
- كتابة مقاييس OTLP باستخدام وحدة OpenTelemetry الجانبية
- مرجع لاستخدام Open Telemetry في Google Cloud