לומדים איך ליצור אב טיפוס של בינה מלאכותית אחראית בעזרת המדריך של PAIR ו-MakerSuite

1. לפני שמתחילים

MakerSuite היא קבוצת כלים שמאפשרת ליצור אב טיפוס באמצעות מודלים גדולים של שפה ישירות מהדפדפן – בלי צורך בהגדרה. בעזרת MakerSuite, אפשר לעבור במהירות מהתנסות במנחות ליצירת ממשק API שאפשר לגשת אליו ישירות מהאפליקציה. כך צוותים יכולים לפתח במהירות אפליקציות מעולות שמבוססות על בינה מלאכותית גנרטיבית. במדריך של People + AI Research‏ (PAIR) מוסבר איך לתכנן מוצר חדש באמצעות AI, תוך התמקדות בשיטות עבודה שמתמקדות בנתונים שמתמקדים בבני אדם ובשיפור האמון של המשתמשים – הנחיות שרלוונטיות לשימוש ב-MakerSuite.

ב-codelab הזה תלמדו איך להשתמש בשני המשאבים האלה יחד כדי ליצור חוויות מבוססות-AI אחראיות. הקודלהב מתמקד ביצירת אב טיפוס אחראי באמצעות AI גנרטיבי, ולא בתהליך העבודה מקצה לקצה של המשאבים הספציפיים האלה. כדי ללמוד על תהליך העבודה הכללי ב-MakerSuite, אפשר לעיין במדריך הבסיסי הזה ל-MakerSuite, ולעיין במדריך של PAIR לקבלת הנחיות מפורטות יותר לתכנון מוצרים מבוססי-AI.

דרישות מוקדמות

• הבנה בסיסית של AI.
• ידע בסיסי בתהליך הפיתוח של מוצרים.

מה תלמדו

• איך משתמשים במדריך של PAIR כדי לבדוק עד כמה חוויות ה-AI שלכם מתאימות לקהלים שונים, ואיך אפשר לדעת באילו משימות כדאי להשתמש ב-AI ובאילו לא.
• איך יוצרים חוויות של AI גנרטיבי שמבוססות על העושר של השיטות התרבותיות של המשתמשים.
• איך לשלב הזדמנויות בתהליך הפיתוח של ה-AI כדי לזכות באמון המשתמשים, על ידי התמקדות בהסבריות מול המשתמשים.
• איך משתמשים בכלי נרחב יותר של חומרים בנושא AI גנרטיבי ומקורות מידע בנושא AI שמתמקד בבני אדם, לצורך חקירה נוספת.

מה תפַתחו

ב-codelab הזה תלמדו איך לעצב כלי לכתיבה יצירתית באמצעות תהליך מעשי ליצירת אב טיפוס של AI גנרטיבי אחראי. אם אתם רוצים, תוכלו גם לשלב את ההנחיות שתיצרו ב-Wordcraft, עורך טקסט מבוסס-AI בקוד פתוח ש-Google פרסמה כאב טיפוס למחקר.

מה צריך להכין

• דפדפן
• חשבון Google, כדי לגשת ל-MakerSuite

2. להגדרה

MakerSuite

MakerSuite הוא קבוצה של כלים של Google שמאפשרים ליצור אב טיפוס באמצעות מודלים גדולים של שפה ישירות מהדפדפן – בלי צורך בהגדרה. אפשר לנסות מודלים במהירות ולהתנסות בהנחיות שונות. אחרי שבונים תוצר שמרוצים ממנו, אפשר לייצא אותו בקלות כקוד Python, ואז להפעיל את אותם המודלים באמצעות Generative Language API.

כדי להתנסות במודלים גדולים של שפה באמצעות MakerSuite, נרשמים לרשימת ההמתנה.

מדריך למחקר בנושא אנשים ו-AI

מדריך People + AI Research‏ (PAIR) הוא מקור מידע שעוזר למפתחים, למעצבים, למנהלי מוצרים, לסטודנטים ועוד רבים להשתמש ב-AI באופן אחראי.

מדריך PAIR יכול לעזור לכם ולצוות שלכם לפתח רשימה של שאלות מפתח שקשורות ל-AI – כולל AI גנרטיבי – במוצר שלכם.

• מתי ואיך כדאי להשתמש ב-AI במוצר?
• איך אפשר לעזור למשתמשים לפתח אמון במערכת ה-AI שלי?
• איך מסבירים למשתמשים על מערכת ה-AI?
• איך אפשר ליצור חוויות AI שמעודדות שוויון ותרבותית מכלילה?

במהלך הקודלאב הזה תשתמשו במדריך של PAIR כדי לפתח שאלות ליצירת אב טיפוס ולבחור מבין אפשרויות עיצוב שונות.

קבלת הקוד ל-Wordcraft (אופציונלי)

Wordcraft הוא עורך טקסט מבוסס-AI שפותח במרכז המחקר של Google, ומאפשר לכתוב סיפורים בשיתוף פעולה בין בני אדם לבין AI. הקוד של Wordcraft הוא קוד פתוח, כך שתוכלו להתנסות בהנחיות ב-codelab הזה בעצמכם.

• כדי לקבל את הקוד של Wordcraft, משתמשים בפקודה הבאה:

git clone https://github.com/pair-code/wordcraft

לחלופין, אפשר להוריד את קובץ ה-zip:

טרם נקבע

3. שימוש ב-AI גנרטיבי לכתיבה של סיפורים

מודל שפה גדול (LLM) הוא מודל AI שמתאמן על כמויות עצומות של טקסט מספרים, ממאמרים ומאתרים, כדי ללמוד תחביר, ביטויים נפוצים ומידע נוסף. על סמך הנתונים האלה, ובאמצעות כוונון נוסף, מודלים של LLM כמו PaLM יכולים להשלים משימות רבות של בינה מלאכותית על סמך הוראות פשוטות, במקום לדרוש תכנות מתוחכמת של למידת מכונה. הוא יכול גם לענות על שאלות, לסכם מידע, לתרגם שפות ולבצע משימות רבות אחרות של AI.

בקודלאב הזה תלמדו איך משתמשים ב-LLM כדי ליצור אב טיפוס של אפליקציה שתעזור לכותבים לכתוב סיפורים. בנוסף למידע כללי על העולם, על דקדוק וכו', ה-LLM של PaLM מבית Google תוכנן לפעול לפי הוראות או הנחיות של משתמשים. כדי ליצור אב טיפוס של הכלי ב-MakerSuite, צריך ללמד את המודל מה לכתוב בתגובה להנחיה של משתמש.

כתיבת סטוריז בסיוע AI באמצעות הנחיות טקסט ב-MakerSuite

1. כדי ליצור הנחיה, לוחצים על Create New (יצירת הנחיה חדשה) בחלונית הימנית ובוחרים באפשרות Text prompt (הנחיית טקסט). מתחילים עם ההנחיה הבאה:

You are a talented fiction author. Write a story about a given topic.
Topic: {{topic}}

אחרי שמזינים את ההנחיה הזו, מערכת MakerSuite מזהה ש-{{topic}} הוא קלט להנחיה ופותחת את החלונית בדיקת ההנחיה כדי שתוכלו לראות איך ההנחיה פועלת עם מגוון קלט.

2. מזינים A boy discovers a lost cat in his yard, לוחצים על חלונית המודל (שמשמאל ללחצן Run) ובוחרים בטמפרטורה 0.8.
3. לסיום, לוחצים על Run כדי להריץ את ההנחיה. הפלט של ההנחיה אמור להופיע בטבלה תוך זמן קצר.

בחירה של הגדרת הטמפרטורה 0.8 מאפשרת למודל לדעת שאתם מעדיפים מגוון בתוצאות שלו. כך אפשר ליצור סיפורים יצירתיים יותר, אבל התוצאות יהיו שונות בכל פעם שהמודל ירוץ. אם רוצים לקבל את אותו פלט בכל פעם, מגדירים את הטמפרטורה ל-0.

פלט אפשרי אחד הוא:

Henry sat on the edge of his porch and swung his legs back and forth. A small cat ran in front of him. Henry petted the cat. The cat began to purr. Henry picked up the cat and placed it on his lap. The cat began to snuggle close to him. Henry decided to keep the cat.

4. נסו להריץ את ההנחיה כמה פעמים ולראות את הסטוריז השונים שנוצרים.

כפי שאפשר לראות, המודל כותב סיפור מובנה עם רצף לוגי, אבל הוא גם מבסס כמה הנחות. לדוגמה, הסיפור מתמקד בילד בשם הנרי. אתם יכולים לשנות את ההנחות האלה על ידי ציון השם של הדמות הראשית, או אפילו לציין אם הסיפור יתמקד בגורי החתול או באדם.

5. מעדכנים את ההנחיה ולוחצים על הפעלה כדי לראות איך היא פועלת עם כל הקלטות הבדיקה.

הערה: הפלט המדויק שמתקבל מהמודל משתנה בכל הפעלה.

איך מזהים את המשימות שמתאימות במיוחד לעזרה מ-AI באמצעות המדריך של PAIR

עד כה, ההנחה היא שמודל ה-AI כותב סיפור שלם על סמך תיאור קצר בלבד. אבל האם זו ההחלטה הנכונה לגבי עיצוב הכלי ליצירת נכסי קריאייטיב? לדוגמה, נניח שעוזר יעזור לכותבים לכתוב מחדש חלקים מהסיפור שבחירתם. אתם יכולים ליצור אב טיפוס של האינטראקציה הזו ב-MakerSuite, למשל, כדי להפוך את קטע הסיפור דרמטי יותר.

כך אפשר לקבל עזרה ממוקדת יותר, ולכתוב מחדש פסקאות בכל פעם. ברמה גבוהה יותר, בעזרת כמה שינויים בהנחיה, אפשר ליצור אב טיפוס של כלי להעצמת משתמשים במקום כלי לאוטומציה של משימות.

במדריך של PAIR מוסבר איך לשאול שאלות כאלה ולענות עליהן בתהליך הפיתוח של ה-AI, על סמך עקרונות. ב-MakerSuite אפשר ליצור אב טיפוס של רעיונות במהירות, ואילו מדריך PAIR מאפשר לצמצם את אפשרויות העיצוב לאפשרויות המבטיחות ביותר למטרות שלכם ולקהל שאתם רוצים לעורר בו עניין. בעזרת המדריך תוכלו להבין אם שילוב של AI עם שיפורים או אוטומציה הוא הגישה הנכונה ליצירת האפליקציה שלכם.

כדאי להתחיל מהשאלה המנחה איך משתמשים ב-AI? במדריך. כפי שמצוין בתבנית הזו במדריך, עדיף להשתמש ב-AI כשהוא מוסיף ערך ייחודי. במקרה כזה, מאחר שמודלים גדולים של שפה (LLM) מאומנים על סמך כמות גדולה של נתונים לגבי דקדוק, ביטויים נפוצים ומידע אחר מהאינטרנט, יכול להיות שיהיה כדאי לנצל את היכולת של המודל להבין את העולם של הסיפור שאתם רוצים לתאר בפלט של אפליקציית הכתיבה, ולהציע דרכים לשכתב אותו. האפשרות הזו מבוססת על התבנית המלצה מותאמת אישית במדריך.

אפשר להמשיך הלאה. במדריך של PAIR יש פרק על צורכי המשתמשים עם הנחיות לגבי ההחלטה אם להפוך משימות לאוטומטיות או לשפר אותן.

כשאתם שוקלים להוסיף תכונות אוטומטיות או לשפר את האפליקציה, חשוב לזכור שהאב טיפוס אמור להיות אפליקציה מועילה לכותבים. לכן, סביר להניח שהמשתמשים שלכם נהנים לכתוב, רוצים לקבל בעלות אישית על הכתיבה שלהם ויש להם העדפות שנצברו לאורך כל ימי הכתיבה שלהם, ויכול להיות שיהיה קשה לתקשר אותן. מכל הנתונים האלה עולה שהגישה של שיפור יכולה להיות האפשרות המבטיחה ביותר.

על סמך המדריך של PAIR, כדאי להתייחס לאפליקציה שאתם יוצרים אב טיפוס שלה לא ככלי לכתיבה, אלא ככלי לכתיבה מחדש. לדוגמה, אפשר לשנות את ההנחיה כדי לאפשר סגנונות כתיבה שונים.

1. יוצרים הנחיה חדשה בטקסט:

Edit the paragraph below. Make it \{\{rewrite style\}\}. Only respond with the updated text. Do not include any explanation.

Paragraph: {{paragraph}}

כאן, גם \{\{rewrite style\}\} וגם {{paragraph}} הם קלט טקסט.

2. בחלונית הבדיקה, נסו כמה סגנונות של כתיבה מחדש, כמו קצרה יותר, דרמטית יותר, מצחיקה יותר, פחות מוזרה מבחינה דקדוקית, פואטית וכו'.

עיצוב של סיפורים מרחבי העולם

עד עכשיו, בדקתם את ההנחיה כתיבה מחדש של פסקה בכתבות חסרות הקשר תרבותי חזק. כשאתם מעצבים חוויות של AI אחראי, מומלץ לנסות מגוון רחב של קלט.

נסו מספר ערכים להזנה לבדיקה, כמו:

• בפינה שקטה של בית קפה פריזאי אותנטי, לקוח בודד נהנה מהארומה של קפה טרי, ומחשבותיו נודדות אל רגע שנשכח מזמן ושינה את מסלול חייו לתמיד.
• בתוך האווירה הכאוטית של רכבת מקומית במומביי, אישה בגיל העמידה פתחה שיחה עם אדם זר. כמה מעניין, חשבה, שאפשר לגור באותה עיר ולחיות חיים כל כך שונים.
• בתוך הכאוס התוסס של שוק רחוב שוקק בשנגחאי, מוכר אוכל רחוב הקדיש רגע כדי לצפות בתנועת הקהל.

כדאי להתנסות בהקשרים תרבותיים וגיאוגרפיים אחרים באופן אחראי, תוך הקפדה על הימנעות משיפוי לא הוגן ומהצגת סטריאוטיפים היסטוריים. חשוב לדעת: ה-LLM יודע על חלקים רבים בעולם על סמך נתונים קיימים שאפשר למצוא באינטרנט, אבל יכול להיות שהוא לא יציג בצורה נכונה את כל הפרטים לגבי מקום גיאוגרפי ספציפי. כפי שמציע מדריך PAIR, חשוב להציע למשתמשים שליטה במשימות של הוספת תוכן. לדוגמה, אתם יכולים להרחיב את יכולות הכתיבה מחדש של האב טיפוס כדי לקבל שליטה רבה יותר על העלילה ועל פרטי הסיפור.

בנוסף, לפעמים מודלים גנרטיביים רבים מציגים הנחות ברירת מחדל, בין היתר בגלל דפוסים ששכיחים יותר במערכי הנתונים העצומים שלהם לאימון, שמכילים מידע אונליין. חשוב לדעת שאפשר להנחות מודלים להניח הנחות אחרות שתקפות באותה מידה. לדוגמה, בהנחיה כתיבה מחדש של פסקה שלמעלה, אפשר לציין את המגדר של האדם הזר ברכבת על ידי שינוי סגנון הכתיבה מחדש, וכתיבה "קצר יותר. חשוב לזכור שהזרה היא גם אישה".

4. בניית אמון

בלי אמון המשתמשים, יכול להיות שלא נשתמש אפילו ביכולות החדשניות ביותר של AI. אמון נוצר כשמשתמשים מרגישים שה-AI מסוגל, מהימן ומועיל. עזרה למשתמשים לפתח אמון יכולה לעודד אותם ללמוד איך ומתי להשתמש בתכונות ספציפיות, ויכולה להוביל לחוויית משתמש טובה יותר באופן כללי.

במדריך של PAIR יש כמה רעיונות שיעזרו למשתמשים לקבוע עד כמה כדאי להם לסמוך על מערכות AI:

בניית אמון בשלב מוקדם

כשמשתמשים ב-AI גנרטיבי, חשוב במיוחד להבהיר את מטרת התכונות ולעזור למשתמשים להבין את המגבלות של ה-AI. לדוגמה, מאחר שמודלים של שפה מיועדים בעיקר לחיזוי מה יבוא אחרי הטקסט, יכול להיות שהפלט שלהם לא תמיד יהיה מדויק מבחינה עובדתית. לכן חשוב לעזור למשתמשים להבין שהאב טיפוס הזה הוא כלי עזר לכתיבה יוצרת, והוא לא מיועד לספק עובדות. אם המשתמש רוצה לבדוק את העובדות לגבי פרטים שהוא רוצה לוודא שהם נכונים, הוא צריך לחפש באינטרנט באמצעות מקורות מהימנים.

תרצו לחשוב על כמה דרכים שיעזרו למשתמשים להבין שהאב טיפוס הזה לא מיועד לכתיבה של מידע עובדתי, אלא במיוחד לכתיבה של סיפורת.

שמירה על אמון

באופן דומה, מודלים של AI גנרטיבי הם בעלי יכולות גבוהות מאוד, אבל משתמשים לא תמיד יכולים לוודא שהמשימות בוצעו בצורה נכונה בתרחישי שימוש ספציפיים רבים. לדוגמה, אב הטיפוס הזה תוכנן להשלים טקסט באופן מושכל ולכתוב מחדש באופן מושכל טקסטים בדיוניים – יכולות שהמשתמשים יכולים לאמת בקלות. לעומת זאת, במודלים גנרטיביים אפשר לבקש בקלות לכתוב מחדש קטעים גדולים של טקסט, אבל יכול להיות שהמשתמשים יפספסו שגיאות עדינות שעשויות להיכנס. באופן כללי, כדאי להתמקד בתכונות אינטראקטיביות של AI גנרטיבי במשימות שהמשתמשים יכולים לאמת בקלות, כדי לזכות באמון שלהם.

הזדמנות אחרונה לשמור על האמון היא לנצל את היכולת לכוונן מודלים גנרטיביים. בניגוד למודלים קודמים של AI שמיועדים למשימות ספציפיות מאוד, קל יותר למשתמשים סופיים להתאים אישית את הפלט של מודלים גנרטיביים (כמו שאפשר לראות בבקשות לכתיבה מחדש דרמטית יותר, קצרה יותר או דומה). יכול להיות שיכולת הכיוון הזו תוביל לחוויית משתמש טובה יותר, אבל חשוב להקפיד להגביל את יכולת הכיוון הזו ליכולות של המודל. לדוגמה, באב טיפוס הזה, במקום לבקש מהמשתמשים לכתוב מחדש את הטקסט שלהם, אפשר להציע להם רשימה של הוראות לשכתוב שהתבררו כיעילות כצעות למשתמש הקצה.

שחזור האמון שאבד

למרות המאמצים שלכם, יכול להיות שבמקרים מסוימים המודל יניב תוצאות לא אופטימליות. במקרים כאלה, חשוב לאפשר למשתמשים לבטל פעולות של AI. באופן דומה, בדרך כלל עדיף לזהות תכונות עם ביצועים משתנים ולהפעיל אותן רק כשמשתמשים מבקשים באופן מפורש עזרה מ-AI.

• תרצו לחשוב על כמה דרכים שונות ליצירת תכונות undo או דרכים אחרות לשחזור האמון של המשתמשים.

הפתרונות לאתגרים האלה מופיעים בקוד הפתרון ב-codelab.

5. סיכום של כל המידע

עד עכשיו התנסית בהנחיות ב-MakerSuite. כשתהיו מרוצים מההנחיות האלה, תוכלו להשתמש בהן ישירות באב טיפוס.

• קודם שומרים את ההנחיה, ואז לוחצים על Get code (קבלת קוד) בפינה הימנית העליונה. אם עדיין לא עשיתם זאת, צריך גם להפעיל את מפתח ה-API. לשם כך, לוחצים על Enable API key (הפעלת מפתח ה-API) בתיבת הדו-שיח Get code (קבלת קוד) שמופיעה.

הכלי MakerSuite יוצר קוד שאפשר להשתמש בו ישירות באפליקציה. לדוגמה, לשימוש באפליקציית אינטרנט, בוחרים בקוד JavaScript. אפשר להעתיק את הקוד ישירות מהתיבת הדו-שיח ולהדביק אותו באפליקציית האינטרנט. אם מעדכנים את ההנחיה ב-MakerSuite, חשוב לזכור לעדכן אותה בקוד באמצעות משתנה ההנחיה בקוד שכלול.

אם אתם רוצים לשלב את ה-API הזה באפליקציה מוכנה מראש לכתיבה קריאייטיבית, אתם יכולים להוריד את הקוד של Wordcraft.

הפתרון ב-Codelab

אפשר לקבל את הקוד של Wordcraft מ-GitHub:

git clone https://github.com/pair-code/wordcraft

לחלופין, אפשר להוריד את המאגר כקובץ ZIP:

הורדת קובץ zip

6. מזל טוב

סיימתם את קורס ה-codelab איך יוצרים אב טיפוס של בינה מלאכותית אחראית בעזרת מדריך PAIR ו-MakerSuite, שבו למדתם איך ליצור אב טיפוס של חוויות בינה מלאכותית אחראית (במקרה הזה, לאפליקציה לכתיבה יצירתית) באמצעות כמה כלים של Google. אנחנו כבר סקרנים לראות מה תייצרו!

מקורות מידע נוספים

• מדריך למשתמש ב-MakerSuite
• מדריך PAIR
• עקרונות ה-AI מבית Google