Read on Twitter
לאמן GPT על המידע של סבא מושיק.. בלי לאמן אותו?!
נכון שתמיד רציתם ChatGPT שיוכל לענות על שאלות שקשורות לעבודת השורשים שלכם?
"היי, תגיד, איפה סבא מושיק נולד?"
כל זה בלי לאמן אותו על שום דאטה של שום סבא!
שרשור טכנולוגי קליל לשבת! 🧵 >>
#פידאטה #פידטק #בינהמלאכותית
נכון שתמיד רציתם ChatGPT שיוכל לענות על שאלות שקשורות לעבודת השורשים שלכם?
"היי, תגיד, איפה סבא מושיק נולד?"
כל זה בלי לאמן אותו על שום דאטה של שום סבא!
שרשור טכנולוגי קליל לשבת! 🧵 >>
#פידאטה #פידטק #בינהמלאכותית
1. קודם כל, אם אין לכם שום הבנה איך מודלי שפה (LLM) עובדים מזמין אתכם קודם כל לקרוא את השרשור הקליל שלי בנושא, כי אני הולך להשתמש במילים כמו "קונטקסט" או "טוקן".
אעשה את המיטב להיות מובן גם בלעדיו, בכל מקרה. >>
אעשה את המיטב להיות מובן גם בלעדיו, בכל מקרה. >>
https://twitter.com/tsoofbaror/status/1651604337100050432
2. מה הדרך הסטנדרטית לגרום למודל שפה לדעת דברים?
לאמן אותו על המידע הרלוונטי.
המודל מתאמן בשיטה של השלמת משפטים.
לוקחים את הדאטה, כל פעם חותכים באמצע ונותנים למודל לחזות את החצי השני.
התהליך עולה כסף, מצריך הבנה טכנית של כיצד מבצעים אותו בצורה נכונה, >>
לאמן אותו על המידע הרלוונטי.
המודל מתאמן בשיטה של השלמת משפטים.
לוקחים את הדאטה, כל פעם חותכים באמצע ונותנים למודל לחזות את החצי השני.
התהליך עולה כסף, מצריך הבנה טכנית של כיצד מבצעים אותו בצורה נכונה, >>
3. לא תמיד מצליח ועלול לסבול מ"הזיות" - ה"חרטט בביטחון" הידוע של המודלים האלה.
לא רק האימון מ0 הוא תהליך מורכב.
גם Fine Tune הוא לא משהו מובן מאליו.
אז מה אם אין לי משאבים או רצון לייצר אימון מורכב על המידע שלי?
ובכן, היום נכיר את RALM.
Retrieval-Augmented Language Modeling >>
לא רק האימון מ0 הוא תהליך מורכב.
גם Fine Tune הוא לא משהו מובן מאליו.
אז מה אם אין לי משאבים או רצון לייצר אימון מורכב על המידע שלי?
ובכן, היום נכיר את RALM.
Retrieval-Augmented Language Modeling >>
4. הרעיון?
פשוט להחריד, ומבוסס על "הנדסת פרומפטים".
בואו נתחיל בתרחיש הנאיבי.
נניח ולמודל שלנו יש קונטקסט של 8000 טוקנים,
(או בעברית: הוא יכול "לקרוא ולזכור" כ6000 מילים בבת אחת ולהתייחס אליהן)
ואני רוצה מודל שידע לענות על שאלות מתוך איזה עמוד FAQ של האתר שלי. >>
פשוט להחריד, ומבוסס על "הנדסת פרומפטים".
בואו נתחיל בתרחיש הנאיבי.
נניח ולמודל שלנו יש קונטקסט של 8000 טוקנים,
(או בעברית: הוא יכול "לקרוא ולזכור" כ6000 מילים בבת אחת ולהתייחס אליהן)
ואני רוצה מודל שידע לענות על שאלות מתוך איזה עמוד FAQ של האתר שלי. >>
5. אין שם יותר מידי מידע, סביב ה4000 מילים של שאלות ותשובות.
המשתמש ישאל שאלה:
"איך משנמכים את המנוי שלי מפרימיום לGold?"
אבל זה לא מה שיכנס למודל השפה.
מה שיכנס למודל השפה יהיה פרומט שיראה ככה: >>
המשתמש ישאל שאלה:
"איך משנמכים את המנוי שלי מפרימיום לGold?"
אבל זה לא מה שיכנס למודל השפה.
מה שיכנס למודל השפה יהיה פרומט שיראה ככה: >>
6. "המשתמש שאל: איך משנמכים את המנוי שלי מפרימיום לGold?
מה התשובה בהתבסס על המידע הזה?
<כל עמוד הFAQ>"
כלומר, בעצם בכל פעם שהמשתמש ישאל שאלה נצרף אליה את כל המידע האפשרי, נארגן מחדש את הפרומפט ומודל השפה ידלה ממנו את התשובה.
מגניב? נכון. >>
מה התשובה בהתבסס על המידע הזה?
<כל עמוד הFAQ>"
כלומר, בעצם בכל פעם שהמשתמש ישאל שאלה נצרף אליה את כל המידע האפשרי, נארגן מחדש את הפרומפט ומודל השפה ידלה ממנו את התשובה.
מגניב? נכון. >>
7. היום יש מודלים עם קונטקסט של 100k טוקנים.
זה ספר שלם.
תיאורטית, אפשר להכניס בהם שאלה של שורה ואת כל הספר.
העניין הוא שמתן תחזית על בסיס כל כך הרבה טוקנים כל הזמן עולה בהמון משאבי מחשוב, ורוב המודלים בעלי קונטקסט קטן מידי.
לכן שווה לנצל כל טריק שנרצה שמבוסס על חיפוש קלאסי >>
זה ספר שלם.
תיאורטית, אפשר להכניס בהם שאלה של שורה ואת כל הספר.
העניין הוא שמתן תחזית על בסיס כל כך הרבה טוקנים כל הזמן עולה בהמון משאבי מחשוב, ורוב המודלים בעלי קונטקסט קטן מידי.
לכן שווה לנצל כל טריק שנרצה שמבוסס על חיפוש קלאסי >>
8. נניח, לייצר אינדקסים כמו "מנוי", "כסף", "באג" וכו שיכניסו רק חלק מהמידע אל תוך הפרומט, ולבנות אותו בצורה של:
המשתמש שאל: __
האם נמצאת כאן התשובה?
<מידע>
ולגרום למודל לעשות פינג-פונג עם עצמו עד שתגיע תשובה מספקת, בשאיפה לחסוך בטוקנים.
המשתמש שאל: __
האם נמצאת כאן התשובה?
<מידע>
ולגרום למודל לעשות פינג-פונג עם עצמו עד שתגיע תשובה מספקת, בשאיפה לחסוך בטוקנים.
9. השיטה מצריכה ה-מ-ו-ן יצירתיות בטריקים של איך לחסוך את הכנסת כל המידע לתוך הפרומפט, אבל מאפשרת שימוש נוח וקל במודלים שאומנו מראש בלי הצורך להכנס אל הקרביים שלהם ולשנות אותם מבפנים.
💣
על הבסיס זה התפחו כלים כמו LangChain שעושים את זה, בכינוי "Data Aware LLM" >>
💣
על הבסיס זה התפחו כלים כמו LangChain שעושים את זה, בכינוי "Data Aware LLM" >>
10.יש כאן בעצם שתי משימות:
1. להבין איזה חלק מהדאטה רלוונטי לבעיה - ???
2. להוציא מהדאטה את התשובה - זה מודל שפה (נגיד GPT).
הLangChain אחראי על הראשון, בכל מיני שיטות שדומות למה שהסברתי כאן. >>
docs.langchain.com/docs/
1. להבין איזה חלק מהדאטה רלוונטי לבעיה - ???
2. להוציא מהדאטה את התשובה - זה מודל שפה (נגיד GPT).
הLangChain אחראי על הראשון, בכל מיני שיטות שדומות למה שהסברתי כאן. >>
docs.langchain.com/docs/
11. אותי מעניין אפשר לבנות ארכיטקטורת ML משולבת.
מודלים עם קונקסט ענק זה יקר.
האם אפשר לבנות מודל שהתכלית שלו היא לקבל טקסט ענק ורק לזקק ממנו את החלק הרלוונטי בגודל K מילים (שזה סוג של סיווג בינארי), ואז על בסיס הזיקוק הזה מודל שפה כמו GPT יוכל לבצע RALM?
מעניין.
מודלים עם קונקסט ענק זה יקר.
האם אפשר לבנות מודל שהתכלית שלו היא לקבל טקסט ענק ורק לזקק ממנו את החלק הרלוונטי בגודל K מילים (שזה סוג של סיווג בינארי), ואז על בסיס הזיקוק הזה מודל שפה כמו GPT יוכל לבצע RALM?
מעניין.
12. זהו להיום!
דעו שהפידבקים, השאלות וההתעניינות שלכן\ם נותנים לי המון מוטיבציה לכתוב.
היה מעניין ורוצים לתמוך?
רטווטו כדי שאוכל להגיע לעוד קהל! :)
רעיונות לדברים ששווה לדבר עליהם?
כתבו לי!
שבוע נפלא לכולם 😍
דעו שהפידבקים, השאלות וההתעניינות שלכן\ם נותנים לי המון מוטיבציה לכתוב.
היה מעניין ורוצים לתמוך?
רטווטו כדי שאוכל להגיע לעוד קהל! :)
רעיונות לדברים ששווה לדבר עליהם?
כתבו לי!
שבוע נפלא לכולם 😍
• • •
Missing some Tweet in this thread? You can try to
force a refresh
