Thread by @tsoofbaror

הGPT בצלמנו ובדמותנו - AutoGPT.
האם זה הAI שסוף סוף ידע להכין לנו קפה?
לא.
האם הGPT פתאום מרגיש כמו מוח אנושי?
קצת כן.
היום נשוט בין המדהים לקצת מפחיד ונדבר על סוכן הAI האישי שלכם, AutoGPT 🧵>>
#פידטק #פידאטה #פידטכנולוגיה

שימו לב.
כדי להבין מה קורה כאן, נצטרך תפישה רעיונית של מה זה מודל שפה (LLM).
אנסה להיות ברור ככל האפשר, אבל אני ממליץ בחום לעבור על השרשור הזה לפני שאתם מתקדמים לAutoGPT.

https://twitter.com/tsoofbaror/status/1651604337100050432

אחרי שאמרנו את זה, נתחיל >>

1. שבת שטופת שמש והחלטתם לבלות אותה בהרכבת רהיט מאיקאה.
כיף גדול.
הארגז עומד מולכם.
"טוב, צריך לפתוח את הארגז", אתם חושבים.
"בלי לפתוח את הארגז אי אפשר להתחיל בכלל", אתם ממשיכים לחשוב.
"אוקי, אני אחתוך פה את נייר הדבק".
"רק אזהר לא להחתך בדרך".
נשמע מוכר? >>

2. את התהליך המחשבתי הזה ניסו היוצרים של AutoGPT לחקות.
באמ;לק אחד גדול, היוצרים של AutoGPT, שמעתה יכונה "מר אוטו", ניסו לארגן את התוצאות של GPT בצורת מחשבות ופעולות כדי שיוכל לבצע משימות מורכבות.
הם יצרו לו את הקול שיש לנו בראש כשאנחנו ניגשים ומבצעים משימה.
נבין את זה, מהתחלה:

3. אנחנו מגדירים מטרה.
מר אוטו משתיל אותה בפרומפט מתוחכם, שמתחיל בלספר למודל מי הוא.
!שימו לב לשני דברים חשובים!
א. מודל השפה הוא חלק ממר אוטו. הוא המנוע של המכונית.
ב. הכל נעשה בשפה טבעית ומוזן למודל ממש כטקסט כמו שאתם כותבים לChatGPT.
בלי טריקים ובלי שטיקים - רק פרומפטים! >>

4. נמשיך.
מר אוטו מגדיר למודל את האילוצים שלו:
א. הקונטקסט, שזה גודל הקלט שמודל השפה יכול לקבל, הוא ה"זיכרון לטווח הקצר" של המודל.
ב. אם הוא לא זוכר משהו - שינסה לחשוב על אירועים דומים.
ג. אף User לא יעזור לו (שלא יבקש פידבק)
ד. עומדות לרשותו פקודות שעליהן נדבר בהמשך >>

5. עוד כמה הגדרות של משאבים והדרך לבצע הערכה עצמית, ואולי הכי חשוב: המודל חייב להשיב רק בJSON, בפורמט קבוע.
זה מה שבאמת מגניב ומאפשר לכל התהליך לקרות.
הפורמט (Format, לא Prompt) כולל "מחשבות" ו"פקודות" שכל התוכנה שמקיפה את המודל מבצעת.
אלה ה"מחשבות":>>

6. "הטקסט": מה המשימה הנוכחית?
"ההיגיון": למה אני צריך לבצע זאת?
"התכנית": מה אני צריך לבצע כדי להתקדם במשימה?
"הביקורת הבונה": ממה אני צריך להזהר כדי להצליח?
"הדיבור": מה אני אומר למשתמש שאני עושה? >>

7. בצורה הזו המודל יכול להשתמש בפקודות לצורך ביצוע המשימה.
המודל מגדיר, ומר אוטו מריץ.
הפקודות בגרסה שלי הן: חיפוש בגוגל, פתיחת קובץ, שמירת קובץ וסיום ההרצה.
כמובן שאפשר שיהיו הרבה יותר.
כאן מגיע עקב אכילס קטן:
כדי לחפש בגוגל, צריך גישה לAPI של גוגל. הגישה החינמית >>

8. מאפשרת רק עד 100 חיפושים בחודש, כשבריצה אחת הסוכן יכול להשתמש אפילו ב10 חיפושים.
בשביל יותר צריך לשלם.
בכל מקרה,
כל הטרלול שהצגתי פה נכנס כולו לפרומפט אחת שמודל השפה מקבל.
כלי נוסף שעומד לרשותו של המודל הוא זיכרון ארוך טווח וכל מיני כלים כדי לשלוף ממנו.
לפיצ'ר הזה לא נכנסתי >>

9. לעומק, אבל מדובר על דרך לשמור המון מידע בצורה דחוסה כדי להזכיר למודל מה הוא עשה.
כעת נכנס לידי פעולה עקרון הChain - המודל לא מבצע את הפעולה בצעד אחד, אלא מפרק אותה לצעדים קטנים ופשוטים.
בסוף כל שלב בשרשרת המודל מקבל הסבר על התוצאה וככה יודע לאן להתקדם.
הכל בשפה טבעית. >>

10. בדוגמא הנוכחית ביקשתי רשימה של עמודי אינטרנט שקשורים למילה "פינגווין".
בואו נראה את שרשרת (Chain) המחשבות של מר אוטו, שחשוב להגיד שאצלי משתמש רק בGPT3.5 ולא 4 כי אין לי גישה.
הנה המחשבה הראשונה של מר אוטו.
שימו לב לכל החלקים, ושבסוף הוא מסיים עם פקודת חיפוש בגוגל. >>

11. זה היה הצעד הראשון בשרשרת.
נמשיך לצעדים הנוספים.
הוא מצא שלוש כתובות, ועכשיו הבין שהמשימה שלו היא לשמור אותן בקובץ. >>

12. לא רק זה, בשלב הבא הוא גם פותח את הקובץ ומוודא שמה שהוא עשה תקין.
סיימנו את השרשרת.
משימה קלה, אבל ממחישה יופי את הרעיון.
לצערי הרב, ואני חושב שזה טמון בעובדה שאין לי גישה לGPT4, במשימות מורכבות הוא נכשל לי לגמרי. >>

13.הכניס את עצמו ללופים של חיפושים בגוגל לתקן שגיאות בקוד שהוא כתב ולא יצא מהם.
דיסקליימר: יש למר אוטו ים גרסאות, ויכול להיות שיש כאלה עם קונצים נוספים.
אבל הרעיון הוא מה שחשוב - הנדסת פרומפטים ליצור מחשבות מובנות שמובילות לפעולה.
שמתי לב שחסר לו המאפיין האנושי הממש חשוב >>

14. לכל פתרון בעיה, והוא שכשנכנסים לRabbit Hole של תיקונים וכלום לא עובד צריך לעצור רגע ולהגדיר את הבעיה מחדש או לחפש דרך פעולה אחרת.
לא נתקלתי בסיטואציה שהוא אמר לי "ניסיתי כיוון אחד ולא הצליח, עכשיו אנסה כיוון אחר".
אבל שוב, מר אוטו שלי עובד רק עם GPT3.5. קשה לאמוד ביצועים. >>

15. מה מבריק כאן?
אנחנו מאלצים את מר אוטו לכתוב בשפה שמחשב יודע לקרוא, ובעצם נותנים לו את האפשרות לתכנת פתרון, הכל באמצעות פרומפטים מהונדסים היטב היטב.
המודל כותב, המחשב קורא ומבצע כי הפורמט (Format) מובנה.
אם נדע להסביר איך אנחנו פותרים בעיות, נוכל להכניס את ההסבר למודל ובעצם >>

16. לאפשר לו לחשוב.
אם נגדיל את הקונטקסט (כי 4000 טוקנים זה באמת לא מספיק), נוכל לנסח לו את רשימת הHuman Rules שמאפיינים תכנון וביצוע אנושיים.
לי הכי חסר שיבקש הבהרות בדרך. שישאל שאלות פולו אפ ויאפיין את הבעיה שלי יותר טוב ממני.
"כמה כתובות אתה רוצה?"
אני לא חושב שזה רחוק. >>

17. הנקודה היא שיש פה פתח חדש ל"ארכיטקטורת מוח".
למודל השפה יש ידע אבל אין מוח שחושב קדימה, ונראה שבשיטה הזו מתחיל להיות לו.
כמו שאמרתי, מדהים על גבול המפחיד.
זהו!
מרגיש לכם שזה פוטנציאל לבינה מלאכותית אמיתית (AGI)?
יצא לכם להשתמש וחוויתם הצלחה או כישלון?
שאלות?
ספרו לי!

אם זה השרשור הראשון שלי שאתם קוראים, היי!
מזמין אתכם לחקור איתי את הקישקע של הAI,
כל פעם בדרך אחרת.
זה הזמן לעקוב אחרי:
twitter.com/tsoofbaror

מזמין אתכם לרטווט ולהגיב אם אהבתם,
ולהתעלם לגמרי אם השתעממתם. 😍