Thread by @tsoofbaror

(1/14) על הקונץ של @ClalitResearch למלחמה בקורונה עם #בינהמלאכותית.
בשרשור הקודם נחשפתי לעובדה המדהימה (!) שכבר במרץ 2020 (!!) היה לקופ"ח כללית מודל מתפקד לחיזוי תמותה של חולי קורונה. מה אפשר ללמוד ממנו? #פידאטה וקצת #פידרפואה על עצי החלטות ויערות 🧵

(2/14) נתחיל באמ;לק רציני: לכללית היה כבר מודל חיזוי לשפעת, אותו הם לקחו ובו ביצעו התאמות לקורונה. זהו, סיימנו, תודה. סתם. האמת שמה שאני באמת רוצה לספר לכם הוא מה עומד בבסיס מודל השפעת. תופתעו לגלות כמה זה פשוט: עץ החלטות (או נכון יותר - יער).

(3/14) עץ ההחלטות הוא אחד מעמודי התווך של עולם ה #AI, והוא עושה משהו ממש הגיוני: הוא יודע לקחת פיסת מידע (נתוני חולה, תמונה וכו) ולשאול עליה המון שאלות. לשאלות תשובות קטגוריות. אפשר כן\לא, אבל גם נגיד על "גיל?" אפשר לענות "מתחת ל30"\"בין 30 ל60"\"מעל 60"

(4/14) מה שמדהים בעץ הזה זה כמה קל להסביר את ההחלטות שלו. אפשר ממש לצייר אותו ולהגיד: "הנה, החולה מעל 60, מעשן, יש סוכרת, אין לו סרטן אבל יש לו יתר לחץ דם - לכן העץ החליט שהוא ימות משפעת". זה נשמע פשוט, אל דאגה, תכף נסתבך, מבטיח.

(5/14) כמו שהבנו, עץ החלטות יודע לשאול הרבה שאלות ובסוף להגיע למסקנה. איך יודעים מה לשאול? תחילה, אנחנו מזינים מאגר מידע גדול שבו חולי שפעת רבים, חלקם מתו וחלקם לא. פרטי החולים הם מאפייני הבעיה: גיל, מחלות רקע, תרופות שהם לוקחים ומה לא. אלגוריתם העץ עושה את הטריק הבא:

(6/14) נניח עבור "חולה סוכרת, כן\לא?", הוא מחלק את הדאטה לסוכרתיים ובריאים. הוא בודק כמה מהסוכרתיים מתו משפעת, וכמה מהבריאים מתו משפעת ומהמספרים האלה הוא מייצר מדד הפרדה. יש הרבה קונצים מתמטיים לחישוב המדד הזה (אנתרופיה, ג'יני וכו) - כולם די פשוטים חישובית. העץ מריץ את החישוב הזה

(7/14) על כל מאפייני הבעיה - קבוצות גיל, עישון, בדיקות דם ומה לא ואז בוחר את המדד שמייצר את ההפרדה הכי טובה וברכותינו: יש פיצול ראשון לעץ. אחרי הפיצול הזה יש כבר כמה קבוצות: לדוגמא מעשנים\לא מעשנים. כעת הוא יסתכל על כל שאר המאפיינים לכל אחת משתי הקבוצות, וינסה לפצל שוב בנפרד.

(8/14) הוא יעשה את זה שוב ושוב לאחר כל פיצול, עד שיגיע לקבוצה הומוגנית לגמרי - כולם מתו\כולם בריאים, ויעצור (או שיגמרו המאפיינים ויכריע לפי רוב). בסוף נקבל סדרה של שאלות שעלינו לשאול על החולה שיובילו אותנו לתשובה של העץ: יבריא או ימות משפעת.
הבעיה? מדד ההפרדה שלנו לא טוב.

(9/14) הבעיה טמונה בפיצולים: יתכן שהפיצול של המעשן\לא מעשן הוא הכי טוב לבדו, אבל אם נניח נפצל קודם לפי גברים\נשים ולאחר מכן לפי סוכרת\לא סוכרת - נקבל הפרדה טובה הרבה יותר בנשים. מדד ההפרדה לא יודע לחשוב כמה צעדים קדימה אלא רק לחשב את המפריד הנקודתי האחד הטוב ביותר.

(10/14) חישוב כל קומבינציות הפיצולים האפשריות - לא ישים, כללית בחנו 15,000 (!) מאפייני חולה שונים. כמות הקומבינציות גדולה יותר מכמות האטומים ביקום בריבוע. לכן, ברוב המקרים העץ לבדו חלש ומוציא חיזויים מעפנים. מלבד כל מיני מניפלוציות לשיפור העץ, הטריק המרכזי הוא יער:

(11/14) נבנה עשרות עצים, לכל עץ ניתן סט מאפיינים קצת אחר או נאלץ פיצולים "פחות טובים" אקראית*. בסוף, אחרי שיהיו לנו 100 עצים שונים, נשאל את כולם על החולה. אם 78 עצים מתוך 100 הכריזו שהחולה ימות - נגיד שלחולה סיכוי של 78% למות משפעת. מה שדי מדהים הוא שאימון עץ הוא פעולה יחסית

(12/14) מהירה (בניגוד לרשת נוירונים שזקוקה להמון חישובים), אז ייצור יער כזה הוא לגמרי מעשי - וזה מה שעשו בכללית**. בניגוד לעץ בודד, שמאד ברור להבין כיצד הוא החליט, יערות סובלים מאותה מחלה של רשת נוירונים: הם קופסא שחורה. כבר לא סט שאלות ברורות, אלא הצבעה דמוקרטית של אלגוריתמים

(13/14) אין מה לעשות, יערות פשוט עובדים טוב יותר. מודל השפעת אומן על מיליוני אנשים, ובחירת המאפיינים נעשתה לא רק על בסיס מתמטיקה טהורה אלא גם על בסיס דעת מומחים. המעבר למודל קורונה הוא פסיכי לא פחות וכולל הרבה יצירתיות הסתברותית על נתונים מסין שלא נוכל להכנס אליה במסגרת השרשור.

(14/14) אבל איזה יופי - יש פה דוגמא מהממת לAI בשימוש אמיתי בעולם הרפואה, כזה שנותן כלי חזק נניח, לתעדף את מי מחסנים קודם במידה ויש מחסור. דיברנו על עצי החלטה ויערות (או בשמם המוכר: "יערות אקראיים") ופירקנו עוד שכבה מהדבר הזה שנקרא #בינהמלאכותית.
כבוד שהגעתם עד לכאן, נתראה :)

הערות ומקורות:
המאמר המלא - tinyurl.com/yc47y93m
*כמובן שגם לזה יש מלא שטיקים לשיפור
**זה בעצם אלגוריתם בשם Gradient Boosting, שהוא לא בדיוק יער ולכן שיקרתי. הוא מספיק דומה בשביל השקר הלבן הזה.
תודה ל@RieselDan על ההפניה למאמר (ועל הכתיבה שלו, בעצם :))