"אלגוריתמים מתרחקים מהמציאות בהדרגה. הם נופלים בשקט, כמו אימפריות"

חברת DSG מפתחת אלגוריתמים רפואיים שעוזרים לרופאים לקבל החלטות רפואיות נכונות יותר • עולם הרפואה משתנה ללא הרף, ו-DSG יודעת לשמור על האלגוריתמים שלה מעודכנים בהתאם

ד"ר אילן ששון / צילום: סמדר כפרי
ד"ר אילן ששון / צילום: סמדר כפרי

בינה מלאכותית היא ללא ספק העתיד של תחום הרפואה כמעט בכל המופעים שלו: מערכות תומכות החלטה לרופאים, מערכות ניתוח מידע לגילוי תרופות חדשות, מערכות תכנון ממוחשב של תרופות, מערכות לאבחון על בסיס מידע רב, מערכות עיבוד תמונה ועוד ועוד. עם זאת, מערכות בינה מלאכותית מאומצות לאט במיוחד בעולם הרפואה, כפי שגילו על בשרם מובילי חברת DSG, דאטה סיינס גרופ. לקח להם קצת זמן לגלות מדוע.

DSG, שמפתחת מערכות בינה מלאכותית תומכות החלטה, הולכת ומתמחה בשנים האחרונות בתחום הבריאות. מערכות תומכות החלטה הן מערכות שמשתמשות בבינה מלאכותית כדי לקבל החלטה, למשל אבחון מצב רפואי, אבל הן לא עוברות אוטומטית לישום ההחלטה, אלא הרופא (אם זה בתחום הרפואי) צריך לאשר שההחלטת נראית לו הגיונית. כלומר, מערכת החלטה חצי אוטונומית.

מובילי החברה הם המייסדים ד"ר אילן ששון, היום המנכ"ל, וד"ר גדעון רונטל, ראש תחום המחקר. ששון ניהל מספר חברות בתחום הבינה המלאכותית והוא גם חוקר ומרצה בתחום זה אוניברסיטת תל אביב וד"ר רוזנטל ייסד וניהל מספר חברות בתחום עיבוד המידע, והיה חוקר ומרצה בתחום הבינה המלאכותית וחקר המוח באוניברסיטת בן גוריון. ד"ר אמג'ד אבו רמילה הוא מדען המידע הראשי של החברה, שמגיע מרקע של הנדסה ביו רפואית ורובוטיקה, והיה שותף בפיתוח מוצר 'לבלב מלאכותי' לחולי סוכרת, בטכנולוגיה ששולבה במוצריה של חברת אבוט הבינלאומית.

"גדעון ואני הקמנו את החברה כדי לפעול בתחום הבינה המלאכותית בתעשיות רבות, אך עם הזמן פיתחנו התמחות מיוחדת בפיננסים וברפואה, שהיא תעשייה קצת מיוחדת עבור התחום הזה", מספר ששון. "היום אנחנו חברה של 30 אנשים, ואנחנו מספקים שירותים לחברות רבות, אפילו כאלה שיש להן התמחות משלהן בניתוח מידע, אבל מעריכות את היכולות במיוחדות שלנו בממשק בין המדע האקדמי לבין ההבנה העסקית".

"האלגוריתם כל הזמן ממשיך ללמוד"

רוזנטל נזכר בתחילת הדרך בעולם הרפואה. "כשנכנסנו לעולם הרפואה אמרנו: בישראל יש כל כך הרבה מידע רפואי ייחודי וכל כך הרבה מומחי בינה מלאכותית, כולל כאלה עם זיקה לתחום הרפואי, אז למה אנחנו לא רואים יותר מערכות בינה מלאכותית ישראלים מותקנות אצל הלקוחות הרפואיים, לשימוש אמיתי ויומיומי?", מספר רוזנטל. "ואז הרופאים אמרו לנו 'אם המערכת הזו תיפול פתאום - מה אני אעשה?', והבנו את הבעיה. הבנו שצריך לבנות מוצר שאנחנו מנטרים את הפעילות שלו כל הזמן, תוך כדי שהוא עובד. אנחנו חייבים לגרום לרופאים להאמין לנו שאנחנו מחזיקים את המערכת בידיים שלנו ומונעים ממנה לקרוס או לטעות.

"אם המידע שהאלגוריתם מוזן בו משתנה אבל האלגוריתם עצמו סטטי, הוא לא יצליח להוביל לתובנות נכונות. אלגוריתמים מתרחקים מהמציאות בהדרגה. הם נופלים בשקט, כמו אימפריות. אנחנו יצרנו את השכבה הזו שבאופן אוטומטי מזהה ואומרת 'אני רואה פה שינוי שישפיע על העבודה שלנו' או 'שימו לב, נראה שהתחלנו לתת ניבויים פחות טובים'". התיקון לא יעשה תמיד בצורה אוטונומית, "אבל כן מהירה".

ב-DSG נותנים כדוגמה מערכת שפיתחו בתחום של ניבוי התדרדרות של חולה קורונה. "השתתפנו בתחרות שהוביל ביה"ח שיבא בנושא של ניסוי התדרדרות של חולי קורונה", אומר רוזנטל. "הגענו למקום השני בתחרות אחרי אינטל, ושיבא נמצא בתהליכי הטמעת המערכת לשימוש מסחרי. זו דוגמה מצויינת לדילמה של מערכות כאלה, כי בקורונה העולם שאיתו אנחנו מתמודדים השתנה. בגל הראשון פרופיל החולים היה שונה, וגם פרוטוקול הטיפול המועדף, וגם סוגי הטיפול הקיימים. בגל הנוכחי החולים הם צעירים יותר, והתרופות הזמינות הן אחרות, והידע שקיים לגביהן ולגבי טיפולים שונים התעדכן. המערכת שלנו הצליחה להבין את השינוי ולא לפעול על בסיס מידע היסטורי. אם לא היינו עולים על זה שצריך ללמד את האלגוריתם החדש, אז המוצר הזה לא שווה כלום".

אבו רמילה מוסיף כי "בקורונה היינו מנגישים לרופא הזה את הכלי ברמה של החולה הבודד, ומסבירים לו בדיוק איך ומדוע התקבלו החלטות לגבי אותו חולה".

רוזנטל מציין כי שינויים כאלה במערכות דיגיטליות מעלות שאלות לגבי אישורי השיווק של המוצרים. "במכשור רפואי, יש צורך ב'נעילה' של המוצר כדי לקבל את האישור על המוצר, אבל כשמדובר בבינה מלאכותית, האלגוריתם כל הזמן ממשיך ללמוד. אבל בזמן האחרון הם מתכנסים למצב שבו הם מאשרים גם מערכות שהאלגוריתם שלהן עובר שינוי, אם מתקיים לגביהן אותו ניטור מתמשך, שדיברנו עליו קודם. הניטור משמעותו שאפשר לשאול את האלגוריתם מדוע הוא החליט מה שהחליט, מה הוא ראה שגרם לו לעשות שינוי במודל".

"גם ב-FDA, שמאשר לשיווק מוצרי בריאות דיגיטלית, אמרו 'אי אפשר לקבל אישור למערכת בינה מלאכותית רפואית, שלא מנוטרת כל הזמן'", מוסיף ששון. "אני לא בטוח שהם סגורים על עצמם עד הסוף לגבי איך בדיוק אמור לעבוד הניטור שדרוש לאישור, אבל העולם הרפואי לא יוכל להתקדם בלי שזה יקרה".

הוקמה ללא גיוסי הון חיצוניים

היום החברה שותפה לפיתוח מגוון מערכות בינה מלאכותית: לזיהוי של טעויות במרשמים רפואיים, לזיהוי הקשר בין הבדלים גנטיים בין אישיים לבין תחלואה, לזיהוי של חומרים פעילים נוספים בצמח הקנאביס, לזיהוי סימנים לסרטן השד בבדיקת דם, ומיצוי תובנות רפואיות מתוך רשומות שנכתבו בשפה חופשית, ועוד.

החברה פועלת עם מגוון שותפים, בין היתר עם חברת נייס הישראלית, שמשווקת מוצרים המכילים את האלגוריתמים של החברה, שפותחו במיוחד עבור אותם לקוחות. לקוח נוסף הוא ביה"ח שיבא. "לפני שמונה חודשים יצרנו קשר מאוד חזק עם בית החולים שיבא", אומר ששון. "חתמנו איתם על הסכם מאוד ייחודי ומעניין, שנותן לנו נגישות למערך המידע שלהם - אחרי שהפך אנונימי כמובן - ואנחנו יכולים לחקור כל בעיה שעולה בדעתנו, וכל מוצר שאנחנו מפתחים, כלול בהסכם מסחור משותף עם שיבא".

היום רושמת החברה הכנסות של מספר מיליוני דולרים בשנה. היא הוקמה ללא גיוסי הון חיצוניים. "קיבלנו הצעות להשקעה ולרכישה. בינתיים סירבנו אבל זה לא עניין עקרוני. אולי בעתיד נסכים", מסכם ששון.