ארכיון מודרניזציה - Sigalit DTL https://sigalitsobel.com/tag/מודרניזציה/ Digital Transformation Leader | Public Sector Expert Sat, 19 Oct 2024 18:04:29 +0000 he-IL hourly 1 https://wordpress.org/?v=6.7 https://sigalitsobel.com/wp-content/uploads/2019/03/cropped-sigalit-flower-favico-32x32.png ארכיון מודרניזציה - Sigalit DTL https://sigalitsobel.com/tag/מודרניזציה/ 32 32 רופאים ורובוטים: איך AI מעצב את עתיד הטיפול הרפואי https://sigalitsobel.com/ai-designs-medical-jobs/ Sat, 19 Oct 2024 16:52:59 +0000 https://sigalitsobel.com/?p=6191 המאמר הזה הוא הראשון בסדרת מאמרים תחת הכותרת: מקצועות ההווה בעתיד. מקצועות הרפואה הם מהראשונים שעשו שימו בבינה מלאכותית, עוד לפני שזו הפכה לנחלת הכלל. בעקבות הדמוקרטיזציה של הבינה המלאכותית נוצרה הזדמנות בה דרגים זוטרים ודרגי ביניים יכולים להשפיע ולשבש את התחום. זה יקרה מהר יותר ממה שאנחנו מדמיינים. אם מה שכתוב פה נראה לכם …

רופאים ורובוטים: איך AI מעצב את עתיד הטיפול הרפואי לקריאה »

הפוסט רופאים ורובוטים: איך AI מעצב את עתיד הטיפול הרפואי הופיע לראשונה ב-Sigalit DTL.

]]>

המאמר הזה הוא הראשון בסדרת מאמרים תחת הכותרת: מקצועות ההווה בעתיד. מקצועות הרפואה הם מהראשונים שעשו שימו בבינה מלאכותית, עוד לפני שזו הפכה לנחלת הכלל. בעקבות הדמוקרטיזציה של הבינה המלאכותית נוצרה הזדמנות בה דרגים זוטרים ודרגי ביניים יכולים להשפיע ולשבש את התחום. זה יקרה מהר יותר ממה שאנחנו מדמיינים. אם מה שכתוב פה נראה לכם מדע בדיוני, עשו חשיבה מחודשת והפנימו:

  1. רוב המקצועות יעברו שינוי מטלטל
  2. אם ניצמד לדוגמא שאני מביאה כאן, מקצוע הרופא לא יעלם, אלא יעבור שיבוש והגדרה מחדש
  3. מי שיוביל את התחום יהיו אלו שיבינו כבר היום את מהות השינוי ויכשירו את עצמם ללא הפסקה לחשוב אחרת, להוביל, להיות יצירתיים ולהשאיר לבינה המלאכותית את העבודות בהן היא טובה יותר מבני אנוש.
  4. זה נכון לכל תחום. קראו את זה וחשבו על המקצוע שלכם. אל תיבהלו ואל תתייאשו – לימדו והתקדמו

בעידן של חדשנות טכנולוגית מהפכנית, AI ורובוטים משתלבים ברפואה ומשנים את הדרך שבה מתבצע טיפול רפואי. מהעתיד של ניתוחים רובוטיים ועד אבחונים מותאמים אישית, הפוסט הזה בוחן כיצד הטכנולוגיה מעצבת מחדש את תפקידם של הרופאים ואת חוויית המטופלים, ומה המשמעויות המוסריות והמעשיות של השינוי.

העתיד הקרוב של הרפואה יהיה כזה שבו הבינה המלאכותית (AI) תשחק תפקיד מכריע, לא רק ככלי עזר אלא כחלק בלתי נפרד מתהליכים רפואיים. כיום, ישנם מספר תחומים שבהם ה-AI כבר מוכיח עליונות לעומת אנשי המקצוע, בעיקר בתחומים של דיאגנוסטיקה וחיזוי.

דוגמאות מהעולם כיום:

  1. הדמיה רפואית – AI כיום מנצח את הרדיולוגים האנושיים בזיהוי מוקדם של סוגי סרטן דרך פענוח בדיקות רנטגן, MRI ו-CT. טכנולוגיות כמו זו שפותחה על ידי Google Health כבר משפרות דיוק בזיהוי סרטן השד.

  2. רפואה מותאמת אישית – AI לוקח נתונים גנטיים, היסטוריה רפואית, ואורח חיים ומספק המלצות טיפול מותאמות אישית. לדוגמה, מערכות כמו IBM Watson כבר מסייעות בבחירת הטיפול הכימותרפי הנכון לחולי סרטן על בסיס ניתוח של כמויות מידע עצומות.

  3. חיזוי אפידמיולוגי – במהלך מגפת הקורונה, מערכות AI סייעו לחזות התפרצויות ומגמות של מחלות, מה שאפשר ניהול חכם של משאבים ומניעה של התפשטות רחבת היקף. מודלים אלגוריתמיים גם עוזרים בניבוי התפשטות מחלות כמו שפעת ואבולה.

מה המשמעות עבור הרופאים?

המשמעות היא שלאנשי הרפואה לא יהיה צורך להתחרות ביכולות של AI, אלא להשתמש בהן ככלי עבודה חיוני. רופא שידע לנצל את הטכנולוגיה בצורה חכמה יוכל להגיע לאבחון מהיר יותר, לקבל תובנות טיפוליות מדויקות, ולעבוד בצורה יעילה בהרבה. תפקידם של הרופאים יהפוך לפחות טכני ויותר תומך החלטה.

הציפייה היא ש-AI יוכל לטפל במשימות המונוטוניות יותר כמו ניתוחי נתונים ובדיקות מקיפות, בזמן שהרופאים יוכלו להתמקד יותר באינטראקציה עם המטופלים, בקבלת החלטות מורכבות ובמתן טיפול אמפתי ואנושי.

תחזית לעתיד הקרוב:

  1. התמחויות חדשות – ייווצרו תחומי התמחות חדשים לרופאים, כמו ניהול מערכות AI רפואיות או טיפול "היברידי" המשלב רפואה אנושית ו-AI.

  2. שילוב מערכות אוטומטיות בטיפול שוטף – טיפולים שגרתיים יבוצעו בצורה אוטומטית, כאשר הרופאים יתערבו רק במקרים חריגים. לדוגמה, AI יוכל לנהל מרפאות וירטואליות, לבצע מעקבים אוטומטיים אחר מצבי מטופלים, ולשלוח התרעות לרופאים במקרים הדורשים התערבות.

  3. מוסר ואתיקה רפואית – יהיו דיונים מורכבים בנוגע לשאלות של מוסר ואתיקה בהקשר של AI ברפואה. האם יש מקום לאוטונומיה של AI בהחלטות טיפוליות? כיצד נשמר את אחריות הרופא בתוך מערכת אוטומטית?

בטווח של השנים הקרובות, רפואה מבוססת AI אינה מחליפה את האדם אלא הופכת אותו למדויק, חכם ומועיל יותר.

תחזית לעתיד הבינוני:

האם יהיה צמצום משמעותי בחלק מאנשי המקצוע?
האם humanoids יחליפו רופאים?

צמצום משמעותי בכוח האדם במקצועות הרפואה הוא בהחלט אפשרות כאשר מדובר בשילוב טכנולוגיות AI מתקדמות. תהליכים שדורשים כיום שעות רבות של עבודה אנושית יוכלו להיעשות מהר יותר ובצורה מדויקת יותר על ידי מערכות מבוססות AI. עם זאת, חשוב להבהיר שחיסול מוחלט של הצורך באנשי מקצוע אנושיים אינו צפוי בקרוב, במיוחד לא בתפקידים הדורשים החלטות מורכבות, יצירתיות, ויכולת להבין את ההיבטים האנושיים של הטיפול הרפואי. כשמסתכלים לטווחי זמן בינוניים וארוכים התמונה נראית שונה.

צמצום כוח אדם:

תחומים כמו רדיולוגיה, פתולוגיה, ואבחון ראשוני הם המועמדים הברורים לצמצום, כאשר AI מסוגל לנתח תמונות, נתונים ומסמכים רפואיים בצורה מהירה ומדויקת יותר מבני אדם. זה יכול להוביל לפחות משרות באזורים אלו, או לפחות שינוי בתפקידי המומחים כך שהם מתמקדים יותר בפיקוח ובבקרת איכות על המערכות האוטומטיות ולא בביצוע העבודה עצמה.

Humanoids ברפואה:

החלפה מלאה של רופאים ב-humanoids (רובוטים אנושיים) אינה ריאלית בזמן הקרוב. אמנם ישנם פיתוחים של רובוטים שיכולים לבצע ניתוחים מדויקים או לסייע במשימות פשוטות, אך המרכיב האנושי בטיפול רפואי – כמו הבנת רגשות המטופל, יצירת אמון, ומתן תמיכה פסיכולוגית – נשאר חשוב מאוד, וקשה לדמות את זה בטכנולוגיה הנוכחית.

במקביל, humanoids עשויים לקחת חלק בתפקידים כמו סיוע בניהול רישומים רפואיים, תמיכה לוגיסטית במרפאות, או מתן מידע רפואי בסיסי למטופלים. בטווח הארוך, humanoids יוכלו לבצע משימות יותר מתוחכמות, אך הם ישארו כלים המסייעים לרופאים האנושיים ולא תחליף מלא עבורם.

תפקיד הרופאים בעתיד:

הצפי הוא שתפקידם של רופאים ישתנה ויהפוך פחות טכני ויותר ממוקד בקבלת החלטות קריטיות, ניהול מערכות AI, והבנה עמוקה של מצבים רפואיים מורכבים הדורשים גמישות ויצירתיות. המיקוד יוסט לאינטראקציה אנושית, טיפול מותאם אישית, והתמודדות עם מקרים חריגים.

האתגר האתי:

כמובן, אחד האתגרים הגדולים בהכנסת AI ו-humanoids לרפואה יהיה שמירה על האחריות האתית. גם אם AI יהפוך לדומיננטי, תיווצר השאלה מי אחראי לתוצאות הטיפול? כיצד נשמרים ערכי מוסר במערכות אוטומטיות? זהו תחום שיהפוך לנושא מרכזי לדיון ככל שהטכנולוגיות הללו יהפכו למתקדמות יותר.

בקצרה, למרות שה-AI יביא לצמצום מקצועי מסוים, humanoids לא יחליפו רופאים בקרוב, אלא ישלימו את עבודתם, במיוחד בתחומים פחות אינטראקטיביים ומונוטוניים.

בואו נדמיין את העתיד הרחוק יותר:

אם נרשה לעצמנו לדמיין עולם רפואה עתידני עוד עשר שנים, נוכל לצייר תמונה שבה הטכנולוגיה וה-AI שולטים כמעט בכל היבטי הטיפול הרפואי, תוך שמירה על תפקיד אנושי מצומצם וייחודי. הנה כמה תחזיות (נועזות) לעתיד כזה:

1. קליניקות וירטואליות 24/7 עם AI רופא אישי:

אנשים כבר לא יצטרכו לבקר פיזית רופאים. לכל אדם יהיה AI רופא אישי – עוזר רפואי שמותקן במכשירים ניידים, המסוגל לנהל מעקב צמוד אחר בריאות המשתמש בזמן אמת באמצעות נתונים שנאספים מחיישנים המובנים בבגדים, מכשירי לבוש חכמים ושתלים רפואיים. AI זה יוכל לאבחן מחלות בשלב מוקדם, לתת ייעוץ רפואי בזמן אמת, ולנהל תוכניות טיפול מותאמות אישית. קליניקות וירטואליות יהיו זמינות כל הזמן, והממשק עם רופא אנושי יתרחש רק במקרים מסובכים.

2. ניתוחים אוטונומיים ברמת דיוק על-אנושית:

רובוטים כירורגיים אוטונומיים יוכלו לבצע ניתוחים מורכבים מבלי התערבות אנושית. טכנולוגיה כמו זו של Da Vinci תתפתח לרמה שבה הרובוט יקבל החלטות בזמן אמת על סמך אלגוריתמים מתקדמים ונתוני חיישנים מדויקים יותר מהעין האנושית. ניתוחים ישתמשו ב-AI שמסוגל להעריך סיכונים ולבצע התאמות תוך כדי פעולה, מה שיביא לדיוק, מינימום טעויות, וזמן התאוששות מהיר במיוחד.

3. תחליפי רופאים ב"חדרי התייעצות היברידיים":

במקרים שבהם מטופלים יצטרכו לשוחח עם מומחים, חדרי התייעצות היברידיים יחברו בין רופאים אנושיים ורובוטים שמנהלים את רוב השיחה והבדיקות הראשוניות. הרובוטים יהיו הומנואידים משוכללים, המסוגלים להבין שפת גוף, תגובות רגשיות ותחושות פיזיות של המטופל. הרופא האנושי ייכנס לתמונה רק במקרים מורכבים או כשיידרש מגע אנושי ייחודי.

4. רפואה פרו-אקטיבית ושימוש בבינה חיזויית:

רפואה תהפוך פרו-אקטיבית לחלוטין. מערכות חיזוי המבוססות על AI יוכלו לנתח נתונים של מיליוני אנשים, ולחזות מראש את פריצתן של מחלות גנטיות, סרטן או אפילו זיהומים כמו דלקת ריאות לפני שהסימפטומים יופיעו. כך אפשר יהיה להתחיל טיפול לפני שהמחלה תתחיל להשפיע באופן ממשי על המטופל. המיקוד יעבור מ"טיפול בחולים" ל"מניעת מחלות מראש".

5. הנדסה ביו-רפואית והדפסות איברים בתלת-ממד:

תהליכי הדפסת איברים בתלת-ממד ישתכללו, כך שאיברים מלאכותיים, כמו כליות, כבד או אפילו לב, יודפסו בהתאמה אישית ויושתלו בגוף האדם בקלות יחסית. איברים אלה ייווצרו מתאי גזע או חומרים ביולוגיים מדויקים ויוכלו להשתלב באופן מושלם בגוף, תוך כדי חיזוי ותיקון תקלות גנטיות בעזרת AI עוד בשלב ההדפסה. לא יהיה צורך בהמתנה לתורמי איברים או טיפולים ארוכים שדורשים החלמה ממושכת.

6. רובוטים סיעודיים וטיפול מבוסס AI בבתי חולים:

בתי החולים יוחלפו במתקני טיפול אוטונומיים, שבהם רובוטים מבוססי AI יספקו טיפול למטופלים 24/7. רובוטים סיעודיים יוכלו להעניק טיפול בסיסי, להחליף תחבושות, לנהל תרופות, לבצע בדיקות שגרתיות ולעקוב אחר מצב החולה. החולים יבלו פחות זמן בבתי חולים מסורתיים, ויוכלו להשתחרר מוקדם יותר, עם רובוטים ביתיים שינהלו את השיקום שלהם מהבית.

7. AI מקבל החלטות מוסריות:

בעולם שבו ה-AI כל כך מתקדם, ייתכן מצב שבו מכונות יהיו מסוגלות לקבל החלטות רפואיות קשות – כמו למשל ניהול מקרים סופניים או תהליכי החייאה מורכבים – על בסיס נתונים סטטיסטיים, ניתוחים רגשיים ורפואיים. השאלה המוסרית הגדולה היא האם המטופלים והציבור הרחב יקבלו AI כזה כמי שיכול להחליט במצבים קריטיים, והאם יהיה לו המנדט להכריע בנוגע לחיים ומוות.

8. בריאות כחלק מאורח חיים דיגיטלי:

בריאות תהיה משולבת בכל אספקט של חיי היום-יום. אנשים יחיו בתוך סביבות חכמות שמנטרות את בריאותם באופן רציף: הבית, מקום העבודה והרכב יהיו עמוסים בחיישנים ובטכנולוגיות AI שיזהו כל שינוי במצב הבריאותי, ויציעו פתרונות מידיים, מהתראה על דופק לא סדיר ועד ניהול אורח חיים בריא בהתאמה אישית.

סיכום:

בעולם העתידי הזה, הרפואה תהיה יותר טכנולוגית ומדויקת, עם רמת אוטומציה גבוהה, ועם פחות צורך במעורבות אנושית ישירה, למעט במקרים חריגים או קריטיים. התפקיד האנושי יתמקד באלמנטים המוסריים, החברתיים והאמפתיים של הטיפול, בעוד שהטכנולוגיה תעשה את רוב העבודה המעשית, ותחולל שינוי עצום באופן שבו אנו תופסים את הבריאות והטיפול הרפואי.

הפוסט רופאים ורובוטים: איך AI מעצב את עתיד הטיפול הרפואי הופיע לראשונה ב-Sigalit DTL.

]]>
הזדמנות לשינוי בחינוך – כזו דרמטית שמתרחשת אולי פעם בדור https://sigalitsobel.com/chance-to-change-education/ Thu, 25 Jan 2024 00:09:54 +0000 https://sigalitsobel.com/?p=6171 לפעמים כל הכוכבים מסתדרים ורק צריך לראות את זה. הבינה המלאכותית שפרצה לחיינו בסערה היא הזדמנות לשינוי בחינוך. זה היה המסר שכל כך התחברתי אליו בהרצאה ביום הראשון של תערוכת Bett בלונדון. ההרצאה השניה במליאה היתה של Jaime Teevan, המדענית הראשית של מיקרוסופט. איזו אישה מרשימה!  היא פתחה בשאלה האם כל אחד מאיתנו זוכר מתי …

הזדמנות לשינוי בחינוך – כזו דרמטית שמתרחשת אולי פעם בדור לקריאה »

הפוסט הזדמנות לשינוי בחינוך – כזו דרמטית שמתרחשת אולי פעם בדור הופיע לראשונה ב-Sigalit DTL.

]]>
Jaime Teevan On AI and Education - Bett London 2024 - הזדמנות לשינוי בחינוך.
Jaime Teevan On AI and Education - Bett London 2024 - הזדמנות לשינוי בחינוך.

לפעמים כל הכוכבים מסתדרים ורק צריך לראות את זה. הבינה המלאכותית שפרצה לחיינו בסערה היא הזדמנות לשינוי בחינוך. זה היה המסר שכל כך התחברתי אליו בהרצאה ביום הראשון של תערוכת Bett בלונדון.

ההרצאה השניה במליאה היתה של Jaime Teevan, המדענית הראשית של מיקרוסופט. איזו אישה מרשימה! 

היא פתחה בשאלה האם כל אחד מאיתנו זוכר מתי הפעם הראשונה שהשתמשנו במודל שפה (כלומר בכלי בינה מלאכותית) ואז היא סיפרה על הפעם הראשונה שלה ואיך בדרך הקצרה חזרה הביתה היא עצרה את המכונית וצעקה מתוך הבנה של גודל השעה – להיות בתוך טרנד של של שינוי בסיסי בעולם והאחריות שמגיעה עם היכולת לעצב את השינוי הזה.

היא דיברה על המהירות בה מתרחשים דברים, על כך שהיא לא ראתה את מיקרוסופט זזה מהר כל כך כמו שביצעה עכשיו את שילוב ה – AI בכלים שלה. היא לא ראתה את הלקוחות משתפים פעולה בכמות כזו. המהירות קריטית פה והיא ציטטה מתוך ספר הסמוראי של Yamamoto Tsunetomo שנכתב ב – 1716:
"In the words of the ancients, one should make their decisions within the space of seven breaths״ 
הצורך להתקדם, לקבל החלטות במהירות, הוא צורך אנושי עתיק. התקופה שאנחנו חיים בה מדגישה את זה.

Jaime Teevan דיברה על עתיד העבודה והציגה נתונים רבים ממחקרים שכבר נעשו על התרומה של AI בתפקוד בעבודה. חלק מהמחקרים נעשו על ידי MIT וחלק מחקרים של מיקרוסופט. כולם מראים עליה בפרודוקטיביות, ביצירתיות וחיסכון בזמן. מדובר במשימות שכולנו עושים כמו לסכם פגישה או לאסוף מידע ממספר מקורות.
אני יכולה לומר שמנסיון אישי ב – 2 המקרים האלו החיסכון יותר גדול ממה שהמחקרים מראים.

יש כבר מחקר שמראה שכלי AI יכולים לסייע למורים בביצוע של 45% מהמשימות שלהם, בין אם מדובר במשימות מינהלתיות ובין עם בעזרה בתכנון שיעור או פיתוח תכנית לימודים.
צריך להתסכל בהקשר הזה, כמובן, גם על התלמידים. האם אנחנו מלמדים אותם את המיומנויות הלא נכונות? אנחנו יודעים כבר היום לומר מה המיומנויות שצריך בעתיד שיועצם על ידי בינה מלאכותית (שיפוט אנליטי, גמישות, אינטליגנציה רגשית, הערכה יצירתית, סקרנות אינטלקטואלית, הבחנה בהטיות והעברת משימות לבינה המלאכותית). אין ספק שלא צריך ללמד היום ילדים את המיומנויות ש – AI עושה!
אלו לא מיומנויות חדשנות, תמיד ידענו שהן חשובות, היום הן קריטיות. צריך ללמוד לחשוב איך לחשוב (מטה – קוגניציה), במקום לעשות את העבודה – לדעת להעריך ולבקר, במקום לחפש – לעשות אינטגרציה.

ילדים (ואני מוסיפה – גם מבוגרים) צריכים מיומנות של רפלקציה – לא לבטוח בתוצאות, לדעת להכריח את עצמך לבחון את התוצאה, לחשוב האם אתה מסכים או לא מסכים איתה.
אחת המיומנויות שאפשר לרכוש דרך עבודה עם כלי AI היא חשיבה ביקורתית. כשמקבלים תשובה מהבינה המלאכותית, להחזיר לה שאלה כמו ״אילו שאלות היה שואל חוקר מתחום …״ או כשנעזרים ב – AI כדי לכתוב מייל, לבקש ממנו לחשוב איך בעלי העניין השונים יגיבו למייל.

אם נשאיר את השימוש בכלי בינה מלאכותית רק לתחום של מהירות ויעילות אנחנו מוותרים על אפשרויות חדשות וחשובות – להתווכח עם ה – AI, לייצר איתו שיח.
אני משתמשת ב – AI בהרבה מקרים לסיעור מוחות. הוא סותר אותי ואני סותרת אותו. אחד הכללים החשובים בסיעור מוחות, זה לבצע את התהליך עם דעות שונות, אך תוך קבלת קיומן של עוד דעות ולא העברת ביקורת שמבטלת דעות אחרות. מכיוון שלכלי בינה מלאכותית אין אגו, תהליך סיעור המוחות הוא דבר נפלא. תנסו!

איך אפשר להעזר בזה בתחום החינוך?
לדוגמא, לא רק לתקן שגיאה, אלא להבין את המקור שלה, אפילו אם מדובר בטעות כתיב. אפשר ללמוד טוב יותר בעזרת AI, כאשר לא מקבלים רק את הפתרון לבעיה, אלא גם הסבר איך לפתור אותה. במקרה כזה הבינה המלאכותית משמשת כעוזרת הוראה. יש כבר מחקרים של הרווארד בהם רואים שתלמידים שעבדו עם כלי AI הרגישו שיש להם מאמן אישי בכיתה.

הסיפא של Jaime Teevan היה הקבלה של ההתמודדות עם העולם הלא ידועה שמביאה עמה הבינה המלאכותית, להתמודדות של מדענים. כלומר, יש שיטה של מדענים והיא עובדת: לא לעשות הכל מ – 0, לשתף מה אנחנו מצאנו כך שאפשר ללמוד עם זה ואפשר גם לא להסכים עם זה. זה המודל של תהליך מחקר מדעי.

בסוף ההרצאה שלה היא דיברה מכל הלב אל הנוכחים, רובם אנשי חינוך: יש לנו הזדמנות לעצב את עתיד החינוך. אני אגיד את זה בצורה יותר נחרצת – מוטלת עלינו החובה לשנות את פני החינוך.

קישורים:

הפוסט בלינקדאין של Jaime Teevan ובו רשימת המחקרים אליהם התייחסה בהרצאה

Jaime Teevan On AI and Education - Bett London 2024 - הזדמנות לשינוי בחינוך.

הפוסט הזדמנות לשינוי בחינוך – כזו דרמטית שמתרחשת אולי פעם בדור הופיע לראשונה ב-Sigalit DTL.

]]>
נדרשת אפליה מתקנת בבינה מלאכותית https://sigalitsobel.com/ai-affirmative-action-is-needed/ Mon, 01 May 2023 08:22:04 +0000 https://sigalitsobel.com/?p=6081 כל מי שהתנסה בכלי AI גילה מהר מאוד שהכלים מציגים מציאות שונה ממה שהיינו רוצים. כשרציתי שהכלים יציירו עבורי תמונה של נשים מנהלות סביב שולחן, הם פשוט סרבו. לא משנה כמה ניסיתי. בהרבה תמונות שביקשתי קהל מעורב מקצועי של נשים וגברים קיבלתי מעט נשים ונשים קטנות לעומת הגברים (אני יודעת שרוב הגברים יותר גבוהים מרוב …

נדרשת אפליה מתקנת בבינה מלאכותית לקריאה »

הפוסט נדרשת אפליה מתקנת בבינה מלאכותית הופיע לראשונה ב-Sigalit DTL.

]]>

כל מי שהתנסה בכלי AI גילה מהר מאוד שהכלים מציגים מציאות שונה ממה שהיינו רוצים.

כשרציתי שהכלים יציירו עבורי תמונה של נשים מנהלות סביב שולחן, הם פשוט סרבו. לא משנה כמה ניסיתי. בהרבה תמונות שביקשתי קהל מעורב מקצועי של נשים וגברים קיבלתי מעט נשים ונשים קטנות לעומת הגברים (אני יודעת שרוב הגברים יותר גבוהים מרוב הנשים, התוצאה שהתקבלה היתה לא סבירה) וגם כשביקשתי מהמכונה לתקן, היא סירבה או ביצעה תיקון שולי.
זה אומר שאני כבר כמה חודשים מסתובבת עם כוכבית קטנה בנושא הטיה מגדרית שמטרידה את מנוחתי. בפאנל שהתקיים השבוע גיליתי את עומק הבעיה וגם כמה פתרונות אפשריים. וכן, ללא ספק, נדרשת אפליה מתקנת בבינה המלאכותית.

השבוע התקיים מיטאפ בנושא חשוב ביותר "הטיות בבינה מלאכותית".

קהילת "מתחבטי מקצוע" ארחה את "הממרמניקיות". אלו 2 קהילות פעילות ומשמעותיות ששווה להכיר.
משתתפות הפאנל: דר׳ גלית וולנר, מרצה בכירה ב – HIT ובאוניברסיטת תל אביב, שירה וינברג הראל, יועצת ומרצה בתחומי מוצר ו – AI, דר׳ קרני שגל-פפרקורן, המרכז האקדמי למשפט ולעסקים ושותפה ב – Lexidale ומורן חכם, ראש צוות בינה מלאכותית ב – Outbrain.
4 נשים מרשימות עם ניסיון משמעותי בתחומים של בינה מלאכותית, יזמות, משפטים, עסקים ומדיניות.
את המיטאפ הנחתה אירית חומסי, מייסדת ומנהלת קהילת מתחבטי מקצוע.

אחד הדברים הראשונים שעלה בדיון – עובדתית ההטיה קיימת. אני לא היחידה ששותפה לתסכול מרובה הנסיונות לגרום ל – Mid Journey או כלים דומים אחרים לצייר משהו שלא נראה להם הגיוני (״נשים מנהלות״, לדוגמא). כמובן שקל לתת דוגמאות מהכלים של בינה מלאכותית יצירתית שרובנו נחשפנו אליהם, אם בשימוש ואם בשיח שקיים עליהם. צריך להבין שאם בכלים האלו (Chat GPT, DALL-E2, Mid Journey) אנחנו "רואים בעין" את ההטיה, היא קיימת בכלים אחרים הרבה יותר משמעותיים.

השאלות החשובות שעלו:

מה גורם לתוכנה להראות אמינה?

אנשים לא רגילים לפקפק בתשובות שהם מקבלים, קיימת ״הטיית הסמכות״ וכן היכולת של הכלים ״לחרטט בביטחון״ כמו שכתבה בצ׳אט אחת המשתתפות.

למה זה שהבינה המלאכותית מטה זה מטריד?

אם המציאות מטה למה זו בעיה שהבינה המלאכותית גם מטה?

בינה מלאכותית אמורה לשפר דברים אם קיימת הטיה יש פגיעה ולא שיפור.
מערכות AI מטבען יכולות לגרום לנזק גדול יותר כשיש הטיה. ניתנו דוגמאות מתחום ה – HR, כמו המקרה המפורסם של אמזון בו האלגוריתם התאמן על בסיס הנתונים של העובדים המוצלחים באמזון. האלגוריתם למד שמועמד מוצלח הוא גבר לבן וחיפש מועמדים דומים. זה כמובן תוקן.
דוגמא נוספת היא מערכות זיהוי פנים (Face Recognition) שיש להן כמעט 50% טעות בזיהוי פנים של נשים כהות. תדמיינו מה קורה במקומות כמו שדות תעופה וחברות גדולות בהם משתמשים בזיהוי פנים. איך נראים התורים של אלו שהאלגוריתם לא הצליח לזהות אותם?
גם במקומות בהן מסגרת האשראי ניתנת באופן אוטומטי כדי לספק שירות מהיר, נמצא כי מסגרת האשראי של נשים נמוכה משמעותית מזו של גברים. 

מה צריך לעשות?

אחת הבעיות הגדולות עם הטיות היא שהן סמויות.

צריך לראות מה הדאטה סט שהאלגוריתם מתאמן עליו – האם הוא משקף את העולם האמיתי או שרוצים לעשות תיקון?

אפשר לעשות שימוש בטכנולוגיה שמוצאת הטיות ומציעה תיקונים.

לפני שימוש בכלי בינה מלאכותית ארגון צריך להגדיר את כל סוגי הלקוחות ולוודא שהם מקבלים ביטוי.

הרגולטור חייב להתערב. יש דברים שחברות יעשו רק אם יחייבו אותן. לדוגמא, לפרסם בשקיפות, בלי לפגוע בסודות מסחריים, מהם הפרמטרים העיקריים לפיהם נלקחו החלטות מסויימות.

המדינה צריכה לאפשר שימוש בארגזי חול בהם חברות יכולות לבצע ניסויים כדי להבין מה המשמעות של הפיתוחים והדאטה שלהן. אם חברות יוכלו לבצע ניסויים בצורה בטוחה ומגודרת, ניתן יהיה לבצע תיקונים לפני שמפיצים תוכנות. מעבר לכך שהתוכנות לא יפלו אנשים הן גם לא ילמדו דברים לא רצויים, שכן הניסוי סגור ולא משפיע על נתונים אחרים.

אני אוסיף בנושא הרגולציה שצריך לחייב חברות לפרסם הטיות השתגלו ומה הדרך וטווח הזמן לתיקון. זה כמו כל גילוי נאות בנושא של פגמים במוצרים.

וברמה האישית שלנו כמשתמשים?

לאמץ חשיבה ביקורתית. זה חשוב בלי קשר לבינה מלאכותית והצורך עולה יותר ככל שמתרבים הכלים בהם כל אחד יכול להשתמש וגם קל יותר לחברות לאמץ ובכך להשפיע על חלקים נרחבים מהציבור.

לסיכום

זו סוגיה שחייבת להישאר על סדר היום. לא מדובר רק בנשים. אני אקצין כדי להסביר את רוחב הבעיה: כל מי שאינו גבר לבן יחווה הטיה על ידי הבינה המלאכותית. ומה עומק הבעיה? זה הדבר המפחיד באמת! כלי בינה מלאכותית מתפשטים בקצב אדיר בכל מקום וזה נהדר. העולם שלנו חווה מהפכה בסדר גודל של המצאת החשמל, לא פחות. זה אומר שבכל תחום יעשה בשנים הקרובות שימוש משמעותי בבינה מלאכותית. אנחנו יודעים לומר היום שבמערכות לאיתור מועמדים לעבודה קיימת הטיה קשה. אלו מערכות שהשימוש בהן נרחב והוא רק יגדל. אם ההטיה לא תטופל זה ישפיע על דורות קדימה. ההשפעה היא הרבה מעבר למי מתקבל לעבוד במקום מסוים. המערכות לומדות אחת מהשניה. זה ישפיע על מי מקודם, מי מקבל אשראי לפתיחת עסק ומי נחשב יותר כבעל פוטנציאל בתחומים אחרים. זה גם יכול ללכת אחורה בשנים ולהשפיע על מערכות בינה מלאכותית שיהיו בעתיד בשימוש במוסדות חינוך. אנחנו לא רוצים את זה!

מה צריך לעשות כבר היום?
להיות אקטיביסטים בנושא, לחבור ברמה עולמית לפעילים אחרים ולדאוג שתהיה רגולציה.
בבריטניה פרסמו סט של חוקים בנושא בינה מלאכותית. באיחוד האירופאי עובדים על תקנות. שיתוף פעולה עולמי חשוב מאוד שכן לא מדובר בתופעות מקומיות, אלא במערכות שהפעילות שלהן משפיעה על כל העולם ולאורך זמן.

 

הפוסט נדרשת אפליה מתקנת בבינה מלאכותית הופיע לראשונה ב-Sigalit DTL.

]]>
איך בבריטניה פתאום מוציאים דרכונים במהירות? https://sigalitsobel.com/hmpo-passports-case-study/ Thu, 23 Feb 2023 16:04:36 +0000 https://sigalitsobel.com/?p=6050 קייס סטאדי: איך שינו בבריטניה את תהליך הוצאת הדרכונים? תיאור של תהליך לתפארת והסברים איך ארגונים אחרים יכולים ללמוד מהדוגמא. נוסחת הקסם: לחץ הקורונה שימוש בכלי (Slack) ייעול התהליך מטורי למקבילי שירות מקוון למשרדי ממשלה אחרים לרוב אני לא מתלהבת מסיפורי לקוח שחברות מפרסמות. במקרה הספציפי הזה, פגשתי את הלקוחות בועידה שהתקיימה בלונדון לפני חצי …

איך בבריטניה פתאום מוציאים דרכונים במהירות? לקריאה »

הפוסט איך בבריטניה פתאום מוציאים דרכונים במהירות? הופיע לראשונה ב-Sigalit DTL.

]]>

קייס סטאדי: איך שינו בבריטניה את תהליך הוצאת הדרכונים? תיאור של תהליך לתפארת והסברים איך ארגונים אחרים יכולים ללמוד מהדוגמא.

נוסחת הקסם:

  • לחץ הקורונה
  • שימוש בכלי (Slack)
  • ייעול התהליך מטורי למקבילי
  • שירות מקוון למשרדי ממשלה אחרים

לרוב אני לא מתלהבת מסיפורי לקוח שחברות מפרסמות. במקרה הספציפי הזה, פגשתי את הלקוחות בועידה שהתקיימה בלונדון לפני חצי שנה. הם באמת עשו מהפכה – מודרניזציה וטרנספורמציה נדירות לא רק למגזר הציבורי. השילוב של אילוצי קורונה, כלי שקל להטמיע ומנהלים של משרד הדרכונים הבריטי, איפשר שינוי אמיתי ולא רק ״קוסמטיקה דיגיטלית״. הם מודדים את השינוי ומעמיקים בו. 

בשינוי שבוצע במשרד הדרכונים הבריטי יש הישגים מעבר לדיגיטציה של התהליך. לפני השינוי התהליך הידני היה טורי ועכשיו הוא מקבילי. זרימת העבודה (workflow) היא אחת הבחינות הראשונות שחייבים לעשות כשממכנים תהליך, שכן המיכון בבסיסו חייב לאפשר תת-תהליכים מקבילים שינוהלו באמצעות המערכת הממוחשבת שתייצר בינהם אינטגרציה וגם תיתן תמונת מצב תוך כדי התהליך. הסיבה שתהליך היה הרבה שנים טורי היא לרוב בגלל חוסר היכולת לעבוד במקביל כשאין מערכת ממוחשבת. חשוב לשים לב לא לגרור לתוך תהליך דיגיטציה תבנית מיושנת של תהליך.
הישג נוסף שמיכון התהליך איפשר הוא בדיקה מקוונת של דרכונים עבור תהליכים אחרים בממשלה, בינהם ביקורת הגבולות, משרד המשפטים ומשרד הבריאות.

מתן שירות צריך להתמקד בקלות ויעילות. דיגיטציית הנפקת הדרכונים הקלה על הלקוחות וגם על המשרד שנותן את השירות.
בכל תהליך של טרנספורמציה דיגיטלית חייבים לבצע מספר מדידות כדי להוכיח החזר השקעה. צריך למדוד את איכות השירות, יעילות ואיכות התהליך וכן את הפחתת העלויות.

מקווה שבארץ וגם בעולם יאמצו את הדרך שנסללה על ידי משרד ממשלתי אחר ביבשת אחרת. כולנו מתמודדים עם אותם אתגרים. 

קישור לסיפור הלקוח של HMPO

הפוסט איך בבריטניה פתאום מוציאים דרכונים במהירות? הופיע לראשונה ב-Sigalit DTL.

]]>
הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) https://sigalitsobel.com/prepare-your-ortanization-to-generative-ai/ Fri, 10 Feb 2023 12:19:27 +0000 https://sigalitsobel.com/?p=5977 אם חשבתם שהקורונה היא השינוי הגדול שכולנו התמודדנו איתו ומעכשיו נחזור לעולם שדי דומה לזה שהכרנו לפני הקורונה, זה לא יקרה. העולם משתנה ללא הרף וכלי ה – Generative AI הם מהפכה משנת מציאות הרבה יותר מהקורונה, אך פחות מפחידה ממנה. אני רוצה לעשות שימוש ב – ChatGPT כמשל לחדשנות ושינויים מהירים כפי שלא הכרנו. …

הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) לקריאה »

הפוסט הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) הופיע לראשונה ב-Sigalit DTL.

]]>

אם חשבתם שהקורונה היא השינוי הגדול שכולנו התמודדנו איתו ומעכשיו נחזור לעולם שדי דומה לזה שהכרנו לפני הקורונה, זה לא יקרה. העולם משתנה ללא הרף וכלי ה – Generative AI הם מהפכה משנת מציאות הרבה יותר מהקורונה, אך פחות מפחידה ממנה.

אני רוצה לעשות שימוש ב – ChatGPT כמשל לחדשנות ושינויים מהירים כפי שלא הכרנו.

בין הסגר הראשון לשני התחלנו לדבר על כך שלאנשים ובמיוחד לארגונים נדרשת יכולת מהירה להסתגל לשינויים. יותר מאוחר, התחלנו לנתח את מה שקרה בעולם והחל שיח בארגונים על המוכנות לשינוי הגדול הבא. ההבנה שאנחנו חיים בעולם כאוטי ולא נודע חילחלה וכולם הסכימו שחייבים לפתח יכולת מתמדת להגיב לשינויים.
מה קרה? לפי מה שאני רואה רוב הארגונים חזרו לאזור הנוחות שלהם, עם כמה שינויי קורונה בלתי נמנעים. העובדים מקיימים חלק מהפגישות בזום, הארגונים מאפשרים עבודה היברידית ושוקלים מעבר לענן.
במקביל העולם משתנה בקצב מסחרר שרק הולך וגדל. בואו נסתכל על החידוש האחרון, Generative AI. זה לא סתם חידוש, זו מהפכה, לא פחות ממהפכת האינטרנט. המימושים הכי נפוצים ומוכרים בציבור של Generative AI הם ChatGPT, DALL-E2 ו – Midjourney. הם נפוצים כי הם מגניבים, מעיפים את הראש וקל לעשות בהם שימוש ללא כל רקע טכנולוגי. מאחרי המוצרים האלו עומד עולם שלם בשם Generative AI, סוג של בינה מלאכותית שיוצרת תוכן חדש ממידע קיים. אפשר לייצר טקסט, תמונות, קול וסרטים ולעשות בזה שימושים מרתקים. מה שמציף את הרשת בחודשים האחרונים הן דוגמאות פשוטות. לבקש מ – DALL-E2 לצייר ציור שמן זית של דמות מיני מאוס מסתכלת על חבצלות המים של מונה בסגנון אימפרסיוניסטי של קלוד מונה, זו דוגמא איך הבינה המלאכותית לוקחת את המידע שלה על מה זה ציור שמן, מה זה סגנון אימפרסיוניסטי ספציפי של קלוד מונה, מהן חבצלות המים של מונה ואיך נראית מיני מאוס ועושה מכל זה תמונה חדשה שמבוססת על כל המידע שיש לה בנושאים האלו. תראו את התמונה ותראו מה קורה כשמבקשים מ – ״דאלי 2״ לצייר את אותו הדבר רק בסגנון קוביסטי של בראק. ושלא תגידו שלמכונה אין חשיבה עצמאית ואיך היא ברוב חוכמתה הוסיפה בשדה ברקע את דונאלד דאק.

Ask DALL-E2 to draw an olive oil painting of Minnie Mouse looking at Monet's Water Lilies in Claude Monet's Impressionist style. Ask DALL-E2 to draw an olive oil painting of Minnie Mouse looking at Monet's Water Lilies in Claude Monet's Impressionist style. Look at the picture and see what happens when you ask DALL-E2 to paint the same thing, only in the Cubist style of Braque.

אני בכוונה מתעכבת על הדוגמאות הפשוטות האלו. אני מעודדת בחודשיים האחרונים את כל מי שאני מכירה לפתוח חשבון ב – OpenAI ולהתנסות גם ב – DALL-E2 וגם ב – ChatGPT. אני מתעקשת שוב ושוב על זה שכולם צריכים להתנסות בטכנולוגיה מכיוון שזו מהפכה בסדרי גודל שקשה לדמיין. מי שישאר מאחור יהיה חסר כישורים רלוונטיים בשנים הקרובות. 

מוכנות לשינויים ארגוניים

מעבר לכישורים האישיים, ההתנסות והחיבור לעולמות של Generative AI חשובים מאוד כדי להאיץ הכנסת חדשנות לארגונים. קצב השינוי פה גדול מאוד. כשמדובר בארגונים גדולים, לרובם קשה לאמץ טכנולוגיות חדשות בשלב הראשון וזה בסדר.

חלק קריטי מהמוכנות לשינוי הארגוני הם האנשים בארגון. מובילי שינוי בארגונים צריכים לזהות את אלו שכבר עושים עבור עצמם כל מיני דברים בטכנולוגיות של Generative AI וגם כאלו שבאופן טבעי הם מאמצים מוקדמים של חידושים. את העובדים האלו צריך לעודד כי מהם יגיעו הרעיונות לאיך Generative AI יכול לעזור לצרכים של הארגון. אלו אנשים שהם גם חדשניים וגם מכירים את הארגון. צירוף מנצח שחייבים לתת לו מקום חשוב כל הזמן ועכשיו יותר מתמיד. ברגע שעולה רעיון שנראה אם פוטנציאל, צריך להכניס ספק שיוכל לבצע לפחות מוצר עם ערך מינימילי (MVP) בזמן קצר מאוד. ברגע שיהיה מוצר צריך לאפשר לכל מי שרוצה בארגון לעשות בו שימוש, לשלוח הסבר שמדבר על החדשנות ועל התועלות וכך לחבר עוד אנשים מדרגים שונים לשינוי.

צריך לנצל את זה שכולם מדברים על היישומים הפופולריים של Generative AI (ChatGPT, DALL-E 2, Midjourney) כדי לייצר מהפכה בדרך שבה הארגון מגיב לשינויים. זו הזדמנות ולא איום ואני ארחיב על זה בפוסט נפרד.

הכנת הנתונים והמידע הארגוני

מה שחשוב להבין שהטנולוגיה הזו מבוססת כולה על נתונים. פעם היתה לנו, לאנשי מערכות המידע הותיקים, סיסמא: ״Garbage in, garbage out״. כלומר, אם תכניס למערכת נתונים לא איכותיים (בלשון המעטה) תקבל בחזרה תוצר שהוא לא איכותי ולא אמין. רוב הארגונים הגדולים מנהלים דורות רבים של מערכות מחשב שאינן מדברות אחת עם השניה או שמדברות באמצעות כל מיני דרכים שנסללו על פני השנים. במערכות האלו, במערכות חיצוניות לארגון וכן בהרבה אקסלים יש מידע יקר מפז שצריך לעבור תהליכים של ארגון מחדש כדי שניתן יהיה לעשות בו שימוש בעולם של Generative AI. 

ארגונים צריכים לדאוג לאמת ארגונית אחת, למפות את כל מאגרי המידע שלהם, כולל כאלו שאינם מובנים ובמקביל לחשוב על פרויקט שבו ניתן לבחון את התועלת ש – Generative AI יכול להביא לארגון.

אני ממליצה לכם להאזין לפרק מרתק בפודקסט Markettrip ״איך משתמשים בבינה מלאכותית בחיי היומיום של סטארטאפ״ (קישור בסוף הפוסט). תומר צוקר ואייל מרקוס מארחים את עדי עזריה, מנכ״ל Workiz, חברת SaaS שמאפשרת לנותני שירותים (כגון מנעולנים, אינסטלטורים וטכנאים) לנהל את העסק שלהם בצורה יעילה. עדי עזריה מספר על יישומי בינה מלאכותית ש – Workiz עושה בהם שימוש. מעבר לשיחה המעניינת, הדוגמאות של השימוש בפועל עוזרות לקבל רעיונות לשימושים אחרים, כל אחד בתחום של הארגון שלו. הדוגמאות האלו מתאימות לארגונים בכלל, לאו דווקא ארגוני טכנולוגיה וזה חשוב מאוד, שכן הבינה המלאכותית הולכת ליעל את העולם בכל התחומים. מי שיכנס קודם ללא ספק ירוויח וחשוב מזה, מי שישתהה ישאר מאחור.

כלים שחייבים להתנסות בהם

אתם יודעים שאני אוהבת לתת למי שקורא את הפוסטים שלי גם משימות, שלא תישארו קוראים פאסיביים.

מי שעדין לא פתח חשבון ב – OpenAI, אתם חייבים להתנסות ותעשו איתו ״סתם״ דברים או משהו שאתם ממש צריכים. אם מדובר בתמונה שאתם צריכים או שבא לכם לאתגר את הבינה המלאכותית עם דמיונכם העשיר. לגבי ChatGPT, תשוחחו איתו. קחו נושא ותשאלו עליו, תבקשו דוגמאות, תבקשו אנלוגיות. ככל שתהיו מדוייקים יותר בשאלה שלכם, השיחה תהיה מעניינת יותר. ו-כן, זו שיחה, לא חיפוש בגוגל.

יש עוד כלי שאם עדין לא עשיתם בו שימוש – זה הזמן ומהר. קוראים לו WordTune ואל תשוו אותו ל – Grammarly. זה אתר וגם תוסף כרום (אני ממליצה להתקין את התוסף). הוא יודע לשדרג טקסט שאנחנו כותבים באנגלית בעזרת בינה מלאכותית. מה זה אומר לשדרג? להציע ניסוחים שונים, להציע שפה עשירה יותר, להציע טקסט קצר או ארוך יותר, להציע שפה פורמלית או יומיומית. מה שהכי שימושי בעיני זו הכוכבית הקטנה שמתבלנת את הטקסט (Spices). כשלוחצים על ״Add Spice״ נפתחות אפשרויות נפלאות: הוספת הסבר, הדגשה, הרחבה, דוגמא, אנלוגיה, עובדה סטטיסטית, בדיחה, דעה מנוגדת, עובדה היסטורית, ציטוט. אחרי שתתנסו פעם אחת, תחשבו כמה שעות ביזבזנו בחיפושים ועריכה לפני שהיכולת הזו הוצגה לפנינו. עוד יכולת נהדרת של WordTune היא לתקצר מאמרים, דוחות וכל טקסט שיש לכם גרסה דיגיטלית שלו.

אחרי שתעשו שימוש בכלים שהוזכרו פה ובפוסט הקודם, תחשבו איך הם עוזרים לכם ברמה האישית, מעבר למשחק הנחמד ואיך הם עוזרים לכם ברמה הארגונית. מי שמתעלם היום מעולם ה – Generative AI לא באמת למד מתקופת הקורונה שאנחנו חייבים להכין את עצמנו לעולם משתנה.  עכשיו צריך לצאת מאזור הנוחות האישי והארגוני ולהגיב במועד ובקצב הנכון לשינוי המתרחש עלינו לטובה.

איך מתחילים?

אם אתם זקוקים לעזרה בלמצוא פרויקט ארגוני אחד כדי להיכנס לתחום, בלי להיגרר להשקעות גדולות ולוחות זמנים ארוכים, אני כאן בשבילכם. יש לי הוכחות שזה אפשרי ואפילו הופך למהנה ולא מפחיד. המוטו שלי ״אף ארגון לא נשאר מאחור״ ואני יודעת כמה מורכב לבצע שינויים בארגונים גדולים.

התמונה בראש הפוסט, גם היא תוצר של Midjourney, כשביקשתי ממנו: 

“A world of companies such as Apple, Harley Davidson, Nike, Coca Cola, and Louis Vuitton that balance innovation and tradition.”

הפוסט הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) הופיע לראשונה ב-Sigalit DTL.

]]>