ארכיון אסטרטגיה - Sigalit DTL

הזדמנות לשינוי בחינוך – כזו דרמטית שמתרחשת אולי פעם בדור

Sigalit Sobel Savyon — Thu, 25 Jan 2024 00:09:54 +0000

לפעמים כל הכוכבים מסתדרים ורק צריך לראות את זה. הבינה המלאכותית שפרצה לחיינו בסערה היא הזדמנות לשינוי בחינוך. זה היה המסר שכל כך התחברתי אליו בהרצאה ביום הראשון של תערוכת Bett בלונדון.

ההרצאה השניה במליאה היתה של Jaime Teevan, המדענית הראשית של מיקרוסופט. איזו אישה מרשימה!

היא פתחה בשאלה האם כל אחד מאיתנו זוכר מתי הפעם הראשונה שהשתמשנו במודל שפה (כלומר בכלי בינה מלאכותית) ואז היא סיפרה על הפעם הראשונה שלה ואיך בדרך הקצרה חזרה הביתה היא עצרה את המכונית וצעקה מתוך הבנה של גודל השעה – להיות בתוך טרנד של של שינוי בסיסי בעולם והאחריות שמגיעה עם היכולת לעצב את השינוי הזה.

היא דיברה על המהירות בה מתרחשים דברים, על כך שהיא לא ראתה את מיקרוסופט זזה מהר כל כך כמו שביצעה עכשיו את שילוב ה – AI בכלים שלה. היא לא ראתה את הלקוחות משתפים פעולה בכמות כזו. המהירות קריטית פה והיא ציטטה מתוך ספר הסמוראי של Yamamoto Tsunetomo שנכתב ב – 1716:
"In the words of the ancients, one should make their decisions within the space of seven breaths״
הצורך להתקדם, לקבל החלטות במהירות, הוא צורך אנושי עתיק. התקופה שאנחנו חיים בה מדגישה את זה.

Jaime Teevan דיברה על עתיד העבודה והציגה נתונים רבים ממחקרים שכבר נעשו על התרומה של AI בתפקוד בעבודה. חלק מהמחקרים נעשו על ידי MIT וחלק מחקרים של מיקרוסופט. כולם מראים עליה בפרודוקטיביות, ביצירתיות וחיסכון בזמן. מדובר במשימות שכולנו עושים כמו לסכם פגישה או לאסוף מידע ממספר מקורות.
אני יכולה לומר שמנסיון אישי ב – 2 המקרים האלו החיסכון יותר גדול ממה שהמחקרים מראים.

יש כבר מחקר שמראה שכלי AI יכולים לסייע למורים בביצוע של 45% מהמשימות שלהם, בין אם מדובר במשימות מינהלתיות ובין עם בעזרה בתכנון שיעור או פיתוח תכנית לימודים.
צריך להתסכל בהקשר הזה, כמובן, גם על התלמידים. האם אנחנו מלמדים אותם את המיומנויות הלא נכונות? אנחנו יודעים כבר היום לומר מה המיומנויות שצריך בעתיד שיועצם על ידי בינה מלאכותית (שיפוט אנליטי, גמישות, אינטליגנציה רגשית, הערכה יצירתית, סקרנות אינטלקטואלית, הבחנה בהטיות והעברת משימות לבינה המלאכותית). אין ספק שלא צריך ללמד היום ילדים את המיומנויות ש – AI עושה!
אלו לא מיומנויות חדשנות, תמיד ידענו שהן חשובות, היום הן קריטיות. צריך ללמוד לחשוב איך לחשוב (מטה – קוגניציה), במקום לעשות את העבודה – לדעת להעריך ולבקר, במקום לחפש – לעשות אינטגרציה.

ילדים (ואני מוסיפה – גם מבוגרים) צריכים מיומנות של רפלקציה – לא לבטוח בתוצאות, לדעת להכריח את עצמך לבחון את התוצאה, לחשוב האם אתה מסכים או לא מסכים איתה.
אחת המיומנויות שאפשר לרכוש דרך עבודה עם כלי AI היא חשיבה ביקורתית. כשמקבלים תשובה מהבינה המלאכותית, להחזיר לה שאלה כמו ״אילו שאלות היה שואל חוקר מתחום …״ או כשנעזרים ב – AI כדי לכתוב מייל, לבקש ממנו לחשוב איך בעלי העניין השונים יגיבו למייל.

אם נשאיר את השימוש בכלי בינה מלאכותית רק לתחום של מהירות ויעילות אנחנו מוותרים על אפשרויות חדשות וחשובות – להתווכח עם ה – AI, לייצר איתו שיח.
אני משתמשת ב – AI בהרבה מקרים לסיעור מוחות. הוא סותר אותי ואני סותרת אותו. אחד הכללים החשובים בסיעור מוחות, זה לבצע את התהליך עם דעות שונות, אך תוך קבלת קיומן של עוד דעות ולא העברת ביקורת שמבטלת דעות אחרות. מכיוון שלכלי בינה מלאכותית אין אגו, תהליך סיעור המוחות הוא דבר נפלא. תנסו!

איך אפשר להעזר בזה בתחום החינוך?
לדוגמא, לא רק לתקן שגיאה, אלא להבין את המקור שלה, אפילו אם מדובר בטעות כתיב. אפשר ללמוד טוב יותר בעזרת AI, כאשר לא מקבלים רק את הפתרון לבעיה, אלא גם הסבר איך לפתור אותה. במקרה כזה הבינה המלאכותית משמשת כעוזרת הוראה. יש כבר מחקרים של הרווארד בהם רואים שתלמידים שעבדו עם כלי AI הרגישו שיש להם מאמן אישי בכיתה.

הסיפא של Jaime Teevan היה הקבלה של ההתמודדות עם העולם הלא ידועה שמביאה עמה הבינה המלאכותית, להתמודדות של מדענים. כלומר, יש שיטה של מדענים והיא עובדת: לא לעשות הכל מ – 0, לשתף מה אנחנו מצאנו כך שאפשר ללמוד עם זה ואפשר גם לא להסכים עם זה. זה המודל של תהליך מחקר מדעי.

בסוף ההרצאה שלה היא דיברה מכל הלב אל הנוכחים, רובם אנשי חינוך: יש לנו הזדמנות לעצב את עתיד החינוך. אני אגיד את זה בצורה יותר נחרצת – מוטלת עלינו החובה לשנות את פני החינוך.

קישורים:

הפוסט בלינקדאין של Jaime Teevan ובו רשימת המחקרים אליהם התייחסה בהרצאה

הפוסט הזדמנות לשינוי בחינוך – כזו דרמטית שמתרחשת אולי פעם בדור הופיע לראשונה ב-Sigalit DTL.

נדרשת אפליה מתקנת בבינה מלאכותית

Sigalit Sobel Savyon — Mon, 01 May 2023 08:22:04 +0000

כל מי שהתנסה בכלי AI גילה מהר מאוד שהכלים מציגים מציאות שונה ממה שהיינו רוצים.

כשרציתי שהכלים יציירו עבורי תמונה של נשים מנהלות סביב שולחן, הם פשוט סרבו. לא משנה כמה ניסיתי. בהרבה תמונות שביקשתי קהל מעורב מקצועי של נשים וגברים קיבלתי מעט נשים ונשים קטנות לעומת הגברים (אני יודעת שרוב הגברים יותר גבוהים מרוב הנשים, התוצאה שהתקבלה היתה לא סבירה) וגם כשביקשתי מהמכונה לתקן, היא סירבה או ביצעה תיקון שולי.
זה אומר שאני כבר כמה חודשים מסתובבת עם כוכבית קטנה בנושא הטיה מגדרית שמטרידה את מנוחתי. בפאנל שהתקיים השבוע גיליתי את עומק הבעיה וגם כמה פתרונות אפשריים. וכן, ללא ספק, נדרשת אפליה מתקנת בבינה המלאכותית.

השבוע התקיים מיטאפ בנושא חשוב ביותר "הטיות בבינה מלאכותית".

קהילת "מתחבטי מקצוע" ארחה את "הממרמניקיות". אלו 2 קהילות פעילות ומשמעותיות ששווה להכיר.
משתתפות הפאנל: דר׳ גלית וולנר, מרצה בכירה ב – HIT ובאוניברסיטת תל אביב, שירה וינברג הראל, יועצת ומרצה בתחומי מוצר ו – AI, דר׳ קרני שגל-פפרקורן, המרכז האקדמי למשפט ולעסקים ושותפה ב – Lexidale ומורן חכם, ראש צוות בינה מלאכותית ב – Outbrain.
4 נשים מרשימות עם ניסיון משמעותי בתחומים של בינה מלאכותית, יזמות, משפטים, עסקים ומדיניות.
את המיטאפ הנחתה אירית חומסי, מייסדת ומנהלת קהילת מתחבטי מקצוע.

אחד הדברים הראשונים שעלה בדיון – עובדתית ההטיה קיימת. אני לא היחידה ששותפה לתסכול מרובה הנסיונות לגרום ל – Mid Journey או כלים דומים אחרים לצייר משהו שלא נראה להם הגיוני (״נשים מנהלות״, לדוגמא). כמובן שקל לתת דוגמאות מהכלים של בינה מלאכותית יצירתית שרובנו נחשפנו אליהם, אם בשימוש ואם בשיח שקיים עליהם. צריך להבין שאם בכלים האלו (Chat GPT, DALL-E2, Mid Journey) אנחנו "רואים בעין" את ההטיה, היא קיימת בכלים אחרים הרבה יותר משמעותיים.

השאלות החשובות שעלו:

מה גורם לתוכנה להראות אמינה?

אנשים לא רגילים לפקפק בתשובות שהם מקבלים, קיימת ״הטיית הסמכות״ וכן היכולת של הכלים ״לחרטט בביטחון״ כמו שכתבה בצ׳אט אחת המשתתפות.

למה זה שהבינה המלאכותית מטה זה מטריד?

אם המציאות מטה למה זו בעיה שהבינה המלאכותית גם מטה?

בינה מלאכותית אמורה לשפר דברים אם קיימת הטיה יש פגיעה ולא שיפור.
מערכות AI מטבען יכולות לגרום לנזק גדול יותר כשיש הטיה. ניתנו דוגמאות מתחום ה – HR, כמו המקרה המפורסם של אמזון בו האלגוריתם התאמן על בסיס הנתונים של העובדים המוצלחים באמזון. האלגוריתם למד שמועמד מוצלח הוא גבר לבן וחיפש מועמדים דומים. זה כמובן תוקן.
דוגמא נוספת היא מערכות זיהוי פנים (Face Recognition) שיש להן כמעט 50% טעות בזיהוי פנים של נשים כהות. תדמיינו מה קורה במקומות כמו שדות תעופה וחברות גדולות בהם משתמשים בזיהוי פנים. איך נראים התורים של אלו שהאלגוריתם לא הצליח לזהות אותם?
גם במקומות בהן מסגרת האשראי ניתנת באופן אוטומטי כדי לספק שירות מהיר, נמצא כי מסגרת האשראי של נשים נמוכה משמעותית מזו של גברים.

מה צריך לעשות?

אחת הבעיות הגדולות עם הטיות היא שהן סמויות.

צריך לראות מה הדאטה סט שהאלגוריתם מתאמן עליו – האם הוא משקף את העולם האמיתי או שרוצים לעשות תיקון?

אפשר לעשות שימוש בטכנולוגיה שמוצאת הטיות ומציעה תיקונים.

לפני שימוש בכלי בינה מלאכותית ארגון צריך להגדיר את כל סוגי הלקוחות ולוודא שהם מקבלים ביטוי.

הרגולטור חייב להתערב. יש דברים שחברות יעשו רק אם יחייבו אותן. לדוגמא, לפרסם בשקיפות, בלי לפגוע בסודות מסחריים, מהם הפרמטרים העיקריים לפיהם נלקחו החלטות מסויימות.

המדינה צריכה לאפשר שימוש בארגזי חול בהם חברות יכולות לבצע ניסויים כדי להבין מה המשמעות של הפיתוחים והדאטה שלהן. אם חברות יוכלו לבצע ניסויים בצורה בטוחה ומגודרת, ניתן יהיה לבצע תיקונים לפני שמפיצים תוכנות. מעבר לכך שהתוכנות לא יפלו אנשים הן גם לא ילמדו דברים לא רצויים, שכן הניסוי סגור ולא משפיע על נתונים אחרים.

אני אוסיף בנושא הרגולציה שצריך לחייב חברות לפרסם הטיות השתגלו ומה הדרך וטווח הזמן לתיקון. זה כמו כל גילוי נאות בנושא של פגמים במוצרים.

וברמה האישית שלנו כמשתמשים?

לאמץ חשיבה ביקורתית. זה חשוב בלי קשר לבינה מלאכותית והצורך עולה יותר ככל שמתרבים הכלים בהם כל אחד יכול להשתמש וגם קל יותר לחברות לאמץ ובכך להשפיע על חלקים נרחבים מהציבור.

לסיכום

זו סוגיה שחייבת להישאר על סדר היום. לא מדובר רק בנשים. אני אקצין כדי להסביר את רוחב הבעיה: כל מי שאינו גבר לבן יחווה הטיה על ידי הבינה המלאכותית. ומה עומק הבעיה? זה הדבר המפחיד באמת! כלי בינה מלאכותית מתפשטים בקצב אדיר בכל מקום וזה נהדר. העולם שלנו חווה מהפכה בסדר גודל של המצאת החשמל, לא פחות. זה אומר שבכל תחום יעשה בשנים הקרובות שימוש משמעותי בבינה מלאכותית. אנחנו יודעים לומר היום שבמערכות לאיתור מועמדים לעבודה קיימת הטיה קשה. אלו מערכות שהשימוש בהן נרחב והוא רק יגדל. אם ההטיה לא תטופל זה ישפיע על דורות קדימה. ההשפעה היא הרבה מעבר למי מתקבל לעבוד במקום מסוים. המערכות לומדות אחת מהשניה. זה ישפיע על מי מקודם, מי מקבל אשראי לפתיחת עסק ומי נחשב יותר כבעל פוטנציאל בתחומים אחרים. זה גם יכול ללכת אחורה בשנים ולהשפיע על מערכות בינה מלאכותית שיהיו בעתיד בשימוש במוסדות חינוך. אנחנו לא רוצים את זה!

מה צריך לעשות כבר היום?
להיות אקטיביסטים בנושא, לחבור ברמה עולמית לפעילים אחרים ולדאוג שתהיה רגולציה.
בבריטניה פרסמו סט של חוקים בנושא בינה מלאכותית. באיחוד האירופאי עובדים על תקנות. שיתוף פעולה עולמי חשוב מאוד שכן לא מדובר בתופעות מקומיות, אלא במערכות שהפעילות שלהן משפיעה על כל העולם ולאורך זמן.

קישורים:

הקלטת המפגש

קהילת מתחבטי מקצוע

הפוסט נדרשת אפליה מתקנת בבינה מלאכותית הופיע לראשונה ב-Sigalit DTL.

סוף סוף מצאתי תיאוריה אסטרטגית פרקטית

Sigalit Sobel Savyon — Mon, 20 Feb 2023 15:19:48 +0000

שמחתי להיות בין הראשונים שקוראים את הספר של Jeroen Kraaijenbrink, The One-Hour Strategy. השם שלו מבטיח מאוד וכדי שלא תהיו במתח אני יכולה לומר לכם שהוא מקיים את ההבטחה.

אנחנו חיים בעידן בו קצב השינויים אדיר, מוצפים במידע והקשב שלנו קצר. העידן הזה משפיע גם על היכולת שלנו כאנשי מקצוע להתמודד עם ספרות מקצועית ובוודאי משפיע על כל ההתנהלות של ארגונים. אחרי כמה עמודים ראשונים של קריאה מגלים שהוא ספר מקצועי שכיף לקרוא אותו וזה לא קורה הרבה פעמים. תוך כדי העמקה בקריאה אנחנו מבינים שהתפיסה האסטרטגית שמוצגת פה כל כך רלוונטית לעולם שאנחנו חיים בו ולכיוונים שהוא הולך.

הספר כתוב כעלילה פשוטה על מרטין, העובד החדש במחלקת השיווק של “Water & Flows”, חברה שמייצרת משאבות תעשייתיות. הימים הראשונים של מרטין בעבודה חושפים תפיסת ניהול ואסטרטגיה חדשנית בחברה שנחשבת כ – low tech. הדרך בה העובדים עמם נפגש מרטין מתארים את האסטרטגיה גרמה לי לרצות לעבוד בחברה הדמיונית הזו. למרות שהיא דמיונית, היא יכולה להיות מקום העבודה של כל אחד מאיתנו.
התפיסה של “One-Hour Strategy” מתבהרת תוך כדי קריאת הספר. היא המענה לחוסר הרלוונטיות של שיטות אסטרטגיות שמיושמות בארגונים. השיטה רלוונטית לארגונים הפועלים בעולם המשתנה ללא הרף, שזה אומר לכולם, כי כולנו מתמודדים עם אותם האתגרים.

מה מיוחד בשיטה?

היא מערבת את כל העובדים בארגון באופן שוטף. אין יותר מפגש אסטרטגיה פעם בשנה, בו כולם יושבים וקוראים מיילים. האסטרטגיה היא תהליך מתמשך ולא אירוע. היא מתמודדת בצורה טובה עם הפער בין אסטרטגיה להוצאה לפועל.

עובדים מעורבים זה צו השעה

אני רוצה להתעכב על נקודה חשובה של מעורבות העובדים. אני מאמינה גדולה בשיתוף עובדים בכל הרמות במה שקורה בארגון.
הסיבה שכל כך התחברתי ל – “One-Hour Strategy” היא שבבסיסה היא מערבת את כולם.
למעורבות עובדים יש יתרונות שחשובים עכשיו יותר מתמיד. ארגונים חייבים להיות במצב שהם מעדכנים בצורה אינקרמנטלית באופן תמידי את דרך הפעולה שלהם.
יתרון ראשון של שיתוף עובדים הוא שככל שאנשים מעורבים יותר, הם מגלים יותר סובלנות ופתיחות לשינויים. רמת ההתנגדות יורדת, שכן הם חלק מהתהליך שגורם לשינויים.
יתרון נוסף הוא שעובדים מעורבים עוזרים לארגון לחשוב בכיוון הנכון ולאמץ שינויים רלוונטיים. אסור שעובדים ירגישו שהם ״לא נספרים״ ושהם אחראים רק על ההוצאה לפועל של מה שבדיוק מוגדר בתפקיד שלהם. חברות צריכות לזכור מה קרה לקודאק שהתעלמה מהמצלמה הדיגיטלית, שהומצאה על ידי עובד שלה, ולדעת שבעולם בו אנו חיים הסיכון ל״קודאק 2״ הרבה יותר גדול.

מימוש והפנמה של אסטרטגיה תוך כדי הקריאה

הספר אמנם בנוי בצורה ספרותית ויחד עם זאת ניכר שהושקעה מחשבה רבה בדרך בה תופנם האסטרטגיה.
בסיום כל פרק יש שאלות שמחברות בין השיטה לבין המקום בו הקורא עובד. הקורא צריך להקדיש כמה דקות של מחשבה בכל סוף פרק, כאשר החיבור למציאות של כל אחד מאיתנו מסייע להבנה ולהפנמה.
דרך התובנות שמרטין רושם לעצמו תוך כדי הפגישות, התפיסה מתחדדת לנו הקוראים. כשמסיימים לקרוא וחוזרים לרשימת התובנות, הכל מתיישב בראש הרבה יותר טוב.

דף מהמחברת הדיגיטלית שלי – התובנות שלי על התובנות של מרטין.

בנוסף, תוך כדי התיאור של האסטרטגיה על ידי האנשים מהארגון עמם מרטין נפגש, הם מציגים לו תבניות למימוש האסטרטגיה ואפילו תבניות לניהול פגישות.

יותר מאשר רק אסטרטגיה

מעבר לחיבור המצוין בין אסטרטגיה לתפקוד בפועל של הארגון, יש בספר גם המלצות שרלוונטיות למנהלים בכלל.
ההמלצות מופיעות בין השורות וכדאי לשים לב אליהן.

הכל מושלם?

הספר מתייחס גם לנקודות התורפה של השיטה, איך להתגבר עליהן וכן מתי היא מתאימה ומתי לא.

לסיכום

אם אתם בתפקידי ניהול או אסטרטגיה זה ספר חובה.

אני בטוחה שמנהלים ואסטרטגים יזהו דברים שהם עשו, מתוך תחושת בטן, כדי לנסות להתמודד עם תיאוריות אסטרטגיות שקשה לממש. השיטה של “One-Hour Strategy” מתגברת על הלקויות של התיאוריות הוותיקות.
זו גישה עכשווית שקל לאמץ והדרך בה היא בנויה ומוצגת מאפשר לכל אחד לבצע התאמות למציאות של הארגון שלו.

הפוסט סוף סוף מצאתי תיאוריה אסטרטגית פרקטית הופיע לראשונה ב-Sigalit DTL.