ארכיון Midjourney - Sigalit DTL https://sigalitsobel.com/tag/midjourney/ Digital Transformation Leader | Public Sector Expert Mon, 01 May 2023 08:33:21 +0000 he-IL hourly 1 https://wordpress.org/?v=6.7.1 https://sigalitsobel.com/wp-content/uploads/2019/03/cropped-sigalit-flower-favico-32x32.png ארכיון Midjourney - Sigalit DTL https://sigalitsobel.com/tag/midjourney/ 32 32 נדרשת אפליה מתקנת בבינה מלאכותית https://sigalitsobel.com/ai-affirmative-action-is-needed/ Mon, 01 May 2023 08:22:04 +0000 https://sigalitsobel.com/?p=6081 כל מי שהתנסה בכלי AI גילה מהר מאוד שהכלים מציגים מציאות שונה ממה שהיינו רוצים. כשרציתי שהכלים יציירו עבורי תמונה של נשים מנהלות סביב שולחן, הם פשוט סרבו. לא משנה כמה ניסיתי. בהרבה תמונות שביקשתי קהל מעורב מקצועי של נשים וגברים קיבלתי מעט נשים ונשים קטנות לעומת הגברים (אני יודעת שרוב הגברים יותר גבוהים מרוב …

נדרשת אפליה מתקנת בבינה מלאכותית לקריאה »

הפוסט נדרשת אפליה מתקנת בבינה מלאכותית הופיע לראשונה ב-Sigalit DTL.

]]>

כל מי שהתנסה בכלי AI גילה מהר מאוד שהכלים מציגים מציאות שונה ממה שהיינו רוצים.

כשרציתי שהכלים יציירו עבורי תמונה של נשים מנהלות סביב שולחן, הם פשוט סרבו. לא משנה כמה ניסיתי. בהרבה תמונות שביקשתי קהל מעורב מקצועי של נשים וגברים קיבלתי מעט נשים ונשים קטנות לעומת הגברים (אני יודעת שרוב הגברים יותר גבוהים מרוב הנשים, התוצאה שהתקבלה היתה לא סבירה) וגם כשביקשתי מהמכונה לתקן, היא סירבה או ביצעה תיקון שולי.
זה אומר שאני כבר כמה חודשים מסתובבת עם כוכבית קטנה בנושא הטיה מגדרית שמטרידה את מנוחתי. בפאנל שהתקיים השבוע גיליתי את עומק הבעיה וגם כמה פתרונות אפשריים. וכן, ללא ספק, נדרשת אפליה מתקנת בבינה המלאכותית.

השבוע התקיים מיטאפ בנושא חשוב ביותר "הטיות בבינה מלאכותית".

קהילת "מתחבטי מקצוע" ארחה את "הממרמניקיות". אלו 2 קהילות פעילות ומשמעותיות ששווה להכיר.
משתתפות הפאנל: דר׳ גלית וולנר, מרצה בכירה ב – HIT ובאוניברסיטת תל אביב, שירה וינברג הראל, יועצת ומרצה בתחומי מוצר ו – AI, דר׳ קרני שגל-פפרקורן, המרכז האקדמי למשפט ולעסקים ושותפה ב – Lexidale ומורן חכם, ראש צוות בינה מלאכותית ב – Outbrain.
4 נשים מרשימות עם ניסיון משמעותי בתחומים של בינה מלאכותית, יזמות, משפטים, עסקים ומדיניות.
את המיטאפ הנחתה אירית חומסי, מייסדת ומנהלת קהילת מתחבטי מקצוע.

אחד הדברים הראשונים שעלה בדיון – עובדתית ההטיה קיימת. אני לא היחידה ששותפה לתסכול מרובה הנסיונות לגרום ל – Mid Journey או כלים דומים אחרים לצייר משהו שלא נראה להם הגיוני (״נשים מנהלות״, לדוגמא). כמובן שקל לתת דוגמאות מהכלים של בינה מלאכותית יצירתית שרובנו נחשפנו אליהם, אם בשימוש ואם בשיח שקיים עליהם. צריך להבין שאם בכלים האלו (Chat GPT, DALL-E2, Mid Journey) אנחנו "רואים בעין" את ההטיה, היא קיימת בכלים אחרים הרבה יותר משמעותיים.

השאלות החשובות שעלו:

מה גורם לתוכנה להראות אמינה?

אנשים לא רגילים לפקפק בתשובות שהם מקבלים, קיימת ״הטיית הסמכות״ וכן היכולת של הכלים ״לחרטט בביטחון״ כמו שכתבה בצ׳אט אחת המשתתפות.

למה זה שהבינה המלאכותית מטה זה מטריד?

אם המציאות מטה למה זו בעיה שהבינה המלאכותית גם מטה?

בינה מלאכותית אמורה לשפר דברים אם קיימת הטיה יש פגיעה ולא שיפור.
מערכות AI מטבען יכולות לגרום לנזק גדול יותר כשיש הטיה. ניתנו דוגמאות מתחום ה – HR, כמו המקרה המפורסם של אמזון בו האלגוריתם התאמן על בסיס הנתונים של העובדים המוצלחים באמזון. האלגוריתם למד שמועמד מוצלח הוא גבר לבן וחיפש מועמדים דומים. זה כמובן תוקן.
דוגמא נוספת היא מערכות זיהוי פנים (Face Recognition) שיש להן כמעט 50% טעות בזיהוי פנים של נשים כהות. תדמיינו מה קורה במקומות כמו שדות תעופה וחברות גדולות בהם משתמשים בזיהוי פנים. איך נראים התורים של אלו שהאלגוריתם לא הצליח לזהות אותם?
גם במקומות בהן מסגרת האשראי ניתנת באופן אוטומטי כדי לספק שירות מהיר, נמצא כי מסגרת האשראי של נשים נמוכה משמעותית מזו של גברים. 

מה צריך לעשות?

אחת הבעיות הגדולות עם הטיות היא שהן סמויות.

צריך לראות מה הדאטה סט שהאלגוריתם מתאמן עליו – האם הוא משקף את העולם האמיתי או שרוצים לעשות תיקון?

אפשר לעשות שימוש בטכנולוגיה שמוצאת הטיות ומציעה תיקונים.

לפני שימוש בכלי בינה מלאכותית ארגון צריך להגדיר את כל סוגי הלקוחות ולוודא שהם מקבלים ביטוי.

הרגולטור חייב להתערב. יש דברים שחברות יעשו רק אם יחייבו אותן. לדוגמא, לפרסם בשקיפות, בלי לפגוע בסודות מסחריים, מהם הפרמטרים העיקריים לפיהם נלקחו החלטות מסויימות.

המדינה צריכה לאפשר שימוש בארגזי חול בהם חברות יכולות לבצע ניסויים כדי להבין מה המשמעות של הפיתוחים והדאטה שלהן. אם חברות יוכלו לבצע ניסויים בצורה בטוחה ומגודרת, ניתן יהיה לבצע תיקונים לפני שמפיצים תוכנות. מעבר לכך שהתוכנות לא יפלו אנשים הן גם לא ילמדו דברים לא רצויים, שכן הניסוי סגור ולא משפיע על נתונים אחרים.

אני אוסיף בנושא הרגולציה שצריך לחייב חברות לפרסם הטיות השתגלו ומה הדרך וטווח הזמן לתיקון. זה כמו כל גילוי נאות בנושא של פגמים במוצרים.

וברמה האישית שלנו כמשתמשים?

לאמץ חשיבה ביקורתית. זה חשוב בלי קשר לבינה מלאכותית והצורך עולה יותר ככל שמתרבים הכלים בהם כל אחד יכול להשתמש וגם קל יותר לחברות לאמץ ובכך להשפיע על חלקים נרחבים מהציבור.

לסיכום

זו סוגיה שחייבת להישאר על סדר היום. לא מדובר רק בנשים. אני אקצין כדי להסביר את רוחב הבעיה: כל מי שאינו גבר לבן יחווה הטיה על ידי הבינה המלאכותית. ומה עומק הבעיה? זה הדבר המפחיד באמת! כלי בינה מלאכותית מתפשטים בקצב אדיר בכל מקום וזה נהדר. העולם שלנו חווה מהפכה בסדר גודל של המצאת החשמל, לא פחות. זה אומר שבכל תחום יעשה בשנים הקרובות שימוש משמעותי בבינה מלאכותית. אנחנו יודעים לומר היום שבמערכות לאיתור מועמדים לעבודה קיימת הטיה קשה. אלו מערכות שהשימוש בהן נרחב והוא רק יגדל. אם ההטיה לא תטופל זה ישפיע על דורות קדימה. ההשפעה היא הרבה מעבר למי מתקבל לעבוד במקום מסוים. המערכות לומדות אחת מהשניה. זה ישפיע על מי מקודם, מי מקבל אשראי לפתיחת עסק ומי נחשב יותר כבעל פוטנציאל בתחומים אחרים. זה גם יכול ללכת אחורה בשנים ולהשפיע על מערכות בינה מלאכותית שיהיו בעתיד בשימוש במוסדות חינוך. אנחנו לא רוצים את זה!

מה צריך לעשות כבר היום?
להיות אקטיביסטים בנושא, לחבור ברמה עולמית לפעילים אחרים ולדאוג שתהיה רגולציה.
בבריטניה פרסמו סט של חוקים בנושא בינה מלאכותית. באיחוד האירופאי עובדים על תקנות. שיתוף פעולה עולמי חשוב מאוד שכן לא מדובר בתופעות מקומיות, אלא במערכות שהפעילות שלהן משפיעה על כל העולם ולאורך זמן.

 

הפוסט נדרשת אפליה מתקנת בבינה מלאכותית הופיע לראשונה ב-Sigalit DTL.

]]>
הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) https://sigalitsobel.com/prepare-your-ortanization-to-generative-ai/ Fri, 10 Feb 2023 12:19:27 +0000 https://sigalitsobel.com/?p=5977 אם חשבתם שהקורונה היא השינוי הגדול שכולנו התמודדנו איתו ומעכשיו נחזור לעולם שדי דומה לזה שהכרנו לפני הקורונה, זה לא יקרה. העולם משתנה ללא הרף וכלי ה – Generative AI הם מהפכה משנת מציאות הרבה יותר מהקורונה, אך פחות מפחידה ממנה. אני רוצה לעשות שימוש ב – ChatGPT כמשל לחדשנות ושינויים מהירים כפי שלא הכרנו. …

הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) לקריאה »

הפוסט הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) הופיע לראשונה ב-Sigalit DTL.

]]>

אם חשבתם שהקורונה היא השינוי הגדול שכולנו התמודדנו איתו ומעכשיו נחזור לעולם שדי דומה לזה שהכרנו לפני הקורונה, זה לא יקרה. העולם משתנה ללא הרף וכלי ה – Generative AI הם מהפכה משנת מציאות הרבה יותר מהקורונה, אך פחות מפחידה ממנה.

אני רוצה לעשות שימוש ב – ChatGPT כמשל לחדשנות ושינויים מהירים כפי שלא הכרנו.

בין הסגר הראשון לשני התחלנו לדבר על כך שלאנשים ובמיוחד לארגונים נדרשת יכולת מהירה להסתגל לשינויים. יותר מאוחר, התחלנו לנתח את מה שקרה בעולם והחל שיח בארגונים על המוכנות לשינוי הגדול הבא. ההבנה שאנחנו חיים בעולם כאוטי ולא נודע חילחלה וכולם הסכימו שחייבים לפתח יכולת מתמדת להגיב לשינויים.
מה קרה? לפי מה שאני רואה רוב הארגונים חזרו לאזור הנוחות שלהם, עם כמה שינויי קורונה בלתי נמנעים. העובדים מקיימים חלק מהפגישות בזום, הארגונים מאפשרים עבודה היברידית ושוקלים מעבר לענן.
במקביל העולם משתנה בקצב מסחרר שרק הולך וגדל. בואו נסתכל על החידוש האחרון, Generative AI. זה לא סתם חידוש, זו מהפכה, לא פחות ממהפכת האינטרנט. המימושים הכי נפוצים ומוכרים בציבור של Generative AI הם ChatGPT, DALL-E2 ו – Midjourney. הם נפוצים כי הם מגניבים, מעיפים את הראש וקל לעשות בהם שימוש ללא כל רקע טכנולוגי. מאחרי המוצרים האלו עומד עולם שלם בשם Generative AI, סוג של בינה מלאכותית שיוצרת תוכן חדש ממידע קיים. אפשר לייצר טקסט, תמונות, קול וסרטים ולעשות בזה שימושים מרתקים. מה שמציף את הרשת בחודשים האחרונים הן דוגמאות פשוטות. לבקש מ – DALL-E2 לצייר ציור שמן זית של דמות מיני מאוס מסתכלת על חבצלות המים של מונה בסגנון אימפרסיוניסטי של קלוד מונה, זו דוגמא איך הבינה המלאכותית לוקחת את המידע שלה על מה זה ציור שמן, מה זה סגנון אימפרסיוניסטי ספציפי של קלוד מונה, מהן חבצלות המים של מונה ואיך נראית מיני מאוס ועושה מכל זה תמונה חדשה שמבוססת על כל המידע שיש לה בנושאים האלו. תראו את התמונה ותראו מה קורה כשמבקשים מ – ״דאלי 2״ לצייר את אותו הדבר רק בסגנון קוביסטי של בראק. ושלא תגידו שלמכונה אין חשיבה עצמאית ואיך היא ברוב חוכמתה הוסיפה בשדה ברקע את דונאלד דאק.

Ask DALL-E2 to draw an olive oil painting of Minnie Mouse looking at Monet's Water Lilies in Claude Monet's Impressionist style. Ask DALL-E2 to draw an olive oil painting of Minnie Mouse looking at Monet's Water Lilies in Claude Monet's Impressionist style. Look at the picture and see what happens when you ask DALL-E2 to paint the same thing, only in the Cubist style of Braque.

אני בכוונה מתעכבת על הדוגמאות הפשוטות האלו. אני מעודדת בחודשיים האחרונים את כל מי שאני מכירה לפתוח חשבון ב – OpenAI ולהתנסות גם ב – DALL-E2 וגם ב – ChatGPT. אני מתעקשת שוב ושוב על זה שכולם צריכים להתנסות בטכנולוגיה מכיוון שזו מהפכה בסדרי גודל שקשה לדמיין. מי שישאר מאחור יהיה חסר כישורים רלוונטיים בשנים הקרובות. 

מוכנות לשינויים ארגוניים

מעבר לכישורים האישיים, ההתנסות והחיבור לעולמות של Generative AI חשובים מאוד כדי להאיץ הכנסת חדשנות לארגונים. קצב השינוי פה גדול מאוד. כשמדובר בארגונים גדולים, לרובם קשה לאמץ טכנולוגיות חדשות בשלב הראשון וזה בסדר.

חלק קריטי מהמוכנות לשינוי הארגוני הם האנשים בארגון. מובילי שינוי בארגונים צריכים לזהות את אלו שכבר עושים עבור עצמם כל מיני דברים בטכנולוגיות של Generative AI וגם כאלו שבאופן טבעי הם מאמצים מוקדמים של חידושים. את העובדים האלו צריך לעודד כי מהם יגיעו הרעיונות לאיך Generative AI יכול לעזור לצרכים של הארגון. אלו אנשים שהם גם חדשניים וגם מכירים את הארגון. צירוף מנצח שחייבים לתת לו מקום חשוב כל הזמן ועכשיו יותר מתמיד. ברגע שעולה רעיון שנראה אם פוטנציאל, צריך להכניס ספק שיוכל לבצע לפחות מוצר עם ערך מינימילי (MVP) בזמן קצר מאוד. ברגע שיהיה מוצר צריך לאפשר לכל מי שרוצה בארגון לעשות בו שימוש, לשלוח הסבר שמדבר על החדשנות ועל התועלות וכך לחבר עוד אנשים מדרגים שונים לשינוי.

צריך לנצל את זה שכולם מדברים על היישומים הפופולריים של Generative AI (ChatGPT, DALL-E 2, Midjourney) כדי לייצר מהפכה בדרך שבה הארגון מגיב לשינויים. זו הזדמנות ולא איום ואני ארחיב על זה בפוסט נפרד.

הכנת הנתונים והמידע הארגוני

מה שחשוב להבין שהטנולוגיה הזו מבוססת כולה על נתונים. פעם היתה לנו, לאנשי מערכות המידע הותיקים, סיסמא: ״Garbage in, garbage out״. כלומר, אם תכניס למערכת נתונים לא איכותיים (בלשון המעטה) תקבל בחזרה תוצר שהוא לא איכותי ולא אמין. רוב הארגונים הגדולים מנהלים דורות רבים של מערכות מחשב שאינן מדברות אחת עם השניה או שמדברות באמצעות כל מיני דרכים שנסללו על פני השנים. במערכות האלו, במערכות חיצוניות לארגון וכן בהרבה אקסלים יש מידע יקר מפז שצריך לעבור תהליכים של ארגון מחדש כדי שניתן יהיה לעשות בו שימוש בעולם של Generative AI. 

ארגונים צריכים לדאוג לאמת ארגונית אחת, למפות את כל מאגרי המידע שלהם, כולל כאלו שאינם מובנים ובמקביל לחשוב על פרויקט שבו ניתן לבחון את התועלת ש – Generative AI יכול להביא לארגון.

אני ממליצה לכם להאזין לפרק מרתק בפודקסט Markettrip ״איך משתמשים בבינה מלאכותית בחיי היומיום של סטארטאפ״ (קישור בסוף הפוסט). תומר צוקר ואייל מרקוס מארחים את עדי עזריה, מנכ״ל Workiz, חברת SaaS שמאפשרת לנותני שירותים (כגון מנעולנים, אינסטלטורים וטכנאים) לנהל את העסק שלהם בצורה יעילה. עדי עזריה מספר על יישומי בינה מלאכותית ש – Workiz עושה בהם שימוש. מעבר לשיחה המעניינת, הדוגמאות של השימוש בפועל עוזרות לקבל רעיונות לשימושים אחרים, כל אחד בתחום של הארגון שלו. הדוגמאות האלו מתאימות לארגונים בכלל, לאו דווקא ארגוני טכנולוגיה וזה חשוב מאוד, שכן הבינה המלאכותית הולכת ליעל את העולם בכל התחומים. מי שיכנס קודם ללא ספק ירוויח וחשוב מזה, מי שישתהה ישאר מאחור.

כלים שחייבים להתנסות בהם

אתם יודעים שאני אוהבת לתת למי שקורא את הפוסטים שלי גם משימות, שלא תישארו קוראים פאסיביים.

מי שעדין לא פתח חשבון ב – OpenAI, אתם חייבים להתנסות ותעשו איתו ״סתם״ דברים או משהו שאתם ממש צריכים. אם מדובר בתמונה שאתם צריכים או שבא לכם לאתגר את הבינה המלאכותית עם דמיונכם העשיר. לגבי ChatGPT, תשוחחו איתו. קחו נושא ותשאלו עליו, תבקשו דוגמאות, תבקשו אנלוגיות. ככל שתהיו מדוייקים יותר בשאלה שלכם, השיחה תהיה מעניינת יותר. ו-כן, זו שיחה, לא חיפוש בגוגל.

יש עוד כלי שאם עדין לא עשיתם בו שימוש – זה הזמן ומהר. קוראים לו WordTune ואל תשוו אותו ל – Grammarly. זה אתר וגם תוסף כרום (אני ממליצה להתקין את התוסף). הוא יודע לשדרג טקסט שאנחנו כותבים באנגלית בעזרת בינה מלאכותית. מה זה אומר לשדרג? להציע ניסוחים שונים, להציע שפה עשירה יותר, להציע טקסט קצר או ארוך יותר, להציע שפה פורמלית או יומיומית. מה שהכי שימושי בעיני זו הכוכבית הקטנה שמתבלנת את הטקסט (Spices). כשלוחצים על ״Add Spice״ נפתחות אפשרויות נפלאות: הוספת הסבר, הדגשה, הרחבה, דוגמא, אנלוגיה, עובדה סטטיסטית, בדיחה, דעה מנוגדת, עובדה היסטורית, ציטוט. אחרי שתתנסו פעם אחת, תחשבו כמה שעות ביזבזנו בחיפושים ועריכה לפני שהיכולת הזו הוצגה לפנינו. עוד יכולת נהדרת של WordTune היא לתקצר מאמרים, דוחות וכל טקסט שיש לכם גרסה דיגיטלית שלו.

אחרי שתעשו שימוש בכלים שהוזכרו פה ובפוסט הקודם, תחשבו איך הם עוזרים לכם ברמה האישית, מעבר למשחק הנחמד ואיך הם עוזרים לכם ברמה הארגונית. מי שמתעלם היום מעולם ה – Generative AI לא באמת למד מתקופת הקורונה שאנחנו חייבים להכין את עצמנו לעולם משתנה.  עכשיו צריך לצאת מאזור הנוחות האישי והארגוני ולהגיב במועד ובקצב הנכון לשינוי המתרחש עלינו לטובה.

איך מתחילים?

אם אתם זקוקים לעזרה בלמצוא פרויקט ארגוני אחד כדי להיכנס לתחום, בלי להיגרר להשקעות גדולות ולוחות זמנים ארוכים, אני כאן בשבילכם. יש לי הוכחות שזה אפשרי ואפילו הופך למהנה ולא מפחיד. המוטו שלי ״אף ארגון לא נשאר מאחור״ ואני יודעת כמה מורכב לבצע שינויים בארגונים גדולים.

התמונה בראש הפוסט, גם היא תוצר של Midjourney, כשביקשתי ממנו: 

“A world of companies such as Apple, Harley Davidson, Nike, Coca Cola, and Louis Vuitton that balance innovation and tradition.”

הפוסט הכינו את עצמכם לעידן הבינה המלאכותית היצירתית (Generative AI) הופיע לראשונה ב-Sigalit DTL.

]]>