מה מלמד אותנו בן שניידרמן על עיצוב ממוקד-אדם?

כתבה על הספר של בן שניידרמן- Human Centered Design, נכתב על ידי מתנדב המכון, ירדן בן שושן

כמעט כולנו זוכרים את הסרטון המפורסם משנת 2023 שיוצר בבינה מלאכותית בו רואים את וויל סמית' אוכל פסטה. ניתן לומר שבכל קנה מידה הסרטון ההוא לא היה מוצלח בלשון המעטה. הוא שיקף בצורה חד משמעית את חוסר היכולת של כלי AI באותה התקופה לייצר סרטון ברור, ריאליסטי ומדויק. שנה חלפה וכלי AI נוספים יצרו את אותו הסרטון. הפעם, התוצאות היו לא פחות ממדהימות. בסרטונים החדשים, ניתן לראות בבירור את השחקן המפורסם לכאורה אוכל פסטה באופן כמעט ריאליסטי לחלוטין. כמובן שמדובר ביצירת AI ולא בסרטון אמיתי אך הפער העצום בין התוצאה בשנת 2023 לזו שבשנה לאחר מכן הוא כמעט בלתי נתפס. הפער הזה, מדגיש יותר מהכל את הקפיצת מדרגה העצומה שכלים אלו עשו בעולם ביצירת הסרטונים. אך למען האמת, בשנים האחרונות AI עשה קפיצת מדרגה לא רק בתחום יצירת הסרטונים או מחוללי התמונות, אלא כמעט בכל תחום שהוא. עתה, הגיעה העת לנהל דיון על עתיד הבינה המלאכותית וכיצד אפשר וצריך לשלב אותה בשלל רבדי חיינו.

בספרו המרתק, בן שניידרמן מצעי גישה חדשנית ליצירת בינה מלאכותית ממוקדת-אדם (HCAI), המשלבת בין אלגוריתמים חכמים לחשיבה ממוקדת משתמש, תוך העצמת האדם ושמירה על ערכים כמו זכויות, צדק וכבוד. HCAI מדגישה שליטה אנושית במערכות אוטומטיות ומשתמשת בעיצוב חוויית משתמש כדי לשפר את ביצועי האדם. חזונו של שניירדמן כולל פיתוח "כלי-על", "רובוטים מרוחקים" ו"מכשירים פעילים" שמגבירים את המסוגלות העצמית, היצירתיות והאחריות של המשתמשים. המטרה היא ליישם טכנולוגיה שמקדמת מטרות חברתיות כמו רווחת האדם, תוך מניעת סיכונים הקשורים לשחקנים זדוניים, הטיות ותקלות טכנולוגיות. הספר מציע שלוש דרכים עיקריות לקידום HCAI:

1. מסגרת עיצוב המשלבת שליטה אנושית עם אוטומציה.
2. מטאפורות עיצוב לשילוב בין מדע לחדשנות.
3. שיטות ממשל אפקטיביות לגישור בין עקרונות אתיים למעשים.

מסגרת עיצוב המשלבת שליטה אנושית עם אוטומציה

על מנת שנוכל להבין לעומק את הניגוד הקיים בין AI ל-HCAI עלינו לחזור אחורה בזמן ולבחון את העימות הנצחי שבין רציונליזם המבוסס על ניתוחים לוגיים, לבין האמפיריציזם המבוסס על חקר חושי של העולם. דוגמה מצויינת מתוך הספר (אחת מיני רבות) מדברת על שואב האבק Roomba של iRobot. מכשיר זה עוצב כך שיוכל לבצע את עבודתו באופן עצמאי ועל כן ממשק המשתמש שלו מאוד מצומצם (שלושה כפתורים וכמה נורות צבעוניות). Roomba עוצב מתוך הגישה הרציונליסטית (מה טוב יותר ממוצר שמבצע את העבודה בעצמו?), במקום חשיבה אמפיריציסטית שתיתן למשתמשים תחושת שליטה גדולה יותר המעמידה אותם במרכז. טיעונים טובים יש לכאן או לכאן. אך יחד עם זאת, הגבולות הברורים, הלוגיקה וההוכחות המתמטיות המאפיינות את הרציונליזם לא תמיד תקפות בעולם האמיתי שם הגישה האמפיריציסטית באה לידי ביטוי באמצעות חקירה חושית של העולם והבנה של מצבים מורכבים ומגוונים.

השילוב בין רציונליזם לאמפיריציזם יכול להוביל לשיפור עיצובים, בעיקר בתחומים כמו רכבים אוטונומיים וממשקי משתמש אינטואיטיביים. מצד אחד הגדלת האוטומציה, ומהצד השני הגדלת השליטה והפיקוח שיש למשתמש. האוטומציה צריכה להיות תחת שליטה אנושית, עם ממשקים אינטואיטיביים שמספקים תצוגה כללית, משוב מיידי ותיעוד ברור לפעולות. מניפולציה ישירה ותיעוד פעילות, כמו "קופסאות שחורות", מאפשרים למשתמשים לכוון ולתקן את פעולת המערכת, לשפר אמינות ולמנוע תקלות קריטיות. גישת HCAI מציעה פתרונות ממוקדי-אדם לשיפור טכנולוגיות, תוך התמקדות בשיתוף פעולה בין משתמשים למערכות אוטומטיות. הדגש הוא על פיתוח כלים המעצימים משתמשים ולא מחליפים אותם, באמצעות תצפיות, משוב מתמשך ותיעוד פעילות.

תומכי HCAI מדגישים את ההבדלים המהותיים בין בני אדם למחשבים. בני אדם מתאפיינים ביכולות ייחודיות שנבנו באבולוציה תרבותית וטכנולוגית, כמו יצירתיות, רגשות ויכולות חברתיות, שאינן ניתנות לחיקוי מלא על ידי מחשבים. בעוד שמחשבים יכולים לשמש לחיקוי פעולות אנושיות, הערך הגדול ביותר שלהם הוא בהעצמת היכולות האנושיות. במקום לפתח מחשבים המדמים בני אדם, יש להעדיף עיצוב "כלי-על" המסייעים לאנשים לבצע משימות מורכבות ויצירתיות. למשל, מיקרוסקופים וטלסקופים הם הרחבות של העין האנושית ומעצימים את יכולותיה.

בספרו, שניידרמן מבקר את הגישה החד-ממדית שרואה באוטומציה ושליטה אנושית משחק סכום אפס. כלומר, הגברת האוטומציה בהכרח תבוא על חשבון שליטה אנושית. הוא טוען, כי השיעור הראשון לגבי מערכות אוטונומיות, הוא שמתן בקרה למשתמש ואפשרות לעקוף את פעולת המערכת בסופו של דבר תיצורנה מערכות אמינות ובטוחות יותר. השיעור השני הוא היסטוריית ביצועים, כדוגמת יומן אירועים, מספקות נתונים בעלי ערך שמובילים לשכלול מתמשך בעיצוב. בשנים הראשונות של טכנולוגיית כריות האוויר ברכבים, יותר מ-100 תינוקות וקשישים נהרגו על ידי הפעלתה בשוגג. רק לאחר שינוי עיצובי שהתאפשר בעזרת איסוף נתונים על טעויות ותקלות, מערכת כריות האוויר הפכה בטוחה לשימוש. כחלופה, מציע שניידרמן את הגישה הדו-ממדית של HCAI הדוגלת לאזן בין רמות גבוהות של אוטומציה ושליטה אנושית, תוך שיפור התכנון במגוון תחומים כמו תחבורה ובריאות. מטרתה של גישה זו, הינה להעצים את הביצועים האנושיים תוך שמירה על אמינות, בטיחות ואחריות. היא מעודדת עיצובים חדשניים המשלבים בין תכונות מחשב ייחודיות, כגון חיישנים ואלגוריתמים מתקדמים, לבין יכולות אנושיות ליצירתיות ופתרון בעיות. שליטה אנושית חשובה במערכות המערבות קבלת החלטות יצירתית או מצבי חירום. HCAI מאפשרת שילוב בין שליטה אנושית גבוהה ואוטומציה, תוך שמירה על גמישות והתאמה למצבים משתנים.

מטאפורות עיצוב לשילוב בין מדע לחדשנות

ע"פ שניידרמן, באופן כללי, המטרות בתחום מתחלקות לשתי קטגוריות עיקריות: מדעיות—הבנת היכולות האנושיות ושחזורן, וחדשנות—יצירת כלים ושירותים המשרתים אנשים. המטרה המדעית שואפת לחקור יכולות אנושיות תפיסתיות, קוגניטיביות ומוטוריות, ולבנות מחשבים המחקים אותן כגון רובוטים חברתיים דמויי אדם או מחשבים המנסים לחקות רגשות אנושיים ואף מכונות בעלות יכולות מוסריות ואתיות.

מטרת החדשנות מתמקדת בפיתוח "כלי-על" (supertools), המשלבים אוטומציה ושליטה אנושית להגברת היכולות האנושיות. "כלי-על" מן הסוג הזה קיימים באפליקציות המספקות מידע על זמני טיסות בנמלי תעופה, כלים שיתופיים כדוגמת Google Docs היכולים לחבר בין אנשים ואף בפרוטזות היכולות להגביר יכולות פיזיות. מפתחי חדשנות מעדיפים עיצובים פשוטים, ברורים ושניתנים לשליטה, המדגישים בטיחות, אמינות והעצמת משתמשים. שילוב שתי הגישות (מדעית וחדשנית) עשוי להוביל להישגים משמעותיים בתחום הבינה המלאכותית.

שניידרמן מתייחס לארבע מטאפורות עיצוב המשלבות בין מדע לחדשנות:

1. סוכנים חכמים ו-"כלי-על"
2. חברי צוות וטלבוטים
3. אוטונומיה ומרכזי בקרה
4. רובוטים חברתיים ומכשירים פעילים

סוכנים חכמים ו-"כלי-על"

סוכנים חכמים הם מערכות מחשוב שמבצעות משימות הנתפסות מבחוץ כמצריכות אינטליגנציה אנושית, כמו למידה, פתרון בעיות וקבלת החלטות. הם פועלים עצמאית, מפתחים מטרות חדשות על בסיס נתוני חיישנים, ונועדו להידמות לחשיבה ותפקוד אנושיים, אך מבקרים מדגישים את הצורך באיזון עם שליטה אנושית. "כלי-על" הם למעשה טכנולוגיות מתקדמות המעצימות יכולות אנושיות באמצעות שילוב של אוטומציה ושליטה ידנית. למשל מצלמה דיגיטלית בטלפון נייד. בממשק המצלמה ישנן מערכות הפעולות באופן אוטומטי כמו "מיקוד אוטומטי" לצד מערכות המאפשרות למשתמשים שליטה מותאמת אישית. שילוב מערכות אלו יוצרים "כלי-על" המשמשים להעצמת יצירתיות, יעילות וקבלת החלטות של המשתמש.

חברי צוות וטלבוטים

על פי שניידרמן, "חברי צוות" בהקשר הנוכחי הוא מושג המתייחס להנחה בתחום הרובוטיקה שאינטראקציה אנושית-אנושית היא מודל אידיאלי לאינטראקציה בין אדם לרובוט. חוקרים כמו ליונל רוברט הזהירו מפני שימוש שגוי ברובוטים המבוסס על חיבור רגשי או על ציפיות שווא מאחריותם. למעשה, מחשבים לא באמת יכולים לתפקד כחברי צוות לקולגות אנושיות כי לא ניתן לייחס אחריות בתחומים מסוימים למחשב ולכן הוא אינו חבר צוות במלוא מובן המילה. במקום להתייחס למחשב כחבר צוות, על המעצבים לנצל את יכולותיו של המחשב כדוגמת חיישנים על-אנושיים ומאגרי נתונים עצומים שהוא יכול לספק להם. "טלבוטים" לעומת זאת, מתמקדים בשליטה אנושית, תוך שימוש במכשירים מתקדמים המשלבים אוטומציה גבוהה עם שליטה של המשתמש על מנת להגביר יעילות ובטיחות. עיצובים מן הסוג הזה מדגישים את תפקידם של מחשבים ככלים המשלימים את היצירתיות האנושית ולא מחליפים אותה.

אוטונומיה ומרכזי בקרה

אוטונומיה ממוחשבת מתארת מצב בו מכונות פועלות ללא שליטה ישירה של בני אדם. אוטונומיה מן הסוג הזה אמנם מספקת פתרונות למשימות מורכבות, אך גם יוצרת סיכונים, כמו כשלים של מערכות אלו או קושי של מפעילים לעבור ממצב של "0 ל-100" ולהגיב כאשר מערכות אלו דורשות ניטור אנושי. בניגוד למצב בו ישנה אוטונומיה מוחלטת למערכת, הגישה המשלבת אוטונומיה עם מרכזי בקרה יוצרת מצב בו ישנו פיקוח אנושי רציף (ולא רק בעת מצבי חירום) ומסלולי ביקורת. אותם מרכזי בקרה הופכים לכלי קריטי בניהול מערכות אלו ומאפשרים התערבות אנושית (למשל, תחום התעופה המסחרית).

רובוטים חברתיים ומכשירים פעילים

רובוטים חברתיים הם למעשה רובוטים דמויי אדם או חיות מחמד. רובוטים מן הסוג הזה זוכים לתגובות חיוביות ממשתמשים, אך לרוב הם מוגבלים לשימוש קצר טווח. עיקר העיצוב מתמקד בייחוס תכונות אנושיות לרובוט מאשר התמקדות בפונקציונליות או במתן סיוע למשתמש. מכשירים פעילים כמו תנורים, מדיחי כלים ואף עוזרים אישיים דוגמת Alexa או Siri מדגישים עיצוב פונקציונאלי ושימושיות (ממשק קולי המסייע למשתמש במגוון משימות) על פני ייחוס תכונות אנושיות. בעוד רובוטים חברתיים מייצגים חזון שאפתני, מכשירים פעילים וממשקים פונקציונליים מספקים פתרונות מעשיים המעצימים את המשתמשים.

שיטות ממשל אפקטיביות לגישור בין עקרונות אתיים למעשיים

גישת HCAI מציעה יתרונות משמעותיים בתחומים כמו בריאות, חינוך ואבטחת סייבר, אך מעלה גם חששות אתיים כמו הפרות פרטיות ואפליה. העיצוב והערכה של מערכות אלו מבוססים על שילוב בין עקרונות אתיים לבין יישומים מעשיים, תוך שמירה על שליטה אנושית. הדוחות המובילים בתחום HCAI מדגישים עקרונות כמו שקיפות, הוגנות ואחריות. עם זאת, יישום העקרונות בפרקטיקה דורש מבנים ניהוליים ברורים, החל מהנדסת תוכנה ועד רגולציה ממשלתית. 

מערכות HCAI נשענות על:

1. שיטות הנדסה מוכחות המשלבות הנדסת תוכנה, תיעוד נתונים ובדיקות מקיפות.
2. תרבות ארגונית ששמה את נושא הבטיחות בראש סדר העדיפויות.
3. פיקוח עצמאי והסמכה ע"י ארגונים חיצוניים.
4. רגולציה ממשלתית ששמה דגש על מניעת נזקים, קידום בטיחות ואמינות מערכות AI.

אם כן, שניידרמן משרטט בספרו את ההיסטוריה של טכנולוגיית הבינה המלאכותית, את התקדמותה ואף מספק לנו גישה לנתיב שבה עליה לצעוד בעתיד. הוא מדגים את הגישות העיקריות שבעזרתן חוקרים ומפתחים AI, מה היתרונות והחסרונות של כל גישה וכיצד שילובן בעזרת ארבעת המטאפורות שהציג הוא המפתח לפיתוח HCAI שבעזרתו ניתן לעצב ממשקים ומוצרים עם אוטומציה גבוהה המשלבת שליטה של המשתמש, בקרה ושקיפות. יחד עם זאת, שניידרמן שב ומזכיר לנו כי HCAI היא גישה שכלפי פנים צריכה להישען על שיטות הנדסה מוכחות, ניהול תיעוד ותרבות בטיחות ארגונית, וכלפי חוץ צריכה להיות נתונה לפיקוח ורגולוציה של גורמיים ממשלתיים וגורמים חיצוניים בלתי תלויים.

יישום גישת HCAI על כלל מרכיביה, הוא העתיד של AI המעצים משתמשים ולא של AI המחליף אותם.