הפוסט Good, evil and technology נכתב ע”י סקוט בירקן, 15 בנובמבר 2005, ומתורגם כאן ברשותו
האם אתה אדם טוב? איך אתה יודע? רובנו מציבים רף נמוך. כל עוד אנחנו לא בועטים בכלבלבים וגונבים ארוחות צהריים מילדים חסרי-בית, אנחנו חושבים שאנחנו בסדר. אבל לא להיות רע זה לא אותו דבר כמו להיות טוב. וזה נכון גם כשזה נוגע ליצירת דברים כמו תוכנה ואתרי אינטרנט.
הסרת המסתורין מהטוב והרע
ביקור מהיר במילון מניב את המונחים הבסיסיים הבאים:
טוב: להיות חיובי, מושך או צדיק; אדם טוב. בעל תכונות רצויות: צבע טוב; בדיחה טובה. ממלא מטרה או תכלית: האם זו שמלה טובה למסיבה?
רע: גרוע או מוטעה מבחינה מוסרית; מרושע: עריץ רשע. הגורם להרס, פגיעה או כאב; מזיק: ההשפעות הרעות של דיאטה גרועה. מאופיין בכעס או שנאה; זדוני: מזג רע.
אבל איך זה שייך לטכנולוגיה? האם יש אתרים טובים ואתרים רעים? לא ממש. רוב הדברים שאנחנו מכירים ומשתמשים בהם, נמצאים היכנשהו באמצע: כלים הם נטולי מוסר. הם לא מונעים ממישהו להשתמש בהם לעבודה גרועה יותר מאשר להשתמש בהם לעבודה טובה. תוכנה מעולה מתפקדת באותו אופן בין אם כותבים שבחים למתנדבים במקלט לילדים חסרי-בית ובין אם כותבים מתכונים לנזיד-יתומים. אם אנחנו רוצים לטעון שהדברים שאנחנו יוצרים הם טובים או רעים, אנחנו צריכים ללכת מעבר לתפקוד הפונקציונלי שלהם. טוב במובן המוסרי, פירושו משהו אחר לחלוטין מטוב במובן הארכיטקטוני.
אם נתמקד בארכיטקטורה לבדה, יוצרי טכנולוגיה אינם רחוקים מסוחרי-נשק: אנחנו מספקים כלים לעולם ואדישים לאופן השימוש בהם. זה לא גורם לנו להיות רעים, אבל גם לא להיות טובים.
מה המטרה של טכנולוגיה?
אבל מה האלטרנטיבה? התשובה תלויה באופן שבו מסתכלים על הערך של טכנולוגיה. יש (לפחות) 5 אפשרויות:
- אין תכלית. היקום הוא כאוס וכל נשמה תועה דואגת לעצמה. אי לכך טכנולוגיה, כמו כל דבר, היא חסרת מטרה. תוכנה ויוצריה הם רק עוד אלמנט כאוטי בבלגן הקיום הרנדומלי שהוא היקום (פטרון: מרוין הרובוט ממדריך הטרמפיסט לגלקסיה).
- יתכן שיש תכלית, אבל היא בלתי ידועה (כמו הקודם רק יותר מדכא). לטכנולוגיה יש ערך, אבל אנחנו מוגבלים מכדי להבין אותו, ועל כן נסיונותינו לייצר דברים ייטו להיות מוטעים ואפילו נוטים להרס-עצמי, אבל זה בסדר (פטרון: טיילר דרדן, Fight club)
- התכלית היא איך משתמשים בזה (הגישה הפרגמטית מוסרית). המטרה היא שהטכנולוגיה תאפשר לאנשים לעשות דברים. איך משתמשים בטכנולוגיה, ואיזו השפעה יש לה על אנשים בעולם. לפי קו מחשבה זה, טכנולוגיה טובה היא כזו שמאפשרת לדברים טובים לקרות לאנשים ומסייעת להם לחיות חיים מספקים ומה שאנחנו מייצרים צריך להבנות לפי המסורת של מחסה, אש, חשמל, קרור וחיסון (פטרון: ויקטור פאפאנאק, המחבר של design for the real world).
- התכלית היא איך זה גורם ליוצר להרגיש (הגישה האנוכית). מה שחשוב זה מה היוצר של הדבר מרגיש כלפי הדבר. זוהי תפיסה אמנותית של הטכנולוגיה בכך שתכנות או בניה הוא מעשה של ביטוי עצמי שמשמעותו הגדולה ביותר היא ליוצרים עצמם (פטרון: Salvador Dali).
- התכלית של טכנולוגיה היא ערכו הכלכלי. השוק החופשי קובע מהי טכנולוגיה טובה, ויתכן שאף יתן ליוצרים משאבים לעשיית מעשים טובים מוסרית. אבל הערך המוסרי של הטכנולוגיה עצמה הוא בלתי מוגדר וחסר משמעות (פטרון: Gordon Gekko).
אני לא מציע אף אחת מאלה כתשובה האמיתית: אין אחת. אתם צריכים להגיע אליה בעצמכם. אבל אני כן מציין שללא תודעת המטרה של הטכנולוגיה, בלתי אפשרי להפריד בין הטוב לרע: צריכה להיות איזושהי מערכת ערכים יסודית שתתייחס לייצור של דברים. אני מודה שאני נוטה לגישה הפרגמטית, לפיה הערך של הטכנולוגיה הוא בסיוע לאנשים לחיות חיים יותר טובים (או אפילו מעבר לכך, שהמטרה של החיים עצמם היא להיות לעזר לאנשים, דרך אמצעים טכנולוגיים ואחרים), אבל אני מאד ער לעובדה שזו לא התשובה היחידה.
ערך טכנולוגי
אבל אם אתם כן מזהים פילוסופיה משלכם לטכנולוגיה, יש דרכים ליישם את זה ביצירת דברים. בהנחה שאתם מגדירים טכנולוגיה טובה ככזו שמשיגה טוב מוסרי, הנה גישה אחת.
עבור כל טכנולוגיה ניתן להעריך את ערכה בסיוע לאנשים. בוא נקרא ליכולת הזאת V. בהנחה שידוע לכם כמה אנשים משתמשים בטכנולוגיה (N), אזי V * N הוא הערך של הטכנולוגיה. הנה שתי דוגמאות:
דֶּפִיבְּרִילָטוֹר יכול להציל חיי אדם (V=100). אבל יתכן שרק מעטים משתמשים בו (N=1000).
V * N = 100,000.
אתר פיצה מאפשר לי להזמין פיצה באופן מקוון (V=1). יתכן שיש לו משתמשים רבים (N=50,000).
V * N = 50,000.
ניתן להתווכח על האופן שבו מגדירים את V (או על הערך של הזמנה מקוונת של פיצה), אבל כשיטה קצרה וגסה, קל להשוות ערכים של שתי טכנולוגיות שונות, לא משנה על איזו פילוסופיה של טכנולוגיה מתבססים. אם יוצא לך להיות יד ימינו של השטן, שנה את V ל-S (האות הראשונה ב”סבל”), ואתה בדרך הנכונה.
עם זאת, אחת המלכודות בזה היא
הפער בין מה שהטכנולוגיה מאפשרת, למה שאנשים עושים בפועל. אני יכול להשתמש בדֶּפִיבְּרִילָטוֹר כדי להדליק את הרכב שלי, או להשתמש באתר הפיצה כדי “לעבוד” על השכנים שלי. או יותר לעניין, אני עשוי שלא להשתמש בטכנולוגיה כלל, למרות שקניתי אותה והוסבר לי ערכה. כך שהערך הנתפס של דבר, ע”י היוצר של אותו דבר, שונה מהערך שיש לדבר הזה בפועל אצל אנשים בעולם האמיתי.
הנה כמה שאלות שיכולות לעזור למצוא את הערך:
- מה אפשר לעשות בעזרת הטכנולוגיה?
- כמה מהפוטנציאל הזה ממומש? למה כן ולמה לא?
- מי מרוויח מהטכנולוגיה?
- כיצד הם מרוויחים?
- מה היו עושים לולא הטכנולוגיה?
- מהן הבעיות החשובות שיש לאנשים? האם פתרון טכנולוגי הוא הדרך הטובה ביותר לפתור אותן?
ההשלכות של דברים
בכל כלי יש מוסר מרומז. ישנה מערכת ערכים שכל מכונה, תוכנה או אתר בנו לתוכה, וניתן להבין אותה אם מתבוננים בזהירות. כשתי דוגמאות קוטביות, תסתכלו על שני הדברים האלה: מקלע, וכסא גלגלים.
לשני מוצרים אלה יש מטרות מאד ברורות ומאחורי כל מטרה ישנה סדרת ערכים. כסא הגלגלים מיועד לתמוך במישהו. המקלע נועד להרוג מישהו (או כמה מישהו-ים).
לרבים מהמוצרים שאנחנו עושים אין ערכים ברורים כאלה. עם זאת, כפי שציינתי קודם, העדר ערך הינו ערך: גם אם דבר אינו רע, אין פירושו של דבר שהוא טוב. אם אני מייצר פטיש, ניתן להשתמש בו לבנות בתים לנזקקים, או לבנות ארמון לשודד בנקים. אני יכול להיות גאה בעיצוב של הפטיש, אבל אני לא יכול להיות בטוח שעשיתי דבר טוב בעולם: השימוש בכלי הוא בסיסי מכדי שניתן יהיה להגדירו כטוב או רע.
מאד נפוץ לראות יוצרי כלים, ממנועי חיפוש עד כלי פיתוח, הזוקפים לזכותם את הטוב שנעשה בכלים שלהם, תוך התעלמות מהרע. זה לא כל כך בסדר: הם מעורבים לא פחות באחרון מאשר בראשון.
המסקנה של זה היא שעשיית דברים טובים עבור אנשים מצריכה מסלול יותר ישיר מאשר יצירת כלים. עזרה לבן של השכן בלימודי המתמטיקה, התנדבות במקלט לחסרי בית, או תרומת כסף לבית יתומים, הן דרכים לעשות טוב שיש להם השפעה ישירה, לעומת הטוב המפוקפק והשטחי של יצירת כלים בשויון-נפש.
האחריות היצירתית (אתיקה של האקרים)
למדעי המחשב אין קוד אתי מבוסס היטב. לא סביר שתמצא את המלים מוסרי, אתי, טוב ורע בתכניות הלימודים של רוב המתכנתים (אם כי יש כמה ארגונים שעובדים אל זה, ראה הפניות). זה לא שמחלקות למדעי המחשב הן סלחניות לתפיסת עולם ספציפית: זה שהן לא רואות את מקומן להנחיל תפיסה פילוסופית לסטודנטים שלהם (העדר פילוסופיה היא עצמה פילוסופיה, אבל זו לא הנקודה שלי). אבל בההיסטוריה של הנדסה יש כמה דוגמאות לתרבויות הנדסיות שנקטו עמדה ברורה לגבי אתיקה.
לבונים החופשיים, המסדר העתיק (והנלעג לעתים) של בנאים, יש קוד מרכזי שכל החברים אמורים לפעול על פיו. הוא מגדיר סטנדרט ברור של התנהגות מוסרית ואתית, ומחבר את הבניה של דברים לאידיאלים אלה.
יותר לאחרונה, מועדון ההאקר המוקדם ב-MIT הגדיר סדרת כללים על איך ראוי לבצע האקים.
האק צריך:
- להיות בטיחותי
- לא להרוס שום דבר
- לא לפגוע באף אחד- הן מבחינה פיזית, הן מבחינה שכלית והן מבחינה רגשית
- להיות מצחיק, לפחות לפי דעת רוב האנשים שחווים אותו
המשמעות של המונח האקר השתנתה מספר פעמים, אבל הפשטות והעוצמה של סדרת כללים קצרה נשארת. האם אתם קושרים את ההחלטות שאתם מחליטים בעת יצירת דברים לסט של אידיאלים? מהם?
הגדרת האמונות שלנו
גם אם אנחנו לא מגדירים לעצמנו כללים, כולנו מאמינים באחד משלושה דברים לגבי מה שאנחנו מייצרים:
- אין לי שום אחריות (לגבי אופן השימוש)
- יש לי מעט אחריות
- יש לי אחריות מלאה
רובנו נמצאים בתפיסה האמצעית: יש לנו מעט אחריות. אבל אם זה נכון, כיצד אנו לוקחים על עצמנו את האחריות הזאת? איך המעשים שלנו משקפים את נטילת האחריות הזו?
אין דבר שמונע מאיתנו לוודא שהכלים שאנחנו מייצרים, והכישורים שיש לנו, משומשים למטרות טובות: נתרמים למטרות המתאימות לערכים שלנו, מוצגים לאלה הזקוקים לעזרה, מותאמים למטרות ספציפיות ולאנשים שלדעתנו עושים דברים טובים. רק על ידי עשיית מעשים אלה אנחנו עושים טוב: התוכנה, האתר, או המכונה לרוב אינם מספיקים. או יותר לענין, הדרך הטובה ביותר לעשות טוב,קשורה פחות לטכנולוגיה ויותר למה שאנחנו עושים איתה.
- “המטרה של הטכנולוגיה היא לסייע לדברים. בסך הכל, אני חושב, הטכנולוגיה יכולה לבצע דברים, אבל מה שהיא מתבקשת לעשות הוא לרוב לא כל כך נפלא” – ניל פוסטמן
- “תנו לצ’יפים ליפול היכן שיפלו” – טיילר דורדן
- “אני חושב שהיכולות הטכניות של הטכנולוגיה מתקדמות הרבה מעבר לקונספטים הערכיים שאנחנו מבקשים ממנה לבצע” – אדוארד דה בונו
- “אם אתם רוצים להבין טכנולוגיה חדשה, שאלו את עצמכם כיצד היו משתמשים בה הפושע, השוטר והפוליטיקאי” – ויליאם גיבסון
- “לעוצמה גדולה מתלווה אחריות גדולה” – ספיידרמן
- “הטכנולוגיה שלנו עקפה את האנושיות שלנו” – איינשטיין
הפניות
- Technopoly, ניל פוסטמן. אחד הספרים החשובים ביותר שקראתי בעשור האחרון
- Why the future doesn’t need us, ביל ג’וי
- Being Digital, ניקולס נגרופונטה. המייסד של אסופת המאמרים של מעבדת המדיה של MIT בנושא עתידה של הטכנולוגיה
- The age of spiritual machines, ריי קורצווייל
- OnlineEthics.org, קבוצת האתיקה ההנדסית של אוניברסיטת Case Western
- Computer professionals for social responsibility, חבר’ה מסקטור ה”טק” המתעניינים בהשפעות של טכנולוגיה
- Benetech, מלכ”ר המוקדש לשימוש בטכנולוגיה כדי לעזור לאנשים