מכונית אוטונומית

[pooh-bear]

לדעתי (ואני אפילו חושב שכתבתי את זה פה פעם), אין שום בעיה אתית עם רכב אוטונומי, אפילו להיפך.

 

במצב שבו הרכב מזהה שבכל בחירה תתבצע פגיעה בחיי אדם, הוא יפעיל איזו "אופטימיזציה" שתחליט מה כנראה תהיה הפגיעה הנמוכה ביותר. מכל התוכנה הסופר מורכבת שתהיה ברכב כזה, זה החלק הכי פשוט למימוש (בהנחה שכבר זיהית את הנפגעים הפוטנציאליים ואת חומרת הפגיעה הפוטנציאלית, שזה כמובן החלק הקשה). ההחלטה במי לפגוע לא חייבת להיות קשיחה, ויכולה להשתנות כתלות ברגולציה במדינה שבה הרכב נמכר.

 

יש עוד כמה מכשולים טכניים לא פשוטים בדרך לרכב אוטונומי לחלוטין. זה חוק ה-20/80, רק על שברי האחוז האחרונים. וכמו שבאמת קורה, התאונות המדווחות של טסלה קרו במקרי קיצון, לא סתם ככה רנדומלית באמצע כביש ישר.

 

בסוף, שום תוכנה לא עובדת ב-100٪, וגם ברכב האוטונומי יהיו תקלות. ברגע שסטטיסטית הן יהיו פחותות משמעותית מאלו של נהג אנושי, אני אישית אהיה מוכן "להסתכן". גם במצבי קיצון, נהג אנושי לרוב מקבל החלטות לא מודעות ופועל מתוך אינסטינקט. עדיף רכב אוטונומי שנקלע למצב כזה ומצמצם נזק מנהג אנושי שבחצי השנייה שיש לו יכול לעשות עוד כמה טעויות ולהעצים את הנזק.

[malcishua]

^ התגובה השפויה היחידה בים של קשקושים על ״בעיות אתיות״ שהרכב האטונומי לכאורה מעלה.

 

אין שום בעיה אתית. כל הבעיות המתוארות הן בעיות שגם נהגים אנושיים יכולים להתקל בהן. הרכב האוטונומי לא רק יעשה את ההחלטה מהר הרבה יותר (ובפוטנציה ימנע בכלל מהדילמה בשל זמן תגובה קצר בהרבה), יהיה לו גם קלט הרבה יותר עשיר (ואיכותי) שיוכל להסתמך עליו. בנוסף, בשורה התחתונה, אם יאלץ לעשות בחירה הוא יעשה בדיוק מה שהמתכנת האנושי תכנת אותו לעשות. כך שהבחירה והאחריות בסופו של דבר תמיד יפלו על - ניחשתם נכון - גורם אנושי.

[sronis]

הבעיות התפיסתיות שיש לנו עם מכוניות אוטונומיות נובעות מהעובדה שאנחנו מייחסים להן את אמות המידה שאנחנו מייחסים לנהגים אנושיים. ברגע שנבין שמדובר במשהו אחר לגמרי, משהו שמסכן אותנו הרבה הרבה פחות מנהג אנושי מקביל, נקבל אותן בקלות רבה הרבה יותר.

[- XM -]

לדעתי (ואני אפילו חושב שכתבתי את זה פה פעם), אין שום בעיה אתית עם רכב אוטונומי, אפילו להיפך.

 

במצב שבו הרכב מזהה שבכל בחירה תתבצע פגיעה בחיי אדם, הוא יפעיל איזו "אופטימיזציה" שתחליט מה כנראה תהיה הפגיעה הנמוכה ביותר.

 

ומה יקרה במקרה כזה - רכב אוטונומי נוסע על גשר במהירות גבוהה ומולו חמישים אנשים שאיך שהוא עומדים באמצע הכביש, הרכב אינו מסוגל לעצור עצירה מוחלטת לפני הפגיעה בהם והאנשים לא יספיקו לברוח,

שני אופציות - 1. הרכב ממשיך לנסוע ישר כמות גדולה של אנשים נפגעים ונהרגים, הנהג נשאר חי.

2. הרכב סוטה ממסלולו עף לתהום הנהג מת במקום, 50 איש ניצלים מפגיעה,

מה המתכנת היקר צריך להחליט, אם ימשיך ישר יחשב רוצח כי יכל לסיים את הסיפור אם הרוג אחד,

אם יחליט שבמקרה כזה מסיטים את הרכב ממסלולו אני לא מכיר מישהו שיקנה רכב אוטונומי, אז מה עושים ?

נכון שזה מקרה רחוק אבל המתכנתים צריכים לחשוב על הכל,

ואם תרצו זה ההבדל בין נהג אנושי למתכנת, נכון שהנהג מוגבל, ויפעל מחשיבה לא מודעת, אינסטיקטים וכו' אבל אף אחד לא יבוא איליו בטענות אם הוא יהיה בכזו סיטואציה, ואף אחד לא יעצור נהג מלעלות על הכביש כי אולי יקרה דבר כזה,

אבל מתכנת שיושב בחדר ממוזג וצריך להחליט על חיים ומוות, זה פשוט לא בסמכותו ולא ביכולתו, ולכן זה עדיין תקוע.

[malcishua]

איצי בר,

 

קודם כל, אם אתה חושב שהתרחיש ההזוי שתארת מעכב את יציאת הרכב האוטונומי לשוק, אתה חי בסרט.

 

שנית, זו ממש לא החלטה של אדם אחד באיזה חדר ממוזג. המתכנת מן הסתם יכתוב את הקוד לפי מה שיכתיבו לו. ההחלטות יתקבלו ברמה גבוהה הרבה יותר, ע״י קבוצה של אנשים שהוסמכה לכך, כפי הנראה אפילו ברמת המחוקק.

 

ושלישית, אתה באמת טוען שאתה מעדיף החלטה אינסטיקטיבית ולא מודעת של הנהג על פני החלטה מודעת ושקולה מראש? כלומר מבחינתך הדילמה כ״כ נוראית שאתה מעדיף להטיל מטבע במקום לשבת ולהחליט באופן לוגי מה דרך הפעולה הטובה ביותר? זו, ידידי, נקראת התחמקות מאחריות, וזו חולה רעה שפוגעת בכל רבדי החברה הישראלית, מהשלטון ועד לאזרח הקטן.

[gbguy]

לדעתי (ואני אפילו חושב שכתבתי את זה פה פעם), אין שום בעיה אתית עם רכב אוטונומי, אפילו להיפך.

 

במצב שבו הרכב מזהה שבכל בחירה תתבצע פגיעה בחיי אדם, הוא יפעיל איזו "אופטימיזציה" שתחליט מה כנראה תהיה הפגיעה הנמוכה ביותר. מכל התוכנה הסופר מורכבת שתהיה ברכב כזה, זה החלק הכי פשוט למימוש (בהנחה שכבר זיהית את הנפגעים הפוטנציאליים ואת חומרת הפגיעה הפוטנציאלית, שזה כמובן החלק הקשה). ההחלטה במי לפגוע לא חייבת להיות קשיחה, ויכולה להשתנות כתלות ברגולציה במדינה שבה הרכב נמכר.

 

יש עוד כמה מכשולים טכניים לא פשוטים בדרך לרכב אוטונומי לחלוטין. זה חוק ה-20/80, רק על שברי האחוז האחרונים. וכמו שבאמת קורה, התאונות המדווחות של טסלה קרו במקרי קיצון, לא סתם ככה רנדומלית באמצע כביש ישר.

 

בסוף, שום תוכנה לא עובדת ב-100٪, וגם ברכב האוטונומי יהיו תקלות. ברגע שסטטיסטית הן יהיו פחותות משמעותית מאלו של נהג אנושי, אני אישית אהיה מוכן "להסתכן". גם במצבי קיצון, נהג אנושי לרוב מקבל החלטות לא מודעות ופועל מתוך אינסטינקט. עדיף רכב אוטונומי שנקלע למצב כזה ומצמצם נזק מנהג אנושי שבחצי השנייה שיש לו יכול לעשות עוד כמה טעויות ולהעצים את הנזק.

אז בזמן תאונה כשהרכב חייב לבצע תאונה, מי יהיה האשם?

שוב אני חוזר על דוגמה: מכונית אוטונומית נוסעת לה, בנתיב הנגדי נוסע עוד רכב. שניהם נפגשים במעבר חציה. במעבר חציה הילד מתפרץ. במצב כזה יש תאונה. מי אשם? מי צריך לקחת את האחריות? התוכנה? הנהג השני? הילד? התשתית?

[malcishua]

^ תחזור ותקרא את כל ההודעות שבאו אחרי​ ההודעה שציטטת.

[gbguy]

כל ההתכתבויות האלו רק מוכיחות משהו אחד: יצרניות הרכב לא רוצות לקחת אחריות על התאונה. אחרת, ממזמן הרכב הזה על הכביש.

[- XM -]

מלכי שוע,

זה תרחיש הזוי אבל הוא לא יחיד ולעניות דעתי תרחיש כזה ודומיו אכן מעכבים במידת מה את יציאת הרכב האוטונומי לשוק,

 

החלטה של כמה אנשים שהוסמכו לכך, לא ידוע לי על אנשים שהוסמכו להחליט על חייהם של אחרים, אם אתה יודע על משהו ספציפי בעניין הזה אשמח אם תצרף קישור,

 

אני לא מתחמק מאחריות ובטח לא חושב שעדיף נהג אנושי, כמו שכבר כתבתי בתגובות קודמות אני אתן לילדי להסתובב בשכונה שנוסעים בה מכוניות אטונומיות כי אני חושב שהם הרבה יותר בטוחות מהנהג האנושי בגלל כל הסיבות שאתה כתבת,

אבל המציאות היא שכיום לא מתמודדים עם מקרה הגשר כשמעלים נהג על הכביש אבל מתכנתים כן צריכים להתמודד עם זה, ויתכן מאוד שזה חבל כי ברובם המוחלט של המקרים הרכב האוטונומי בטוח יותר אבל מחוסר היכולת להכריע בשאלה הזו זה נתקע והנזק גדול יותר.

 

אגב גם אם יש אנשים שבסמכותם להחליט במקרה הנ''ל, מה לדעתך הם יחליטו להמשיך ישר לא נראה לי הגיוני כי הם פשוט מעדיפים את חיי הנהג על פני חיי אחרים ושום רשות מוסמכת לא תיתן יד לכך, להעדיף את חיי האחרים אני לא רואה נהגים שיסכימו לעלות על כזה רכב כי אתה מפקיד את חייך בידי תוכנה שיכולה ליטול אותם גם אם שני פסיכים מחליטים לשכב על הכביש בלילה.

[malcishua]

^ תשמע, לא נראה לי שאתה קורא בכלל את מה שאני כותב, כי אתה לא ממש מתייחס לדברים שכתבתי אלא פשוט חוזר שוב ושוב על אותם דברים. אני כן אנסה ברשותך להתייחס למה שכתבת.

 

מלכי שוע,

זה תרחיש הזוי אבל הוא לא יחיד ולעניות דעתי תרחיש כזה ודומיו אכן מעכבים במידת מה את יציאת הרכב האוטונומי לשוק,

זה תרחיש הזוי ברמה כזו שההסתברות שלו היא לא משהו שמשפיע על איזשהו שיקול באיזושהי רמה.

 

באותה מידה אתה יכול לומר שצריך להוציא פסנתרים מחוץ לחוק כי פעם בשנה איפשהו בעולם פסנתר נופל על מישהו והורג אותו.

 

החלטה של כמה אנשים שהוסמכו לכך, לא ידוע לי על אנשים שהוסמכו להחליט על חייהם של אחרים, אם אתה יודע על משהו ספציפי בעניין הזה אשמח אם תצרף קישור,

בוא נחשוב ביחד: אתה באמת לא מכיר אף אחד שההחלטות שלו משפיעות על חיים של אנשים במדינה? תחשוב על זה ותחזור אלי.

 

אני לא מתחמק מאחריות ובטח לא חושב שעדיף נהג אנושי, כמו שכבר כתבתי בתגובות קודמות אני אתן לילדי להסתובב בשכונה שנוסעים בה מכוניות אטונומיות כי אני חושב שהם הרבה יותר בטוחות מהנהג האנושי בגלל כל הסיבות שאתה כתבת,

אבל המציאות היא שכיום לא מתמודדים עם מקרה הגשר כשמעלים נהג על הכביש אבל מתכנתים כן צריכים להתמודד עם זה, ויתכן מאוד שזה חבל כי ברובם המוחלט של המקרים הרכב האוטונומי בטוח יותר אבל מחוסר היכולת להכריע בשאלה הזו זה נתקע והנזק גדול יותר.

נחזור שוב למקרה הנהג על הגשר. יש כאן בעצם שתי אפשרויות:

 

1. אם אתה טוען שבכל מקרה לא ניתן להאשים את הנהג האנושי (לא משנה מה ההחלטה שלו), אז מה זה משנה מה הרכב האוטונומי יעשה? הרי כל החלטה מקובלת עליך.

 

2. אם אתה טוען שניתן להאשים את הנהג האנושי על החלטה לא נכונה, נובע מכך כי יש לדעתך החלטה נכונה. וזו ההחלטה שניתן לקודד לתוך הרכב האוטונומי.

 

אתה מבין, אתה לא יכול לפטור את עצמך מההחלטה באמירה שלא ניתן לעשות אותה, ואז להעביר ביקורת על הרכב האוטונומי על כך שהוא לא יכול לבצע את ההחלטה הזו. אתה צריך להחליט - יש פתרון או אין פתרון? אם אתה לא מחליט, זה בדיוק - התחמקות מאחריות.

 

אגב גם אם יש אנשים שבסמכותם להחליט במקרה הנ''ל, מה לדעתך הם יחליטו להמשיך ישר לא נראה לי הגיוני כי הם פשוט מעדיפים את חיי הנהג על פני חיי אחרים ושום רשות מוסמכת לא תיתן יד לכך, להעדיף את חיי האחרים אני לא רואה נהגים שיסכימו לעלות על כזה רכב כי אתה מפקיד את חייך בידי תוכנה שיכולה ליטול אותם גם אם שני פסיכים מחליטים לשכב על הכביש בלילה.

 

באמת? אתה באמת לא תסכים לעלות על רכב שב-99.99999% מהמקרים יתפקד יותר טוב ממך ולכן כנראה שיציל את חייך בכל תרחיש שהוא remotely סביר שבו אתה תגרום למותך, אבל רק בתרחיש אחד הזוי וזניח הוא יעדיף להציל חיי 50 אנשים על פני חייך שלך? וזה לפני שנזכיר שבתרחיש ההזוי הזה רוב הסיכויים שגם אתה תגרום למותך. הרי מדובר בתרחיש שבו אפילו לרכב האוטונומי אין מספיק זמן להגיב בצורה האופטימלית, סביר להניח שאתה פשוט לא תספיק להגיב בכלל.

 

ושוב, נחזור לעניין היעילות - במקרה שתארת, שני פסיכים שוכבים על הכביש, הרכב האוטונומי כנראה יפעל בזמן ויציל את שלושתכם. הנהג האנושי הממוצע היה כנראה גורם לתאונה כלשהי - בין השאר אבל לא רק - בגלל שזמן התגובה שלו ארוך בהרבה.

[- XM -]

^

תרחיש הזוי אבל הוא לא יחיד, זה ושני משוגעים קופצים לך לכביש בלילה ואי אפשר להימלט מתאונה ועוד אין סוף מקרים שבהם צריך להחליט מתוך כמה מי בוודאי ימות, זה כן משפיע על שיקולי הדעת של המפתחים. הדוגמא מהפסנתר לא קשורה בכלל, פסנתר לא נופל לבד על מישהו, אא''כ מישהו הניח אותו בצורה לא טובה ואז האחריות היא עליו, רכב אוטונומי שעולה לכביש יכול להגיע לבד לכל הסיטואציות וצריך לחשוב על זה, וזה באחריות מי שמעלה אותו לכביש.

 

לגבי החלטות שמשפיעות על חיי אחרים, ברור שיש אנשים כאלו ובעצם כל נהג מחליט כאלו החלטות שיכולות להשפיע על חיי אחרים, אבל זה לא בסיטואציות של מתוך כמה מי יחיה ומי וודאי ימות,

 

תקרא שוב מה שכתבתי על התחמקות מאחריות, אולי לא הובנתי כראוי אז אסביר,

במציאות היום - יש התחמקות כלשהיא מאחריות בזה שמעלים נהג לכביש כשלא בטוח שהוא יתנהג בצורה שתחסוך יותר חיי אדם מחיי עצמו, אבל זו המציאות, במקרה של הגשר ככל הנראה הוא יעדיף את חיי עצמו ( והוא באמת ינצל, לא ברור לי למה החלטת שבכל מצב הוא יפגע )אבל עדיין נותנים לו לנסוע,

 

אבל כשהכל מתוכנן מראש פשוט לא נראה לי שאפשר להחליט לנסוע ישר וליטול חיי אדם כשלמתכנת אין את הלחץ או האינסטיקטים ואת העדר היכולת לחשוב בצורה מבוקרת שיש לנהג, והוא מחליט החלטה כזו בצורה שקולה, פשוט אי אפשר להחליט לשחזר את החלטות הנהג ולהרוג אנשים אחרים כדי להציל את חייו, זה שהנהג כן מחליט כך יתכן שיש פה התחמקות מאחריות בזה שמעלים אותו מראש לכביש אפילו שמקרה כזה יתכן.

[sronis]

אז בזמן תאונה כשהרכב חייב לבצע תאונה, מי יהיה האשם?

שוב אני חוזר על דוגמה: מכונית אוטונומית נוסעת לה, בנתיב הנגדי נוסע עוד רכב. שניהם נפגשים במעבר חציה. במעבר חציה הילד מתפרץ. במצב כזה יש תאונה. מי אשם? מי צריך לקחת את האחריות? התוכנה? הנהג השני? הילד? התשתית?

 

המכונית האוטונומית תספיק לעצור בזמן. ואם היא לא, כי הילד קפץ לה מתחת לגלגלים, אז זו תאונה רגילה וחברת הביטוח שביטחה את הרכב תשא באחריות.

 

כל ההתכתבויות האלו רק מוכיחות משהו אחד: יצרניות הרכב לא רוצות לקחת אחריות על התאונה. אחרת, ממזמן הרכב הזה על הכביש.

 

רכב אוטונומי לא נמצא על הכביש כרגע כי הוא עדיין לא "אפוי" לגמרי. כשהוא יהיה, תתחיל לראות אותו. וזה יקרה מהר יותר משנדמה לך.

 

 

אבל כשהכל מתוכנן מראש פשוט לא נראה לי שאפשר להחליט לנסוע ישר וליטול חיי אדם כשלמתכנת אין את הלחץ או האינסטיקטים ואת העדר היכולת לחשוב בצורה מבוקרת שיש לנהג, והוא מחליט החלטה כזו בצורה שקולה, פשוט אי אפשר להחליט לשחזר את החלטות הנהג ולהרוג אנשים אחרים כדי להציל את חייו, זה שהנהג כן מחליט כך יתכן שיש פה התחמקות מאחריות בזה שמעלים אותו מראש לכביש אפילו שמקרה כזה יתכן.

 

כמו שהוסבר לך, הרכב האוטונומי יצטרך להתמודד עם הרבה פחות מצבי קיצון מנהג אנושי, כי הוא ינהג הרבה יותר בטוח מנהג אנושי. גם כאשר הוא יגיע למצב קיצון כלשהו, הוא יהיה בעמדה הרבה יותר טובה מנהג אנושי - כי זמן התגובה שלו יהיה אפסי וכי הוא ידע לתפעל את הרכב במקסימום היכולת שלו. לסיום, גם אם הוא לא יצליח להמנע לחלוטין מתאונה, אז עוצמת התאונה תהיה נמוכה יותר מאצל נהג אנושי וכתוצאה הנפגעים ייפגעו חלש יותר. עכשיו אנחנו נותרים עם ה-0.00001% שנמצאים בדוגמא שלך - ובשביל זה יש ביטוח.

[malcishua]

אתה שוב לא קורא את מה שכתבתי אלא סתם מגיב. או שאתה פשוט לא מבין.

 

^

תרחיש הזוי אבל הוא לא יחיד, זה ושני משוגעים קופצים לך לכביש בלילה ואי אפשר להימלט מתאונה ועוד אין סוף מקרים שבהם צריך להחליט מתוך כמה מי בוודאי ימות, זה כן משפיע על שיקולי הדעת של המפתחים. הדוגמא מהפסנתר לא קשורה בכלל, פסנתר לא נופל לבד על מישהו, אא''כ מישהו הניח אותו בצורה לא טובה ואז האחריות היא עליו, רכב אוטונומי שעולה לכביש יכול להגיע לבד לכל הסיטואציות וצריך לחשוב על זה, וזה באחריות מי שמעלה אותו לכביש.

במקום להמציא כל מיני מקרים שיכולים או לא יכולים להיות, בוא נהיה קונקרטיים, מכיוון שאנחנו מודדים דברים בראי המציאות ולא הדמיון. מתי היתה הפעם האחרונה שאתה נתקלת במצב כזה? שבו אתה צריך להחליט בין החיים שלך לבין חייו של מישהו אחר? או מתי שמעת על מקרה כזה שקרה למישהו אחר? או קראת על כזה?

 

עכשיו קח את המקרה הזה (אם בכלל מצאת כזה) ושאל את עצמך: האם מחשב בעל יכולת חישוב מהירה פי כמה (וכמה!) מאדם רגיל, עם קלט עשיר ואיכותי יותר, שתוכנת להתמודד גם עם מצבים כאלה, היה מצליח לצאת מהסיטואציה בשלום עם פגיעה אפסית/מינימלית בבני האדם המעורבים? מתוך היכרות עמוקה עם התחום, בסיכוי מאוד גבוה (כמעט בודאות) התשובה היא חיובית.

 

ד״א, תאונות קורות, גם כשמניחים את הפסנתר בצורה הכי טובה שאפשר.

 

ד״א 2, לא אמרתי שההחלטה חייבת להיות לטובת האנשים על הכביש. אולי היא צריכה להיות לטובת הנהג. אבל אם אתה לא יכול לבצע את ההחלטה, למה אתה פוסל את הרכב האוטונומי על כך שהוא לא יכול? אתה פוסל אותו בעצם על חוסר היכולת שלך.

 

לגבי החלטות שמשפיעות על חיי אחרים, ברור שיש אנשים כאלו ובעצם כל נהג מחליט כאלו החלטות שיכולות להשפיע על חיי אחרים, אבל זה לא בסיטואציות של מתוך כמה מי יחיה ומי וודאי ימות,

 

תקרא שוב מה שכתבתי על התחמקות מאחריות, אולי לא הובנתי כראוי אז אסביר,

במציאות היום - יש התחמקות כלשהיא מאחריות בזה שמעלים נהג לכביש כשלא בטוח שהוא יתנהג בצורה שתחסוך יותר חיי אדם מחיי עצמו, אבל זו המציאות, במקרה של הגשר ככל הנראה הוא יעדיף את חיי עצמו ( והוא באמת ינצל, לא ברור לי למה החלטת שבכל מצב הוא יפגע )אבל עדיין נותנים לו לנסוע,

 

אבל כשהכל מתוכנן מראש פשוט לא נראה לי שאפשר להחליט לנסוע ישר וליטול חיי אדם כשלמתכנת אין את הלחץ או האינסטיקטים ואת העדר היכולת לחשוב בצורה מבוקרת שיש לנהג, והוא מחליט החלטה כזו בצורה שקולה, פשוט אי אפשר להחליט לשחזר את החלטות הנהג ולהרוג אנשים אחרים כדי להציל את חייו, זה שהנהג כן מחליט כך יתכן שיש פה התחמקות מאחריות בזה שמעלים אותו מראש לכביש אפילו שמקרה כזה יתכן.

לא ברור לי איך אתה החלטת שהוא לא ינצל. אני החלטתי שלא.

אתה רואה, אין ממש טעם לדבר על מקרים מומצאים שבהם אתה שולט בכל הפרמטרים, גם אם מופרכים לגמרי ולא מציאותיים.

 

ושוב, אתה מעדיף החלטה שמתקבלת בשבריר שניה על ידי אדם שאין לו את הכלים ו/או הזמן לעשות אותה, על פני החלטה מושכלת שתתקבל ע״י צוות שישב וחשב עליה בצורה לוגית לאחר שבחן את הבעיה מכל הכיוונים (כולל המשפטי)? על זה באמת שאין לי איך להגיב.

[pooh-bear]

לא מצליח להבין את הטיעונים נגד. למרות שבאמת התאמצתי.

 

בהינתן סיטואציה שבה יש נפגעים בוודאות, לא עדיף שתתקבל החלטה אופטימלית? כזו שנשקלה מראש, חושבה ונבדקה שוב ושוב (ומה הקשר למיזוג בחדר בו היא התקבלה? עדיף שיהיו מאווררים?) ע"פ החלטה אינסטינקטיבית של נהג כלשהו? אני באמת לא מצליח להבין למה לתת לנהג להחליט במצב כזה יתן תוצאה טובה יותר.

 

נהג אנושי לרוב יבצע החלטה אינסטינקטיבית, כלומר, לא מודעת. לא יהיה לו זמן לחשוב על שאלות פילוסופיות כמו "האם עדיף לי למות או לבלות 20 שנה בכלא על הריגה", הוא, ברוב המקרים, ינסה לבלום הכי חזק שהוא יכול, פשוט כי זה האינסטינקט שלו. חלק מהנהגים גם ינסו להתחמק, ואז, בדוגמת הגשר, או שיפלו מהגשר ויהרגו את עצמם, או שיחליקו ויפגעו פוטנציאלית ביותר אנשים, או שיעשו תאונה חזיתית עם רכב שבא ממול, למשל. רכב אוטונומי, בהנחה שיהיה מודע לכל הפקטורים האלו, יוכל לבחור באופציה הכי פחות גרועה, בניגוד לנהג האנושי.

 

אם כבר נדבקנו לדוגמה הזו, רכב אוטונומי עלול להפחית מהירות אם יזהה קבוצה גדולה של הולכי רגל על מדרכה צרה, לפני מעבר חציה, או אולי אפילו יתעדכן בזמן אמת על שיפוצים במדרכה, שעלולים לגרום להולכי רגל לרדת לכביש. הרבה נתונים שנהג אנושי לעולם לא יהיה מודע להם. לכן, בהרבה מקרים רכב אוטונומי יוכל למנוע מראש תאונה שנהג אנושי יקלע אליה.

 

אבל גם אם רכב אוטונומי יהרוג (או יפצע) את הנהג שלו במקרים (נדירים) מסוימים, הוא עדיין יהיה בחירה עדיפה אם בממוצע הוא יעשה פחות תאונות מנהג אנושי. ברור שזה מבאס, אבל גם די ברור למה זה עדיף, אפילו לנהג.

 

לגבי מהות ההחלטה, אני קצת חוזר על עצמי, אבל בכל זאת: זה די עניין תרבותי. יש תרבויות שיעדיפו לצמצם את מס' ההרוגים, בלי קשר לכלום. יש תרבויות שיעדיפו לצמצם את מס' ההרוגים מתוך מי שלא גרם לתאונה - למשל הולך רגל שהתפרץ לכביש יהיה בעדיפות נמוכה מהנוסעים ברכב. יש תרבויות שיעדיפו את חיי בעל המאה (הנהג במקרה זה). לדעתי זה בסוף יוכתב בכל מדינה ע"י הממשלה ליצרן / יבואן.

 

לגבי אחריות משפטית - החוקים יצטרכו להשתנות. כמובן שאי אפשר יהיה להאשים את הרכב. אני מניח שכל תאונה תחקר, ואם יוחלט שהאשמה היא לא בגורם אנושי (הולך רגל למשל), היצרן יצטרך לחקור את התאונה ולתקן את הסיבה לה. כמובן שעלות התאונה תכוסה ע"י ביטוח כזה או אחר. זה כמו לשאול מי אשם בהתרסקות מטוס שמשתמש בטייס אוטומטי - אם האשמה היא בתוכנה במטוס, היצרן יתקן אותה, אבל קשה להאמין שמישהו מצוות המהנדסים ימצא אשם.

 

ולדעתי, כמה שנים אחרי שהרכב האוטונומי יעלה לכביש, נהיגה אנושית תיאסר בחוק (כמו רכיבה על סוסים). אז המסקנה האופרטיבית היא לרוץ ולממש עכשיו חלומות מוטוריים, כי אח"כ יהיה מאוחר מדי.

[- XM -]

מלכי שוע אני מבין את דבריך,

וברור שאני אישית מעדיף רכב אוטונומי מנהג אנושי בגלל כל הסיבות שכתבת ואני מוכן לקחת את הסיכון, (מבחינתי אין כאן סיכון כי שוב מדובר על מצב מאוד נדיר) אני לא מדבר עליי אלא על מה שנראית לי הסיבה שהחברות עדיין לא מוציאות את הרכב לכביש,

 

מה שאני מנסה לומר הוא כך, יש הבדל בין אחריות כללית או לא ישירה, לבין אחריות פרטית וישירה על המקרה הספציפי,

בזה שנותנים לנהג לנהוג אפילו שיכול להיות מצבי קיצון, זה התחמקות מאחריות כללית כי אולי יקרה כך וכך, והוא יתנהג כך וכך,

אבל אם החברה המתכננת את הרכב תכתוב בקוד התוכנה התייחסות למקרה כזה ובו תעדיף את הנהג היא תהיה נושאת באחריות פרטית על מקרה זה, דבר שיכול להוביל לתביעות ענק מצד אלו שיפגעו, למה היא לא העדיפה את האנשים על הכביש,

החברה לא תוכל לענות בבית המשפט שהיא בסך הכך שיחזרה את התנהגות הנהג האנושי, כי הנהג האנושי לא יכל לבחור אחרת בגלל כל הסיבות שנמנו לעיל, אבל המתכנת כן יכל למנוע את התאונה, ובכל זאת החליט לא למנוע אותה, ולכן הוא נושא באחריות ישירה על מצב זה, וקשה הרבה יותר להחליט בצורה ספציפית על מצב מסויים מאשר החלטה כללית על משהו תאורטי.

שוב אני אישית הרבה יותר בטוח ברכב האוטונומי מאשר בנהג הרגיל, אני רק כותב מה נראה לי בכל זאת הבעיה של החברות המתכננות.

 

 

עכשיו ראיתי את התגובה שמעליי, שוב ברור שהרכב האוטונומי ברוב המקרים יתמודד עם המצב הרבה יותר טוב מהנהג האנושי, אבל מספיק מקרה אחד שבו החלטת הנהג האנושי תשאיר אותו בחיים והחלטת הרכב תהרוג אותו כדי ליצור בעיה.

עריכה אחרונה ב-7 לאפריל, 2017 על ידי איצי בר