מקרה מוות ראשון של הולך רגל כתוצאה מתאונה ע"י רכב אוטונומי [איחוד דיונים]

[kobi_g]

 

אגב, המכונית נסעה ללא אורות דולקים.

אניח את זה כאן: רוב המערכות של זיהוי חפצים/אנשים/דרך לא ממש צריכות "אור"

מערכות מבוססות חיישני מכ"מ וחיישני לייזר כפי שיש ברכבים לא זקוקות לאור כלל והן יוצרות את המציאות שלהם

מהנתונים שמגיעים. (יש חיישנים אופטיים אבל הם תוספת, הדרך ממופה ע"י חיישן מכ"מ שממש לא נדרש לו אור)

אם היתה (כנראה שכן) תקלה בתוכנה אז היא אכן גרמה לחוסר תגובה ופגיעה בהולכת הרגל.

[bagira]

התאונה הקטלנית לא היתה צריכה להפתיע

 

 

עתה, לפי הדיווח, מתברר שפרויקט המכונית האוטונומית של אובר סובל מקשיים מזה זמן רב. לדברי הניו יורק טיימס, במכוניות האוטונומיות של גוגל הנהג האנושי נדרש להתערב בממוצע מדי 5,600 מייל (8,960 קילומטר). ואולם, נכון לחודש מרץ הרכבים של אובר התקשו לעמוד ביעד של התערבות מדי 13 מייל (כ-21 קילומטר).

 

https://www.calcalist.co.il/internet/articles/0,7340,L-3734772,00.html

 

 

נראה שפשוט אובר נמצאים הרחק מאחור ביכולות האוטונומיות של הרכבים שלהם.

 

לזה בדיוק התכוונתי בהודעות קודמות שלי שבמירוץ להגיע ראשונים לתיבת האוצר, מפזרים כמויות גדולות מאוד של שקרים חסרי אחיזה במציאות.

 

 

[maphisto]

מציע לקרוא את הפוסט הבא: http://ideas.4brad.com/it-certainly-looks-bad-uber

אגב יש להפריד בין אשמה פלילית של אובר (שכנראה לא תהיה אשמה) לבין חולשת הטכנולוגיה (שאם תקראו את הפוסט תבינו).

 

בעניין אשמת התאונה (מבחינה פלילית) לדעתי אובר לא אשמים.. כלומר אם זה היה רכב רגיל עם נהג אנושי בלבד הוא לדעתי היה יוצא זכאי.

אבל, הוולוו המקורי עם מערכות ההגנה הקיימות להערכת כותב הפוסט וגם לדעתי היו מונעות את התאונה (ראדר פשוט היה מזהה את האוביקט ועוצר את הרכב).

זה מוביל להשערה שבניסוי הזה ניסו לעבוד רק עם מצלמות ללא הלידאר \ ראדר \ טרמי - וזה לדעתי הבעיה הגדולה.

אם זה נכון, לדעתי אובר הפרה את תנאי הניסוי כי כיום לא קיימת אף מערכת שמוסגלת לנהוג אוטונומי רק בעזרת מצלמות (אפילו לא קרוב).

 

לדעתי הצנועה, אובר לא אשמים בתאונה אבל זה עדין מוות מיותר שהיה יכול להמנע.

[leasing driver]

נרצה או לא, המכונית האוטונומית היא עובדה שתהיה חלק מהחיים שלנו בשנים הבאות. כמו כל טכנולוגיה בכל תחום, ההתחלות יהיו קשות וכואבות. תזכרו את המטוסים הראשונים או לפחות מה שאמור היה להיות כלי טיס ומה שיש לנו היום ועדין פה ושם ישנן תאונות ותקלות. זה חלק ממחיר הקידמה.

[bagira]

לדעתי הצנועה, אובר לא אשמים בתאונה אבל זה עדין מוות מיותר שהיה יכול להמנע.

 

אם הם ניתקו את הלידאר (בניגוד להוראות) ואם הם ניתקו את מערכת ההתראה המובנית של הרכב (למניעת דריסת הולכי רגל) אז למה הם לא אשמים?

 

התאונה הזו הייתה אמורה להמנע מאוד בקלות.

[arco1]

כתוב שהמשטרה הודיעה שהרכב לא בלם כלל, האם זה מחזק תאוריה של מישהו שכתב שהרכב כן זיהה את הולכת הרגל עם האופניים, אך החליט לא לבלום (false positive)?

[sperial]

זה false negative, כלומר היה מכשול והרכב לא הגיב אליו (ולא משנה איזה חוליה בשרשרת כשלה).

 

ממה שאני רואה בכל מיני אתרים עולה כי היתה כאן שרשרת כשלונות חמורה, גם של הרכב וגם של נהגת הבטיחות.

[malcishua]

מי שנכשל כאן - חד משמעית - זו הנהגת של אובר.

 

הרכב נמצא בשלבי פיתוח. מה שאומר שלא רק שייתכנו שגיאות כאלה, אלא סביר להניח שהן יקרו. על פניו (ומתוך האינפורמציה הזמינה כרגע - יתכן שההערכה תשתנה כשתהיה יותר אינפורמציה) - מדובר בשגיאת false negative, כנראה של התוכנה. חשוב להבין שאם זה העניין, לא מדובר בבאג, אלא בטעות שנובעת מכך שהמודל בשלבי פיתוח וכיול פרמטרים, ועוד לא הגיע לטרייד אוף האופטימלי שבין false negatives ל-false positives. כל עוד המודל בשלבי פיתוח, צפוי שיעשה טעויות כאלה, בשיעור שלא מצופה מהמוצר הסופי.

 

אבל כל זה לא משנה. אין פה שום ״פשלה״ של מפתחי המערכת. בשלבים האלה, כאמור, צפוי שיהיו שגיאות מערכת מהסוג הזה. הפשלה היא חד משמעית של הנהגת, שנמצאת שם בשלב הזה של הניסוי בדיוק כדי לדאוג לכך ששגיאות מערכת כאלה לא יתרגמו לתאונות כמו זו שקרתה. אם היא היתה עושה את עבודתה נאמנה, התוצאה היתה אחרת. אני לא בטוח שהתאונה היתה נמנעת (ודאי לא ניתן להכריע בשאלה בהסתמך רק על הוידאו), אבל בוודאות הנהגת היתה בולמת ויתכן שתוצאות התאונה היו פחות חמורות.

 

להערכתי, אובר הפסיקה את הניסויים לא רק כדי לבדוק את האלגוריתם (למרות שאני בטוח שהוא יעבור אי אלו עדכונים אחרי התאונה הזו), אלא יותר כדי להעביר הדרכה מחודשת לנהגיה עם הדגשה על הטעות שעשתה הנהגת הזו. לפחות כך אני מקווה.

עריכה אחרונה ב-26 למרץ, 2018 על ידי malcishua

[sperial]

הסיפור עם אובר יותר מורכב - מתברר כי היא הפחיתה את צוות הניסוי משני משגיחים לאחד, והטילה על אותו משגיח מטלות שמסיחות את דעתו לעניינים אחרים.

[sronis]

עידכון:

https://www.economist.com/the-economist-explains/2018/05/29/why-ubers-self-driving-car-killed-a-pedestrian

 

שלושת המערכות (מצלמה, רדאר ו-LIDAR) עבדו וזיהו את הולכת הרגל 6 שניות לפני התאונה, אבל מערכת הזיהוי שמפרשת את האותות התבלבלה וזיהתה אותה בתחילה בתור אובייקט לא ידוע, אח"כ כרכב ולבסוף כאופניים, ללא יכולת לזהות את הכיוון אליו הם נוסעים. 1.3 שניות לפני הפגיעה המערכת הבינה שיש לבצע בלימת חירום, אבל מערכת בלימת החירום האוטונומית של המכונית הייתה מנוטרלת כדי למנוע קונפליקטים עם מערכת הנהיגה האוטונומית (כלומר כדי שהמכונית לא תבלום בעוצמה בפתאומיות ותגרום לנהגים אנושיים להתנגש בה מאחור) ולכן הנהג היה אמור לבלום, אבל הוא לא הספיק כי הסתכל למטה באותה שניה.

 

בקיצור - זו בעייה בתכנון של המערכת. אם מערכת הזיהוי מתבלבלת - המכונית צריכה להאט. בהתחלה בעדינות ובהמשך בעוצמה אם יש צורך.

[malcishua]

גם האטות כאלה - אפילו בעדינות - הן בעייתיות (וזה מוזכר בכתבה). ובאופן כללי, חלק מאוד חשוב מהמשימה בבניית רכב אוטונומי הוא המנעות מ-false positives, כדי שנוחות הנסיעה תהיה סבירה (תחשוב איך תרגיש אם הרכב יבלום כל כמה שניות).

 

אני יודע שעל פניו נראה כאילו זה מקרה חירום, וברור לכולם שכאן המערכת היתה צריכה להתחיל לבלום כשזיהתה אוביקט לא ידוע, אבל זה בדיוק העניין - שבשלב הנוכחי, לא מדובר באירוע נדיר מספיק. והמטרה של הניסויים היא בדיוק למצוא את הסף הזה (זה כמובן פישוט רציני של העניין, במציאות מדובר בשילוב של הרבה פרמטרים) שמתחתיו אתה ממשיך, ומעליו אתה בולם.

 

לכן קשה לומר שהיתה ״בעיה״ בתכנון המערכת. מדויק יותר לומר שהמערכת עדיין לא ״מבושלת״ מספיק, והמטרה של הניסויים היא להמשיך ״לבשל״ אותה. הכשל פה היה של הנהגת, שלא ביצעה את תפקידה (הקריטי!), שהוא למנוע מקרים כאלה בדיוק, שקורים וימשיכו לקרות בעתיד ה(לא כל-כך )קרוב, עד שהמערכת תושלם.

עריכה אחרונה ב-30 למאי, 2018 על ידי malcishua

[Eily]

במקרה כזה בדיוק (התנגשות בין במערכת האוטונומית לבלימת חירום, ואולי כמה שניות קודם) יש צורך בהתרעה רצינית לנהג הניסוי.

אני מבין שלא מדובר בנהגים סופר עירניים ומקצועיים (לשלבים הראשונים) אלא ב"נהגי אובר" (לא מזלזל, רק לציין נהג מהשורה. לצורך העניין - כמוני כמוך).

 

ידוע אם הייתה התרעה?

[malcishua]

לא חושב שיש, אבל אולי אני טועה.

 

וכן, הנהגים אמורים להיות סופר עירניים ומקצועיים, והם עוברים הכשרה ייעודית בדיוק למקרים כאלה. אני אישית מכיר אחד כזה (אמנם לא באובר..).

עריכה אחרונה ב-31 למאי, 2018 על ידי malcishua

[Hagaix]

בינתיים waymo, החברה של גוגל לרכבים אוטונומים, הזמינו 60 אלף קרייזלר פסיפיקה לשירות "מוניות" שלהם

[bagira]

לכן קשה לומר שהיתה ״בעיה״ בתכנון המערכת. מדויק יותר לומר שהמערכת עדיין לא ״מבושלת״ מספיק, והמטרה של הניסויים היא להמשיך ״לבשל״ אותה. הכשל פה היה של הנהגת, שלא ביצעה את תפקידה (הקריטי!), שהוא למנוע מקרים כאלה בדיוק, שקורים וימשיכו לקרות בעתיד ה(לא כל-כך )קרוב, עד שהמערכת תושלם.

 

 

קצת מגוחכת ההתפלפלות הזו על "לא כשל של המערכת אלא חוסר הבשלה" כאשר התוצאה היא בן אדם מת!