Jump to content
  • הצטרפו למשפחה

    היי, היי אתה (או את) שם!

    אנחנו יודעים, נחמד להיות אנונימי, ולמי בכלל יש כוח להירשם או להיות עכשיו "החדשים האלה".

    אבל בתור חברי פורום רשומים תוכלו להנות ממערכת הודעות פרטיות, לנהל מעקב אחרי כל הנושאים בהם הייתם פעילים, ובכלל, להיות חלק מקהילת הרכב הכי גדולה, הכי מגניבה, וכן - גם הכי שרוטה, באינטרנט הישראלי. 

    אז קדימה, למה אתם מחכים? בואו והצטרפו ותהיו חלק מהמשפחה הקצת דפוקה שלנו.
     

dir="rtl" style="text-align:right;"> שימו לב! השרשור הזה בן 2897 ימים, שזה ממש ממש הרבה ולכן הוא ננעל.

אם אתם פותחי השרשור ו/או יש לכם עדכון רלוונטי לנושא - פנו לאחד המנהלים ונפתח את השרשור חזרה לתגובות.

פוסטים מומלצים

פורסם

יש פה ככל הנראה בעיה באחד מהשניים - החיישנים או התוכנה.

אין סיבה ש-LIDAR לא יזהה את הולכת הרגל, אלא רק אם הוא היה תקול (דבר שאפשר לגלות בשנייה וחצי ואני בטוח שאובר כבר בדקו היטב). בהנחה והוא לא היה תקול, כל מה שנשאר הוא עניין תוכנתי - הזיהוי של הולכת הרגל כשל וכמה אנשים מצוות הפיתוח צריכים ללכת הביתה (לפחות).

BMW 325i E46

שלום, רוכב.

נא לא לבקש ממני גישה לאוף טופיק

  • תגובות 185
  • פורסם
  • תגובה אחרונה

המגיבים הפעילים ביותר בשרשור

המגיבים הפעילים ביותר בשרשור

פורסם

יש גם את האפשרות שהולכת הרגל עמדה (אבל ממש עמדה, לא הלכה לאט) בצד הכביש, זוהתה ע"י הרכב כהולך רגל שמחכה לחצות, והרכב לא עצר בגלל שאין שם מעבר חציה. ואז, היא החליטה בפתאומיות לחצות.

 

רוני, אני מקווה שאתה לא מנהל צוות פיתוח (או QA), אם על כל באג שמגיע לפרודקשן אתה מעיף אנשים (כן, אפילו באג חמור). וזה בכלל אלפא.

For I am a bear of very little brain, and long words bother me

 

לפני 25 דקות, m3x7r3m3 כתב:

אני מסכים איתך

פורסם
יש גם את האפשרות שהולכת הרגל עמדה (אבל ממש עמדה, לא הלכה לאט) בצד הכביש, זוהתה ע"י הרכב כהולך רגל שמחכה לחצות, והרכב לא עצר בגלל שאין שם מעבר חציה. ואז, היא החליטה בפתאומיות לחצות.

 

רוני, אני מקווה שאתה לא מנהל צוות פיתוח (או QA), אם על כל באג שמגיע לפרודקשן אתה מעיף אנשים (כן, אפילו באג חמור). וזה בכלל אלפא.

 

יש באג חמור ויש משהו שגרם למוות. במקרים כאלה צריך לקחת 10 מקדמי בטיחות. לא יודע מה היה הכשל פה, אבל אני בהחלט רואה אפשרות שהוא נבע מרשלנות.

לצורך הדוגמא (אך ללא השוואה ישירה) - כשמהנדס בניין עושה טעות שנובעת מרשלנות ובניין קורס והורג אנשים, מה אתה חושב שצריך לקרות?

 

בכל מקרה, ה-LIDAR אמור לדגום בקצב מאוד מהיר. אם הוא זיהה אותה כהולכת רגל (עם אופניים או בלי) שעומדת בצד הכביש, קודם כל הוא צריך להאט את הרכב במידה מסוימת. אח"כ, ברגע שהוא מזהה אותה מתחילה לנוע לכיוונו - הוא צריך לפעול.

לדעתי אין שום קשר למעברי חציה - מכוניות אוטונומיות לא יכולות להניח שבני אדם יעברו רק במעבר חצייה. המקסימום שהן יכולות לעשות זה להאט באופן מיוחד ליד מעברי חצייה שבקרבתם עומדים או הולכים אנשים.

BMW 325i E46

שלום, רוכב.

נא לא לבקש ממני גישה לאוף טופיק

פורסם

היה צפוי שיקרה. אני לא יודע מה קרה בדיוק, אבל בתאונה של טסלה שבא נהרג הנהג, הסתבר שבתנאי דרך מאוד ייחודיים (שמש ישירה על המצלמות ומשאית לבנה ששיקפה גם את אור השמש, מנגנוני הנהג האוטונומי לא ראו את הכביש. היו לנהג הרבה התראות על כך שיש בעיה אבל הוא ישן באותו זמן.

אני חושש שיהיו תאונות נוספות בזמן שיצרנים מנסים להבין את כל הסיטואציות שיכולות לקרות, ולתת למערכות המחשוב ברכב דרך להגיב לסיטואציות בתנאי אי וודאות

פורסם (נערך)
יש באג חמור ויש משהו שגרם למוות. במקרים כאלה צריך לקחת 10 מקדמי בטיחות. לא יודע מה היה הכשל פה, אבל אני בהחלט רואה אפשרות שהוא נבע מרשלנות.

לצורך הדוגמא (אך ללא השוואה ישירה) - כשמהנדס בניין עושה טעות שנובעת מרשלנות ובניין קורס והורג אנשים, מה אתה חושב שצריך לקרות?

בוא נבדיל בין רשלנות לטעות.

 

אני מניח (אבל לא באמת יודע) שלפני שגרסת תוכנה עולה על כביש אמיתי ברכב אוטונומי, היא עוברת בהצלחה לפחות סימולציה (שמריצים לתוכה "על יבש" הקלטות מנסיעות קודמות) ואיזה סט נסיעות מבחן במתקן סגור.

 

אם איזה מתכנת החליט להכניס שינוי משמעותי סתם ככה ברכב מבצעי, זו חתיכת רשלנות, ואין ספק שהוא צריך להיענש. מצד שני, אם מדובר בגרסה מסודרת שעברה את כל הבדיקות הדרושות, מדובר בבאג. זה קרה, קורה ויקרה. כל מוצר תוכנה הוא אוסף של באג אחד או יותר.

 

מהנדס בניין שהתעלם בכוונה מבעיה, השתמש בחומרים הלא נכונים או במעט מדי חומר במקום מסוים ובגללו קרס בניין, לא סתם התרשל אלא ממש לא מלא את תפקידו ביודעין. מהנדס שלא וידא שהתוכנית שלו מאושרת ונבדקת ע"י כל הגורמים הדרושים ולא עוברת את כל הבדיקות הדרושות, התרשל. מהנדס שלא לקח נקודה לא סבירה בחשבון, אבל התוכנית שלו נבדקה ואושרה טעה. אלו דברים שונים.

 

האם היית מאשים את מי שתכנן את מגדלי התאומים שלא תכנן אותם לעמוד בהתרסקות של מטוס?

 

בכל מקרה, ה-LIDAR אמור לדגום בקצב מאוד מהיר. אם הוא זיהה אותה כהולכת רגל (עם אופניים או בלי) שעומדת בצד הכביש, קודם כל הוא צריך להאט את הרכב במידה מסוימת. אח"כ, ברגע שהוא מזהה אותה מתחילה לנוע לכיוונו - הוא צריך לפעול.

לדעתי אין שום קשר למעברי חציה - מכוניות אוטונומיות לא יכולות להניח שבני אדם יעברו רק במעבר חצייה. המקסימום שהן יכולות לעשות זה להאט באופן מיוחד ליד מעברי חצייה שבקרבתם עומדים או הולכים אנשים.

בגלל זה הדגשתי את נושא העמידה המוחלטת. אי אפשר לצפות מרכב אוטונומי שיעצור ויתן לכל הולך רגל לעבור בכל מקום. ברור שהוא חייב לעצור אם הוא מזהה שהולך הרגל מתכוון לעבור את הכביש, אבל אם הוא מזהה הולך רגל שעומד ומחכה, במקום שבו אסור לו לעבור, אין סיבה שיעצור.

עכשיו, אני לא יודע, אבל אולי זה היה המקרה. ואולי זה באג.

 

באמת שזה מקרה מאוד מצער, מץבלי טיפה של ציניות, אבל אנשים נהרגים כל יום ע"י ובשביל טכנולוגיה. בין אם זה תאונות דרכים, תאונות עבודה או סתם טעויות. אף אחד לא חושב להפסיק להשתמש ברכבים או מטוסים, להפסיק לבנות בניינים או להפסיק להשתמש בחשמל כי הוא מחשמל וגורם לשריפות. גם ברכב אוטונומי אנשים יהרגו, לא צריך להוציא את העניין הזה מפרופורציות. כמובן שצריך להשקיע את כל המאמצים האפשריים לצמצם תאונות, אבל אם מישהו חושב שרכבים אוטונומיים יהיו בטוחים ב-100%, הוא לגמרי טועה.

עריכה אחרונה על ידי pooh-bear

For I am a bear of very little brain, and long words bother me

 

לפני 25 דקות, m3x7r3m3 כתב:

אני מסכים איתך

פורסם

תראה, להבדיל, כשמתכננים מטוס נוסעים, דואגים שיהיו מנגנוניי fail safe רבים כי מדובר בחיים של אנשים. כשמתכננים בניין, דואגים שבע פעמים שהתוכניות שעליהן חותם המהנדס יהיו נכונות. זה ממש לא אותו הדבר כמו העובדה שמגדלי התאומים לא תוכננו לעמוד בהתרסקות של מטוס. רכב אוטונומי צריך להיות מתוכנן להיות בטיחותי - בראש ובראשונה. זה הרי כלי שמסוגל להרוג, ואם פתאום יתחיל להשתגע, ללחוץ פול גז ולסובב את ההגה בפראות - אנשים ימותו.

 

לכן אני אומר שאם המערכת נכשלת באלמנט כמו זיהוי בנאדם שנע לכיוון מרכז המסה של הרכב (זה בדיוק מה שקרה כאן) - זה הרבה יותר מסתם באג - זו רשלנות.

 

כמובן - הכל פה לכאורה - אנחנו לא באמת יודעים מה קרה.

BMW 325i E46

שלום, רוכב.

נא לא לבקש ממני גישה לאוף טופיק

פורסם

אנחנו באמת לא יודעים מה קרה כאן.

 

אני מניח שחברה בסדר גודל של אובר, אפילו שהיא באמת לא מפורסמת בדאגה שלה לבטיחות המשתמשים, לא מעלה איזה מערכת בשלבי בטא ראשוניים לגמרי על הכביש. מאוד לא סביר שרכב כזה מגיע לכביש ציבורי בלי שלכל מערכת יש לפחות גיבוי אחד (או שלפחות הרכב עוצר במקרה שמערכת לא מגובה כושלת). למיטב הבנתי יש גם רגולטור שמאשר את הניסויים האלו, ואני מניח שיש דרישות רגולטוריות כאלו ואחרות. בכל זאת, אמריקה.

 

צריך להבדיל בין תכנון בניין, שזו עבודה שמהנדס בניין אמור לדעת לעשות, לבין תכנון רכב אוטונומי. בתכנון בניין אין לרוב שום אספקט חדשני (לפחות לא מבחינה בטיחותית). מהנדס שלא חישב נכון פשוט לא יודע את העבודה שלו. במקרה של רכב אוטונומי, אין (עדיין) פיתרון בית ספר מוכר, ומדובר בתהליך של ניסוי וטעיה.

 

ברור שאם מישהו העלה רכב אוטונומי לכביש ציבורי כשהוא יודע שהרכב לא מזהה הולכי רגל בסיטואציות מסוימות, יש כאן לכל הפחות רשלנות. אבל אם יש באג בתוכנה שעדיין לא נמצא וגורם למערכת לא לזהות / לא להגיב / סתם להיתקע לגמרי (כולל כל מערכות הגיבוי), והבאג הזה לא נמצא עדיין בשום ניסוי שנעשה, אז לדעתי יהיה קשה מאוד להוכיח רשלנות (וזו אכן לא רשלנות).

For I am a bear of very little brain, and long words bother me

 

לפני 25 דקות, m3x7r3m3 כתב:

אני מסכים איתך

פורסם

אין לנו ויכוח. אני העליתי השערה שבהנחה (הסבירה) שלא מדובר בכשל בחומרה (א/ב של בדיקה לפרויקט כזה זה התראה לנהג במקרה של כשל בחומרה), אז כשל כזה בתוכנה הוא חמור מאוד, ברמה שיכולה לגבול ברשלנות קיצונית. אם לפרוט את זה לבייסיקס: המכונית מזהה עצם גדול יחסית וקרוב יחסית שנע בתנועה לכיוונה - צריך לבלום, נקודה.

BMW 325i E46

שלום, רוכב.

נא לא לבקש ממני גישה לאוף טופיק

פורסם

אתה צודק לגמרי שהרכב היה צריך לבלום. על זה אין שום ויכוח.

 

בוא נניח שלא מדובר בתקלת חומרה (למרות שגם כאן, "תקלה" זה מונח מאוד מורכב. ממש לא פשוט לאתר תקלות חומרה, והן ממש לא בינאריות, לחומרה יש טווח מאוד רחב בין עובד ללא עובד). ננסה לתאר תקלת תוכנה אפשרית:

 

פרוסס א מייצר דריסת זיכרון קלה. באופן רגיל היא לא מורגשת, כי היא נוגעת בזיכרון שפרוסס ב משתמש בו באופן זמני, והם לרוב מתוזמנים בזמנים נפרדים לגמרי. במקרה הספציפי הזה, בגלל שהזיהוי המפתיע לקח קצת יותר זמן, פרוסס ב ו-א רצו במקביל, א דרך ל-ב על הרגליים, ב קיבל החלטה לגמרי לא נכונה, ומשם הכל התדרדר לקטסטרופה.

 

אז מי אשם? מי שייצר את דריסת הזיכרון מלכתחילה? אבל מה אם היא נוצרה כשפרוסס ב בכלל לא היה בתכנון ואף אחד לא השתמש בזיכרון הזה? מי שתזמן אותם ביחד?

 

בתוכנה יש באגים. תמיד יהיו. רובם איזוטריים בצורה מזעזעת, ועדיין יכולים לגרום לקטסטרופות. ומאוד קשה עד בלתי אפשרי לגלות אותם ב-QA.

 

כנראה שלעולם לא נדע מה בדיוק התקלה שגרמה לתאונה הזו (אני מקווה שלפחות אובר ידעו).

For I am a bear of very little brain, and long words bother me

 

לפני 25 דקות, m3x7r3m3 כתב:

אני מסכים איתך

פורסם

בהנחה (שוב הסבירה) שכשאובר תכננו את המערכת הם עשו עבודה, ובכן, סבירה, אז הגיוני שהם ידעו מהר מאוד את הסיבה האמיתית לכך שהמכונית לא הגיבה. הרי כל הרעיון בניסויים הללו הוא לאסוף כמה שיותר מידע. אני משוכנע שיש להם לוגים מדויקים של מה המערכת זיהתה ואילו החלטות היא לקחה כתוצאה.

BMW 325i E46

שלום, רוכב.

נא לא לבקש ממני גישה לאוף טופיק

פורסם

קודם כל - איפה החלטת שהמכונית של אובר נסעה עם אורות מכובים? תסתכל בסרטון - מאיפה האור שמתקדם ביחד עם האוטו מגיע לדעתך?

 

שנית - באמת נראה שהאזור הרבה יותר מואר מאשר בסרטון של אובר, מה שמטיל יותר אחריות על הנהגת.

BMW 325i E46

שלום, רוכב.

נא לא לבקש ממני גישה לאוף טופיק


×
×
  • תוכן חדש...