הצד המטריד של AI ואפשרויות שימוש בו לרעה- דיון.

[ברווז]

נקודות למחשבה. 

יש לי אפליקציה של גוגל לתמונות ("גלריה" שמה). 

מדי פעם היא עושה לי קולאז' של תמונות שצילמתי. אני לא נותן שם לתמונות שאני מצלם, בטח שלא בטלפון עצמו (לא נוח לי הממשק).

היום היא הציעה לי קולאז' של תמונות של החתול שלי, תחת הכותרת "my furry friend". 

די נדהמתי, האמת. 

התוכנה יודעת לנתח תוכן של תמונות ולשייך אותו לקטגוריות, דהיינו היא יודעת מה היא רואה. 

 

מקרים נוספים. 

לפני שהחלפתי ספק אינטרנט, היו מקרים שהפייסבוק לא עלה כמו שצריך. 

במקום לראות תמונה, הייתי רואה מלבן "ריק" (בצבע כלשהו), ובכותרת שלו היה כתוב "ייתכן שזו תמונה המכילה (משהו מוגדר היטב) ומעליו טקסט (ציטוט ישיר).

 

דהיינו, התוכנה יודעת מה היא רואה ויודעת לנתח טקסט מתוך התמונה. 

המיילים שלנו כבר לא בטוחים- מידע רגיש שנמצא שם, זמין לתוכנות הללו בלי שנדע בכלל. למשל. 

ועוד.

[stum]

הטכנולוגיה כבר פועלת המון שנים. 

מה שהשתנה זה המודעות שלך לנושא והנגישות של זה לציבור הרחב.

 

אם פרטיות חשובה לך - BlackBerry זה כנראה המותג שעדיף לך.

[Igalz]

לפני 21 דקות, ברווז כתב:

דהיינו, התוכנה יודעת מה היא רואה ויודעת לנתח טקסט מתוך התמונה. 

רק הערה קטנה, זיהוי טקסט מתמונה זה לא AI, זה OCR, וזה היה זמין הרבה לפני שידענו מה זה AI.

 

המיילים שלך לא היו בטוחים מעולם, זה טקסט פשוט וגלוי, מה עכשיו הקפיץ אותך?

[ברווז]

לא "הקפיץ". סתם "מטריד". 

[Igalz]

סבבה,
המיילים שלך לא היו בטוחים מעולם, זה טקסט פשוט וגלוי, מה עכשיו הטריד אותך?

[Liviur]

לפני כשעה, ברווז כתב:

נקודות למחשבה. 

יש פה הרבה נקודות - רובן פשוט לא נכונות ... 

לפני כשעה, ברווז כתב:

התוכנה יודעת לנתח תוכן של תמונות ולשייך אותו לקטגוריות, דהיינו היא יודעת מה היא רואה. 

לא ציינת במה אתה משתמש.

אפל עושים את הזיהוי הזה מקומית על המכשיר ומשתפת אותו בצורה מוצפנת צמודה לicloud שלך ולא משותפת עם אפל - רק בין המכשירים.

גוגל עושה את זה על הענן אבל כאמור מצמידה את זה לחשבון שלך. זיהוי עצמים בתמונות וקישור של אותו אחד הוא דבר בסיסי ביותר.

אם אתה רוצה לדאוג מזה - תדאג משירותים כאלו אחר. למעשה אפילו אמזון , IBM ומייקרוסופט היו מודאגות מזה ברמה כזו שהיא הפסיקה למכור את הטכנולוגיה הזו לכוחות ביטחון.

https://www.technologyreview.com/2020/06/12/1003482/amazon-stopped-selling-police-face-recognition-fight/

 

לפני כשעה, ברווז כתב:

במקום לראות תמונה, הייתי רואה מלבן "ריק" (בצבע כלשהו), ובכותרת שלו היה כתוב "ייתכן שזו תמונה המכילה (משהו מוגדר היטב) ומעליו טקסט (ציטוט ישיר).

 

מה שאתה מדבר עליו הוא טקסט נגישות שפייסבוק מייצרים לתמונות - זה משמש בעיקר אנשים עם קשיי ראיה / עיוורים שמשתמשים בפלטפורמות האלו.

במקרה של פייסבוק זה אכן נעשה על הענן , במקרים אחרים - המכשירים עצמם יודעים לייצר את זה מקומית (אפל פתחו את הAPI שלהם לזה לפני כשנתיים)

זה עניין של איכות חיים עצום עבור משתמשים - ממליץ לך לקרא על Voiceover באייפון וtalkback באנדרואיד. יש אחוזים שלמים באוכלוסיה שמשתמשים בזה בצורה יומיומית. הרבה יותר ממה שאתה מתאר לעצמך.

 

לפני שעה, ברווז כתב:

המיילים שלנו כבר לא בטוחים- מידע רגיש שנמצא שם

אתה משתמש במייל חינמי ? נגיד גוגל ? תקרא את התנאי שימוש שלך מראש. אתה מסכים לניתוח סטטיסטי של הטקסט במייל.

בנוסף - כמו שציינו הפרוטוקול מראש לא נכתב על מנת להיות מאובטח ונכתב בזמנים הרבה יותר נאיבים מבחינת האינטרנט כשהוא היה רשת סגורה אקדמאית.

 

לפני כשעה, stum כתב:

אם פרטיות חשובה לך - BlackBerry זה כנראה המותג שעדיף לך.

הימים שבלאקברי היה סמן של פרטיות עברו ממזמן

 

יש המון בעיות עם בינה מלאכותית (ומה שאנשים לא יורדים לעצם העניין של מה זה מנועי טקסט גנרטיבים לעומת בינה מלאכותית על מלא) - אבל אלו - לא ממש קשורים.

אלו כולן חששות לפרטיות המידע. בגדול - העיקר לזכור שכל פעם שאתה משתמש בשירות שאתה לא משלם עליו - כנראה בתנאי שימוש שלך - ויתרת על חלק מהפרטיות והשימוש בתוכן שאתה מייצר למטרות כאלו ואחרות. לרוב אגב - כדי לפרסם לך יותר טוב יותר מאשר מלעקוב אחריך.

[Mech Morphix]

לפני שעה, ברווז כתב:

my furry friend

גם לי יש חבר כזה אבל הוא רק מתלבש כמו חתול

[SlowRide]

אם יש לך טלפון אנדרואיד, סביר להניח שיש לך עליו את גוגל לנס (lense), תנסה את זה ותראה איך הוא מזהה את כל הפריטים בחלל שאתה מכוון אליהם את המצלמה.

האם זה מטריד? לא ממש. 

מה כבר יעשו עם המידע הזה חוץ מלהתאים לך את הפרסומות? 

 

[ברווז]

לפני 38 דקות, Liviur כתב:

לא ציינת במה אתה משתמש.

 

לפני שעתיים, ברווז כתב:

יש לי אפליקציה של גוגל לתמונות ("גלריה" שמה). 

זה די אמור לענות על השאלה, במה אני משתמש 

 

וכן, מוכר לי גוגל לנס (וגם התרגום ע"י מצלמה). 

כשאני בוחר באופן אקטיבי להשתמש בשירות שכזה, זה דבר אחד- 

כשהמכשיר הולך "מאחורי הגב שלי", בודק את תוכן התמונות שצילמתי, ועושה עם זה דברים על דעת עצמו* (הגדירו לו לעשות דברים כאלו, אבל עדיין הביצוע הוא על דעת התוכנה), זה כבר דבר אחר. 

[פינדר]

לפני 4 דקות, ברווז כתב:

זה די אמור לענות על השאלה, במה אני משתמש

גוגל תמונות זמין גם למשתמשי אייפון.

גם אני באייפון שלי מקבל כל בוקר מקבץ תמונות למזכרת.

הכי מדהים אותי זה איך שהוא מצליח לזהות את הילדים, גם היום וגם בתמונות מלפני 18 שנה (נסרקו מפילם).

עריכה אחרונה ב-2 לאפריל, 2023 על ידי פינדר

[Gavrik]

הסר דאגה מליבך, הטכנולוגיה אמנם משוכללת ולגוגל יש כל מה שצריך כדי לדעת כל צעד שאתה עושה וכל אדם שאתה מדבר איתו וכו... אבל היא מוגנת היטב ואתה לא מעניין ארגונים ברמה שיכולים לפרוץ אותה.
פריצות ועוול לאדם הפשוט נגרמים מטעויות של האדם הפשוט עצמו, כמו פישינג, סיסמאות חלשות, אתרים זדוניים וכו... הטכנולוגיה של גוגל היא לא מה שישנה פה את התמונה.

[Ooga]

לפני 7 שעות, ברווז כתב:

היום היא הציעה לי קולאז' של תמונות של החתול שלי, תחת הכותרת "my furry friend". 

זה באמת נחשב AI?

וזה קיים בטלפונים של סמסונג בצורה מובנית כבר שנים רבות בגלריה.

(בגוגל זה קיים דרך חיפוש תמונות הרבה לפני).

הנה דוגמא של פשלה מ 2015:

https://www.wsj.com/articles/BL-DGB-42522

 

עריכה אחרונה ב-2 לאפריל, 2023 על ידי Ooga

[Mech Morphix]

מה שיותר מגניב שמצאו גורילה שסיימה קולג'

עריכה אחרונה ב-2 לאפריל, 2023 על ידי Mech Morphix

[hans]

לפני 8 שעות, ברווז כתב:

כשהמכשיר הולך "מאחורי הגב שלי", בודק את תוכן התמונות שצילמתי, ועושה עם זה דברים על דעת עצמו

שוב, קרא את תנאי השימוש.

בכל פעם שאתה מתקין משהו, גם של גוגל, אתה מאשר תנאי שימוש.

מה שמוזר שאתה מוטרד ממשהו שהוא בכלל לא AI ועובד די חלק עוד לפני 2015... מנגנון זיהוי התמונות הוא איזו אבולוציה של מנגנון זיהוי טביעת אצבעות, מודל פשוט (יחסית!) שממפה תמונה של פרצוף לאוסף של נקודות עם מרחק יחסי ביניהן. זה עובד מצוין דווקא עם פרצופים משום שבכל צילום של פרצוף תמיד יהיה אף/עיניים/פה ויחס מסוים ביניהם שהוא באותו טווח אצל רוב בעלי החיים.

 

בפן המעשי, נבירה באינספור התמונות שלך עד שאתה מוצא משהו היא בעיה שהיא ממש אקוטית, ואם גוגל "מתאמנים" על המידע שלי ומצליחים *לעזור* לי לאתר תמונות על פי חיפוש - זה שירות ששווה לי להפקיד את כל התמונות שלי אצלו.

זה לא רק איסוף פרצופים - מזמן כבר עברתי לנבור בתמונות שלי כמו שאני משתמש בגוגל, ואם אני כותב woodworking צצים לי כל הפרויקטים השונים שעשיתי בנגרות...