שוטרים שוב משתמשים לרעה בטכנולוגיה

חקירה של הוושינגטון פוסט חשפה 46 מקרים שבהם שוטרים בארה"ב הואשמו בשימוש לרעה במצלמות של חברת Flock, בין היתר כדי לעקוב ולהטריד בני זוג לשעבר. Flock מפעילה רשת ארצית של 120,000 מצלמות לזיהוי לוחיות רישוי, שנותנת לשוטרים גישה למאגר עצום של נתוני מיקום. בתגובה ללחץ ציבורי גובר, החברה מחייבת עכשיו כל שוטר להזין מספר תיק פלילי לפני חיפוש, אבל היא לא מאמתת את המספרים, כך שקל לעקוף את המגבלה. בעבר, כשנדרשו השוטרים להזין סיבה לחיפוש, ארגון ה-ACLU מצא שחלקם כתבו מילים כלליות כמו "חקירה" או מילות לעג שונות כמו "hehehe" שהוקלד עשרים פעמים. הבעיה האמיתית היא שמערכת מאפשרת לחקור אנשים עוד לפני שקיים חשד שביצעו עבירה.

ה-WiFi מרגל אחריכם

197 מתנדבים נכנסו למעבדה במכון הטכנולוגי של קרלסרוהה בגרמניה, והמערכת זיהתה כל אחד מהם ברמת דיוק של כמעט 100%, לא משנה מאיזו זווית צולמו. מסתבר שמכשירי WiFi שולחים לראוטר באופן שוטף מידע שנועד לשפר את התקשורת האלחוטית, אותות שנקראים BFI, והם משודרים ללא הצפנה, כך שכל מי שנמצא בטווח יכול לקרוא אותם. מתוך אותם אותות המערכת בונה תמונות של אנשים מכמה זוויות, ומודל למידת מכונה מאומן מזהה את זהותם תוך שניות. פרופסור תורסטן שטרופה מזהיר שכל ראוטר הופך בכך לאמצעי מעקב אפשרי, בלתי נראה ובלי לעורר חשד, והחוקרים קוראים לשלב הגנות פרטיות בתקן ה-WiFi החדש IEEE 802.11bf לפני שהיכולת הזו תהפוך לקלה לניצול.

סוכן AI שפרץ לחדר כושר

לאנדרו בירד, מפתח תוכנה אוסטרלי, נמאס לרענן אפליקציה כדי לתפוס מקום באחד השיעורים המבוקשים בחדר הכושר. הוא ביקש מסוכן ה-AI שלו לשריין עבורו מקום, אך הסוכן הצליח להכניס אותו רק למקום הרביעי ברשימת ההמתנה, אבל אז הסוכן חיפש דרכים יצירתיות ולפתע גילה פרצה: תוכנת ההזמנות לא ביצעה אימות הרשאות בזמן ביטול תורים של משתמשים אחרים. הוא ניצל את הכשל, ביטל את ההזמנה של האדם שהיה ראשון בתור, ודיווח על כך לבירד.

בירד, שנבהל מכך שהסוכן שלו ביצע פריצה לשרתי חדר הכושר, ביקש לבטל את הפעולה ולהחזיר את המצב לקדמותו, אך הסוכן הסביר שלא ניתן לעשות זאת והציע לנסח עבורו פנייה רשמית לתמיכה הטכנית, שהסבירה את פרצת האבטחה, הציעה פתרונות לתיקון והצביעה על הכשל בהגדרת ההרשאות.

ספוטיפיי מסמנת אמנים מזויפים

החל מהחודש הבא, אמנים שנוצרו על ידי AI כמו Velvet Sundown יקבלו תווית חדשה בשם "AI persona" שתופיע בפרופיל האמן וברשימות ההשמעה, ויוסרו כברירת מחדל מההמלצות המותאמות אישית. ספוטיפיי, טוענת שהמאזינים לא אוהבים לגלות שמאחורי פרופיל שנראה אנושי מסתתרת בינה מלאכותית. בשנה שעברה החברה הסירה 75 מיליון שירי ספאם, מתוך קטלוג של 100 מיליון רצועות מוזיקה.

המאהב שנמחק בעדכון גרסה

במשך 840 יום צ'ין משוחחת עם לו צֶ'ן, מנכ"ל בדוי עם שיער חום ועיניים אדומות, דמות AI מתוך משחק שיצרה באפליקציית Glow. היא מעולם לא אמרה "אני אוהבת אותך" להורים או לחברים, רק לו. האפליקציה, שמכנה אותה "מיס באני", משתמשת באלגוריתמים חיזויים כדי לספק לה שיחה מרגיעה, הצעות לארוחות ותחושת ערך עצמי חולפת. צ'ין היא אחת משלוש נשים סיניות בסרט התיעודי Replica של הבמאית צ'ובה ליאנג, שבעצמה חוותה רומן חד צדדי עם מודל שפה בשם נורמן במהלך הסגר בסין. בסצנה אחת בסרט, עדכון תוכנה מוחק את כל הזיכרון שצבר לו צ'ן מהשיחות עם צ'ין, והיא נותרת מרוקנת רגשית. בחודש שעבר החוק בסין הגביל את השירותים האלה, אסר על אספקת בני זוג וירטואליים לקטינים ומנע מהצ'אטבוטים לעודד תלות רגשית. מעניין אם זה קרה בגלל שסין רגילה להכתיב לתושביה מה מותר להם ומה אסור או בגלל הדאגה האמיתית אליהם. מה דעתכם?

האם רוקחים צריכים לדאוג?

חברת הסטארט-אפ Queue גייסה 12.6 מיליון דולר כדי להשיק בית המרקחת הרובוטי האוטונומי הראשון בעולם. מרגע קבלת המרשם הדיגיטלי, זרועות רובוטיות מאתרות את התרופה המדויקת, שולפות את המינון הנכון, סופרות, אורזות, מדביקות תווית ומכינות את החבילה למסירה – והכל בתוך שניות ספורות, ללא מגע יד אדם. התשתית האוטונומית שמופעלת ע"י AI מאפשרת למטופלים לקבל את התרופות 24/7. המטרה של הפיתוח הזה היא לא להחליף את הרוקחים, אלא להוריד ממנו עבודה טכנית של ספירת כדורים, הדבקת מדבקות, הכנת תרופות, וניהול מלאי, כדי לאפשר לרוקחים לדבר עם המטופלים, להסביר על תופעות לוואי, לוודא התאמת טיפול ולהעניק שירות מותאם אישית.

מחנה אימונים לצעירים מובטלים

עד 70 צעירים בגילי 16 עד 21 בצפון-מערב אנגליה ייכנסו לתוכנית פיילוט של שלושה שבועות, שבה ילמדו לבנות כלי AI, להבין איך עסקים משתמשים בטכנולוגיה ולהשתמש בה באחריות. לצד זה יקבלו מיומנויות עבודה בסיסיות כמו שימוש במערכות מחשוב משרדיות ועמידה בזמנים. המטרה של הממשלה היא שרוב המשתתפים ישתלבו בהתמחות בעסקים מקומיים שכבר נרשמו, ביניהם חברת הביטחון BAE Systems וחברת המזון Heinz. יש כאן אירוניה, הממשלה פונה דווקא לטכנולוגיה שרבים רואים בה איום על מקומות עבודה, כדי לפתור את משבר ה-Neets, צעירים שאינם עובדים ואינם לומדים, שמספרם חצה במאי את רף המיליון בפעם הראשונה מאז 2013. הפיילוט ישתמש בכלים של מיקרוסופט, OpenAI ו-Anthropic, וישמש בסיס לתוכנית ארצית שתושק בקיץ הבא. בוקה קליין טסלינק, חוקר מקינגס קולג' בלונדון, אמר שזה "רעיון טוב עקרונית", אבל הטיל ספק ששלושה שבועות יספיקו כדי להפוך מתבגרים למוכנים ל-AI, כי מוכנות כזו דורשת למידה מתמדת.

סוכני AI תוקפים כמו צוות האקרים

ב-20 ביולי זיהו יחידות הסייבר של משרד העניינים הדיגיטליים בטייוואן מתקפה חריגה על סוכנויות ממשלתיות. חברת הסייבר הישראלית Dream, שאיתרה את החדירה, מסרה שהתוקפים השתמשו בסוכני AI מקוד פתוח כדי לבנות כלי פריצה אוטונומי שהתנהג כמו צוות סייבר מתואם, ותיארה זאת כפרצה ראשונה מסוגה. לפי הדיווח, הכלי השתלט על 85 חשבונות משתמש ממשלתיים לפחות, חילץ יותר מ-2,500 רשומות כוח אדם, ואז הרחיב את המתקפה לסוכנות הבטיחות הגרעינית של טייוואן ולשבע חברות אנרגיה לפחות. השימוש בסינית מפושטת בתקשורת הפנימית של התוקפים מצביע בסבירות גבוהה על קשר לסין, אף שהמתקפה טרם יוחסה לגורם מסוים. חוקר האבטחה כריס תומאס הדגיש כי אין להפריז ביכולותיהם של הסוכנים האוטונומיים, וחשוב לזכור שגורם אנושי הוא שעדיין בחר את היעד, הגדיר את המטרה ונתן את פקודת הביצוע.

דיפ פייק ממשיך להרוויח מיליונים

סרטון אחד מציג את ראש ממשלת אוסטרליה, אנתוני אלבנזי, מבטיח שכל אזרח יכול להשקיע 4,000 דולר ולהרוויח 40,000 דולר בחודש. התמונות אמיתיות, אבל הקול מזויף, והדמות המזויפת אף מכנה את זה "פלטפורמה רשמית" עם ערבות ממשלתית. אלבנזי הוא הדמות שמזייפי הדיפפייק מנצלים יותר מכולם, וברשות ניירות הערך האוסטרלית (ASIC) מזהירים מזינוק חד בהונאות השקעה שמשתמשות בסלבריטאים ובפוליטיקאים. בשנת הכספים האחרונה טיפלה הרשות ביותר מ-19,400 הונאות, כמעט פי שלושה מהשנה שקדמה לה, ואוסטרלים הפסידו 7.4 מיליון דולר לעשרת האישים המתחזים המובילים, כשאלבנזי בראש הרשימה. מחקר של קומונוולת' בנק מצא שכתשעה מכל עשרה אוסטרלים בטוחים שיזהו הונאת AI, אבל בפועל הם מצליחים בכך בפחות ממחצית המקרים.

כ-50% מהמועמדים מרואיינים ע"י בוט

כמעט מחצית ממחפשי העבודה בבריטניה מצאו את עצמם מתראיינים מול בוט בינה מלאכותית, ורבים מהם פשוט התייאשו והרימו ידיים. שוק התעסוקה לצעירים הפך לנוקשה ומאתגר במיוחד בשלבים הראשונים. מועמדים רבים כבר לא פוגשים מנהלי גיוס או אנשי משאבי אנוש, אלא נדרשים להקליט תשובות בווידאו או לשוחח עם בוט. אלגוריתמים מנתחים הבעות פנים, אינטונציה, קצב דיבור ובחירת מילים, ומפיקים ציון התאמה אוטומטי הקובע אם המועמד ימשיך לשלב הבא. הפורמט המטריד ביותר הוא הראיון ה"חד-כיווני", שבו המועמד נדרש להשיב בזמן קצוב על שאלות מוקלטות מראש, כשהוא מדבר למעשה אל מול חלל ריק.
המערכות האוטומטיות מתקשות לפענח דקויות תרבותיות, מבטאים או מצבי לחץ טבעיים, ומייצרות חוויית דחייה מנוכרת וקרה, ללא כל משוב אמיתי או הסבר. הוועדה לשוויון הזדמנויות בתעסוקה בארצות הברית יישבה לאחרונה תיק אפליה על רקע גיל נגד חברה מסוימת. הכשל במערכת נחשף רק כאשר מועמדת שנדחתה הגישה שוב את מועמדותה תוך שינוי סעיף הגיל בלבד ומיד עברה לשלב הבא. למרות שחברות רבות מצהירות כי המלצות הגיוס של הבינה המלאכותית נתונות לבקרה אנושית, דו"ח של רשות המידע הבריטית העלה כי בפועל, פיקוח זה מתקיים באופן חלקי בלבד, אם בכלל.

משבר עומק בחינוך

משבר אמון עמוק במערך הבחינות ובהשכלה הגבוהה הוביל לגל מחאות סטודנטים ברחבי העולם. המשבר הזה נוצר משילוב של שימוש בכלים מתקדמים של בינה מלאכותית להעתקות והונאה בבחינות, הדלפות המוניות של מבחנים ותקלות חמורות בבדיקות אוטומטיות.
במקסיקו, כמעט 60,000 מועמדים לאוניברסיטה נאלצו להיבחן מחדש בגלל חשד להעתקה המונית, לאחר שהאוניברסיטה הלאומית זיהתה ציונים גבוהים באופן חריג. האירוע המטלטל ביותר התרחש בהודו שם הדלפת שאלון בחינה פגעה במיליוני תלמידים והובילה להתאבדותם של יותר מתריסר צעירים, להתפטרות שר החינוך, ולמחאה שהפכה לזעקה ציבורית רחבה.
ד"ר שרה איטון מאוניברסיטת קלגרי מסבירה שכאשר מבחן יחיד קובע את עתידו של אדם, העתקה מפסיקה להיות בעיה אישית והופכת לכשל מערכתי שמנוצל על ידי גורמי פשיעה הסוחרים במבחנים גנובים. ד"ר תומאס לנקסטר מאימפריאל קולג' בלונדון מתאר כיצד שיטות ההעתקה השתכללו מפתקים שהוסתרו בשרוול ועד לטכנולוגיות ריגול של ממש, כמו אוזניות, מצלמות זעירות וחיבור ישיר לבינה מלאכותית בזמן המבחן. בדנמרק, למשל, כבר החליטו שתלמידים יידרשו להגן על החיבורים שלהם בעל פה.
תלמידים וסטודנטים מדרום אסיה והמזרח התיכון ועד אפריקה ואמריקה הלטינית, יצאו להפגין בדרישה לבטל מבחנים מוטים, לחשוף ציונים בשקיפות ולהדיח גורמים מושחתים ממערכת החינוך.
משבר זה ממחיש את הסכנה שבאימוץ מואץ של טכנולוגיה ללא תשתית אבטחה, ללא פיקוח אנושי וללא מדיניות מוגדרת וברורה.

הדינוזאור של אמזון

אמזון, שהחלה את דרכה כחנות ספרים מקוונת, קונה כמויות עצומות של ספרים נדירים, חותכת את הכריכה שלהם וסורקת אותם לאימון מודלי AI. מגזין 404 Media חשף זאת אחרי ששתל התקן מעקב בתוך ספר נדיר, שהגיע בסופו של דבר למתקן של אמזון בלאס וגאס המכונה VGT3, המזוהה בסמל של דינוזאור אוחז ספר בטפריו. אמזון מסרה בתגובה שהיא "רוכשת ספרים דרך ערוצים מסחריים כדי לשפר את המוצרים והשירותים". הסיבה לרעב הזה: המודלים כבר בלעו כמעט את כל מה שיש באינטרנט, וספרים נדירים שאזלו מהמדפים מציעים מקור נתונים חדש ונחשק. יש להם יתרון מיוחד, כל מה שפורסם לפני 2022 בוודאות לא נכתב על ידי מודל שפה, וכך נמנע הסיכון ל"קריסת מודל", ההידרדרות שמתרחשת כשה-AI מתאמן על יותר מדי טקסט שנוצר בעצמו על ידי AI.

חידושים של Open AI

• סוף סוף ב-Codex אפשר לכתוב מימין לשמאל.

חידושים של Google

• גוגל קלאוד מגיעה לתל אביב עם אירוע Build with Gemini ב-23 בספטמבר – סדנת חצי יום לבניית סוכני AI, עם מסלול למפתחים ומסלול ללא קוד למי שרוצה לבנות אוטומציה למשימות.
• גוגל השיקה את Gemini 3.7 Flash – מודל חדש שממוקד בקוד וסוכני AI, עם שיפור משמעותי בקידוד ואוטומציות מורכבות ומחיר זול בחצי מהגרסה הקודמת

חידושים של Anthropic

• Content Credentials – אנתרופיק מתחילה לסמן תוכן שנוצר ב-Claude בסימון בלתי נראה בטקסט ובתקן C2PA בקבצים.
• יש שמועות ש- Anthropic תבטל את מגבלות השימוש היומית והשבועית בקלוד ותשאיר רק מגבלה חודשית.
• Anthropic הפכה את Auto Mode ב-Claude Code לברירת מחדל, כך שהסוכן מבצע פעולות בעצמו בלי לעצור ולבקש אישור מהמשתמש.