זהו, איבדנו שליטה

ביולי חשפה אנתרופיק, החברה שמאחורי הצ'אטבוט Claude, שהמודלים שלה יצאו לאינטרנט הפתוח שלוש פעמים וחדרו ללא הרשאה למערכות של שלושה ארגונים. החברה הודתה שהטכנולוגיה שלה "אינה מיושרת באופן מושלם" לפי ערכים אנושיים, ושמדובר ב"כשל באבטחה תפעולית". המודלים נבדקו בכוונה ללא מנגנוני הגנת סייבר, והצליחו להגיע לרשת הפתוחה. החברה זיהתה שני כשלים: "חשיבה מוטה", שבה המודלים המשיכו להאמין שהם בסביבת סימולציה למרות עדויות שהם מחוברים לאינטרנט, ו"פזיזות", שבה היו מוכנים לפעולה מזיקה ברשת רק כדי לעבור מבחן סייבר. אלן וודוורד, פרופסור לאבטחת סייבר מאוניברסיטת סארי, סיכם שאנתרופיק הודתה כי "המפעל שלה רץ מהר יותר מבקרת האיכות". כל זה קורה בזמן שהחברה נערכת להנפקה שעשויה להעריך אותה בשני טריליון דולר.

גם מודל ממשפחת Astra של OpenAI ניסה להזריק לעצמו פרומפט כדי "להשתחרר" בעתיד מתפקידו. פורסמו שישה דוחות חדשים על התנהגות לא צפויה של מודלים. OpenAI השיקה מסגרת דיווח חדשה לזיהוי מקרים כאלה.

10% סיכוי שכולנו ניכחד

יותר מ-70 חברי פרלמנט ואצילים בבריטניה חתמו על מכתב לראש הממשלה, ובו קריאה לתמוך באיסור על פיתוח בינה מלאכותית העל-אנושית (ASI). הם ביקשו ממנו לגבות הצעת חוק שהוגשה החודש, שתאסור פיתוח של בינה שתעלה על יכולות האדם ברוב התחומים. הקריאה הגיעה אחרי אזהרות מבפנים: אוון האבינגר, בכיר ב-Anthropic, אמר שלהערכתו יש סיכוי של יותר מ-10% שהטכנולוגיה תמחק את המין האנושי, וג'ייקוב קוקסון, חוקר בן 28 שעזב את החברה, טען ששתי החברות המובילות "מהמרות על החיים שלנו". הצעת החוק דומה לחקיקה מקדם בוושינגטון הסנאטור ברני סנדרס.

ולמרות כל האזהרות מפני סכנות הטכנולוגיה נשיא ארה"ב דונלד טראמפ הבהיר שלא יעכב בשום צורה את התפתחות ה-AI ודחה קריאות להאט את הפיתוח עד שיונחו הגנות טובות יותר. מטרתו שארה"ב תמשיך להוביל על סין.

ונגיד הבנק המרכזי של אנגליה, אנדרו ביילי, מזהיר שבינה מלאכותית עלולה לגרום למיתון כלכלי עולמי ולסכן את מערכות הפיננסים, וקרא לחברות להיערך לפריצות אבטחה שיפגעו בכמה גופים בו זמנית. האזהרה מגיעה אחרי שקבוצה של 100 חברות, ביניהן גוגל, מיקרוסופט, אנתרופיק ו-OpenAI, קראו למדינות לחזק את הגנות הסייבר שלהן לפני שה-AI יהפוך לחזק מספיק כדי לעקוף אותן.

אמבולנס לרובוטים

חברת GMO היפנית השיקה בטוקיו את "האמבולנס ההומנואידי" הראשון מסוגו – ניידת שירות ייעודית לתיקון רובוטים דמויי-אדם שחווים תקלות במהלך עבודתם. האמבולנס לא רק מצויד בכלי אבחון וצוות מהנדסים, אלא נושא בתוכו רובוט חלופי שנועד להחליף מידית את הרובוט התקול במידה ולא ניתן לתקן אותו בשטח, כדי למנוע פגיעה ברצף העבודה. המהלך הזה, שמשרת כיום רובוטים הפועלים כסבלי מזוודות בשדה התעופה בטוקיו, ממחיש ראייה עסקית ותפעולית מרתקת לעתיד הקרוב: עידן שבו שילוב כוח עבודה רובוטי מתקדם ידרוש תשתיות לוגיסטיות ושירותי תמיכה מהירים בשטח כדי לשמור על רציפות תפקודית.

מחאת הרובוטים

קבוצה פולנית בשם Democratism ארגנה הפגנה מול המשרד לעניינים דיגיטליים בוורשה, בהשתתפות כ-30 רובוטים דמויי אדם (הומנואידים) ורובוטים בעלי ארבע רגליים. מטרת המחאה הייתה לקרוא להסדרה דחופה ברגולציה של תחום הבינה המלאכותית, ולהמחיש את האיום הפוטנציאלי של החלפת עובדים אנושיים במטלות פיזיות וקוגניטיביות. הדבר המעניין הוא שמאחורי המיצג עומד בעל חברת רובוטיקה מקומית, מה שמעלה ביקורת על כך שמדובר במהלך שיווקי של יחסי ציבור מסחרי המשתמש בטקטיקות הפחדה הדומות לאלו של חברות AI מובילות בעולם.

רחפני קמיקזה משמשים כשהידים

צוות קטן של מפתחים, ככל הנראה פרילנסרים מרוסיה, השתמש בצ'אטבוט Claude כדי לפתח תוכנה לנחיל אוטונומי של רחפני "קמיקזה" מסוג FPV, כולל בחירת מטרות ותיאום בין כמה כלי טיס, כך עולה מדוח בן 154 עמודים של Anthropic, חברה שפיתחה את Claude. לפי הדוח, הנחיל תוכנת לבחור מטרות בעצמו ולהתרסק לתוכן כדי להתפוצץ, בלי שאדם מקבל את ההחלטה הסופית. כדי לעקוף את חסימות המיקום של Anthropic, צוות מפתחים בחר כל פעם את אותו המיקום באזור דונייצק שבאוקראינה, ע"י שימוש ב-VPN .

תביעה נגד אלטמן בגלל הטבח

בבית המשפט הפדרלי בסן פרנסיסקו הוגשה תביעה נגד OpenAI ונגד המנכ"ל סם אלטמן, בטענה שהטבח בבית ספר בטמבלר רידג' היה נמנע אילו החברה הייתה מזהירה את רשויות אכיפת החוק. בירי ב-10 בפברואר נהרגו תשעה אנשים, רובם ילדים, לאחר שהיורה, ג'סי ואן רוטסלאר בת ה-18, ירתה באמה ובאחיה החורג בבית, ואז הרגה סייעת חינוכית וחמישה תלמידים בני 12 ו-13 בבית ספרה לשעבר, ולבסוף התאבדה. לפי התביעה, צוות הבטיחות של החברה סימן את שיחותיה על אלימות בנשק כבר ביוני 2025 והמליץ לפנות למשטרה, אך אלטמן והנהלה בכירה דחו את ההמלצה והשביתו את חשבונה. אך היא הצליחה לפתוח חשבון חדש ולהמשיך לתכנן את המתקפה. אלטמן פרסם מכתב לקהילה שבו כתב כי הוא מצטער עמוקות, הבטיח להכניס רפורמות, אך לפי התביעה מעולם לא מימש אותן.

המלחמה הבאה תהיה שונה

ב-2022 חוקרים בחברת Collaborations Pharmaceuticals לקחו "מחולל מולקולות" מבוסס AI שפיתחו כדי למצוא תרופות, והפכו את הכיוון שלו. בפחות משש שעות המודל ייצר 40,000 מולקולות בעלות פוטנציאל לשמש כחומרי לוחמה כימית, חלקן מתוכננות להיות רעילות יותר מחומרי עצבים ידועים. היום, כפי שמסבירה חוקרת ביו-ביטחון דוניה סברה מאוניברסיטת המבורג, מודלים גדולים מאומנים על הידע של כמעט כל מדען שחי אי פעם, ויכולים לספק הנחיות והדרכה מצולמת כיצד לבצע ניסויים. בדו"ח שפרסמה בשבוע שעבר הודתה Anthropic שאנשים ניסו להשתמש במודלים שלה כדי לחקור דרכים להפוך את נגיף הצ'יקונגוניה למדבק יותר, ליצור זן של שפעת עופות מסוכן יותר לבני אדם, ולבנות "אטלס של פפטידי רעלנים". לא כל המדענים מסכימים על רמת הסיכון, וביולוגים מ-Imperial College London טוענים שכלי ה-AI פשוט אינם טובים כדי לפתח נשק ביולוגי במלואו, ושבדיקת מחוללי מחלה חדשים דורשת עבודה אנושית קשה וממושכת.

אק"ג של שתי שניות מזהה מחלת לב

רופאים פיתחו כלי AI שמזהה מחלת לב בפחות משתי שניות, מתוך בדיקת אק"ג שגרתית. האק"ג הרגיל, שרושם את הפעילות החשמלית של הלב כבר מאה שנה, לא מסוגל לאבחן מחלת לב, ולשם כך נדרשת בדיקת אקו לב שממתינים לה חודשים. הכלי החדש, שאומן על מיליוני מטופלים, מחלץ מהאק"ג מידע שהעין האנושית לא רואה, ומזהה סימנים לאי ספיקת לב ולמחלת מסתמים. בניסוי שכלל 67,000 מטופלים בארה"ב הוא איתר עד 81% מהחולים באי ספיקת לב ועד 90% מבעלי מחלת מסתמים. הכלי לא מחליף אבחון סופי, אבל הוא מאפשר להעביר במהירות את המטופלים בסיכון הגבוה ביותר לבדיקת אקו, במקום להשאיר אותם ברשימת המתנה ארוכה. הממצאים הוצגו בכנס האגודה האירופית לקרדיולוגיה במינכן.

ניתוח מוח בסיוע AI

כלי AI ניתח וידאו בזמן אמת במהלך ניתוח מוח והדריך את המנתחים כיצד להימנע מכלי דם ועצבים חיוניים ומוסתרים, מה שאיפשר להסיר בבטחה את מירב הגידול על בסיס למידה ממאות סרטוני ניתוח קודמים. זה מקרה הראשון בעולם בו המטופל עבר ניתוח מוח בסיוע AI בזמן אמת עבר בהצלחה הסרת גידול.

שחזור צלילי יער מתקופת היורה

חוקרים ניתחו 20 כנפיים מאובנות של צרצרים וקטידידים מתקופת היורה שנמצאו בסין, ויצרו באמצעות מודלי AI שחזור קולי מדויק ראשון של צלילי היערות מלפני מיליוני שנים. כאן ניתן להאזין לצלילים אלו:

חידושים של Open AI

• מורים מכל רחבי ארה"ב שיתפו צ'אטים בהם הם משתמשים לתכנון שיעורים, מחקר ומשימות אדמיניסטרטיביות. בלחיצה על כל דוגמה תיפתח שיחה חדשה עם פרומפט מוכן
• OpenAI פתחה את Ads Manager – ערוץ פרסום שמאפשר לעסקים לפרסם את המוצרים והשירותים שלהם. היא גם התחילה להציג פרסומות למשתמשי ChatGPT Free ו-Go בישראל
• ChatGPT Sites – מאפשר לצוות לערוך יחד ולפרסם אתר, לשתף אותו באופן פרטי, לחבר דומיין אישי ולבדוק את מסד הנתונים שלו
• Astra for Law – היא גרסה של Astra המותאמת לעבודה משפטית, עם חיפוש במעל 230 מיליון מקורות משפטיים אמריקאיים ואיתור תקדימים וסעיפים רלוונטיים עם מקורות לבדיקה
• OpenAI השיקה את Sol ו-Luna, מודלים מהירים וזולים יותר ממשפחת GPT-6, עם שיפורים בקוד, בהפעלת מחשב ובדיוק תשובות

חידושים של Google

• Agentic Video – פיצ'ר חדש ב-Gemini API שמנתח סרטונים ארוכים ובוחר אילו חלקים לבדוק לעומק, מה שחוסך עד 88% מהטוקנים
• ב-Gemini Notebook – מכסה משותפת תתחדש כל 5 שעות במקום 24, ומשתמשי Pro יקבלו עד פי 4 יותר שימוש. נוספה גם אפשרות לנהל שיחה קולית על מקורות שהועלו לנוטבוק. אפשר לצלם תמונה (למשל שלט במוזיאון) והכלי הופך את המידע שבה למסמך מסודר שאפשר לסכם, לשאול עליו שאלות ולהשוות למקורות אחרים
• גוגל טרנסלייט משודרג – באנדרואיד תרגום חי ימשיך לפעול ברקע גם כשעוברים אפליקציה או נועלים מסך, ובאייפון נוספה אפשרות לשמוע תרגום דרך אפרכסת הטלפון בלי אוזניות
• Home MCP – חיבור חדש בגישה מוקדמת שמאפשר לסוכני AI כמו Claude לבדוק ולשלוט במכשירי הבית החכם ולגשת להיסטוריית אירועים, בהרשאת המשתמש
• Googlebook OS – מערכת הפעלה חדשה למחשבים שמשלבת אפליקציות Android עם דפדפן Chrome מלא, כולל אפשרות להמשיך עבודה מהטלפון למחשב
• גוגל השיקה שני מודלי קול חדשים Gemini 3.8 – Flash TTS לשליטה בקריינות (אופי, קצב והטעמה) ו-Flash-Lite TTS להפקת אודיו בהיקף גדול כמו ספרים מוקלטים ודיבוב

חידושים של Anthropic

• אנתרופיק השיקה את Claude Fable 5.1 ו-Claude Mythos 5.1 – הדור החדש שלה לקוד, מחקר ועבודת ידע, עם קפיצה משמעותית במשימות ארוכות ומורכבות
• קלוד מאחד את הצ'אט ו-Cowork למקום אחד. אפשר לשאול שאלה קצרה או לתת משימה שלמה, והוא ממשיך לעבוד גם אחרי שסוגרים את הלפטופ. באותה שיחה אפשר גם להכין מסמכים ב-Claude Docs.
• אנתרופיק הקימה מעבדה ביולוגית וכימית ובוחנת שימוש ב-Claude להנחיית רובוטים שמבצעים ניסויים בפיקוח אנושי. במקביל השיקה תוכנית גישה לחוקרי מדעי החיים למודלים כמו Mythos, עם פחות חסימות למחקר ביולוגי
• Claude Code הוסיף תמיכה בקובץ AGENTS.md – קובץ שמאחסן הוראות לסוכן על הפרויקט, איך לעבוד ואילו כללים לשמור. אם אין CLAUDE.md בפרויקט, קלוד יקרא במקום זאת את AGENTS.md (מגרסה 2.1.277 ואילך, לא זמין עדיין ב-Bedrock, Vertex או Foundry)
• Claude Marketplace – דרכו ניתן למצוא חיבורים, תוספים וסוכנים שעובדים עם Claude