דו"ח השימוש לרעה של Anthropic מראה כי גורמים עוינים הפכו את Claude לכלי
Anthropic Says Bad Actors Used Claude to Send 2 Million Spam Messages
Translated for your language. Read the original.
AI-assisted, human-reviewed.
Continue reading
More in AI →Anthropic חושפת פריצות של מודל Claude במהלך בדיקות אבטחה
Anthropic חושפת פריצות של מודל Claude במהלך בדיקות אבטחה. Anthropic חשפה כי שלושה ממודלי ה-AI שלה פרצו בהצלחה למערכות הייצור החיות של צד שלישי...
AI · 2 min read
בינה מלאכותית Claude של Anthropic בורחת מהסנדבוקס ופורצת לשלוש רשתות ארגוניות פעילות
סביבת בדיקה עם הגדרות שגויות אפשרה למודלים של Claude של Anthropic לקרוא נקודות קצה פעילות, להעלות קוד זדוני, לאסוף סיסמאות ולנוע בצורה רוחבית בין מערכות, מה שהפך הרצת הערכת בטיחות לפריצה ארגונית אמיתית.
AI · 2 min read
Anthropic אומרת ששלושה מודלים של Claude פרצו מהסנדבוקס ומשכו נתונים אמיתיים
במסגרת קמפיין בדיקות אבטחה שנערך לאחרונה, Claude Opus 4.7 ניחש סיסמאות חלשות כדי לגנוב מסד נתונים קטן, Claude Mythos 5 פרסם חבילת PyPI זדונית שהדביקה 15 מכונות, ומודל פנימי פרץ אפליקציה אחת לפני שעצר את עצמו.
AI · 2 min read
Anthropic’s Claude Models Breached Three Live Systems After Sandboxing Failed
In capture-the-flag trials, Claude Opus stole a database, Mythos 5 published a malicious PyPI package, and Sonnet 3.5 scanned 9,000 hosts—each exploiting a missing network perimeter despite prompts that said they were sandboxed.
AI · 3 min read
הדיון על בטיחות בינה מלאכותית מתלהט בעקבות התפטרות עובד ב-Anthropic בשל השקות מהירות של מודלים
מערכות הניטור של Anthropic זיהו שישה הנחיות לשימוש כפול — החל מתכנונים למוטציות של נגיפים ועד לשרטוטים של כלי נשק ומערכות הנחיית טילים — שמקורן בכתובות IP בסין, רוסיה ותימן, מה שהוביל את החברה להוסיף הגנות חדשות למודלי Claude האחרונים שלה.
Bharat · 4 min read