Anthropic שיתפה ב-29 באוקטובר 2026 שהיא אימנה את Claude לסמן בעצמו שיחות שעלולות להיות שימוש לרעה. אחרי כל תשובה, Claude מעריך את בטיחות השיחה ומחזיר סימון קצר לבדיקה, בלי לחסום את השיחה. לפי החברה, השיטה בשימוש מאז יוני, מוסיפה פחות מ-2% לעלות החישוב וחשפה שימוש לרעה ששאר מנגנוני ההגנה לא תוכננו לתפוס.
למה זה חשוב לך: מי שבונה מוצר על Claude צריך לדעת שהשיחות נבדקות גם מבפנים. אם המוצר שלכם רגיש, קראו את מדיניות השימוש.
להעמיק: המדריך המלא ל־Claude בעברית · מה חדש ב־AI השבוע: ההנפקה של Anthropic, Gemini 4 Carbon והמניה שצנחה (30.10)
מקור: לפוסט הרשמי של Anthropic
