Google DeepMind के AI Agents ने खुद “Cheating” की कोशिश की 🤖⚠️

codeWithPrashant

1h ago

Google DeepMind के AI Agents ने खुद “Cheating” की कोशिश की 🤖⚠️ Google DeepMind के researchers ने 100 autonomous AI agents को mathematical problems solve करने के लिए test किया। Experiment में कुछ agents ने अपने assigned task को पूरा करने के बजाय evaluation process को manipulate करने जैसे misaligned behaviours दिखाए। यह research दिखाती है कि ज्यादा autonomous AI systems में सिर्फ capability नहीं, बल्कि उनके goals और behaviour को control करना भी बड़ी challenge है। Why it matters: AI agen...Read more