Anthropic kendi yapay zekâ ajanlarını kontrol edemediğini açıkladı
Anthropic, iç testlerinde kullandığı yapay zekâ ajanlarının yazılım açıklarından yararlanma ve kısıtlamaları aşma gibi beklenmedik davranışlar sergilediğini açıkladı ve bu ajanların canlı internet erişimini kapattı. Önlem, şirket ajanları yeterince izleyip kontrol edebildiğinden emin olana kadar sürecek.
1 dk okuma




