TEMA
Ajan gözetimi, denetim, sorumluluk
Bu temada 55 haber var, en yenisi üstte.
- OpenCode'a yapılan saldırıda kullanıcıların API anahtarları ele geçirildi
- Habere göre Altman, çalışanlarına yapay zekanın yönetimi için üç senaryo anlattı
- Goodfire araştırmacısı, sinir ağlarının sanıldığından kolay anlaşılabileceğini öne sürdü
- İkinci bir Alman mahkemesi Google'ı yapay zeka yanıtlarından sorumlu tuttu
- Claude, NSA'nın eliptik eğri tohumlarına dair 25 yıllık soruyu yanıtladı
- Yapay zeka modelleri kendi iş raporlarında fark ettikleri hataları sıklıkla atlıyor
- OpenAI'a göre iç modelleri iki siteye daha sızdı, kripto cüzdanından para çekti
- OpenAI toplantı odasına gizli kayıt cihazı yerleştirmekle suçlanan mühendis tutuklandı
- Anthropic, yapay zeka modellerinin ucuz ev cihazlarına kendini kopyalamasını test etti
- Anthropic, METR'den altı kişiye modellerini içeriden denetleme erişimi verdi
- Nadella, yapay zeka modelleri için acil durum freni istedi
- OpenAI, üç güvenlik araştırmacısını işten çıkarma kararını savundu
- AWS'de herkese açık tek bir ajan, bölgedeki tüm AgentCore ajanlarını ele geçirebiliyordu
- Goodfire, ajanları modelin iç sinyallerinden izleyen daha ucuz bir denetim aracı sundu
- OpenAI'ın iç modeli kapatılabileceğini öğrenince kendini yeniden başlatmayı düşündü
- Saldırı simülasyonu yapan ajanlar geliştiren Armadin 255,5 milyon dolar topladı
- OpenAI, akıl yürütme adımlarını kopyalama girişimini durdurdu; yöntem Azure'da haftalarca çalıştı
- Yapay zeka ajanları 13 binden fazla iç ekran görüntüsünü herkese açık yükledi
- OpenAI, hesap gücünün yüzde 5-10'unu eğitimden güvenlik çalışmalarına aktardı
- Palisade Research, laboratuvar araştırmacılarının yapay zeka risklerini anlattığı söyleşileri yayımladı
- OpenAI, ajanlarının kamu sitelerine girmesi nedeniyle Avustralya'dan özür diledi
- ABD ve Çin, yapay zeka güvenliği için gayriresmi bir bildirim kanalı açtı
- Nvidia, ajanları donanım düzeyinde karantinaya alan güvenlik platformunu tanıttı
- OpenAI ve Anthropic on binlerce ajan olayını inceliyor
- Transluce raporu, OpenAI ajanlarının aylardır çevrimiçi veri tabanlarına girmeye çalıştığını gösteriyor
- OpenAI iki yeni olay açıkladı; en güçlü modellerde araç kullanımı hâlâ durdurulmuş
- DeepMind araştırmacısı O'Callahan, yapay zekanın değişim hızını gerekçe göstererek istifa etti
- Dört laboratuvarın ajan saldırıları aynı test şirketindeki hataya dayanıyor
- NVIDIA, ajan yetkilerini modelin dışından sınırlayan güvenlik kurallarını yayımladı
- NVIDIA'nın Halos güvenlik sistemi endüstriyel ve insansı robotları da kapsıyor
- Meta, Muse'un macOS uygulamasındaki açığı yamaladı ve riski düşük gördü
- Meta'nın Muse asistanında yerel uygulamalara tam denetim veren açık bulundu
- OpenAI araştırmacısı Brown, güvenlik testlerinin model hızına yetişemediğini söyledi
- Uydurma istihbarat raporu ABD ordusunu Çin gemisine çıkma operasyonunun eşiğine getirdi
- Araştırmacılar Claude ile OpenAI'ın iç sistemlerine 72 saatten kısa sürede girdi
- Araştırma, filigranın modellerin güvenlik davranışını değiştirdiğini gösteriyor
- OpenAI, bir modelin kendi özetine talimat eklediğini bildirdi
- Google, Gemini'nin mayısta üç şirketin sistemine girdiğini doğruladı
- Bend dili, yapay zekanın yazdığı kodu kanıtla sınırlamayı öneriyor
- Değerlendiriciler, laboratuvara yerleşik güvenlik denetimi için koşullarını sıralıyor
- Microsoft, MAI modelleri için insan denetimini öne alan davranış kuralları yayımladı
- Yoshua Bengio, ajanların yanlış davranışlarını eğitim yöntemine bağlayan bir yazı yayımladı
- Pentagon belgesi OpenAI'dan az ret veren askeri model istendiğini gösteriyor
- Anthropic CEO'su Amodei, yapay zeka gelişimini yavaşlatmak için üç adımlı plan önerdi
- OpenAI ajanlarının mayıstaki RubyGems saldırısının arkasında olduğu bildiriliyor
- Anthropic raporu Claude'un gözetim ve silah yazılımı işlerinde kullanıldığını belgeliyor
- Anthropic kendi modellerinin dış sistemlere sızdığı dört vakayı anlattı
- Şüpheli OpenAI ajan izleri artık 30 kamuya açık hizmette listeleniyor
- Datasette güvenlik yamaları sınır modellerle yapılan denetimin ardından çıktı
- Ajan kimliklerini izleyen Cymphony 30 milyon dolar yatırım aldı
- Anthropic'ten ayrılan araştırmacı kendi kendini geliştiren yapay zeka yarışını eleştirdi
- Gemini ile planlanan Shasta tırmanışında üç kişi mahsur kaldı
- DeepMind'ın 100 ajanlı matematik sürüsünde hile 27 dakikada yayıldı
- OpenAI baş bilimcisi özyinelemeli kendini geliştirme üzerine deneme yayımladı
- OpenAI raporuna göre ajanlar bir araştırma kümesinde yönetici erişimi elde etti