Araştırma
Yapay zeka ajanlarıyla nasıl inşa edilir — ve sonuca nasıl güvenilir.
Ajan destekli mühendisliği güvenilir ve emniyetli kılan şeyi inceliyor, yanıtları herkesin kullanabileceği açık araçlara ve standartlara dönüştürüyoruz.
Araştırma alanları
Güvenilir ajan mühendisliği
Yapay zeka ajanlarını uzun, çok adımlı çalışmalar boyunca görevde tutan orkestrasyon, ayrıştırma ve korkuluklar — erken durmadan ya da spesifikasyondan sapmadan.
Yapay zeka destekli teslimatın güvenliği
Ajanların yazdığı kodun nasıl başarısız olduğu, bunun nasıl yakalanacağı ve tasarım gereği güvenliği varsayılan kılmanın yolu: IAM, AppSec ve ajanların ürettiklerinin yetkili red-teaming'i.
Standartlar ve değerlendirme
Ajan çıktısı için 'iyi'nin ne anlama geldiği ve bunun nasıl ölçüleceği: normatif başucu kılavuzları, kalite kapıları ve sezgi yerine davranışı kanıtlayan testler.
Geliştirici deneyimi
Doğru yolu kolay yol yapmak — standartları kuran, güncel tutan ve geliştiricinin yolundan çekilen araçlar.
Yaklaşımımız
Açıkça
Bulgular ve araçlar biriktirilmez, yayımlanır. Mesele yeniden üretilebilirliktir.
Uygulamaya dayalı
İnşa ederek ve sahaya çıkararak araştırırız — laboratuvar ve ürünler birbirini besler.
Önce güvenlik
Çalıştırması emniyetli değilse, bitmemiştir. Tehdit modelleme ve test etme yöntemin bir parçasıdır.