پژوهش

چگونه با عامل‌های هوش مصنوعی بسازیم — و به نتیجه اعتماد کنیم.

ما مطالعه می‌کنیم چه چیزی مهندسی با کمک عامل‌ها را قابل‌اعتماد و ایمن می‌کند، و پاسخ‌ها را به ابزارها و استانداردهای بازی تبدیل می‌کنیم که هر کسی می‌تواند از آنها استفاده کند.

حوزه‌های پژوهش

مهندسی عامل قابل‌اعتماد

هماهنگ‌سازی، تجزیه و حفاظ‌هایی که عامل‌های هوش مصنوعی را در طول کارِ طولانی و چندمرحله‌ای بر مسیر نگه می‌دارند — بدون توقف زودهنگام یا انحراف از مشخصات.

امنیت تحویل با کمک هوش مصنوعی

چگونه کدِ نوشته‌شده توسط عامل‌ها شکست می‌خورد، چگونه آن را می‌گیریم، و چگونه امنیت‌با‌طراحی را به پیش‌فرض تبدیل می‌کنیم: IAM، AppSec و تیم‌قرمز مجاز بر آنچه عامل‌ها تولید می‌کنند.

استانداردها و ارزیابی

معنای «خوب» برای خروجی عامل‌ها چیست، و چگونه آن را اندازه بگیریم: راهنماهای هنجاری، دروازه‌های کیفیت و آزمون‌هایی که رفتار را اثبات می‌کنند نه حسّ‌وحال را.

تجربهٔ توسعه‌دهنده

تبدیل راه درست به راه آسان — ابزارهایی که استانداردها را نصب می‌کنند، آنها را به‌روز نگه می‌دارند، و از سر راه توسعه‌دهنده کنار می‌روند.

رویکرد ما

در فضای باز

یافته‌ها و ابزارها منتشر می‌شوند نه انباشته. قابلیت بازتولید هدف است.

ریشه‌دار در عمل

با ساختن و تحویل‌دادن پژوهش می‌کنیم — آزمایشگاه و محصولات یکدیگر را تغذیه می‌کنند.

امنیت‌محور

اگر اجرای آن ایمن نباشد، کامل نیست. مدل‌سازی تهدید و آزمون بخشی از روش است.

پژوهش را دنبال کنید.

آنچه می‌آموزیم را در بلاگ می‌نویسیم، و ابزارها روی GitHub قرار می‌گیرند.