پژوهش
چگونه با عاملهای هوش مصنوعی بسازیم — و به نتیجه اعتماد کنیم.
مطالعه میکنیم که چه چیزی مهندسی بهکمک عاملها را قابلاعتماد و ایمن میکند، و پاسخها را به ابزارها و استانداردهای بازی تبدیل میکنیم که هر کسی میتواند از آنها استفاده کند.
حوزههای پژوهش
مهندسی عامل قابلاعتماد
هماهنگسازی، تجزیه و حفاظهایی که عاملهای هوش مصنوعی را در طول کار طولانی و چندمرحلهای بر مسیر وظیفه نگه میدارد — بدون توقف زودهنگام یا انحراف از مشخصات.
امنیت تحویل بهکمک هوش مصنوعی
چگونه کدی که عاملها مینویسند شکست میخورد، چگونه آن را بگیریم، و چگونه امنبودن با طراحی را به پیشفرض تبدیل کنیم: IAM، امنیت برنامهها و تیم قرمز مجاز روی آنچه عاملها تولید میکنند.
استانداردها و ارزیابی
«خوب» برای خروجی عاملها یعنی چه، و چگونه آن را بسنجیم: راهنماهای هنجاری، دروازههای کیفیت و آزمونهایی که رفتار را اثبات میکنند نه حس و حال را.
تجربه توسعهدهنده
تبدیل راه درست به راه آسان — ابزاری که استانداردها را نصب میکند، آنها را بهروز نگه میدارد، و از سر راه توسعهدهنده کنار میرود.
رویکرد ما
بهصورت شفاف
یافتهها و ابزارها منتشر میشوند، نه انباشته. تکرارپذیری هدف اصلی است.
ریشهدار در عمل
ما با ساختن و عرضهکردن پژوهش میکنیم — آزمایشگاه و محصولات یکدیگر را تغذیه میکنند.
امنیتمحور
اگر اجرایش ایمن نباشد، تمامنشده است. مدلسازی تهدید و آزمون بخشی از روش است.