Nghiên cứu
Cách xây dựng với các tác nhân AI — và tin tưởng kết quả.
Chúng tôi nghiên cứu điều gì làm cho kỹ thuật có tác nhân hỗ trợ đáng tin cậy và an toàn, và biến các câu trả lời thành công cụ và tiêu chuẩn mở mà ai cũng có thể dùng.
Lĩnh vực nghiên cứu
Kỹ thuật tác nhân đáng tin cậy
Điều phối, phân rã và rào chắn giữ cho các tác nhân AI đúng nhiệm vụ suốt công việc dài, nhiều bước — mà không dừng sớm hay lệch khỏi đặc tả.
Bảo mật của việc giao hàng có AI hỗ trợ
Cách mã do tác nhân viết thất bại, cách phát hiện nó, và cách làm cho an-toàn-từ-thiết-kế trở thành mặc định: IAM, AppSec và red-teaming được ủy quyền với những gì tác nhân tạo ra.
Tiêu chuẩn & đánh giá
'Tốt' nghĩa là gì đối với đầu ra của tác nhân, và cách đo lường nó: sổ tay quy phạm, cổng chất lượng và kiểm thử chứng minh hành vi thay vì cảm tính.
Trải nghiệm nhà phát triển
Biến cách đúng thành cách dễ — công cụ cài đặt các tiêu chuẩn, giữ chúng luôn mới, và nhường đường cho nhà phát triển.
Cách tiếp cận của chúng tôi
Công khai
Các phát hiện và công cụ được công bố, không giữ riêng. Khả năng tái lập là điều cốt lõi.
Bắt nguồn từ thực tiễn
Chúng tôi nghiên cứu bằng cách xây dựng và triển khai — phòng lab và sản phẩm nuôi dưỡng lẫn nhau.
Bảo mật trước hết
Nếu chạy không an toàn thì chưa xong. Mô hình hóa mối đe dọa và kiểm thử là một phần của phương pháp.