Investigación
Cómo construir con agentes de IA, y confiar en el resultado.
Estudiamos qué hace que la ingeniería asistida por agentes sea fiable y segura, y convertimos las respuestas en herramientas y estándares abiertos que cualquiera puede usar.
Áreas de investigación
Ingeniería de agentes fiable
Orquestación, descomposición y salvaguardas que mantienen a los agentes de IA centrados en la tarea a lo largo de trabajos largos y de múltiples pasos, sin detenerse antes de tiempo ni desviarse de la especificación.
Seguridad de la entrega asistida por IA
Cómo falla el código escrito por agentes, cómo detectarlo y cómo hacer que lo seguro por diseño sea el valor por defecto: IAM, AppSec y red-teaming autorizado de lo que producen los agentes.
Estándares y evaluación
Qué significa 'bueno' para la salida de un agente y cómo medirlo: playbooks normativos, puertas de calidad y pruebas que demuestran el comportamiento en lugar de intuiciones.
Experiencia de desarrollo
Hacer que el camino correcto sea el camino fácil: herramientas que instalan estándares, los mantienen al día y se apartan del camino del desarrollador.
Nuestro enfoque
En abierto
Los hallazgos y las herramientas se publican, no se acaparan. La reproducibilidad es el objetivo.
Anclado en la práctica
Investigamos construyendo y entregando: el laboratorio y los productos se alimentan mutuamente.
Seguridad primero
Si no es seguro de ejecutar, no está terminado. El modelado de amenazas y las pruebas son parte del método.