Aurelius é uma plataforma descentralizada para gerar dados de alinhamento de IA de alta qualidade, sondando sistematicamente modelos de linguagem para descobrir falhas de segurança e comportamentos de borda. Ele avalia respostas em múltiplas dimensões éticas e de segurança usando ferramentas de moderação de código aberto, juízes baseados em LLM e métricas de alinhamento personalizadas. O objetivo é criar uma base transparente e verificável para a pesquisa de alinhamento e construir um ecossistema de longo prazo onde diversas perspectivas ajudem a definir, medir e melhorar a segurança de sistemas de IA cada vez mais capazes.
