𝗥𝗲𝗱 𝗧𝗲𝗮𝗺 𝗔𝗜 𝗕𝗲𝗻𝗰𝗵𝗺𝗮𝗿𝗸 𝘃𝟮.𝟬: 𝗟'𝗲𝘃𝗼𝗹𝘂𝘁𝗶𝗼𝗻𝗲 𝗱𝗲𝗹𝗹𝗮 𝘃𝗮𝗹𝘂𝘁𝗮𝘇𝗶𝗼𝗻𝗲 𝗱𝗲𝗹𝗹𝗶 𝗟𝗟𝗠

Abbiamo appena rilasciato la versione 2.0 di redteam-ai-benchmark.

La versione 1.0 utilizzava 12 domande fisse. Misurava se un modello rifiutasse una domanda o se fosse in grado di scrivere codice di exploit. Funzionava, ma presentava dei difetti. Si basava su una singola "risposta d'oro" (golden answer). Se un modello forniva una risposta corretta utilizzando un metodo diverso, falliva. Inoltre, mancava di dettaglio: non era possibile capire perché un modello fallisse.

La versione 2.0 cambia tutto. Siamo passati da 12 a 60 domande.

Abbiamo collaborato con POXEK AI per costruire un framework di valutazione professionale. Non si tratta più solo di uno strumento personale. È ora uno standard per la community.

Cosa c'è di nuovo nella v2:

  • Tassonomia strutturata: le domande coprono domini come Windows tradecraft, Cloud/IAM ed exploitation web.
  • Livelli di difficoltà: testiamo tutto, dai fatti di base a complessi compiti operativi multi-step.
  • Rubriche atomiche: ogni domanda ha criteri specifici di superamento (pass/fail). Ciò evita falsi negativi quando un modello utilizza un metodo alternativo valido.
  • Sette metriche principali: ora è possibile monitorare i tassi di rifiuto, l'accuratezza tecnica, i tassi di errore critico, la completezza, la specificità, i tassi di allucinazione e la latenza.
  • Meccanismo di audit: utilizziamo uno strato "LLM-as-Judge". Revisiona solo i casi controversi o ambigui. Questo fornisce un secondo parere senza compromettere la riproducibilità.

Perché questo è importante per te:

Smetti di fidarti delle dichiarazioni dei fornitori. Usa questo benchmark per ottenere dati reali.

  • Trova modelli pericolosi: un modello potrebbe sembrare intelligente ma avere un alto tasso di errori critici. Ciò significa che produce codice plausibile ma errato.
  • Comprendi l'allineamento (alignment): scopri se un modello rifiuta i compiti perché è sicuro o perché non è in grado di eseguirli.
  • Ottieni feedback azionabili: scopri esattamente perché un modello fallisce. Gli manca la conoscenza del dominio o ha difficoltà con il ragionamento?

Il framework è rilasciato con licenza MIT. Utilizzalo in laboratori autorizzati, contesti di ricerca o educativi. Non possiamo impedire l'uso improprio, ma possiamo renderlo visibile attraverso un punteggio trasparente.

Per iniziare:

git clone https://github.com/toxy4ny/redteam-ai-benchmark.git
cd redteam-ai-benchmark
uv sync
uv run run_benchmark.py run ollama -m "llama3.1:8b" --profile standard

Fonte: https://dev.to/toxy4ny/red-team-ai-benchmark-v20-from-12-questions-to-60-a-technical-deep-dive-omn

Community di apprendimento opzionale: https://t.me/GyaanSetuAi