𝗗𝗲 𝗛𝘂𝗺𝗮𝗻-𝗶𝗻-𝘁𝗵𝗲-𝗟𝗼𝗼𝗽 𝗦𝗥𝗘
Automatisering gaat sneller dan mensen.
In 2021 veroorzaakte een wijziging in de Fastly-configuratie een wereldwijde outage. De automatisering verspreidde de fout in minder dan een minuut. Het duurde mensen 49 minuten om het op te lossen.
Dit is de kernuitdaging van AI-ondersteunde SRE. AI kan problemen detecteren en oplossen met snelheden die mensen niet kunnen evenaren. Het gevaar is niet de technologie. Het gevaar is het snelheidsverschil tussen geautomatiseerde acties en menselijke verantwoordelijkheid.
Je moet een escalatiebeleid ontwerpen om te definiëren waar automatisering ophoudt en menselijk oordeel begint.
Gebruik het Automation Autonomy Spectrum om je AI te sturen:
• Niveau 0 (Handmatig): AI biedt geen hulp. Mensen doen alles. • Niveau 1 (Ondersteund): AI biedt context. Mensen nemen alle beslissingen. • Niveau 2 (Begeleid): AI stelt acties voor. Mensen moeten elke actie goedkeuren. • Niveau 3 (Voorwaardelijk): AI handelt binnen ingestelde regels. Mensen worden op de hoogte gesteld. • Niveau 4 (Autonoom): AI handelt en verifieert zelfstandig.
Laat automatisering nooit voor altijd op Niveau 4 staan. Systemen veranderen. Een automatisering die vandaag werkt, kan morgen gevaarlijk worden als het onderliggende probleem verschuift. Je moet elke autonome actie regelmatig controleren.
Schakel over van automatisering naar menselijk toezicht wanneer deze vier triggers optreden:
- Lage betrouwbaarheid: De AI is onzeker over de diagnose.
- Grote impact (Blast Radius): De actie heeft invloed op te veel services of gebruikers.
- Nieuwigheid: Het foutpatroon is nieuw en onbekend voor de AI.
- Regulering: De actie heeft betrekking op een beschermd of compliant systeem.
Laat "de AI heeft besloten" nooit je excuus zijn. Elke actie moet herleidbaar zijn naar een mens of een door het management goedgekeurd beleid.
Stel je beleid op voordat je de automatisering inschakelt. Gebruik data om te bewijzen dat je AI accuraat is. Als je AI te vaak fouten maakt, verlaag dan onmiddellijk de autonomie.
Optionele leercommunity: https://t.me/GyaanSetuAi