Amazon scherpt toezicht op AI-gegenereerde code aan na reeks storingen

Amazon gaat strengere controles invoeren op soft­wa­re­wij­zi­gingen die met behulp van vibe coding tot stand komen. Voortaan moeten senior engineers expliciet goed­keu­ring geven voordat AI-onder­steunde code­wij­zi­gingen in productie mogen worden door­ge­voerd. De maatregel volgt op een reeks recente storingen binnen de systemen van het bedrijf. Dat meldt Ars Technica.

Amazon heeft naar verluidt de afgelopen maanden meerdere inci­denten meege­maakt die verband hielden met soft­wa­re­wij­zi­gingen waarbij AI-tools waren ingezet. Die inci­denten zouden soms een grote impact hebben gehad op de beschik­baar­heid van diensten.

Storingen met impact

Een van de inci­denten betrof een foutieve software-update waardoor de website en app van Amazon gedurende ongeveer zes uur niet goed func­ti­o­neerden. Klanten konden onder meer geen bestel­lingen afronden en hadden problemen met het bekijken van prijzen of accountgegevens.

Intern wordt gesproken van storingen met een “high blast radius”, wat betekent dat één fout grote delen van de infra­struc­tuur kan raken. In interne notities wordt naar verluidt het gebruik van gene­ra­tieve AI bij code­wij­zi­gingen genoemd als een van de factoren die bij sommige inci­denten een rol hebben gespeeld. Daarbij wordt opgemerkt dat voor dit soort AI-toepas­singen nog niet altijd duide­lijke best practices of bevei­li­gings­maat­re­gelen bestaan.

Nieuwe controlelaag voor AI-code

Om het risico te verkleinen heeft Amazon besloten dat junior en mid-level engineers geen AI-onder­steunde code meer recht­streeks kunnen imple­men­teren. In plaats daarvan moet een senior engineer eerst de wijziging beoor­delen en goed­keuren voordat deze in productie gaat.

De maatregel kwam volgens Ars Technica naar voren tijdens een interne bijeen­komst van Amazon’s retail-tech­no­lo­gie­teams, waarin engineers een “deep dive” deden in recente inci­denten en mogelijke verbe­ter­maat­re­gelen. Het bedrijf wil met derge­lijke stappen de betrouw­baar­heid van zijn platforms verhogen en herhaling van storingen voorkomen.

AI-tools steeds vaker onderdeel van development

Het gebruik van AI-tools om code te genereren of aan te passen neemt binnen de software-ontwik­ke­ling snel toe. Ook Amazon stimu­leert engineers om gebruik te maken van derge­lijke hulp­mid­delen, bijvoor­beeld om sneller code te schrijven of repe­ti­tieve taken te automatiseren.

Maar die snelheid brengt dus ook nieuwe risico’s met zich mee. In een eerder incident binnen Amazon Web Services leidde een door een AI-tool gemaakte wijziging tot een lang­du­rige storing van een kosten­re­ken­mo­dule voor cloud­ge­brui­kers. Daarbij verwij­derde het systeem per ongeluk een volledige omgeving en bouwde die opnieuw op, wat tot een onder­bre­king van ongeveer dertien uur leidde.

Balans nodig tussen snelheid en stabiliteit

Binnen Amazon lijkt het huidige beleid vooral bedoeld om een balans te vinden tussen de produc­ti­vi­teits­winst van AI-geba­seerde ontwik­ke­ling en de noodzaak om kritieke systemen stabiel te houden.

Door een extra review­laag toe te voegen probeert het bedrijf mense­lijke controle te behouden over software die met behulp van AI wordt gege­ne­reerd of aangepast. Tegelijk blijft het gebruik van AI-tools onderdeel van de ontwik­kel­stra­tegie van het bedrijf.

Amazon zelf benadrukt volgens de Financial Times. dat het evalueren van inci­denten en het aanpassen van processen een normaal onderdeel is van het verbe­teren van de betrouw­baar­heid van zijn diensten.

Als gene­ra­tieve AI een steeds grotere rol krijgt in soft­wa­re­ont­wik­ke­ling, lijkt de vraag hoe bedrijven controle en kwali­teits­be­wa­king orga­ni­seren daarmee een steeds belang­rijker onderwerp te worden binnen grote technologieorganisaties.