Hat die KI-unterstützte Programmierung Probleme verursacht? Bei Amazon gab es innerhalb einer Woche vier Systemausfälle, und die Führungsebene hat eine Dringlichkeitssitzung zur Überprüfung einberufen.

E-Commerce-Gigant Amazon hat in letzter Zeit mehrere Website- und App-Ausfälle erlebt, was zu einer dringenden internen Überprüfung durch die Unternehmensleitung führte. CNBC berichtete, dass einige Vorfälle mit AI-unterstützter Programmierung (AI-assisted coding) in Zusammenhang stehen. Vor dem Hintergrund massiver Entlassungen und der beschleunigten Einführung von KI-Technologien in das Unternehmen wird auch die Diskussion über die Risiken und die Überwachung von „AI-Programmierprozessen“ in großen Systemen angestoßen.

Vier große Ausfälle in einer Woche – Amazon hält dringende Überprüfungssitzung ab

CNBC berichtete, dass Amazon in letzter Zeit mehrere Website- und Anwendungsfehler erlitten hat, darunter einen Vorfall, der etwa sechs Stunden andauerte und dazu führte, dass einige Nutzer nicht bezahlen, Produktpreise einsehen oder sich anmelden konnten.

Der leitende Vizepräsident für die technische Infrastruktur des Amazon-E-Commerce-Geschäfts, Dave Treadwell, schrieb anschließend eine E-Mail an die Mitarbeiter und kündigte an, bei der routinemäßigen „This Week in Stores Tech (TWiST)“-Sitzung eine eingehende Untersuchung durchzuführen, um die Ursachen der jüngsten Serie schwerwiegender Systemausfälle zu erörtern.

In dem Memo wies Treadwell darauf hin, dass in der vergangenen Woche vier Ereignisse der Schweregrad „Sev-1“ aufgetreten sind, die in der Regel zu Unterbrechungen der Kernservices oder erheblichen Leistungseinbußen führen. Daher sei es notwendig, die Engineering-Prozesse und Mechanismen erneut zu überprüfen.

„AI-unterstütztes Programmieren“ als Hauptursache genannt – Amazon relativiert die Auswirkungen

Die Financial Times berichtete, dass ein internes Dokument vor der Sitzung erwähnte, dass seit dem dritten Quartal einige „generative AI-gestützte Programmänderungen (GenAI-assisted production changes)“ mit den jüngsten Vorfällen in Zusammenhang stehen, diese Passage jedoch vor der Sitzung entfernt wurde.

Ein Amazon-Sprecher erklärte anschließend: „Der jüngste Vorfall betrifft nur einen Fall im Zusammenhang mit AI-Tools und betrifft kein von AI geschriebenen Code. Die TWiST-Sitzung ist lediglich eine routinemäßige Betriebsüberprüfung.“

Dennoch räumte das Unternehmen intern ein, dass die „Best Practices und Sicherheitsmechanismen“ für den Einsatz generativer KI in der Softwareentwicklung noch nicht vollständig etabliert sind. Daher werden Maßnahmen zur Verbesserung der Governance ergriffen, darunter die Einführung eines Überprüfungsprozesses für Programmänderungen, an denen KI beteiligt ist, sowie die Implementierung weiterer Automatisierungs- und Proxy-Sicherheitsmechanismen, um zukünftige Risiken zu minimieren.

(Spanischer Ingenieur übernimmt versehentlich 7000 DJI-Roboterstaubsauger – Sicherheitslücken bei Smart-Home-Geräten erneut entdeckt)

Entlassungen und Investitionen gehen Hand in Hand – Tech-Giganten beschleunigen den Einstieg in die KI-gestützte Ära

In den letzten Jahren hat Amazon seine Investitionen in KI und Cloud-Infrastruktur deutlich erhöht. Im letzten Quartalsbericht schätzte das Unternehmen, dass die Kapitalausgaben in diesem Jahr auf eine Rekordsumme von 200 Milliarden US-Dollar steigen werden, um das rapide Wachstum der KI-Dienste und die damit verbundenen Rechenanforderungen zu bewältigen.

Während die Investitionen in KI steigen, führt Amazon auch weiterhin eine Restrukturierung durch. Seit 2022 hat das Unternehmen mehr als 27.000 Mitarbeiter entlassen, und in den letzten sechs Monaten wurden rund 30.000 Stellen im Bereich Unternehmens- und Technik entzogen, was den Trend unterstreicht, dass die Tech-Giganten zunehmend auf KI-gestützte Geschäftsprozesse setzen.

Effizienzsteigerung durch KI-Programmierung – neue Herausforderungen bei Qualität und Stabilität

Mit der breiten Anwendung von Large Language Models (LLMs) in der Softwareentwicklung setzen immer mehr Unternehmen KI-Tools ein, um Programme zu schreiben, Systeme zu modifizieren oder Anwendungen zu unterstützen. Der Entwickler @TukiFromKL äußerte jedoch Bedenken, dass, obwohl KI die Entwicklungszeiten verkürzen kann, das Fehlen robuster Überprüfungs- und Testmechanismen die Gefahr von Programmfehlern, Systemausfällen und potenziellen Sicherheitsrisiken erhöht:

Amazon hat bewiesen, dass hochrangige Führungskräfte, die kein Verständnis für KI haben, gefährlicher sind als die KI selbst. Und jedes Unternehmen, das eifrig nachahmt, wird nach diesem Vorfall sicherlich keine Lehren daraus ziehen.

Die jüngsten Systemausfälle bei Amazon spiegeln die widersprüchliche Situation wider, in der große Tech-Unternehmen bei der Einführung von KI zur Optimierung ihrer Arbeitsprozesse stehen. Während sie Effizienz und Automatisierung anstreben, müssen sie gleichzeitig ihre Engineering-Governance und Qualitätskontrollprozesse neu gestalten, um die Stabilität und Zuverlässigkeit kritischer Infrastruktur sicherzustellen.

(CZ verspottet KI-Proxy-Tool „Krebs“: Angeblich soll es die Hände befreien, doch es ist ständig in Reparatur)

Veröffentlicht zuerst bei ABMedia – Chain News