Искусственный интеллект помогает писать программы, вызывая сбои? За одну неделю в Amazon произошло четыре сбоя системы, руководство срочно созывает заседание по расследованию.

Крупнейший интернет-ритейлер Amazon недавно столкнулся с несколькими сбоями на сайте и в приложениях, что вызвало срочное внутреннее расследование руководства компании. CNBC отмечает, что некоторые инциденты связаны с разработкой программного обеспечения с помощью ИИ. На фоне массовых сокращений и ускоренного внедрения ИИ-технологий в компании, это также вызвало обсуждение рисков и контроля за «программированием с помощью ИИ» в крупных системах.

Четыре крупных сбоя за одну неделю, Amazon срочно проводит разбор ситуации

По сообщению CNBC, в последнее время Amazon неоднократно сталкивается с сбоями на сайте и в приложениях, один из которых длился около шести часов и привел к тому, что часть пользователей не могла оформить заказ, просматривать цены или входить в аккаунт.

Вице-президент по инфраструктуре электронной коммерции Amazon, Дейв Тредвелл, позднее отправил сотрудникам письмо, в котором объявил о проведении углубленного анализа на предстоящем регулярном собрании «This Week in Stores Tech (TWiST)», посвященного недавним крупным системным сбоям.

В меморандуме Тредвелл отметил, что за последнюю неделю произошло четыре инцидента уровня «Sev-1», что означает высокую серьезность, при которой основные сервисы могут быть недоступны или значительно снижена производительность системы. Поэтому необходимо пересмотреть инженерные процессы и связанные механизмы.

«Автоматизированное программирование с помощью ИИ» названо основной причиной инцидентов, Amazon минимизирует влияние

Financial Times сообщает, что внутри компании перед собранием был подготовлен документ, в котором указывалось, что с третьего квартала некоторые «генеративные изменения в программном обеспечении с помощью ИИ (GenAI-assisted production changes)» связаны с частыми недавними инцидентами. Однако эта часть была удалена перед собранием.

Представитель Amazon позже заявил: «Недавние инциденты связаны только с одним случаем, который был связан с инструментами ИИ, и не касались кода, написанного ИИ. Собрание TWiST — это просто регулярное операционное совещание».

Тем не менее, внутри компании признают, что в настоящее время лучшие практики и механизмы безопасности при использовании генеративного ИИ в процессе разработки программного обеспечения еще не полностью сформированы. В связи с этим предпринимаются меры по усилению контроля, включая внедрение процедур проверки изменений кода с участием ИИ и автоматизированных систем безопасности, чтобы снизить риск повторения подобных инцидентов.

(Испанский инженер случайно «захватил» 7000 роботов-пылесосов DJI, снова появились уязвимости в умной технике)

Массовые сокращения и инвестиции идут рука об руку, технологические гиганты ускоряют переход к эпохе ИИ

За последние годы Amazon значительно увеличила инвестиции в ИИ и облачные инфраструктуры. В прошлом месяце компания прогнозировала, что в этом году капитальные расходы достигнут рекордных 200 миллиардов долларов, чтобы справиться с растущими вычислительными потребностями ИИ-сервисов.

Одновременно с увеличением инвестиций в ИИ, Amazon продолжает оптимизацию организации. С 2022 года компания сократила более 27 000 сотрудников, а за последние полгода — около 30 000 позиций, связанных с бизнесом и технологиями, что отражает тенденцию ускоренного перехода к использованию ИИ для поддержки бизнес-процессов.

Повышение эффективности программирования с помощью ИИ создает новые вызовы для качества и стабильности

С расширением применения больших языковых моделей (LLM) в разработке программного обеспечения все больше компаний используют ИИ-инструменты для написания кода, внесения изменений в системы или помощи в развертывании приложений. Однако создатель ИИ @TukiFromKL выражает опасения, что хотя автоматизация ускоряет разработку, отсутствие строгих процедур проверки и тестирования может привести к ошибкам, сбоям систем и потенциальным угрозам безопасности:

Amazon показала, что руководители высшего звена, не разбирающиеся в ИИ, могут быть опаснее самого ИИ. И каждая компания, стремящаяся подражать, после этого, скорее всего, не извлечет уроков.

Недавние системные сбои Amazon отражают противоречия при внедрении ИИ для оптимизации рабочих процессов в крупных технологических компаниях. В то время как они стремятся к эффективности и автоматизации, необходимо пересматривать процессы управления инженерией и контроля качества, чтобы обеспечить стабильность и надежность ключевой инфраструктуры.

(CZ насмехается над инструментом ИИ «Крабик»: обещает освободить руки, а сам постоянно чинит его)

Эта статья о том, как автоматизация программирования с помощью ИИ привела к сбоям? В течение недели Amazon столкнулся с четырьмя системными сбоями, руководство срочно проводит разбор ситуации. Опубликовано впервые в Chain News ABMedia.