Старший архітектор безпеки нещодавно опублікував ґрунтовний аналіз ландшафту інформаційної безпеки на найближчі роки, з особливим акцентом на значні зміни, які можуть відбутися після 2026 року. Він зазначив, що підприємства намагаються впровадити ШІ для підвищення ефективності операцій, але відповідні загрози безпеці також множаться — від несанкціонованих систем ШІ, дипфейків, інтелектуальних зловживань проксі до квантових обчислень для існуючих систем шифрування — вся галузь вступає в небезпечний період із швидшою швидкістю атак і захисту та ширшим масштабом.

Приховані небезпеки, що стоять за перевагами ефективності

Зручність, яку приносить ШІ, реальна, але вразливості безпеки також швидко зростають. Проблема «тіньового ШІ» є найбільш репрезентативною — це застосунки ШІ, які не були офіційно затверджені і не мають управління безпекою. Деякі команди просто витягують модель у хмарі, підключаються до внутрішніх даних компанії і запускають напряму, і ніхто про це не знає.

Дані говорять: Згідно з галузевими звітами з безпеки, якщо компанія стикається з витоком даних, якщо така неконтрольована система штучного інтелекту існує всередині, середній додатковий збиток сягає $670,000. Ще більш боляче те, що 60% підприємств досі не встановили управління ШІ чи відповідні політики безпеки. Іншими словами, витрати зростають, ризики зростають, а захисні заходи не встигають за цим.

Технологія дипфейків вийшла з-під контролю

Дипфейки стали ще однією швидко поширеною загрозою безпеці. Досягнення в генеративному ШІ полегшили використання таких атак для шахрайства або соціальної інженерії.