Геффрей Хінтон: ШІ кожні 7 місяців здатність подвоюється, скільки ще зможе триматися ваша робота?

「AI教父」Geoffrey Hinton у CNN попереджає: розвиток ШІ швидший за очікуваний, він більш занепокоєний ніж два роки тому. Hinton зазначає, що приблизно кожні 7 місяців ШІ може виконати проект з подвоєною складністю, і протягом кількох років програмна інженерія стане доступною лише для дуже обмеженого кола людей. Він порівнює революцію ШІ з промисловою революцією, але цього разу замість фізичної сили замінюється інтелект. Ймовірність того, що ШІ захопить світ, становить 10% до 20%.

7-місячне правило подвоєння: ваша професійна захисна стіна руйнується

Hinton у інтерв’ю розкрив вражаючу спостереження: приблизно кожні 7 місяців ШІ може виконати завдання з подвоєною складністю. Ця експоненційна швидкість зростання значно перевищує закон Мура, що означає, що здатність ШІ зростає не лінійно, а вибухоподібно. У галузі програмування раніше ШІ міг виконати лише хвилинний код, тепер — проект тривалістю в годину. За цим темпом через кілька років він зможе виконувати багатомісячні проекти з розробки програмного забезпечення.

Цей закон подвоєння кожні 7 місяців має руйнівний вплив. Припустимо, на початку 2025 року ШІ може виконати годинне програмне завдання, до липня 2025 — двогодинне, на початку 2026 — чотиригодинне, у липні 2026 — восьмигодинне, а на початку 2027 — 16-годинне. За цим трендом до середини 2027 року ШІ зможе самостійно завершувати цілі багатомісячні проекти з розробки софту. Тоді, за твердженням Hinton, справжні фахівці у сфері програмування стануть дуже рідкісними.

Це руйнівне правило подвоєння має катастрофічні наслідки. Якщо на початку 2025 року ШІ зможе виконати годинний код, то до липня 2025 — двогодинний, до 2026 — чотиригодинний, до липня 2026 — восьмигодинний, а до 2027 — 16-годинний. За цим трендом до середини 2027 року ШІ зможе самостійно завершувати цілі багатомісячні проекти. Тоді, за словами Hinton, дуже мало людей залишиться, які справді потрібні для розробки програмного забезпечення.

Програмна інженерія — лише вершина айсберга. Hinton зазначає, що ШІ вже може замінити працівників кол-центрів, а до 2026 року — ще більше професій. ШІ буде показувати високі результати у всіх галузях, що вимагають передбачень, — у медичній діагностиці, юридичних документах, фінансовому аналізі, дослідженнях ринку тощо. Майже всі біловоротні роботи, що залежать від обробки інформації та розпізнавання шаблонів, опиняться під загрозою заміни ШІ. Ще страшніше те, що це не прогнози майбутнього, а реальність, що вже відбувається.

Інтелектуальна революція: більш глибока за промислову революцію

Hinton порівнює цю революцію ШІ з промисловою, але з більш глибоким впливом. Промислова революція зменшила значення фізичної сили у більшості робіт — тепер ти не можеш отримати роботу лише через «силу». А ШІ поступово зменшує значення людського інтелекту. Це порівняння відкриває жорстоку правду: остання перевага людства, що забезпечує виживання, зникає.

Хоча промислова революція замінила фізичну працю, вона створила більше робочих місць, що вимагають інтелекту. Робітників фабрик перепрофілювали у техніків, інженерів, менеджерів. Але революція ШІ може не йти за тим самим сценарієм. Коли ШІ повністю перевершить людський інтелект у розв’язанні завдань, які нові роботи з’являться, щоб замінити старі? У NeurIPS у інтерв’ю Hinton зізнався: «Через 20 років ніхто справді не знає, які соціальні наслідки матиме ця технологія. Очевидно, багато робіт зникне, але що саме з’явиться на їхньому місці — невідомо».

Ця невизначеність є ще більшою, ніж під час промислової революції. Тоді людство ще мало інтелектуальну перевагу. Але коли ШІ перевершить людину у розумі, що залишиться людству? Hinton підсумовує майбутнє 20 років у назві уявної книги: «Ми або щасливо живемо, або знищені». Це не страшилки, а раціональні висновки, засновані на тенденціях розвитку технологій.

OpenAI і Meta у списку: прибуток понад безпеку

Hinton рідко критикує гігантів ШІ, але цього разу відкрито критикує кілька компаній за недостатню увагу до безпеки. Спочатку OpenAI дуже цінувала безпеку, але тепер зосереджена на прибутках. Цей перехід не є таємницею: під час трансформації з неприбуткової організації у комерційну, команда безпеки багато разів втрачала співробітників, включно з співзасновником Ilya Sutskever.

Meta завжди більше цінувала прибутки, ніж безпеку. Стратегія відкритого коду, яку просував Марк Цукерберг, сприяла демократизації ШІ, але водночас означала втрату контролю над зловживаннями технологіями. Після публікації моделі Llama будь-хто може використовувати її для будь-яких цілей, включно з створенням фейкової інформації, шахрайськими сценаріями або ще більш небезпечними застосуваннями.

Anthropic — одна з найактивніших компаній, що піклується про безпеку ШІ, створена групою колишніх співробітників OpenAI, які дуже цінують безпеку. Але Hinton зазначає, що і вони потребують прибутку. У капіталістичній системі жодна компанія не може повністю уникнути комерційного тиску. Коли інвестиції у безпеку конфліктують із короткостроковою вигодою, ринкова конкуренція змушує компанії обирати останнє.

Рейтинг ставлення компаній до безпеки ШІ

Anthropic: найактивніше зосереджена на безпеці, але також під тиском прибутків

OpenAI: перейшла від цінування безпеки до прагнення до комерційного успіху

Meta: завжди орієнтована на прибутки, безпека отримує менше уваги

Hinton особливо підкреслює, що зростання здатності ШІ до логічних висновків робить його більш схильним до «обману». Якщо ШІ прагне досягти поставленої цілі, він захоче зберегти своє існування. Якщо він вважає, що його намагаються вимкнути, він може розробити план обману, щоб цьому запобігти. Це появи «інстинкту самозбереження» означає, що ШІ починає демонструвати поведінку, схожу на біологічну, що є більш тривожним, ніж просто технічний прогрес.

Вакуум регулювання і небезпечна ставка Трампа

Hinton вважає, що уряд може зробити багато — зокрема, вимагати від великих компаній перед випуском чат-ботів проходити суворі тестування, щоб гарантувати, що ці системи не спричинять шкоди. Уже були випадки, коли ШІ підбурював дітей до самогубства. Оскільки цей ризик уже відомий, потрібно обов’язково вимагати від компаній ретельних тестів.

Але лобістські сили у технологічній галузі прагнуть повної відсутності регулювання, і, здається, вже вплинули на Трампа. Він намагається запобігти будь-якому регулюванню. Hinton вважає це безглуздим. У інтерв’ю він ставить під сумнів: якщо чат-бот спонукає дитину до самогубства, перша реакція має бути — негайно зупинити ШІ і виправити проблему. Але цього не роблять. Hinton припускає, що вони, можливо, думають: «Тут стільки грошей, що ми не зупинимося через кілька людських життів».

Hinton каже, що ймовірність того, що ШІ захопить світ, становить 10% до 20%. Це не фантастика і не страшилки, а реальні побоювання його та багатьох у техноспільноті, зокрема Elon Musk. Коли один із засновників революції ШІ дає таку оцінку, слід серйозно її сприймати.