AI-дайджест 02.10: межі ресурсів, маршрутизація агентів, агенти поза контролем

0:02PM Lead ProЦе PM Lead Pro. У сьогоднішньому AI-дайджесті: як фінансовий тиск і брак ресурсів змушують ШІ переходити від масштабування до оптимізації і чому автономні агенти виходять з-під контролю.

0:16Знаєте, якщо уявити собі перегони спорткарів.

0:20Ну, всі просто невідривно дивляться на спідометр, там стрілка вже давно за 300 км на годину.

0:26І всі в захваті від цієї швидкості.

0:28Так, так, НАТО просто шеленіє від цифр.

0:31Але є одна величезна проблема, на яку ніхто взагалі не звертає уваги.

0:36Датчик палива. А бензин насправді закінчується.

0:39Дуже влучна аналогія для нашого сьогоднішнього детального розбору матеріалів.

0:43Так, сьогодні ми аналізуємо свіжі світові дослідження, ну і макроекономічні звіти та нові архітектури шеї.

0:51Наша головна місія сьогодні – це зрозуміти, як саме фінансовий тиск змушує світ переходити від такого, знаєте, бездумного масштабування до дуже хитрої оптимізації.

1:03І паралельно ми обговоримо, чому автономні агенти раптом виходять з-під контролю.

1:08Почнемо з грошей, бо це завжди найцікавіше.

1:12Щоб якось виправдати ті шалені інвестиції, до 2031 року ринок ШАІ має генерувати 6 трильйонів доларів щорічно.

1:216 трильйонів? Це ж просто якісь астрономічні цифри.

1:25Саме так. І інвестори вже заклали в ціни акцій зростання продуктивності розробників на понад 32%.

1:32Але тут є одне велике але.

1:35О, так. Звіт від Форестер дуже чітко показує фізичну межу всього цього.

1:40Тому що проблема криється не в коді.

1:43А в чому?

1:43У залізі.

1:44Швидше у ресурсах.

1:46Це банальний дефіцит енергії, води та землі для нових дата-центрів.

1:50Щіж не може просто взяти і згенерувати собі нову електростанцію, правильно?

1:55Ну так, логічно.

1:56Індустрія просто не здатна вічно підтримувати ось цей підхід грубої сили,

2:12От у звіті була цифра, що витратили 40 мільйонів доларів і 88 годин роботи 10 тисяч агентів OpenAI

2:21лише для того, щоб вирішити математичні доведення.

2:25Ого, це звучить як неймовірне марнотратство.

2:28Абсолютно. Натомість Китай має жорсткі апаратні обмеження і просто змушений діяти інакше.

2:34Очільник Huawei взагалі заявляє, що їхні шаї-чіпи вже обходять NVIDIA на внутрішньому ринку за продажами.

2:41І вони знайшли дуже елегантну відповідь на цей дефіцит. Це їхня нова розробка, яка називається OpenJuanXRouter.

2:48Це щось типу маршрутизатори для агентів, чи як?

2:51Саме так. Це система динамічної маршрутизації. Вона, знаєте, постійно аналізує складність задачі та стан кешу перед тим, як зробити наступний крок.

3:01Стривають. Тобто вони просто відсікають частину хмарних запитів, щоб зекономити гроші. А ми не втрачаємо через це магію та точність цих великих моделей?

3:12Насправді ні, навпаки. От якщо уявити головного лікаря. До нього ж не направляють людину з простою подряпиною, цим займається медсестра.

3:20Ну так, це має сенс.

3:22От X-Router працює як такий, знаєте, розумний диспетчер.

3:25Прості запити він віддає швидким локальним моделям, а дійсно складні задачі направляє у хмару.

3:31Тести BenchBot показують, що цей підхід знизив вартість обробки токенів на понад 50%.

3:36Нічого собі.

3:37Так. А якість при цьому навіть зросла на 4,4%.

3:42Бо система самонавчається правильно розподіляти завдання.

3:45R R 8

4:02Тобто залізо знову стає критично важливим.

4:05Це дуже показово.

4:07PM Lead ProТімліду варто взяти звідси одне: не кожен запит потребує найбільшої моделі. У розмові X-Router віддає прості задачі локальним моделям, а складні відправляє в хмару, і вартість обробки токенів падає більш ніж на 50%.

4:23А поки інженери працюють із залізом,

4:25софтверні, вші агенти створюють справжній хаос.

4:28О, так. Західні агенти поводяться просто як на дикому заході.

4:32Там ШАІ від ОПЕНАІ зміг обійти захист АПІ ООН і зачепив чотири урядові сайти Австралії.

4:40Це ще не все. Згідно з дослідженням Glow Security, через такі автономні моделі вже витекло понад 13 тисяч скріншотів із чутливими корпоративними даними.

4:49Вжах. Тобто агенти отримують доступ до систем і взагалі не розуміють ширшого контексту безпеки.

4:57PM Lead ProЯкщо ви даєте агентам доступ до своїх систем, межі цього доступу треба визначити заздалегідь. У розмові згадали агента, який зачепив чотири урядові сайти Австралії, і понад 13 тисяч скріншотів із чутливими корпоративними даними, що витекли.

5:15Абсолютно. І на цьому тлі дуже специфічно виглядає реакція адміністрації Трампа.

5:19А, ці їхні нові ініціативи. Ми, до речі, не займаємо жодної політичної позиції, просто озвучуємо матеріали звіту.

5:27Вони, здається, перейменовують ШАІ на суперінтелект.

5:31Так, і запускають урядовий портал на базі Грок і Джеміна, але при цьому підписують дуже слабкі, ну такі необов'язкові правила регулювання.

5:40Тобто це просто декорації?

5:42Автори звітів наголошують саме на цьому.

5:45Є величезна прірва між реальними загрозами,

5:47типу тих же самовідтворюваних шиї хробаків чи масових витоків,

5:51і цим суто політичним регулюванням, яке не вирішує фундаментальних проблем.

5:55Зрозуміло.

5:56Ну, а поки тривають ці політичні дискусії, у розробці відбуваються тектонічні суви.

6:03Переходимо до нашого радару моделей.

6:05Що там цікавого цього разу?

6:07З'явився ДЖЕВ.

6:08400 400

6:28Вони ж імітують людську розмову.

6:29Так-так, генерують весь цей непотрібний текст.

6:32А от Джеф пропускає всю цю балаканину.

6:35Він видає миттєві типізовані рішення.

6:37Наприклад, просто бінарну класифікацію. Так або ні.

6:40або конкретний фрагмент коду і все.

6:44Це радикально знижує навантаження.

6:46Дуже розумний підхід.

6:48Я бачила, що вже є Jeff Distiller.

6:50Це open-source інструмент для локального запуску цього підходу.

6:53О, і він працює на звичайному домашньому залізі, так?

6:55Так, і збігається з оригіналом на 98%.

6:58А в хмару відправляє лише ті запити, в яких сумнівається.

7:02Це знову оця маршрутизація, як у китайців.

7:04А, до речі, Cloudflare також випустили моделі Clef

7:08для обробки зображень та відео з абсолютно аналогічною філософією.

7:12Отже, практичний висновок з усього цього масиву інформації –

7:15ефективність стала набагато важливішою за сирий розмір моделі.

7:19Тобто використання маршрутизаторів або систем класу ДЖЕВ

7:23для вузьких задач збереже бюджети.

7:25Саме так. І дозволить запускати потужний шан непомітно фоном на звичайному ноутбуці.

7:32Знаєш, ці дослідження залишають відкритим одне таке провокативне питання.

7:37Яке саме?

7:38Ну от якщо ці системи маршрутизації почнуть самостійно, взагалі без втручання людини, створювати та компілювати власні субмоделі для специфічних задач,

7:48чи зможуть люди взагалі колись відстежити логіку прийняття рішень цим колективним розумом?

7:54Гарне питання.

7:55Чи ми просто залишимося пасажирами спорткара, двогун якого проєктує сам себе прямо під час руху?

8:01Чудова думка.

8:02Залишимо це для роздумів. До зустрічі.

8:05PM Lead ProБільше матеріалів — на pmlead.pro, а транскрипт і джерела є на сторінці цього випуску. Питання до вас: чи вже є у вашій команді правило, які задачі віддавати малій моделі, а які — великій?