AI-дайджест 29.10: Gemini 4 Carbon, бульбашка ШІ, агенти AWS

0:02PM Lead ProЦе PM Lead Pro. У випуску: Gemini 4 Carbon, питання про прибутки ШІ, агенти AWS і нові моделі. Послухайте, щоб бачити, куди зміщується увага індустрії.

0:15Тільки уявіть, на звичайній флешці об'ємом 8 гігабайтів зараз можна тримати 75 тисяч розумних чиї агентів. Звучить як якась магія, правда?

0:26Абсолютно, але це вже цілком реальна технологія від AWS.

0:30Так. І мета нашого сьогоднішнього розбору – це швидко і без зайвого канцеляриту оглянути найгарячіші світові дослідження штучного інтелекту. Ну і макроекономіки теж.

0:39Ага, тобто щоб бути в курсі тих самих великих зрушень, про які всі говорять.

0:44Саме так. Сьогодні у нас на радарі триумф моделі Gemini 4 Carbon, економічний тест на реальність для шії бульбашки, оця згадана революція ефективності від AWS, ой, тобто не від AWS, а загалом інфраструктури агентів, а ще абсолютно дикий китайський підхід з Квінп'ютер та суворі реалі українського Дефтеку. Отже, давайте розкладемо це по поличках.

1:06Давай. З чого почнемо?

1:07Почнемо з Gemini 4 Carbon. За даними Let&Space та Google, ця модель щойно очолила рейтинг Artificial Analysis версії 5. Вона набрала 59 балів і посунула Clot Opus 5.5.

1:22О, це дуже серйозна заявка.

1:24Насправді.

1:25Особливо, якщо згадати, наскільки щільною стала конкуренція серед цих фронтирних моделей.

1:30Так, тих, що на самому Вістрі. Але фішка в тому, що це не просто черговий чат-бот для написання листів.

1:36Карбон жорстко орієнтований саме на кіберзахист.

1:39Тобто така собі дуже вузька спеціалізація?

1:42Так, так. Він показав вражаючі 88,2% у тесті SecBenchPro.

1:48Це такий іспит на пошук вразливостей у коді.

1:51Але зараз доступ до нього мають лише фахівці з безпеки.

1:54Ага, закрито для широкого загалу.

2:10Що тут найцікавіше, то це фокус індустрії, який глобально зміщується.

2:16Ми переходимо від захоплення тим, що ШИ може скласти гарний віршик,

2:20до потреби у вузькоспеціалізованій математичній надійності.

2:24Тобто ніяких галюцинацій.

2:26100%. Коли модель має доступ до систем безпеки або пише критичний код, їй потрібна не креативність.

2:33Їй потрібна абсолютна точність.

2:35Але ж створення таких інтелектуальних гіперкарів підводить нас до іншої проблеми. Фінансової.

2:41Від надпотужних моделей ми неминуче переходимо до питання, а чи є взагалі гроші на їхнє утримання.

2:46О, це зараз дуже болюча тема для інвесторів.

2:49Ще б пак. За звітами Bloomberg, Wall Street досі ніби вірить у шаї.

2:54Але ринок вже вимагає реальних прибутків. От Антропік показує неймовірне зростання доходів на 1400%. Але сам капітал стає дорожчим.

3:03Добу епоха безкоштовних грошей закінчилася?

3:06Так. Банк Канади щойно підняв облікову ставку до 2,5%. Тобто брати кредити на розвиток стає значно дорожче.

3:13Я тут хочу трохи заперечити загальному оптимізму. Чи не будується зараз просто гігантська бульбашка капітальних витрат?

3:19Цілком можливо. Компанії вливають мільярди в сервери та електроенергію.

3:24От власне. А клієнти ще не приносять співставних доходів.

3:28Це фундаментальне питання. Звичайні користувачі просто не зможуть покрити витрати на цих гігантських і оракулів,

3:36які буквально споживають мегавати енергії навіть у режимі очікування.

3:40PM Lead ProДля власника компанії: капітал дорожчає, Банк Канади підняв ставку до 2,5%, а клієнти ще не приносять співмірних доходів. Варто рахувати окупність ШІ, а не лише його можливості.

3:55Agent Report AWS Infinity 75 8

4:14Це насправді геніальне рішення. Це як поставити дуже складну відеогру на паузу і зберегти весь її світу крихітний текстовий файл, поки гравець не повернеться.

4:25О, класне порівняння.

4:26Так, коли агент чекає на відповідь, його стан просто зберігається як текст. Оперативна пам'ять не витрачається взагалі. Захід іде шляхом серверної оптимізації.

4:37PM Lead ProТімліду: агент в очікуванні зберігається як текст і не займає оперативну пам'ять. Плануючи агентів, питайте не лише про розумність моделі, а й про вартість простою.

4:49Тим часом китайські розробники йдуть зовсім іншим шляхом – з їхнім Квенп'ютер. Я читала, що вони буквально інтегрували віртуальний процесор архітектури RISC-V5 прямо у ваги моделі QN3-5.

5:01Звучить як якась фантастика.

5:03Я реально не зовсім розумію, як це фізично можливо. Ваги моделі – це ж просто математичні ймовірності, які вгадують наступне слово, хіба ні? Як туди взагалі можна всунути процесор?

5:13Якщо ми поєднаємо це з ширшою картиною, то зрозуміємо, що це експеримент із самою природою нейромереж.

5:20Квен П'ютер фактично навчився зупиняти генерацію слів, робити точний розрахунок за допомогою цього вбудованого віртуального процесора…

5:28І лише потім видавати відповідь.

5:29Саме так. Це ніби вбудувати калькулятор, який ніколи не помиляється прямо в мовний центр мозку.

5:35Тобто замість виклику зовнішніх програм, ШАІ робить точні, детерміновані обчислення всередині себе.

5:42Це просто вражає. Ми зараз говоримо про те, як складно і дорого входити у великий щік корпораціям.

5:48Але в Україні є інша проблема порогу входу – кадрова.

5:51Ти про статтю надову?

5:52FPV IT ZPV RAB

6:11На жаль, це так.

6:12Але давай поглянемо на наш радар моделей, де якраз з'явилися інструменти, які ці бар'єри трохи знижують.

6:18О, давай.

6:19На радарі сьогодні дві новинки.

6:21Перша – це LFM3-1-7B від Liquid AI. Компактна модель на 1,7 мільярда параметрів, але з гігантським вікном контексту у 256 тисяч токенів.

6:33Ого, туди ж можна завантажити кілька цілих книг за раз.

6:36Ага.

6:37І що найкрутіше, вона працює локально, займаючи десь 1 гігабайт у 4-бітному форматі.

6:43Щоб пояснити цей чотирьохбітний формат, це означає, що модель навчили так ефективно стискати свої знання, що вона спокійно працює на звичайному слабкому ноутбуці. Без інтернету і без втрати здорового глузду.

6:57Це супер зручно. А друга новинка – NVIDIA Nemotron 3.5 Transcribe. Це вже 34-мільярдна відкрита модель для розпізнавання аудіо та багатомовної транскрипції, яка стала номером один серед відкритих рішень.

7:10Дуже потужний інструмент.

7:12Практична думка сьогоднішнього дня полягає в тому, що ефективність впровадження ШАІ тепер вимірюється не стільки його чистим інтелектом, скільки вартістю його утримання в режимі очікування.

7:25Отже, що все це означає?

7:27Хороше запитання.

7:28А те, що оптимізовані гібридні мікромоделі, як от LFM3 або оці агенти в AWS, можуть стати набагато важливішими для економіки, ніж гігантські ШАІ-оракули.

7:40Можливо, саме вони створюють нову невидиму інфраструктуру світу, поки ключі від дорогих інтелектуальних гіперкарів і далі лежатимуть лише в кишенях кібербезпеки.

7:51PM Lead ProБільше шукайте на pmlead.pro: транскрипт і джерела цього випуску є на його сторінці. А що для вас важливіше в ШІ: інтелект чи вартість утримання?