AI-дайджест 26.10: стара CNN проти LLM, персональні ціни, KV-Cache

0:02PM Lead ProЦе PM Lead Pro. У цьому випуску: чому десятирічна нейромережа обійшла сучасні моделі в діагностиці раку шкіри, як змінюються ціни в ретейлі і що нового зі стисненням KV-Cache.

0:16Знаєте, існує такий стереотип, що передовий штучний інтелект – це обов'язково якісь гігантські хмарні сервери, які там споживають енергію цілого міста.

0:26Ага, і що все це максимально глобалізовано і віддалено від нас.

0:30Саме так. Але сьогоднішній розбір свіжих досліджень і ринкових звітів малює зовсім іншу картину. Ми побачимо, як ШАІ перебирається просто в нашій кишені.

0:39Так, і як він непомітно змінює ціни в супермаркетах і навіть діагностує рак краще за розпіарені моделі технологічних гігантів.

0:47Точно. Наша мета сьогодні розібратися, що реально працює, а що просто хайп. І почати я б хотіла з медицини, бо тут є просто неймовірні дані.

0:55Ви про те нове дослідження від Лінч Леб?

0:58Так, так. Я була просто шокована. Десятирічна нейромережа, оця CNN Inception V3.

1:04О, це ж класика.

1:05От саме класика. І вона вщент розгромила сучасні, ну дуже дорогі моделі, як GPT-6 Astra та ClaudeFable 5.1 у діагностиці раку шкіри.

1:14На базі 200 реальних біопсій, якщо я правильно пам'ятаю цифри.

1:18Абсолютно правильно. Стара модель вгадала 62% діагнозів, а новітні оці велетенські мовні моделі лише 42%.

1:25І найкрутіше, що стара мережа працює локально, просто в браузері звичайного телефона.

1:31Ну це феноменальний результат насправді.

1:32Знаєте, на що це схоже? На стару таку кнопкову Нокію, яка ловить зв'язок десь глибоко в лісі, краще за найновіший смартфон.

1:40Але як взагалі так виходить?

1:41Ну, фішка в самій архітектурі. От великі мовні моделі, вони ж тренуються як?

1:59Тобто радять абсолютно всім йти до лікаря, навіть якщо на фото звичайнісінька родинка.

2:04Ага, розумію.

2:06А Inception V3 – це згорткова нейромережа.

2:09Вона текст взагалі не розуміє, але ідеально розпізнає просторову геометрію, пікселі.

2:14Вона сфокусована лише на одній меті.

2:16Тому для візуальної діагностики цей старий спеціалізований інструмент б'є універсальні алгоритми.

2:23PM Lead ProЗгорткова мережа Inception V3 вгадала 62% діагнозів, а великі мовні моделі — 42%, на 200 біопсіях. Тімліду: для візуальних задач варто розглянути вузькоспеціалізований інструмент.

2:39Ну якщо такі от вузькі алгоритми настільки ефективні в медицині, стає навіть трохи лячно від того, де ще вони непомітно працюють.

2:46І тут варто поглянути на сферу ретейлу.

2:49Там зараз відбуваються просто тектонічні суви, судячи зі свіжого звіту Odlots.

2:53Так, я читала. Мережі супермаркетів, типу Крогер чи Інстакарт, вони ж масово впроваджують персоналізовані ціни.

2:59Звичайна родина може переплачувати до 1200 доларів на рік.

3:04І це все просто через те, як алгоритм оцінює їхню платоспроможність у конкретний момент.

3:09Вони знищують саму концепцію фіксованої ціни.

3:13Це ж божевілля.

3:14А Крогер ще й отримує 30% свого операційного прибутку не від продажу продуктів, а від продажу даних клієнтів.

3:22Тому що 95% транзакцій проходять через картки лояльності.

3:25Нічого собі.

3:26Це виглядає, як середньовічний ринковий торг, тільки покупець стоїть із зав'язаними очима.

3:32Проти суперкомп'ютера. Так і є. Компанії використовують наші ж дані, щоб вирахувати максимальну суму, яку ми готові віддати за товар,

3:41Marginal Revolution 9

3:57Цей економічний хаос змушує таланти шукати нові ніші.

4:01І тут є дуже показовий приклад з України, про який писали на ДОУ.

4:04Наша студентка Катерина Салтовець виграла стипендію на 400 тисяч доларів у США та Канаді.

4:10Ого, дуже солідна сума.

4:12Але вона відмовилась і повернулася будувати локальну екосистему квантових обчислень для кібербезпеки в Україні.

4:19Але от питання, навіщо кидати комфортні західні лабораторії заради ринку, який ще навіть не сформований?

4:25Ну дивіться, глобальна нестабільність робить власні, суверенні технології питанням екзистенційного виживання.

4:32Побудова критичної ніші, там де вона має вирішальне значення, створює значно більший вплив,

4:38Згодна. А щоб будувати такі суверенні системи, потрібні зовсім інші інструменти. І на нашому радарі модели є кілька проривів. От розробники з Гонконгу та університету Carnegie Mellon представили EdgeRock.

4:54Це дуже цікава річ. Вони змогли знизити вимоги до KVCash на 99%.

5:00Так, і пропускна здатність зросла вшестеро на одній відеокарті.

5:04Але давайте на секунду зупинимося, що взагалі таке цей KV-Cache?

5:08Бо звучить, ну, дуже технічно.

5:10Якщо дуже спрощено, це така коротка оперативна пам'ять моделі,

5:14куди вона складає контекст поточної розмови.

5:1799 99 DeepSek V4 Flash

5:34Вони пропонують нативну мультимодальність за екстремально низькою ціною, що кидає серйозний виклик західному підходу до вартості.

5:42А ще ж є оцей новий клас агентних моделей на кшталт JIV 1.14 та MetaMuse.

5:48Цікаво, що через них капіталізація компанії AMD перетнула трильйон доларів.

5:53Це взагалі змінює ринок заліза.

5:56Але почекайте, агентним моделям раптом знадобилися звичайні центральні процесори, у цій CPU, а не відеокарти. Чому так? Чи ж це завжди про відеокарти?

6:05Ну, дивіться, відеокарти ідеальні для паралельних обчислень. Наприклад, щоб генерувати тисячі ймовірностей слова.

6:12А автономні агенти, вони працюють інакше.

6:15Вони планують дії.

6:16Саме так, вони приймають логічні рішення крок за кроком. І для такої лінійної логіки архітектура звичайних процесорів підходить набагато краще. Ми відходимо від тупої гонки відеокарт.

6:28PM Lead ProАвтономні агенти планують дії крок за кроком, і для такої логіки краще підходять звичайні процесори. Це варто мати на увазі, коли плануєте інфраструктуру під агентів.

6:39Виходить, ми стрімко переходимо до світу локальних вузьких агентів, які знають, яку ціну нам вивезти на екран та як нас лікувати.

6:48І в цьому новому світі захист власних даних стає абсолютно тотожним захисту власного гаманця.

6:53Отже, якщо стара архітектура десятирічної давності сьогодні з легкістю перемагає передові універсальні моделі в медицині, виникає питання, які ще так звані застарілі технології ми дарма ігноруємо у пошуках відповідей на виклики майбутнього?

7:09Може, рішення вже давно лежить у нас перед очима?

7:12PM Lead ProБільше — на pmlead.pro: транскрипт і джерела є на сторінці випуску. А ви перевіряли, чи не вирішує вашу задачу вужчий і старіший інструмент?