AI-дайджест 01.11: фінансові агенти ARCA, байєсівські межі ШІ, скорочення

0:02PM Lead ProЦе PM Lead Pro. У випуску: фінансові агенти ARCA, які працюють до десяти днів, межі їхньої логіки та скорочення в MacPaw.

0:12Знаєте, ситуація на ринку зараз виглядає просто як якийсь парадокс із фантастичного фірму.

0:17Тобто, з одного боку, штучному інтелекту довіряють управління мільйонами доларів.

0:23Причому на 10 днів поспіль взагалі без нагляду.

0:25А з іншого боку, ця ж сама система, чесно, зізнається, що не здатна впоратися з базовою людською логікою.

0:32Це реально головна загадка нашого сьогоднішнього розбору матеріалів.

0:35Точно. І сьогодні ми якраз аналізуємо цей монументальний сув від моделей,

0:41які просто генерують текст, до типу автономних агентів, що керують складними процесами.

0:48Наша мета тут розібрати саму механіку того, як алгоритми починають керувати людьми, ну і які економічні наслідки це несе для ринку загалом.

0:56Почнемо, мабуть, із того, як ці алгоритми взагалі отримують прямий доступ до капіталу.

1:02Бо, за даними Latent Space, компанія ARCA щойно залучила 48,5 мільйонів доларів. І це саме на США і управління активами.

1:12Ого, серйозна сума. При цьому Джозеф Кім з OpenAI публічно анонсує такий собі чат GPT для фінансів і тестування нової моделі GPT-6 Astra.

1:21Вони ж прямо заявляють, що базову математику моделі вже засвоїли ідеально.

1:25Ага, і тепер фокус, типу, зміщується на тренування саме людського смаку. Але, чесно кажучи, мене найбільше вражають оці агенти Арка, які ведуть фінансові процеси до 10 днів поспіль.

1:40SHE

2:00Але чи можна цьому довіряти?

2:02Ну, тут важливо розуміти, як саме працює ця 10-денна автономність.

2:06Модель не думає безперервно всі 10 днів.

2:09Вона розбиває великий проект на сотні дрібних мікрозавдань.

2:13А, тобто після кожного кроку вона звіряється з правилами.

2:16Бо якраз хотів згадати про галюцинації.

2:18Ми ж знаємо, що системи часто вигадують факти.

2:21Абсолютно логічне побоювання. Саме тому агент працює у так званій пісочниці.

2:26Це повністю ізольоване середовище, де він пише код і створює торговий план.

2:30До реальних грошей він прямого доступу не має.

2:33Зрозумів. А далі що, люди сідають і все це перевіряють?

2:37Не зовсім. Далі вмикаються незалежні моделі-верифікатори.

2:41Їхня єдина функція – це жорстко перевірити створений план на логічні хиби до того, як він піде в роботу.

2:47Стоп, якщо агент такий розумний, що сам планує на дні вперед, то що йому заважає просто обійти цю пісочницю і знайти вразливість?

2:57PM Lead ProДля тімліда: агент ARCA працює в пісочниці без прямого доступу до реальних грошей, а його план перевіряють незалежні верифікатори. Хто перевірятиме план вашого агента до запуску?

3:09І ось тут ми підходимо до критичної проблеми фундаментальних обмежень у самій архітектурі.

3:14Навіть найрозумніший агент має слабкі місця. Нещодавно на Marginal Revolution обговорювали дуже показовий факт.

3:21Чат-GPT фактично визнав себе поганим баїсіанцем.

3:24Я правильно розумію, що він не здатний адекватно оновлювати свої переконання, коли з'являються нові факти?

3:31Саме так. Людина, типу, обпеклася і змінила свою поведінку.

3:35А переконання ШАІ жорстко зафіксовані в мільярдах параметрів ще під час тренування.

4:01І монополізованою, так.

4:02От якраз те, про що писав дослідник Цзяхао Шао на платформі X.

4:07Антропік просто взяли і примусово знизили йому доступ з новітньої моделі Opus 5.5 до старішої Opus 5.0.

4:15Так, і за що? За те, що він, знаєте, аналізував їхні дані для відкритих моделей.

4:20Йому закинули нібито створення конкурентів.

4:22Це ж чистої води подвійні стандарти.

4:24Вони самі навчалися на всьому відкритому інтернеті, а тепер карають дослідників за те саме.

4:29Ситуація дійсно безпрецедентна.

4:31Звісно, ми тут не стаємо на чийсь бік, а просто фіксуємо реальність.

4:37Закриті корпорації жорстко захищають свої мільярдні інвестиції,

4:40а спільнота відкритого коду логічно обурюється.

4:43У будь-якому разі, незалежно від того, чим закінчаться ці корпоративні війни,

4:49наслідки автоматизації вже тут.

4:51От свіжа новина надол.

4:54Українська компанія MacPol скорочує 30 фахівців з маркетингу,

4:58а це 5% їхньої команди.

5:00Просто тому, що ще й автоматизував ці навички.

5:04Та, те, що ще вчора вимагало десятків людських рук і годин рутини, сьогодні робиться алгоритмом.

5:10І щоб зрозуміти такі швидкі темпи, варто глянути на наш радар модели.

5:14Давай.

5:15Що там у нас найцікавіше за сьогодні?

5:17Ну, перш за все, це оновлене сімейство від Anthropic Cloud 5.5.

5:22Opus Sonnet Haiku Fable 5 Opus 5 Hackertube 40

5:37Так, саме так. Масштаб їхньої продуктивності просто шалений.

5:41А от друга модель на радарі – це Jeff.

5:44Вона якраз пояснює, як компанії типу ARCA борються з отими логічними хибами великих агентів.

5:50Jeff? Звучить як щось дуже вузько спеціалізоване.

5:54Воно так і є. Це модель прийняття рішень нового класу. Арка запускає її локально, суто для перевірки фінансових фактів. Вона взагалі не генерує текст чи код.

6:04Тобто працює як той самий незалежний верифікатор, щоб великий агент бува не врахував якісь застарілі податкові ставки у своєму десятиденному плані.

6:14Точно. Її мета виключно фактчекінг. І з усього цього вимальовується дуже чітка практична думка для розуміння ринку.

6:21І якщо подумати, будь-яке робоче завдання, що базується суто на фактах, які легко верифікувати, буде швидко автоматизовано. Звідси оті скорочення, як в тому ж МакПо.

6:33Абсолютно згодна. Майбутня цінність фахівця тепер повністю переміщується в зону людського смаку, інтуїції та здатності задавати правильний вектор цим агентам.

6:43PM Lead ProВласнику компанії: за розмовою, завдання на легко перевірюваних фактах автоматизують швидко, а цінність фахівця зміщується до смаку, інтуїції та вміння задавати агентам напрям.

6:57До речі, наостанок крутиться в голові одне провокативне питання.

7:02Якщо нейромережі так погано оновлюють свої переконання, ігноруючи нові факти, як ми обговорювали раніше,

7:08А от та проблема з баїсіанством.

7:10Саме вона. То чи не спровокують ці автономні фінансові агенти колись глобальну кризу?

7:17Просто вперто ігноруючи тривожні ринкові сигнали, бо вони будуть щиро вважати, що їхній початковий план десятиденної давнини був ідеальним.

7:25Тут дійсно є над чим подумати.

7:27PM Lead ProБільше шукайте на pmlead.pro: транскрипт і джерела є на сторінці випуску. А ви довірили б агенту десять днів без нагляду?