Поза межами історії чатів: як Honcho вирішує проблему персоналізації для додатків LLM

Уявіть, що ви пояснюєте квантову фізику своїй бабусі, вашому професору та вашому підлітку. Ви б не використовували одні й ті ж слова, приклади чи темп для кожного з них. Ви б інстинктивно налаштовували свою комунікацію залежно від того, з ким спілкуєтеся. Саме цього бракує в сучасних застосунках великих мовних моделей — і це основна проблема, яку має виправити нова платформа Honcho від Plastic Labs, що нещодавно була запущена.

11 квітня стартап AI Plastic Labs оголосив про завершення раунду попереднього посіву фінансування у розмірі 5,35 мільйонів доларів, який очолила компанія Variant, з участю White Star Capital, Betaworks, Mozilla Ventures, Seed Club Ventures, Greycroft та Differential Ventures. Ангельські інвестори, зокрема Скотт Мур, NiMA Asghari та Томас Хауелл, також приєдналися до раунду. Одночасно компанія відкрила ранній доступ до Honcho — своєї платформи персоналізованого AI-ідентифікатора, що ознаменувало важливий етап у тому, як застосунки LLM нарешті зможуть краще розуміти своїх користувачів.

Зростаюча потреба у справжній персоналізації в застосунках LLM

Вибуховий ріст програмного забезпечення на базі LLM створив несподівану проблему: ці застосунки потужні, але за своєю суттю — безособові. Терапевтичний помічник має розуміти ваш емоційний стан і стиль спілкування. Освітній репетитор повинен знати, як ви найкраще навчаєтеся. Покупецький помічник має враховувати ваші вподобання та патерни перегляду. Однак більшість розробників, що створюють ці застосунки, стикаються з фрагментованим ландшафтом без стандартного рішення.

Зараз команди збирають тимчасові системи для збереження даних користувачів — зазвичай прихованих у логах розмов — і витягують їх за потреби. Кожна організація фактично починає з нуля, створюючи власну інфраструктуру управління станом користувача. В результаті — марна інженерна праця по всій галузі, коли безліч команд винаходять колесо знову і знову. Ще гірше, навіть коли розробники використовують складні методи, такі як векторні бази даних і генерація з доповненням пошуку (RAG), вони можуть лише відтворювати минулі розмови. Вони не здатні справді захопити глибші характеристики користувача: уподобання у спілкуванні, патерни навчання, емоційні тригери або нюанси особистості.

Терапевтичні застосунки, освітні помічники, платформи для читання та інструменти електронної комерції вже чекають у закритій бета-черзі Honcho — сотні застосунків у різних сценаріях, усі стикаються з однією й тією ж проблемою.

Чому підхід Honcho на основі когнітивної науки змінює гру

Саме тут Honcho виступає як поворотний момент. Платформа працює як готове рішення, яке розробники можуть інтегрувати безпосередньо у свої застосунки LLM без створення з нуля інфраструктури моделювання користувача. Після підключення розробники отримують доступ до багатих, стійких профілів користувачів, що захоплюють набагато більше нюансів, ніж традиційні методи.

Ключова різниця полягає у фундаменті платформи: вона базується на передових техніках, запозичених із когнітивної науки. Замість просто зберігати історію розмов або вбудовувати взаємодії користувачів у векторні бази даних, Honcho створює глибші моделі того, хто насправді є користувачі. Ці профілі можна запитувати природною мовою, що дозволяє застосункам LLM динамічно коригувати свою поведінку, тон і підхід до спілкування залежно від індивідуальних характеристик користувача.

Інженерна перевага очевидна: Honcho приховує складність управління станом користувача, звільняючи команду розробників від зайвої роботи і дозволяючи зосередитися на основній логіці застосунку, а не на інфраструктурі. Але наслідки виходять далеко за межі однієї застосункової зручності. Багаті, абстрактні профілі користувачів, створені Honcho, відкривають шлях до того, що галузь давно прагне досягти, але з яким бореться: до справжнього інтероперабельного спільного шару даних користувача.

Проблема спільного шару даних: чому попередні спроби зазнали невдачі

Історично спроби створити спільний шар даних користувача зазнавали невдач з двох основних причин.

По-перше, бар’єр інтероперабельності. Традиційні дані користувача зазвичай тісно пов’язані з конкретним застосунком і важко переносити між платформами. Ваше соціальне мережеве оточення на X — визначене тим, кого ви підписані — мало цінності для вашої професійної мережі на LinkedIn. Дані не перетворюються. Honcho захоплює вищий рівень, більш універсальні риси користувача, що працюють у будь-якому застосунку LLM. Наприклад, якщо освітня платформа з’ясує, що ви найкраще навчаєтеся через аналогії, ця ідея стане цінною для вашого терапевтичного помічника, який може використовувати сторітелінг для більш ефективної комунікації. Така характеристика застосовна у зовсім різних сценаріях.

По-друге, проблема холодного старту. Попередні рівні обміну даними не могли набрати обертів, оскільки перші користувачі не бачили негайної вигоди. Щоб залучити перші застосунки — що є необхідним для отримання цінних даних користувачів — потрібно було обіцяти мережу, якої ще не існувало. Honcho обходить цю динаміку «курка і яйце», вирішуючи «проблему першого порядку» для окремих застосунків спочатку. Коли підключається достатньо застосунків, природно виникають ефекти мережі, і «проблема другого порядку» починає вирішуватися сама собою. Нові застосунки, що приєднуються до платформи, не стикаються з холодним стартом; вони отримують багаті профілі користувачів з самого початку і мають доступ до зростаючого рівня інтелекту без необхідності тренувати власні моделі.

Створення інфраструктури: стратегічна дорожня карта Plastic Labs

Стратегія компанії відображає цей поетапний підхід. Спочатку фокус залишається на вирішенні основної задачі управління станом користувача для окремих застосунків. По мірі масштабування і підключення більшої кількості застосунків до Honcho команда поступово впроваджуватиме спільний шар даних для бажаючих долучитися.

Цей спільний шар вводить стимулюючу структуру, засновану на механізмах блокчейна. Застосунки, що отримують ранкові частки власності у шарі, ділять його зростання і цінність мережі. Одночасно, децентралізована архітектура блокчейна забезпечує довіру і прозорість системи, запобігаючи концентрації надмірної влади у централізованих гейткиперах або створенню конкурентних продуктів, що використовують створені дані.

Цей підхід відображає уроки, отримані під час роботи над Bloom — персоналізованим чат-репетитором. Команда Plastic Labs особисто відчула розчарування від створення інтелектуального репетитора без глибокого розуміння стилів навчання і потреб студентів. Honcho виник безпосередньо з цього розуміння — усвідомлення, що кожен розробник застосунків LLM рано чи пізно стикнеться з однією й тією ж фундаментальною обмеженістю.

Що далі: від окремого застосунку до мережевого ефекту

Вже сотні застосунків у сферах реабілітації залежностей, освітнього репетиторства, допомоги у читанні та платформ електронної комерції зареєстровані у черзі Honcho. Кожен з них — різний сценарій і користувацька база, але всі мають спільну потребу: застосунки LLM, що справді розуміють, з ким вони спілкуються.

Variant, як провідний інвестор і компанія, яку представляє головний юрисконсульт Daniel Barabander, що допоміг сформулювати бачення Honcho, визнає досягнення Plastic Labs: команда з підтвердженим досвідом у моделюванні користувача для AI-застосунків, що тепер випускає інфраструктуру, яка може змінити спосіб, яким вся екосистема застосунків LLM підходить до персоналізації.

Проблема персоналізації у застосунках LLM вже перестала бути теоретичною — вона стала центральним вузлом, що обмежує створення справді корисних, контекстуальних AI-досвідів. Honcho представляє перше широко доступне рішення, яке масштабує цю проблему і потенційно відкриває нову еру гіперперсоналізованих застосунків LLM, що справді розуміють своїх користувачів.