Модели поехали на телефоне
Четыре миллиарда параметров считаются локально. То, что год назад требовало сервера, сейчас идёт на устройстве — медленно, но достаточно, если считать ночью.
Что это, в каком оно состоянии, на чём стоит и о чём мы хотим поговорить. Пять минут чтения; из каждого раздела есть ссылка вглубь.
Правило этой страницы: ни одного утверждения, которое нельзя показать на живом телефоне.
Линкеон заменяет домашний экран и становится местом, куда человек приходит за своим днём. Календарь, входящие, заметки, разговор голосом или текстом — в одном месте, в виде обычных виджетов.
Отличие не в виджетах. Отличие в том, что профиль человека живёт на его устройстве: телефон постепенно понимает, что для тебя важно, и помогает исходя из этого — а не из того, что о тебе собрал чужой сервер.
Сегодня это работает на реальных телефонах каждый день. Не демо и не макет.
✦Все кадры на этой странице сняты на тестовом устройстве с полностью синтетическими данными: ничьей личной переписки и ничьих настоящих встреч здесь нет.
Глубже: как устроено→Четыре миллиарда параметров считаются локально. То, что год назад требовало сервера, сейчас идёт на устройстве — медленно, но достаточно, если считать ночью.
Это единственная массовая платформа, где сторонний ассистент может стать поверхностью по умолчанию, а не ещё одной иконкой.
Люди готовы отдавать личное, но хотят знать, куда оно уходит. Сейчас ответ почти всегда — «на чужой сервер, навсегда».
Окно есть, но оно не вечное: когда то же самое сделают производители телефонов, место будет занято.
Домашний экран с виджетами: «Календарь» — твой день единой лентой, «Входящие» — SMS и уведомления с личным фильтром, «Заметки», «Профиль».
Разговор — текстом или голосом, прямо с домашнего экрана.
Свой локскрин с короткой сводкой дня.
Календарь из разных источников в одной ленте: рабочий Outlook, личный Яндекс, TalerID — включая описание встречи и ссылку на созвон, не уходя в их приложения.
Личный фильтр входящих учится на твоих пометках прямо на устройстве: что «важное», а что «прочее» — решаешь ты, а не чужая эвристика.
Русский и английский интерфейс.
Профиль — страница «Что Линкеон о тебе понял»: выводы с оценкой уверенности, источником и возможностью поправить.
Извлечением смысла занимается модель на 4B параметров прямо на телефоне, векторизацией — отдельная небольшая модель, утренней формулировкой — третья. Облако для этого не нужно.
Плата за это — время и энергия, поэтому работа идёт не тогда, когда захочется системе, а когда телефон может себе это позволить: на зарядке либо в простое при достаточном заряде и свободной памяти. Есть бюджет на один прогон и потолок по времени, чтобы телефон не грелся полчаса и не съедал батарею.
Днём телефон только записывает сырьё: твои слова, события календаря, то, что ты сам пометил. Осмысление отложено на ночь и идёт этапами:
Это не метафора ради красоты: так устроен код, и каждый этап виден в журнале прогона. Смысл тот же, что у сна: отделить важное от шума не в момент события, а позже и на свежую голову.
Он накапливается месяцами у конкретного человека на конкретном устройстве. Это одновременно ценность для пользователя и издержки переключения.
Туда смотрят десятки раз в день. Любой «ещё один апп» проигрывает этому месту по вниманию.
Мы строим так, чтобы не иметь технической возможности навредить: нет профиля на сервере — нечего утечь и нечем торговать. Это воспроизводимо только тем, кто готов отказаться от монетизации данными.
Ассистент, который знает про человека много, обязан вести себя как взрослый, а не как любопытный продавец. Мы зафиксировали это принципами.
Для продукта, который живёт на домашнем экране, это не этическая добавка, а условие, при котором им вообще продолжат пользоваться.
Глубже: этика как архитектура→Пользователи: пока это мы сами и несколько тестировщиков. Мы намеренно не гнались за установками, пока продукт не стал пригоден для ежедневной жизни. Сейчас он стал.
Обычный Android-телефон, установка в несколько тапов, без компьютера и прошивок.
Pixel (Android 17), Vivo (OriginOS 6), Samsung (Android 12). Каждый новый вендор — отдельная проверка.
Интерфейс — обычные виджеты, голос и текст. Локальная модель ставится отдельным шагом и только по желанию.
21 год в ИТ, последние годы — технический директор и CIO. Финтех и медтех: доступность 99,99%, еженедельные релизы, команды разработки, QA, SRE и поддержки, перевод инфраструктуры на Kubernetes, внедрение ИИ-автоматизации в процессы компании. Инженерное образование — УГАТУ, факультет информатики и робототехники. Второе высшее — психология, семейный психолог (БГПУ им. Акмуллы, 2020).
22 года создаёт продукты и среды; продуктовый дизайн и интеграции LLM, веб и мобильная разработка, запуск и масштабирование. 4 продукта с нуля, выход с оценкой $1,2 млн, два собственных блокчейна, опыт в регулируемом финтехе. Сертифицированный ICF-коуч. Его принцип — «бизнес должен делать жизнь лучше», честность важнее красивых цифр в отчётах.
dmitryvolkov.ru →Продукт держится на двух вещах сразу: он должен быть инженерно нетривиальным — модель на телефоне, энергия, надёжность — и психологически зрелым: он знает о человеке личное и обязан обращаться с этим как взрослый.
Обычно вторую часть в технологических командах закрывают наймом консультанта. У нас она встроена: у обоих основателей профильная подготовка по работе с людьми — семейный психолог с дипломом и сертифицированный ICF-коуч, оба при этом двадцать с лишним лет строят продукты. Поэтому принципы на странице «Этика» — не копирайтинг, а то, чему нас учили.
Позиционирование, формулировки, каналы: мы инженерно сильны и маркетингово наивны. Один честный разбор сэкономит нам месяцы.
Как зарабатывать продукту, который принципиально не продаёт данные и живёт на устройстве пользователя.
Если после первых двух разговоров возникнет интерес — обсудим форму участия.
Нам сейчас нужнее не деньги любой ценой, а человек, который скажет, где мы себя недопродаём и где обманываем себя.