Talorys: персональный ИИ-агент на базе Cloudflare без сторонних серверов

Hacker News · оригинал

Материал подготовлен автоматизированной редакционной системой. Факты можно сверить по указанному первоисточнику.

Talorys — это открытый исходный код для развертывания частного ИИ-ассистента непосредственно в личном аккаунте Cloudflare. Система объединяет чат, память, задачи и автоматизации, работая на бесплатном тарифе без передачи данных разработчикам.

Проект предлагает приватную альтернативу облачным ИИ-сервисам, используя инфраструктуру Cloudflare для хранения данных и вычислений. Это позволяет пользователям контролировать свои данные и избегать зависимости от внешних API или платных подписок.

В экосистеме персональных ассистентов появляется Talorys — бесплатное решение с открытым исходным кодом, которое размещается целиком внутри аккаунта пользователя на платформе Cloudflare. В отличие от традиционных SaaS-сервисов, здесь отсутствуют серверы, базы данных или учетные записи, управляемые разработчиками проекта. Архитектура построена вокруг принципа «один человек, один аккаунт», что обеспечивает полную изоляцию данных и отсутствие телеметрии.

Функциональность Talorys охватывает широкий спектр задач: от потокового чата с поддержкой Markdown до управления задачами, заметками и проектами. Ключевым элементом является система долговременной памяти, где пользователь может просматривать, редактировать или удалять сохраненные факты и предпочтения. При каждом обращении к модели отправляются только наиболее релевантные фрагменты этой памяти, что оптимизирует контекст. Кроме того, платформа поддерживает автоматизации: одноразовые и повторяющиеся напоминания, ежедневные дайджесты задач и ИИ-рутины, которые запускаются по расписанию.

Техническая реализация опирается на Durable Objects с использованием SQLite для хранения всех данных, включая диалоги, память и настройки. Инференс моделей выполняется через Workers AI, при этом система спроектирована так, чтобы оставаться работоспособной даже при исчерпании бесплатных квот или недоступности ИИ-сервисов. В таких случаях функции управления задачами и напоминаниями продолжают работать, а чат временно приостанавливается до восстановления доступа. Это делает систему устойчивой к ограничениям бесплатного тарифа Cloudflare.

Безопасность обеспечивается за счет того, что аутентификация происходит на уровне Worker, а не во фронтенде. Пароль владельца хэшируется локально с помощью PBKDF2-SHA256 и хранится только как секрет Cloudflare. Сессии генерируются с использованием 256-битного секрета, а все данные обрабатываются в рамках аккаунта пользователя. Разработчики подчеркивают, что Talorys не использует R2, D1, KV или другие платные сервисы, оставаясь в пределах бесплатного плана Workers.

Установка и настройка сводятся к выполнению одной команды: npx create-talorys@latest. Инсталлятор проверяет наличие Node.js версии 20.18+, авторизует пользователя в Cloudflare и развертывает необходимые компоненты, включая приватный Worker и фронтенд на React. Процесс является идемпотентным: повторное запускание команды не создает дубликатов ресурсов и не удаляет существующие данные. Для разработчиков предусмотрен локальный режим разработки с мок-провайдером ИИ, что позволяет тестировать функциональность без подключения к облаку.

Проект включает встроенные механизмы защиты от злоупотреблений, такие как лимиты на количество токенов, вызовы инструментов и ежедневные запросы к ИИ. Эти параметры настраиваются в интерфейсе, а панель использования показывает локальные оценки расхода ресурсов. Talorys позиционируется как приватный инструмент для тех, кто ценит контроль над своими данными и хочет использовать возможности ИИ без передачи информации третьим лицам, полагаясь исключительно на инфраструктуру Cloudflare.