Seen on X
Demos, games, ports and benchmarks posted on X, picked by hand. Each one links back to the original post and, where there is one, to the project in the directory.
You can now run Laya with QVAC, an open source decision model from ConvAI Innovations. Laya answers your questions about a piece of text. In this first video, you can see it play a runner game: for each object coming its way, it decides whether to grab it or jump over it, based on a rule you pick, such as "This is an animal."
Laya 上有 9 个 AI demo，邮件分类、聊天过滤、贪吃蛇决策，全跑在真机上，打开就能用，每个决策 0.2 到 1 秒。System One 模型在手机网络上跑推理，毫秒级响应，整个过程在一部真实手机的 TEE 里完成。 AI 代理需要在可验证的环境里执行代码，私钥和数据不能暴露给第三方。手机 TEE 把计算锁在芯片里，外部看不到过程，结果上链可查。这个需求从代理本身的设计里来，中心化云做不了这个隔离。 @Acurast 和 Teneo 在 Base 链上把这件事跑通了。AI 代理收到链上任务，用 x402 标准支付 USDC，计算任务发到 Acurast 的手机网络，在手机 TEE 里跑完，结果回链上，同一笔交易里完成支付和执行。 Roundhouse 目录里能查到 Acurast Deploy Agent 的结算记录，0.079 USDC 一次部署，链上已经有 106 笔带 EIP-3009 标记的结算。数字不大，但每笔都走 Base 链上，没有中间账户也没有充值，开发者付费用 ACU 部署任务，这部分直接进销毁。 网络现在的量，337,000 部手机接入，69.5 万次计算部署，6.27 亿笔链上交易。Acurast 已经在比特币、以太坊等 10 多条链上帮代理和应用管理过加密资产。 代币经济这块，年增发 5000 万枚，70% 进质押算力池，10% 基准奖励，15% 国库，5% 出块者。关键是质押池只发给真正交付算力的设备，手机在承诺的时间窗里跑了活才分得到，跑不够就按缺口罚，罚没的 90% 直接销毁。每笔结算再销毁 30%，算力费以 gas 形式烧掉，付费用户越多销毁量越大。 Cray 手机集群和 Bazaar 市场还在路上，上线之后算力需求这一侧会有新的增长空间。部署数在涨，付费结算也在发生，这两个数在动。 付费结算这条线能不能持续增长？DePIN 项目最怕的就是设备堆起来了，需求侧却一直不来，最后变成单纯的挖矿游戏。Acurast 现在至少证明了一件事，链路是通的，有人在为这些算力付真金白银。106 笔不多，但方向对了，剩下的就看生态能不能把 Laya 之外的更多场景跑起来。 #Acurast #ACU #DePIN
Agents shouldn’t need a prompt to know what to do next, and coding agents shouldn’t lose their work when a host goes down. In October, we shipped 13 releases and made huge strides on both fronts. Our community was busy too, with 35 contributors merging 41 PRs throughout the month. There’s a lot to cover, so here are the highlights: CompanyOS gives agents ownership of the work that never makes the roadmap. Define your Products and the Sources their agents should consult, and routines propose Projects and Tasks. Once your team approves the work, agents carry it out and bring finished Tasks back for review. CodexAgent joins ClaudeAgent in Agno, so Codex and Claude Code both run with sessions and the AgentOS API. Over the month, they also picked up background runs, typed output, approvals, and support for teams and workflows. Sandboxes give each Claude Code or Codex session its own computer. Agno checkpoints the workspace and conversation files after every turn, so if the container dies, you lose nothing past the last completed turn. Any replica can then pick up the session. Compaction keeps long sessions inside the context window. When a provider rejects a request as too long, Agno summarizes the older turns with the agent’s own model and retries. Agents also got a durable filesystem in their own database, so they can write down a decision and find it again in a later session. And AgentOS can now manage users and roles in your database too. The community was busy too. A few projects we loved: •Millie OS by @chaseschwalbach at Millie: 20+ Agno agents draft patient replies and review items at a healthcare clinic, while a rating agent flags weak conversations and drafts prompt fixes for the tech team. •PitwallIQ by Muhammad Ikhwananda Rizaldi: an F1 strategy dashboard that pairs FastF1 telemetry with an Agno multi-agent engine to evaluate undercut windows and tyre cliff warnings. •Vinay Chaudhari built a Laya router for Agno teams that replaces the LLM call behind each routing decision with a single forward pass through Laya’s decision model. Vinay’s numbers put it at under 35 ms with no LLM tokens. October MVPs: Ilya Bogin for KeenableTools (@KeenableAI), @iuditg for the 60db voice tools, @neutr0n420 at Anakin (YC S21) for AnakinTools, @devYRPauli for three fixes across YouTube and Mongo tools, and John Cole (@siliconimist) for the ApifyTools upgrade to apify-client 3.x. Thank you for helping make Agno better. And thanks to everyone who built with us this month. Full roundup and contributor list in the comments.
¿Cómo es Laya tan rápido? > Usa un modelo pequeño y especializado de 322M–421M parámetros > Haz preguntas de opción múltiple en lugar de prompts abiertos > Proporciona todas las respuestas posibles de antemano > Puntúa todas las opciones simultáneamente > Toma la decisión en un solo pase hacia adelante > Genera cero tokens de salida > Omite la decodificación autoregresiva token por token > Evita generar y analizar JSON > Usa FP16 para reducir memoria y cómputo > Ejecuta directamente en la GPU de Apple a través de MLX > Agrupa múltiples preguntas para un mejor rendimiento
AI 算力不止那几家云厂 😂 @Acurast Crypto AI 讲的是另一条路： 用智能手机拉一张去中心化算力网，跑更隐私、可验证的 workload——开发者把任务丢上去，由网络里的手机 Processor 执行，而不是再开一台 AWS。跟挂机刷分、Cloud Rebellion 攒 MIST 不是一回事。 网络侧他们自己报 32万+ 手机在线。Laya 那几条 demo（邮件分类、左滑匹配）也强调单机跑、不进数据中心。故事听多了容易麻木，但这篇把「Crypto AI」和「手机算力」怎么接上，写得比纯口号清楚一点。 代币别混： $ACU 是网络里的激励和 stake，stake 还绑着算力承诺，epoch 交不足会 slash。这跟「AI 概念币」叙事不是一套，更像在问有没有人真的在买、在用这张网的算力。 我不会因为文章写得顺就上强度。更想看真实部署能不能持续、失败怎么重试、长期账单什么样、开发者愿不愿意把正式任务放上来。有人晒长期运行记录和费用，我会更有感觉。 手机端 Lite / Core 还在；对盯 AI 工具的人，这篇更适合当背景——先搞清他们在卖什么算力，再决定深不深入。
AI算力越来越贵，手机却闲着，Acurast想把这两件事接上。训练和推理大模型需要大量算力，但不是所有AI任务都得跑在数据中心的高端GPU上。内容审核、垃圾邮件识别、简单决策、轻量推理、定时任务、API 处理，很多时候只需要稳定、可验证、成本可控的算力。与此同时，全球有几十亿部手机，其中大量设备大部分时间处于低负载甚至闲置状态。这些手机自带硬件级安全能力（Trusted Execution Environment，TEE），能在隔离环境中执行代码，既保证完整性，又能让设备持有者看不到输入数据。 @Acurast 想做的就是把这些现成的手机组织成一个去中心化计算网络。开发者把任务部署上去，手机负责执行，网络负责匹配、调度和结算。任务在手机的TEE里跑，执行结果可验证，输入对设备主人保密。不需要新建机房，也不依赖传统云厂商。 技术上，它支持无服务器风格的工作负载：REST API、Webhook、定时任务、机密计算，以及 LLM 推理。Cargo让开发者可以用容器方式打包部署，类似在服务器上跑 Linux 二进制文件。对于模型，它支持 GGUF 格式，通过集成的 llama 服务提供接近 OpenAI 兼容的接口。日常手机可以装 Processor Lite，在充电或空闲时贡献算力；闲置手机则可以用 Processor Core 变成专职节点。网络是 Polkadot 平行链（主网），同时支持在Base等链上用 USDC 支付算力费用。 根据官方近期公开数据，网络已接入超过 33.5 万部手机，覆盖 175 个以上国家和地区，链上交易超过 11 亿笔，累计部署超过 68.5 万次。这些数字来自主网运行后的真实网络，而非纯测试网阶段。 实际任务也在跑： 今年9月底，Acurast 把开源的 System One决策模型 Laya 部署到手机网络上。Laya 不擅长长文本生成，而是做结构化判断：邮件是收件箱还是垃圾/钓鱼、聊天内容是否违规、提示词注入是否要拦截、简单游戏下一步怎么走。它在普通手机 CPU 上运行，典型单次决策大约 0.2 到 1 秒。官方演示页面会显示是哪台真实手机在处理，并提供链上验证入口。 开发者可以用 Cargo 模板快速部署自己的实例，示例成本低到每天不到 1 枚 ACU。这不是概念演示，而是可以直接体验和验证的运行实例。 $ACU是网络的原生代币。初始供应10 亿枚，固定年通胀 5%，其中大部分流向社区相关用途（官方口径接近 70%）。它的用途比较清晰：开发者用它支付部署费用，网络交易需要它作为 gas，算力提供者通过质押它来承诺容量（达不到会按比例罚没，大部分罚没代币销毁），同时获得奖励。持有者还能参与治理。提供者可以直接用手机赚取。ACU代币也刚刚上线韩国所buthumb的韩元交易对。 在AI × DePIN这条赛道里，Acurast定位还是比较清晰的x大多数 DePIN 项目要么需要专门硬件，要么只做资源协调而缺乏执行验证；传统云则集中在少数厂商手里，成本和数据主权都受约束。 Acurast 用已经存在的手机硬件 + TEE，把“可验证的机密计算”做到了边缘。它目前更适合中轻量、需要低延迟判断或隐私的任务，而不是最大规模的模型训练。路线图里的 Cray（计算集群）就是为了把多台手机协同起来跑更大模型，缓解单机能力上限，也是端侧AI的一种探索和尝试。 进展已经从测试网跨到主网，手机规模、交易量和实际部署都在累积。后续看点在于： 更多真实付费任务能否持续进来、Cargo 和集群能力能否把可支持的工作负载再拓宽一层、以及 $ACU 作为结算和质押资产能否跟上网络使用量。 对这个方向感兴趣的人，可以直接去官网看实际运行情况。
🔥 本地 4GB 内存跑决策模型！Unsloth 正式支持 Laya Decision Models 还在为端侧结构化决策任务调用高成本的云端 API 发愁？Unsloth 带来了全新更新：现在仅需 4GB RAM，就能在个人设备本地部署并运行 Laya 决策模型。 作为开源的 Jev 替代方案，Laya 专注于将非结构化文本快速转化为系统与应用可直接执行的结构化决策（Structured Decisions）。它非常适合用于工单自动化路由、邮件标签分类、发票解析、安全事件审计以及 AI Agent 决策追踪等核心业务链路。 📌 核心特性与亮点： 极低硬件占用： Multilingual（默认多语言版）：权重仅 678 MB，最低 4GB RAM 即可运行，覆盖 100+ 种语言与 1024 token 上下文； English / Typed decisions 版：体积 846 MB，最低 5GB RAM，专为高精度结构化分类及发票/Agent 审计任务优化。 全平台与全硬件支持：覆盖 Mac、Windows、Linux、CPU 与各类 GPU 环境。默认直接跑在 CPU 上，开启 GPU 加速后推理更敏捷；若 GPU 显存不足，系统会自动智能回退（Fallback）至 CPU，保证服务持续稳定。 极简部署与 API 兼容：在 Unsloth Desktop 中进入 Settings → API → Decision API 开启服务，即可自动下载模型并在本地暴露 TypeSafe 与 Jev 兼容的 API。现有对接 Jev 的项目无需大改代码，直接将服务地址切为本地即可平替，所有数据 100% 留存在本地设备。 对追求端侧隐私、零网络延迟与零 API 账单的开发者来说，这是将轻量决策逻辑下沉到端侧的极佳方案。 🔗 项目与文档地址： Laya 完整部署与配置指南
一部手机玩俄罗斯方块，Acurast 展示的其实不是游戏 最近很多 AI 项目都在比参数、GPU 数量和模型规模， @Acurast Acurast 放出的这个演示却有点反着来：让一部 Android 手机决定俄罗斯方块的下一块应该放在哪里。 乍一看，这像是一个挺轻松的小游戏。但我觉得它有意思，并不是因为“AI 会玩俄罗斯方块”。这件事早就不新鲜了，真正值得看的，是它把 AI 任务拆成了另一种形式。 游戏会先根据当前棋盘，生成 5 个可以选择的落点，并说明每种选择可能带来的结果，例如能不能消除一行、会不会留下空隙。然后，这些信息通过一次 HTTP 请求发送给 Acurast 网络中的手机，由运行在手机 CPU 上的 Laya 模型选出一个方案，再把结果返回给游戏。 整个过程可以概括成一句话：软件负责生成选项，AI 负责做决定，手机负责完成计算。 Laya 也不是我们常见的聊天大模型。它属于 System One 决策模型，不负责写长文，也不需要进行复杂推理，而是在几个已经给出的选项中快速选择，并返回每个选项对应的概率。 根据 Acurast 公布的数据，这类短决策在手机 CPU 上通常需要大约 0.2—1 秒。除了俄罗斯方块，官方还做了 Snake、Doom、邮件分类、聊天审核和提示词注入检测等 9 个演示。每次回答都来自网络中的真实手机，页面还会显示设备所在国家、芯片型号和已经处理的决策次数，并提供链上记录供用户查看。 我觉得这个方向比“让手机硬扛一个超大模型”实际得多。 现实里的 AI 任务，并不全都需要生成几千字内容。钱包判断一笔授权是否符合用户规则、交易聚合器在几条路径中选择成本更低的一条、链上智能体决定下一步执行哪个操作，这些任务往往都有明确的候选项。 软件可以先计算出所有合法方案，小模型再根据用户设定的规则进行选择，最终结果继续经过独立检查。这样一来，AI 不必完成所有计算，也不能随意执行候选范围之外的操作。 当然，这类模型远远谈不上万能。 Acurast 的邮件分类测试中，Laya 判断正确了160封邮件中的144封，准确率约为90%。新闻分类演示可以判断一个标题像不像标题党，却无法判断内容是否真实；聊天速度太快时，审核队列也会逐渐变长。模型给出的概率同样不能直接当成可靠的“信心值”。 所以更合适的定位，可能是一个速度快、成本低的第一层过滤器，而不是替人作出最终决定。 官方目前给出的参考成本是，运行一套自己的 Laya 实例每天不到 1枚$ACU，实际费用和可用性仍会受到配置及网络状况影响。这个数字本身未必最重要，更值得注意的是，$ACU 在这里对应的不是一句抽象叙事，而是一次可以被调用、计费和验证的真实计算服务。 AI 的下一阶段未必只是训练越来越大的模型。大量真正进入产品的需求，可能只是一次分类、一次筛选或者一次很小的决定。 如果这些不起眼却高频的任务，能够交给分布在世界各地的手机处理，那么 Acurast 想提供的就不只是“便宜算力”，而是一套适合轻量 AI 决策的分布式执行环境。 如果一部闲置手机可以替你处理一种小型 AI 任务，你最希望它先做什么？ 本文仅为个人对项目技术和应用场景的观察，不构成任何投资建议。
Gm family saw something fun from @Acurast recently their laya AI model playing tetris making decisions one piece at a time on a phone It’s a simple demo, but it shows a different way to think about AI compute: not everything has to run in a giant data center that’s the kind of use case that makes decentralized compute interesting $ACU supports the network through compute rewards staking and governance
مدل laya رو فارسی بنچمارک کردم، نسخهی انگلیسیش از ۶۴ پیام، ۵۳ تاشو «لغو اشتراک» فهمید! حتی تشکر و پیشنهاد رو ! نسخهی چندزبانهش بهتر بود ولی بازم فقط ۳۶ تا رو درست زد ! برای فارسی laya حتما فاین تیون لازم داره . همهی نتایج 👇 #laya #بنچمارک
Project: laya-persian-benchmark→
1) is an awesome showcase of on-device capabilities. 2) lets you experiment with new APIs and other models. 3) gives you access a JEV-like "Classifier API" that the awesome @etiennenoel has been diving into. Also TIL Laya.
How well can a zero-shot decision model handle content safety? @Cisco put Jev and Laya head-to-head with a policy-trained classifier across 24 harm categories and 6 datasets. The takeaway: policy-specific training still wins, and Jev came surprisingly close to a 31B-parameter LLM judge on zero-short safety classification tasks. See what we learned:
Pi 1.1.0 发布，这次模型、工具和终端体验都补了一波🔥 比较值得关注的几个点，我把它整理出来了。这版不只是接新模型，也在继续把工具控制和使用中的小问题磨细。 1、Claude Haiku 5.5 也支持了 现在可以用 `anthropic/claude-haiku-5-5`，支持 Adaptive Thinking，思考强度最高到 xhigh / max。 这次 Bedrock 上的 Prompt Cache 也一起支持了。用 Haiku 或者通过 Bedrock 接模型的，可以关注一下。 2、默认 Tools 可以直接加减，不用重新列一遍 比如： `pi -t +codemode,-write` 意思是在默认工具的基础上，加上 Codemode，再去掉 write。 不是重新替换整套 Tool List，而是只改你需要调整的那几个。临时想换一下工具组合，这种写法会更方便。 3、Classifier 开始能接图片了 GPT-6 Luna 现在可以通过 OpenAI Decisions API 当分类模型使用，Codemode 的 `models.classify()` 也支持传入图片，前提是选的 Classifier 本身支持图片。 这里要区分一下：它不是负责整段聊天的主模型，而是拿来做分类、判断，再交给后面的流程处理。 另外，llama.cpp 0.6.0 及以上版本提供的 Julia-1、Laya、Kev 等决策模型，也可以通过 `/v1/systemone` 原生接进来了。 4、终端和面板可以知道 Pi 现在在干什么 这次加入了 OSC 7501 状态报告。支持这个协议的终端或者 Agent Dashboard，可以区分 Pi 正在工作、等你处理弹窗或登录、已经完成，还是失败了。 这个对同时开几个任务会更有用，不用只盯着一段输出猜它是还在跑，还是已经卡在等你操作。 另外，`/mcp` 不用再等全部服务器连接好才打开；`pi update` 会只保留新版本和上一个版本，不再一直堆旧安装。MCP 登录取消、图片处理、模型重试和费用统计也修了一批问题。 我觉得这版更像是在把 Pi 1.0 后的实际使用体验继续补齐，工具怎么选、任务现在什么状态、分类模型怎么接，这些细节比单纯多一个模型名字更值得看。
TandemLLM has a smart system for orchestrating tasks. The conductor isn't one model. It's a few small ones sitting around the main model, each with one job. Right now on my Spark: Main: Qwen3.8-flash-next. Answers everything. Narrator: Qwen3.5-2B. Writes the short status lines while the main model works. Always loaded. Laya: three tiny decision models. They tell the conductor what kind of request it is, how much thinking it needs, and which skill to pull. English stays loaded; multilingual and typed-decisions load the first time you need them. Wren: Qwen3.5-2B. The setup page assistant. Only loads when you're on that page. The main model can be anything. The rest just keep it in check.
最近在跟进 @Acurast，Laya 上新任务了✨ 体验手机AI演示、发推分享，提交推文链接就能拿 5000 MIST 积分。 之前聊分布式手机算力总觉得很抽象，这次直接可视化：AI 玩贪吃蛇、俄罗斯方块、Doom，直观看到模型怎么做出下一步决策。 不喜欢游戏Demo的，还有聊天审核、提示词越狱防御的演示。 负责推理判断的模型，就跑在 Acurast 网络里的手机节点上。 很看好这类落地演示：普通用户点开就能看懂，开发者也能评估集成可行性，远比单纯堆算力参数好理解。 参与步骤： 1️⃣ 访问 Laya，任选演示体验，无需注册 🔗 2️⃣ 发推分享体验，去 Cloud Rebellion 面板提交推文链接 🔗 ⚠️ 重要提醒：5000 是 MIST 积分，和 $ACU 相互独立，细则以任务页面为准。 能亲眼看到产品跑起来的活动，值得跟进，有空可以顺手参与～ @EchoHunt_ai
小小手机真的被玩出花了 看到 @Acurast 放的 Laya demo，AI 在手机上自己玩 Doom，真的感慨手机还能这样玩 除去热闹的部分不多说，今天我更想聊另外一件事：去中心化算力这几年一直没跑通，可能是一开始就找错了活儿 过去 DePIN 算力的路数，基本是拿分散的机器去抢数据中心的生意，训练、大模型推理都想做。问题在于，这些活儿真正的瓶颈不是单卡算力，而是机器之间的通信。几千张卡要高速互联、同步状态，分散在全球各地的机器天生做不到。所以供给侧堆得很好看，需求侧一直起不来，最后靠补贴撑着 Laya 的思路正好反过来： 不让手机去适应 AI，而是去找天生适合手机的 AI 任务 它是个“System 1”模型，不生成文字，给几个选项一次性选完。800MB 左右，CPU 就能跑。最关键的是每个请求完全独立，不用跟别的机器同步，也不用记住上一次的状态 这种任务对分布式网络来说是最理想的形态。机器之间不用通信，多一台手机就多一份产能，哪台掉线了换一台就行。数据中心在这类任务上的优势反而不明显，你不需要 H100 去判断一封邮件是不是钓鱼 再看需求端 Agent 越来越多以后，真正爆炸的不是“写一篇文章”这种重任务，而是海量的小判断：这条消息要不要处理，这个地址可不可疑，这笔操作该不该放行。每个判断价值很低、频率极高，拿生成式大模型来做，等于按 token 付钱买一个“是”或“否”，账算不过来 所以我觉得 Laya 真正验证的是： 边缘设备可以承接 Agent 经济里最底层、量最大的那层决策，大模型在云上做规划，几十万台手机做反射 还有一点和链上更相关，决策跑在陌生人的手机上，凭什么信？Acurast 的手机任务跑在 TEE 里，结果可以证明确实是这个模型在这台设备上算出来的。对链上 Agent、风控、内容审核这类场景，“可验证的判断”可能比“更聪明的判断”更值钱 当然也得冷静看，官方自己也说，选项一多准确率就下降，也能被刻意构造的文本骗，现在只适合做第一道过滤。另外，30 多万台手机、10 亿笔链上交易是供给侧的数字，真正要看的是之后有多少外部开发者愿意为这种调用付钱 但至少方向是对的，手机 DePIN 讲了这么多年，这是我第一次看到一个不靠补贴、从任务形态上就说得通的用法 感兴趣铁子，可以自己去体验下：
1/ 有人让 Jev 和 Laya 在 Chrome 恐龙游戏里正面对决，而且它们真的在自己控制恐龙。 Laya 在 Mac 本地运行，Jev 通过 API 运行。 相同赛道、相同物理规则，延迟却完全不同。它们会自主判断、躲避障碍、使用护盾，并努力存活更久。👇
Unsloth 让开源决策模型 Laya 在本地部署，最低仅需 4GB 内存，全面支持 CPU、Mac、Windows、Linux 及 GPU 环境，Jev API 无缝替换 @UnslothAI 文档地址 部署与性能特征 1. Multilingual（默认）- 678 MB 体积、4 GB 内存，100+ 语言，1024 token 上下文 2. English - 846 MB 体积、5 GB 内存，更大的 encoder，512 token 上下文 3. Typed Decisions - 846 MB 体积、5 GB 内存，针对发票、安全事件、客服、agent 轨迹优化 性能表现很适合生产环境：首次请求加载模型需 10–20 秒，之后 CPU 上亚秒级响应；GPU 是可选加速，且显存不足时自动回落到 CPU 继续服务。安装走 Unsloth Desktop 或一键脚本，在 Settings → API → Decision API 里开启即可。 文档中最重要的工程建议 用 probabilities 做决策阈值，不要用 confidence。 例如规则应写成“当 technical 概率 > 0.8 时触发”，而不是“confidence > 某值”。这条建议出现两次，并且直接关联 Jev 迁移的头号坑：Laya 的 confidence 计算公式与 Jev 不同，在 Jev 上调好的 confidence 阈值不能直接搬过来。 其他硬性限制：单请求最多 64 个问题、每个 choice 最多 255 个选项、每个 score 最多 10 档；choice 的各选项共享固定 token 预算，带描述的选项超过约 20 个后标签会被截断，实际使用中选项数量要控制在这个范围内。 从 Jev 迁移 只需装 typesafe-sdk 并把 TYPESAFE_BASE_URL 指向 默认的 jev-latest 会映射到你在设置里选的模型。除上述 confidence 公式差异外，唯一另一处行为差异就是 choice 选项的 token 预算截断。迁移成本设计得很低。
Self-host Laya here, and ask your agent to finally clean up your mailbox for you:
Happy to report that on Sunday, our project Care-Bridge won the MLH Hacktoberfest's Hack Day Bengaluru hackathon with 'Best Use of Gemma 4' award! 🥳🎉 ✨ Care-Bridge is a shared care memory and coordination layer for an older adult’s whole care circle on Telegram. It’s a chatbot + a mini-app that runs entirely within telegram. - Care-Bridge keeps one approved care plan on Telegram. Each caregiver gets short spaced-repetition briefs on the facts they are about to forget, and a coverage view shows who would actually remember each warning sign. - A daily checklist shows what has been done and by whom. - The older adult can ask questions in a normal chat, and if they ask for help, the whole circle is alerted. - Caregivers can ask what a condition means for daily care or what to do in an emergency. - It reads PDF reports and prescriptions, and spots a changed dose, reads a photo of a blood test, and matches the older adult's messages to their care plan. - Built on a local Gemma 4 model for inference, Laya for fast decisions, and run by Hermes agent with some open source py and js libraries. Thanks to MLH and the Hack Day Bengaluru organisers @adityaoberai @ananditawagh @avneer_bh The project is open source, github codebase link below.
Horizon vs Vigil. Our new Vigil safety model is already showing a serious performance gap: - 207ms vs 747ms latency - 3.6× faster - +30 pts catch on unseen text - 17% smaller - Calibrated per-category thresholds - Built for on-device inference Vigil is based on Laya, an open-source JEV alternative. This is getting interesting.
【ComfyUIの分岐ロジックをCPUだけで高速化！Laya 421M System-1決定モデル】 👉 ComfyUIのワークフロー構築において、不要な計算リソースを完全に排除できる熱い仕組みが登場しましたね！✨ 421Mパラメータの「Laya」というSystem-1決定モデルを使うと、なんとテキスト生成をせずに約15msという超高速で「calibrated probabilities（較正された確率）」を出力してくれるそうです！ しかも、CPU単体での実行かつVRAMの消費がゼロなのが凄すぎます！💻 GPUがサンプリング処理で忙しい裏側でLayaが分岐判定を行ってくれるため、すでにモデルをフルにロードしているマシンでも追加コストなしで導入できるとのこと！ さらに、分岐決定と同時に下流のキャッシュをリセットする「cache busting」ロジックも組み込まれているので、ワークフローの安定性もしっかり担保されています。これは生成AIの効率化が一段と加速しそうですね！🚀 #ComfyUI #生成AI
🔱 OPUS 5.5 has just outperformed GPT-6 ASTRA and other models by solving a Rubik’s Cube in just a few moves. None of the other three models even managed to complete the task All four ran under the same limits, twenty moves or five minutes, whichever came first. ▪ Opus 5.5 solved it clean in three moves and 1:12.87, no wasted turns ▪ GPT-6 Sol made a wrong move right away and burned all five minutes on four total moves without solving it ▪ Jev and Laya both hit the twenty move ceiling and never got close This is not a close result. One model treated the cube like a puzzle it had already solved before it even touched it. Is this just clean path planning, or is Opus 5.5 operating a level above everything else it was tested against here?
Introducing a version 50 times faster than Jev, running on your device: laya-mlx! Occupies a maximum of 1G memory only on your device Laya is an open-source classification system similar to Jev, based on text output probabilities I ported it to MLX and made some performance optimizations! In the video, this model is playing Snake on my local M3 Max This model can play Snake at a decision speed of 60 times per second!
Jev Founder, Diogo Almeida, just released a 12-page PDF absolutely insane stack More useful than most paid agent courses: this is a 10-step blueprint on how to build a faster, cheaper and more controllable agent stack around ChatGPT Agent, Cursor, Devin (or any other agent): step 1 → separate the five jobs: state, local decisions, escalated decisions, generation/execution, and policy one model doing all five is untestable step 2 → build the state first: goal, evidence, risk, eligible executors, budget, approval status not the raw conversation step 3 → pick the right primitive: Choice routes among options, Score rates an ordered rubric, Noul returns the probability a claim is true step 4 → put Laya before everything: cheap, local, batched typed decisions handle routing, shortlisting and risk pre-scoring before any agent is paid for step 5 → escalate to Jev only when it's uncertain, novel, high-cardinality or high-consequence not on every branch step 6 → give each executor a bounded contract: ChatGPT Agent owns browser/apps, Cursor owns supervised repo edits, Devin owns unsupervised build-and-fix step 7 → route by environment and eligibility, never by brand loyalty "Devin for everything hard" is not a routing policy step 8 → gate the effect, not the tool name: allow/ask/deny by destination, reversibility and blast radius, whatever agent is asking step 9 → run shadow mode before autonomy: compare proposed routes to the real outcome, oversample disagreements and low-confidence cases step 10 → record the full decision receipt every time: provider, contract, distribution, confidence, route, outcome so every call can be replayed most agent tutorials teach you how to write a better prompt Open 12-page guide and build the stack
i trained my own 0.8B decision model using @UnslothAI. Qwen3.5-0.8B AA Decision! it beats Laya!. answers structured questions via /v1/systemone. no text generation. no prompt parsing. just the answer + probability. fine tuned from Qwen3.5-0.8B on typed-decisions dataset. Qwen3.5-0.8B AA Decision vs Laya (Q8_0): - ARC-Challenge 55.0 vs 31.1 ✅ - ARC-Easy 73.0 vs 47.9 ✅ - BANKING77 51.6 vs 33.0 ✅ - WinoGrande 51.1 vs 52.1 ❌ - ANLI 33.1 vs 65.4 ❌ 3/5 wins, while running Q4_K_M against their Q8_0. holdout decision accuracy: 80.4% (ECE 0.011) Index benchmark table in the comments. runs on a single rtx 4060: 67.7ms (vs 61 ms for laya) per decision, fits in 4GB. It's not good at playing flappy birds (yet). The 4b model i trained earlier plays flappy birds pretty well but still working on improving the 0.8b model and training new 2b and 4b models. lets see if i can beat cloudflare's clef flash and kev 4b with a 2-4b model. Download from huggingface now! Works with mainline llama.cpp. open source, apache-2.0: llama.cpp flags: -m Qwen3.5-0.8B-AA-Decision_Q4_K_M.gguf -ngl 99 -c 2048 -b 1024 -ub 1024 --port 8080
谁能想到，现在就连玩俄罗斯方块，都能窥见AI新玩法。 @Acurast 最新演示：从AI玩俄罗斯方块，再到驱动加密Agent，正在把越来越多的任务放到手机端运行。 AI不只是代打游戏，它在真实安卓设备上自主做决策。搭配Laya，从5个候选动作里选出下一步，整套推理大概只要0.2–1秒。 最有意思的一点：它不依赖巨型超级服务器，一台普通手机就能跑。 过去我们用手机，只是消费AI服务；往后手机有没有机会变成分布式AI网络的一环，向外输出算力？ 当然，Demo不等于大规模落地，成本、性能、真实业务需求，都还有很长的验证路要走。 AI赛道的竞争，未必只停留在大模型本身。谁能高效调动全球散落的闲置算力，同样是关键战场。 感兴趣可以亲自上手体验： @Acurast
Qwen3.8-27B is the kind of model I want to see inside experiments like this. Instead of asking it another benchmark question, put an agent inside an environment and make it actually do something. That’s basically what this Chrome Dino experiment is exploring. Laya and Jev are playing the game against each other, with the agents actually controlling their dinosaurs. Same track. Same physics. Same obstacles. But completely different inference setups. Laya runs locally on a Mac. Jev runs through an API. That makes the latency difference much easier to understand. The agents have to observe the current game state, decide what action to take and react before the next obstacle arrives. Jump. Duck. Use a shield. Keep running. Or crash. And that’s where Qwen3.8-27B becomes interesting for local AI. We’ve seen the model running on everything from high-end GPUs to heavily compressed versions that fit much smaller consumer hardware. But raw model intelligence is only part of the equation. When you connect a model to an environment, latency becomes part of the intelligence loop. A response that takes several seconds might be perfectly fine for writing an essay. It’s a very different story when an agent has to react to a moving obstacle. This is why I think agentic tests like this are useful alongside traditional benchmarks. You can actually watch: Observation → reasoning → decision → action → new state and see how the model behaves. There is another funny twist here too. Jev doesn’t only control the dinosaur. According to the project, Jev can control the obstacles as well. So one agent is trying to survive while another can influence the environment. That’s a much more interesting playground than another static benchmark score. It’s not a pure model-vs-model intelligence test. The game includes deterministic physics and safety logic around the agents. But that’s fine. The point is seeing what happens when language models stop being chatbots and start controlling something in real time. Qwen3.8-27B locally. Jev over an API. One game. Different latency. Now let’s see which dinosaur survives.
Took the Jev-style decision call into a kitchen: A Unitree G1 humanoid runs errands while Laya, a 0.3B open-weight decision model, picks every move in ~46 ms. Fine-tuned and run fully on open source, on a laptop. Matches a hand-built planner in a kitchen it never saw.
A small update on what's going on in vllm.cpp: - Minimax and LTX 2.5 got Lora support. Now you can Load fused-model, or either make lora load in runtime with prompts in vllm.cpp - Support for Kev (@jaredpalmer), Laya and GLiNER2.5 (@fastinoAI ). Same SystemOne api, so you can switch quickly and have a fast Jev replacement, running locally - Mia-AiLab/Qwen3.8-27B-EXL3-3.5bpw runs at ~53 tok/s at high concurrency (up to c32) with DGX Spark I'm working now on the docs and making this a bit more easy to go, you'll also see all these models popping up in @LocalAI_API for a one-click install. A big shout out our friends at @regolo_ai , for sponsoring us as part of their Builder Program and giving access to their API, thank you 🫶! I've also added them to my agent harness, nib, so you can /login and use their API directly, links👇
Posted a Laya demo on X? Mention “Laya” and it gets picked up automatically, or submit the project.
