laya

by receptron

Runs Laya typed-decision models from Node.js and TypeScript through ONNX Runtime

Run Laya, the open-source Jev-compatible System-1 decision model, from Node.js / TypeScript via ONNX Runtime

On X

@receptron/laya runs typed decisions in Node.js without Python

Agent 的每个小判断,都要交给生成式模型吗? Laya 不生成文本,而是把工单等状态和多个问题一起送入模型,一次推理给出分类、等级评分和是非判断的概率。这个 TypeScript 包通过 ONNX Runtime 在 Node.js 中运行,不需要运行时 Python。挺适合流程分流,不过权重约 1.7GB,部署时得留意内存。

♥ 1↻ 1186 viewsView on X
Project: laya→

Related projects