SeekStar AI

Popular repositories Loading

1. StarLight StarLight Public

   StarLight 是由 SeekStarAI 实验室 (SeekStarAI) 研发的新一代大模型（LLM）高性能推理引擎底座。

   Rust 6

2. sl-precision sl-precision Public

   StarLight 的精度与数据排布工具链，负责量化、校准及面向硬件访问模式的权重打包和交织重排。 它同时是一个独立 Rust crate：不依赖 StarLight 其他模块或张量库，可由模型转换器调用，也可被其他 Rust 项目用作通用量化内核。

   Rust

3. sl-graph sl-graph Public

   StarLight 的静态计算图规划器，将算子拓扑转换为可执行的线性命令序列和静态内存布局。

   Rust

4. sl-device sl-device Public

   StarLight 的 Virtual Device Interface（VDI）契约层，以稳定的 Rust traits 描述计算设备、队列、缓冲区和执行资源。

   Rust

5. sl-core sl-core Public

   StarLight 的模型装配与无状态单步推理核心，负责组合静态计算图、权重和虚拟设备接口，并推进一次 step。

   Rust

6. sl-daemon sl-daemon Public

   StarLight 集群发行版的进程监管与会话编排服务。

   Rust