跳到主要内容

大模型与推理架构

Mystilink 将模型接入与玄学体系分开。理论选择决定本次使用的排盘或占问路径;模型负责理解问题、规划和组织解读。切换理论不会替你更换 API Key 或补充模型余额。

三种模型接入路径​

路径身份与配置费用与请求去向
Newton LLM登录 Mystilink,选择平台目录中的模型使用 Newton 余额,经平台与上游服务推理
云端 BYOK填写厂商或网关 Key、模型 ID 及正确协议由对应服务计费,内容发往配置地址
本地模型自行启动兼容服务并添加连接内容发往配置服务器,资源消耗取决于部署

本地会话文件的保存位置,不决定推理的处理地点。选用云端模型时,模型所需的资料与上下文会发送给相应服务,详见 隐私说明。

模型配置由哪些内容组成​

Provider(供应商) 描述服务来源、协议与认证方式;模型 ID 指向该服务实际可用的模型;显示名称 帮助你在界面辨认。三者用途不同,不能用一个熟悉的名字替代正确接口配置。

例如同一模型可能通过原厂或第三方网关提供。即使显示名相似,所需 Key、模型 ID、地址、费率和隐私条款也可能不同。

主模型与回退​

主模型是默认使用的配置。开启回退后,失败时可能尝试你已配置的其他候选;是否能继续还取决于备用服务的凭证、权限和能力。

回退不是失败请求永远成功的保证,也不保证费用和数据处理方不变。只允许本地推理时,不要保留云端回退。排查结果异常时,先核对实际使用的是哪一条配置。

连接成功还需验证什么​

连接测试主要帮助发现地址、凭证和可访问性问题。能获取模型列表或回复普通文字,不等于完整支持工具调用、流式输出和长上下文。先用无私人信息的短消息,再验证一个所需的实际流程。

选择对应配置文档​