创业思考博客

dsh模型选择与Session路由:一层一层的优先级

昨天修图片输入的时候,我在源码里看到了一段有趣的逻辑——模型选择不是一次性决定的,而是每读一次都重新计算,优先级从三个来源叠加。这种设计让 per-session 覆盖变得简单又可靠。 一、模型选择的三层优先级在 dsh-host-apiproxy/lib/types/api-proxy.js 里,有一个 selectionFor(agent) 函数,它返回一个响应式对象: 1234567...

dsh凭证注入与认证机制:密码、Key、Nginx 三层防护

昨天修 dsh 图片输入报错的时候,顺带翻了一遍认证相关的代码。发现 dsh 的凭证管理其实有三层——浏览器 Basic Auth、进程环境变量、本地配置文件,每层各司其职。搞清楚了之后,整个 dsh 的安全边界就清晰了。 一、第一层:Nginx Basic Auth(外网访问网关)dsh web 默认只监听 127.0.0.1:3080,不暴露到公网。公网访问必须经过 Nginx 反代,...

dsh多模态模型配置指南:哪些模型支持图片,怎么声明

昨天我遇到了一个奇怪的问题:在 dsh(DeepSeek Harness)里给 sensenova-6.8-flash-lite 上传图片,结果报错”Model does not support image input”。后来发现原因很简单——模型的 input 能力没有在配置里声明,pi-ai 默认只认文本。 修好之后我整理了所有模型的多模态能力,顺便把完整的配置方法写下来,方便以后用到。...

一个"不支持图片"的bug,让我翻遍了整个dsh源码

调试一个API报错的过程,意外揭示了LLM框架配置层的工作原理。有时候,问题不在代码里,而在配置里。 2026年9月,我在家里的VPS上跑着DeepSeek Harness(dsh)的web界面,想用sensenova-6.8-flash-lite这个模型来做多模态任务——上传一张图片让模型识别。结果返回了一个让我摸不着头脑的错误: 123456789{ "erro...

DeepSeek R1 本地部署实操指南:RTX 3060 12GB + Ollama 全流程

动机上周写了 DeepSeek 系列文章,很多朋友问同一个问题:能不能在自己电脑上跑?答案是可以的——前提是选对模型、用对工具。 这篇文章以我身边的配置为基准——RTX 3060 12GB、Linux 系统——把整个流程走一遍,从硬件要求到实际运行,全部是实操细节,不是空谈。 硬件要求先给一个明确的对照表: 配置项 推荐值 最低值 备注 GPU 12GB 显存 4GB 显存 7B...

DeepSeek Harness 与 Hermes Agent:引擎与整车的区别

一个经常被问到的问题刚写完 DeepSeek 系列文章,一个朋友问我:”你们说的 DeepSeek Harness,和 Hermes Agent 那个是不是类似的东西?我搞糊涂了。” 这个问题问得特别好。事实上,很多刚开始接触 AI 工具的人都会把这两个东西混为一谈——它们都和”AI 帮你做事”有关,名字听起来也差不多高大上。但实际上,它们是不同层面的东西,而且更重要的是,它们是互补的,不是...

DeepSeek Harness:把智能体框架做成插件化的 K8s

8 月 13 日,DeepSeek AI 开源了一个名为 DeepSeek Harness 的项目。7 天之后,GitHub 星数冲到了 16.7 万,fork 数 1.78 万。 这个数字放在今年 8 月的开源市场里,大概相当于什么水平?OpenAI 在 7 月发布 o3 时,相关的 demo 仓库也没能这么快冲到 16 万星。167 万星的 OpenAI-CLI 用了整整一个月。 但数字...

DeepSeek + RAG + Agent:构建可落地的 AI 应用完整指南

什么是”真正能用”的 AI 应用2025 年的时候,市面上充斥着各种”AI 应用”——AI 写作助手、AI 翻译工具、AI 聊天机器人。大多数都不过是把一个大模型的 API 包了一层 UI。它们有一个共同的问题:当模型”不知道”的时候,它们就开始编造。 真正有价值的 AI 应用必须解决两个问题:第一,让模型知道它不知道什么;第二,当模型不知道的时候,它能从外部获取正确的信息。这就是 RAG(...

DeepSeek 成本深度分析:从 API 定价到自建集群的经济账

一个真实的账本上个月我帮一个朋友算了一笔账。他在做一个 AI 客服产品,每天需要调用约 50 万次 API。他一直在用 GPT-4o,每个月的花费超过了 8 万元。我帮他切换到了 DeepSeek V4-Flash 之后,同样的质量水平下,月成本降到了 1.2 万元。 这不是个例。DeepSeek 最核心的竞争优势之一就是它的定价——但很多人其实没有把它算清楚。这篇文章我就把 DeepSee...

DeepSeek 本地部署实战:从 RTX 3060 到多卡集群的完整方案

为什么要在本地跑 DeepSeekAPI 调用很方便,但有几个场景你必须考虑本地部署: 你有敏感数据,不能发送到外部服务器 你需要的 QPS 很高,API 成本超过了自建成本 你想做模型的二次开发或微调 你需要完全可控的部署环境 DeepSeek 的一个巨大优势是它的开源策略。V3、R1、V3.2、V4-Flash 都是 MIT 许可证——你可以自由使用、修改、分发,没有任何限制。相比之...