公司官网要不要上云主机。朋友的原话是"官网随便买个入门配置托管着就行,上云主机是不是花冤枉钱"。这个问题我被问过太多次,今天把判断逻辑讲清楚,免得要么花冤枉钱,要么活动当天打不开。企业官网到底是个什么负载先说结论,绝大多数企业官网是轻负载。企业展示站以静态页面为主,图文内容更新不频繁,数据库查询少,日均访问量通常在几百到一两千。这种量级,一台入门配置的云主机跑起来游刃有余,CPU 和内存...
模型调用里来回传的不只是问题,还有答案、用户身份、业务上下文。这些数据在公网上裸奔,等于把商业机密摊给沿途每个节点看。加密传输就是让这段链路上的内容只有通信双方能解读。 传输层加密走 TLS。业务侧到中转节点、中转节点到上游模型,两段都跑加密通道,数据在离开内存进入网络的一刻就被加密,中间任何转发设备拿到的都是密文。明文只在两端的内存里短暂存在,不在链路上停留。 TLS 版本要够新。老的协...
企业把大模型接进生产系统,第一道坎往往是安全。语料、客户信息、内部文档都可能经模型流转,一旦泄露后果比普通接口严重。企业级 API 平台把防护做在网关层,业务侧不用自己从零搭一套。 传输环节全程加密。请求和响应走 TLS,内部服务之间也用加密通道,明文不落中间节点。密钥由平台统一托管,按租户隔离,企业自己的调用密钥和上游模型的密钥分开存,一处泄露不影响另一处。 访问控制要细到接口级。谁能调...
做内容创作的工具,不管是图文排版、文案生成还是短视频脚本,背后都要调大模型。接一家就把代码和那家的接口格式绑死,想换更强的模型时改动面广。用统一 API 平台做中间层,工具侧只认一份接口约定,模型切换在平台侧完成。 接入步骤很直接。第一步,在聚合平台注册拿到一个 API Key,比如 moxing.tuidc.com 这类一个 Key 调多家的网关。第二步,工具后端把原本对接各家 SDK 的...
一家做企业知识库的公司,RAG 系统上线半年后卡在一个点上:最初用一家大模型做生成,后来发现长文档问答容易漏章节,想换一家擅长长文本的,但生成层和那家的接口、返回格式绑得太死,光是改调用就动了半个月。如果当初生成层走的是统一中转,换模型只改个配置,这事两天就能解决。 RAG 天生是"多模型"结构。检索阶段要 embedding 模型把问题和文档切成向量,生成阶段要大模型把检索到的片段组织成答...
一家做合同审查的团队去年纠结了很久:文心、通义、智谱三家,销售都宣称自家中文法律场景表现更好,PPT 上的 benchmark 谁都不输。他们最终没靠嘴选,而是把两百份真实合同拆成测试集,同一道题同时喂给三家,让资深法务盲评打分,最后选了在长条款理解上失误最少的那家。 这种"同题横评"能不能做,取决于接入成本。直连时每接一家要注册、看文档、改鉴权、写不同返回解析,光把三家跑通就耗掉一个工程师...
8月20日,“智启河南·AI向新——企业智能办公技术交流会”在郑州市中原科技城人工智能科技园成功举办。本次活动由中原科技城管理委员会、河南省人工智能协会主办,郑州中原科技城科创联盟、百度智能云、郑州腾佑科技有限公司(百度智能云河南服务中心)承办,河南省新的社会阶层人士联谊会、河南省好睦邻商业管理有限公司、中原科技城人工智能科技园、河南广播电视台《数字河南》栏目、河南玄同智能科技有限公司协办。省委统...
同样签了100M独享带宽,一家公司用了一年没断过网,另一家三个月断了四次,找机房索赔,机房说合同里写的是"尽力而为",不赔。两家付的钱差不多,体验差了十万八千里。差别在哪?在合同条款里。大带宽租用的合同不是走过场,SLA条款、赔付条件、计费方式,每一行都直接关系到你的业务能不能扛住突发状况。今天就当一回合同审查员,把该看的条款逐条拆开。SLA可用性承诺:99.9%和99.99%差的不只是数字</h...
前阵子一个做 SaaS 的创业团队找我,凑了几万块钱,想买两台服务器放办公室。我说你先别急,硬件支出只是冰山一角,电费、网络、散热、维护全算上,三年下来未必比租用省。初创公司钱要花在刀刃上,服务器这事选错了,白花好几万不说,还耽误业务。自己买服务器,隐性成本比想象中多先算一笔账。买两台入门级服务器,硬件投入是一笔不小的支出。这还只是设备钱,不是全部。放办公室的话,还有几笔账要算:一台服务...