企业AI落地最后一公里：明略科技×DeepSeek-R1实战指南（附直播实录）-明略科技

首页干货文章企业AI落地最后一公里：明略科技×DeepSeek-R1实战指南（附直播实录）

企业AI落地最后一公里：明略科技×DeepSeek-R1实战指南（附直播实录）

2025-03-13

随着DeepSeek的热度从企业扩展到公共，，，，，企业面临的已不再是“是否要用AI”，，，，，而是怎样跑赢落地周期，，，，，从模子接入丝滑进入加入景适配。。。。。

明略科技作为第一批接入DeepSeek并落地现实应用场景的企业，，，，，充分运用检索增强天生（RAG）手艺，，，，，融合大模子手艺与企业沉淀的专业知识，，，，，平衡DeepSeek的创立力与幻觉问题，，，，，赋能现实营业场景。。。。。

2月27日，，，，，明略科技高级手艺总监吴昊宇受邀做客51CTO直播间，，，，，分享了接入DeepSeek的相关事情，，，，，以伎帐助企业应对“最后一公里”的实战履历。。。。。

直播干货已整理为系列文章，，，，，近期将陆续宣布。。。。。

Q1：怎样看待DeepSeek宣布后一两周迎来爆火？？？？？？

吴昊宇：

最近一周各人都很关注DeepSeek，，，，，他们把这周定为“开源周”，，，，，天天宣布一个重磅炸弹，，，，，都是提升模子推理效率的代码库，，，，，这对大模子领域特殊主要。。。。。前几天社媒都在讨论大模子厂商是不是赔本，，，，，有人算过按1000亿token处置惩罚量，，，，，厂商每月要亏四个亿。。。。。但DeepSeek开源这些工具后，，，，，各人发明着实是有盈利可能的，，，，，这些开源库极大地提高了推理效率，，，，，相当于给争论画了句号：用好算力，，，，，确实是未来偏向。。。。。

Q2：作为首批接入DeepSeek的企业，，，，，明略科技接入R1背后履历了哪些详细历程？？？？？？做了哪些事情和考量？？？？？？

吴昊宇：

DeepSeek-R1宣布后，，，，，我们在第一时间就启动了R1接入事情。。。。。

第一个要害是在流量最岑岭、最拥堵的阶段，，，，，面向企业用户开放了满血版R1。。。。。纵然在公有API或在公共效劳波动时代，，，，，我们依然包管了客户的流通使用体验。。。。。

第二个要害是应用场景问题，，，，，只接对话模子对企业效劳是远远不敷的。。。。。许多企业客户现在会自动向我们咨询：能不可把知识库也接入这类推理模子来优化效果，，，，，甚至数据剖析效劳？？？？？？客户也在追问：接入R1之后剖析会不会更准？？？？？？

不过虽然R1效果好，，，，，但它依然保存幻觉问题，，，，，响应速率也有波动。。。。。唬唬唬唬唬�Ｉ杏懈鲋饕剂渴牵涸跹檬屎系姆椒ㄕ故敬竽Ｗ拥耐评砝�。。。。。从年前到整个仲春份，，，，，我们基本没休息，，，，，一直在做三件事：测试差别场景、调解参数、筛选能落地的营业场景。。。。。

Q3：从紧迫接入到后续优化阶段，，，，，我们既要处置惩罚用户反响又要解决内部问题，，，，，许多开发者奚落“接入R1比训练R1还刺激”。。。。。咱们其时的应急机制详细怎么运作的？？？？？？

吴昊宇：

明略科技有明确的团队分工，，，，，算法团队专门攻坚模子研究和接入，，，，，各营业线的场景组认真各自agent的调优，，，，，大模子网关层作为流量入口则由专人统一治理，，，，，包括模子接入、客户权限分派、余额预警这些噜苏但主要的事都得盯住。。。。。

不过接入只是刚最先，，，，，R1作为推理模子有个特殊点：它返回的“reasoning”字段会袒露思索历程。。。。。这和之前对接的其他模子完全差别，，，，，以前都是直接给效果，，，，，模子的响应速率较量快；；；；；；；推理模子的推理历程较量耗时间，，，，，需要在功效设计上，，，，，合理的展示推理历程，，，，，镌汰用户焦虑感。。。。。各个营业模�？？？？？槲思嫒菡飧鎏卣鞫嫉弥匦虏馐�，，，，，像知识库这种需要稳固输出的场景，，，，，突然多出个会出错的“大脑运动纪录”，，，，，产品设计和手艺适配都得重新探索，，，，，这是从底层逻辑到上层应用的全新磨练。。。。。

Q4：有没有遇到过让你们特殊意外的客户反响指标？？？？？？或者说哪些客户痛点需求倒逼咱们做了要害优化？？？？？？

吴昊宇：

以明略科技推出的企业级一站式大模子Copilot“小明助理”举例，，，，，这个工具在明略内部已经全员使用了。。。。。DeepSeek R1上线后我们剖析了数据，，，，，发明两个有意思的征象：

第一是模子选择权重倾覆认知，，，，，R1上线不到一周就冲到模子使用量榜首，，，，，倾覆了原本默认效果最好的主流模子；；；；；；；

第二是对话黏性暴增，，，，，和其他模子平均聊2轮就竣事，，，，，用户跟R1的平均对话轮数直接涨了98%。。。。。一些企业客户的剖析师告诉我们：“谜底对差池不主要，，，，，我看它推理的历程就像有个能手在旁边拆解解题思绪”，，，，，好比做客户场景剖析、用户剖析等，，，，，反而帮剖析师翻开了新视角。。。。。

*Q5：**企业接入DeepSeek-R1这类推理模子的“最后一公里”会遇到哪些挑战？？？？？？特殊是IT基础设施与营业流程的无缝集成层面。。。。。*

吴昊宇：

先说现实问题，，，，，私有化安排本钱。。。。。对许多企业来说，，，，，这笔预算是道硬门槛，，，，，以是我们常建议他们先通过API接入效劳，，，，，等营业跑顺了再思量私有化。。。。。另外一个问题是适配性。。。。。企业里那些陈年迈系统既找不到供应商刷新，，，，，又不可推倒重来。。。。。

在这种情形下，，，，，Copilot模式是更适合企业落地AI的。。。。。唬唬唬唬唬�；凇皁n the same page”理念，，，，，小明助理以浏览器插件形式为主，，，，，用户通过操作小明助理，，，，，完成从A系统抓取表格、B系统截取界面、C系统提取文本信息，，，，，最后生身剖析报告的路径，，，，，能够解决原本旧系统的通路问题。。。。。

场景选摘要兼顾两头，，，，，既要知足向导层用上AI的要求，，，，，又要让员工真实感受到AI好用，，，，，愿意去用。。。。。好比做行业研究，，，，，研究员原先要手动翻几十个网页、写摘要、做总结才华出报告，，，，，现在 OpenAI 推出了深度搜索的功效，，，，，可以用大模子解决海量数据网络和重大剖析的问题，，，，，这种方法解决了原来的难题，，，，，各人愿意用起来。。。。。

btt博天堂履历是：先解决企业的营业现存痛点，，，，，再找到能够真正解放员工重复性事情的场景，，，，，这样作为切入点去落地AI，，，，，才华看到前进，，，，，企业才会有动力继续往下一连推进。。。。。落地AI是一件很主要的事情，，，，，企业要看到效果才行。。。。。