公司新闻 RAG文本检索：小模型的思考 发布时间：2026/9/6 4:57:28 首先本文作者很擅长做时序类行列attention的代码做过一个时序basemodel的但是没办法很好的表现自己。所以我想到了一篇怎么来做文本检索的但是限于资源没办法实现1.首先是预训练让模型学会读懂行。整一篇文章就是一个2D的行列最创新的想法就是以行作为基本元素来进行训练。然后损失就是用行复原的百分比来做损失。2.微调阶段就是用分割行符号 来分割检索的问题和内容这种方法应该是有效的。用来做效果应该不错可惜缺乏资源来实现 相关新闻 双目高斯算法 2026/9/6 4:57:28 Claude模型升级缓存费用降75%，Code配置与成本优化实操 2026/9/6 4:57:28 11、误码率测试仪 2026/9/6 4:47:28 最新新闻 实时AI新闻聚合器：用大模型实现智能采集与每日摘要 2026/9/6 5:47:30 国产液压渠道的进化之路：从贸易倒卖到技术服务商——杭州亿唐动力科技的实践样本 2026/9/6 5:47:30 基于微信小程序的题库刷题系统(源码+lw+部署文档+讲解等) 2026/9/6 5:47:30 全表对不上的一夜：人工核对三百个链接 2026/9/6 5:47:30 从“手动连数据”到“自动化流水线”：我为什么盯上了 n8n 2026/9/6 5:47:30 Facebook广告突然不消耗，别急着关广告 2026/9/6 5:37:30 日新闻 超人会飞不算本事：系统稳定依赖清晰规则与边界设计 2026/9/6 0:07:15 超人VS蜘蛛侠：拆解超级IP的影响力与传播方法论 2026/9/6 0:07:15 基于CNN的调制信号识别：MATLAB实现时频图分类实战 2026/9/6 0:07:15 周新闻 超人会飞不算本事：系统稳定依赖清晰规则与边界设计 2026/9/6 0:07:15 超人VS蜘蛛侠：拆解超级IP的影响力与传播方法论 2026/9/6 0:07:15 基于CNN的调制信号识别：MATLAB实现时频图分类实战 2026/9/6 0:07:15 月新闻 基于YOLO的焊缝缺陷检测：从数据标注到工业部署全流程实践 2026/9/4 23:27:43 分布式服务的决策记录 2026/9/5 6:38:27 创业产品的首版范围 2026/9/4 19:57:42
)
