<?xml version="1.0" encoding="UTF-8"?><rss version="2.0" xmlns:content="http://purl.org/rss/1.0/modules/content/"><channel><title>幻觉问题 | 行业新闻_数智（点击查看更多）</title><description>搜索引擎 + AI 驱动的行业新闻【覆盖行业】信保 ｜出口 ｜金融 制造 ｜农业 ｜建筑 ｜地产  零售 ｜物流 ｜数智【访问入口】hangyexinwen.com【新闻分享】点击发布时间即可分享【联系我们】xinbaoren.com（微信内打开提交表单）</description><link>https://shuzhi.hangyexinwen.com</link><item><title>⁣📰 《小智能体群组：数字医疗的未来》医药新闻-ByDrug-一站式医药资源共享中心-医药魔方本文讨论数字医疗中小智能体群组的发展前景，指出单纯放大模型在医疗场景存在三大现实瓶颈，构成所谓的“不可能三角”：一是临床效果不足，因单一巨型模型在多学科复杂病例推理中受限，易出现证据缺失与诊断偏倚；二是推理可靠性不足，缺乏自我校验与交叉反思机制，易产生幻觉，对抗性信息会导致危险诊疗建议，存在高风险隐患；三是部署成本高，巨型模型的显存与算力需求使本地化部署成为刚性约束，医院与基层机构难以承担</title><link>https://shuzhi.hangyexinwen.com/posts/19944</link><guid isPermaLink="true">https://shuzhi.hangyexinwen.com/posts/19944</guid><pubDate>Fri, 19 Jun 2026 18:29:41 GMT</pubDate><content:encoded>⁣&lt;br /&gt;&lt;b&gt;&lt;i&gt;&lt;b&gt;📰&lt;/b&gt;&lt;/i&gt; 《小智能体群组：数字医疗的未来》医药新闻-ByDrug-一站式医药资源共享中心-医药魔方&lt;/b&gt;&lt;br /&gt;&lt;br /&gt;本文讨论数字医疗中小智能体群组的发展前景，指出单纯放大模型在医疗场景存在三大现实瓶颈，构成所谓的“不可能三角”：一是临床效果不足，因单一巨型模型在多学科复杂病例推理中受限，易出现证据缺失与诊断偏倚；二是推理可靠性不足，缺乏自我校验与交叉反思机制，易产生幻觉，对抗性信息会导致危险诊疗建议，存在高风险隐患；三是部署成本高，巨型模型的显存与算力需求使本地化部署成为刚性约束，医院与基层机构难以承担。文中还提到不同规模的模型在资源与隐私方面的考量，以及对 SAG 架构、交互机制和优化算法的关注，强调在现实条件下需要兼顾性能、可靠性与成本之间的平衡，推动更高效的安全医疗人工智能解决方案。&lt;br /&gt;&lt;br /&gt;&lt;i&gt;&lt;b&gt;🏷️&lt;/b&gt;&lt;/i&gt; &lt;a href=&quot;/search/%23%E5%8C%BB%E7%96%97AI&quot;&gt;#医疗AI&lt;/a&gt; &lt;a href=&quot;/search/%23%E6%A8%A1%E5%9E%8B%E7%93%B6%E9%A2%88&quot;&gt;#模型瓶颈&lt;/a&gt; &lt;a href=&quot;/search/%23%E5%B9%BB%E8%A7%89%E9%97%AE%E9%A2%98&quot;&gt;#幻觉问题&lt;/a&gt; &lt;a href=&quot;/search/%23%E6%9C%AC%E5%9C%B0%E5%8C%96%E9%83%A8%E7%BD%B2&quot;&gt;#本地化部署&lt;/a&gt; &lt;a href=&quot;/search/%23SAG%E6%9E%B6%E6%9E%84&quot;&gt;#SAG架构&lt;/a&gt;&lt;br /&gt;&lt;br /&gt;&lt;i&gt;&lt;b&gt;🔗&lt;/b&gt;&lt;/i&gt; &lt;a href=&quot;https://bydrug.pharmcube.com/news/detail/6d03133354b8bb90adce4da466004b94&quot; target=&quot;_blank&quot;&gt;原文链接&lt;/a&gt;</content:encoded></item><item><title>⁣📰 高书生:大语言模型无处不在,无时不在,意识形态管理该关注什么 | 流媒体网在人工智能时代，文化领域需要主动防范，守护文化、意识形态及文化基因数据安全</title><link>https://shuzhi.hangyexinwen.com/posts/19612</link><guid isPermaLink="true">https://shuzhi.hangyexinwen.com/posts/19612</guid><pubDate>Mon, 15 Jun 2026 03:34:56 GMT</pubDate><content:encoded>⁣&lt;br /&gt;&lt;b&gt;&lt;i&gt;&lt;b&gt;📰&lt;/b&gt;&lt;/i&gt; 高书生:大语言模型无处不在,无时不在,意识形态管理该关注什么 | 流媒体网&lt;/b&gt;&lt;br /&gt;&lt;br /&gt;在人工智能时代，文化领域需要主动防范，守护文化、意识形态及文化基因数据安全。文章强调安全是核心，包含国家文化安全、意识形态安全与文化基因数据安全；主动防范应优先于被动防范，尤其是在大语言模型普及的背景下。治理幻觉是首要任务，因生成式AI可能产出与事实或文化背景错位的内容，约40%的幻觉源自语料问题，数据治理因此成为关键。其次是价值观认同，推动建设中华文化数据库，贯通各类文化数据库，提升对伟大祖国、中华民族及中国共产党等的认同，避免对意识形态的冲击。第三是中华文明的赓续，大语言模型的训练数据以互联网为主，中文数据占比低，可能导致与主流意识形态冲突的结论。文章提出数据是主动防范的关键，强调宣传思想文化战线的参与与掌控。统筹已有数字资源，形成统一的中华文化数据库，通过标准化标识、资源关联与顶层设计，确保理念与文化传承不被技术滥用侵蚀。&lt;br /&gt;&lt;br /&gt;&lt;i&gt;&lt;b&gt;🏷️&lt;/b&gt;&lt;/i&gt; &lt;a href=&quot;/search/%23%E6%96%87%E5%8C%96%E5%AE%89%E5%85%A8&quot;&gt;#文化安全&lt;/a&gt; &lt;a href=&quot;/search/%23%E5%B9%BB%E8%A7%89%E6%B2%BB%E7%90%86&quot;&gt;#幻觉治理&lt;/a&gt; &lt;a href=&quot;/search/%23%E6%95%B0%E6%8D%AE%E6%B2%BB%E7%90%86&quot;&gt;#数据治理&lt;/a&gt; &lt;a href=&quot;/search/%23%E4%B8%AD%E5%8D%8E%E6%96%87%E5%8C%96%E6%95%B0%E6%8D%AE%E5%BA%93&quot;&gt;#中华文化数据库&lt;/a&gt; &lt;a href=&quot;/search/%23%E6%84%8F%E8%AF%86%E5%BD%A2%E6%80%81&quot;&gt;#意识形态&lt;/a&gt;&lt;br /&gt;&lt;br /&gt;&lt;i&gt;&lt;b&gt;🔗&lt;/b&gt;&lt;/i&gt; &lt;a href=&quot;https://lmtw.com/mzw/content/detail/id/255153&quot; target=&quot;_blank&quot;&gt;原文链接&lt;/a&gt;</content:encoded></item><item><title>⁣📰 知识图谱在高级媒体搜索中的作用 - 53AI-AI知识库|大模型知识库|大模型训练|智能体开发随着人工智能在媒体搜索中的应用日益广泛，如何有效管理和查找数字视频库中的内容成为一大挑战</title><link>https://shuzhi.hangyexinwen.com/posts/673</link><guid isPermaLink="true">https://shuzhi.hangyexinwen.com/posts/673</guid><pubDate>Mon, 01 Sep 2025 08:25:21 GMT</pubDate><content:encoded>⁣&lt;br /&gt;&lt;b&gt;&lt;i&gt;&lt;b&gt;📰&lt;/b&gt;&lt;/i&gt; 知识图谱在高级媒体搜索中的作用 - 53AI-AI知识库|大模型知识库|大模型训练|智能体开发&lt;/b&gt;&lt;br /&gt;&lt;br /&gt;随着人工智能在媒体搜索中的应用日益广泛，如何有效管理和查找数字视频库中的内容成为一大挑战。人工智能模型面临的一个主要问题是“人工智能幻觉”，即由于缺乏现实背景，生成的内容可能不准确。为了解决这一问题，知识图谱的引入显得尤为重要，它能够增强人工智能在媒体内容检索中的能力，减少错误的发生。&lt;br /&gt;&lt;br /&gt;知识图谱通过提供现实世界身份及其关系的系统，帮助人工智能更好地理解视频内容的上下文。例如，在媒体资产管理中，知识图谱能够将演员、角色和场景等信息进行有效链接，从而提升搜索的准确性。此外，知识图谱还可以通过动态更新和持续学习，确保随着新媒体内容的添加，搜索结果的质量不断提高。&lt;br /&gt;&lt;br /&gt;结合人工智能与知识图谱，能够显著减少人工智能幻觉的发生。通过交叉验证搜索结果与现实世界的事实，知识图谱确保了搜索的准确性和可靠性。随着媒体库的不断发展，知识图谱将成为实现快速且准确搜索的关键工具，满足日益增长的智能媒体搜索需求。&lt;br /&gt;&lt;br /&gt;&lt;i&gt;&lt;b&gt;🏷️&lt;/b&gt;&lt;/i&gt; &lt;a href=&quot;/search/%23%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD&quot;&gt;#人工智能&lt;/a&gt; &lt;a href=&quot;/search/%23%E7%9F%A5%E8%AF%86%E5%9B%BE%E8%B0%B1&quot;&gt;#知识图谱&lt;/a&gt; &lt;a href=&quot;/search/%23%E5%AA%92%E4%BD%93%E6%90%9C%E7%B4%A2&quot;&gt;#媒体搜索&lt;/a&gt; &lt;a href=&quot;/search/%23%E6%90%9C%E7%B4%A2%E5%87%86%E7%A1%AE%E6%80%A7&quot;&gt;#搜索准确性&lt;/a&gt; &lt;a href=&quot;/search/%23%E5%B9%BB%E8%A7%89&quot;&gt;#幻觉&lt;/a&gt;&lt;br /&gt;&lt;br /&gt;&lt;i&gt;&lt;b&gt;🔗&lt;/b&gt;&lt;/i&gt; &lt;a href=&quot;https://www.53ai.com/news/knowledgegraph/2025090106723.html&quot; target=&quot;_blank&quot;&gt;原文链接&lt;/a&gt;</content:encoded></item></channel></rss>