24小时AI快讯 实时更新

聚合全平台资讯,带你了解最新的全球AI动态

2026-03-17
08:17
80万条数据揭示隐患:AI正在「污染」病历,你的诊疗数据可能越来越不靠谱
本研究是由新加坡国立大学刘钿渤组博士生何洪宇领衔、包括哈佛大学、斯坦福大学、耶鲁大学、谷歌公司、梅奥诊所等机构共同完成的,研究团队成员有医学 AI、放射学、临床医学等各方面的专家,具有很强的跨学科研究背景和临床实践经验。 随着生成式人工智能在医疗领域的加速渗透,越来越多的病历、影像报告及各类临床文本正逐步纳入 AI 参与生成的范畴。这一旨在提升医疗效率的技术革新背后,潜藏着威胁诊断安全性的深层隐患。 最近新加坡国立大学、哈佛大学、斯坦福大学等机构联合团队最新研究显示,当 AI 生成的临床文本被用作训练新一代 AI 模型时,一些罕见但是重要的病理信息会在数据迭代的过程中悄悄地消失,从而使得医疗 AI 整体诊断可靠性在群体上不断下降。 研究团队对临床文本生成、视觉-语言报告、医学图像合成这三个任务下的 80 多万条合成数据进行了系统的分析(如图 1 表示),首次证明了在没有强制性人工验证的情况下,多代自我训练循环会使病理多样性迅速消失,诊断可靠度急剧降低,并且医师评估也表明临床效用的退化。 最后研究团队提出了可以直接融入到目前临床工作流程中的缓解方法,在 AI 全面进...
来源: 36kr4次阅读
80万条数据揭示隐患:AI正在「污染」病历,你的诊疗数据可能越来越不靠谱
07:14
警惕 AI 智能体原生风险:国家安全部发布 OpenClaw“龙虾”安全养殖手册
IT之家 3 月 17 日消息,国家安全部今日发文《“龙虾”(OpenClaw)安全养殖手册》。OpenClaw 是一款开源 AI 智能体工具,上线不久便迅速成长为 2026 年度现象级“开源奇迹”。不少用户从付费安装“龙虾”,到付费卸载“龙虾”,养“龙虾”正在成为一场智能体的狂欢。国家安全部在此时发布安全指南,旨在提醒广大用户在拥抱人工智能带来的便利时,也要清醒认识其潜在风险,让“龙虾”真正成为遵规守纪、产能高效的“数字员工”。国家安全部指出,“龙虾”之所以能迅速蹿红,源于其独特的生产特点。与传统大模型智能体不同,“龙虾”不再停留在“给出方案”的咨询建议层面,而是可以通过聊天程序远程执行用户指令,自主完成从文件管理到邮件撰写、从日历调度到网页浏览等一系列任务。它内置了大量技能插件,用户可以像搭建乐高一样组合出覆盖多场景的工具链。更关键的是,“龙虾”具备“自我进化”能力,能够长期记忆用户使用记录,持续理解行为偏好,“越用越懂用户”,这也正是人们称之为“养龙虾”的由来。此外,它还能根据用户要求主动感知外部情况,实现“夜间下达指令、晨间获取成果”的智能服务。然而,火热的“龙虾”在创新改变生...
来源: IT之家3次阅读
警惕 AI 智能体原生风险:国家安全部发布 OpenClaw“龙虾”安全养殖手册
2026-03-16
上一页1323334353662下一页第 1651–1700 条,共 3082 条