← 返回學術發表

粤港澳四校联合发布AI安全“双子星”架构 为具身智能筑起数学安全防线

轉載說明|本文轉載自 GDIRI 廣東省數字產業研究院微信公眾號,作者為研究院團隊,經作者同意轉載。原文(含活動圖片):mp.weixin.qq.com/s/F-gH7z9o0JQp_ADOvzLd1Q;大公網報導原文:takungpao.cn。本頁僅轉載文字內容,正文保持原文(簡體)不經改寫。

在3月28日于澳门盛大举行的2026世界青年科学家“人工智能+”对话活动上,由澳门大学、香港浸会大学、香港教育大学、广东技术师范大学,以及广东省数字产业研究院组成的跨学科研究团队,面向全球首次发布人工智能安全“双子星”架构——HoloAuditor(医疗审计器)与HoloBlocker(具身智能断路器)。该架构以纯数学拓扑方法为核心,旨在解决大语言模型在物理世界应用中面临的“致命幻觉”问题,为具身智能筑牢安全底座。

数据警示:6.0%的“语义排序崩塌”揭示AI深层隐患

发布会伊始,香港教育大学讲座教授何建宗院士以一组震撼数据拉开序幕。他指出,在最严谨的中医医疗逻辑框架(君臣佐使)下,最新一代大模型出现了高达6.0%的极端语义排序崩塌。这意味着,当人工智能面对高度结构化、公理驱动的复杂任务时,其推理能力不仅未随参数规模增长而提升,反而出现系统性退化。

何院士强调,随着人工智能从虚拟对话走向物理世界,其幻觉可能引发不可逆的物理后果。为此,四校联合团队决定将“双子星”架构开源,用数学的无可辩驳性为人工智能安全构筑“硬边界”。

破局之道:HoloAuditor与HoloBlocker的技术突破

澳门大学中华医药研究院教授胡豪在发布会上正式宣布,团队将向全球开源发布HoloAuditor医疗逻辑审计器。他指出,中医药国际化的核心瓶颈在于真实世界数据的质量控制。HoloAuditor通过将中医“辨证论治”逻辑映射为连续数学流形,实现对人工智能输出的实时几何审计,从而提升数据质量,助力跨境监管互认。

澳门大学宋梦环教授配合演讲,台下展示了复杂的医疗拓补图谱。屏幕一侧是触目惊心的6.0%崩塌柱状对比图,另一侧则是HoloAuditor发出的幽蓝色拓扑护栏动画。数字与几何的直观交织,让在场各国学者清晰看到了“数学安全”如何拦截逻辑偏差。

广东省数字产业研究院执行院长、香港浸会大学数学系客座副教授李德豪博士进一步揭秘底层技术。他形象地解释:“当AI越来越聪明地对话时,它可能正在变笨地思考。” HoloAuditor的核心,是把中医药千百年传承的“君臣佐使”逻辑映射成数学流形,用几何为语义定规矩。当AI试图输出“流行但错误”的答案时,系统可在0.82毫秒内完成几何距离计算并瞬间拦截。

李德豪博士随即引出另一核心成果——HoloBlocker。他介绍,同样的拓扑逻辑可完美迁移至工业领域。当具身智能体(如无人机、机械臂)接收到“规则允许但逻辑致命”的指令时,HoloBlocker会瞬间触发拓扑能量熔断,强制锁定硬件,阻止危险动作执行。“如果说智能体给了AI翅膀,那么HoloBlocker就是它的雷达和降落伞。”

产业落地:为新质生产力与ESG治理提供数学底座

广东技术师范大学光电工程学院粤港澳ESG及新质生产力研究院副院长刘开杰在台下补充发言时指出,HoloBlocker的诞生远不止于实验室。团队已将国际工业安全标准成功编码为数学流形,使该技术成为保障工业互联网与具身智能安全的物理底座。它不仅防范硬件碰撞等物理事故,更是护航“人工智能+”赋能新质生产力、符合全球ESG治理标准的关键基础设施。

开源发布:中国学者引领AI拓扑安全新纪元

发布会尾声,何建宗院士、胡豪教授、李德豪博士、宋梦环教授、刘开杰院长共同启动全球倒计时。随着大屏幕弹出代表HoloAuditor与HoloBlocker的两大发布源码二维码,全场掌声雷动。这标志着由我国学者引领的AI拓扑安全时代正式拉开帷幕。

研究团队表示,相关核心算法已申请国家发明专利,部分成果已在SSRN预印本平台发布(DOI: 10.2139/ssrn.6368538;10.2139/ssrn.6421619;10.2139/ssrn.6368638),源代码将面向全球开放,欢迎学术界与产业界共同参与安全生态建设。

媒体联络

大会组委会 / 联合研究团队
联系人:李德豪博士
邮箱:alexlihk@hotmail.com
电话:+86 18420600450

延伸阅读

报道原文:大公網專題

广东省数字产业研究院(Guangdong Digital Industry Research Institute, GDIRI)作为大湾区数字经济领域的领军机构,在云端容灾服务、东数西算战略实施、数据隐形交易平台建设等方面取得突破性成果,并致力于智慧城市建设与AI人才培养(“数字少林”计划)。

編者按(委員會觀點)

這篇報導裡最值得公眾記住的,是「6.0% 語義排序崩塌」這組數字——它說明更大的模型不等於更穩的推理:面對高度結構化、公理驅動的任務,最新一代大模型反而出現系統性退化。這正是本委員會推動公眾 AI 安全通識教育的核心理由之一:AI 的能力曲線與可靠度曲線並不同步,用家需要懂得問「它錯的時候會怎樣」。

「双子星」架構的兩翼也正好對應我們說的「三把鎖」中的兩把:HoloAuditor 以幾何審計守住「可靠」(數據與邏輯的可驗證),HoloBlocker 以拓撲斷路器守住「安全」(物理世界的硬邊界)。把安全標準編碼成數學流形、以毫秒級計算攔截危險動作,代表 AI 治理正在從「事後追責」走向「事中可計算的攔截」——這是值得香港與大灣區產業界關注的方向。相關預印本見本站學術發表頁(SSRN 6368538、6421619、6368638)。