清华大学黄民TG体育烈团队:发布安全评估框架 促大模型迈向可控可信
发布时间:2023-03-31
 TG体育TG体育TG体育中新网北京3月27日电 (贾君玉张素)记者近日采访清华大学计算机科学与技术系长聘副教授黄民烈获悉,历时两年多时间,由他带领的科研团队建立了大模型安全分类体系,并从系统层面和模型层面等打造了大模型安全框架。  近年来,随着技术突破,大模型获得快速发展并在多个场景得到应用。不过,其存在的事实性错误、知识盲区等问题,以及面临的训练数据来源合规性、生成内容安全性等风险,也已受到

  TG体育TG体育TG体育中新网北京3月27日电 (贾君玉张素)记者近日采访清华大学计算机科学与技术系长聘副教授黄民烈获悉,历时两年多时间,由他带领的科研团队建立了大模型安全分类体系,并从系统层面和模型层面等打造了大模型安全框架。

  近年来,随着技术突破,大模型获得快速发展并在多个场景得到应用。不过,其存在的事实性错误、知识盲区等问题,以及面临的训练数据来源合规性、生成内容安全性等风险,也已受到广泛关注。

  在黄民烈看来,要规避安全风险,降低人工智能对人类的负面影响TG体育,关键在于大模型底座。“大规模语言模型(LLM)发展到现在,模型结构和规模已有很大进展,但实用性还有待加强,我们应该通过技术让模型更加安全、可控,使其快速适配更多的应用场景。”他说。

  此次,聆心智能联合清华大学CoAI实验室共同发布大模型安全评估框架。作为聆心智能的创始人,黄民烈介绍说,他们希望通过对大模型应用边界进行定义,促进大模型生态健康发展,推动人工智能研究和应用向更有用、更可信、更安全迈进。

  据知,黄民烈团队建立的大模型安全分类体系中设定的不安全对话场景,包括犯罪违法、身体健康、心理健康、财产隐私、歧视/偏见、辱骂/仇恨言论等方面。科研人员针对这些安全场景对大模型进行升级,使之具备基本的安全性,“能够在遇到安全问题时给予正确的回复策略,不进行判断误导”。

  此外,着眼于容易触发的安全问题类型,科研团队还总结、设计出一般模型难以处理的“安全攻击方式”,使安全体系更加完善TG体育。

  黄民烈表示,未来,他们将打造中文大模型的安全风险评估的Leaderboard,为国内对话大模型的安全评估提供公平公开的测试平台,并提供针对中文对话的安全场景等,“依托自身核心技术,在可控可信的超拟人大模型基础之上,通过建立安全、可控的模型边界,让人工智能提供可信、可靠的输出”。(完)

  冰是宇宙中最常见的固体,它们是恒星形成的基础,也是生命之源。 研究人员展示了-170℃左右的低温衬底上气相水凝结成冰晶的过程,发现了立方冰在这种低温衬底上的优先形核生长。

  科技创新是引领发展的第一动力,只有不断加大创新力度,研发新技术、新产品,才能在激烈的市场竞争中发展壮大。

  让黄健骄傲的是,他的团队与中科院大气物理研究所合作,于2015年已开始开展台风海洋飞沫过程观测,即使现在,国际上海洋飞沫现场观测也是少之又少。

  人工智能、区块链、云计算、大数据、元宇宙这些关键词近年来越来越多地进入普通人的视野,意味着数字经济及其所催生出的前沿技术,正在改变着人们的生活和生产方式。

  种了半辈子地,从未上过大学、发过论文,山东省平原县腰站镇锅培口村农民王笃春,不久前获评中级职称。

  让创新人才脱颖而出、尽展才华,需要为其创造政策完善、机制顺畅、平台广阔、氛围友好的环境。

  面对复杂不确定的战略环境,决策者和智库都要提高战略思维、战略预见、战略把握、战略运作能力,在驾驭全局的基础上统筹谋划“战略目标—战略能力—战略行动”。

  “慧眼”卫星和“极目”空间望远镜观测迄今最亮伽马暴示意图 中科院高能所供图 基于极目空间望远镜的精确观测数据,科学家们发现GRB 221009A将伽马暴亮度纪录提升了50倍。

  作为一名基层一线科技工作者,这辈子,我只想做一件事:为制造中国自己的量子计算机而不懈奋斗。 2003年,我和其他5位科技工作者一起,在中科大一间闲置教室里成立了中国第一个量子计算研究小组。

  积极引导各方面一起来关心青年科技工作、奖励青年科学家,对于夯实中国科学技术青年人才力量、培养未来科学家,意义重大。

  拉尼娜现象确实会导致全球气温降低,但具体到某个地区,其冬季是冷冬还是暖冬,还要具体问题具体分析TG体育。

  研究人员还调整了这一系统,用于针对活体小鼠的细胞,表明该系统可用于在活体生物中引入蛋白质。张锋解释称,治疗分子的递送是当前医学的主要瓶颈,团队需要大量的选择性研究,才能将这些强大的新疗法送入体内正确的细胞。

  就中国人工智能的发展而言,认为,既需要国家政策的制定和大量投入,也需要科学家创新能力的提升。

  为这些伪科普买单的受众,常常是诚心求医问药、但科学素养不足的中老年群体。我们不仅期待职能部门重拳出击,也希望全社会共同亮剑,让真知识脱颖而出,让伪科普无处容身,还网络生态“清朗”蓝天。

  传统立式车铣机床多为三轴,指代表刀架水平移动的X轴、滑枕上下移动的Z轴、工作台上回转的C轴,共三个进给伺服轴。2023年以来,武重集团陆续接到批量机床订单,用户来自风电、机械工程箱体加工及齿轮加工等领域。

  走近一看,“小房子”好像挺简单——灰顶是覆盖的太阳能板,蓝色外壳下的两条履带,恰好跨在两道茶垄上。


网站地图