要文快报!AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局
北京讯(记者 张楠楠)6月14日,在2024北京智源大会上,月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话:通往AGI之路”环节,探讨了人工智能安全等话题。
杨植麟表示,AI安全非常重要,虽然它可能不是当前最紧迫的问题,但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law(尺度定律)的发展,每N个月算力乘以十倍,智能水平也会得到提升,这是一个逐渐适应的过程。”他指出,AI安全不一定是当前最大的矛盾或者最紧急的事情,但肯定是长期储备。
杨植麟认为,在AI安全方面,最重要的是要关注以下两个方面:
- **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图,通过prompt(提示词)让模型去做一些本来不应该做的事情。因此,需要提高模型的鲁棒性,使其能够抵御恶意攻击。
- **模型的动机。**模型本身是否有自己的motivation(动机),这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为,无论用户给什么指示,都不会违背这个“宪法”。
杨植麟强调,AI安全是一项复杂的系统工程,需要产学研各界共同努力,从技术、制度、伦理等多个层面构建起全方位的安全体系。
关于月之暗面
月之暗面成立于2021年,是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术,并已在多个领域落地应用,包括智能客服、内容生成、辅助决策等。
媒体联系
张楠楠
月之暗面
[移除了电子邮件地址]
欧元区风波再起:法国市场动荡引担忧,欧洲央行官员淡定应对
法国内政引市场波动,债券收益率飙升
近期,法国总统马克龙在议会选举中失利,引发市场对法国政治前景的担忧,导致法国股市大幅下跌,国债收益率飙升。法国10年期国债与德国10年期国债的收益率差一度突破0.2个百分点,创下纪录新高。
欧洲央行官员:目前形势可控
面对法国市场的动荡,欧洲央行官员表示保持冷静,并表示目前形势可控,没有必要使用危机工具进行干预。欧洲央行执行委员会成员伊莎贝尔·施纳贝尔(Isabel Schnabel)表示,法国的市场动荡主要是由于政治因素引起的,并非反映了法国经济的基本面。她还强调,欧洲央行有足够的工具来维护欧元区的金融稳定。
分析人士:市场反应过度,欧央行可能出手干预
一些分析人士则认为,市场对法国政治前景的反应过度,法国的财政状况仍然稳健,并不会出现债务危机。不过,也有分析人士指出,如果法国局势进一步恶化,欧洲央行可能被迫出手干预以稳定市场。
欧元区经济前景仍不明朗
法国是欧元区第二大经济体,其政治动荡可能会对欧元区整体经济造成影响。目前,欧元区正处于高通胀低增长的困境中,欧洲央行正逐步收紧货币政策以抑制通胀。但收紧货币政策可能会拖累经济增长,因此欧央行需要在抑制通胀和支持经济增长之间取得平衡。
新的标题:
欧元区再掀波澜:法国市场动荡考验欧洲央行
文章内容补充:
- 可以增加对法国政治局势的更多分析,例如马克龙可能采取哪些措施来应对政治危机,不同政党对法国经济政策的看法等。
- 可以介绍欧洲央行的危机工具,例如传导保护工具(TPI)的具体运作方式以及在哪些情况下会使用该工具。
- 可以分析欧元区经济前景面临的风险和挑战,例如高通胀、低增长、债务危机等。
注意:
- 本文仅供参考,不构成任何投资建议。
- 本文内容来源于公开报道,不代表作者本人观点。
发布于:2024-07-03 08:20:36,除非注明,否则均为
原创文章,转载请注明出处。
还没有评论,来说两句吧...