最新新闻

ad

发展与安全并重上市公司共促“AI向善”

栏目:消费   作者:宋元明清   发布时间:2024-07-09 01:47 阅读量:16021   

近日,平安证券发布研报称,在2024世界人工智能大会暨人工智能全球治理高级别会议上,中国AI(人工智能)企业不仅在技术研发方面取得了显著成效,还在应用落地、生态构建等方面展现出强劲势头。中国AI企业在多个领域实现了突破,为全球AI治理和应用提供了宝贵的中国方案。

今年的WAIC2024,AI治理被置于前所未有的高度,而AI安全正是其中的重中之重。

“AI与安全,是数字化转型与可持续发展的必修课。”7月6日,奇安信董事长齐向东在大会相关论坛上表示,要积极构建高可靠人工智能安全体系,着力为用户提供有效的安全防护,既要用AI去驱动安全,又要做好AI自身安全,护航数字化转型与可持续发展。

“AI作为引领未来的战略新兴技术,已成为发展新质生产力、推动科技革命和产业升级的核心引擎。”中国数实融合50人论坛智库专家洪勇在接受《》记者采访时表示,随着AI的高速发展,尤其是生成式AI的突破,其复杂效应也不断显现,既释放巨大的技术红利,也衍生出超越以往范畴的挑战,涉及数据安全、伦理治理、算法歧视、能源环境、数字鸿沟等问题。

AI安全受关注

技术发展,协同共治。面对挑战,全球AI安全治理的进程正加速推进,已形成各国政府主导、国际组织积极推进、企业协同治理的多方参与格局。全球AI界正积极平衡“发展”与“安全”这一体两面,推动AI“两翼齐飞”。

AI安全相关企业也抓住产业发展黄金机遇,乘势而上。聚焦国内,深信服、天融信(002212)、启明星辰(002439)、奇安信等公司均已发布安全大模型产品。腾讯、蚂蚁集团等也积极构建AI安全平台。放眼全球,微软在今年5月份已正式商用了MicrosoftCopilotforSecurity(一种基于生成式AI的安全产品),旨在“帮助用户以机器的速度进行防御”。谷歌去年也发布了网络安全专有大模型,并应用到了云安全能力中心。

据TheInsightPartner预测,2030年,全球AI安全市场规模将达到710亿美元,未来十年复合增速将达到29%。艾媒咨询数据显示,预计到2027年,我国网络安全市场规模有望增至884.4亿元人民币。

产业链公司在行动

中金公司认为,AI的安全风险涉及多个维度。AI体系安全是基础,包括软件、硬件等基础设施的供应安全,以庞大市场为基础的需求安全,应用部署安全等,需确保AI生态系统的独立性、完整性和抗攻击能力。数据安全是AI系统能否有效、高质量运行的关键。AI应用中广泛出现的错误与虚假信息、“信息茧房”、隐私泄露等问题也会对社会安全带来挑战。

针对上述问题,产业链上市公司正在行动。

“公司打造了以‘数据+AI’为核心,以‘应用场景’为依托的系列产品,形成了七大解决方案及产品线,其中就包括风险与合规产品线,涉及智能风控、监管报送等。公司信创及安全类产品也有利于降低信息安全风险。”法本信息相关人士在接受《》记者采访时表示。

永信至诚在投资者互动平台上称,公司发布AI大模型安全测评“数字风洞”平台,为AI大模型的持续演进和应用提供坚实的安全保障。在内容安全测评方面,平台借助检测插件,形成检测模板、检测场景分类和测评数据集,测评出各类安全风险;在系统安全测评方面,平台对目标系统进行深入的安全评估,帮助AI大模型系统迅速发现潜在的安全漏洞。

“除了在技术上推动AI系统的可解释性和可控性外,由于AI问题往往跨越国界,各方还应促进国际合作,建立全球共识,共享最佳实践。”洪勇如是说。

本届WAIC2024还发布了《人工智能全球治理上海宣言》,倡导共推发展、共护安全、共商治理、共汇民智、共享成果。呼吁各国加强交流和对话,推动人工智能更好地造福人类。

免责声明:该文章系本站转载,旨在为读者提供更多信息资讯。所涉内容不构成投资、消费建议,仅供读者参考。

最新内容

ad

热点内容