加快推动人工智能发展(AI前沿观察)

发布时间:2024-04-17 05:28:38 来源: sp20240417

  在第二届全球数字贸易博览会数字技术馆,观众了解一款AI生成图像的AIGC智能平台。   新华社记者 刘岭逸摄

  在浙江省宁波市北仑区生态环境监测AI智能实验室,数字化智慧信息管理平台全程动态跟踪和分析结果显示。   蒋晓东摄(人民图片)

  日前举行的中央经济工作会议指出,2024年要“加快推动人工智能发展”。当前,人工智能(AI)已广泛渗透到各行各业,从医疗保健、交通运输,到教育培训、娱乐休闲等。那么AI技术有哪些新趋势,未来该如何更安全地发展?2023年12月27日,AI发展与治理创新研讨会在北京举行,与会专家与相关从业者围绕AI技术创新发展进行了分享与讨论。

  新模式新业态不断涌现

  “人工智能已成为引领产业发展、驱动经济增长、连接全球合作的重要新兴技术方向。”中国电子技术标准化研究院信息技术研究中心主任范科峰认为,当前,AI技术新模式新业态不断涌现,产品和服务逐渐完善,在经济社会各领域广泛应用,与实体经济融合持续深化,正深刻改变着人类的生产生活方式。

  在研讨会上,多项AI技术在各领域实际应用的案例令人眼前一亮。

  AI技术能帮人更好地做生意。对从事家具外贸电商业务的黄凯来说,他的日常工作就离不开AI技术的帮助。“过去,要上架一款家具,我们得先完成设计、做出样品,再进行产品拍摄。这个过程不仅时间长,而且花费的成本也很高。但现在,有了AI技术的帮助,只需要输入数据,就能很简单地做出产品图,并且能随意模拟产品在客厅、商场等不同场景下摆放的效果,效率得到了极大提升。”此外,AI技术还帮助黄凯的公司降低了招聘运营人员的难度。据黄凯介绍,以前,从事外贸生意对运营人员的外语水平、工作经验要求较高,但有了AI工具做辅助,新员工也可以很快上手完成工作了。

  在医疗领域,AI技术大有用武之地。胰腺癌是一种生存率较低的恶性肿瘤,并且早期筛查容易出现漏诊或误诊。现在,来自浙大医学院附属第一医院、复旦大学附属肿瘤医院的医学团队,已开始采用“平扫CT+AI”的方法,进行大规模胰腺癌早期筛查。在2万多人的真实病例试验中,发现了31例临床漏诊病变,其中2例早期病患很快就完成了手术。该项研究成果也已发表在国际医学期刊上。

  在影视制作领域,AI技术未来可期。阿里大文娱团队借助AI技术,在虚拟拍摄、数字人、超高清视听体验等领域取得了创新突破。相对传统制作方式,借助虚拟拍摄,制作效率可以提升40%。“很多过去想到但做不到、甚至创作者也没想到的场景,都在AI的助力下呈现在我们的面前。可以预见,AI技术将全面提升中国影视制作的水平。”阿里巴巴科技伦理治理委员会委员薛晖说。

  风险与挑战不容忽视

  随着AI技术的快速发展,技术风险、隐私保护等安全问题也愈加受到关注。在研讨会上,阿里巴巴集团与中国电子技术标准化研究院联合发布了《生成式人工智能(AIGC)治理与实践白皮书》,系统分析大模型和AIGC主要风险,并从应用角度提出针对性治理建议和可操作性实践方案。

  所谓生成式人工智能是指基于人工智能的技术方法,通过对已有数据的学习和识别,生成相关内容的技术。中国科学院信息工程研究所技术副总师韩冀中认为,这项技术最主要的特点,是改变了信息的生成方式和信息的获取方式。“每一次信息获取方式的变化,都会带来整个信息产业的变革。比如我们早期获取信息可能通过黄页,后来是搜索引擎,现在有了更新的渠道,即ChatGPT这样的技术,会让整个信息产业产生巨大变化。”

  阿里巴巴人工智能治理和可持续发展研究中心首席科学家何源认为,生成式人工智能技术应用中,可能存在的安全风险与每个人息息相关。据何源介绍,生成式人工智能可以通过交互的方式低成本、快速地生产内容,比如可以很容易地生成并传播谣言,这给内容安全的防控带来了新挑战。在隐私和版权方面,大模型应用的海量互联网数据,很难逐一确认样本授权,容易造成隐私泄露和侵权问题。另外,生成式人工智能还降低了很多专业领域的技术门槛,有可能被滥用于黑客攻击、网络犯罪等。因此,业内专家认为,建立相关安全治理体系十分必要。

  “多元协同、开放共治”

  为规范生成式人工智能技术发展,2023年7月,国家网信办联合多部委公布了《生成式人工智能服务管理暂行办法》。

  该《办法》一方面明确鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。同时,也明确“生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形;采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性”等。

  在研讨会上,多位专家就生成式人工智能的安全治理提出自己的观点。

  中国电子技术标准化研究院信息技术研究中心副主任董建提到,当前,国内外都在推动研发生成式人工智能的治理工具,但如何通过技术深层次解决治理问题,尚需进一步探索。

  中国人工智能产业联盟安全治理委员会专委会副主委潘恩荣认为,生成式人工智能对人类的经济社会发展观念带来了巨大冲击,规范其发展“宜疏不宜堵”。一方面,必须克服各种恐惧和臆想,克制“堵”的冲动;另一方面,要在实践中,小步快跑地迭代出各种“疏”的方式。

  复旦大学计算机科学技术学院教授张谧指出,科技行业应该负责任地发展AI,兼顾AI发展和风险管控。现在全球范围内有AI竞赛的氛围,各方应该立足长远,携手营造有序竞争,保障AI技术发展处于安全区域。

  “关于AI,我们不知道的比知道的多,难以想象的比可以预测的多。”薛晖表示,生成式人工智能带来了前所未有的挑战,需要前瞻性地应对,“多元协同、开放共治”是AI发展和治理的必经之路。

(责编:赵欣悦、袁勃)