新华鲜报·慧见AI丨走好AI时代这三步——更“好用”、防“滥用”、求“善用”

新华社北京12月21日电 题：走好AI时代这三步——更“好用”、防“滥用”、求“善用”

新华社记者

从自主学习“进化”到模拟真实世界，2024年人工智能（AI）正在开启“裂变式”发展之路。业内最新预测认为，人类数据的增加速度开始跟不上AI的发展需要了。

是聊天搭子，也是工作帮手；能自动驾驶，还能分析病情——AI技术飞跃，始终伴随着千家万户的应用，也迅速为千行百业“赋能”。

专家提醒，AI“能用”更要“好用”，防“滥用”进而求“善用”，让更多人感受科技创新的速度和温度。

更“好用”：有望成为基础设施

76秒，是一辆小米SU7汽车走下流水线的平均时长。

从1016万种金属配方里，快速筛选出合适的车身材料；381个巨大机械臂灵活地焊接、装配，90多个物流机器人有条不紊穿梭……在AI“指挥”下，智能工厂正在成为现实。

0.235秒，是赛诺威盛CT机扫描一次的最快速度。

检查结果不仅能发现病灶，还能做肿瘤、神经、骨科、消化等方面预测分析……AI可以化身医生助理，提供多方位、可视化诊断。

从会看、会听、会说，到会学习、会行动、会思考，随着ChatGPT、Sora以及国内多个大模型相继问世，AI技术日益显现出颠覆性创新的特征。

甚至从0到1的创新，也可以借力。人工智能驱动的科学研究，正在成为一种新范式，应用于物理学、化学、生物学、天文学等多个领域。

在北京大学计算机学院教授、北京智源人工智能研究院理事长黄铁军看来，AI大模型将处理更复杂、更精细的任务，并产生意想不到的新能力，未来将像水网和电网一样，成为社会的基础设施。

“人工智能是新一轮科技革命和产业变革的重要驱动力。”中国科学院科技战略咨询研究院院长潘教峰说，其重要性不亚于第一次工业革命的蒸汽机、第二次工业革命的电机，以及信息社会中的计算机和互联网。

防“滥用”：安全技术加快研发

站在摄像头前，选择想“换脸”的模版，轻点鼠标，屏幕上立马出现另一个人，实时同步嘴型、表情和动作。

在中国科学院自动化研究所，记者体验了AI人脸伪造与反伪造系统。科研人员介绍，用AI“对抗”AI，这一系统也可以快速识别伪造的图片、视频。

滥用人工智能技术，AI换脸和拟声是“重灾区”。一年多来，内蒙古、陕西等多地曾发生此类电信网络诈骗案。犯罪分子通过AI换脸和拟声技术，冒充受害者的亲朋、同事，涉案金额高达上亿元。

中国科学技术信息研究所战略研究中心主任徐峰表示，除了恶意使用深度合成技术生成文字、音频、视频等，滥用人工智能的风险还包括引发学术造假、放大偏见歧视、技术不可控等。

近年来，包括我国在内，世界多国持续从政策法规、原则规范、技术标准、行业自律等多个维度，加强对人工智能技术的治理。

我国2017年制订的新一代人工智能发展规划明确提出，在发展技术的同时，也要建立相应的风险防范机制。

应对人工智能带来的安全风险，黄铁军认为，还需要加强对AI安全技术的研发与投入，有效应用技术手段，对潜在风险进行监测、识别、隔离、消除。

求“善用”：推动AI技术造福人类

不久前，“萝卜快跑”在武汉的订单大幅增长，“智能驾驶能否替代网约车司机”引发讨论。

今年7月，人力资源社会保障部将19个新职业、28个新工种纳入国家职业分类大典，智能网联汽车测试员、智能制造系统运维员等“数字职业”亮相。

AI技术迅猛发展，是加速“机器换人”，还是创造更多全新的就业岗位？如何既推动建立“以人为本”“智能向善”的发展生态，也为新技术安装上必要的“刹车”？

清华大学文科资深教授、国家新一代人工智能治理专业委员会主任薛澜表示，人工智能治理有两个核心内容：一个是发展问题，即如何构建良好的制度规则，推动人工智能创新发展、科技向善；一个是安全问题，包括保证安全底线和防范其他风险。

我国政府为此进行了大量工作，发布了《全球人工智能治理倡议》等立场文件。但对于人工智能全球治理的具体准则，国际社会尚未达成共识。

“处于智能时代的十字路口，我们要积极引领人工智能技术发展走向造福人类的正道。”潘教峰说。

来源：新华网