2015年，“互联网+”一词首次被写入《政府事情报告》；2017年，“人工智能”一词首次涌如今《政府事情报告》；2019年，“智能+”一词首次被写入《政府事情报告》；2024年，《政府事情报告》不仅三次提到“人工智能”，更首次提出了开展“人工智能+”行动，强调“深化大数据、人工智能等研发运用，开展‘人工智能+’行动”，促进人工智能为新质生产力供应核心驱动力。
当前，人工智能创新成果不断呈现，发展前景日益广阔，在医疗、教诲、制造业、金融等各个领域广泛运用，对经济社会发展产生深远影响，成为国家安全的新兴领域。

人工智能创造发展机遇的同时，一系列安全寻衅也随之产生，小到个人隐私透露和数据保密性差等问题，大到事关国家安全格局的潜在风险寻衅。
据统计，2023年基于AI的深度假造敲诈暴增了3000%，基于AI的钓鱼邮件数量增长了1000%。
人工智能已成新型攻击工具，干系的网络攻击频次越来越高。

2024年1月4日，2024 ASC天下大学生超级打算机竞赛（ASC24）启动会现场。
新华社 温竞华 摄

——人工智能内生的技能安全风险。
一是算法模型风险。
算法是人工智能的核心，存在安全风险隐患，可能导致数据透露等安全问题。
算法模型具有模型的准确性与鲁棒性的抵牾毛病，鲁棒性提高可能导致模型准确性低落。
二是“数据投毒”风险。
“数据投毒”指的是在人工智能演习数据中攻击者投放虚假、恶意或有害样本数据，导致模型演习涌现缺点结果，从而降落了数据的可靠性与真实性。
三是数据盗取风险。
人工智能进行海量数据的处理和演习，数据获取和传播便捷性提高的同时，信息的安全风险问题更加突出。
一些涉及用户敏感信息的数据一旦被盗取，个人隐私权就会遭到陵犯。
人工智能乃至成为不法分子用来盗取国家机密的工具，对国家安全造成严重危害。

——人工智能衍生的运用安全风险。
一是经济安全风险。
人工智能技能在一定程度上会成为人力事情的“高效替代品”，进而对国家经济安全、社会安全乃至政治安全造成冲击；人工智能技能也可以被用来履行经济毁坏活动，例如通过操纵宣扬导致金融市场惶恐。
二是网络安全风险。
人工智能成为不法分子进行网络攻击的“帮凶”。
网络攻击的手段更加多样，暗藏性和针对性更强，引发一系列亟待应对的网络安全寻衅，互联网空间逐渐变成大家自危的“潘多拉魔盒”。
三是伦理道德安全风险。
受主不雅观和客不雅观等多种成分影响，人工智能技能带来一系列伦理道德安全风险，包括道德算法风险、道德决策风险和隐私数据透露风险等。

***总布告强调：“要加强人工智能发展的潜在风险研判和戒备，掩护公民利益和国家安全，确保人工智能安全、可靠、可控。
”如何在把握人工智能发展主动权的同时处理好相应的安全风险，并为国家安全筑牢科技防线，已经成为我国国家安全管理亟需办理的议题。

2024年3月29日，不雅观众在2024中国医学装备展览会上参不雅观手术机器人。
新华社 王全超 摄

青年是天下的未来，青年强则天下强，青年兴则环球兴。
人工智能时期，青年科技事情者、青年西席、青年学生等新时期青年要坚持总体国家安全不雅观，责无旁贷地担当起培植和守卫人工智能安全的历史义务！

——青年科技事情者要深化人工智能安全防御。
AI带来的安全问题，也可以用AI来办理。
一是青年科技事情者要积极致力于构建AI技能的智能安全防御系统，通过前辈的防御技能，更有效地预测、跟踪和阻挡网络攻击。
同时，及时关注用户需求反馈，通过用户调研、测试等办法，针对性地探索模块化和可视化的方法，不断优化AI系统的可阐明性，以提升人工智能系统的安全防护能力。
二是青年科技事情者要助力构建“安全的AI”，通过选择得当的代价不雅观，将代价不雅观编码到AI系统中，并选择得当的演习数据，使得AI系统的目标和人类的代价不雅观与利益保持同等。
同时，通过引入噪声鲁棒演习，向数据中注入噪声并逼迫网络处理这些噪声，使得模型对付噪声数据具有更好的适应性，从而提高AI模型的鲁棒性与安全性，使其更好地做事于实际运用。
三是青年科技事情者要积极参与人工智能设计和开拓，研究各种潜在的攻击办法和漏洞，理解黑客如何利用技能漏洞进行恶意操作，并据此更好地预防和应对潜在的安全威胁。

——青年西席要强化人工智能安全引擎。
一是青年西席要增强自身人工智能安全素养，积极学习人工智能安全干系知识和技能，理解人工智能的安全风险、攻击办法，并节制其应对策略。
通过不断学习和更新人工智能安全知识，更好地理解人工智能安全问题，为人工智能安全教诲传授教化奠定踏实理论根本。
二是青年西席要在传授教化实践中看重培养学生的人工智能安全意识和干系技能。
结合详细案例和自身实践履历，向学生教授人工智能安全知识，勾引学生树立精确的人工智能安全意识，节制人工智能的安全防护策略。
三是青年西席要密切关注人工智能安全领域的干系法律法规、政策文件和伦理规范，自觉遵守干系规定哀求，推动人工智能的安全运用符合政策法规和道德标准。

——青年学生要守护人工智能安全边陲。
一是青年学生要加强人工智能干系知识的系统学习。
通过算法模型、机器学习等人工智能根本理论学习，深入理解人工智能的事理和运行特点。
通过学习打算机安全、网络安全等干系知识，判断人工智能的潜在风险和节制常见的防御技能。
通过阅读人工智能安全领域的学术期刊，理解该领域政策与法规等，获取人工智能的最新研究成果与研究进展趋势。
二是青年学生要增强人工智能干系能力素养。
一方面要增强人工智能运用意识。
对人工智能秉持积极开放的态度，在合乎道德和法律的框架内，遵照一定的学术规范，科学合理利用人工智能，规避人工智能安全风险等潜在问题。
另一方面要提高人工智能安全意识。
在利用智能工具的同时，要具有对个人隐私的自我保护能力，进行隐私保护设置，防止隐私信息透露。
还要深刻认识到人工智能自主可控技能对国家安全的主要性，重视人工智能安全，尊重他人知识产权，并进行自我约束。
三是青年学生要提升人工智能运用能力，积极参与人工智能安全科研项目，打仗人工智能干系研究，深入理解目前人工智能安全面临的实际寻衅，研判和戒备人工智能的潜在风险，为确保人工智能安全贡献青春力量。

作者：冯赵建 籍祥 河北工业大学马克思主义学院副教授、河北省马克思主义中国化研究基地研究员