在演讲中，他提出一个技能主见：探索人工智能45°平衡律（AI-45° Law）。
即从长期的角度来看，须要找到AI安全优先，但又能担保AI性能长期发展的技能体系。

周伯文在发言中提到，沿着这个思路，上海AI实验室最近正在探索一条以因果为核心的路径，取名为“可信AGI‘因果之梯’”。

周伯文将可信AGI的“因果之梯”发展分为三个递进阶段:泛对齐、可干预、能反思。
详细而言，“泛对齐”紧张包含当前最前沿的人类偏好对齐技能；“可干预”紧张包含通过对AI系统进行干预，探究其因果机制的安全技能；“能反思”则哀求AI系统不仅追求高效实行任务，还能核阅自身行为的影响和潜在风险，从而在追求性能的同时，确保安全和道德边界不被打破。

周伯文表示，目前，AI安全和性能技能发展紧张勾留在第一阶段，部分在考试测验第二阶段，但要真正实现AI的安全与性能平衡，我们必须完善第二阶段并勇于攀登第三阶段。

去年5月，国际上数百名AI科学家和"大众年夜世人物共同签署了一份公开信，表达了对AI风险的担忧，并呼吁该当像对待盛行病和核战役等其他大规模的风险一样，把戒备人工智能带来的风险作为环球优先事变。

"大众年夜众对AI风险的担忧，首先是数据透露、数据滥用以及版权争议，其次是恶意利用AI带来的深度假造、虚假信息等利用风险，AI还有可能诱发偏见、歧视等伦理问题，并且对就业市场等带来系统性寻衅。

周伯文认为，有这些担忧的根本缘故原由是目前的AI发展是失落衡的。
“比拟一下，从研究是否体系化，以及人才密集度、商业驱动力、算力的投入度等方面来看，在模型安全能力方面的提升，还远远掉队于性能的提升，这种失落衡导致AI的发展是跛脚，不屈衡的背后是二者投入上的巨大差异。
”

公开资料显示，2017年周伯文从IBM公司离职返国，加盟京东担当副总裁，卖力京东AI研究与平台部干系业务，后来还担当京东技能委员会主席。
2021年，周伯文离开事情4年的京东，投身AI创业，成立大模型公司衔远科技，聚焦电商领域的天生式AI落地。

今年四五月份前后，坊间有传出，衔远科技创始人周伯文已经不再主持公司事务，另有去处。
在WAIC 2024上，周伯文的新身份底细毕露，接任去年12月中因病去世的汤晓鸥主持上海人工智能实验室事务。

九派财经郭梓昊 黄依婷 上海宣布

【来源：九派***】

声明：此文版权归原作者所有，若有来源缺点或者陵犯您的合法权柄，您可通过邮箱与我们取得联系，我们将及时进行处理。
邮箱地址：jpbl@jp.jiupainews.com