人工智能的发展对人类社会的影响是多方面的，包括经济、隐私、伦理、社会不平等等。
以下是一些关键点：12

经济影响。
人工智能+（AI+）正在成为一种新的经济业态，对多个行业产生了深远的影响，助力技能和家当的进一步发展。
人工智能家当被认为是具有前景的家当，成为了新的独角兽集中地。
1隐私和伦理问题。
人工智能技能的发展和运用引发了对个人隐私和肃静的陵犯担忧。
例如，面部识别软件和社交媒体数据剖析可能导致个人信息的滥用。
此外，人工智能系统的设计和利用可能受到人类偏见的影响，导致系统偏差和歧视。
2社会不平等。
人工智能的发展可能加剧社会不平等，一方面提高生产效率和企业效益，另一方面也可能导致部分人群失落业或收入低落。
技能垄断可能导致贫富差距和社会撕裂。
技能演进。
新一代人工智能技能正在不断演进，从CPU架构转向GPU+AI芯片并走运算架构，从单一算法驱动转变为数据、运算力、算法复合驱动，从封闭的单机系统转变为快捷灵巧的开源框架。
这些技能进步加速了人工智能在各个领域的运用。
3人才储备和技能积累。
虽然中国在人工智能学术成果上占环球一半以上，但在人才储备和技能积累方面仍掉队于环球一流水平，这可能制约人工智能的进一步发展。

据英国《新科学家》周刊网站1月4日宣布，科学家称，人工智能有5%的可能性导致人类灭绝。
许多人工智能（AI）研究者认为，超人类人工智能的发展有可能导致人类灭绝，但对此类风险也存在广泛的不合和不愿定性。
这些创造来自对2700名人工智能研究者的调查结果，他们最近在6场顶级人工智能会议上揭橥了研究成果——这是迄今规模最大的此类调查。
这项调查让参与者分享他们对未来人工智能技能里程碑的可能韶光线，以及这些造诣的社会影响是好是坏等的意见。
将近58%的研究者说，他们认为发生人类灭绝或其他与人工智能干系的极度糟糕后果的可能性为5%。

在没有任何超人类人工智能风险的情形下，还存在一些更紧迫担忧。
绝大多数人工智能研究者认为，涉及深度造假、操纵舆论、基因工程武器、对人口履行独裁掌握和经济不平等日益恶化等的人工智能驱动场景令人严重或极度担忧。
托雷斯还强调了人工智能在景象变革或民主管理恶化等生存问题上助长虚假信息的危险。

问题一：AI会让人类灭绝吗？

南京航空航天算夜学网络与人工智能法治研究院副院长李宗辉：从表面上看，“灭绝人类”有点骇人听闻，但从长远看，它有一定的道理。
人无远虑，必有近忧，这封公开信的签署者很多是AI领域的科学家、技能职员和商业人士。
显然他们是洞悉了AI在未来有可能产生自主意识。

从某种意义上来说，AI一旦产生了自主意识，它就会成为一个与人类并驾齐驱的“物种”。
那就一定会演化成在社会有限资源当中，与人类为了生存和发展进行竞争的这样一种存在。

从这个意义上来说，把它与盛行病和核战役相提并论，就不显夸年夜或极度了。
乃至人工智能对付人类灭绝的威胁，可能比盛行病和核战役有过之而无不及。
像新冠疫情、黑去世病等，自然界在一段韶光之内会自动生发出一种抑制机制。
而核战役，我们有核不扩散条约，核资源是可以靠人类进行掌握的。
但是如果AI产生了自主意识，那么对付人工智能体，我们既无法指望自然界生出一种抑制机制，更无法指望人类主体可以去掌握他们。

浙江大学打算机科学与技能学院教授陈华钧：我个人比较附和互联网预言家、杂志主编凯文·凯利的不雅观点，对付新生的技能，该当过个5000天再来监管，当然对付GPT这类发展迅速的技能，可能5000天韶光过长了。

我不认为AI能灭绝人类。
实在，在人类移民火星、对抗自然界的病毒，以及治愈癌症这些重大事宜上，我们非常须要AI的大力帮助。
AI并没有那么恐怖，但任何事物均有利有弊，以是我们该当鼓励发展，但要逐步加强监管。

中国科技大学教授、中国人工智能学会人工智能伦理与管理工委会主任陈小平：纯挚从技能角度看，研发比GPT4更强的AI，技能本身不会有太大的危害。
AI技能带来的负面影响，大多是在实际运用中发生的。
如果把它“封印”在笼中，比如仅在实验室中研究和测试，它不会产生严重的社会性后果。

眼看着AI一起狂飙，特殊是大模型技能，亟需人为的约束和管理。
它要发展得好，一是靠技能的进一步完善，二是靠人工智能伦理管理。

如果等危害发生了，比如勾引AI出坏主张造成严重的胆怯事宜，或者短期内造成大面积失落业，人们再来管理，其后果很可能是难以接管的。

浙江大学打算机学院教授汤斯亮：“灭绝人类”的不雅观点比较激进，但对人工智能确实该当保持谨慎态度。
考虑风险是有必要的，比如做一些风险预防的预案，但是否须要踩刹车，属于仁者见仁智者见智了。

至少目前来看，人工智能对工具调用的风险还比较初步，对它毁灭人类的能力实际上还处在一个假想状态，当然这种状态已经比过去任何时候都更加真实。

问题二：要停息AI大模型研发吗？

南京航空航天算夜学网络与人工智能法治研究院副院长李宗辉：我个人以为目前至少该当是停息，虽不能永久停滞超大规模的AI研究，但在人类系统性地完成从研发到运用到审查这一套管理规范体系之前，无论法律上还是伦理上，我们可能还是该当停息干系研究。

从算法视角上看，我个人认为可控、可信、可追溯这些特点最主要，只有科技职员确信对付超大规模措辞工具的研究能做到这几点，开拓才能够连续，当然还是在伦理和法律规范先行的情形之下。

但事实上这样的事情绝非易事。
国家标准化管理委员会等部门曾经出台过新一代人工智能技能标准培植的指南，个中包含了对付人工智能安全和伦理标准的培植内容。
但目前还没有任何有关人工智能安全和伦理的技能标准正式出台，这表明实际事情是很艰巨的。

浙江大学打算机科学与技能学院教授陈华钧：对付停息AI大模型研发，我持反对态度，由于停息险些是不可能的。
实际上，GPT模型的大部分技能点都可以从公开文献中获取，而且有算力就能实现。
这不像核武器，纵然你懂怎么造，也得得到质料才行，我认为完备停息AI研究是不现实的。

实在，国产开源的大模型，最早是由几个本科生演习出来的，技能难度并不大。
但要做得像GPT一样高质量的大模型，须要足够多的算力和大量工程技巧。
与其考虑是否要停息，我们更应该多花点心思在如何立法，以及如何加强监管方面，提早做一些准备，往后或许会要用AI来监管AI。

中国科技大学教授、中国人工智能学会人工智能伦理与管理工委会主任陈小平：面临人工智能的飞速进展，当下管理的模式、管理的方法都没有跟上。
如果此时再推出更强大的AI，很有可能带来更严重的隐患。

从这个角度，有人选择停息一下，等新的管理模式和方法出台往后，再来有序研发，不失落为一种更稳妥的办法。

我们现在须要尽快建立人工智能伦理管理的新的模式、新的办法。
办法有了，技能就可以放心地利用，不会发生严重的恶性后果，也有利于人工智能的康健发展。