编译 | 张昀

编辑 | 高歌

智东西3月21日，据英国金融时报3月19日宣布，美国制药公司Collaborations Pharmaceuticals在探索中创造AI（人工智能）制药技能具有双重性。
如果“反用”（flip）机器学习模型，原来用来天生治疗药物的AI模型就会天生有毒的物质。

在Collaborations Pharmaceuticals公司团队反向利用机器模型后，新模型在6小时内就产生40000杀手分子（potential killer molecules），而且AI天生的化合物毒性比已知生化武器的毒性都高。
如果有人利用这项技能制造致命生化武器，后果将不堪设想。

一、AI模型6小时内可天生40000个潜在杀手分子

AI制药的规则很大略：有疗效的活动被算法褒奖，有毒的则被惩罚，这样就可以得到有效的药物。
但是如果改变这一规则，褒奖有毒行为，即“反用”AI，会得到什么呢?

Collaborations Pharmaceutical公司位于美国北卡罗来纳州，紧张通过机器学习确定罕见病及易忽略病的药物。
该公司通过反向利用机器学习模型，来探究AI天生分子算法的负面浸染。

制药事情职员（来源：Collaborations Pharmaceutical）

在AI天生分子的规则被反用后，AI接管了一组含有杀虫剂和环境毒素的初始分子的演习，开始打算如何调度能让所天生分子变得更致命。
剖析过这种方法所天生的分子后，科学家得到了惊人的结果。
在做事器启动6小时内，新的AI模型就可以天生40000个潜在的杀手分子，包括VX（一种被禁止的神经毒剂）。

修正后的AI模型还会天生其他化学战剂（用于战役的有极大毒性的化学物质）。
而且这些化学战剂没有一个在演习数据中。
个中一些化合物的毒性乃至比目前的生化武器毒性都高。

二、AI是杀手分子天生器？

当Collaborations Pharmaceutical的创始人Sean Ekins在一场会议等分享过AI制药模型的研究结果时，据伦敦大学国王学院科学与安全研究中央的联合主任Filippa Lentzos分享，当时听众们十分震荡。
Lentzos还谈道，只管AI制药的可能性是多样的，但是在生命科学领域，滥用技能是个可能会导致严重后果的问题。

Lentzos和Ekins互助研究了机器学习，这一研究在本月登上了顶级学术期刊Nature的子刊《Nature Machine Intelligence》。
《人工智能驱动的药物创造的双重运用》论文指出，科学家们通过用机器学习，能够把无害的天生模型从一个有用的医学工具变成了杀手分子的天生器。
AI模型天生的一些虚拟分子并不在已知化学品不雅观察清单，与现有的杀手分子也没什么相似。
这表明AI制药能创造出全新类别的、致命的生化武器。

论文链接https://www.nature.com/articles/s42256-022-00465-9

从事打算机和化学方面的技能职员，其知识和技能水平远超爱好者等业余人士。
若这些专业技能职员有恶意，那他们所做的事危害会更大。
在AI制药过程中，AI天生的分子仅是虚拟的药物配方，其制造常日须要外包给其他供应商业合成的公司，而这些公司受到的监管和监督都要更少。

目前，Collaborations Pharmaceutical已经删除了干系实验数据，并操持限定反向AI制药技能的利用。
化学领域的《海牙伦理准则》（The Hague Ethical Guidelines），提倡化学科学中的负任务行为。
Lentzos建议为从事以AI为重点的药物研发职员，制订类似《海牙伦理准则》的行为准则。

结语：AI制药技能或有副浸染

近年来，AI在生物医学领域的运用发展飞速，AI制药更是引起了国内外的成本热潮。
随着图像识别、深度学习、神经网络等关键技能的打破，AI在生物医药领域从科研到运用都取得了巨大进展。

在技能飞速发展的同时，可能的安全隐患并未得到办理。
本次，Collaborations Pharmaceutical公司的研究，表示了AI制药运用过程的双重性。
这也解释了利用AI制药技能快速发展的同时要意识到其潜在的危急。

来源：英国金融时报