“MeToo”的成长:科学家开拓AI智能来检测邮件和聊天中的性骚扰_人工智能_机械人
在针对好莱坞制片人哈维·韦恩斯坦(Harvey Weinstein)的指控引发了一场备受瞩目的运动后,这种被称为“MeTooBots”的机器人可以监视和标记同事之间的通信,目前天下各地的公司都在推出这种机器人。
机器人制造商表示,要教司帐算机骚扰是什么样子是不随意马虎的,由于它有着奇妙的措辞和灰色的线条。
芝加哥人工智能公司Nex先容说,该机器人利用一种经由演习的算法来识别公司文件、电子邮件和谈天中潜在的欺凌行为,包括性骚扰。人工智能会剖析各种指标的数据,以确定问题涌现的可能性有多大,只要人工智能认为存在潜在问题,就会将其发送给状师或人力资源经理进行调查。
究竟哪些指标被视为危险旗子暗记仍是公司的秘密,但Nex公司表示,该机器人在不断学习如何创造骚扰的同时,还会在措辞、频率或韶光上探求不同平凡的互换模式。
Nex公司表示:“目前金融做事、制药等多个行业的客户对此都很感兴趣。”
哈佛大学(Harvard)和麻省理工学院(MIT)人工智能讲师布赖恩•苏比拉纳教授表示,只管这些机器人的能力有限,但利用人工智能拔除骚扰的想法很有前景。
“有一种骚扰非常奇妙,很难察觉。我们在哈佛有这些(关于骚扰的)培训课程,它须要人工智能尚未具备的那种理解,”他表示。
潜在的问题是,人工智能只能可靠地进行基本的故事剖析,这意味着它被教会探求特定的触发点。它不能超越这个参数,也不能理解更广泛的文化或独特的人际动态。这意味着,机器人可能会留下漏洞,或被证明过于敏感。
“我们不知道人工智能什么时候会冲破‘故事理解’的边界,”苏比拉纳说。
他补充说,如果员工的信件被标记,可能会造成一种不信赖的氛围,违规者可能会学会如何欺骗软件。或者,罪犯可以乞助于其他不受机器人监控的通讯媒介。
另一个问题是保护网络的数据的机密性。如果软件出了错,数据被透露,员工之间的内部通信可能会被竞争对手看到。
公共安全专家们则对此不太乐不雅观:我们想仔细看看技能如何发达,是谁,和方法是否明智的职场文化来寻求防止骚扰促进平等,还是事实上只是另一种办法来掌握员工。
而且,这涉及到员工的隐私,可能会被滥用。他们建议教诲员工精确的态度和行为,这将更有效地保护潜在的受害者。
只管存在这些问题,Nex公司认为MeTooBots可以供应间接的好处:可以想象它是一个演习程序办法,能供应一个(有问题的信息)数据库。
此外,相信通讯被监控,可以让人们更不随意马虎骚扰同事,这便是所谓的“霍桑效应”(Hawthorne effect),这里有预防成分。
另一家人工智能初创公司Spot开拓了一款谈天机器人,员工可以通过它匿名举报性骚扰指控。它被演习为供应建媾和提出敏感问题,以便进一步调查所谓的骚扰,这些骚扰可能是通过数字或物理办法进行的。Spot的目标是填补人力资源团队在敏感地处理此类问题的能力上的差距,同时保持匿名性。
这些不同的人工智能可以协同事情,更有效地检测事情场所的性骚扰。像Spot这样的工具可以在状师或人力资源职员参与之前支配。如果展开全面调查,就可以剖析其数字通信,从而备案。
但是无论“超机器人”变得多好,我们都认为它们是人类的助手,安全专家末了说到:打算机不是代价判断,它们只是判断“这不符合模式”,那么终极还是须要人来阐明了。
本文系作者个人观点,不代表本站立场,转载请注明出处!