在网络安全的背景影响下,机器智能(MI)同时面临着机遇和风险。
机遇方面,利用机器人过程自动化的速度和效率来自动化风险管理的某些方面可以使得更加积极有效地识别、环围(ring-fence)和破除(或替代性地擦除)潜在威胁成为可能。利用机器智能来支持网络系统可能有助于扩展数据分析和处理,以有意的方式对这些工具识别的风险采取自动化行动。
机器智能在这一领域的功效可以通过预测风险和网络模型进一步增强,将其数据挖掘网进一步扩展到很大程度上并未开发的领域,如深度网络,并应对可能遇到的非传统威胁。
公司还可以利用机器智能来推动渠道活动、战略和产品设计。例如,使用深度学习等功能,销售团队可以根据社交媒体网站、公共记录和其他在线资源中提供的信息构建相当详细的用户画像。这些信息可以帮助销售代表确定有希望的潜在客户以及个别客户可能需要的特定产品和服务。
但是机器智能的客户分析能力有一个潜在的缺点:这些相同的应用程序可能会造成网络漏洞。机器智能的推断可能引入新的风险,特别是当推断有缺陷时。通过创建相关性,机器智能还可以生成呈现隐私问题的衍生数据。最终,公司应该基于推论和相关性来审查衍生数据。
事实上,随着自动化发挥出作为效率和成本节约的驱动力的全部潜能之后,许多人正在讨论更广泛的伦理和道德问题。人类目前进行的自动化变革对社会、经济和个体组织接受机会的方式有什么影响?你的公司将如何管理可能与激进的自动化计划相铺相成的品牌和声誉危机?同样,你的组织能否在被称为「后工作经济」(「the post-work economy」)的时期长期保持发展?
最后,风险讨论应该解决许多机器智能技术的「黑盒子」现实。在这一点上,可能无法清楚地解释如何或为什么作出某些决定和建议。虽然算法透明度在持续提升,并可能最终推动开发出用于审计、理解假设、观察模式和解释结论是否合理的手段的新方法,尽管这些方法目前还不存在。直到他们做了,才努力确定缺乏透明度可能成为一个(法律、声誉或制度)问题,并对你的计划作出相应调整。
当我们进入这些未知领域,首席信息官、首席执行官和其他领导者应该谨慎地平衡股东价值的驱动力与未来几年内可能大量来自声誉、安全、金融和其他方面的潜在风险。