2021年，神经科学AI有这几大趋势

新的一年正在向我们招手。延续优良的革命传统，是时候发布最新的AI专家预测报告了。受访专家将根据自己的感受和知识、实验室发现和企业趋势，为我们预测新一年人工智能技术的发展方向。

二话没说，我们马上进入这个预测的话题。

Arash Rahnama博士， Modzy公司应用AI研究负责人：

正如AI系统的进步发展迅速一样，敌人欺骗AI模型诱导其做出错误预测的能力也在不断增强。深度神经网络容易受到其输入材料(对抗AI)施加的微妙对抗因素的干扰，人眼几乎无法感知材料中的异常。这种攻击无疑会给任务关键型环境中人工智能模型的成功部署带来巨大风险。按照目前的发展速度，除非组织立即在AI安全工作中建立主动对抗防御体系，否则2021年很可能成为重大AI安全事件频发的第一年。

2021年也将是全面实现可解释性的一年。随着组织对人工智能方案的不断整合，可解释性将成为机器学习管道中建立用户信任的核心前提。只有认真理解机器学习基于真实数据做出判断的基础，才能在人与模型之间建立可靠的信任关系。相反，我们将对基于人工智能的决策没有信心。总之，可解释性将在人工智能应用的下一阶段发挥重要作用。

前面提到的可解释性和对抗性攻击训练方法的结合，也将带来人工智能领域的新革命。可解释性将帮助我们知道哪些数据会影响模型预测，尤其是偏差的原因——，并且这些信息可以用来训练具有更强稳定性、更高可靠性和足够抗攻击性的鲁棒模型。这种关于模型运行原理的战术知识，将有助于我们从整体上提高模型的质量，保证模型的安全性。AI科学家将重新定义模型的性能，不仅涵盖预测精度，还包括不确定环境变化的判断偏差、鲁棒性和一般能力。

Kim Duffy博士， Vicon公司生命科学产品经理

只看未来一年，我们很难准确预测人工智能(AI)和机器学习(ML)的发展趋势。例如，在临床步态分析中，研究人员关注患者的下肢运动，以确定街道和跑步障碍的根本原因。在这方面，AI、ML等技术的应用还处于起步阶段。维康公司在我们最近的报告《对人类运动的深入了解》中强调了这一点，并提到使用这些方法在临床步态研究中取得进展至少需要几年的时间。有效的AI和ML方法需要大量数据的补充，才能用合适的算法有效训练模型的趋势和模式识别能力。

2021年，我们可能会看到更多的临床医生和生物力学研究者在数据分析中使用AI和ML方法。在过去的几年里，我们在步态研究领域看到了越来越多的AI和ML学术文献。相信这一趋势在2021年会持续下去，临床和研究组之间会进行更多的合作，从而开发出有助于自动解读步态数据的机器学习算法。最后，这些算法有望加快在临床层面提出干预措施的速度。

需要再次强调的是，机器学习的实际成果和好处不太可能在这么短的时间内显现出来。然而，在处理步态数据时，我们仍然会越来越多地考虑和采用这些方法。比如最近步态与态度研究协会会长就讨论了定量运动分析的临床影响，说要利用机器学习等基于大数据的方法，提高定量步态分析的研究效率，进而为临床决策提供更全面的解释思路，减少主观因素。步态和临床运动分析学会也称赞AI/ML是一种新的技术组合，这也将鼓励更多的临床研究小组将其纳入研究范围。

Joe Petro, Nuance Communications公司CTO

2021年，AI技术将逐步退出炒作周期，AI解决方案未来的承诺、主张和发展愿景将更多地体现在可论证的进步和可量化的产出上。因此，更多的组织将投入更多的精力解决具体问题，并有效地构建解决方案，以提供可转化为实际投资回报的结果，而不是停留在PPT演示或研发上；研发；d .新的一年，谁能帮助客户有效解决急需应对的复杂性挑战，谁就能在AI/ML领域保持竞争优势。这一客观现实不仅会影响研发；d科技企业的投资方向，也影响着科技从业者在规划自己的学习路线和职业生涯时的实践思维。

随着AI在技术领域各个层面的不断渗透，人们会越来越关注AI的道德问题，对AI产生意想不到的偏颇结果时所暴露出的深刻内涵有着深刻的理解。消费者将更多地了解他们的数字足迹，以及他们的个人数据是如何被交互系统、行业和品牌使用的。这意味着与AI供应商合作的公司需要更加重视对客户数据处理方式的审核，同时要确定是否存在利用个人数据牟利的第三方行为。

Max Versace博士， Neurala公司联合创始人兼CEO

在新的一年里，我们将能够用更便宜、更小的硬件部署人工智能解决方案。2020年是充满动荡的一年。面对不可预测的经济前景，以往资金密集型的复杂解决方案将不可避免地转向轻量级(或许只体现在软件层面)低成本的解决方案。这种方式将有助于系统

人类也将把注意力转向人工智能“为什么”会做出自己的判断。在讨论AI的可解释性问题时，大家普遍比较关注偏见及其他道德问题。但随着AI的发展，在结果变得更为精确、可靠的同时，人们也会更多质疑AI做出判断的依据。我们不可能完全相信自己无法理解的自动系统。以制造场景为例，AI不仅需要准确判断产品属于“良品”或者“次品”，还要拿出令人信服的理由。只有这样，人类操作员才会对此类系统建立起信心与信任感，最大程度与其建立合作。

新的一年，新的预测。一切展望的答案，都将在来年揭晓；准确与否，让我们拭目以待。

最后，祝大家新年快乐！