未来的挑战:让人工智能安全

随着社会会谈更多关于人工智能和发挥的作用在我们的未来,一个关键问题,NXP是看如何让AI和ML安全开发流程?

在NXP,我们为我们的硬件开发一个函数从正式的需求由我们的客户。对于这些要求,我们首先清单一些已知输入——这些用例。一个用例可能是一个雷达传感器的位置已经在车里(前置角),电动汽车电池的工作电压或屏幕的数量在一个汽车的驾驶舱。我们可以定义设计和验证函数的行为我们预计不只有在模拟,但也在该领域。在这个领域我们无法控制函数会有什么作为输入,因此我们设计我们的功能尽可能的在选择的用例。

但是当我们讨论人工智能这一点变化。我们还定义用例,但现在我们分配给每一个明确的定义,non-ambiguous输出。这是给电脑,然后定义了函数。这个过程可以称为训练学习的例子。我们教计算机提供我们所需要的反应。

一旦机器训练用例,我们这些知识转移到我们的设备,它适用于他们与看不见的数据字段。这就是所谓的推理。这个过程的关键区别和non-AI过程,是工程师不一定了解函数本身,因为我们在过去所做的那样。

这意味着我们需要评估和调整行为,直到输出匹配我们最初的预期。这个调整过程发生在云高计算设备,不是在边缘。

什么是安全的AI /毫升?我们为什么需要它?

AI和ML将进入汽车安全的功能,它将是必要的,以确保没有违反安全的目标。如果你想想AI和毫升在汽车行业的背景下,汽车OEM的问题是理解风险和可能的伤害人类的水平从给定函数。所以,函数定义为避免系统故障并减少随机故障。我们处理这些需求与安全管理流程和我们的安全架构,允许设备监控human-managed发展。

然而,就在我们现有的开发过程将是不够的,因为培训和推理本质上是不同的。因此,我们需要定义不同的问题语句。首先,我们需要了解,如果训练数据是免费的从系统的缺点。我们还需要知道如何创建的人工智能模型。它创建不必要的偏差,可能导致系统故障?最后,在推理,从随机故障模型的执行是免费的吗?

这一块,毫升保证进场。毫升保证涉及完整性、正确性和一致性的培训和评价步骤。它涵盖了所有的顶级安全流程+数据管理。这是为了确保所使用的数据是正确的,完整的和没有偏见。

在推理层面,安全机制确保硬件的完整性。这些可以是任何形式的硬件核心。经典的安全机制与ECC /平价,因循守旧和流量监控功能是增强安全包装器运行额外的检查和测量的数据安全性能统计。

NXP的白皮书道德的算法看着NXP如何看待人工智能发展的完整和安全,安全和透明可靠的人工智能。我们有专门的软件汽车eIQ^®帮助开发人员评估、优化和训练模式部署到我们的目标。这帮助我们继续使模型更加健壮。

探索更安全nxp.com/functionalsafety。