TensorFlow安全性？ TensorFlow中的5个主要漏洞

本文概述

TensorFlow的安全性包括重大问题, 例如作为程序的TensorFlow模型, 如何运行不受信任的模型以及如何接受不受信任的输入。

TensorFlow有其运行时系统, 该系统解释并执行其程序。 TensorFlow中的程序被编码为计算图, 并将参数分别存储为检查点。

在运行期间, TensorFlow使用给定的参数执行计算图。图表的行为可能会根据设置的更改而改变。

所有执行的任务都是在TensorFlow流程的许可下完成的。

TensorFlow模型就像程序一样, 因此需要从TensorFlow安全性角度来考虑。

通常, 不信任的模型应首先在沙箱中执行。任何模型都有许多可能变得不受信任, 例如, 如果某个不受信任的一方提供了TensorFlow内核或提供了TensorFlow图所需的python代码。

TensorFlow Security由计算图确定, 无论用户提供的检查点是否安全。通常, 创建带有恶意检查的计算图可能会触发不常见且不安全的行为。

任何人都可以通过提供模型来安全地处理不受信任的数据来设计安全的模型。

我们假设我们没有任何错误。

一种分析TensorFlow图如何工作的绝佳方法, 这是一种解释型编程语言, 例如Python。可以编写安全的Python代码, 可以很容易地向用户提供给定的输入, 但是编写不安全的Python程序很容易。

TensorFlow是一个广泛而复杂的系统, 其使用依赖于多个第三方库。 TensorFlow模型执行可以读取或写入文件或可以通过网络进行通信的任意计算。如果模型显示的不是这些规范, 则该行为可能导致漏洞。

我们将看到如何查看TensorFlow中的漏洞。我们可以将与安全有关的任何问题的报告发送至security@tensorflow.org。电子邮件报告将发送给TensorFlow中的安全团队。电子邮件会在24小时内接受并在一周内提供详细的回复, 以及后续步骤。