GraphPipe能够如何帮助人工智能开发人员
时间：2022-04-14 11:03:01 | 来源：行业动态
时间：2022-04-14 11:03:01 来源：行业动态
GraphPipe可帮助开发人员有效地服务远程人工智能模型也就是模型可以通过互联网访问，而不是在本地运行。在今天，这样做已经是可能的了；它只是缺乏效率或者标准化。
Abrams表示：你基本上是将每个单独的模型都包装在自定义的API中。 Abrams表示：这不难做到；只是非常单调乏味。另一种选择是使用TensorFlow Serving的协议缓冲，但该软件仅适用于使用TensorFlow构建的模型，而且可能难以构建和部署。
现有方法在处理大量数据方面也不是很好，而这种限制可能会扼杀开发人员的创造力，因为他们会避免使用依赖大型数据集的模型。
Abrams表示，例如，如果你的远程人工智能模式是试图将猫的图片和狗的图片区分开，现有的传输技术可能没问题，因为你只是向模型发送一个图像，然后得到表示这是猫的图片还是狗的图片的一点点数据，以及一点点关于所描述的对象在图像中的位置的数据。但是，他说，如果你要发送的是一个巨大的浮点数阵列，而且要得到的结果是另一个巨大的浮点数阵列，这种技术就不行了。
如果你要将来自多个不同模型的结果合并到一个模型中，或者如果你在一个位置训练模型的一部分并将它们部署到另一个地方，你可能就需要更有效的通信。或者，对于面向客户的移动应用或物联网应用，终端设备通常缺乏在本地运行模型的能力，并且必须向远程服务发出请求，这就需要高效且稳定的连接。
Abrams表示：这似乎是人工智能领域中可以使用一些帮助的地方。
最后，GraphPipe为开发人员提供了互操作性方面的优势。今天，存在着很多种彼此竞争的机器模型格式TensorFlow、Caffe2、MXNet等等但是没有标准化的方法来保证它们给出的数据是一致的。有人提议用ONNX（开放式神经网络交换，Open Neural Network Exchange）这种格式解决这个问题。GraphPipe也尝试实现一致性，但是却是在网络I/O层面。Abrams表示：聚焦于I/O层面的一个好处是你不必处理将模型转化为不同格式的问题，而这往往是很多问题的根源。
在线咨询
