Apache软件基金会（ASF）最近宣布，分布式深度学习框架SINGA升级为顶级项目（TLP，top-level project）。这表明了SINGA项目所达到的成熟度和稳定性。SINGA已经得到了银行、医疗健康等多行业中企业的应用。
SINGA最早由新加坡国立大学研究人员开发，并于2015年三月 进入ASF孵化器。SINGA提供了一种在机器集群中分布式训练深度学习模型的计算框架，降低了模型训练所需的时间。SINGA不仅仅是一种学术研究平台，而且已在花旗集团、世邦魏理仕等多家企业得到了商业应用，并在健康医疗行业得到多处应用，例如为糖尿病前期患者提供帮助的应用。
深度学习模型所取得的成功，是由大规模数据集的使用所驱动的。例如包括成千上万图像的ImageNet、具有上百万参数的复杂模型等。谷歌的自然语言模型BERT具有近3亿个参数，是在近30亿个单词上训练得到的。但是，完成这种训练通常需要数个小时，甚至数天时间。为加速训练过程，研究人员引入了并行处理技术，将计算任务分布到计算集群的多台设备上。SINGA研究团队负责人黄铭钧教授指出：
深度学习必须扩展到分布式计算，因为…深度学习模型通常规模巨大，并需要在大型数据集上训练。如果使用单个GPU，通常需要数百天时间。
分布式深度学习有两种并行策略。一种是数据并行，即多台机器分别处理不同的输入数据子集；另一种是模型并行，即多台机器分别训练神经网络模型的不同部分。SINGA同时支持上述两种策略，也支持两种策略的组合使用。为协调集群机器间的工作，并行策略将引入额外的通信和同步开销。SINGA实现了多种优化技术，力图降低上述开销。