什么是SQLFlow?

新知榜官方账号

2023-08-26 16:44:32

什么是SQLFlow?

SQLFlow是一个桥梁,使用TensorFlow和其它机器学习工具套件连接SQL引擎,例如MySQL、Hive、SparkSQL或SQLServer。SQLFlow扩充了SQL语言,以支援模型训练、预测和推断。

这个专案的开发动机当前基于机器学习的应用程序开发需要一个由资料工程师、资料科学家、业务分析师组成的团队,同时还需要大量的高阶语言和程式设计工具,如Python、SQL、SAS、SASS、Julia、R。工具和开发环境的碎片化给模型的训练/调整带来了额外的工程困难。

如果我们将最广泛使用的资料管理/处理语言SQL与机器学习/系统功能结合起来,让具有SQL技能的工程师开发基于机器学习的高阶应用程序会怎样?这个业界已经有一些工作在进行中。我们可以使用像DOTproduct这样的操作工具在SQL中编写简单的机器学习预测(或评分)演算法。但是,这需要将模型参数从训练程式复制到SQL语句。

在商业领域,我们看到一些专有的SQL引擎提供了支援机器学习能力的扩充套件。MicrosoftSQLServer有一个机器学习服务,可以执行R或Python语言的机器学习程序作为外部指令码(externalscript)。Teradata还提供一个RESTful服务,可以从扩充SQLSELECT语法呼叫该服务。透过引入CREATEMODEL语句来让GoogleBigQuery有机器学习的功能。

现有的解决方案都不能解决我们的问题,取而代之,我们希望它是完全可扩充的。此解决方案应该相容许多SQL引擎,而不是特定的版本或类型。它应该支援复杂的机器学习模型,包括用于深度学习的TensorFlow和xgboostfortrees。我们还希望能够灵活地配置和执行最新的机器学习演算法,包括指定featurecrosses,至少,SQL语句中没有内嵌Python或R程序码,并且完全使用超引数估计(hyperparameterestimation)。

以下是使用样本数据Iris.train训练TensorflowDNNClassifer模型,并使用训练模型运行预测的范例。您可以看到使用SQL编写一些优雅的机器学习代码有多酷:

sqlflow>SELECT*FROMiris.trainTRAINDNNClassifierWITHn_classes=3,hidden_units=[10,20]COLUMNsepal_length,sepal_width,petal_length,petal_widthLABELclassINTOsqlflow_models.my_dnn_model;...Trainingsetaccuracy:0.96721Donetraining

以下是使用样本数据Iris.test预测结果的范例:

sqlflow>SELECT*FROMiris.testPREDICTiris.predict.classUSINGsqlflow_models.my_dnn_model;...Donepredicting.Predicttable:iris.predict

本页网址:https://www.xinzhibang.net/article_detail-10428.html

寻求报道,请 点击这里 微信扫码咨询

关键词

SQLFlow TensorFlow 机器学习 SQL引擎

分享至微信: 微信扫码阅读

相关工具

相关文章