这次版本憋了大半年了。核心code已经基本不变,并且稳定下来。更多的是新插件扩展MLSQL的生态。这次时间很长的最主要原因是希望能多积累点bug,然后fix掉,获取一个更稳定的版本。
新增代码提示插件,配合新版本的console,大家就可以体验到MLSQL的代码提示了。我们发现他也可以单独部署,所以同时也独立出一个项目。
我们新增加了 mlsql-jdbc,这样除了http以外,MLSQL也能对接jdbc请求了。
另外对于Rest接口,我们新增了 includeSchema
参数,会返回json的schema信息,而无需使用端通过json进行推测。
- 插件元信息存储支持delta和MySQL了。MySQL能够获得更好的启动性能。
- 插件安装可以指定版本安装
启动时,可能系统还没有完全初始化好,这个时候如果请求进来可能会导致部分初始化功能无法完成。1.6.0版本提供了保护,会hang住请求直到初始化完成。
目前只是MLSQL Core进行了适配,目前MLSQL的很多插件比如spark-binlog/delta-plus/pyjava等都还没有完成适配。但是普通的流批是没有问题的。我们将在1.7.0版本完成插件的适配。
MLSQL Engine可以支持执行Python项目,以及支持Ray的数据互通。
不再列举
- When extracting HBase namespace, it returns ref instead of real namespace.
- When using ET JDBC to update MySQL, Losing data will happens.
- more......
- Python
- Batch
- Stream
- Remove streamingpro-opencv, streamingpro-dl4j, streamingpro-automl
- Merge streamingpro-crawler into stremingpro-mlsql
/stream/jobs/kill
and/stream/jobs/running
,/run/sql
are removed
- PyJava is an ongoing effort towards bringing the data exchanging ability between Java/Scala and Python.
- MLSQL Console supports pyechars render.
- MLSQL Console supports notebook mode
- Python support should be more robust
- Remove Spark 2.2.x support
- Dynamically increase/decrease engine resource
- Table cache
- sessionPerRequest create new session for every request.
- directQuery Auth support directQuery auth.
- set statement sql auth
- Stream callback
- Stream batch mode(for sink)
- MySQL Binlog datasource
- Delta plus
- Stream schema infer
- Kafka tool
- Script progress track you can use "load mlsql.
/jobs/get/[jobid]
as output" to get the script processing.
- Adding new symbol
!
to execute command in MLSQL. - Grammar validate before really execute MLSQL script.
- PR-1011 Jython udf do not support null parameter
- PR-1010 Kill cannot kill job when sessionPerUser enabled
- PR-1000 System show jobs without stream jobs.
- Use streamJDBC instead of JDBC in stream sink.
- Use streamParquet instead of parquet in stream sink.
- MLSQL Console can be used with MLSQL Engine.
- API
/stream/jobs/kill
and/stream/jobs/running
,/run/sql
will be removed in next release. - Module
streamingpro-automl
will be removed in next release.