SparkSQL FUNCTION相关操作
前言
这篇博客中的FUNCTION只针对SQL接口(也就是用的是Hivesql接口中的自定义函数),不包括使用scala、java、python用spark代码中开发的函数。这样的函数我们可以直接在Sparksql cli模式或者写在sql脚本中直接用sparksql命令可以执行的函数。主要包括下面几个内容:
- CREATE FUNCTION
- SHOW FUNCTIONS
- DESCRIBE FUNCTION
- DROP FUNCTION
CREATE FUNCTION
CREATE FUNCTION语句用于在Spark中创建临时函数或永久函数。临时函数的作用域在会话级别,而永久函数是在持久编目中创建的,并可供所有会话使用。USING子句中指定的资源在所有执行程序第一次执行时都是可用的。除了SQL接口,spark还允许用户使用Scala、Python和Java api创建自定义的标量和聚合函数。请参考Scalar udf和udafs了解更多信息。