Spark如何动态定义schema

这篇文章主要介绍Spark如何动态定义schema,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

创新互联是一家从事企业网站建设、成都网站制作、成都做网站、行业门户网站建设、网页设计制作的专业网络公司,拥有经验丰富的网站建设工程师和网页设计人员,具备各种规模与类型网站建设的实力,在网站建设领域树立了自己独特的设计风格。自公司成立以来曾独立设计制作的站点上千家。

动态定义schema

在需要根据不同数据定义不同schema

val schemaInfo = "name age"
val fields = schemaInfo.map(item=> item.split(" ")
     .map(item=>StructField(item,StringType,nullable=true))
val schema = StructType(fields)

val rowRDD = peopleRDD.map(_.split(" ").map(attributes=>Row(attributes(0),attributes(1))

val peopleDF = spark.createDataFrame(rowRDD,schema)

peopleDF.show()

以上是“Spark如何动态定义schema”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注创新互联行业资讯频道!


本文题目:Spark如何动态定义schema
标题链接:http://ptjierui.cn/article/pshdog.html

其他资讯

Copyright © 2024 青羊区广皓图文设计工作室(个体工商户)(郫都区郫县站) All Rights Reserved 蜀ICP备19037934号
友情链接: 成都网站建设公司 成都网站建设 成都网站制作 四川成都网站建设 成都网站建设 成都网站设计 网站制作 专业网站设计 成都网站设计 成都网站设计 专业网站建设 定制网站设计 教育网站设计方案 广安网站设计 网站建设推广 手机网站制作设计 网站建设开发 手机网站建设 成都定制网站建设 响应式网站设计 成都企业网站制作 自适应网站建设