maxcombinedsplitsize属性？

gstyhher 于 2021-06-02 发布在 Hadoop

关注(0)|答案(1)|浏览(338)

在pig中有一个名为
“pig.maxcombinedsplitsize”-指定要由单个Map处理的数据的大小（以字节为单位）。合并较小的文件，直到达到此大小。
配置单元中是否有类似的属性用于指定单个Map要处理的数据的大小？
我正在尝试下面的命令，但它不工作。

'SET hive.maxCombinedSplitSize=64mb';

有什么建议吗？

hadoop Hive hiveql hive-configuration

来源：https://stackoverflow.com/questions/23813171/maxcombinedsplitsize-property-in-hive

1条答案

按热度按时间

试试这个：

set hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat;
set mapred.min.split.size=67108864;

赞(0）回复(0）举报 2021-06-03

相关问题

微信公众号

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

Python pillow/PIL无法识别对象“imagedraw”的属性“textsize”
回答(3) 发布于 5个月前
python-3.x ImportError：无法从“typing_extensions”导入名称“deprecated”
回答(2) 发布于 5个月前
python-3.x 我正尝试使用密码学对字典进行加密
回答(1) 发布于 5个月前
在Python的IDLE中导入audiolazy的问题
回答(1) 发布于 5个月前
如何将Python程序中的数据添加到Markdown？
回答(2) 发布于 5个月前