在zookeeper正常启动后,运行hadoop,并启动flink发现报错:

2022-10-26 13:24:49,145 INFO org.apache.flink.yarn.YarnClusterDescriptor [] – Deployment took more than 60 seconds. Please check if the requested resources are available in the YARN cluster

网上几乎都说是由于yarn资源不足造成的,经过不断实践,问题解决,解决办法如下:停掉hadoop,修改yarn-site.xml文件为如下:

<configuration>
<!-- Site specific YARN configuration properties -->
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>resource主机ip</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services</name> 
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.env-whitelist</name>
        <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
    </property>
   <property>
     <name>yarn.nodemanager.pmem-check-enabled</name>
     <value>false</value>
   </property>
   <property>
     <name>yarn.nodemanager.vmem-check-enabled</name>
     <value>false</value>
   </property>
    <property>
    <name>yarn.nodemanager.resource.memory-mb</name>
    <value>4096</value>
    </property>
    <!--  一台NodeManager的总可用(逻辑)cpu核数 -->
    <property>
    <name>yarn.nodemanager.resource.cpu-vcores</name>
    <value>2</value>
    </property>
    <!--  容器的虚拟内存使用上限:与物理内存的比率 --> 
    <property>
      <name>yarn.nodemanager.vmem-pmem-ratio</name>
      <value>2.1</value>
    </property>
</configuration>

保存后,重新启动hadoop及flink发现一切正常。然后运行wordcount.jar一切正常。

附:在UI中运行方法:

上传WordCount.jar,在参数中录入:–input /usr/local/test.text –output /usr/local/output.txt 注意:不需要带file://

而在命令行中,需要带上file://,即:

./flink run  /usr/local/WordCount.jar --input file:///usr/local/test.txt --output file:///usr/local/output1.txt

 

原文地址:http://www.cnblogs.com/jizhong/p/16828300.html

1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长! 2. 分享目的仅供大家学习和交流,请务用于商业用途! 3. 如果你也有好源码或者教程,可以到用户中心发布,分享有积分奖励和额外收入! 4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解! 5. 如有链接无法下载、失效或广告,请联系管理员处理! 6. 本站资源售价只是赞助,收取费用仅维持本站的日常运营所需! 7. 如遇到加密压缩包,默认解压密码为"gltf",如遇到无法解压的请联系管理员! 8. 因为资源和程序源码均为可复制品,所以不支持任何理由的退款兑现,请斟酌后支付下载 声明:如果标题没有注明"已测试"或者"测试可用"等字样的资源源码均未经过站长测试.特别注意没有标注的源码不保证任何可用性