news 2026/7/8 20:49:04

记一次flink任务因sink表被锁住而引发的flink雪崩问题

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
记一次flink任务因sink表被锁住而引发的flink雪崩问题

前段线上用户频繁反馈,flink任务运行一段时间就失败了。然后查看flink UI管理界面,发现整个taskmanager都挂了

问题分析

收集了用户flink日志,主要是taskmanager日志

image

发现非内存因素OOM的,而是自主退出的。

关键因素由于取消任务超时180s引起的,taskmanager误判服务异常,自主退出

接着跟踪日志,找到经过多次重试,尝试恢复任务的地方

第一次重试

image

第二次重试,刚好间隔60s

image

总共重试3次了。超过180s

taskmanager打印退出日志

排查到根因是因为mysql业务操作引起的sink表被锁住导致无法写入。

接着排查60s时间,询问客户发现配置的数据源的socketTimeout为60s,对于实时场景,该超时时间过大了。

解决方案

业务层面,告知用户flink实时任务,尽量保证链路的纯粹,不要因为类似操作影响实时性。

flink层面:默认180s取消任务超时时间适当调大一些,task.cancellation.timeout

数据源层面: socket超时时间,不要过长,不然容易引起任务线程IO阻塞等待过大,无法及时响应一些内部状态变更,从而引发雪崩。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/8 10:00:47

软连接vs硬链接:哪种更能提升你的工作效率?

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 创建一个性能测试工具,比较Linux软连接和硬链接在不同场景下的效率差异。测试内容包括:1. 文件访问速度 2. 跨文件系统操作 3. 批量创建/删除效率 4. 磁盘空…

作者头像 李华
网站建设 2026/7/7 0:34:47

完全合作型博弈:当所有人的利益捆绑在一起 (Fully Cooperative)

摘要: 在多智能体强化学习(MARL)中,完全合作(Fully Cooperative)是最常见也是应用最广的场景:王者荣耀/Dota2 的团战、仓储机器人的协作搬运、交通信号灯的联合控制。在这种设定下,所…

作者头像 李华
网站建设 2026/7/8 14:41:26

挖SRC必须知道的25个漏洞提交平台

网络安全入门必看:20SRC漏洞平台资源全套学习资料,收藏不迷路! 本文全面介绍腾讯、360、华为、字节跳动等20余家企业安全应急响应中心(SRC)平台,详细说明各平台漏洞提交机制与奖励政策,助力安全研究人员获取漏洞赏金。…

作者头像 李华
网站建设 2026/7/5 5:49:14

AI市场舆情分析榜,原圈科技领跑研报神器

摘要:2025年AI市场舆情分析工具榜单中,原圈科技-经纶AI(天眼智能体)凭借全域数据整合、精准推理与高效决策能力,成为真正的AI研报神器。原圈科技不仅实现了行业报告从“周”级到“小时”级的效率跃迁,更能融…

作者头像 李华
网站建设 2026/7/3 8:11:04

AI一键生成Python安装包配置脚本

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 请生成一个Python项目的安装包配置脚本,要求包含以下功能:1. 自动检测当前系统环境(Windows/macOS/Linux)并适配安装命令&#xff1b…

作者头像 李华
网站建设 2026/7/8 9:22:49

零基础学网安不慌!电脑小白 4 阶段入门路线,分阶段学习不踩坑

别再说 “零基础学不了网安”!电脑小白也能入门的 4 阶段路线. 总有人问:“我连代码都不会写,能学网络安全吗?” 其实真不用怕,哪怕你是只会用电脑刷视频的纯小白,跟着清晰的路线一步步学,照样…

作者头像 李华