ITBEAR科技资讯
网站首页 科技资讯 财经资讯 分享好友

火山引擎ByteHouse助力大地量子精准、高效预测天气

时间:2023-08-10 19:13:15来源:互联网编辑:汪淼

伴随着气象技术的发展以及城市气象设施的完善,气象监测服务能力在不断提高,实现短期甚至中长期的气象预测成为可能。

短期、长期的天气形势预测,不仅能帮助相关行业、有关部门针对性地进行极端天气防范准备,降低气象灾害带来的影响;还可以提升对风力、水力等可再生能源的利用效率,实现可持续发展,推动环境保护。

而大地量子正是这样一家深耕气象领域的公司。作为定位为AI大模型与数字孪生的公司,大地量子通过对PB级卫星遥感数据、气象数据的AI开发,打造业界领先的天气预测、清洁能源功率预测、绿电交易预测、碳汇碳排等技术产品,并利用自有的AI与超算优势,完成下一代气象预报系统。

图片1.jpg

预测一个地理位置的气象情况,实际是根据周围的观测站点的大量信息,做重合面积的地理信息查询,包括经纬度、温度、湿度等具体数值。除此之外,大自然中变幻莫测的风、雨、云、电,也会为数据的计算能力和实时查询也带来了巨大的难点。具体可以包括以下三点:

第一,地理信息数据处理能力,业务需要丰富的geo函数,用于整合海量的历史气象数据,对目标点位/区域实现天气预测;第二,高时效性查询需求,风场、云层预测等模型需要实时查询能力,快速做到结果反馈;第三,由于查询的接口众多,高并发扩展也是交互式业务不可或缺的能力之一。

如何解决这些痛点?大地量子选择了与火山引擎云原生数据仓库ByteHouse进行合作。

随着字节跳动业务的快速发展,产生了海量的产品使用数据分析需求。这类场景数据指标计算相对复杂、数据总量大且查询模式多变,要求底层数据计算引擎具备高可用性,以及具备应对超大数据规模下交互式实时响应的能力。ByteHouse的极致性能和强大计算能力,正是源于内部场景的多年积累和检验。

在字节跳动内部实践场景和海量数据打磨下的技术能力也复制在大地量子上,并进行了进一步升级。

据介绍,ByteHouse起初是基于开源ClickHouse引擎进行技术架构重构和优化。但相比起原生的ClickHouse,火山引擎ByteHouse基于独家自研的高可用引擎及查询优化器,可以为企业提供快速、稳定、安全的查询服务和数据写入性能。

从技术层面看,ByteHouse 提供了 PB 级数据秒级响应,通过增强的自研引擎,确保95%以上的查询均可在秒级返回,同时通过自研的HAEngine和元数据持久化等优化,ByteHouse提供了新的生产级高可用方案,能够保障其在大数据量场景下依然不会影响到查询分析体验。

大地量子通过将现场采集及大模型生成的气象数据导入到ByteHouse中,通过ByteHouse的多边形计算、方差、平均值等计算函数能力,支撑GEO查询和空间计算,满足其对预测系统以及交互式查询需求。另外,针对大地量子不同阶段数据波动情况,ByteHouse也提出了定制化解决方案。例如,在业务数据低谷期,ByteHouse提供集群节点进行自助升级能力,在保持产品功能更新的同时,能更灵活帮助大地量子控制产品版本,降低运维负担。

在降本增效层面,大地量子也利用ByteHouse进行了极致优化。ByteHouse 能支持用户自定义冷存储的比例,该能力帮助大地量子将查询频次较少的历史数据进行冷存,起到降低存储成本的作用,最终实现查询效率和成本之间的平衡。

目前,在业务实践中,平均查询任务时长始终保持在50毫秒以内,同时可以做到400QPS的峰值并发,火山引擎ByteHouse的高效率表现为大地量子提供了最有力的用数支持。

未来,大地量子将把部分功能作为API接口对外开放,ByteHouse的高查询性能足以满足预测系统及后续交互式查询需求,进一步为大地量子提供了查询并发的保障,为业务扩展提供基础。除此之外,由于ByteHouse 支持无损和自助水平扩容,随着数据量持续增加,大地量子也计划通过 ByteHouse 集群的水平扩容来动态调整和支持计算、存储能力,为高性能查询提供更强保障。

除了在气象领域落地,火山引擎ByteHouse还与中国地震台网中心、海王集团、莉莉丝游戏、极客邦科技等诸多行业企业达成了深度合作,凭借新一代的云原生架构,高效方便的运维模式,以及高性能更灵活的实时查询能力,为企业抓稳数字化机遇建立了夯实的地基,推动企业的数智化转型升级。

更多热门内容
2024华为开发者大赛·少年开发者人工智能大赛:收官不止步,梦想之光持续闪耀
科技浪潮汹涌澎湃,青少年作为未来的希望与栋梁,正踊跃投身于这场变革之中。11月17日,由上海市教育委员会、上海科技馆共同指导,华为云计算技术有限公司、上海市科技艺术教育中心联合主办,上海市育思青少年计算科学发展中心和上海人工智能研究院共同承办的第四届长三

2024-11-20

拟上市企业嘉立创深耕技术创新,智能化生产快速响应市场
10月17日,广东省科技大会在广州召开,会上颁发了2023年度广东省科学技术奖,表彰在科技创新领域表现突出的单位和个人。深圳市在本年度的科技奖项中表现出色,共获得78项奖项,占总数的35.8%,较去年提高了4.4个百分点,位居全省第二。由鹏城实验室与多家省内外机构联合

2024-11-20

美赞臣中国重视人才培养,获评大学生喜爱雇主品牌实至名归
在人才竞争日益激烈的当下,企业的雇主品牌建设显得尤为重要。作为全球知名的婴幼儿营养品品牌,美赞臣中国凭借多方面的突出表现,获评前程无忧公布“2024中国大学生喜爱的雇主品牌”榜单,这一殊荣不仅是对美赞臣中国人力资源领域卓越表现的高度认可,更是其在人才管理

2024-11-20

GPTBots赋能保健补剂零售:800家药店网络的转型之路
在保健补剂行业浪潮中,一家领军企业面临着前所未有的挑战。其庞大的800家药店分销网络,在带来成功的同时,也成为其发展瓶颈。一、挑战中的分销网络:寻找破局之路传统模式下,药店作为产品与用户之间的桥梁,因服务质量参差、客户需求日益多元化而显得力不从心。如何

2024-11-20

上海国际插画艺术节即将开幕,乐立克助你插画周边DIY,让画作成真
DIY潮玩消费电子-乐立克,华丽登陆“上海国际插画艺术节”2024.11.22-11.25,乐立克带着满满诚意,来到上海国家会展中心,参与本次插画艺术节。如果你是插画迷,千万别做过这场艺术盛宴!小伙伴们除了可以在展会内领略艺术家风采之外,还能用独特的艺术理念,来一场新奇

2024-11-20