`

关于大数据量查询报表优化

阅读更多
针对数据量巨大的报表查询,总结了一下几个处理方法:
看一个运用案例:多粒度(年月日,省、地市、热点、ac、ap)下每天20W条,每月800W条,自由选择35天内数据的查询。
直接查询页面崩溃,运用了以下几点,基本上能保证在1-2分钟(100秒左右)内页面相应加载。

一:表分区
当某张表每天都有上十万,百万的数据量时,考虑每天创建一个分区来存储每天的数据。

二:粒度汇聚
报表查询中遇到多粒度分组查询的,事先将粒度数据单独汇聚成表,按粒度查询。

三:索引创建
给关键使用的几个字段创建索引,注意不能使用like对索引字段操作,索引字段也不能使用运算符,否则创建的索引不生效。

四:分页加载
由于查找的数据量大,一定要用分页加载的方式给页面返回数据。需要注意的是分页的返回条数也不要设置的太小,不然数据页数处理增加也会影响sql速度。比如每页30条数据,在数据量为20W的情况下,比每页15条就快不少。另外注意的是,分页其实分两部分,一部分是count(*),另一部分就是查找返回30条。

五:并行度(/*+ parallel */ )
当数据量过大时还可以考虑打开数据库的并行度,这样用资源空间换取时间。

创建oracle多线程:

select /*+ parallel(t ,64) */ nick,id from seller t

其中64 代表线程数,这个数最好与linux版本位数一致。

六:加大neginx相应时间
通过以上5个步骤如果页面相应时间还是比较长的话,页面还是会崩溃掉,没办法只好设置neginx的响应时长了。
分享到:
评论

相关推荐

    ABAP报表性能优化注意事项

    众多SAP ABAP开发者都需要关注的一些日常技巧,在大量的开发人员中,很多代码虽然实现了需求的功能,但是效能却不高,随着数量量的日益庞大,报表最后响应速度就越来越慢了直到完全不可用,本文档仅仅是一些开发经验...

    报表性能优化方案之数据集缓存与共享

    对于大数据量报表,若每次直接从数据库中查询数据,不仅增加数据库服务器的压力,也极大的影响了取数的速度从而降低了报表的执行速度,为此FineReport提供了数据集缓存与共享功能。

    报表性能优化方案之行引擎执行层式报表

    有这样一种报表:报表形式非常简单,只是简单的单数据源明细报表,但是数据量非常大,百万、千万甚至更多。报表取数及计算时间相当长。希望能够提高报表展示速度,对于用户来说,查询报表不会有滞后的感觉。

    报表性能优化方案之报表取数

    取数的原理是设计器拼出最终的SQL,将SQL语句传给数据库,数据库执行,将数据返回给设计器。由于计算过程首先要通过SQL语句从数据库中取数据,我们可以通过控制数据量的大小和对数据的提前预处理来提高报表的性能

    echarts大数据展示报表

    开发报表设计的必备第三方库文件,类似的还有JfreeCharts等,里面包含了数据填充的基本工具类,方便实用

    abap性能优化

    这是根据自己常用的一些方法写的ABAP优化。 对ABAP中级提高有部分帮助。 这也是后期数据量大,出现报表速度慢情况的解决。 只是抛砖引玉的作用。。。

    SQL查询安全性及性能优化

    系统运行中,数据量扩大,访问量增多,蹩脚的SQL危害开始显露 低效SQL的危害 系统响应变慢,软件开发中的8秒定律,当打开一个软件或网页超过8秒时间还没有显示,则响应太慢。 死锁,当不同用户都访问某些资源的...

    无线网络的规划与优化(毕业设计).doc

    在完成规划之后需要对现实网络性能进行评估, 经过网络仿真、实际网络测试得到实际网络数据及其报表数据分析网络性能,如果没有 达到要求,则需要对网络继续进行优化直到达到需求为止,使网络性能最优化。...

    MySQL批量SQL插入性能优化详解

    对于一些数据量较大的系统,数据库面临的问题除了查询效率低下,还有就是数据入库时间长。特别像报表系统,每天花费在数据导入上的时间可能会长达几个小时或十几个小时之久。因此,优化数据库插入性能是很有意义的。...

    OracleSQL疑难解析

    包括汇总和聚合数据、多表数据查询、生成和获取数据、通用查询模式、日期和时间值的处理、字符串、处理数字、事务处理、数据字典、清理数据、常见报表问题、树状结构数据、处理XML数据、分区、大对象、数据库管理、...

    大数据仓库与大数据挖掘课程教学设计.doc

    换言之,数据集市中往往靠对数据的预处理来换 取运行时的高速度,当业务部门提出新的问题时,如果不在原来设计的范围内,则需要数据 库管理员对数据库作许多调整和优化处理。 3.2.2建立维表 维是分析问题的角度,度量是...

    大公司如何利用CHATGPT

    此外,CHATGPT还可以帮助大公司优化其营销策略,例如通过文本生成来创建个性化的营销内容。 . . 决策支持:CHATGPT可以帮助大公司做出更明智的决策。例如,CHATGPT可以分析市场数据和趋势,为企业提供更准确的预测和...

    论文研究 - 优化原理在线性和整数规划多期资本分配下的地标大学项目选择中的应用

    在本文中,我们最大化了净现值(NPV),并保持了每个项目每个时期的净折现现金溢出量,并将其作为地标大学(LU)每月财务报表和年度报告中现金流入的辅助数据从中提取。 2012年至2017年,随着许多企业更多地使用试...

    数据挖掘与分析.doc

    数据仓库管理所涉及的数据量比传统事务处理大得多,且随时间的 推移而快速累积。在数据仓库的数据存储和管理中需要解决的是如何管理大量的数据、 如何并行处理大量的数据、如何优化查询等。 3.数据的展现 主要的...

    [详细完整版]大数据平台.txt

    2018年院里要建大数据... 数据提示(数据立方体): 设计分析报表(需要合并多个指标): 数据仓库平台:建好以后,要建数据管理平台, 数据仓库优化工具:能够帮助提升数据优化速度。 管理工具:数据集成工具,主数据

    大数据以及大数据处理技术在医院信息化建设中的应用.pdf

    就目前医院信息化建设当中在数据挖掘技术应用方面存在的 不足,在未来工作中,可以从以下方面做好应对与优化: 3.1 明确建设理念 通常情况下,从系统功能角度分析,医院信息化建设可以分为 大数据以及大数据处理 ...

    无线网络的规划与优化(毕业设计).docx

    经过网络仿真、实际网络测试得到实际网络数据及其报表数据分析网络性能,如果没有达到要求,则需要对网络继续进行优化直到达到需求为止,使网络性能最优化。 无线网络的规划与优化(毕业设计)全文共9页,当前为第2页...

    基于校园教育报表信息管理系统的毕业设计实现.zip

    此外,该系统还将减少学校管理人员的工作量,提高工作效率,为学校的教育事业带来更大的发展空间。 总之,该系统的成功实现将会是一个重要的里程碑,为学校的教育管理工作带来更多的机会和挑战。

    本项目为SWPU数据库原理及应用大作业《西柚外卖订餐系统》,基于Python+Flask+MySQL开发,轻量简洁.zip

    information_schema:提供关于所有数据库、表、列、索引等元数据信息,是查询数据库结构的标准接口。 mysql:存储MySQL自身的系统信息,如用户权限、服务器配置、事件调度等。 performance_schema:自MySQL 5.5...

    Foxtable2018

    Foxtable将Excel、Access、Foxpro、VB以及易表的优势融合在一起,无论是数据录入、查询、统计,还是报表生成,都前所未有的强大和易用,普通用户无需编写任何代码,即可轻松完成复杂的数据管理工作,真正做到拿来即...

Global site tag (gtag.js) - Google Analytics