大数据与云计算技术周报(第146期)
导语
“大数据” 三个字其实是个marketing语言,从技术角度看,包含范围很广,计算、存储、网络都涉及,知识点广、学习难度高。
本期会给大家奉献上精彩的:Kafka、tomcat
、Flink、MongoDB、指标设计、java、Hbase。全是干货,希望大家喜欢!!!
1MySQL
基于 MySQL Binlog 实现可配置的异构数据同步
https://mp.weixin.qq.com/s/DSxumri_kq071LWjC-tMcg
2Hbase
本文概括的介绍了 HBase 的刷写和合并机制,主要是 Flush 的触发条件与核心参数、Compaction 的触发时机与核心参数等,并都给出了具体参数的调整建议,希望能给 HBase 使用者提供有价值的参考。
https://mp.weixin.qq.com/s/KMu7eryN1sY-ePsqP_VqDQ
如果在数据量非常大的情况下,Spark直接扫描HBase表必然会对HBase集群造成不小的压力。本文主要给大家分享一下Spark通过Snapshot直接读取HBase HFile文件的方式。
https://mp.weixin.qq.com/s/y-bx7_82MSOljqp_lr1-CQ
本文主要讲解hbase底层基于LSM树实现原理
https://mp.weixin.qq.com/s/gmURzpE7T1eS6T68oIML9g
3系统设计
至少30年以前,一些软件设计人员就已经意识到领域建模和设计的重要性,并形成一种思潮,Eric Evans将其定义为领域驱动设计(Domain-Driven Design,简称DDD)。在互联网开发“小步快跑,迭代试错”的大环境下,DDD似乎是一种比较“古老而缓慢”的思想。然而,由于互联网公司也逐渐深入实体经济,业务日益复杂,我们在开发中也越来越多地遇到传统行业软件开发中所面临的问题。本文就先来讲一下这些问题,然后再尝试在实践中用DDD的思想来解决这些问题
https://mp.weixin.qq.com/s/uZmrZ61jB2JERCqHNDqktQ
4Flink
滴滴出行负责人梁李印分享了 Apache Flink 在滴滴的应用与实践,主要内容为:服务化概述、StreamSQL 实践、平台化建设、挑战及规则。
https://mp.weixin.qq.com/s/hCN9A_uCn_86GEFM3IaGnw
5MongoDB
本文讲述了游戏公司Lucid Sight使用MongoDB助力创新,并介绍了MongoDB Atlas帮助企业减少运维工作量以及Atlas的伸缩性。
https://mongoing.com/archives/32060
6flink
大部分监控平台是基于规则告警实现监控指标的预警。规则告警一般基于统计学,如某个指标同比、环比连续上升或下降到一定阈值进行告警。规则告警需要用户较为熟悉业务指标的形态,从而较为准确的配置告警阈值,这样带来的问题是配置规则告警非常繁琐、告警效果也比较差,需要大量人力物力来维护规则告警。
https://mp.weixin.qq.com/s/1XiIYZ0UpG0c95oRB8NDFw
7Tomcat
俗话说,站在巨人的肩膀上看世界,一般学习的时候也是先总览一下整体,然后逐个部分个个击破,最后形成思路,了解具体细节,Tomcat的结构很复杂,但是 Tomcat 非常的模块化,找到了 Tomcat最核心的模块,问题才可以游刃而解,了解了Tomcat的整体架构对以后深入了解Tomcat来说至关重要
https://mp.weixin.qq.com/s/k_K4Rd92VbczoP7s-Uaqmg
8指标
指标管理一直是互联网公司很难解决的问题,尤其是指标口径的统一,看一看有赞是怎么做的吧
https://mp.weixin.qq.com/s/Y2oSrpqxSQIw-ZOJKegryw
9kafka
零拷贝,从字面意思理解就是数据不需要来回的拷贝,大大提升了系统的性能
https://mp.weixin.qq.com/s/fygQ5rXJc8mm3eWTXQA5sA
10Java
Java 8 给我们带来了一个新功能,也就是本文要介绍的 Stream API,它可以让我们以一种声明的方式处理数据。Stream 使用一种类似用 SQL 的语法来提供一种对 Java 集合运算和表达的高阶抽象。极大提高 Java 程序员的生产力,让程序员写出高效率、干净、简洁的代码。本文是 Java 8 Stream API 入门序列文章第一篇,将带领大家快速入门 Java 8 Stream API,当然,如果有 Scala 的使用基础,本文所涉及的 API 应该还是能够快速理解使用的
https://www.iteblog.com/archives/9771.html
11开心一刻
JUST DO IT!很多孩子听了乔丹的话,从此进入IT行业。
致谢:
周蓬勃、王在道、孙亚飞、冯艺帆、陈少军、邓开表、张少华、薛述强、刘彬、刘超、廖程鹏、董言、吕西金、朱洁、蓝随、黄文辉、郭飞
猜你喜欢
大数据和云计算技术周报(第56期)
加入技术讨论群
《大数据和云计算技术》社区群人数已经6000+,欢迎大家加下面助手微信,拉大家进群,自由交流。
喜欢QQ群的,可以扫描下面二维码:
欢迎大家通过二维码打赏支持技术社区(英雄请留名,社区感谢您,打赏次数超过108+):