定位与能力缺口:别把峰会录像当新闻看

这份资料来自二零一五年上海站的峰会现场录像,主题是 Hadoop 与大数据生态的工程实践。你得先认清它的定位:这不是手把手敲命令的入门课,而是数十位一线工程师在讲架构取舍。很多转岗同学的问题在于,简历上写着熟悉大数据,真问到分布式一致性问题或者数据湖落地细节就卡壳。缺的不是 API 用法,而是真实业务场景下的权衡能力。这份录像适合有一定基础的人查漏补缺:你得懂基本的 HDFS 和 MapReduce 概念,最好写过几行 SQL,否则听金融实践或者分布式引擎的演讲容易云里雾里。如果你是零基础,建议先去补完基础再来听这些案例,别假装看几场讲座就能掌握架构设计。

建议先看的重点与资料配合练习

几十场演讲不用平均用力,建议先啃三块硬骨头。第一是分布式系统一致性的那场,这是理解后续所有存储讨论的基石,听完后自己画一遍写请求的流转链路。第二是 Presto 引擎的分享,它代表了从批处理走向交互式查询的演进,重点听查询下推和内存计算的瓶颈。第三是金融行业的实践阶段,看看别人是怎么把技术堆栈塞进严苛的业务约束里的。配套练习方面,录像不会给你现成代码,你得自己搭一套本地环境。听完一致性那节,去用 ZooKeeper 写个简单的锁服务验证脑裂场景;听完 Presto 那节,拿开源版本跑几条多表关联的查询,观察执行计划。资料包里的录像只是线索,真正的练习得靠你拿真实数据去复现演讲里提到的架构痛点。

学完能独立回答什么问题

  • 在构建分布式系统时,如何权衡强一致性与最终一致性,具体在 Hadoop 生态里靠什么组件来兜底?
  • 当传统批处理撑不住交互式分析需求时,分布式 SQL 引擎是怎么解决内存与调度瓶颈的?
  • 把 Hadoop 塞进金融这种高合规要求的行业,分哪几个阶段落地,数据可视化如何做到敏捷而不失规范?

把这几个问题答透,你再去面试或者接手老系统时,就不只是会背参数配置,而是能讲清这些技术当年到底解决了什么现实矛盾。这才是看这类峰会录像的真正价值。

课程目录

1 eBay connects the world with Hadoop (41:15)
2 如何构建确保一致性的分布式系统 (36:59)
3 开放的Power为大数据分析注入新活力 (31:36)
4 Hadoop and Cloudera (26:40)
5 Enterprise Hadoop: Past, Present, and Future (40:48)
6 大数据可视化的敏捷之道 (31:10)
7 互联网+时代下甲骨文云战略 (39:14)
8 EMC Business Data Lake – Bringing Agility to Big Data (29:06)
9 大数据金融的五大实践阶段 (38:36)
10 Presto – Distributed SQL Engine for Big Data (40:18)
11 a world-class Transactional SQL RDBMS now on Hadoop (36:48)
12 A comparison study of SQL-on-Hadoop engines (46:02)
13 Apache Drill - Industry’s First Schema-Free SQL Engine (36:30)
14 Apache Hive的现状和未来 (36:03)
15 IBM Power系统基于Hadoop/Spark的大数据解决方案 (42:46)
16 Hadoop on Docker - from development to production (24:35)
17 创新网络构建高效Hadoop平台 (44:17)
18 Hadoop Eagle:Hadoop平台监控、预警及自动化 实时分布式框架 (43:46)
19 闪存阵列在大数据领域的作用 (28:17)
20 蚂蚁金服大数据平台应用 (44:16)
21 商业银行大数据应用之浅见 (44:42)
22 金融反洗钱与大数据技术 (24:32)
23 金融行业大数据创新之路 (31:38)
24 大数据在金融行业的潜在应用 (42:38)
25 数据在智能商业上的探索之路 (30:38)
26 视频大数据及其在公安中的应用 (31:54)
27 大数据在交通管理中的应用 (26:54)
28 移动互联时代的语音及语言大数据计算 (33:07)
29 OpenVMC开放视频管理框架,构建高性价比智能视频管理平台 (20:06)
30 互联网+时代下的交通大数据应用创新 (29:06)
31 大数据技术在视频监控行业的应用实践 (40:45)
32 New developments in HBase (48:51)
33 Apache Kylin:分布式大规模联机分析(OLAP)平台 (31:44)
34 HBase热点问题处理和优化 (37:15)
35 Sequoiadb在金融行业中的应用场景 (41:04)
36 IBMSpark数据和设计迎巨变 (41:56)
37 Holodesk A distributed cache layer for interactive analysis (26:17)
38 HiMeter-大数据性能分析框架 (43:14)
39 Storm + HBase : Near Real Time ETL practice (16:27)
40 Streaming density clustering algorithm to detect crowd (39:18)
41 Topic modelling on Spark (24:06)
42 Ensuring Production Success for Hadoop (42:39)
43 HMC:Hadoop Cluster自助资源管理控制台 (32:26)
44 Accelerating SQL on Hadoop* with Big-Bench (24:01)
45 大数据在微博的平台建设之路 (49:21)
46 Hadoop Robot: hadoop 集群自动化运维系统 (34:43)
47 移动大数据与金融APP运营创新 (17:31)
48 Distributed Parameter Server for Internet Scale ML (40:15)
49 领先的大型连接数据的创新与实时图形分析 (39:02)
50 大数据--商业理解,数据科学,IT实践之完美结合 (37:58)
51 基于Hadoop的自然语言处理应用 (16:51)
52 百度司南后端系统 (33:55)
53 探索大数据最后一公里 (22:57)
54 大数据在城市计算的应用 (29:00)
55 电网智能化的大数据挑战与对策 (49:02)
56 中国邮政大数据应用实践 (40:56)
57 Cisco Big Data Solution and Manufactory Case Sharing (33)
58 数据为中心的大数据合规与安全 (33:58)
59 基于异构并行计算平台的智能图像视频分析 (41:33)
60 cloudera企业大数据平台助力智能交通 (17:15)