【課程簡介】
大數(shù)據(jù)建模與分析挖掘技術(shù)已經(jīng)逐步地應用到新興互聯(lián)網(wǎng)企業(yè)(如電子商務(wù)網(wǎng)站、搜索引擎、社交網(wǎng)站、互聯(lián)網(wǎng)廣告服務(wù)提供商等)、銀行金融證券企業(yè)、電信運營等行業(yè),給這些行業(yè)帶來了一定的數(shù)據(jù)價值增值作用。
本次課程面向有一定的數(shù)據(jù)分析挖掘算法基礎(chǔ)的工程師,帶大家實踐大數(shù)據(jù)分析挖掘平臺的項目訓練,系統(tǒng)地講解數(shù)據(jù)準備、數(shù)據(jù)建模、挖掘模型建立、大數(shù)據(jù)分析與挖掘算法應用在業(yè)務(wù)模型中,結(jié)合主流的Hadoop與Spark大數(shù)據(jù)分析平臺架構(gòu),實現(xiàn)項目訓練。
結(jié)合業(yè)界使用廣泛的主流大數(shù)據(jù)平臺技術(shù),重點剖析基于大數(shù)據(jù)分析算法與BI技術(shù)應用,包括分類算法、聚類算法、預測分析算法、推薦分析模型等在業(yè)務(wù)中的實踐應用,并根據(jù)講師給定的數(shù)據(jù)集,實現(xiàn)兩個基本的日志數(shù)據(jù)分析挖掘系統(tǒng),以及電商(或內(nèi)容)推薦系統(tǒng)引擎。
本課程基本的實踐環(huán)境是Linux集群,JDK1.8, Hadoop 2.7.*,Spark 2.1.*。
學員需要準備的電腦好是i7三代及以上CPU,8GB及以上內(nèi)存,硬盤空間預留50GB(可用移動硬盤),基本的大數(shù)據(jù)分析平臺所依賴的軟件包和依賴庫等,講師已經(jīng)提前部署在虛擬機鏡像(VMware鏡像),學員根據(jù)講師的操作任務(wù)進行實踐。
本課程采用技術(shù)原理與項目實戰(zhàn)相結(jié)合的方式進行教學,在講授原理的過程中,穿插實際的系統(tǒng)操作,本課程講師也精心準備的實際的應用案例供學員動手訓練。
【培訓目標】
1.本課程讓學員充分掌握大數(shù)據(jù)平臺技術(shù)架構(gòu)、大數(shù)據(jù)分析的基本理論、機器學習的常用算法、國內(nèi)外主流的大數(shù)據(jù)分析與BI商業(yè)智能分析解決方案、以及大數(shù)據(jù)分析在搜索引擎、廣告服務(wù)推薦、電商數(shù)據(jù)分析、金融客戶分析方面的應用案例。
2.本課程強調(diào)主流的大數(shù)據(jù)分析挖掘算法技術(shù)的應用和分析平臺的實施,讓學員掌握主流的基于大數(shù)據(jù)Hadoop和Spark的大數(shù)據(jù)分析平臺架構(gòu)和實際應用,并用結(jié)合實際的生產(chǎn)系統(tǒng)案例進行教學,掌握基于Hadoop、spark大數(shù)據(jù)平臺的數(shù)據(jù)挖掘和數(shù)據(jù)倉庫分布式系統(tǒng)平臺應用,以及商業(yè)和開源的數(shù)據(jù)分析產(chǎn)品加上Hadoop平臺形成大數(shù)據(jù)分析平臺的應用剖析。。
3.讓學員掌握常見的機器學習算法,深入講解業(yè)界成熟的大數(shù)據(jù)分析挖掘與BI平臺的實踐應用,并以客戶分析系統(tǒng)、日志分析和電商推薦系統(tǒng)為案例,串聯(lián)常用的數(shù)據(jù)挖掘技術(shù)進行應用教學。
【培訓人群】
1.大數(shù)據(jù)分析應用開發(fā)工程師
2.大數(shù)據(jù)分析項目的規(guī)劃咨詢管理人員
3.大數(shù)據(jù)分析項目的IT項目高管人員
4.大數(shù)據(jù)分析與挖掘處理算法應用工程師
5.大數(shù)據(jù)分析集群運維工程師
6.大數(shù)據(jù)分析項目的售前和售后技術(shù)支持服務(wù)人員
【培訓特色】
定制授課+ 實戰(zhàn)案例訓練+ 互動咨詢討論,共3天
(說明:講師會提供虛擬機鏡像,并把Hadoop,Spark等系統(tǒng)提前部署在虛擬機中,分析挖掘平臺構(gòu)建在Hadoop與Spark之上,學員自帶筆記本,運行虛擬機,并利用同樣的鏡像啟動多臺虛擬機,構(gòu)建實驗集群,鏡像會提前給學員)
【培訓大綱】
【師資力量】
張老師:阿里大數(shù)據(jù)專家,國內(nèi)的Spark、Hadoop技術(shù)專家、虛擬化專家,對HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生態(tài)系統(tǒng)中的技術(shù)進行了多年的深入的研究,更主要的是這些技術(shù)在大量的實際項目中得到廣泛的應用,因此在Hadoop開發(fā)和運維方面積累了豐富的項目實施經(jīng)驗。近年主要典型的項目有:某電信集團網(wǎng)絡(luò)優(yōu)化、中國移動某省移動公司請賬單系統(tǒng)和某省移動詳單實時查詢系統(tǒng)、中國銀聯(lián)大數(shù)據(jù)數(shù)據(jù)票據(jù)詳單平臺、某大型銀行大數(shù)據(jù)記錄系統(tǒng)、某大型通信運營商全國用戶上網(wǎng)記錄、某省交通部門違章系統(tǒng)、某區(qū)域醫(yī)療大數(shù)據(jù)應用項目、互聯(lián)網(wǎng)公共數(shù)據(jù)大云(DAAS)和構(gòu)建游戲云(Web Game Daas)平臺項目等。
鐘老師,男,博士畢業(yè)于中國科學院,獲工學博士學位(計算機系統(tǒng)結(jié)構(gòu)方向),曾在國內(nèi)某高校和某大型通信企業(yè)工作過,目前在中國科學院某研究所工作,工程師,副研究員,課題組長,團隊成員二十余人。大數(shù)據(jù)、云計算系列課程建設(shè)與教學專家,新技術(shù)課程開發(fā)組長。近八年來帶領(lǐng)團隊主要從事大數(shù)據(jù)管理與高性能分析處理(Hadoop、Spark、Storm)、大數(shù)據(jù)倉庫(HIVE)和實時數(shù)據(jù)倉庫(SparkSQL、Shark),大數(shù)據(jù)建模挖掘與機器學習(Mahout、MLib、Oryx、Pentaho BI、SAS、SPSS、R等)、MPP并行數(shù)據(jù)倉庫(Greenplum etc)、NoSQL與NewSQL分布式數(shù)據(jù)庫(HBase、MongoDB、Cassandra etc)、(移動)電子商務(wù)平臺、大數(shù)據(jù)搜索平臺(ElasticSearch、Solr、Lucene等)、云計算與虛擬化(OpenStack,VMware,XenServer,CloudStack,KVM,Docker,SaaS服務(wù))、云存儲系統(tǒng)、Swift對象存儲系統(tǒng)、網(wǎng)絡(luò)GIS地圖服務(wù)器、互聯(lián)網(wǎng)+在線教育云平臺方面的項目研發(fā)與管理工作。
【頒發(fā)證書】
參加相關(guān)培訓并通過考試的學員,可以獲得:
1.工業(yè)和信息化部全國網(wǎng)絡(luò)與信息技術(shù)考試管理中心中心頒發(fā)的-大數(shù)據(jù)挖掘工程師職業(yè)技能證書(等級)。該證書可作為專業(yè)技術(shù)人員職業(yè)能力考核的證明,以及專業(yè)技術(shù)人員崗位聘用、任職、定級和晉升職務(wù)的重要依據(jù)。