рд╕рднреА рд╕рдВрдЧрдарди рдЬрд┐рдирдХреЗ рдкрд╛рд╕ рдХрдо рд╕реЗ рдХрдо рдХреБрдЫ рд╕рдордп рдХреЗ рд▓рд┐рдП рдбреЗрдЯрд╛ рд╣реИ рдпрд╛ рдмрд╛рдж рдореЗрдВ рд░рд┐рд▓реЗрд╢рдирд▓ рдФрд░ рдЕрдирд╕реНрдЯреНрд░рдХреНрдЪрд░реНрдб рдбреЗрдЯрд╛рдмреЗрд╕ рдХреЛ рд╕рдВрдЧреНрд░рд╣реАрдд рдХрд░рдиреЗ рдХреЗ рдореБрджреНрджреЗ рдХрд╛ рд╕рд╛рдордирд╛ рдХрд░рдирд╛ рдкрдбрд╝рддрд╛ рд╣реИред рдПрдХ рд╣реА рд╕рдордп рдореЗрдВ рдЗрд╕ рд╕рдорд╕реНрдпрд╛ рдХреЗ рд▓рд┐рдП рдПрдХ рд╕реБрд╡рд┐рдзрд╛рдЬрдирдХ, рдкреНрд░рднрд╛рд╡реА рдФрд░ рд╕рд╕реНрддреА рджреГрд╖реНрдЯрд┐рдХреЛрдг рдЦреЛрдЬрдирд╛ рдЖрд╕рд╛рди рдирд╣реАрдВ рд╣реИред рдФрд░ рдпрд╣ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐ рдбреЗрдЯрд╛ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рд╕рдлрд▓рддрд╛рдкреВрд░реНрд╡рдХ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдореЙрдбрд▓ рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред рд╣рдордиреЗ рдпрд╣ рдХрд┐рдпрд╛ - рдФрд░ рд╣рд╛рд▓рд╛рдВрдХрд┐ рдореБрдЭреЗ рдЗрд╕рдХреЗ рд╕рд╛рде рдЯрд┐рдВрдХрд░ рдХрд░рдирд╛ рдкрдбрд╝рд╛, рдЕрдВрддрд┐рдо рд▓рд╛рдн рдЙрдореНрдореАрдж рд╕реЗ рднреА рдЕрдзрд┐рдХ рдерд╛ред рд╣рдо рдиреАрдЪреЗ рд╕рднреА рд╡рд┐рд╡рд░рдгреЛрдВ рдкрд░ рдЪрд░реНрдЪрд╛ рдХрд░реЗрдВрдЧреЗред

рд╕рдордп рдХреЗ рд╕рд╛рде, рдХрд┐рд╕реА рднреА рдмреИрдВрдХ рдореЗрдВ рдЕрд╡рд┐рд╢реНрд╡рд╕рдиреАрдп рдорд╛рддреНрд░рд╛ рдореЗрдВ рдХреЙрд░реНрдкреЛрд░реЗрдЯ рдбреЗрдЯрд╛ рдЬрдорд╛ рд╣реЛрддреЗ рд╣реИрдВред рдПрдХ рддреБрд▓рдиреАрдп рд░рд╛рд╢рд┐ рдХреЗрд╡рд▓ рдЗрдВрдЯрд░рдиреЗрдЯ рдХрдВрдкрдирд┐рдпреЛрдВ рдФрд░ рдЯреЗрд▓реАрдХреЙрдо рдореЗрдВ рд╕рдВрдЧреНрд░рд╣реАрдд рдХреА рдЬрд╛рддреА рд╣реИред рдпрд╣ рдЙрдЪреНрдЪ рдирд┐рдпрд╛рдордХ рдЖрд╡рд╢реНрдпрдХрддрд╛рдУрдВ рдХреЗ рдХрд╛рд░рдг рд╣реБрдЖред рдпреЗ рдЖрдВрдХрдбрд╝реЗ рдмреЗрдХрд╛рд░ рдирд╣реАрдВ рд╣реИрдВ - рд╡рд┐рддреНрддреАрдп рд╕рдВрд╕реНрдерд╛рдиреЛрдВ рдХреЗ рдкреНрд░рдореБрдЦ рд▓рдВрдмреЗ рд╕рдордп рд╕реЗ рдпрд╣ рдкрддрд╛ рд▓рдЧрд╛ рд░рд╣реЗ рд╣реИрдВ рдХрд┐ рдЗрд╕рд╕реЗ рд▓рд╛рдн рдХреИрд╕реЗ рдХрдорд╛рдпрд╛ рдЬрд╛рдПред
рд╣рдо рд╕рднреА рдиреЗ рдкреНрд░рдмрдВрдзрди рдФрд░ рд╡рд┐рддреНрддреАрдп рд░рд┐рдкреЛрд░реНрдЯрд┐рдВрдЧ рдХреЗ рд╕рд╛рде рд╢реБрд░реБрдЖрдд рдХреАред рдЗрди рдЖрдВрдХрдбрд╝реЛрдВ рдХреЗ рдЖрдзрд╛рд░ рдкрд░, рд╣рдордиреЗ рд╡реНрдпрд╛рд╡рд╕рд╛рдпрд┐рдХ рдирд┐рд░реНрдгрдп рд▓реЗрдиреЗ рдХрд╛ рддрд░реАрдХрд╛ рд╕реАрдЦрд╛ред рдЕрдХреНрд╕рд░ рдмреИрдВрдХ рдХреЗ рдХрдИ рд╕реВрдЪрдирд╛ рдкреНрд░рдгрд╛рд▓рд┐рдпреЛрдВ рд╕реЗ рдбреЗрдЯрд╛ рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╣реЛрддреА рдереА, рдЬрд┐рд╕рдХреЗ рд▓рд┐рдП рд╣рдордиреЗ рд╕рдореЗрдХрд┐рдд рдбреЗрдЯрд╛рдмреЗрд╕ рдФрд░ рд░рд┐рдкреЛрд░реНрдЯрд┐рдВрдЧ рд╕рд┐рд╕реНрдЯрдо рдмрдирд╛рдПред рдЗрд╕рд╕реЗ рдзреАрд░реЗ-рдзреАрд░реЗ рдЧрдард┐рдд рд╣реЛрддрд╛ рд╣реИ рдЬрд┐рд╕реЗ рдЕрдм рдбреЗрдЯрд╛ рд╡реЗрдпрд░рд╣рд╛рдЙрд╕ рдХрд╣рд╛ рдЬрд╛рддрд╛ рд╣реИред рдЬрд▓реНрдж рд╣реА, рдЗрд╕ рднрдВрдбрд╛рд░рдг рдХреЗ рдЖрдзрд╛рд░ рдкрд░, рд╣рдорд╛рд░реЗ рдЕрдиреНрдп рд╕рд┐рд╕реНрдЯрдо рдХрд╛рдо рдХрд░рдиреЗ рд▓рдЧреЗ:
- рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ CRM, рдЧреНрд░рд╛рд╣рдХ рдХреЛ рдЙрд╕рдХреЗ рд▓рд┐рдП рдЕрдзрд┐рдХ рд╕реБрд╡рд┐рдзрд╛рдЬрдирдХ рдЙрддреНрдкрд╛рджреЛрдВ рдХреА рдкреЗрд╢рдХрд╢ рдХрд░рдиреЗ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддрд╛ рд╣реИ;
- рдЛрдг рдХрдиреНрд╡реЗрдпрд░ рдЬреЛ рдЖрдкрдХреЛ рдЬрд▓реНрджреА рдФрд░ рд╕рд╣реА рддрд░реАрдХреЗ рд╕реЗ рдЛрдг рдкрд░ рдирд┐рд░реНрдгрдп рд▓реЗрдиреЗ рдореЗрдВ рдорджрдж рдХрд░рддреЗ рд╣реИрдВ;
- рд╡рдлрд╛рджрд╛рд░реА рдкреНрд░рдгрд╛рд▓реА рдЕрд▓рдЧ рдЬрдЯрд┐рд▓рддрд╛ рдХреЗ рдпрд╛рдВрддреНрд░рд┐рдХреА рдХреЗ рдЕрдиреБрд╕рд╛рд░ рдХреИрд╢рдмреИрдХ рдпрд╛ рдмреЛрдирд╕ рдЕрдВрдХ рдХреА рдЧрдгрдирд╛ред
рдЗрди рд╕рднреА рдХрд╛рд░реНрдпреЛрдВ рдХреЛ рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рджреНрд╡рд╛рд░рд╛ рд╣рд▓ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рдЬреЛ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдореЙрдбрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВред рд░рд┐рдкреЙрдЬрд┐рдЯрд░реА рд╕реЗ рдЬрд┐рддрдиреА рдЕрдзрд┐рдХ рд╕реВрдЪрдирд╛ рдореЙрдбрд▓ рд▓реЗ рд╕рдХрддреЗ рд╣реИрдВ, рдЙрддрдиреА рд╣реА рд╕рдЯреАрдХ рд░реВрдк рд╕реЗ рд╡реЗ рдХрд╛рдо рдХрд░реЗрдВрдЧреЗред рдбреЗрдЯрд╛ рдХреЗ рд▓рд┐рдП рдЙрдирдХреА рдЬрд░реВрд░рдд рддреЗрдЬреА рд╕реЗ рдмрдврд╝ рд░рд╣реА рд╣реИред
рдЗрд╕ рд╕реНрдерд┐рддрд┐ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рд╣рдо рджреЛ рдпрд╛ рддреАрди рд╕рд╛рд▓ рдкрд╣рд▓реЗ рдЖрдП рдереЗред рдЙрд╕ рд╕рдордп, рд╣рдорд╛рд░реЗ рдкрд╛рд╕ рдПрд╕рдПрдПрд╕ рдбреЗрдЯрд╛ рдЗрдВрдЯреАрдЧреНрд░реЗрд╢рди рд╕реНрдЯреВрдбрд┐рдпреЛ рдИрдПрд▓рдЯреА рдЯреВрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдПрдордкреАрдкреА рдЯреЗрд░рд╛рдбрд╛рдЯрд╛ рдбреАрдмреАрдПрдордПрд╕ рдкрд░ рдЖрдзрд╛рд░рд┐рдд рднрдВрдбрд╛рд░рдг рдерд╛ред рд╣рдордиреЗ 2011 рдХреЗ рдмрд╛рдж рд╕реЗ рдЧреНрд▓реЙрдмреА рдХрдВрд╕рд▓реНрдЯрд┐рдВрдЧ рдХреЗ рд╕рд╛рде рдорд┐рд▓рдХрд░ рдЗрд╕ рд╕реНрдЯреЛрд░рд╣рд╛рдЙрд╕ рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд┐рдпрд╛ред 15 рд╕реЗ рдЕрдзрд┐рдХ рдмрдбрд╝реА рдмреИрдВрдХрд┐рдВрдЧ рдкреНрд░рдгрд╛рд▓рд┐рдпреЛрдВ рдХреЛ рдЗрд╕рдореЗрдВ рдПрдХреАрдХреГрдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛, рдФрд░ рд╕рд╛рде рд╣реА рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХреЗ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рдФрд░ рд╡рд┐рдХрд╛рд╕ рдХреЗ рд▓рд┐рдП рдкрд░реНрдпрд╛рдкреНрдд рдбреЗрдЯрд╛ рдЬрдорд╛ рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред рд╡реИрд╕реЗ, рдЙрд╕ рд╕рдордп, рд╕реНрдЯреЛрд░ рдХреА рдореБрдЦреНрдп рдкрд░рддреЛрдВ рдореЗрдВ рдбреЗрдЯрд╛ рдХреА рдорд╛рддреНрд░рд╛, рдХрдИ рдЕрд▓рдЧ-рдЕрд▓рдЧ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рдХрд╛рд░рдг, рдЧреИрд░-рд░реИрдЦрд┐рдХ рд░реВрдк рд╕реЗ рдмрдврд╝рдиреЗ рд▓рдЧреА, рдФрд░ рдЙрдиреНрдирдд рдХреНрд▓рд╛рдЗрдВрдЯ рдПрдирд╛рд▓рд┐рдЯрд┐рдХреНрд╕ рдмреИрдВрдХ рдХреЗ рд╡рд┐рдХрд╛рд╕ рдХреЗ рдореБрдЦреНрдп рджрд┐рд╢рд╛рдУрдВ рдореЗрдВ рд╕реЗ рдПрдХ рдмрди рдЧрдпрд╛ред рд╣рд╛рдВ, рдФрд░ рд╣рдорд╛рд░реЗ рдбреЗрдЯрд╛ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рдЙрд╕рдХрд╛ рд╕рдорд░реНрдерди рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЙрддреНрд╕реБрдХ рдереЗред рд╕рд╛рдорд╛рдиреНрдп рддреМрд░ рдкрд░, рдбреЗрдЯрд╛ рд░рд┐рд╕рд░реНрдЪ рдкреНрд▓реЗрдЯрдлреЙрд░реНрдо рдХреЗ рдирд┐рд░реНрдорд╛рдг рдХреЗ рд▓рд┐рдП, рд╕рд┐рддрд╛рд░реЛрдВ рдХрд╛ рдЧрдарди рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдП рдЬреИрд╕рд╛ рдХрд┐ рдЙрдиреНрд╣реЗрдВ рд╣реЛрдирд╛ рдЪрд╛рд╣рд┐рдПред
рд╕рдорд╛рдзрд╛рди рдХреА рдпреЛрдЬрдирд╛ рдмрдирд╛рдирд╛
рдпрд╣рд╛рдВ рдпрд╣ рд╕реНрдкрд╖реНрдЯ рдХрд░рдирд╛ рдЖрд╡рд╢реНрдпрдХ рд╣реИ: рдФрджреНрдпреЛрдЧрд┐рдХ рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рдФрд░ рд╕рд░реНрд╡рд░ рдПрдХ рдмрдбрд╝реЗ рдмреИрдВрдХ рдХреЗ рд▓рд┐рдП рднреА рдПрдХ рдорд╣рдВрдЧреЗ рд╕реБрдЦ рд╣реИрдВред рдкреНрд░рддреНрдпреЗрдХ рд╕рдВрдЧрдарди рд╢реАрд░реНрд╖ рдПрдордкреАрдкреА рдбреАрдмреАрдПрдордПрд╕ рдореЗрдВ рдмрдбрд╝реА рдорд╛рддреНрд░рд╛ рдореЗрдВ рдбреЗрдЯрд╛ рд╕реНрдЯреЛрд░ рдХрд░рдиреЗ рдХрд╛ рдЬреЛрдЦрд┐рдо рдирд╣реАрдВ рдЙрдард╛ рд╕рдХрддрд╛ рд╣реИред рдЖрдкрдХреЛ рд╣рдореЗрд╢рд╛ рдХреАрдордд рдФрд░ рдЧрддрд┐, рд╡рд┐рд╢реНрд╡рд╕рдиреАрдпрддрд╛ рдФрд░ рдорд╛рддреНрд░рд╛ рдХреЗ рдмреАрдЪ рдЪрдпрди рдХрд░рдирд╛ рд╣реЛрдЧрд╛ред
рдЙрдкрд▓рдмреНрдз рдЕрд╡рд╕рд░реЛрдВ рдХрд╛ рдЕрдзрд┐рдХрддрдо рд▓рд╛рдн рдЙрдард╛рдиреЗ рдХреЗ рд▓рд┐рдП, рд╣рдордиреЗ рдпрд╣ рдХрд░рдиреЗ рдХрд╛ рдирд┐рд░реНрдгрдп рд▓рд┐рдпрд╛:
- рдИрдПрд▓рдЯреА рд▓реЛрдб рдФрд░ рд╕реАрдбреА рдХреЗ рдРрддрд┐рд╣рд╛рд╕рд┐рдХ рдбреЗрдЯрд╛ рдХрд╛ рд╕рдмрд╕реЗ рдЕрдиреБрд░реЛрдзрд┐рдд рд╣рд┐рд╕реНрд╕рд╛ рдЯреЗрд░рд╛рдбрд╛рдЯрд╛ рдбреАрдмреАрдПрдордПрд╕ рдкрд░ рдЫреЛрдбрд╝рд╛ рдЬрд╛рдирд╛ рдЪрд╛рд╣рд┐рдП;
- рдкреВрд░реА рдХрд╣рд╛рдиреА рдХреЛ Hadoop рдкрд░ рд╢рд┐рдк рдХрд░реЗрдВ, рдЬреЛ рдЖрдкрдХреЛ рдЬрд╛рдирдХрд╛рд░реА рдХреЛ рдмрд╣реБрдд рд╕рд╕реНрддрд╛ рд╕реНрдЯреЛрд░ рдХрд░рдиреЗ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддрд╛ рд╣реИред
рдЙрд╕ рд╕рдордп рдХреЗ рдЖрд╕рдкрд╛рд╕, Hadoop рдкрд╛рд░рд┐рд╕реНрдерд┐рддрд┐рдХреА рддрдВрддреНрд░ рди рдХреЗрд╡рд▓ рдлреИрд╢рдиреЗрдмрд▓ рд╣реЛ рдЧрдпрд╛, рдмрд▓реНрдХрд┐ рдЙрджреНрдпрдо рдХреЗ рдЙрдкрдпреЛрдЧ рдХреЗ рд▓рд┐рдП рдкрд░реНрдпрд╛рдкреНрдд рд░реВрдк рд╕реЗ рд╡рд┐рд╢реНрд╡рд╕рдиреАрдп, рд╕реБрд╡рд┐рдзрд╛рдЬрдирдХ рднреА рд╣реЛ рдЧрдпрд╛ред рд╡рд┐рддрд░рдг рдХрд┐рдЯ рдЪреБрдирдирд╛ рдЖрд╡рд╢реНрдпрдХ рдерд╛ред рдЖрдк рдЕрдкрдирд╛ рдЦреБрдж рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ рдпрд╛ рдЦреБрд▓реЗ рдЕрдкрд╛рдЪреЗ рд╣рдбреЛрдк рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред рд▓реЗрдХрд┐рди Hadoop рдкрд░ рдЖрдзрд╛рд░рд┐рдд рдЙрджреНрдпрдо рд╕рдорд╛рдзрд╛рдиреЛрдВ рдХреЗ рдмреАрдЪ, рдЕрдиреНрдп рд╡рд┐рдХреНрд░реЗрддрд╛рдУрдВ рд╕реЗ рддреИрдпрд╛рд░ рдХрд┐рдП рдЧрдП рд╡рд┐рддрд░рдг - Cloudera рдФрд░ Hortonworks - рдЕрдзрд┐рдХ рд╕рд╛рдмрд┐рдд рд╣реБрдП рд╣реИрдВред рдЗрд╕рд▓рд┐рдП, рд╣рдордиреЗ рддреИрдпрд╛рд░ рд╡рд┐рддрд░рдг рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХрд╛ рднреА рдирд┐рд░реНрдгрдп рд▓рд┐рдпрд╛ред
рдЪреВрдБрдХрд┐ рд╣рдорд╛рд░рд╛ рдореБрдЦреНрдп рдХрд╛рд░реНрдп рдЕрднреА рднреА рд╕рдВрд░рдЪрд┐рдд рдмрдбрд╝реЗ рдбреЗрдЯрд╛ рдХрд╛ рднрдВрдбрд╛рд░рдг рдХрд░ рд░рд╣рд╛ рдерд╛, Hadoop рд╕реНрдЯреИрдХ рдореЗрдВ рд╣рдо рдЙрди рд╕рдорд╛рдзрд╛рдиреЛрдВ рдореЗрдВ рд░реБрдЪрд┐ рд░рдЦрддреЗ рдереЗ рдЬреЛ рд╢рд╛рд╕реНрддреНрд░реАрдп SQL DBMSs рдХреЗ рдЬрд┐рддрдирд╛ рд╕рдВрднрд╡ рд╣реЛ рдЙрддрдирд╛ рдХрд░реАрдм рдереЗред рдпрд╣рд╛рдВ рдХреЗ рдиреЗрддрд╛ рдЗрдореНрдкрд╛рд▓рд╛ рдФрд░ рд╣рд╛рдЗрд╡ рд╣реИрдВред рдХреНрд▓рд╛рдЙрдбрд░рд╛ рдЗрдореНрдкрд╛рд▓рд╛, рд╣реЙрд░реНрдЯреЛрдирд╡рд░реНрдХреНрд╕ - рд╣рд╛рдЗрд╡ рд╕рдорд╛рдзрд╛рдиреЛрдВ рдХреЛ рд╡рд┐рдХрд╕рд┐рдд рдФрд░ рдПрдХреАрдХреГрдд рдХрд░рддрд╛ рд╣реИред
рдПрдХ рдЧрд╣рди рдЕрдзреНрдпрдпрди рдХреЗ рд▓рд┐рдП, рд╣рдордиреЗ рджреЛрдиреЛрдВ DBMS рдХреЗ рд▓рд┐рдП рд▓реЛрдб рдкрд░реАрдХреНрд╖рдг рдХрд╛ рдЖрдпреЛрдЬрди рдХрд┐рдпрд╛, рд╣рдорд╛рд░реЗ рд▓рд┐рдП рдкреНрд░реЛрдлрд╝рд╛рдЗрд▓ рд▓реЛрдб рдХреЛ рдзреНрдпрд╛рди рдореЗрдВ рд░рдЦрддреЗ рд╣реБрдПред рдореБрдЭреЗ рдХрд╣рдирд╛ рд╣реЛрдЧрд╛ рдХрд┐ рдЗрдореНрдкрд╛рд▓рд╛ рдФрд░ рд╣рд╛рдЗрд╡ рдореЗрдВ рдбреЗрдЯрд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдЗрдВрдЬрди рдХрд╛рдлреА рдЕрд▓рдЧ рд╣реИрдВ - рд╣рд╛рдЗрд╡ рдЖрдорддреМрд░ рдкрд░ рдХрдИ рдЕрд▓рдЧ-рдЕрд▓рдЧ рд╡рд┐рдХрд▓реНрдк рдкреНрд░рд╕реНрддреБрдд рдХрд░рддрд╛ рд╣реИред рд╣рд╛рд▓рд╛рдВрдХрд┐, рдЪреБрдирд╛рд╡ рдЗрдореНрдкрд╛рд▓рд╛ рдкрд░ рдЧрд┐рд░ рдЧрдпрд╛ - рдФрд░, рддрджрдиреБрд╕рд╛рд░, рдХреНрд▓рд╛рдЙрдбрд░рд╛ рд╕реЗ рд╡рд┐рддрд░рдгред
рдореБрдЭреЗ рдЗрдореНрдкрд╛рд▓рд╛ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдХреНрдпрд╛ рдкрд╕рдВрдж рдЖрдпрд╛
- MapReduce рдХреЗ рд╕рдВрдмрдВрдз рдореЗрдВ рд╡реИрдХрд▓реНрдкрд┐рдХ рджреГрд╖реНрдЯрд┐рдХреЛрдг рдХреЗ рдХрд╛рд░рдг рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдкреНрд░рд╢реНрдиреЛрдВ рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдХреА рдЙрдЪреНрдЪ рдЧрддрд┐ ред рдЧрдгрдирд╛ рдХреЗ рдордзреНрдпрд╡рд░реНрддреА рдкрд░рд┐рдгрд╛рдо рдПрдЪрдбреАрдПрдлрдПрд╕ рдореЗрдВ рдЧреБрдирд╛ рдирд╣реАрдВ рд╣реЛрддреЗ рд╣реИрдВ, рдЬреЛ рдбреЗрдЯрд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдореЗрдВ рдХрд╛рдлреА рддреЗрдЬреА рд▓рд╛рддреЗ рд╣реИрдВред
- рд▓рдХрдбрд╝реА рдХреА рдЫрдд рдореЗрдВ рд▓рдХрдбрд╝реА рдХреА рдЫрдд рднрдВрдбрд╛рд░рдг рдХреЗ рд╕рд╛рде рдХреБрд╢рд▓ рдХрд╛рдоред рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП, рдХрдИ рд╕реНрддрдВрднреЛрдВ рдХреЗ рд╕рд╛рде рддрдерд╛рдХрдерд┐рдд рд╡рд┐рд╕реНрддреГрдд рддрд╛рд▓рд┐рдХрд╛рдУрдВ рдХрд╛ рдЕрдХреНрд╕рд░ рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рд╕рднреА рд╕реНрддрдВрднреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рд╢рд╛рдпрдж рд╣реА рдХрднреА рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ - рдПрдЪрдбреАрдПрдлрдПрд╕ рд╕реЗ рдХрд╛рдо рдХрд░рдиреЗ рдХреА рдХреНрд╖рдорддрд╛ рдХреЗрд╡рд▓ рдЙрди рд▓реЛрдЧреЛрдВ рдХреЗ рд▓рд┐рдП рд╣реИ рдЬреЛ рдХрд╛рдо рдХреЗ рд▓рд┐рдП рдЖрд╡рд╢реНрдпрдХ рд╣реИрдВ рдЬреЛ рдЖрдкрдХреЛ рд░реИрдо рдХреЛ рдмрдЪрд╛рдиреЗ рдФрд░ рдЕрдиреБрд░реЛрдз рдХреЛ рддреЗрдЬ рдХрд░рдиреЗ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддреЗ рд╣реИрдВред
- рд░рдирдЯрд╛рдЗрдо рдлрд┐рд▓реНрдЯрд░ рдХреЗ рд╕рд╛рде рдПрдХ рд╕реБрд░реБрдЪрд┐рдкреВрд░реНрдг рд╕рдорд╛рдзрд╛рди рдЬрд┐рд╕рдореЗрдВ рдмреНрд▓реВрдо рдлрд╝рд┐рд▓реНрдЯрд░рд┐рдВрдЧ рд╢рд╛рдорд┐рд▓ рд╣реИред рдПрдЪрдбреАрдПрдлрдПрд╕ рдлрд╛рдЗрд▓ рд╕реНрдЯреЛрд░реЗрдЬ рд╕рд┐рд╕реНрдЯрдо рдХреА рдкреНрд░рдХреГрддрд┐ рдХреЗ рдХрд╛рд░рдг рд╣рд╛рдЗрд╡реНрд╕ рдФрд░ рдЗрдореНрдкрд╛рд▓рд╛ рджреЛрдиреЛрдВ рд╣реА рдЗрдВрдбреЗрдХреНрд╕ рдХреЗ рд╕рд╛рдорд╛рдиреНрдп рд╕реЗ рдХреНрд▓рд╛рд╕рд┐рдХ рдбреАрдмреАрдПрдордПрд╕ рдХреЗ рдЙрдкрдпреЛрдЧ рдореЗрдВ рдХрд╛рдлреА рд╕реАрдорд┐рдд рд╣реИрдВред рдЗрд╕рд▓рд┐рдП, SQL рдХреНрд╡реЗрд░реА рдХреЗ рдирд┐рд╖реНрдкрд╛рджрди рдХреЛ рдЕрдиреБрдХреВрд▓рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, DBMS рдЗрдВрдЬрди рдХреЛ рдЙрдкрд▓рдмреНрдз рд╡рд┐рднрд╛рдЬрди рдХрд╛ рдкреНрд░рднрд╛рд╡реА рдврдВрдЧ рд╕реЗ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рдЪрд╛рд╣рд┐рдП, рднрд▓реЗ рд╣реА рдпрд╣ рдХреНрд╡реЗрд░реА рд╢рд░реНрддреЛрдВ рдореЗрдВ рд╕реНрдкрд╖реНрдЯ рд░реВрдк рд╕реЗ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рди рд╣реЛред рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдЙрд╕реЗ рдпрд╣ рдЕрдиреБрдорд╛рди рд▓рдЧрд╛рдиреЗ рдХреА рдХреЛрд╢рд┐рд╢ рдХрд░рдиреЗ рдХреА рдЬрд░реВрд░рдд рд╣реИ рдХрд┐ рд╕рднреА рдкрдВрдХреНрддрд┐рдпреЛрдВ рдХреЗ рдкреНрд░рд╕рдВрд╕реНрдХрд░рдг рдХреА рдЧрд╛рд░рдВрдЯреА рдХреЗ рд▓рд┐рдП рдПрдЪрдбреАрдПрдлрдПрд╕ рд╕реЗ рдиреНрдпреВрдирддрдо рдбреЗрдЯрд╛ рдХрд┐рддрдирд╛ рдЙрдард╛рдпрд╛ рдЬрд╛рдирд╛ рдЪрд╛рд╣рд┐рдПред рдЗрдореНрдкрд╛рд▓рд╛ рдореЗрдВ, рдпрд╣ рдмрд╣реБрдд рдЕрдЪреНрдЫреА рддрд░рд╣ рд╕реЗ рдХрд╛рдо рдХрд░рддрд╛ рд╣реИред
- рдЗрдореНрдкрд╛рд▓рд╛ рдПрд▓рдПрд▓рд╡реАрдПрдо рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реИ , рдЬреЛ рдЖрд░рдХреНрдпреВрд╕реА рдЬреИрд╕реЗ рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХреЗ рд╕рд╛рде рдПрдХ рд╡рд░реНрдЪреБрдЕрд▓ рдорд╢реАрди рдХрдВрдкрд╛рдЗрд▓рд░ рд╣реИ, рддрд╛рдХрд┐ рдЗрд╖реНрдЯрддрдо SQL рдХреНрд╡реЗрд░реА рдирд┐рд╖реНрдкрд╛рджрди рдХреЛрдб рддреИрдпрд╛рд░ рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХреЗред
- ODBC рдФрд░ JDBC рдЗрдВрдЯрд░рдлреЗрд╕ рд╕рдорд░реНрдерд┐рдд рд╣реИрдВред рдпрд╣ рдЖрдкрдХреЛ рдЗрдореНрдкрд╛рд▓рд╛ рдбреЗрдЯрд╛ рдХреЛ рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдЙрдкрдХрд░рдгреЛрдВ рдФрд░ рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХреЗ рд╕рд╛рде рдмреЙрдХреНрд╕ рд╕реЗ рд▓рдЧрднрдЧ рдмрд╛рд╣рд░ рдХрд░рдиреЗ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддрд╛ рд╣реИред
- рдПрдЪрдбреАрдПрдлрдПрд╕ рдХреА рдХреБрдЫ рд╕реАрдорд╛рдУрдВ рдХреЛ рджрд░рдХрд┐рдирд╛рд░ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХреБрдбреБ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╕рдВрднрд╡ рд╣реИ , рдФрд░ рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ, рдПрд╕рдХреНрдпреВрдбреА рдкреНрд░рд╢реНрдиреЛрдВ рдореЗрдВ рдЕрджреНрдпрддрди рдФрд░ DELETE рдирд┐рд░реНрдорд╛рдг рд▓рд┐рдЦреЗрдВред
Sqoop рдФрд░ рдмрд╛рдХреА рд╡рд╛рд╕реНрддреБрдХрд▓рд╛
Hadoop рд╕реНрдЯреИрдХ рдкрд░ рдЕрдЧрд▓рд╛ рд╕рдмрд╕реЗ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдЙрдкрдХрд░рдг рд╣рдорд╛рд░реЗ рд▓рд┐рдП Sqoop рдерд╛ред рдпрд╣ рдЖрдкрдХреЛ рд╕рдВрдмрдВрдзрдкрд░рдХ рдбреАрдмреАрдПрдордПрд╕ (рд╣рдо рдЯреЗрд░рд╛рдбрд╛рдЯрд╛ рдореЗрдВ рд░реБрдЪрд┐ рд░рдЦрддреЗ рд╣реИрдВ) рдФрд░ рдПрдЪрдбреАрдПрдлрдПрд╕ рдХреЗ рд╕рд╛рде рдкреИрд░рд╛рдбрд╛рдЗрдЯ рд╕рд╣рд┐рдд рд╡рд┐рднрд┐рдиреНрди рдкреНрд░рд╛рд░реВрдкреЛрдВ рдореЗрдВ рд╣рд╛рдбреЛрдк рдХреНрд▓рд╕реНрдЯрд░ рдореЗрдВ рдбреЗрдЯрд╛ рд╕реНрдерд╛рдирд╛рдВрддрд░рд┐рдд рдХрд░рдиреЗ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддрд╛ рд╣реИред рдкрд░реАрдХреНрд╖рдгреЛрдВ рдореЗрдВ, Sqoop рдиреЗ рдЙрдЪреНрдЪ рд▓рдЪреАрд▓рд╛рдкрди рдФрд░ рдкреНрд░рджрд░реНрд╢рди рджрд┐рдЦрд╛рдпрд╛, рдЗрд╕рд▓рд┐рдП рд╣рдордиреЗ рдЗрд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХрд╛ рдирд┐рд░реНрдгрдп рд▓рд┐рдпрд╛ - ODBC / JDBC рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдбреЗрдЯрд╛ рдХреИрдкреНрдЪрд░ рдХрд░рдиреЗ рдФрд░ HDFS рдХреЛ рдмрдЪрд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрдкрдиреЗ рд╕реНрд╡рдпрдВ рдХреЗ рдЙрдкрдХрд░рдг рд╡рд┐рдХрд╕рд┐рдд рдХрд░рдиреЗ рдХреЗ рдмрдЬрд╛рдпред
рдбреЗрдЯрд╛ рд╡рд┐рдЬреНрдЮрд╛рди рдХреЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдореЙрдбрд▓ рдФрд░ рд╕рдВрдмрдВрдзрд┐рдд рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП, рдЬреЛ рдХрд┐ рд╣рдбреЛрдк рдХреНрд▓рд╕реНрдЯрд░ рдкрд░ рд╕реАрдзреЗ рдирд┐рд╖реНрдкрд╛рджрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЕрдзрд┐рдХ рд╕реБрд╡рд┐рдзрд╛рдЬрдирдХ рд╣реИрдВ, рд╣рдордиреЗ рдЕрдкрд╛рдЪреЗ
рд╕реНрдкрд╛рд░реНрдХ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ред рдЕрдкрдиреЗ рдХреНрд╖реЗрддреНрд░ рдореЗрдВ, рдпрд╣ рдПрдХ рдорд╛рдирдХ рд╕рдорд╛рдзрд╛рди рдмрди рдЧрдпрд╛ рд╣реИ - рдФрд░ рдПрдХ рдХрд╛рд░рдг рд╣реИ:
- рд╕реНрдкрд╛рд░реНрдХ рдПрдордПрд▓ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рд▓рд╛рдЗрдмреНрд░реЗрд░реА
- рдЪрд╛рд░ рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рднрд╛рд╖рд╛рдУрдВ (рд╕реНрдХрд╛рд▓рд╛, рдЬрд╛рд╡рд╛, рдкрд╛рдпрдерди, рдЖрд░) рдХреЗ рд▓рд┐рдП рд╕рдорд░реНрдерди;
- рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдЙрдкрдХрд░рдгреЛрдВ рдХреЗ рд╕рд╛рде рдПрдХреАрдХрд░рдг;
- рдЗрди-рдореЗрдореЛрд░реА рдбреЗрдЯрд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдЙрддреНрдХреГрд╖реНрдЯ рдкреНрд░рджрд░реНрд╢рди рджреЗрддрд╛ рд╣реИред
Oracle рдмрд┐рдЧ рдбреЗрдЯрд╛ рдЙрдкрдХрд░рдг рд╕рд░реНрд╡рд░ рдПрдХ рд╣рд╛рд░реНрдбрд╡реЗрдпрд░ рдкреНрд▓реЗрдЯрдлрд╝реЙрд░реНрдо рдХреЗ рд░реВрдк рдореЗрдВ рдЦрд░реАрджрд╛ рдЧрдпрд╛ рдерд╛ред рд╣рдордиреЗ рдПрдХ рдЙрддреНрдкрд╛рджрдХ рд╕рд░реНрдХрд┐рдЯ рдореЗрдВ рдЫрд╣ рдиреЛрдбреНрд╕ рдХреЗ рд╕рд╛рде 2x24-рдХреЛрд░ рд╕реАрдкреАрдпреВ рдФрд░ 256 рдЬреАрдмреА рдореЗрдореЛрд░реА рдкреНрд░рддреНрдпреЗрдХ рдХреЗ рд╕рд╛рде рд╢реБрд░реВ рдХрд┐рдпрд╛ред рд╡рд░реНрддрдорд╛рди рдХреЙрдиреНрдлрд╝рд┐рдЧрд░реЗрд╢рди рдореЗрдВ 512 рдЬреАрдмреА рдореЗрдореЛрд░реА рддрдХ рд╡рд┐рд╕реНрддрд╛рд░рд┐рдд рдХреЗ рд╕рд╛рде 18 рд╕рдорд╛рди рдиреЛрдбреНрд╕ рд╣реИрдВред

рдЖрд░реЗрдЦ рдбреЗрдЯрд╛ рд░рд┐рд╕рд░реНрдЪ рдкреНрд▓реЗрдЯрдлреЙрд░реНрдо рдФрд░ рд╕рдВрдмрдВрдзрд┐рдд рдкреНрд░рдгрд╛рд▓рд┐рдпреЛрдВ рдХреЗ рд╢реАрд░реНрд╖-рд╕реНрддрд░реАрдп рд╡рд╛рд╕реНрддреБрдХрд▓рд╛ рдХреЛ рджрд░реНрд╢рд╛рддрд╛ рд╣реИред рдХреЗрдВрджреНрд░реАрдп рд▓рд┐рдВрдХ рдХреНрд▓реЛрдбреЗрд░рд╛ (CDH) рд╡рд┐рддрд░рдг рдкрд░ рдЖрдзрд╛рд░рд┐рдд Hadoop рдХреНрд▓рд╕реНрдЯрд░ рд╣реИред рдпрд╣ Sqoop рдХреЗ рд╕рд╛рде рдкреНрд░рд╛рдкреНрдд рдХрд░рдиреЗ рдФрд░ HDFS рдореЗрдВ QCD рдбреЗрдЯрд╛ рдХреЛ рд╕рдВрдЧреНрд░рд╣реАрдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рджреЛрдиреЛрдВ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ - рд▓рдХрдбрд╝реА рдХреА рдЫрдд рдкреНрд░рд╛рд░реВрдк рдореЗрдВ, рд╕рдВрдкреАрдбрд╝рди рдХреЗ рд▓рд┐рдП рдХреЛрдбреЗрдХреНрд╕ рдХреЗ рдЙрдкрдпреЛрдЧ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддрд╛ рд╣реИ, рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, Snappyред рдХреНрд▓рд╕реНрдЯрд░ рдбреЗрдЯрд╛ рдХреЛ рднреА рд╕рдВрд╕рд╛рдзрд┐рдд рдХрд░рддрд╛ рд╣реИ: рдЗрдореНрдкрд╛рд▓рд╛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдИрдПрд▓рдЯреА рдЬреИрд╕реЗ рдкрд░рд┐рд╡рд░реНрддрдиреЛрдВ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ, рд╕реНрдкрд╛рд░реНрдХ - рдбреЗрдЯрд╛ рд╕рд╛рдЗрдВрд╕ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдПред рд╕реЗрдВрдЯрд░реА рдХрд╛ рдЙрдкрдпреЛрдЧ рдбреЗрдЯрд╛ рдПрдХреНрд╕реЗрд╕ рд╕рд╛рдЭрд╛ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред
рдЗрдореНрдкрд╛рд▓рд╛ рдореЗрдВ рд▓рдЧрднрдЧ рд╕рднреА рдЖрдзреБрдирд┐рдХ рдПрдВрдЯрд░рдкреНрд░рд╛рдЗрдЬ рдПрдирд╛рд▓рд┐рдЯрд┐рдХреНрд╕ рдЯреВрд▓реНрд╕ рдХреЗ рд▓рд┐рдП рдЗрдВрдЯрд░рдлреЗрд╕ рд╣реИред рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, ODBC / JDBC рдЗрдВрдЯрд░рдлреЗрд╕ рдХрд╛ рд╕рдорд░реНрдерди рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдордирдорд╛рдиреЗ рдЙрдкрдХрд░рдг рдЧреНрд░рд╛рд╣рдХреЛрдВ рдХреЗ рд░реВрдк рдореЗрдВ рдЬреБрдбрд╝реЗ рд╣реЛ рд╕рдХрддреЗ рд╣реИрдВред SQL рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, рд╣рдо Hadoop рдХреЗ рд▓рд┐рдП Hue рдФрд░ TOAD рдХреЛ рдореБрдЦреНрдп рдЧреНрд░рд╛рд╣рдХ рдорд╛рдирддреЗ рд╣реИрдВред
рдИрдЯреАрдПрд▓ рд╕рдмрд╕рд┐рд╕реНрдЯрдо рдЬрд┐рд╕рдореЗрдВ рдПрд╕рдПрдПрд╕ рдЯреВрд▓реНрд╕ (рдореЗрдЯрд╛рдбреЗрдЯрд╛ рд╕рд░реНрд╡рд░, рдбреЗрдЯрд╛ рдЗрдВрдЯреАрдЧреНрд░реЗрд╢рди рд╕реНрдЯреВрдбрд┐рдпреЛ) рдФрд░ рдИрдЯреАрдПрд▓ рдлреНрд░реЗрдорд╡рд░реНрдХ рд╣реИ рдЬреЛ рдИрдЯреАрдПрд▓ рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдХреЗ рдореЗрдЯрд╛рдбреЗрдЯрд╛ рдХреЗ рднрдВрдбрд╛рд░рдг рдХреЗ рд▓рд┐рдП рдПрдХ рдбреЗрдЯрд╛рдмреЗрд╕ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реБрдП рдПрд╕рдПрдПрд╕ рдФрд░ рд╢реЗрд▓ рд╕реНрдХреНрд░рд┐рдкреНрдЯ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рд▓рд┐рдЦрд╛ рдЬрд╛рддрд╛ рд╣реИ, рдЬрд┐рд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рдЖрд░реЗрдЦ рдкрд░ рджрд┐рдЦрд╛рдП рдЧрдП рд╕рднреА рдкреНрд░рд╡рд╛рд╣ рдХреЛ рдкреНрд░рдмрдВрдзрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред ред рдореЗрдЯрд╛рдбреЗрдЯрд╛ рдореЗрдВ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдирд┐рдпрдореЛрдВ рд╕реЗ рдкреНрд░реЗрд░рд┐рдд, рдИрдЯреАрдПрд▓ рд╕рдмрд╕рд┐рд╕реНрдЯрдо рдбреЗрдЯрд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдХреЛ рдХреНрдпреВрд╕реАрдбреА рдФрд░ рдбреЗрдЯрд╛ рд░рд┐рд╕рд░реНрдЪ рдкреНрд▓реЗрдЯрдлреЙрд░реНрдо рджреЛрдиреЛрдВ рдкрд░ рд▓реЙрдиреНрдЪ рдХрд░рддрд╛ рд╣реИред рдирддреАрдЬрддрди, рд╣рдорд╛рд░реЗ рдкрд╛рд╕ рдЙрдкрдпреЛрдЧ рдХрд┐рдП рдЬрд╛рдиреЗ рд╡рд╛рд▓реЗ рдкрд░реНрдпрд╛рд╡рд░рдг (рдЯреЗрд░рд╛рдбрд╛рдЯрд╛, рдЗрдореНрдкрд╛рд▓рд╛, рд╕реНрдкрд╛рд░реНрдХ, рдпрджрд┐ рдЖрд╡рд╢реНрдпрдХ рд╣реЛ) рдХреА рдкрд░рд╡рд╛рд╣ рдХрд┐рдП рдмрд┐рдирд╛ рдбреЗрдЯрд╛ рдкреНрд░рд╡рд╛рд╣ рдХреА рдирд┐рдЧрд░рд╛рдиреА рдФрд░ рдкреНрд░рдмрдВрдзрди рдХреЗ рд▓рд┐рдП рдПрдВрдб-рдЯреВ-рдПрдВрдб рд╕рд┐рд╕реНрдЯрдо рд╣реИред
рд╕рд┐рддрд╛рд░реЛрдВ рдХреЗ рд▓рд┐рдП рд░реЗрдХ рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ
QCD рдХреЛ рдЙрддрд╛рд░рдирд╛ рд╕рд░рд▓ рдкреНрд░рддреАрдд рд╣реЛрддрд╛ рд╣реИред рдЗрдирдкреБрдЯ рдФрд░ рдЖрдЙрдЯрдкреБрдЯ рдореЗрдВ, рд╕рдВрдмрдВрдзрдкрд░рдХ DBMS, Sqoop рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдбреЗрдЯрд╛ рд▓реЗ рдФрд░ рдУрд╡рд░рдлрд╝реНрд▓реЛ рдХрд░реЗрдВред рдЙрдкрд░реЛрдХреНрдд рд╡рд┐рд╡рд░рдг рдХреЛ рджреЗрдЦрддреЗ рд╣реБрдП, рд╣рдорд╛рд░реЗ рд╕рд╛рде рд╕рдм рдХреБрдЫ рдмрд╣реБрдд рдЖрд╕рд╛рдиреА рд╕реЗ рд╣реЛ рдЧрдпрд╛, рд▓реЗрдХрд┐рди, рдирд┐рд╢реНрдЪрд┐рдд рд░реВрдк рд╕реЗ, рдпрд╣ рд░реЛрдорд╛рдВрдЪ рдХреЗ рдмрд┐рдирд╛ рдирд╣реАрдВ рдерд╛, рдФрд░ рдпрд╣ рд╢рд╛рдпрдж рдкреВрд░реА рдкрд░рд┐рдпреЛрдЬрдирд╛ рдХрд╛ рд╕рдмрд╕реЗ рджрд┐рд▓рдЪрд╕реНрдк рд╣рд┐рд╕реНрд╕рд╛ рд╣реИред

рд╣рдорд╛рд░реА рдорд╛рддреНрд░рд╛ рдХреЗ рд╕рд╛рде, рд╣рдо рдкреВрд░реА рддрд░рд╣ рд╕реЗ рд╣рд░ рджрд┐рди рд╕рднреА рдбреЗрдЯрд╛ рдХреЛ рд╕реНрдерд╛рдирд╛рдВрддрд░рд┐рдд рдХрд░рдиреЗ рдХреА рдЙрдореНрдореАрдж рдирд╣реАрдВ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред рддрджрдиреБрд╕рд╛рд░, рдкреНрд░рддреНрдпреЗрдХ рднрдВрдбрд╛рд░рдг рд╕реБрд╡рд┐рдзрд╛ рд╕реЗ рдпрд╣ рд╕реАрдЦрдирд╛ рдЖрд╡рд╢реНрдпрдХ рдерд╛ рдХрд┐ рдХреИрд╕реЗ рдПрдХ рд╡рд┐рд╢реНрд╡рд╕рдиреАрдп рд╡реЗрддрди рд╡реГрджреНрдзрд┐ рдХреЛ рдЕрд▓рдЧ рдХрд┐рдпрд╛ рдЬрд╛рдП, рдЬреЛ рдХрд┐ рд╣рдореЗрд╢рд╛ рдЖрд╕рд╛рди рдирд╣реАрдВ рд╣реЛрддрд╛ рд╣реИ рдЬрдм рдРрддрд┐рд╣рд╛рд╕рд┐рдХ рд╡реНрдпрд╛рдкрд╛рд░рд┐рдХ рддрд┐рдерд┐рдпреЛрдВ рдХреЗ рд▓рд┐рдП рдбреЗрдЯрд╛ рддрд╛рд▓рд┐рдХрд╛ рдореЗрдВ рдмрджрд▓ рд╕рдХрддрд╛ рд╣реИред рдЗрд╕ рд╕рдорд╕реНрдпрд╛ рдХреЛ рд╣рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, рд╣рдордиреЗ рдЗрддрд┐рд╣рд╛рд╕ рдХреЛ рд▓реЛрдб рдХрд░рдиреЗ рдФрд░ рдмрдирд╛рдП рд░рдЦрдиреЗ рдХреЗ рддрд░реАрдХреЛрдВ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рд╡рд╕реНрддреБрдУрдВ рдХреЛ рд╡реНрдпрд╡рд╕реНрдерд┐рдд рдХрд┐рдпрд╛ред рдлрд┐рд░, рдкреНрд░рддреНрдпреЗрдХ рдкреНрд░рдХрд╛рд░ рдХреЗ рд▓рд┐рдП, Sqoop рдХреЗ рд▓рд┐рдП рд╕рд╣реА рд╡рд┐рдзреЗрдп рдФрд░ рд░рд┐рд╕реАрд╡рд░ рдореЗрдВ рд▓реЛрдб рдХрд░рдиреЗ рдХреА рд╡рд┐рдзрд┐ рдирд┐рд░реНрдзрд╛рд░рд┐рдд рдХреА рдЧрдИ рдереАред рдФрд░ рдЕрдВрдд рдореЗрдВ, рдЙрдиреНрд╣реЛрдВрдиреЗ рдирдИ рд╡рд╕реНрддреБрдУрдВ рдХреЗ рдбреЗрд╡рд▓рдкрд░реНрд╕ рдХреЗ рд▓рд┐рдП рдирд┐рд░реНрджреЗрд╢ рд▓рд┐рдЦреЗред
Sqoop рдПрдХ рдмрд╣реБрдд рд╣реА рдЙрдЪреНрдЪ рдЧреБрдгрд╡рддреНрддрд╛ рд╡рд╛рд▓рд╛ рдЙрдкрдХрд░рдг рд╣реИ, рд▓реЗрдХрд┐рди рд╕рднреА рдорд╛рдорд▓реЛрдВ рдФрд░ рдкреНрд░рдгрд╛рд▓рд┐рдпреЛрдВ рдХреЗ рд╕рдВрдпреЛрдЬрди рдореЗрдВ рдпрд╣ рдмрд┐рд▓реНрдХреБрд▓ рднрд░реЛрд╕реЗрдордВрдж рд░реВрдк рд╕реЗ рдХрд╛рдо рдХрд░рддрд╛ рд╣реИред рд╣рдорд╛рд░реЗ рд╕рдВрд╕реНрдХрд░рдгреЛрдВ рдкрд░, рдЯреЗрд░рд╛рдбрд╛рдЯрд╛ рдХреЗ рд▓рд┐рдП рд╕рдВрдмрдВрдзрдХ рдиреЗ рдмреЗрд╣рддрд░ рдХрд╛рдо рдирд╣реАрдВ рдХрд┐рдпрд╛ред рд╣рдордиреЗ Sqoop рдХреЗ рдУрдкрди рд╕реЛрд░реНрд╕ рдХреЛрдб рдХрд╛ рдлрд╛рдпрджрд╛ рдЙрдард╛рдпрд╛ рдФрд░ рдХрдиреЗрдХреНрдЯрд░ рд▓рд╛рдЗрдмреНрд░реЗрд░реА рдореЗрдВ рдмрджрд▓рд╛рд╡ рдХрд┐рдПред рдмрдврд╝рддреЗ рдбреЗрдЯрд╛ рдХреЗ рджреМрд░рд╛рди рдХрдиреЗрдХреНрд╢рди рдХреА рд╕реНрдерд┐рд░рддрд╛ рдмрдврд╝ рдЧрдИ рд╣реИред
рдХрд┐рд╕реА рдХрд╛рд░рдг рд╕реЗ, рдЬрдм рд╕реЛрдХреВрдк рдЯреЗрд░рд╛рдбрд╛рдЯрд╛ рдХреЛ рдмреБрд▓рд╛рддрд╛ рд╣реИ, рддреЛ рд╡рд┐рдзреЗрдпрдХреЛрдВ рдХреЛ рд╕рд╣реА рдврдВрдЧ рд╕реЗ WHERE рдХреА рд╢рд░реНрддреЛрдВ рдореЗрдВ рдирд╣реАрдВ рдмрджрд▓рд╛ рдЬрд╛рддрд╛ рд╣реИред рдЗрд╕ рд╡рдЬрд╣ рд╕реЗ, Sqoop рдХрднреА-рдХрднреА рдПрдХ рд╡рд┐рд╢рд╛рд▓ рддрд╛рд▓рд┐рдХрд╛ рдХреЛ рдмрд╛рд╣рд░ рдирд┐рдХрд╛рд▓рдиреЗ рдФрд░ рдмрд╛рдж рдореЗрдВ рдлрд╝рд┐рд▓реНрдЯрд░ рдХрд░рдиреЗ рдХреА рдХреЛрд╢рд┐рд╢ рдХрд░рддрд╛ рд╣реИред рд╣рдо рдпрд╣рд╛рдВ рдХрдиреЗрдХреНрдЯрд░ рдХреЛ рдкреИрдЪ рдХрд░рдиреЗ рдореЗрдВ рд╡рд┐рдлрд▓ рд░рд╣реЗ, рд▓реЗрдХрд┐рди рд╣рдореЗрдВ рдПрдХ рдФрд░ рддрд░реАрдХрд╛ рдорд┐рд▓рд╛: рдЬрдмрд░рди рдкреНрд░рддреНрдпреЗрдХ рдЕрдирд▓реЛрдб рдСрдмреНрдЬреЗрдХреНрдЯ рдХреЗ рд▓рд┐рдП рдПрдХ рд▓рдЧрд╛рдП рдЧрдП рд╡рд┐рдзреЗрдп рдХреЗ рд╕рд╛рде рдПрдХ рдЕрд╕реНрдерд╛рдпреА рддрд╛рд▓рд┐рдХрд╛ рдмрдирд╛рдПрдВ рдФрд░ рдЗрд╕реЗ рдУрд╡рд░рдлрд┐рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕рдХреЛрдк рд╕реЗ рдкреВрдЫреЗрдВред
рд╕рднреА MPP рдФрд░ рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ Teradata рдореЗрдВ рд╕рдорд╛рдирд╛рдВрддрд░ рдбреЗрдЯрд╛ рднрдВрдбрд╛рд░рдг рдФрд░ рдЕрдиреБрджреЗрд╢ рдирд┐рд╖реНрдкрд╛рджрди рд╕реЗ рд╕рдВрдмрдВрдзрд┐рдд рдПрдХ рд╡рд┐рд╢реЗрд╖рддрд╛ рд╣реИред рдпрджрд┐ рдЗрд╕ рд╕реБрд╡рд┐рдзрд╛ рдкрд░ рдзреНрдпрд╛рди рдирд╣реАрдВ рджрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ, рддреЛ рдпрд╣ рдкрддрд╛ рдЪрд▓ рд╕рдХрддрд╛ рд╣реИ рдХрд┐ рд╕рднреА рдХрд╛рд░реНрдп рдХреНрд▓рд╕реНрдЯрд░ рдХреЗ рдПрдХ рддрд╛рд░реНрдХрд┐рдХ рдиреЛрдб рджреНрд╡рд╛рд░рд╛ рд▓рд┐рдП рдЬрд╛рдПрдВрдЧреЗ, рдЬреЛ 100-200 рдореЗрдВ рдПрдХ рдмрд╛рд░ рдХреНрд╡реЗрд░реА рдирд┐рд╖реНрдкрд╛рджрди рдХреЛ рдмрд╣реБрдд рдзреАрдорд╛ рдХрд░ рджреЗрдЧрд╛ред рдмреЗрд╢рдХ, рд╣рдо рдЗрд╕рдХреА рдЕрдиреБрдорддрд┐ рдирд╣реАрдВ рджреЗ рд╕рдХрддреЗ рдереЗ, рдЗрд╕рд▓рд┐рдП, рд╣рдордиреЗ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдЗрдВрдЬрди рд▓рд┐рдЦрд╛ рдерд╛ рдЬреЛ рдХреНрдпреВрд╕реАрдбреА рддрд╛рд▓рд┐рдХрд╛рдУрдВ рдХреЗ рдИрдЯреАрдПрд▓ рдореЗрдЯрд╛рдбреЗрдЯрд╛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реИ рдФрд░ Sqoop рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд╕рдорд╛рдирд╛рдВрддрд░ рдбрд┐рдЧреНрд░реА рдХреЗ рдЗрд╖реНрдЯрддрдо рдбрд┐рдЧреНрд░реА рдХрд╛ рдЪрдпрди рдХрд░рддрд╛ рд╣реИред
рднрдВрдбрд╛рд░рдг рдореЗрдВ рдРрддрд┐рд╣рд╛рд╕рд┐рдХрддрд╛ рдПрдХ рдирд╛рдЬреБрдХ рдорд╛рдорд▓рд╛ рд╣реИ, рдЦрд╛рд╕рдХрд░ рдпрджрд┐ рдЖрдк
SCD2 рдХрд╛ рдЙрдкрдпреЛрдЧ
рдХрд░рддреЗ рд╣реИрдВ , рдЬрдмрдХрд┐ рдЗрдореНрдкрд╛рд▓рд╛ UPDATE рдФрд░ DELETE рдХрд╛ рд╕рдорд░реНрдерди рдирд╣реАрдВ рдХрд░рддрд╛ рд╣реИред рдмреЗрд╢рдХ, рд╣рдо рдЪрд╛рд╣рддреЗ рд╣реИрдВ рдХрд┐ рдбреЗрдЯрд╛ рд░рд┐рд╕рд░реНрдЪ рдкреНрд▓реЗрдЯрдлрд╝реЙрд░реНрдо рдореЗрдВ рдРрддрд┐рд╣рд╛рд╕рд┐рдХ рддрд╛рд▓рд┐рдХрд╛рдУрдВ рдХреЛ рдареАрдХ рд╡реИрд╕реЗ рд╣реА рджреЗрдЦрд╛ рдЬрд╛рдП рдЬреИрд╕реЗ рдХрд┐ рдЯреЗрд░рдбрд╛рдЯрд╛ рдореЗрдВ рд╣реИред рдпрд╣ Sqoop рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рд╡реЗрддрди рд╡реГрджреНрдзрд┐ рдХреЗ рд╕рдВрдпреЛрдЬрди рд╕реЗ рдкреНрд░рд╛рдкреНрдд рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рдЕрдкрдбреЗрдЯ рдХреА рдЧрдИ рд╡реНрдпрд╛рдкрд╛рд░ рдХреБрдВрдЬрд┐рдпреЛрдВ рдХреЛ рдЙрдЬрд╛рдЧрд░ рдХрд░ рд╕рдХрддрд╛ рд╣реИ рдФрд░ рдЗрдореНрдкрд╛рд▓рд╛ рдореЗрдВ рд╡рд┐рднрд╛рдЬрди рдХреЛ рд╣рдЯрд╛ рд╕рдХрддрд╛ рд╣реИред рддрд╛рдХрд┐ рдЗрд╕ рд╡рд┐рд╕реНрддреГрдд рддрд░реНрдХ рдХреЛ рдкреНрд░рддреНрдпреЗрдХ рдбреЗрд╡рд▓рдкрд░ рджреНрд╡рд╛рд░рд╛ рд▓рд┐рдЦрд╛ рдЬрд╛рдирд╛ рди рд╣реЛ, рд╣рдордиреЗ рдЗрд╕реЗ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдкреБрд╕реНрддрдХрд╛рд▓рдп (рд╣рдорд╛рд░реЗ рдИрдЯреАрдПрд▓ рд╕реНрд▓реИрдВрдЧ "рд▓реЛрдбрд░" рдкрд░) рдореЗрдВ рдкреИрдХ рдХрд┐рдпрд╛ред
рдЕрдВрдд рдореЗрдВ - рдбреЗрдЯрд╛ рдкреНрд░рдХрд╛рд░реЛрдВ рдХреЗ рд╕рд╛рде рдПрдХ рдкреНрд░рд╢реНрдиред рд░реВрдкрд╛рдВрддрд░рдг рдЯрд╛рдЗрдк рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрдореНрдкрд╛рд▓рд╛ рдХрд╛рдлреА рд╕реНрд╡рддрдВрддреНрд░ рд╣реИ, рдЗрд╕рд▓рд┐рдП рд╣рдореЗрдВ рдХреЗрд╡рд▓ TIMESTAMP рдФрд░ CHAR / VARCHAR рдХреЗ рдкреНрд░рдХрд╛рд░реЛрдВ рдореЗрдВ рдХреБрдЫ рдХрдард┐рдирд╛рдЗрдпреЛрдВ рдХрд╛ рд╕рд╛рдордирд╛ рдХрд░рдирд╛ рдкрдбрд╝рд╛ред рджрд┐рдирд╛рдВрдХ-рд╕рдордп рдХреЗ рд▓рд┐рдП, рд╣рдордиреЗ рдЗрдореНрдкрд╛рд▓рд╛ рдореЗрдВ рдбреЗрдЯрд╛ рдХреЛ рдкрд╛рда (STRING) рдкреНрд░рд╛рд░реВрдк YYYY-MM-DD HH: MM: SS рдореЗрдВ рд╕рдВрдЧреНрд░рд╣реАрдд рдХрд░рдиреЗ рдХрд╛ рдирд┐рд░реНрдгрдп рд▓рд┐рдпрд╛ред рдпрд╣ рджреГрд╖реНрдЯрд┐рдХреЛрдг, рдЬреИрд╕рд╛ рдХрд┐ рдпрд╣ рдирд┐рдХрд▓рд╛, рддрд╛рд░реАрдЦ рдФрд░ рд╕рдордп рдХреЛ рдмрджрд▓рдиреЗ рдХреЗ рдХрд╛рд░реНрдпреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╕рдВрднрд╡ рдмрдирд╛рддрд╛ рд╣реИред рджреА рдЧрдИ рд▓рдВрдмрд╛рдИ рдХреЗ рд╕реНрдЯреНрд░рд┐рдВрдЧ рдбреЗрдЯрд╛ рдХреЗ рд▓рд┐рдП, рдпрд╣ рдкрддрд╛ рдЪрд▓рд╛ рд╣реИ рдХрд┐ рдЗрдореНрдкрд╛рд▓рд╛ рдореЗрдВ STRING рдкреНрд░рд╛рд░реВрдк рдореЗрдВ рднрдВрдбрд╛рд░рдг рдЙрдирдХреЗ рд▓рд┐рдП рдЕрд╡рд░ рдирд╣реАрдВ рд╣реИ, рдЗрд╕рд▓рд┐рдП рд╣рдордиреЗ рдЗрд╕рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рд╣реИред
рдЖрдорддреМрд░ рдкрд░, рдбреЗрдЯрд╛ рд▓реЗрдХ рдХреЛ рд╡реНрдпрд╡рд╕реНрдерд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, рдЕрд░реНрдз-рд╕рдВрд░рдЪрд┐рдд рдкреНрд░рд╛рд░реВрдкреЛрдВ рдореЗрдВ рд╕реНрд░реЛрдд рдбреЗрдЯрд╛ рдХреЛ Hadoop рдореЗрдВ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдЪрд░рдг рдХреНрд╖реЗрддреНрд░ рдореЗрдВ рдХреЙрдкреА рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ, рдФрд░ рдлрд┐рд░ Hive рдпрд╛ рдЗрдореНрдкрд╛рд▓рд╛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реБрдП, рд╡реЗ SQL рдкреНрд░рд╢реНрдиреЛрдВ рдореЗрдВ рдЙрдкрдпреЛрдЧ рдХреЗ рд▓рд┐рдП рдЗрд╕ рдбреЗрдЯрд╛ рдХреЗ рд▓рд┐рдП рдПрдХ рдбреАрд░рд┐рдпрд▓рд╛рдЗрдЬрд╝реЗрд╢рди рд╕реНрдХреАрдо рд╕реНрдерд╛рдкрд┐рдд рдХрд░рддреЗ рд╣реИрдВред рд╣рдо рд╡реИрд╕реЗ рд╣реА рдЪрд▓реЗ рдЧрдПред рдпрд╣ рдзреНрдпрд╛рди рд░рдЦрдирд╛ рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИ рдХрд┐ рд╕рдм рдХреБрдЫ рдирд╣реАрдВ рд╣реИ рдФрд░ рдпрд╣ рд╣рдореЗрд╢рд╛ рдбреЗрдЯрд╛ рд╡реЗрдпрд░рд╣рд╛рдЙрд╕ рдореЗрдВ рдЦреАрдВрдЪрдиреЗ рдХреЗ рд▓рд┐рдП рд╕рдордЭ рдореЗрдВ рдирд╣реАрдВ рдЖрддрд╛ рд╣реИ, рдХреНрдпреЛрдВрдХрд┐ рдлрд╝рд╛рдЗрд▓ рдХреЙрдкреА рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдХрд╛ рд╡рд┐рдХрд╛рд╕ рдФрд░ рд╕реНрдХреАрдо рдХреА рд╕реНрдерд╛рдкрдирд╛ рдИрдЯреАрдПрд▓ рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдХреНрдпреВрд╕реАрдбреА рдореЙрдбрд▓ рдореЗрдВ рд╡реНрдпрд╛рд╡рд╕рд╛рдпрд┐рдХ рд╡рд┐рд╢реЗрд╖рддрд╛рдУрдВ рдХреЛ рд▓реЛрдб рдХрд░рдиреЗ рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдмрд╣реБрдд рд╕рд╕реНрддрд╛ рд╣реИред рдЬрдм рдпрд╣ рдЕрднреА рднреА рд╕реНрдкрд╖реНрдЯ рдирд╣реАрдВ рд╣реИ рдХрд┐ рд╕реНрд░реЛрдд рдбреЗрдЯрд╛ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рдХрдм рддрдХ рдФрд░ рдХрд┐рддрдиреА рдЖрд╡реГрддреНрддрд┐ рдХреЗ рд╕рд╛рде рд╣реИ, рддреЛ рд╡рд░реНрдгрд┐рдд рджреГрд╖реНрдЯрд┐рдХреЛрдг рдореЗрдВ рдбреЗрдЯрд╛ рдЭреАрд▓ рдПрдХ рд╕рд░рд▓ рдФрд░ рд╕рд╕реНрддрд╛ рд╕рдорд╛рдзрд╛рди рд╣реИред рдЕрдм рд╣рдо рдирд┐рдпрдорд┐рдд рд░реВрдк рд╕реЗ рдбреЗрдЯрд╛ рд▓реЗрдХ рдХреЛ рдореБрдЦреНрдп рд░реВрдк рд╕реЗ рдЙрди рд╕реНрд░реЛрддреЛрдВ рдкрд░ рдЕрдкрд▓реЛрдб рдХрд░рддреЗ рд╣реИрдВ рдЬреЛ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рдШрдЯрдирд╛рдУрдВ рдХреЛ рдЙрддреНрдкрдиреНрди рдХрд░рддреЗ рд╣реИрдВ: рдЕрд╡реЗрдпрд╛ рдСрдЯреЛ рдбрд╛рдпрд▓рд░ рдФрд░ рдЖрдВрд╕рд░рд┐рдВрдЧ рдорд╢реАрди, рдХрд╛рд░реНрдб рд▓реЗрдирджреЗрди рдХреЗ рд▓рд┐рдП рдПрдкреНрд▓рд┐рдХреЗрд╢рди рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдбреЗрдЯрд╛, рд▓реЙрдЧ рдФрд░ рд╕рдВрдХреНрд░рдордг рдкрд░рд┐рджреГрд╢реНрдпред
рд╡рд┐рд╢реНрд▓реЗрд╖рдХ рдЯреВрд▓рдХрд┐рдЯ
рд╣рдо рдкреВрд░реЗ рдкреНрд░реЛрдЬреЗрдХреНрдЯ рдХреЗ рдПрдХ рдФрд░ рд▓рдХреНрд╖реНрдп рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдирд╣реАрдВ рднреВрд▓реЗ рд╣реИрдВ - рд╡рд┐рд╢реНрд▓реЗрд╖рдХреЛрдВ рдХреЛ рдЗрд╕ рд╕рднреА рдзрди рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдореЗрдВ рд╕рдХреНрд╖рдо рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдПред рдпрд╣рд╛рдВ рдореВрд▓ рд╕рд┐рджреНрдзрд╛рдВрдд рджрд┐рдП рдЧрдП рд╣реИрдВ рдЬрд┐рдиреНрд╣реЛрдВрдиреЗ рд╣рдореЗрдВ рдпрд╣рд╛рдВ рдирд┐рд░реНрджреЗрд╢рд┐рдд рдХрд┐рдпрд╛ рд╣реИ:
- рдЙрдкрдпреЛрдЧ рдФрд░ рд╕рдорд░реНрдерди рдореЗрдВ рдЙрдкрдХрд░рдг рдХреА рд╕реБрд╡рд┐рдзрд╛
- рдбреЗрдЯрд╛ рд╕рд╛рдЗрдВрд╕ рдЯрд╛рд╕реНрдХ рдореЗрдВ рдкреНрд░рдпреЛрдЬреНрдпрддрд╛
- рдЕрдиреБрдкреНрд░рдпреЛрдЧ рд╕рд░реНрд╡рд░ рдпрд╛ рд╢реЛрдзрдХрд░реНрддрд╛ рдХреЗ рдХрдВрдкреНрдпреВрдЯрд░ рдХреЗ рдмрдЬрд╛рдп Hadoop рдХреНрд▓рд╕реНрдЯрд░ рдХреЗ рдХрдВрдкреНрдпреВрдЯрд┐рдВрдЧ рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреА рдЕрдзрд┐рдХрддрдо рд╕рдВрднрд╛рд╡рдирд╛
рдФрд░ рдпрд╣рд╛рдБ рд╣рдо рдХреНрдпрд╛ рдкрд░ рдмрдВрдж рдХрд░ рджрд┐рдпрд╛:
- рдкрд╛рдпрдерди + рдПрдирд╛рдХреЛрдВрдбрд╛ред рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╡рд╛рддрд╛рд╡рд░рдг iPython / Jupyter рд╣реИ
- рдЖрд░ + рдЪрдордХрджрд╛рд░ред рд╢реЛрдзрдХрд░реНрддрд╛ рдЖрд░ рд╕реНрдЯреВрдбрд┐рдпреЛ рдХреЗ рдбреЗрд╕реНрдХрдЯреЙрдк рдпрд╛ рд╡реЗрдм рд╕рдВрд╕реНрдХрд░рдг рдореЗрдВ рдХрд╛рдо рдХрд░рддрд╛ рд╣реИ, рд╢рд╛рдЗрдиреА рдХрд╛ рдЙрдкрдпреЛрдЧ рдЙрди рд╡реЗрдм рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХреЛ рд╡рд┐рдХрд╕рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рдЬреЛ рдЖрд░ рдореЗрдВ рд╡рд┐рдХрд╕рд┐рдд рдПрд▓реНрдЧреЛрд░рд┐рджрдо рдХреЗ рдЙрдкрдпреЛрдЧ рд╕реЗ рддреЗрдЬ рд╣реЛрддреЗ рд╣реИрдВред
- рд╕реНрдкрд╛рд░реНрдХред рдбреЗрдЯрд╛ рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, рдкрд╛рдпрдерди (pyspark) рдФрд░ R рдХреЗ рдЗрдВрдЯрд░рдлреЗрд╕ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ, рдЬреЛ рдкрд┐рдЫрд▓реЗ рдкреИрд░рд╛рдЧреНрд░рд╛рдл рдореЗрдВ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рд╡рд┐рдХрд╛рд╕ рд╡рд╛рддрд╛рд╡рд░рдг рдореЗрдВ рдХреЙрдиреНрдлрд╝рд┐рдЧрд░ рдХрд┐рдП рдЧрдП рд╣реИрдВред рджреЛрдиреЛрдВ рдЗрдВрдЯрд░рдлреЗрд╕ рдЖрдкрдХреЛ рд╕реНрдкрд╛рд░реНрдХ рдПрдордПрд▓ рд▓рд╛рдЗрдмреНрд░реЗрд░реА рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреА рдЕрдиреБрдорддрд┐ рджреЗрддреЗ рд╣реИрдВ, рдЬреЛ Hadoop / Spark рдХреНрд▓рд╕реНрдЯрд░ рдкрд░ ML рдореЙрдбрд▓ рдХреЛ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХрд░рдирд╛ рд╕рдВрднрд╡ рдмрдирд╛рддрд╛ рд╣реИред
- рдЗрдореНрдкрд╛рд▓рд╛ рдбреЗрдЯрд╛ рд╣реНрдпреВ, рд╕реНрдкрд╛рд░реНрдХ рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдФрд░ рдорд╛рдирдХ рдУрдбреАрдмреАрд╕реА рдЗрдВрдЯрд░рдлреЗрд╕ рдФрд░ рдЗрдкреНрд▓реАрдпрд░ рдЬреИрд╕реЗ рд╡рд┐рд╢реЗрд╖ рдкреБрд╕реНрддрдХрд╛рд▓рдпреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рд╡рд┐рдХрд╛рд╕ рдХреЗ рд╡рд╛рддрд╛рд╡рд░рдг рд╕реЗ рд╕реБрд▓рдн рд╣реИ
рд╡рд░реНрддрдорд╛рди рдореЗрдВ, рдбреЗрдЯрд╛ рд▓реЗрдХ рдореЗрдВ рд░рд┐рдЯреЗрд▓ рд╕реНрдЯреЛрд░реЗрдЬ рд╕реЗ рд▓рдЧрднрдЧ 100 рдЯреАрдмреА рдбреЗрдЯрд╛ рд╣реИ, рд╕рд╛рде рд╣реА рдХрдИ рдУрдПрд▓рдЯреАрдкреА рд╕реНрд░реЛрддреЛрдВ рд╕реЗ рд▓рдЧрднрдЧ 50 рдЯреАрдмреА рд╣реИред рдЭреАрд▓ рдХреЛ рджреИрдирд┐рдХ рд░реВрдк рд╕реЗ рдЕрдкрдбреЗрдЯ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рднрд╡рд┐рд╖реНрдп рдореЗрдВ, рд╣рдо рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рд╕реБрд╡рд┐рдзрд╛ рдореЗрдВ рд╡реГрджреНрдзрд┐ рдХрд░рдиреЗ рдЬрд╛ рд░рд╣реЗ рд╣реИрдВ, рдЗрдореНрдкрд╛рд▓рд╛ рдкрд░ рдПрдХ рдИрдПрд▓рдЯреА рд▓реЛрдб рд▓рд╛рдЧреВ рдХрд░рддреЗ рд╣реИрдВ, рдбреЗрдЯрд╛ рд▓реЗрдХ рдкрд░ рдЕрдкрд▓реЛрдб рдХрд┐рдП рдЧрдП рд╕реНрд░реЛрддреЛрдВ рдХреА рд╕рдВрдЦреНрдпрд╛ рдмрдврд╝рд╛рддреЗ рд╣реИрдВ, рдФрд░ рдЙрдиреНрдирдд рд╡рд┐рд╢реНрд▓реЗрд╖рд┐рдХреА рдХреЗ рдЕрд╡рд╕рд░реЛрдВ рдХрд╛ рд╡рд┐рд╕реНрддрд╛рд░ рдХрд░рддреЗ рд╣реИрдВред
рдЕрдВрдд рдореЗрдВ, рдореИрдВ рдЙрди рд╕рд╣рдпреЛрдЧрд┐рдпреЛрдВ рдХреЛ рдХреБрдЫ рд╕рд╛рдорд╛рдиреНрдп рд╕рд▓рд╛рд╣ рджреЗрдирд╛ рдЪрд╛рд╣реВрдВрдЧрд╛ рдЬреЛ рдЕрднреА рдмрдбрд╝реА рд░рд┐рдкреЙрдЬрд┐рдЯрд░реА рдмрдирд╛рдиреЗ рдореЗрдВ рдЕрдкрдиреА рдпрд╛рддреНрд░рд╛ рд╢реБрд░реВ рдХрд░ рд░рд╣реЗ рд╣реИрдВ:
- рд╕рд░реНрд╡реЛрддреНрддрдо рдкреНрд░рдерд╛рдУрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░реЗрдВред рдпрджрд┐ рд╣рдорд╛рд░реЗ рдкрд╛рд╕ рдИрдЯреАрдПрд▓ рд╕рдмрд╕рд┐рд╕реНрдЯрдо, рдореЗрдЯрд╛рдбреЗрдЯрд╛, рд╕рдВрд╕реНрдХрд░рдг рд╕рдВрдЧреНрд░рд╣рд┐рдд рдФрд░ рд╕рдордЭрдиреЗ рдпреЛрдЧреНрдп рд╡рд╛рд╕реНрддреБрдХрд▓рд╛ рдирд╣реАрдВ рд╣реИ, рддреЛ рд╣рдореЗрдВ рдЗрд╕ рдХрд╛рд░реНрдп рдореЗрдВ рдорд╣рд╛рд░рдд рд╣рд╛рд╕рд┐рд▓ рдирд╣реАрдВ рд╣реЛрдЧреАред рд╕рд░реНрд╡реЛрддреНрддрдо рдЕрднреНрдпрд╛рд╕ рд╕реНрд╡рдпрдВ рдХреЗ рд▓рд┐рдП рднреБрдЧрддрд╛рди рдХрд░рддреЗ рд╣реИрдВ, рд╣рд╛рд▓рд╛рдВрдХрд┐ рддреБрд░рдВрдд рдирд╣реАрдВред
- рдбреЗрдЯрд╛ рдХреА рдорд╛рддреНрд░рд╛ рдпрд╛рдж рд░рдЦреЗрдВред рдмрдбрд╝реЗ рдбреЗрдЯрд╛ рдмрд╣реБрдд рдЕрдкреНрд░рддреНрдпрд╛рд╢рд┐рдд рд╕реНрдерд╛рдиреЛрдВ рдореЗрдВ рддрдХрдиреАрдХреА рдХрдард┐рдирд╛рдЗрдпреЛрдВ рдХрд╛ рдирд┐рд░реНрдорд╛рдг рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред
- рдирдИ рддрдХрдиреАрдХреЛрдВ рдХреЗ рд▓рд┐рдП рдмрдиреЗ рд░рд╣реЗрдВред рдирдП рд╕рдорд╛рдзрд╛рди рдЕрдХреНрд╕рд░ рджрд┐рдЦрд╛рдИ рджреЗрддреЗ рд╣реИрдВ, рдЙрдирдореЗрдВ рд╕реЗ рд╕рднреА рдЙрдкрдпреЛрдЧреА рдирд╣реАрдВ рд╣реЛрддреЗ рд╣реИрдВ, рд▓реЗрдХрд┐рди рдХрднреА-рдХрднреА рдЕрд╕рд▓реА рд░рддреНрди рдкрд╛рдП рдЬрд╛рддреЗ рд╣реИрдВред
- рдЕрдзрд┐рдХ рдкреНрд░рдпреЛрдЧ рдХрд░реЗрдВред рдХреЗрд╡рд▓ рд╕рдорд╛рдзрд╛рдиреЛрдВ рдХреЗ рд╡рд┐рдкрдгрди рд╡рд┐рд╡рд░рдг рдкрд░ рднрд░реЛрд╕рд╛ рди рдХрд░реЗрдВ - рдЗрд╕реЗ рд╕реНрд╡рдпрдВ рдЖрдЬрд╝рдорд╛рдПрдВред
рд╡реИрд╕реЗ, рдЖрдк рдЗрд╕ рдмрд╛рд░реЗ рдореЗрдВ рдкрдврд╝ рд╕рдХрддреЗ рд╣реИрдВ рдХрд┐ рд╣рдорд╛рд░реЗ рд╡рд┐рд╢реНрд▓реЗрд╖рдХреЛрдВ рдиреЗ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдФрд░ рдмреИрдВрдХ рдбреЗрдЯрд╛ рдХрд╛ рдЙрдкрдпреЛрдЧ рдПрдХ рдЕрд▓рдЧ рдкреЛрд╕реНрдЯ рдореЗрдВ рдХреНрд░реЗрдбрд┐рдЯ рдЬреЛрдЦрд┐рдореЛрдВ рдХреЗ рд╕рд╛рде рдХреИрд╕реЗ рдХрд┐рдпрд╛ред