рд╡рд┐рдВрдбреЛрдЬ 10 рдкрд░ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдиреЗ рдХрд╛ рдЕрдиреБрднрд╡

рдкреНрд░рд╕реНрддрд╛рд╡рдирд╛ : рдЕрдХрд╛рджрдорд┐рдХ рд╡рд┐рдЬреНрдЮрд╛рди (рдЪрд┐рдХрд┐рддреНрд╕рд╛) рдХреА рджреБрдирд┐рдпрд╛ рд╕реЗ рднрд╛рдЧреНрдп рдХреА рдЗрдЪреНрдЫрд╛ рд╕реЗ, рдореИрдВ рд╕реВрдЪрдирд╛ рдкреНрд░реМрджреНрдпреЛрдЧрд┐рдХреА рдХреА рджреБрдирд┐рдпрд╛ рдореЗрдВ рдкрд╣реБрдВрдЪ рдЧрдпрд╛, рдЬрд╣рд╛рдВ рдореБрдЭреЗ рдкреНрд░рдпреЛрдЧрд╛рддреНрдордХ рдбреЗрдЯрд╛ рдХреЗ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдХреЗ рд▓рд┐рдП рдПрдХ рдкреНрд░рдпреЛрдЧ рдФрд░ рдХрд╛рд░реНрдпрдиреАрддрд┐рдпреЛрдВ рдХреЗ рдирд┐рд░реНрдорд╛рдг рдХреЗ рддрд░реАрдХреЗ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЕрдкрдиреЗ рдЬреНрдЮрд╛рди рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╣реИ, рд╣рд╛рд▓рд╛рдВрдХрд┐, рдореЗрд░реЗ рд▓рд┐рдП рдПрдХ рдирдИ рддрдХрдиреАрдХ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░реЗрдВред рдЗрди рддрдХрдиреАрдХреЛрдВ рдореЗрдВ рдорд╣рд╛рд░рдд рд╣рд╛рд╕рд┐рд▓ рдХрд░рдиреЗ рдХреА рдкреНрд░рдХреНрд░рд┐рдпрд╛ рдореЗрдВ, рдореИрдВ рдХрдИ рдХрдард┐рдирд╛рдЗрдпреЛрдВ рдХрд╛ рд╕рд╛рдордирд╛ рдХрд░рддрд╛ рд╣реВрдВ, рдЬреЛ рдЕрдм рддрдХ, рд╕реМрднрд╛рдЧреНрдп рд╕реЗ, рджреВрд░ рд╣реЛ рдЧрдП рд╣реИрдВред рд╢рд╛рдпрдж рдпрд╣ рдкреЛрд╕реНрдЯ рдЙрди рд▓реЛрдЧреЛрдВ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреЛрдЧреА рд╣реЛрдЧреА рдЬреЛ рдЕрдкрд╛рдЪреЗ рдкрд░рд┐рдпреЛрдЬрдирд╛рдУрдВ рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рдирд╛ рд╢реБрд░реВ рдХрд░ рд░рд╣реЗ рд╣реИрдВред

рддреЛ рдмрд╛рдд рд╣реИ ред рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдкреНрд░рдХреНрд░рд┐рдпрд╛рдУрдВ рдХреЗ рд╕реНрд╡рдЪрд╛рд▓рди рдХреЗ рдХреНрд╖реЗрддреНрд░ рдореЗрдВ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рдХреА рдХреНрд╖рдорддрд╛рдУрдВ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдпреВрд░реА рдПрд▓реЗрдорд╛рдиреЛрд╡ рдХреЗ рдПрдХ рд▓реЗрдЦ рд╕реЗ рдкреНрд░реЗрд░рд┐рдд рд╣реЛрдХрд░, рдореИрдВ рдЕрдкрдиреЗ рдХрд╛рдо рдореЗрдВ рдкреБрд╕реНрддрдХрд╛рд▓рдпреЛрдВ рдХреЗ рдкреНрд░рд╕реНрддрд╛рд╡рд┐рдд рд╕реЗрдЯ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рд╢реБрд░реВ рдХрд░рдирд╛ рдЪрд╛рд╣рддрд╛ рдерд╛ред рдЬреЛ рд▓реЛрдЧ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рд╕реЗ рдкрд░рд┐рдЪрд┐рдд рдирд╣реАрдВ рд╣реИрдВ рд╡реЗ рд░рд╛рд╖реНрдЯреНрд░реАрдп рдкреБрд╕реНрддрдХрд╛рд▓рдп рдХреА рд╡реЗрдмрд╕рд╛рдЗрдЯ рдкрд░ рдПрдХ рдЫреЛрдЯреА рд╕рдореАрдХреНрд╖рд╛ рд▓реЗрдЦ рдореЗрдВ рд░реБрдЪрд┐ рд▓реЗ рд╕рдХрддреЗ рд╣реИрдВ рдПрди.рдИ.рдмреМрдордиред

рдЪреВрдВрдХрд┐ рдПрдпрд░рдлреНрд▓реЛ рд╢реБрд░реВ рдХрд░рдиреЗ рдХреЗ рд╕рд╛рдорд╛рдиреНрдп рдирд┐рд░реНрджреЗрд╢, рдЬрд╛рд╣рд┐рд░рд╛ рддреМрд░ рдкрд░, рд╡рд┐рдВрдбреЛрдЬ рд╡рд╛рддрд╛рд╡рд░рдг рдореЗрдВ рд▓рд╛рдЧреВ рдирд╣реАрдВ рд╣реЛрддреЗ рд╣реИрдВ, рдФрд░ рдореЗрд░реЗ рдорд╛рдорд▓реЗ рдореЗрдВ рдЗрд╕ рд╕рдорд╕реНрдпрд╛ рдХреЛ рд╣рд▓ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдбреЙрдХрдбрд░ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ рдЕрдирд╛рд╡рд╢реНрдпрдХ рд╣реЛрдЧрд╛, рдореИрдВрдиреЗ рдЕрдиреНрдп рд╕рдорд╛рдзрд╛рдиреЛрдВ рдХреА рддрд▓рд╛рд╢ рд╢реБрд░реВ рдХрд░ рджреАред рдореЗрд░реЗ рд▓рд┐рдП рд╕реМрднрд╛рдЧреНрдп рд╕реЗ, рдореИрдВ рдЗрд╕ рд░рд╛рд╕реНрддреЗ рдкрд░ рдкрд╣рд▓реЗ рдирд╣реАрдВ рдерд╛, рдЗрд╕рд▓рд┐рдП рдореИрдВрдиреЗ рд╡рд┐рдВрдбреЛрдЬ 10 рдореЗрдВ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рдХреЛ рдбреЙрдХрдЯрд░ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд┐рдП рдмрд┐рдирд╛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдиреЗ рдкрд░ рдПрдХ рдЕрджреНрднреБрдд рд╡реАрдбрд┐рдпреЛ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рдЦреЛрдЬрдиреЗ рдореЗрдВ рдХрд╛рдордпрд╛рдм рд░рд╣рд╛ред рд▓реЗрдХрд┐рди, рдЬреИрд╕рд╛ рдХрд┐ рдЕрдХреНрд╕рд░ рд╣реЛрддрд╛ рд╣реИ, рдЕрдиреБрд╢рдВрд╕рд┐рдд рдЪрд░рдгреЛрдВ рдХрд╛ рдкреНрд░рджрд░реНрд╢рди рдХрд░рддреЗ рд╕рдордп, рдХрдард┐рдирд╛рдЗрдпрд╛рдВ рдкреИрджрд╛ рд╣реЛрддреА рд╣реИрдВ, рдФрд░, рдореБрдЭреЗ рд╡рд┐рд╢реНрд╡рд╛рд╕ рд╣реИ, рди рдХреЗрд╡рд▓ рдореЗрд░реЗ рд▓рд┐рдПред рдЗрд╕рд▓рд┐рдП, рдореИрдВ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдиреЗ рдХреЗ рдЕрдкрдиреЗ рдЕрдиреБрднрд╡ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдмрд╛рдд рдХрд░рдирд╛ рдЪрд╛рд╣реВрдВрдЧрд╛, рд╢рд╛рдпрдж рдпрд╣ рдХрд┐рд╕реА рдХреЗ рд▓рд┐рдП рдХреБрдЫ рд╕рдордп рдмрдЪрд╛рдПрдЧрд╛ред

рдЖрдЗрдП рдирд┐рд░реНрджреЗрд╢реЛрдВ рдХреЗ рдЪрд░рдгреЛрдВ рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдЬрд╛рдПрдВ (рд╕реНрдкреЙрдЗрд▓рд░ - 5 рд╡реЗрдВ рдЪрд░рдг, рд╕рдм рдХреБрдЫ рдареАрдХ рд╣реЛ рдЧрдпрд╛):

1. рд▓рд┐рдирдХреНрд╕ рд╡рд┐рддрд░рдг рдХреЗ рдмрд╛рдж рдХреА рд╕реНрдерд╛рдкрдирд╛ рдХреЗ рд▓рд┐рдП рд▓рд┐рдирдХреНрд╕ рдХреЗ рд▓рд┐рдП рд╡рд┐рдВрдбреЛрдЬ рд╕рдмрд╕рд┐рд╕реНрдЯрдо рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛

рдпрд╣ рд╕рдорд╕реНрдпрд╛рдУрдВ рдХрд╛ рдХрдо рд╣реИ, рдЬреИрд╕рд╛ рдХрд┐ рд╡реЗ рдХрд╣рддреЗ рд╣реИрдВ:

рдХрдВрдЯреНрд░реЛрд▓ рдкреИрдирд▓ тЖТ рдкреНрд░реЛрдЧреНрд░рд╛рдо тЖТ рдкреНрд░реЛрдЧреНрд░рд╛рдо рдПрдВрдб рдХрдВрдкреЛрдиреЗрдВрдЯреНрд╕ тЖТ рд▓рд┐рдирдХреНрд╕ рдХреЗ рд▓рд┐рдП рд╡рд┐рдВрдбреЛрдЬ рдХрдВрдкреЛрдиреЗрдВрдЯреНрд╕ тЖТ рд╡рд┐рдВрдбреЛрдЬ рд╕рдмрд╕рд┐рд╕реНрдЯрдо рдХреЛ рдПрдиреЗрдмрд▓ рдФрд░ рдбрд┐рд╕реЗрдмрд▓ рдХрд░рдирд╛

2. рдЕрдкрдиреА рдкрд╕рдВрдж рдХрд╛ рд▓рд┐рдирдХреНрд╕ рд╡рд┐рддрд░рдг рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдирд╛

рдореИрдВрдиреЗ рдЙрдмрдВрдЯреВ рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ред

3. рд╕реНрдерд╛рдкрдирд╛ рдФрд░ рдЕрджреНрдпрддрди рдкрд╛рдЗрдк

sudo apt-get install software-properties-common sudo apt-add-repository universe sudo apt-get update sudo apt-get install python-pip 

4. рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ

 export SLUGIFY_USES_TEXT_UNIDECODE=yes pip install apache-airflow 

5. рдбреЗрдЯрд╛рдмреЗрд╕ рдЗрдирд┐рд╢рд┐рдпрд▓рд╛рдЗрдЬрд╝реЗрд╢рди

рдФрд░ рдпрд╣реАрдВ рд╕реЗ рдореЗрд░реА рдереЛрдбрд╝реА рдореБрд╢реНрдХрд┐рд▓реЗрдВ рд╢реБрд░реВ рд╣реБрдИрдВред рдирд┐рд░реНрджреЗрд╢ рдЖрдкрдХреЛ airflow initdb рдХрдорд╛рдВрдб рджрд░реНрдЬ рдХрд░рдиреЗ рдФрд░ рдЕрдЧрд▓реЗ рдЪрд░рдг рдкрд░ рдЬрд╛рдиреЗ рдХрд╛ рдирд┐рд░реНрджреЗрд╢ рджреЗрддрд╛ рд╣реИред рд╣рд╛рд▓рд╛рдБрдХрд┐, рдореБрдЭреЗ рд╣рдореЗрд╢рд╛ airflow: command not found рдорд┐рд▓рд╛ airflow: command not found рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛ airflow: command not found ред рдпрд╣ рдорд╛рдирдирд╛ тАЛтАЛрддрд░реНрдХрд╕рдВрдЧрдд рд╣реИ рдХрд┐ Apache Airflow рдХреЗ рд╕реНрдерд╛рдкрдирд╛ рдЪрд░рдг рдХреЗ рджреМрд░рд╛рди рдХрдард┐рдирд╛рдЗрдпрд╛рдБ рдереАрдВ рдФрд░ рдмрд╕ рдХреЛрдИ рдЖрд╡рд╢реНрдпрдХ рдлрд╛рдЗрд▓ рдирд╣реАрдВ рд╣реИред рдпрд╣ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рдиреЗ рдХреЗ рдмрд╛рдж рдХрд┐ рд╕рдм рдХреБрдЫ рдХрд╣рд╛рдБ рд╣реИ, рдпрд╣ рд╣реЛрдирд╛ рдЪрд╛рд╣рд┐рдП, рдореИрдВрдиреЗ ////airflow initdb рдХреЛ рдкреВрд░реНрдг рдкрде рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдХрд░рдиреЗ рдХрд╛ рдкреНрд░рдпрд╛рд╕ рдХрд░рдиреЗ рдХрд╛ рдирд┐рд░реНрдгрдп рд▓рд┐рдпрд╛ (рдпрд╣ рдЗрд╕ рддрд░рд╣ рджрд┐рдЦрдирд╛ рдЪрд╛рд╣рд┐рдП: ////airflow initdb )ред рд▓реЗрдХрд┐рди рдЪрдорддреНрдХрд╛рд░ рдирд╣реАрдВ рд╣реБрдЖ рдФрд░ рдЬрд╡рд╛рдм рдПрдХ рд╣реА airflow: command not found ред рдореИрдВрдиреЗ рдлрд╝рд╛рдЗрд▓ рдХреЗ рд╕рд╛рдкреЗрдХреНрд╖ рдкрде рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХрд╛ рдкреНрд░рдпрд╛рд╕ рдХрд┐рдпрд╛ (( ./.local/bin/airflow initdb ), рдЬрд┐рд╕рдХреЗ рдХрд╛рд░рдг рдПрдХ рдирдИ рддреНрд░реБрдЯрд┐ рдХрд╛ рдкрддрд╛ ModuleNotFoundError: No module named json' , рдЬрд┐рд╕реЗ рд╡рд░реНрдХрд░реНрдЬ рд▓рд╛рдЗрдмреНрд░реЗрд░реА (рдореЗрд░реЗ рдорд╛рдорд▓реЗ рдореЗрдВ, 0.15.4 рд╕рдВрд╕реНрдХрд░рдг рдореЗрдВ) рдЕрджреНрдпрддрди рдХрд░рдиреЗ рд╕реЗ рджреВрд░ рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИред :

 pip install werkzeug==0.15.4 

рдпрд╣рд╛рдБ werkzeug рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдФрд░ рдкрдврд╝реЗрдВред

рдЗрд╕ рд╕рд░рд▓ рд╣реЗрд░рдлреЗрд░ рдХреЗ рдмрд╛рдж , ./.local/bin/airflow initdb . ./.local/bin/airflow initdb рдХрдорд╛рдВрдб рдХреЛ рд╕рдлрд▓рддрд╛рдкреВрд░реНрд╡рдХ рдкреВрд░рд╛ рдХрд┐рдпрд╛ рдЧрдпрд╛ред

6. рдПрдпрд░рдлреНрд▓реЛ рд╕рд░реНрд╡рд░ рд╢реБрд░реВ рдХрд░рдирд╛

рдПрдпрд░рдлреНрд▓реЛ рдПрдХреНрд╕реЗрд╕ рдХрд░рдиреЗ рдХреА рдХрдард┐рдирд╛рдЗрдпрд╛рдВ рдЕрднреА рдЦрддреНрдо рдирд╣реАрдВ рд╣реБрдИ рд╣реИрдВред ./.local/bin/airflow webserver -p 8080 рдХрдорд╛рдВрдб рдЪрд▓рд╛рдиреЗ рдХреЗ рдкрд░рд┐рдгрд╛рдорд╕реНрд╡рд░реВрдк No such file or directory рддреНрд░реБрдЯрд┐ рдирд╣реАрдВ рд╣реБрдИред рд╕рдВрднрд╡рддрдГ, рдПрдХ рдЕрдиреБрднрд╡реА рдЙрдмрдВрдЯреВ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рддреБрд░рдВрдд export PATH=$PATH:~/.local/bin/ рдХрдорд╛рдВрдб (рдпрд╛рдиреА, PATH рд╡реИрд░рд┐рдПрдмрд▓ рджреНрд╡рд╛рд░рд╛ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдирд┐рд╖реНрдкрд╛рджрди рдпреЛрдЧреНрдп рдлрд╝рд╛рдЗрд▓реЛрдВ рдХреЗ рд▓рд┐рдП рдореМрдЬреВрджрд╛ рдЦреЛрдЬ рдкрде рдореЗрдВ рдЬреЛрдбрд╝рдХрд░) рдлрд╝рд╛рдЗрд▓ рдХреЛ рдПрдХреНрд╕реЗрд╕ рдХрд░рдХреЗ рдРрд╕реА рдХрдард┐рдирд╛рдЗрдпреЛрдВ рдХреЛ рджреВрд░ рдХрд░рдиреЗ рдХрд╛ рдкреНрд░рдпрд╛рд╕ рдХрд░реЗрдЧрд╛ред / рдмрд┐рди /), рд▓реЗрдХрд┐рди рдпрд╣ рдкреЛрд╕реНрдЯ рдЙрди рд▓реЛрдЧреЛрдВ рдХреЗ рд▓рд┐рдП рд╣реИ рдЬреЛ рдореБрдЦреНрдп рд░реВрдк рд╕реЗ рд╡рд┐рдВрдбреЛрдЬ рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рддреЗ рд╣реИрдВ рдФрд░ рдЗрд╕ рд╕рдорд╛рдзрд╛рди рдХреЛ рд╕реНрдкрд╖реНрдЯ рдирд╣реАрдВ рдкрд╛рддреЗ рд╣реИрдВред

рдКрдкрд░ рд╡рд░реНрдгрд┐рдд рд╣реЗрд░рдлреЗрд░ рдХреЗ рдмрд╛рдж, ./.local/bin/airflow webserver -p 8080 рдХрдорд╛рдВрдб рдХреЛ рд╕рдлрд▓рддрд╛рдкреВрд░реНрд╡рдХ рдирд┐рд╖реНрдкрд╛рджрд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рдерд╛ред

7. URL: рд▓реЛрдХрд▓рд╣реЛрд╕реНрдЯ : 8080 /

рдпрджрд┐ рдкрд┐рдЫрд▓реЗ рдЪрд░рдгреЛрдВ рдореЗрдВ рд╕рдм рдХреБрдЫ рдареАрдХ рд╣реЛ рдЧрдпрд╛ рд╣реИ, рддреЛ рдЖрдк рд╡рд┐рд╢реНрд▓реЗрд╖рдгрд╛рддреНрдордХ рдЪреЛрдЯрд┐рдпреЛрдВ рдХреЛ рдЬреАрддрдиреЗ рдХреЗ рд▓рд┐рдП рддреИрдпрд╛рд░ рд╣реИрдВред

рдореБрдЭреЗ рдЙрдореНрдореАрдж рд╣реИ рдХрд┐ рдКрдкрд░ рд╡рд░реНрдгрд┐рдд рд╡рд┐рдВрдбреЛрдЬ 10 рдкрд░ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рд╕реНрдерд╛рдкрд┐рдд рдХрд░рдиреЗ рдХрд╛ рдЕрдиреБрднрд╡ рд╢реБрд░реБрдЖрддреА рд▓реЛрдЧреЛрдВ рдХреЗ рд▓рд┐рдП рдЙрдкрдпреЛрдЧреА рд╣реЛрдЧрд╛ рдФрд░ рдЖрдзреБрдирд┐рдХ рдПрдирд╛рд▓рд┐рдЯрд┐рдХреНрд╕ рдЯреВрд▓ рдХреЗ рдмреНрд░рд╣реНрдорд╛рдВрдб рдореЗрдВ рдЙрдирдХреЗ рдкреНрд░рд╡реЗрд╢ рдХреЛ рдЧрддрд┐ рджреЗрдЧрд╛ред

рдЕрдЧрд▓реА рдмрд╛рд░ рдореИрдВ рд╡рд┐рд╖рдп рдХреЛ рдЬрд╛рд░реА рд░рдЦрдирд╛ рдЪрд╛рд╣реВрдВрдЧрд╛ рдФрд░ рдореЛрдмрд╛рдЗрд▓ рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдХреЗ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛рдУрдВ рдХреЗ рд╡реНрдпрд╡рд╣рд╛рд░ рдХрд╛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдХрд░рдиреЗ рдХреЗ рдХреНрд╖реЗрддреНрд░ рдореЗрдВ рдЕрдкрд╛рдЪреЗ рдПрдпрд░рдлреНрд▓реЛ рдХреЗ рдЙрдкрдпреЛрдЧ рдХреЗ рдЕрдиреБрднрд╡ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдмрд╛рдд рдХрд░реВрдВрдЧрд╛ред

Source: https://habr.com/ru/post/hi462161/


All Articles