Ipapaliwanag ng gabay na ito ang mga instance ng Amazon EC2 Trn1.
Ano ang Amazon EC2 Trn1 Instances?
Dahil ang mga modelo ng malalim na pag-aaral ay nagiging mas kumplikado upang gumana, ang mga negosyo ay nangangailangan ng maraming oras at gastos upang sanayin ang mga ito. Ang mga instance ng Amazon EC2 Trn1 ay layunin-built para sa mataas na pagganap, cost-effective na deep-learning na pagsasanay ng natural na pagpoproseso ng wika, pananaw, o mga modelo ng rekomendasyon. Ang user ay maaaring magsanay ng higit pa sa loob ng parehong badyet o makatipid ng hanggang 50% sa mga gastos sa pagsasanay:
Mga tampok ng EC2 Trn1 Instances
Ang mga pangunahing feature na naglalaman ng isang Trn1 instance ay binanggit sa ibaba:
- Binigyan ng AWS ang Trn1 EC2 instance na may hanggang 16 na Trainium chips para i-optimize ang performance nito.
- Ang mga trainium chip ay naglalaman ng malawak na hanay ng mga uri ng data, mga dynamic na hugis ng input, at mga custom na operator ng C++.
- Nagbibigay sila ng pinakamataas na networking bandwidth sa AWS cloud para sa multi-node distribution training.
- Bumubuo din ang AWS ng mga ultra cluster ng Trn1 sa napakalaking sukat na nagbibigay ng isa sa pinakamalaking cluster ng machine-learning sa mundo:
Mga Uri ng Trn1 Instances
Nag-aalok ang Amazon EC2 ng dalawang uri ng mga detalye ng kategoryang Trn1, tulad ng Trn1.2Xlarge at Trn1.32Xlarge, at ang mga detalye ng mga ito ay binanggit sa ibaba:
| Trn1.2xmalaki | Trn1.32xmalaki | |
| Trainium Accelerator | 1 | 16 |
| Memorya ng Accelerator | 32 | 512 |
| mga vCPU | 8 | 128 |
| Instance Memory | 32 | 512 |
| Bandwidth ng Network | Hanggang 12.5 | 800 |
| Imbakan | 474 | 7600 |
| On-Demand na Presyo/oras | 1.34 USD | 21.50 USD |
| 1 Taon na Nakareserbang Presyo/oras | 0.79 USD | 12.60 USD |
Paano Gumagana ang EC2 Trn1 Instance?
Ang user ay maaaring magsimulang magtrabaho sa Trn1 sa pamamagitan lamang ng ilang linya ng mga pagbabago sa code gamit ang mga nangungunang modelo at framework ng Machine Learning. Nagbibigay ang AWS ng mga Neuron SDK na mahusay na pinagsama-sama sa mga library ng ML tulad ng TensorFlow, PyTorch, atbp. Nagbibigay ang AWS ng maraming tool at pinamamahalaang serbisyo na gagamitin para tumulong sa pagsasanay ng mga modelo ng malalim na pag-aaral sa cloud. Kapag nasanay na ang mga modelo, maaari na lang silang i-deploy ng user sa platform ng hardware na kanilang pinili:
Iyan lang ang tungkol sa mga instance ng Amazon EC2 Trn1.
Konklusyon
Maaaring gamitin ang mga instance ng Amazon EC2 Trn1 kasama ng mga neuron SDK upang bumuo ng mga modelo ng ML na may mga library at framework. Ang mga modelo ng malalim na pag-aaral ay ginamit ng maraming kumpanya sa buong mundo para mag-embed ng artificial intelligence para ma-optimize ang kanilang mga performance sa negosyo. Maaaring gamitin ang mga tool at serbisyo ng AWS upang tumulong sa pagsasanay sa mga modelong DL na ito sa cloud. Ipinaliwanag ng gabay na ito ang mga instance ng Amazon EC2 Trn1 at ang kanilang pagtatrabaho sa mga modelo ng AI.