Telegram Group & Telegram Channel
دوره ChatGPT رو می‌خوام با کولب پیش ببرم که همه بتونن ازش استفاده کنن. اما، می‌خوام برای یک قسمت سخت‌افزار اجاره کنم که بشه برای طولانی‌مدت مدل رو آموزش داد. شایدم سایز مدل و دیتا رو افزایش بدم. از طرفی این پروسه هم آموزنده هست. گوگل کردم runpod، بعد یک نکته جالب دیدم! سایت runpod.io سخت‌افزار GPU اجاره میده ولی یه سایت دیگه هم بنام runpod.ie وجود داره که لوازم و لباس ورزشی میفروشه! 😄

از این نکته که بگذریم؛ GPU-های رده بالایی که توی runpod در دسترس هستن واقعا هیجان‌انگیزن! H200 H100 A100. هر سه اینها آپشن‌های خوبی برای آموزش مدل هستن. ولی H100 و H200 برای کار یادگیری ماشین و ترنسفورمرها بهینه شدن. عملکرد بهتری نسبت به A100 دارن. نمودار بالا سمت چپ هم عملکرد دو GPU روی GPT-3 175B پارامتری رو نشون میده. VRAM بالایی هم دارن! توی runpod هزینه اجارشون ساعتی 2 تا 3 دلار هست.
Please open Telegram to view this post
VIEW IN TELEGRAM



tg-me.com/pytorch_howsam/666
Create:
Last Update:

دوره ChatGPT رو می‌خوام با کولب پیش ببرم که همه بتونن ازش استفاده کنن. اما، می‌خوام برای یک قسمت سخت‌افزار اجاره کنم که بشه برای طولانی‌مدت مدل رو آموزش داد. شایدم سایز مدل و دیتا رو افزایش بدم. از طرفی این پروسه هم آموزنده هست. گوگل کردم runpod، بعد یک نکته جالب دیدم! سایت runpod.io سخت‌افزار GPU اجاره میده ولی یه سایت دیگه هم بنام runpod.ie وجود داره که لوازم و لباس ورزشی میفروشه! 😄

از این نکته که بگذریم؛ GPU-های رده بالایی که توی runpod در دسترس هستن واقعا هیجان‌انگیزن! H200 H100 A100. هر سه اینها آپشن‌های خوبی برای آموزش مدل هستن. ولی H100 و H200 برای کار یادگیری ماشین و ترنسفورمرها بهینه شدن. عملکرد بهتری نسبت به A100 دارن. نمودار بالا سمت چپ هم عملکرد دو GPU روی GPT-3 175B پارامتری رو نشون میده. VRAM بالایی هم دارن! توی runpod هزینه اجارشون ساعتی 2 تا 3 دلار هست.

BY PyTorch Howsam




Share with your friend now:
tg-me.com/pytorch_howsam/666

View MORE
Open in Telegram


PyTorch Howsam Telegram | DID YOU KNOW?

Date: |

Unlimited members in Telegram group now

Telegram has made it easier for its users to communicate, as it has introduced a feature that allows more than 200,000 users in a group chat. However, if the users in a group chat move past 200,000, it changes into "Broadcast Group", but the feature comes with a restriction. Groups with close to 200k members can be converted to a Broadcast Group that allows unlimited members. Only admins can post in Broadcast Groups, but everyone can read along and participate in group Voice Chats," Telegram added.

Telegram today rolling out an update which brings with it several new features.The update also adds interactive emoji. When you send one of the select animated emoji in chat, you can now tap on it to initiate a full screen animation. The update also adds interactive emoji. When you send one of the select animated emoji in chat, you can now tap on it to initiate a full screen animation. This is then visible to you or anyone else who's also present in chat at the moment. The animations are also accompanied by vibrations. This is then visible to you or anyone else who's also present in chat at the moment. The animations are also accompanied by vibrations.

PyTorch Howsam from id


Telegram PyTorch Howsam
FROM USA