شرکت Etched با توسعه نخستین چیپ ASIC مخصوص معماری «ترنسفورمر» توانسته سریعترین سختافزار جهان را برای اجرای این نوع مدلها بسازد.
این چیپ که «Sohu» نام دارد، با هدف اجرای مدلهایی مثل LLaMA 70B طراحی شده و ادعا میشود که قادر است با نرخ بیش از ۵۰۰٬۰۰۰ توکن بر ثانیه عمل کند، سرعتی که به گفته آنها بسیار فراتر از توان B200 یا H100 انویدیا است! 🤯
شرکت Etched با توسعه نخستین چیپ ASIC مخصوص معماری «ترنسفورمر» توانسته سریعترین سختافزار جهان را برای اجرای این نوع مدلها بسازد.
این چیپ که «Sohu» نام دارد، با هدف اجرای مدلهایی مثل LLaMA 70B طراحی شده و ادعا میشود که قادر است با نرخ بیش از ۵۰۰٬۰۰۰ توکن بر ثانیه عمل کند، سرعتی که به گفته آنها بسیار فراتر از توان B200 یا H100 انویدیا است! 🤯
Secret Chats are one of the service’s additional security features; it allows messages to be sent with client-to-client encryption. This setup means that, unlike regular messages, these secret messages can only be accessed from the device’s that initiated and accepted the chat. Additionally, Telegram notes that secret chats leave no trace on the company’s services and offer a self-destruct timer.
Launched in 2013, Telegram allows users to broadcast messages to a following via “channels”, or create public and private groups that are simple for others to access. Users can also send and receive large data files, including text and zip files, directly via the app.The platform said it has more than 500m active users, and topped 1bn downloads in August, according to data from SensorTower.PyTorch Howsam from nl